Das Potenzial von KI besteht darin, mehr als nur einen weiteren technischen Fortschritt zu sein; sie birgt Risiken, die wir nicht ignorieren können.

#VitalikButerin , der Mitbegründer von Ethereum, hat eine eindringliche Warnung vor #Artificial_Intelligence (KI) ausgesprochen.

Er setzt #AI nicht in eine Reihe mit den üblichen technischen Fortschritten wie Smartphones oder sozialen Medien. Stattdessen ordnet #Buterin KI in eine eigene Kategorie ein, da sie das Potenzial hat, die Gesellschaft zu revolutionieren (ähnlich wie es der Buchdruck oder das Rad taten).

Die Wendung? KI könnte uns alle überlisten und möglicherweise zur dominierenden Kraft auf der Erde werden. Das ist ein Sprung in unbekanntes Terrain.

Die Bedrohung durch superintelligente KI

Buterins Bedenken gehen über die typischen Ängste der Technikbranche hinaus. Er warnt davor, dass eine superintelligente KI Menschen als Bedrohung wahrnehmen könnte, was zu katastrophalen Folgen führen könnte.

Und das ist kein Thema der fernen Zukunft – die KI entwickelt sich rasant weiter. Obwohl wir diese superintelligenten Wesen im Idealfall als unsere Verbündeten haben möchten, ist es eine Herausforderung, sie so zu programmieren, dass sie sicher mit Menschen koexistieren können. Das mag nach Science-Fiction klingen, aber in Technikkreisen wird dieses Thema ernst genommen. Rob Bensinger von MIRI veranschaulicht die unterschiedlichen Meinungen zur Bedrohungslage durch KI.

Eine bemerkenswerte Enthüllung: Eine Umfrage unter Experten für maschinelles Lernen aus dem Jahr 2022 ergab, dass die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit führt, bei 5–10 % liegt.

Auch wenn diese Bedenken spekulativ klingen, bestehen sie schon seit über einem Jahrzehnt und verdienen Aufmerksamkeit.

Mit KI in die Zukunft

Buterin lädt uns auch dazu ein, darüber nachzudenken, wie das Leben in einer von KI beherrschten Welt aussehen würde. Er bezieht sich dabei auf Iain Banks' Culture-Reihe, in der Menschen mit mächtigen KIs koexistieren.

Diese imaginäre Zukunft bietet ein langes Leben, Gesundheit und Unterhaltung, aber möglicherweise zu einem Preis: Der Mensch hat möglicherweise keine Kontrolle mehr.

Dies wirft eine entscheidende Frage zu unserem zukünftigen Zusammenleben mit der KI auf: Werden wir Partner oder bloß Passagiere in einer von maschineller Intelligenz gesteuerten Welt sein?