Der Ethereum-Mitbegründer Vitalik Butertin hat seine Meinung zu „superintelligenter“ künstlicher Intelligenz (KI) geteilt und sie als „riskant“ bezeichnet. Als Reaktion auf die laufenden Führungswechsel bei OpenAI.

Am 19. Mai berichtete Cointelegraph, dass der frühere Leiter der Ausrichtung von OpenAI, Jan Leike, zurückgetreten sei, nachdem er erklärt hatte, er habe mit dem Management hinsichtlich der Kernprioritäten des Unternehmens einen „Bruchpunkt“ erreicht.

Leike behauptete, dass bei OpenAI „Sicherheitskultur und -prozesse hinter glänzenden Produkten zurückgeblieben seien“, wobei viele auf Entwicklungen im Bereich der künstlichen allgemeinen Intelligenz (AGI) verwiesen.

Man geht davon aus, dass AGI eine Form der künstlichen Intelligenz sein wird, die den menschlichen kognitiven Fähigkeiten ebenbürtig oder diese sogar übertrifft. Dieser Gedanke bereitet Branchenexperten bereits Sorgen, denn sie meinen, die Welt sei nicht ausreichend gerüstet, um mit derartigen superintelligenten KI-Systemen umzugehen.

Diese Meinung scheint mit Buterins Ansichten übereinzustimmen. In einem Beitrag auf X teilte er seine aktuellen Gedanken zu diesem Thema mit und betonte, dass wir nicht überstürzt handeln oder diejenigen zurückdrängen sollten, die es versuchen.

Quelle: Vitalik Buterin 

Buterin betonte, dass offene Modelle, die auf Verbraucherhardware laufen, als „Absicherung“ gegen eine Zukunft dienen, in der ein kleiner Konzern von Unternehmen die meisten menschlichen Gedanken lesen und vermitteln könnte.

„Bei solchen Modellen ist das Untergangsrisiko zudem deutlich geringer als beim Größenwahn der Konzerne oder beim Militär.“

Dies ist sein zweiter Kommentar zur KI und ihren zunehmenden Möglichkeiten in der letzten Woche.

Am 16. Mai argumentierte er, dass das GPT-4-Modell von OpenAI den Turing-Test, der die „Menschlichkeit“ eines KI-Modells bestimmt, bereits übertroffen habe. Er zitierte neue Forschungsergebnisse, denen zufolge die meisten Menschen nicht verstehen können, wenn sie mit einer Maschine sprechen.

Verwandt: Microsofts neue „Black Mirror“-Rückruffunktion zeichnet alles auf, was Sie tun

Buterin ist jedoch nicht der Erste, der diese Besorgnis zum Ausdruck bringt. Auch die britische Regierung hat kürzlich das zunehmende Engagement der Big Tech-Unternehmen im KI-Sektor unter die Lupe genommen und dabei Fragen im Zusammenhang mit Wettbewerb und Marktdominanz aufgeworfen.

Im gesamten Internet entstehen bereits Gruppen wie 6079 AI, die sich für eine dezentralisierte KI einsetzen, um sicherzustellen, dass sie demokratischer bleibt und nicht von den großen Technologieunternehmen dominiert wird.

Quelle: 6079.ai 

Dies folgt auf den Weggang eines weiteren hochrangigen Mitglieds des Führungsteams von OpenAI am 14. Mai, als Ilya Sutskever, Mitbegründer und Chefwissenschaftler, seinen Rücktritt bekannt gab.

Sutskever äußerte keine Bedenken hinsichtlich AGI. In seinem Beitrag auf X drückte er jedoch sein Vertrauen aus, dass OpenAI eine AGI entwickeln wird, die „sicher und nützlich“ ist.

Magazin: „Hetzt KIs aufeinander“, um eine KI-Apokalypse zu verhindern: David Brin, Science-Fiction-Autor