William Saunders, ein ehemaliger Mitarbeiter von OpenAI und Mitglied des „Superalignment-Teams“ des Unternehmens, gab kürzlich bekannt, dass er das Unternehmen verlassen habe, weil er das Gefühl hatte, es befinde sich auf Kollisionskurs mit einer Tragödie, ähnlich wie die unglückselige R.M.S. Titanic im Jahr 1912.

Wie Business Insider entdeckte, gab Saunders seinen Kommentar während einer Folge des Podcasts des Technologiejournalisten Alex Kantrowitz ab.

Saunders erzählte Kantrowitz, dass er sich während seiner drei Jahre bei OpenAI manchmal gefragt habe, ob sich das Unternehmen auf einem Weg befinde, der „eher dem Apollo-Programm oder eher der Titanic“ ähnele.

Seine Begründung scheint zu sein, dass das Apollo-Weltraumprogramm dank vorsichtiger wissenschaftlicher Anstrengungen trotz seiner Rückschläge ein Erfolg war, während die Titanic trotz ihrer Erfolge ein Misserfolg war.

Laut Saunders:

„Es wurde viel Arbeit investiert, um das Schiff sicher zu machen und wasserdichte Abteilungen zu bauen, sodass man sagen konnte, es sei unsinkbar. Gleichzeitig gab es jedoch nicht genug Rettungsboote für alle.“

OpenAI als Titanic

Laut Saunders hat die Produktentwicklung im Unternehmen generell einen höheren Stellenwert als die Umsetzung angemessener Sicherheitsvorkehrungen.

Er zeichnet das Bild eines Büros, in dem Mitarbeiter, die Sicherheitsbedenken äußern, bestraft werden und die Führung auf den Profit ausgerichtet ist.

„Mit der Zeit“, so Saunders, „hatte man wirklich das Gefühl, dass die Entscheidungen der Unternehmensleitung eher mit denen der White Star Line beim Bau der Titanic übereinstimmten.“

Der Eisberg

Saunders ist nicht der erste, der mit der Art und Weise, wie OpenAI angeblich Geschäfte macht, nicht einverstanden ist. Elon Musk, einer der Mitbegründer des Unternehmens, hat es kürzlich verklagt, weil es angeblich zu weit von seiner ursprünglichen Mission abgewichen sei. Und das, obwohl Musk seit Jahren nicht mehr an OpenAI beteiligt ist und derzeit seinen eigenen direkten Konkurrenten, xAI, betreibt. Die Klage wurde später zurückgezogen.

Das konkurrierende KI-Unternehmen Anthropic wurde 2021 von ehemaligen Mitarbeitern und Mitbegründern von OpenAI gegründet, weil man befürchtete, dass OpenAI nicht genug auf Vertrauen und Sicherheit lege.

Auf der anderen Seite schrieb Ilya Sutskever, ein weiterer inzwischen entfremdeter Mitbegründer und ehemaliger Chefwissenschaftler, der das Unternehmen im Mai 2024 verließ, um sein eigenes Unternehmen zu gründen, damals, er sei „zuversichtlich“, dass das OpenAI-Team seine Ziele sicher erreichen könne.

Angesichts der vielen Mitarbeiter, die das Schiff verlassen, und mindestens einem, der den Vergleich mit der Titanic anstellt, stellt sich die Frage: Wer oder was ist der Eisberg?

Wenn die Passagiere in der Analogie wir sind – die gesamte Menschheit –, dann stellt der Eisberg die existenzielle Bedrohung dar, die ChatGPT und ähnliche Systeme für eine unvorbereitete Gesellschaft darstellen. Wenn die KI intelligenter und leistungsfähiger wird als wir und wir nicht genügend „Rettungsboote“ haben, um alle vor ihrem Gefahrenpotenzial zu schützen, könnten wir auf eine Tragödie zusteuern.

Wenn es sich bei den Passagieren aber um Anteilseigner und Aktionäre handelt, die darauf warten, dass OpenAI eine KI entwickelt, die so intelligent ist wie der Mensch, und das nie passiert, dann stellt der Eisberg möglicherweise das Platzen der Blase der generativen KI dar.

Verwandte Themen: Big Tech steht vor einer finanziellen Abrechnung, wenn es nicht bald zu einer KI auf menschlichem Niveau kommt