William Saunders, ehemaliges Mitglied des „Superalignment-Teams“ von OpenAI, gab seine Gründe für seinen Austritt aus der Organisation bekannt und zog dabei eine bemerkenswerte Analogie zum Untergang der R.M.S. Titanic. Saunders, der drei Jahre bei OpenAI verbrachte, äußerte seine Sorgen in einer Folge des Podcasts des Technologiejournalisten Alex Kantrowitz und betonte seine Überzeugung, dass OpenAI auf eine Katastrophe zusteuern könnte, die der traurigen Reise der Titanic im Jahr 1912 ähnelt.
Saunders sagte, seine Arbeit bei OpenAI habe ihn oft fragen lassen, ob die Entwicklung des Unternehmens mit dem tragischen Untergang der Titanic oder dem Erfolg des Apollo-Weltraumprogramms vergleichbar sei. Während die Titanic leider aufgrund unzureichender Rettungsboote und anderer vernachlässigter Sicherheitsbedenken unterging, war das Apollo-Programm trotz seiner Schwierigkeiten dank sorgfältiger wissenschaftlicher Bemühungen schließlich erfolgreich.
OpenAI ist die Titanic der KI
„Es wurde viel Arbeit investiert, um das Schiff sicher zu machen und wasserdichte Abteile zu bauen, sodass man sagen konnte, es sei unsinkbar. Gleichzeitig gab es aber nicht genug Rettungsboote für alle“, bemerkte Saunders und zog damit eine direkte Analogie zu OpenAIs Aktivitäten. Er kritisierte die Unternehmensphilosophie, die seiner Meinung nach der Produktentwicklung Vorrang vor wesentlichen Sicherheitsvorkehrungen einräumte.
Saunders beschrieb ein Umfeld bei OpenAI, in dem Mitarbeiter, die Sicherheitsbedenken äußerten, an den Rand gedrängt wurden und die Führung mehr auf Profit als auf die Umsetzung notwendiger Sicherheitsmaßnahmen fokussiert schien. „Mit der Zeit“, sagte er, „hatte man wirklich das Gefühl, dass die Entscheidungen der Führung eher mit dem Bau der Titanic durch die White Star Line übereinstimmten.“
Elon Musks Kritik an OpenAI
Dies ist nicht das erste Mal, dass OpenAI mit internem Widerstand konfrontiert ist. Elon Musk, einer der Mitbegründer von OpenAI, hat kürzlich eine Klage gegen das Unternehmen eingereicht und sie wieder zurückgezogen. Er behauptet, es sei von seiner ursprünglichen Mission abgewichen. Obwohl Musk seit Jahren nicht mehr an OpenAI beteiligt ist und jetzt ein konkurrierendes KI-Unternehmen, xAI, leitet, spiegeln seine Bedenken die Ansichten von Saunders wider.
Ähnlich verhält es sich mit dem konkurrierenden KI-Unternehmen Anthropic, das 2021 von ehemaligen OpenAI-Mitarbeitern gegründet wurde, die mit OpenAIs Fokus auf Vertrauen und Sicherheit unzufrieden waren. Ilya Sutskever, ein weiterer entfremdeter Mitbegründer und ehemaliger Chefwissenschaftler, verließ OpenAI im Mai 2024, um sein eigenes Unternehmen zu gründen, und äußerte seine Zuversicht, dass OpenAI seine Ziele sicher erreichen würde.
Eisberg
Angesichts mehrerer prominenter Abgänge und Kritikern, die den Weg von OpenAI mit dem der Titanic vergleichen, bleibt die drängende Frage: Wer oder was ist der Eisberg?
Wenn wir die Passagiere in der Titanic-Analogie als die gesamte Menschheit betrachten, könnte der Eisberg die existenziellen Risiken darstellen, die fortschrittliche KI-Systeme wie ChatGPT für eine unvorbereitete Gesellschaft darstellen. Das Potenzial einer KI, die menschliche Intelligenz ohne angemessene Schutzmaßnahmen zu übertreffen, könnte katastrophale Folgen haben, ähnlich wie der Mangel an Rettungsbooten auf der Titanic.
Der Beitrag „Ehemaliger OpenAI-Mitarbeiter bezeichnet das Unternehmen als ‚Titanic der KI‘“ erschien zuerst in den neuesten Nachrichten und Erkenntnissen zu Blockchain, Kryptowährung und Investitionen.