Były członek zespołu OpenAI „superalignment”, William Saunders, ujawnił powody swojego opuszczenia organizacji, dokonując uderzającej analogii do zatonięcia statku R.M.S. Tytaniczny. Spędzając trzy lata w OpenAI, Saunders wyraził swoje zmartwienia w jednym z odcinków podcastu dziennikarza technologicznego Alexa Kantrowitza, podkreślając swoje przekonanie, że OpenAI może zmierzać w stronę katastrofy podobnej do smutnej podróży Titanica w 1912 roku.
Saunders powiedział, że praca w OpenAI często sprawiała, że zastanawiał się, czy trajektoria rozwoju firmy odpowiada tragicznemu zawaleniu się Titanica czy sukcesowi programu kosmicznego Apollo. Podczas gdy Titanic niestety zginął z powodu nieodpowiednich łodzi ratunkowych i innych zaniedbań ze względów bezpieczeństwa, program Apollo, pomimo trudności, w końcu zakończył się sukcesem dzięki sumiennym wysiłkom naukowym.
OpenAI to Titanic sztucznej inteligencji
„Wiele pracy włożono w zapewnienie bezpieczeństwa statku i zbudowanie wodoszczelnych przedziałów, aby można było powiedzieć, że jest niezatapialny. Ale jednocześnie nie było wystarczającej liczby łodzi ratunkowych dla wszystkich” – zauważył Saunders, dokonując bezpośredniej analogii do działań OpenAI. Skrytykował etos firmy, który według niego przedkładał rozwój produktu nad podstawowe środki ostrożności.
Saunders przedstawił środowisko w OpenAI, w którym pracownicy zgłaszający obawy dotyczące bezpieczeństwa byli marginalizowani, a przywództwo wydawało się bardziej skupione na zysku niż na wdrażaniu niezbędnych środków bezpieczeństwa. „Z biegiem czasu” – powiedział – „zaczęło się odnosić wrażenie, że decyzje podejmowane przez kierownictwo bardziej przypominały budowę linii White Star Line budującej Titanica”.
Krytyka Elona Muska wobec OpenAI
To nie pierwszy raz, kiedy OpenAI spotyka się z wewnętrznym sprzeciwem. Elon Musk, jeden ze współzałożycieli OpenAI, niedawno złożył, a następnie wycofał pozew przeciwko firmie, twierdząc, że odeszła ona od swojej pierwotnej misji. Chociaż Musk od lat nie był związany z OpenAI, a obecnie prowadzi konkurencyjną firmę xAI zajmującą się sztuczną inteligencją, jego obawy odzwierciedlają odczucia Saundersa.
Podobnie konkurencyjna firma Anthropic zajmująca się sztuczną inteligencją została założona w 2021 r. przez byłych pracowników OpenAI, którzy byli niezadowoleni z nacisku OpenAI na zaufanie i bezpieczeństwo. Z drugiej strony Ilya Sutskever, kolejny współzałożyciel i były główny naukowiec, z którym żył w separacji, opuścił OpenAI w maju 2024 r., aby rozpocząć własne przedsięwzięcie, wyrażając pewność, że OpenAI bezpiecznie osiągnie swoje cele.
Góra lodowa
W związku z kilkoma głośnymi odejściami i krytykami porównującymi ścieżkę OpenAI do Titanica, pozostaje palące pytanie: kto lub co jest górą lodową?
Jeśli weźmiemy pod uwagę analogię pasażerów Titanica do całej ludzkości, góra lodowa może przedstawiać egzystencjalne ryzyko, jakie dla nieprzygotowanego społeczeństwa stwarzają zaawansowane systemy sztucznej inteligencji, takie jak ChatGPT. Potencjał sztucznej inteligencji przewyższający ludzką inteligencję bez odpowiednich zabezpieczeń może prowadzić do katastrofalnych konsekwencji, podobnych do braku łodzi ratunkowych na Titanicu.
Wpis byłego pracownika OpenAI nazywa firmę „Titaniciem sztucznej inteligencji” pojawił się jako pierwszy w sekcji Najnowsze wiadomości i spostrzeżenia na temat Blockchain, kryptowaluty i inwestowania.