Fostul membru al echipei de superaliniere OpenAI, William Saunders, și-a dezvăluit motivele pentru care a părăsit organizația, făcând o analogie izbitoare cu scufundarea R.M.S. Titanic. Petrecând trei ani la OpenAI, Saunders și-a exprimat îngrijorările într-un episod din podcastul jurnalistului tehnologic Alex Kantrowitz, subliniind convingerea că OpenAI s-ar putea îndrepta către o catastrofă asemănătoare călătoriei triste pe care a făcut-o Titanic în 1912.

Saunders a spus că munca sa la OpenAI l-a lăsat adesea să se întrebe dacă traiectoria companiei se potrivește cu colapsul tragic al Titanicului sau cu succesul programului spațial Apollo. În timp ce Titanic a pierit din cauza bărcilor de salvare inadecvate și a altor probleme de siguranță neglijate, programul Apollo, în ciuda dificultăților sale, a reușit în cele din urmă cu eforturi științifice diligente.

OpenAI este Titanicul AI

„S-a lucrat mult pentru a asigura siguranța navei și pentru a construi compartimente etanșe, astfel încât să poată spune că este de nescufundat. Dar, în același timp, nu erau suficiente bărci de salvare pentru toată lumea”, a remarcat Saunders, făcând o analogie directă cu operațiunile OpenAI. El a criticat ethos-ul companiei, pe care a perceput-o ca acordând prioritate dezvoltării de produse față de măsurile de siguranță esențiale.

Saunders a descris un mediu la OpenAI în care angajații care și-au exprimat îngrijorările legate de siguranță au fost marginalizați, iar conducerea părea mai concentrată pe profit decât pe implementarea măsurilor de siguranță necesare. „De-a lungul timpului”, a spus el, „a început să simtă într-adevăr că deciziile luate de conducere sunt mai mult ca White Star Line care construiește Titanic”.

Critica lui Elon Musk la adresa OpenAI

Nu este prima dată când OpenAI se confruntă cu disidență internă. Elon Musk, unul dintre co-fondatorii OpenAI, a depus recent și apoi a retras un proces împotriva companiei, susținând că a deviat de la misiunea sa inițială. Deși Musk nu a fost implicat în OpenAI de ani de zile și acum conduce o firmă de AI concurentă, xAI, preocupările sale fac ecou sentimentele lui Saunders.

În mod similar, compania rivală de AI Anthropic a fost fondată în 2021 de foști angajați OpenAI care erau nemulțumiți de concentrarea OpenAI pe încredere și siguranță. Pe de altă parte, Ilya Sutskever, un alt cofondator înstrăinat și fost om de știință șef, a părăsit OpenAI în mai 2024 pentru a-și începe propria afacere, exprimându-și încrederea că OpenAI își va atinge obiectivele în siguranță.

Aisberg

Cu mai multe plecări importante și critici care aseamănă calea OpenAI cu cea a Titanicului, întrebarea presantă rămâne: cine sau ce este aisbergul?

Dacă luăm în considerare pasagerii din analogia Titanicului ca fiind întreaga umanitate, atunci aisbergul ar putea reprezenta riscurile existențiale prezentate de sistemele AI avansate precum ChatGPT pentru o societate nepregătită. Potențialul ca AI să depășească inteligența umană fără garanții adecvate ar putea duce la consecințe dezastruoase, similare cu lipsa bărcilor de salvare pe Titanic.

Postarea Fostul angajat OpenAI numește firma „Titanic of AI” a apărut mai întâi pe Ultimele știri și informații despre Blockchain, criptomonede și investiții.