L'ex membro del team di superallineamento di OpenAI William Saunders ha rivelato le sue ragioni per lasciare l'organizzazione, facendo una sorprendente analogia con l'affondamento della R.M.S. Titanico. Trascorrendo tre anni presso OpenAI, Saunders ha espresso le sue preoccupazioni in un episodio del podcast del giornalista tecnologico Alex Kantrowitz, sottolineando la sua convinzione che OpenAI potrebbe essere diretta verso una catastrofe simile al triste viaggio intrapreso dal Titanic nel 1912.
Saunders ha affermato che il suo lavoro presso OpenAI lo ha spesso portato a chiedersi se la traiettoria dell’azienda corrispondesse al tragico crollo del Titanic o al successo del programma spaziale Apollo. Mentre il Titanic purtroppo perì a causa delle scialuppe di salvataggio inadeguate e di altri trascurati problemi di sicurezza, il programma Apollo, nonostante le sue difficoltà, alla fine riuscì con diligenti sforzi scientifici.
OpenAI è il Titanic dell'intelligenza artificiale
“È stato necessario molto lavoro per rendere la nave sicura e costruire compartimenti stagni in modo che potessero dire che era inaffondabile. Ma allo stesso tempo, non c’erano abbastanza scialuppe di salvataggio per tutti”, ha osservato Saunders, tracciando un’analogia diretta con le operazioni di OpenAI. Ha criticato l’etica dell’azienda, che secondo lui dà priorità allo sviluppo del prodotto rispetto alle precauzioni di sicurezza essenziali.
Saunders ha descritto un ambiente in OpenAI in cui i dipendenti che esprimevano preoccupazioni per la sicurezza erano emarginati e la leadership sembrava più concentrata sul profitto che sull’implementazione delle necessarie misure di sicurezza. "Col tempo", ha detto, "ha iniziato a sembrare davvero che le decisioni prese dalla leadership fossero più simili a quelle della White Star Line che costruiva il Titanic".
La critica di Elon Musk a OpenAI
Questa non è la prima volta che OpenAI deve affrontare il dissenso interno. Elon Musk, uno dei cofondatori di OpenAI, ha recentemente intentato e poi ritirato una causa contro la società, sostenendo che si era discostata dalla sua missione originale. Sebbene Musk non sia più coinvolto in OpenAI da anni e ora gestisca un’azienda di intelligenza artificiale concorrente, xAI, le sue preoccupazioni fanno eco ai sentimenti di Saunders.
Allo stesso modo, la società rivale di intelligenza artificiale Anthropic è stata fondata nel 2021 da ex dipendenti di OpenAI insoddisfatti dell’attenzione di OpenAI alla fiducia e alla sicurezza. D'altra parte, Ilya Sutskever, un altro cofondatore ed ex capo scienziato, ha lasciato OpenAI nel maggio 2024 per avviare la propria impresa, esprimendo fiducia che OpenAI avrebbe raggiunto in sicurezza i suoi obiettivi.
Iceberg
Con diverse deviazioni e critiche di alto profilo che paragonano il percorso di OpenAI a quello del Titanic, la domanda pressante rimane: chi o cosa è l'iceberg?
Se consideriamo i passeggeri nell’analogia del Titanic come tutta l’umanità, allora l’iceberg potrebbe rappresentare i rischi esistenziali posti da sistemi di intelligenza artificiale avanzati come ChatGPT a una società impreparata. Il potenziale dell’intelligenza artificiale di superare l’intelligenza umana senza adeguate garanzie potrebbe portare a conseguenze disastrose, simili alla mancanza di scialuppe di salvataggio sul Titanic.
Il post L'ex dipendente OpenAI chiama l'azienda "Titanic dell'intelligenza artificiale" è apparso per primo su Ultime notizie e approfondimenti su Blockchain, criptovaluta e investimenti.