William Saunders, un fost angajat OpenAI și membru al „echipei de superaliniere” a companiei, a dezvăluit recent că a părăsit compania pentru că a simțit că se află pe un curs de coliziune cu tragedia, la fel ca nefastul R.M.S. Titanic în 1912.
După cum a observat Business Insider, Saunders și-a făcut comentariul în timpul unui episod din podcastul jurnalistului de tehnologie Alex Kantrowitz.
Saunders i-a spus lui Kantrowitz că, în timpul celor trei ani petrecuți la OpenAI, uneori se întreba dacă compania se află pe o cale „mai mult ca programul Apollo sau mai mult ca Titanic”.
Raționamentul său pare să fie că, printr-un efort științific prudent, programul spațial Apollo a fost un succes, în ciuda eșecurilor sale, unde Titanic a fost un eșec în ciuda succeselor sale.
Pentru Saunders:
„S-a lucrat mult pentru a asigura siguranța navei și pentru a construi compartimente etanșe, astfel încât să poată spune că este de nescufundat. Dar, în același timp, nu erau suficiente bărci de salvare pentru toată lumea.”
OpenAI ca Titanic
Saunders descrie etosul general al companiei ca fiind unul care acordă o prioritate mai mare dezvoltării produselor decât implementării măsurilor de siguranță rezonabile.
El pictează o imagine a unui birou în care angajații care ridică probleme de siguranță sunt pedepsiți, iar conducerea este concentrată pe profit.
„De-a lungul timpului”, a spus Saunders, „a început să se simtă cu adevărat că deciziile luate de conducere sunt mai mult ca White Star Line care construiește Titanic”.
Aisbergul
Saunders nu este prima persoană care nu este de acord cu modul în care se presupune că OpenAI face afaceri. Elon Musk, unul dintre cofondatorii înstrăinați ai companiei, a dat-o recent în judecată pentru pretenții că s-a îndepărtat prea mult de misiunea sa inițială. Asta, în ciuda faptului că Musk nu a avut nicio implicare cu OpenAI de ani de zile și în prezent operează propriul său concurent direct, xAI. Procesul a fost ulterior retras.
Compania rivală de inteligență artificială Anthropic a fost fondată în 2021 de foști angajați și cofondatori OpenAI din cauza preocupărilor că OpenAI nu s-a concentrat suficient pe încredere și siguranță.
Pe de altă parte, însă, Ilya Sutskever, un alt cofondator acum înstrăinat și fostul său om de știință șef, care a părăsit compania în mai 2024, pentru a-și înființa propria companie, a scris la acea vreme că era „încrezător” că echipa OpenAI va putea să facă în siguranță. atinge obiectivele sale.
Cu atât de mulți angajați care săresc pe navă și analogia Titanicului fiind pusă în discuție de cel puțin unul, întrebarea la îndemână este: cine sau ce este aisbergul?
Dacă pasagerii din analogie suntem noi – toată omenirea – atunci aisbergul reprezintă amenințarea existențială pe care ChatGPT și sistemele ca acesta o reprezintă pentru o societate nepregătită. Dacă inteligența artificială devine mai inteligentă și mai capabilă decât noi și nu avem suficiente „bărci de salvare” pentru a-i proteja pe toată lumea de potențialul său de a fi rău, atunci am putea fi îndreptați către tragedie.
Dar dacă pasagerii sunt acționari și părți interesate care așteaptă ca OpenAI să creeze AI la fel de inteligentă ca oamenii și asta nu se întâmplă niciodată, atunci poate că aisbergul reprezintă izbucnirea bulei AI generative.
Înrudit: Big Tech se confruntă cu calcule financiare dacă AI la nivel uman nu se va întâmpla curând