Bijušais OpenAI “superalignment komandas loceklis Viljams Saunderss atklāja iemeslus, kāpēc aiziet no organizācijas, radot pārsteidzošu analoģiju ar R.M.S. Titāniks. Pavadot OpenAI trīs gadus, Saunderss pauda bažas par tehnoloģiju žurnālista Aleksa Kantrovica aplādes epizodi, uzsverot viņa pārliecību, ka OpenAI varētu virzīties uz katastrofu, kas līdzinās bēdīgajam ceļojumam, ko Titāniks veica 1912. gadā.
Saunders teica, ka viņa darbs OpenAI bieži lika viņam domāt, vai uzņēmuma trajektorija atbilst traģiskajam Titānika sabrukumam vai Apollo kosmosa programmas panākumiem. Kamēr Titāniks diemžēl gāja bojā neatbilstošu glābšanas laivu un citu novārtā atstāto drošības apsvērumu dēļ, Apollo programma, neskatoties uz tās grūtībām, beidzot guva panākumus ar rūpīgiem zinātniskiem centieniem.
OpenAI ir AI Titāniks
“Daudz tika strādāts, lai kuģi padarītu drošu un izveidotu ūdensnecaurlaidīgus nodalījumus, lai viņi varētu teikt, ka tas ir nenogremdējams. Bet tajā pašā laikā visiem nebija pietiekami daudz glābšanas laivu, ”atzīmēja Saunders, vēršot tiešu analoģiju ar OpenAI darbībām. Viņš kritizēja uzņēmuma ētiku, ko viņš uztvēra kā prioritāti produkta izstrādei, nevis būtiskiem drošības pasākumiem.
Saunders attēloja OpenAI vidi, kurā darbinieki, kuri pauda bažas par drošību, bija marginalizēti, un vadība šķita vairāk vērsta uz peļņu, nevis uz nepieciešamo drošības pasākumu ieviešanu. "Laika gaitā," viņš teica, "sāka šķist, ka vadības pieņemtie lēmumi vairāk atgādina "White Star Line", kas būvē Titāniku."
Īlona Muska kritika par OpenAI
Šī nav pirmā reize, kad OpenAI saskaras ar iekšēju domstarpību. Īlons Masks, viens no OpenAI līdzdibinātājiem, nesen iesniedza un pēc tam atsauca prasību pret uzņēmumu, apgalvojot, ka tas ir novirzījies no savas sākotnējās misijas. Lai gan Musks gadiem ilgi nav bijis saistīts ar OpenAI un tagad vada konkurējošu mākslīgā intelekta uzņēmumu xAI, viņa bažas atspoguļo Saundersa noskaņojumu.
Tāpat konkurējošo AI uzņēmumu Anthropic 2021. gadā dibināja bijušie OpenAI darbinieki, kuri nebija apmierināti ar OpenAI koncentrēšanos uz uzticēšanos un drošību. No otras puses, Iļja Sutskevers, vēl viens atsvešināts līdzdibinātājs un bijušais galvenais zinātnieks, 2024. gada maijā pameta OpenAI, lai sāktu savu uzņēmumu, paužot pārliecību, ka OpenAI droši sasniegs savus mērķus.
Aisbergs
Tā kā vairākas lielas atkāpšanās un kritika, kas pielīdzina OpenAI ceļu ar Titāniku, paliek aktuāls jautājums: kas vai kas ir aisbergs?
Ja mēs uzskatām, ka Titānika analoģijas pasažieri ir visa cilvēce, tad aisbergs varētu atspoguļot eksistenciālos riskus, ko nesagatavotai sabiedrībai rada progresīvas AI sistēmas, piemēram, ChatGPT. AI potenciāls pārspēt cilvēka intelektu bez atbilstošiem drošības pasākumiem var izraisīt postošas sekas, līdzīgas glābšanas laivu trūkumam Titānikā.
Ziņa Bijušais OpenAI darbinieks aicina uzņēmumu “AI Titāniks” vispirms parādījās vietnē Jaunākās ziņas un ieskats par blokķēdi, kriptovalūtu un investīcijām.