William Saunders, bývalý zaměstnanec OpenAI a člen firemního „superalignment týmu“, nedávno prozradil, že ze společnosti odešel, protože měl pocit, že je na kolizním kurzu s tragédií, podobně jako nešťastný R.M.S. Titanic v roce 1912.

Jak si všiml Business Insider, Saunders vyjádřil svůj komentář během epizody podcastu technologického novináře Alexe Kantrowitze.

Saunders řekl Kantrowitzovi, že během tří let v OpenAI se někdy sám sebe zeptal, zda je společnost na cestě, která je „spíše jako program Apollo nebo spíše Titanic“.

Zdá se, že jeho úvaha je taková, že díky opatrnému vědeckému úsilí byl vesmírný program Apollo úspěšný, navzdory svým neúspěchům, kde Titanic navzdory svým úspěchům selhal.

Per Saunders:

„Spousta práce bylo vynaloženo na zajištění bezpečnosti lodi a vybudování vodotěsných oddílů, aby mohli říci, že je nepotopitelná. Ale zároveň nebylo dost záchranných člunů pro všechny.“

OpenAI jako Titanic

Saunders popisuje obecný étos společnosti jako takový, který klade vyšší prioritu na vývoj produktů než na zavádění přiměřených bezpečnostních opatření.

Vykresluje obraz kanceláře, kde jsou trestáni zaměstnanci, kteří upozorňují na bezpečnost, a vedení se zaměřuje na zisk.

"Postupem času," řekl Saunders, "se začalo skutečně zdát, že rozhodnutí učiněná vedením byla spíše jako White Star Line, která postavila Titanic."

Ledovec

Saunders není první, kdo nesouhlasí s tím, jak OpenAI údajně podniká. Elon Musk, jeden z odcizených spoluzakladatelů společnosti, ji nedávno žaloval kvůli tvrzení, že se příliš vzdálila od svého původního poslání. A to navzdory skutečnosti, že Musk se léta nezapojil do OpenAI a v současné době provozuje svého vlastního přímého konkurenta xAI. Žaloba byla následně stažena.

Konkurenční společnost AI Anthropic byla založena v roce 2021 bývalými zaměstnanci OpenAI a spoluzakladateli kvůli obavám, že OpenAI není dostatečně zaměřeno na důvěru a bezpečnost. 

Na druhou stranu Ilya Sutskever, další nyní již odcizený spoluzakladatel a její bývalý hlavní vědec, který ze společnosti odešel v květnu 2024, aby založil vlastní společnost, tehdy napsal, že si byl „jistý“, že tým OpenAI bude schopen bezpečně splnit své cíle.

S tolika zaměstnanci, kteří skákají z lodi, a analogie s Titanikem je obehnána alespoň jedním, vyvstává otázka: kdo nebo co je ledovec?

Pokud jsme pasažéry v analogii my – celé lidstvo – pak ledovec představuje existenční hrozbu, kterou ChatGPT a systémy jemu podobné představují pro nepřipravenou společnost. Pokud se umělá inteligence stane inteligentnější a schopnější než my a nebudeme mít dostatek „záchranných člunů“, které by všechny ochránily před jejím potenciálem ublížit, pak bychom mohli směřovat k tragédii.

Ale pokud jsou cestující akcionáři a zúčastněné strany, které čekají, až OpenAI vytvoří AI, která je chytrá jako lidé, a to se nikdy nestane, pak možná ledovec představuje prasknutí generativní bubliny AI.

Související: Big Tech bude čelit finančnímu zúčtování, pokud se AI na lidské úrovni brzy nestane