Bývalý člen týmu „superalignment“ OpenAI William Saunders odhalil své důvody pro odchod z organizace, čímž vytvořil nápadnou analogii s potopením R.M.S. Titánský. Saunders, který strávil tři roky v OpenAI, vyjádřil své obavy v epizodě podcastu technologického novináře Alexe Kantrowitze a zdůraznil své přesvědčení, že OpenAI může směřovat ke katastrofě podobné smutné cestě, kterou podnikl Titanic v roce 1912.

Saunders řekl, že jeho práce v OpenAI ho často nechávala přemýšlet, zda trajektorie společnosti odpovídá tragickému zhroucení Titaniku nebo úspěchu vesmírného programu Apollo. Zatímco Titanic bohužel zahynul kvůli nedostatečným záchranným člunům a dalším zanedbávaným bezpečnostním problémům, program Apollo navzdory svým potížím nakonec uspěl s pilným vědeckým úsilím.

OpenAI je Titanic AI

„Spousta práce bylo vynaloženo na zajištění bezpečnosti lodi a vybudování vodotěsných oddílů, aby mohli říci, že je nepotopitelná. Ale zároveň nebylo dost záchranných člunů pro všechny,“ poznamenal Saunders a nakreslil přímou analogii s operacemi OpenAI. Kritizoval étos společnosti, který podle něj upřednostňuje vývoj produktů před základními bezpečnostními opatřeními.

Saunders znázornil prostředí v OpenAI, kde byli zaměstnanci, kteří vyjádřili obavy o bezpečnost, marginalizováni a vedení se zdálo být více zaměřeno na zisk než na implementaci nezbytných bezpečnostních opatření. "Postupem času," řekl, "se začalo skutečně zdát, že rozhodnutí, která činí vedení, byla spíše jako White Star Line, která postavila Titanic."

Kritika OpenAI od Elona Muska

Není to poprvé, co OpenAI čelí vnitřnímu nesouhlasu. Elon Musk, jeden ze spoluzakladatelů OpenAI, nedávno podal a poté stáhl žalobu na společnost s tvrzením, že se odchýlila od svého původního poslání. Přestože se Musk s OpenAI nepodílel už roky a nyní provozuje konkurenční firmu pro umělou inteligenci, xAI, jeho obavy odrážejí Saundersovy pocity.

Podobně konkurenční společnost Anthropic zaměřená na umělou inteligenci byla založena v roce 2021 bývalými zaměstnanci OpenAI, kteří nebyli spokojeni se zaměřením OpenAI na důvěru a bezpečnost. Na druhou stranu Ilya Sutskever, další odcizený spoluzakladatel a bývalý hlavní vědec, opustil OpenAI v květnu 2024, aby zahájil svůj vlastní podnik, a vyjádřil důvěru, že OpenAI bezpečně dosáhne svých cílů.

Ledovec

S několika významnými odchody a kritikami, které přirovnávají cestu OpenAI k Titaniku, zůstává naléhavá otázka: Kdo nebo co je ledovec?

Pokud vezmeme v úvahu pasažéry v analogii Titaniku jako celé lidstvo, pak by ledovec mohl představovat existenční rizika, která pro nepřipravenou společnost představují pokročilé systémy umělé inteligence, jako je ChatGPT. Potenciál umělé inteligence překonat lidskou inteligenci bez adekvátních záruk by mohl vést ke katastrofálním následkům, podobně jako nedostatek záchranných člunů na Titaniku.

Příspěvek Bývalý zaměstnanec OpenAI nazývá firmu „Titanic of AI“ appeared first on Nejnovější zprávy a statistiky o blockchainu, kryptoměnách a investování.