Co se děje v OpenAI? Polovina bezpečnostního týmu odešla!

V týmu AGI Security v OpenAI dochází k odchodům. Objevily se obavy o bezpečnost systémů umělé inteligence (AGI).

Došlo k velkému odklonu od bezpečnostního týmu OpenAI #AGI , který je zodpovědný za zajištění toho, aby systémy umělé obecné inteligence (AGI), které vyvíjí, nepředstavovaly hrozbu pro lidstvo. Podle bývalého výzkumníka v oblasti správy OpenAI Daniela Kokotajla téměř polovina výzkumníků z tohoto týmu společnost v posledních několika měsících opustila.

Od roku 2024 se AGI tým gigantu umělé inteligence OpenAI, který známe z jazykových GPT modelů jako #ChatGPT , zmenšil z přibližně 30 lidí na 16 lidí. To vyvolalo obavy, zda OpenAI věnuje dostatečnou pozornost bezpečnosti.

Tyto odchody nebyly podle Kokotajla výsledkem organizovaného hnutí, ale spíše rozhodnutí jednotlivých výzkumníků opustit společnost. #OpenAI v prohlášení uvedl, že je přesvědčen o své schopnosti dodávat světově nejbezpečnější systémy umělé inteligence.

Nelze však ignorovat, že tyto velké odchylky vyvolávají otázky o budoucnosti společnosti v bezpečnostním výzkumu. Tento vývoj vyvolává otázky, například jak #OpenAI přistoupí k bezpečnosti budoucích systémů AGI a na jaké nové projekty se výzkumníci opouštějící tento tým zaměří.