Podle TechCrunch oznámila Lilian Weng, vedoucí výzkumnice v oblasti bezpečnosti v OpenAI, svůj odchod ze společnosti. Weng, která sloužila jako viceprezidentka pro výzkum a bezpečnost, zveřejnila své rozhodnutí v pátek a uvedla, že je připravena prozkoumat nové příležitosti po sedmi letech ve startupu. Její poslední den bude 15. listopadu, i když nezveřejnila své budoucí plány. Weng vyjádřila hrdost na úspěchy týmu bezpečnostních systémů a důvěru v jejich pokračující úspěch.

Odchod Wenga je součástí širšího trendu odchodů z OpenAI, kdy několik výzkumníků zaměřených na bezpečnost AI a politiky opustilo společnost během uplynulého roku. Někteří kritizovali OpenAI za to, že upřednostňuje komerční zájmy před bezpečností AI. Weng se připojuje k dalším významným osobnostem, jako jsou Ilya Sutskever a Jan Leike, kteří také opustili OpenAI tento rok, aby se zaměřili na bezpečnost AI jinde. Weng se původně připojil k OpenAI v roce 2018, přičemž přispěl k týmu robotiky, který vyvinul robotickou ruku schopnou řešit Rubikovu kostku. Jak se OpenAI zaměřilo na paradigmata GPT, Weng přešel na budování týmu aplikovaného výzkumu AI v roce 2021 a později vedl vytvoření specializovaného týmu pro bezpečnostní systémy v roce 2023.

Navzdory růstu jednotky bezpečnostních systémů OpenAI, která nyní zahrnuje více než 80 vědců, výzkumníků a odborníků na politiku, přetrvávají obavy ohledně závazku společnosti k bezpečnosti při vývoji mocnějších systémů AI. Miles Brundage, bývalý výzkumník v oblasti politiky, opustil OpenAI v říjnu a citoval zrušení týmu připravenosti na AGI, který radil. Dále bývalá výzkumnice Suchir Balaji vyjádřila obavy o potenciální společenskou škodu technologií OpenAI. OpenAI uvedlo, že pracuje na plánu přechodu, jak nahradit Wenga, a zdůraznilo důležitost týmu pro bezpečnostní systémy při zajištění bezpečnosti a spolehlivosti svých systémů AI.

Mezi další nedávné odchody z OpenAI patří CTO Mira Murati, hlavní výzkumný pracovník Bob McGrew a VP výzkumu Barret Zoph. V srpnu také oznámili svůj odchod významný výzkumník Andrej Karpathy a spoluzakladatel John Schulman. Někteří z těchto jednotlivců, včetně Leike a Schulmana, se připojili k konkurentovi OpenAI, společnosti Anthropic, zatímco jiní se pustili do vlastních podnikání.