根據TechCrunch的報道,OpenAI的一位主要安全研究員Lilian Weng宣佈離開公司。Weng曾擔任研究和安全的副總裁,她在週五透露了自己的決定,表示在這家初創公司工作七年後,她準備探索新的機會。她的最後一天將是11月15日,儘管她尚未透露未來的計劃。Weng對安全系統團隊的成就感到自豪,並對他們的持續成功充滿信心。

Weng的離開是OpenAI更廣泛的離職趨勢的一部分,在過去一年中,幾位人工智能安全和政策研究人員離開了公司。一些人批評OpenAI優先考慮商業利益而非人工智能安全。Weng加入了其他一些知名人物,如Ilya Sutskever和Jan Leike,他們今年也離開OpenAI,專注於在其他地方進行人工智能安全工作。Weng於2018年首次加入OpenAI,參與了開發能夠解決魔方的機器人手的機器人團隊。隨着OpenAI將重點轉向GPT範式,Weng於2021年轉向建立應用人工智能研究團隊,並在2023年領導創建了一個專門的安全系統團隊。

儘管OpenAI的安全系統部門已增長至包括80多名科學家、研究人員和政策專家,但對該公司在開發更強大的人工智能系統時對安全的承諾仍然存在擔憂。前政策研究員Miles Brundage在10月離開OpenAI,原因是他所建議的AGI準備團隊解散。此外,前研究員Suchir Balaji對OpenAI技術可能造成的社會危害表示擔憂。OpenAI表示正在制定過渡計劃以替代Weng,並強調安全系統團隊在確保其人工智能系統安全性和可靠性方面的重要性。

最近離開OpenAI的其他人包括首席技術官Mira Murati、首席研究官Bob McGrew和研究副總裁Barret Zoph。在八月,知名研究員Andrej Karpathy和聯合創始人John Schulman也宣佈了他們的離開。其中一些人,包括Leike和Schulman,已加入OpenAI競爭對手Anthropic,而其他人則追求自己的事業。