根据TechCrunch报导,Lilian Weng,OpenAI的首席安全研究员,宣布她将离开该公司。翁曾担任研究与安全副总裁,她在周五透露了她的决定,表示在这家初创公司工作七年后,她已准备好探索新的机会。她的最后一天是11月15日,尽管她尚未透露未来的计划。翁对安全系统团队的成就感到自豪,并对他们未来的成功充满信心。
翁的离职是OpenAI更广泛离职趋势的一部分,过去一年来,几位人工智慧安全和政策研究人员离开了该公司。一些人批评OpenAI将商业利益置于人工智慧安全之上。翁加入了其他值得注意的人物,例如伊利亚·苏兹基弗和詹·雷克,他们也于今年离开OpenAI,专注于其他地方的人工智慧安全。翁于2018年首次加入OpenAI,为开发能够解决魔方的机器手的机器人团队做出了贡献。随著OpenAI将重心转向GPT范式,翁于2021年转型为构建应用人工智慧研究团队,并于2023年领导成立专门的安全系统团队。
尽管OpenAI的安全系统部门已增长至80多名科学家、研究人员和政策专家,但对于该公司在开发更强大人工智慧系统时对安全的承诺仍然存在担忧。前政策研究员迈尔斯·布伦德奇在十月离开OpenAI,理由是他所建议的AGI就绪团队解散。此外,前研究员苏奇尔·巴拉吉对OpenAI技术可能对社会造成的损害表示担忧。OpenAI已表示正在制定过渡计划,以取代翁,并强调安全系统团队在确保其人工智慧系统安全性和可靠性方面的重要性。
最近离开OpenAI的其他人包括首席技术官米拉·穆拉提、首席研究官鲍勃·麦克格鲁和研究副总裁巴雷特·佐夫。八月,知名研究员安德烈·卡帕提和共同创始人约翰·舒尔曼也宣布了他们的离开。其中一些人,包括雷克和舒尔曼,已加入OpenAI的竞争对手Anthropic,而其他人则追寻自己的事业。