De acordo com o TechCrunch, Lilian Weng, uma das principais pesquisadoras de segurança da OpenAI, anunciou sua saída da empresa. Weng, que atuou como Vice-Presidente de Pesquisa e Segurança, revelou sua decisão na sexta-feira, afirmando que está pronta para explorar novas oportunidades após sete anos na startup. Seu último dia será 15 de novembro, embora ela não tenha divulgado seus planos futuros. Weng expressou orgulho nas conquistas da equipe de Sistemas de Segurança e confiança em seu sucesso contínuo.
A saída de Weng faz parte de uma tendência mais ampla de saídas da OpenAI, com vários pesquisadores de segurança e políticas de IA deixando a empresa ao longo do último ano. Alguns criticaram a OpenAI por priorizar interesses comerciais em detrimento da segurança da IA. Weng se junta a outras figuras notáveis, como Ilya Sutskever e Jan Leike, que também deixaram a OpenAI este ano para se concentrar na segurança da IA em outros lugares. Weng ingressou na OpenAI em 2018, contribuindo para a equipe de robótica que desenvolveu uma mão robótica capaz de resolver um cubo Rubik. À medida que a OpenAI mudou seu foco para o paradigma GPT, Weng fez a transição para construir a equipe de pesquisa aplicada em IA em 2021 e, posteriormente, liderou a criação de uma equipe dedicada a sistemas de segurança em 2023.
Apesar do crescimento da unidade de sistemas de segurança da OpenAI, que agora inclui mais de 80 cientistas, pesquisadores e especialistas em políticas, persistem preocupações sobre o compromisso da empresa com a segurança à medida que desenvolve sistemas de IA mais poderosos. Miles Brundage, um ex-pesquisador de políticas, deixou a OpenAI em outubro, citando a dissolução da equipe de prontidão para AGI que ele aconselhava. Além disso, o ex-pesquisador Suchir Balaji expressou preocupações sobre o potencial dano social da tecnologia da OpenAI. A OpenAI declarou que está trabalhando em um plano de transição para substituir Weng e enfatizou a importância da equipe de Sistemas de Segurança para garantir a segurança e a confiabilidade de seus sistemas de IA.
Outras saídas recentes da OpenAI incluem a CTO Mira Murati, o Diretor de Pesquisa Bob McGrew e o VP de Pesquisa Barret Zoph. Em agosto, o proeminente pesquisador Andrej Karpathy e o co-fundador John Schulman também anunciaram suas saídas. Algumas dessas pessoas, incluindo Leike e Schulman, se juntaram à concorrente da OpenAI, Anthropic, enquanto outras buscaram seus próprios empreendimentos.