Selon TechCrunch, Lilian Weng, une chercheuse en sécurité de premier plan chez OpenAI, a annoncé son départ de l'entreprise. Weng, qui a été vice-présidente de la recherche et de la sécurité, a révélé sa décision vendredi, déclarant qu'elle était prête à explorer de nouvelles opportunités après sept ans passés avec la startup. Son dernier jour sera le 15 novembre, bien qu'elle n'ait pas divulgué ses projets futurs. Weng a exprimé sa fierté pour les réalisations de l'équipe des systèmes de sécurité et sa confiance dans leur succès continu.
Le départ de Weng fait partie d'une tendance plus large de départs d'OpenAI, avec plusieurs chercheurs en sécurité et en politique de l'IA quittant l'entreprise au cours de l'année écoulée. Certains ont critiqué OpenAI pour avoir priorisé les intérêts commerciaux au détriment de la sécurité de l'IA. Weng rejoint d'autres figures notables telles qu'Ilya Sutskever et Jan Leike, qui ont également quitté OpenAI cette année pour se concentrer sur la sécurité de l'IA ailleurs. Weng a initialement rejoint OpenAI en 2018, contribuant à l'équipe de robotique qui a développé une main robotique capable de résoudre un cube Rubik. Alors qu'OpenAI a déplacé son attention vers le paradigme GPT, Weng a transitionné vers la construction de l'équipe de recherche appliquée en IA en 2021 et a ensuite dirigé la création d'une équipe dédiée aux systèmes de sécurité en 2023.
Malgré la croissance de l'unité des systèmes de sécurité d'OpenAI, qui compte désormais plus de 80 scientifiques, chercheurs et experts en politique, des inquiétudes persistent quant à l'engagement de l'entreprise envers la sécurité alors qu'elle développe des systèmes d'IA de plus en plus puissants. Miles Brundage, un ancien chercheur en politique, a quitté OpenAI en octobre, citant la dissolution de l'équipe de préparation à l'AGI qu'il conseillait. De plus, l'ancien chercheur Suchir Balaji a exprimé des préoccupations concernant le potentiel préjudice sociétal de la technologie d'OpenAI. OpenAI a déclaré qu'il travaillait sur un plan de transition pour remplacer Weng et a souligné l'importance de l'équipe des systèmes de sécurité pour garantir la sécurité et la fiabilité de ses systèmes d'IA.
Parmi les autres départs récents d'OpenAI, on trouve le CTO Mira Murati, le directeur de la recherche Bob McGrew et le VP de la recherche Barret Zoph. En août, le chercheur de premier plan Andrej Karpathy et le co-fondateur John Schulman ont également annoncé leur départ. Certains de ces individus, y compris Leike et Schulman, ont rejoint le concurrent d'OpenAI, Anthropic, tandis que d'autres ont poursuivi leurs propres projets.