Secondo TechCrunch, Lilian Weng, una ricercatrice di sicurezza di spicco in OpenAI, ha annunciato la sua partenza dall'azienda. Weng, che ha ricoperto il ruolo di Vicepresidente della Ricerca e della Sicurezza, ha rivelato la sua decisione venerdì, dichiarando di essere pronta a esplorare nuove opportunità dopo sette anni con la startup. Il suo ultimo giorno sarà il 15 novembre, anche se non ha rivelato i suoi piani futuri. Weng ha espresso orgoglio per i risultati del team di Sistemi di Sicurezza e fiducia nel loro continuo successo.

L'uscita di Weng fa parte di una tendenza più ampia di partenze da OpenAI, con diversi ricercatori in sicurezza dell'IA e di politiche che hanno lasciato l'azienda nell'ultimo anno. Alcuni hanno criticato OpenAI per aver dato priorità agli interessi commerciali rispetto alla sicurezza dell'IA. Weng si unisce ad altre figure note come Ilya Sutskever e Jan Leike, che hanno anche lasciato OpenAI quest'anno per concentrarsi sulla sicurezza dell'IA altrove. Weng è entrata in OpenAI nel 2018, contribuendo al team di robotica che ha sviluppato una mano robotica capace di risolvere un cubo di Rubik. Con il passaggio di OpenAI al paradigma GPT, Weng è passata a costruire il team di ricerca applicata nell'IA nel 2021 e in seguito ha guidato la creazione di un team dedicato ai sistemi di sicurezza nel 2023.

Nonostante la crescita dell'unità sistemi di sicurezza di OpenAI, che ora include oltre 80 scienziati, ricercatori ed esperti di politiche, persistono preoccupazioni circa l'impegno dell'azienda per la sicurezza mentre sviluppa sistemi di IA più potenti. Miles Brundage, un ex ricercatore di politiche, ha lasciato OpenAI in ottobre, citando la dissoluzione del team di prontezza all'AGI di cui era consulente. Inoltre, l'ex ricercatore Suchir Balaji ha espresso preoccupazioni riguardo al potenziale danno sociale della tecnologia di OpenAI. OpenAI ha dichiarato di stare lavorando a un piano di transizione per sostituire Weng e ha sottolineato l'importanza del team di Sistemi di Sicurezza per garantire la sicurezza e l'affidabilità dei propri sistemi di IA.

Altre recenti partenze da OpenAI includono il CTO Mira Murati, il Chief Research Officer Bob McGrew e il VP della Ricerca Barret Zoph. Ad agosto, il noto ricercatore Andrej Karpathy e il co-fondatore John Schulman hanno anche annunciato le loro uscite. Alcuni di questi individui, inclusi Leike e Schulman, si sono uniti al concorrente di OpenAI, Anthropic, mentre altri hanno intrapreso le proprie iniziative.