Według TechCrunch, Lilian Weng, czołowy badacz bezpieczeństwa w OpenAI, ogłosiła swoje odejście z firmy. Weng, która pełniła funkcję Wiceprezydenta ds. Badań i Bezpieczeństwa, ujawniła swoją decyzję w piątek, stwierdzając, że jest gotowa na odkrywanie nowych możliwości po siedmiu latach pracy w startupie. Jej ostatni dzień pracy to 15 listopada, chociaż nie ujawniała swoich przyszłych planów. Weng wyraziła dumę z osiągnięć zespołu systemów bezpieczeństwa i pewność co do ich dalszego sukcesu.
Wyjście Wenga jest częścią szerszego trendu odejść z OpenAI, z kilkoma badaczami zajmującymi się bezpieczeństwem AI i polityką, którzy opuścili firmę w ciągu ostatniego roku. Niektórzy krytykowali OpenAI za priorytetowanie interesów komercyjnych ponad bezpieczeństwo AI. Weng dołącza do innych znanych postaci, takich jak Ilya Sutskever i Jan Leike, którzy również opuścili OpenAI w tym roku, aby skupić się na bezpieczeństwie AI gdzie indziej. Weng początkowo dołączył do OpenAI w 2018 roku, wnosząc wkład do zespołu robotyki, który opracował robotyczną rękę zdolną do rozwiązania kostki Rubika. Ponieważ OpenAI zmieniło swoje skupienie na paradygmacie GPT, Weng przeszedł do budowy zespołu badań zastosowanych AI w 2021 roku, a później prowadził stworzenie dedykowanego zespołu systemów bezpieczeństwa w 2023 roku.
Pomimo wzrostu jednostki systemów bezpieczeństwa OpenAI, która obecnie obejmuje ponad 80 naukowców, badaczy i ekspertów politycznych, nadal istnieją obawy dotyczące zaangażowania firmy w bezpieczeństwo, gdy rozwija bardziej zaawansowane systemy AI. Miles Brundage, były badacz polityczny, opuścił OpenAI w październiku, cytując rozwiązanie zespołu przygotowawczego AGI, którym doradzał. Dodatkowo, były badacz Suchir Balaji wyraził obawy dotyczące potencjalnej szkody społecznej wynikającej z technologii OpenAI. OpenAI oświadczyło, że pracuje nad planem przejścia w celu zastąpienia Wenga i podkreśliło znaczenie zespołu systemów bezpieczeństwa w zapewnieniu bezpieczeństwa i niezawodności swoich systemów AI.
Inne niedawne odejścia z OpenAI obejmują CTO Mirę Murati, Głównego Oficera Badawczego Boba McGrew oraz Wiceprezydenta Badań Barreta Zopha. W sierpniu znany badacz Andrej Karpathy i współzałożyciel John Schulman również ogłosili swoje odejścia. Niektórzy z tych osób, w tym Leike i Schulman, dołączyli do konkurenta OpenAI, Anthropic, podczas gdy inni podjęli własne przedsięwzięcia.