Laut TechCrunch hat Lilian Weng, eine führende Sicherheitsforscherin bei OpenAI, ihren Austritt aus dem Unternehmen angekündigt. Weng, die als Vizepräsidentin für Forschung und Sicherheit tätig war, gab am Freitag ihre Entscheidung bekannt und erklärte, sie sei bereit, nach sieben Jahren bei dem Startup neue Möglichkeiten zu erkunden. Ihr letzter Arbeitstag wird der 15. November sein, obwohl sie ihre zukünftigen Pläne nicht bekannt gegeben hat. Weng drückte ihren Stolz über die Errungenschaften des Teams für Sicherheitssysteme und ihr Vertrauen in deren fortgesetzten Erfolg aus.

Wengs Austritt ist Teil eines umfassenderen Trends von Abgängen bei OpenAI, da im vergangenen Jahr mehrere Forscher für KI-Sicherheit und -Politik das Unternehmen verlassen haben. Einige haben OpenAI dafür kritisiert, kommerzielle Interessen über die Sicherheit von KI zu stellen. Weng reiht sich in die Reihe anderer bemerkenswerter Persönlichkeiten wie Ilya Sutskever und Jan Leike ein, die ebenfalls in diesem Jahr OpenAI verlassen haben, um sich anderswo auf die Sicherheit von KI zu konzentrieren. Weng trat 2018 erstmals OpenAI bei und trug zum Robotikteam bei, das eine Roboterhand entwickelte, die in der Lage ist, einen Rubik's Cube zu lösen. Als OpenAI seinen Fokus auf das GPT-Paradigma verlagerte, wechselte Weng 2021 zum Aufbau des angewandten KI-Forschungsteams und leitete später die Schaffung eines speziellen Sicherheitssystemteams im Jahr 2023.

Trotz des Wachstums der Sicherheitssystemeinheit von OpenAI, die nun über 80 Wissenschaftler, Forscher und Politikexperten umfasst, bestehen weiterhin Bedenken hinsichtlich des Engagements des Unternehmens für Sicherheit, während es leistungsfähigere KI-Systeme entwickelt. Miles Brundage, ein ehemaliger Politikforscher, verließ OpenAI im Oktober und nannte die Auflösung des AGI-Bereitstellungsteams, das er beraten hatte. Darüber hinaus äußerte der ehemalige Forscher Suchir Balaji Bedenken über den potenziellen gesellschaftlichen Schaden der Technologie von OpenAI. OpenAI hat erklärt, dass es an einem Übergangsplan arbeitet, um Weng zu ersetzen, und betonte die Bedeutung des Teams für Sicherheitssysteme, um die Sicherheit und Zuverlässigkeit seiner KI-Systeme zu gewährleisten.

Zu den jüngsten Abgängen von OpenAI gehören CTO Mira Murati, Chief Research Officer Bob McGrew und Research VP Barret Zoph. Im August kündigten auch der prominente Forscher Andrej Karpathy und Mitbegründer John Schulman ihren Austritt an. Einige dieser Personen, darunter Leike und Schulman, haben sich dem OpenAI-Konkurrenten Anthropic angeschlossen, während andere ihre eigenen Unternehmungen verfolgt haben.