Menurut TechCrunch, Lilian Weng, seorang peneliti keselamatan terkemuka di OpenAI, mengumumkan pengunduran dirinya dari perusahaan. Weng, yang menjabat sebagai Wakil Presiden Penelitian dan Keselamatan, mengungkapkan keputusannya pada hari Jumat, menyatakan bahwa dia siap untuk menjelajahi peluang baru setelah tujuh tahun bersama startup tersebut. Hari terakhirnya adalah 15 November, meskipun dia belum mengungkapkan rencana masa depannya. Weng menyatakan kebanggaan atas pencapaian tim Sistem Keselamatan dan percaya pada keberhasilan mereka yang berkelanjutan.

Keluarnya Weng adalah bagian dari tren lebih luas dari pengunduran diri dari OpenAI, dengan beberapa peneliti keselamatan dan kebijakan AI meninggalkan perusahaan selama setahun terakhir. Beberapa telah mengkritik OpenAI karena memprioritaskan kepentingan komersial daripada keselamatan AI. Weng bergabung dengan tokoh-tokoh terkenal lainnya seperti Ilya Sutskever dan Jan Leike, yang juga meninggalkan OpenAI tahun ini untuk fokus pada keselamatan AI di tempat lain. Weng awalnya bergabung dengan OpenAI pada tahun 2018, berkontribusi pada tim robotika yang mengembangkan tangan robot yang mampu menyelesaikan kubus Rubik. Ketika OpenAI mengalihkan fokusnya ke paradigma GPT, Weng bertransisi untuk membangun tim penelitian AI terapan pada tahun 2021 dan kemudian memimpin pembentukan tim sistem keselamatan khusus pada tahun 2023.

Meskipun pertumbuhan unit sistem keselamatan OpenAI, yang kini mencakup lebih dari 80 ilmuwan, peneliti, dan ahli kebijakan, kekhawatiran tetap ada tentang komitmen perusahaan terhadap keselamatan saat mengembangkan sistem AI yang lebih kuat. Miles Brundage, mantan peneliti kebijakan, meninggalkan OpenAI pada bulan Oktober, dengan alasan pembubaran tim kesiapan AGI yang ia nasihati. Selain itu, mantan peneliti Suchir Balaji mengungkapkan kekhawatiran tentang potensi bahaya sosial dari teknologi OpenAI. OpenAI telah menyatakan bahwa mereka sedang mengerjakan rencana transisi untuk menggantikan Weng dan menekankan pentingnya tim Sistem Keselamatan dalam memastikan keselamatan dan keandalan sistem AI mereka.

Pengunduran diri terbaru lainnya dari OpenAI termasuk CTO Mira Murati, Kepala Penelitian Bob McGrew, dan Wakil Presiden Penelitian Barret Zoph. Pada bulan Agustus, peneliti terkemuka Andrej Karpathy dan salah satu pendiri John Schulman juga mengumumkan pengunduran diri mereka. Beberapa individu ini, termasuk Leike dan Schulman, telah bergabung dengan pesaing OpenAI, Anthropic, sementara yang lain mengejar usaha mereka sendiri.