Apa yang terjadi di OpenAI? Setengah dari tim keamanan telah keluar!

Tim Keamanan AGI di OpenAI telah meninggalkan jabatannya. Kekhawatiran muncul tentang keamanan sistem kecerdasan buatan (AGI).

Tim Keamanan OpenAI #AGI , yang bertanggung jawab untuk memastikan bahwa sistem kecerdasan umum buatan (AGI) yang dikembangkannya tidak menimbulkan ancaman bagi manusia, telah meninggalkan jabatannya. Menurut mantan peneliti tata kelola OpenAI Daniel Kokotajlo, hampir setengah dari peneliti di tim tersebut telah meninggalkan perusahaan dalam beberapa bulan terakhir.

Sejak 2024, tim AGI raksasa kecerdasan buatan OpenAI, yang kita kenal dari model GPT bahasa seperti #ChatGPT , telah berkurang dari sekitar 30 orang menjadi 16 orang. Hal ini menimbulkan kekhawatiran tentang apakah OpenAI cukup memperhatikan keamanan.

Menurut Kokotajlo, kepergian ini bukan hasil dari gerakan yang terorganisasi, melainkan keputusan peneliti individu untuk meninggalkan perusahaan. #OpenAI mengatakan dalam sebuah pernyataan bahwa mereka yakin akan kemampuannya untuk menghadirkan sistem AI paling aman di dunia.

Namun, tidak dapat diabaikan bahwa kepergian besar ini menimbulkan pertanyaan tentang masa depan perusahaan dalam penelitian keamanan. Perkembangan ini menimbulkan pertanyaan seperti bagaimana #OpenAI akan mendekati keamanan sistem AGI di masa depan dan proyek baru apa yang akan difokuskan oleh para peneliti yang meninggalkan tim ini.