OpenAI sedang melatih sistem AI baru untuk menyukseskan GPT-4 seiring dengan upaya perusahaan untuk melakukan reboot reputasi. Model ini akan didahului oleh komite keselamatan dan keamanan yang dipimpin oleh CEO Sam Altman dan tiga dewan direksi lainnya.
Baca juga: ChatGPT Masih Menyebarkan Kebohongan, Kata Pengawas Data UE
Perusahaan yang bermarkas di San Francisco ini berada di bawah tekanan untuk menunjukkan komitmennya terhadap keselamatan. Peneliti risiko yang baru saja mengundurkan diri, Jan Leike dan Gretchen Krueger, mengungkap dugaan budaya keselamatan OpenAI yang buruk di X, yang sebelumnya bernama Twitter.
OpenAI Melatih 'Model Frontier Berikutnya'
Dalam postingan blog yang diterbitkan pada hari Selasa, perusahaan tersebut mengatakan:
“OpenAI baru-baru ini mulai melatih model frontier berikutnya dan kami mengantisipasi sistem yang dihasilkan akan membawa kita ke tingkat kemampuan berikutnya dalam jalur menuju kecerdasan umum buatan (AGI).”
OpenAI tidak mengatakan kapan penerus GPT-4 akan dirilis atau apa yang dapat dilakukannya. Perusahaan yang bernilai $80 miliar ini mengambil langkah pertama dengan chatbot AI yang sangat populer, ChatGPT, pada saat perusahaan favorit seperti Google mengambil posisi belakang dalam menilai risiko reputasi.
Meskipun OpenAI adalah yang terdepan dalam perlombaan kecerdasan buatan generatif yang diperebutkan secara ketat oleh Anthropic, Google, Microsoft, dan lainnya, perusahaan tersebut tidak selalu mematuhi pengawasan etika.
Dalam postingan yang mengumumkan pengunduran dirinya dari OpenAI on X, Leike mengungkapkan bahwa “selama beberapa tahun terakhir, budaya dan proses keselamatan telah menjadi prioritas utama dalam produk yang cemerlang.”
Krueger menulis bahwa perusahaan perlu “berbuat lebih banyak untuk meningkatkan hal-hal mendasar seperti proses pengambilan keputusan, akuntabilitas, transparansi, penegakan kebijakan, dan kehati-hatian dalam menggunakan teknologi kami sendiri.”
Pekan lalu, satuan tugas Uni Eropa menanggapi kritik tersebut dan melaporkan bahwa ChatGPT, produk andalan perusahaan, tidak memenuhi standar akurasinya.
Perusahaan Mengangkat Keamanan AI sebagai Nilai Jual Utama
Sementara itu, pembaruan terbaru OpenAI pada model GPT-4-nya langsung menimbulkan perdebatan sengit, dengan aktris Scarlett Johannson menuduh perusahaan tersebut menggunakan suaranya secara tidak sah.
Baca juga: OpenAI Hapus Suara ChatGPT Setelah Kontroversi Scarlett Johansson
Kini, perusahaan ini mengambil langkah cepat menuju bisnis laundry dengan menjadikan keselamatan sebagai nilai jual dari program AI mendatang. Badan ini juga ingin dilihat oleh regulator sebagai pengembangan AI yang bertanggung jawab. Dalam postingan blognya, OpenAI menambahkan:
“Meskipun kami bangga membangun dan merilis model-model yang terdepan di industri dalam hal kemampuan dan keselamatan, kami menyambut baik perdebatan sengit pada momen penting ini.”
Komite keselamatan dan keamanan baru akan dipimpin oleh direktur Altman, Bret Taylor (ketua), Adam D’Angelo dan Nicole Seligman. Kepala kesiapsiagaan perusahaan, kepala sistem keselamatan, kepala ilmu penyelarasan, kepala keamanan, dan kepala ilmuwan juga akan menjadi anggota komite.
OpenAI mengatakan komite tersebut selama tiga bulan ke depan akan “mengevaluasi dan mengembangkan lebih lanjut proses dan perlindungan” dan melaporkan kembali kepada tiga direktur lainnya.
Perusahaan membubarkan tim keselamatannya awal bulan ini menyusul kepergian ketua tim dan salah satu pendiri OpenAI Ilya Sutskever.
Pelaporan Cryptopolitan oleh Jeffrey Gogo
