Mantan anggota tim superalignment OpenAI William Saunders mengungkapkan alasannya meninggalkan organisasi, membuat analogi yang mencolok dengan tenggelamnya R.M.S. Raksasa. Menghabiskan tiga tahun di OpenAI, Saunders menyuarakan kekhawatirannya dalam sebuah episode podcast jurnalis teknologi Alex Kantrowitz, menekankan keyakinannya bahwa OpenAI mungkin sedang menuju bencana yang mirip dengan perjalanan menyedihkan yang dialami Titanic pada tahun 1912.
Saunders mengatakan bahwa pekerjaannya di OpenAI sering kali membuatnya bertanya-tanya apakah perkembangan perusahaan tersebut sesuai dengan keruntuhan tragis Titanic atau keberhasilan program luar angkasa Apollo. Meskipun Titanic musnah karena kurangnya sekoci dan masalah keselamatan lainnya yang terabaikan, program Apollo, meskipun mengalami kesulitan, akhirnya berhasil dengan upaya ilmiah yang tekun.
OpenAI adalah Titanic AI
“Banyak upaya yang dilakukan untuk membuat kapal aman dan membangun kompartemen kedap air sehingga mereka dapat mengatakan bahwa kapal tersebut tidak dapat tenggelam. Namun pada saat yang sama, sekoci yang tersedia tidak cukup untuk semua orang,” kata Saunders, yang menggambarkan analogi langsung dengan operasi OpenAI. Dia mengkritik etos perusahaan, yang dianggapnya memprioritaskan pengembangan produk dibandingkan tindakan pencegahan keselamatan yang penting.
Saunders menggambarkan lingkungan di OpenAI di mana karyawan yang menyuarakan masalah keselamatan dipinggirkan, dan kepemimpinan tampaknya lebih fokus pada keuntungan dibandingkan penerapan langkah-langkah keselamatan yang diperlukan. “Seiring berjalannya waktu,” katanya, “keputusan yang dibuat oleh para pemimpin mulai terasa seperti White Star Line yang membangun Titanic.”
Kritik Elon Musk terhadap OpenAI
Ini bukan pertama kalinya OpenAI menghadapi perbedaan pendapat internal. Elon Musk, salah satu pendiri OpenAI, baru-baru ini mengajukan dan kemudian mencabut gugatan terhadap perusahaan tersebut, dengan alasan bahwa perusahaan tersebut telah menyimpang dari misi aslinya. Meskipun Musk sudah bertahun-tahun tidak terlibat dengan OpenAI dan sekarang menjalankan perusahaan AI pesaingnya, xAI, kekhawatirannya mencerminkan sentimen Saunders.
Demikian pula, perusahaan AI saingannya, Anthropic, didirikan pada tahun 2021 oleh mantan karyawan OpenAI yang tidak puas dengan fokus OpenAI pada kepercayaan dan keamanan. Di sisi lain, Ilya Sutskever, salah satu pendiri dan mantan kepala ilmuwan lainnya, meninggalkan OpenAI pada Mei 2024 untuk memulai usahanya sendiri, menyatakan keyakinannya bahwa OpenAI akan mencapai tujuannya dengan aman.
Gunung es
Dengan banyaknya kepergian dan kritik yang menyamakan jalur OpenAI dengan Titanic, pertanyaan yang mendesak tetap ada: Siapa atau apa gunung es itu?
Jika kita menganggap penumpang dalam analogi Titanic sebagai seluruh umat manusia, maka gunung es dapat mewakili risiko eksistensial yang ditimbulkan oleh sistem AI canggih seperti ChatGPT bagi masyarakat yang tidak siap. Potensi AI untuk melampaui kecerdasan manusia tanpa perlindungan yang memadai dapat menimbulkan konsekuensi yang sangat buruk, serupa dengan kurangnya sekoci di Titanic.
Pos Mantan Karyawan OpenAI Menyebut Perusahaan 'Titanic of AI' muncul pertama kali di Berita dan Wawasan Terbaru tentang Blockchain, Mata Uang Kripto, dan Investasi.
