William Saunders, mantan karyawan OpenAI dan anggota “tim superalignment” perusahaan, baru-baru ini mengungkapkan bahwa dia keluar dari perusahaan karena dia merasa perusahaan tersebut berada di jalur yang bertabrakan dengan tragedi, seperti halnya R.M.S. Titanic pada tahun 1912.

Seperti yang terlihat oleh Business Insider, Saunders memberikan komentarnya dalam episode podcast jurnalis teknologi Alex Kantrowitz.

Saunders mengatakan kepada Kantrowitz bahwa selama tiga tahun di OpenAI, dia terkadang bertanya pada dirinya sendiri apakah perusahaan tersebut berada di jalur yang “lebih mirip program Apollo atau lebih mirip Titanic.”

Alasannya tampaknya bahwa melalui upaya ilmiah yang hati-hati, program luar angkasa Apollo berhasil, meskipun mengalami kemunduran, sedangkan Titanic gagal meskipun berhasil.

Menurut Saunders:

“Banyak upaya yang dilakukan untuk membuat kapal aman dan membangun kompartemen kedap air sehingga mereka dapat mengatakan bahwa kapal tersebut tidak dapat tenggelam. Namun pada saat yang sama, sekoci yang tersedia tidak cukup untuk semua orang.”

OpenAI sebagai Titanic

Saunders menggambarkan etos umum perusahaan sebagai prioritas yang lebih tinggi pada pengembangan produk dibandingkan penerapan tindakan pencegahan keselamatan yang wajar.

Dia melukiskan gambaran sebuah kantor di mana karyawan yang mengemukakan masalah keselamatan akan dihukum, dan kepemimpinan berfokus pada keuntungan.

“Seiring berjalannya waktu,” kata Saunders, “keputusan yang dibuat oleh para pemimpin mulai terasa seperti White Star Line yang membangun Titanic.”

Gunung es

Saunders bukanlah orang pertama yang tidak setuju dengan cara OpenAI menjalankan bisnis. Elon Musk, salah satu pendiri perusahaan, baru-baru ini menggugat perusahaan tersebut atas klaim bahwa mereka telah menyimpang terlalu jauh dari misi aslinya. Meskipun Musk sudah bertahun-tahun tidak terlibat dengan OpenAI dan saat ini mengoperasikan pesaing langsungnya, xAI. Gugatan itu kemudian ditarik.

Perusahaan AI saingannya, Anthropic, didirikan pada tahun 2021 oleh mantan karyawan dan salah satu pendiri OpenAI karena kekhawatiran bahwa OpenAI tidak cukup fokus pada kepercayaan dan keamanan. 

Namun di sisi lain, Ilya Sutskever, salah satu pendiri dan mantan kepala ilmuwan OpenAI, yang meninggalkan perusahaan pada Mei 2024, untuk memulai perusahaannya sendiri, menulis pada saat itu bahwa ia “yakin” tim OpenAI akan dapat dengan aman memenuhi tujuannya.

Dengan begitu banyak karyawan yang melompat dari kapal, dan analogi Titanic dibicarakan oleh setidaknya satu orang, pertanyaan yang ada adalah: siapa atau apa gunung es itu?

Jika penumpang dalam analogi ini adalah kita — seluruh umat manusia — maka gunung es tersebut mewakili ancaman eksistensial yang ditimbulkan oleh ChatGPT dan sistem sejenisnya terhadap masyarakat yang tidak siap. Jika AI menjadi lebih cerdas dan mampu dibandingkan kita, dan kita tidak memiliki cukup “sekoci” untuk melindungi semua orang dari potensi bahayanya, maka kita bisa menuju tragedi.

Namun jika penumpangnya adalah pemegang saham dan pemangku kepentingan yang menunggu OpenAI menciptakan AI yang secerdas manusia, dan hal itu tidak pernah terjadi, mungkin gunung es tersebut mewakili pecahnya gelembung AI generatif.

Terkait: Perusahaan Teknologi Besar menghadapi perhitungan finansial jika AI pada tingkat manusia tidak segera terwujud