Sekelompok ilmuwan kecerdasan buatan mendesak negara-negara untuk membuat sistem pengawasan global guna mencegah potensi “dampak bencana” jika manusia kehilangan kendali atas AI.
Dalam pernyataan yang dirilis pada 16 September, sekelompok ilmuwan AI yang berpengaruh menyuarakan kekhawatiran bahwa teknologi yang mereka bantu kembangkan dapat menyebabkan bahaya serius jika kendali manusia hilang.
“Hilangnya kendali manusia atau penggunaan sistem AI yang jahat dapat menyebabkan hasil yang buruk bagi seluruh umat manusia,” bunyi pernyataan tersebut sebelum melanjutkan:
“Sayangnya, kita belum mengembangkan ilmu pengetahuan yang diperlukan untuk mengendalikan dan menjaga penggunaan kecerdasan canggih tersebut.”
Para ilmuwan sepakat bahwa negara-negara perlu mengembangkan otoritas untuk mendeteksi dan menanggapi insiden AI dan risiko bencana dalam yurisdiksi mereka dan bahwa “rencana kontinjensi global” perlu dikembangkan.
“Dalam jangka panjang, negara-negara harus mengembangkan rezim tata kelola internasional untuk mencegah pengembangan model-model yang dapat menimbulkan risiko bencana global.”
Pernyataan tersebut didasarkan pada temuan dari Dialog Internasional tentang Keamanan AI di Venesia pada awal September, pertemuan ketiga yang diselenggarakan oleh kelompok penelitian nirlaba AS Safe AI Forum.
Profesor Gillian Hadfield dari Universitas Johns Hopkins, yang membagikan pernyataan tersebut dalam sebuah posting di X, berkata, “Jika kita mengalami semacam bencana enam bulan dari sekarang, jika kita mendeteksi adanya model yang mulai memperbaiki diri secara otonom, siapa yang akan Anda hubungi?”
Sumber: Gillian Hadfield
Mereka menyatakan bahwa keselamatan AI diakui sebagai barang publik global, yang memerlukan kerja sama dan tata kelola internasional.
Pengembang AI mengusulkan tiga proses utama: perjanjian dan lembaga kesiapsiagaan darurat, kerangka kerja jaminan keselamatan, dan penelitian verifikasi dan keselamatan AI global yang independen.
Pernyataan tersebut ditandatangani oleh lebih dari 30 penandatangan dari Amerika Serikat, Kanada, Tiongkok, Inggris, Singapura, dan negara-negara lain. Kelompok tersebut terdiri dari para ahli dari berbagai lembaga penelitian AI dan universitas terkemuka serta beberapa pemenang Turing Award, yang setara dengan Hadiah Nobel untuk bidang komputasi.
Para ilmuwan mengatakan dialog itu diperlukan karena menyusutnya pertukaran ilmiah antara negara adidaya dan meningkatnya ketidakpercayaan antara AS dan China, menambah sulitnya mencapai konsensus tentang ancaman AI.
Pada awal September, AS, Uni Eropa, dan Inggris menandatangani perjanjian AI internasional pertama yang mengikat secara hukum, yang memprioritaskan hak asasi manusia dan akuntabilitas dalam regulasi AI.
Namun, perusahaan teknologi dan para eksekutifnya mengatakan bahwa regulasi yang berlebihan dapat menghambat inovasi, terutama di Uni Eropa.
Majalah: Rencana ‘neraka’ drone AI untuk Taiwan, LLM terlalu bodoh untuk menghancurkan umat manusia: AI Eye