Ekspansi pesat teknologi AI membuat ancaman perang nuklir besar-besaran semakin mungkin terjadi, demikian peringatan Sekretaris Jenderal PBB, António Guterres. Dalam sebuah rekaman video, Guterres mengatakan umat manusia berada “di ujung tanduk” ketika negara-negara berlomba untuk membangun senjata yang paling mumpuni, sehingga membahayakan nyawa.

Baca juga: Karyawan mengklaim OpenAI dan Google DeepMind menyembunyikan risiko AI

Pesan video peringatan dari Sekjen PBB itu akan diputar pada konferensi tahunan Asosiasi Pengendalian Senjata AS (ACA) di Washington pada tanggal 7 Juni, lapor Guardian. Guterres memohon kepada negara-negara pemilik senjata nuklir untuk “melanjutkan dialog dan setuju bahwa tidak ada satupun negara yang akan meluncurkan dialog terlebih dahulu.”

Guterres ingin AI menjauh dari senjata nuklir

Menurut Sekretaris Jenderal, sistem yang dibangun untuk mencegah “penggunaan, pengujian dan proliferasi senjata nuklir” telah melemah sejak berakhirnya perang dingin lebih dari 30 tahun yang lalu.

Ada kekhawatiran bahwa ketika negara-negara seperti AS dan Rusia meningkatkan tindakan untuk saling menghalangi, mereka akan beralih ke AI untuk memudahkan prosedur peluncuran nuklir. Kedua negara dilaporkan mempunyai rudal balistik antarbenua dalam keadaan siaga tinggi, yang berarti mereka siap meluncurkannya jika ada peringatan beberapa menit kemudian.

Dalam pidato videonya kepada ACA, Guterres berkata:

“Umat manusia berada di ujung tanduk; Risiko penggunaan senjata nuklir telah mencapai tingkat yang belum pernah terjadi sebelumnya sejak Perang Dingin. Negara-negara sedang terlibat dalam perlombaan senjata kualitatif. Teknologi seperti kecerdasan buatan melipatgandakan bahayanya.”

Guterres menambahkan bahwa “semua negara harus sepakat bahwa setiap keputusan mengenai penggunaan nuklir dibuat oleh manusia, bukan mesin atau algoritma.”

Pada tahun 2022, AS, Inggris, dan Prancis mengeluarkan pernyataan bersama yang menyatakan komitmen mereka untuk memastikan bahwa manusia tetap memegang kendali selama peluncuran nuklir. Rusia dan Tiongkok belum membuat komitmen serupa, menurut media industri. Federasi Ilmuwan Amerika memperkirakan jumlah senjata nuklir turun dari 70.300 pada tahun 1986 menjadi 12.100 pada tahun ini.

Para ilmuwan meningkatkan kewaspadaan terhadap AI

Peringatan Guterres bukanlah hal baru. Banyak ilmuwan telah memperingatkan bahaya kecerdasan buatan di masa lalu. Laporan tahun 2018 oleh Rand Corporation mengatakan pengembangan AI meningkatkan risiko perang nuklir. Laporan tersebut menyatakan bahwa integrasi AI, pembelajaran mesin, dan analisis data besar akan meningkatkan kemampuan militer untuk menemukan, melacak, menargetkan, dan menghancurkan kekuatan penangkal nuklir lawan.

Baca juga: AI yang Kuat Ancam Kemanusiaan: Mengapa Para Ahli Bersikeras Moratorium Global

Pihak lain juga ikut terlibat dalam perdebatan tersebut. Bagi mantan pemimpin produk Google, Bilawal Sidhu, perdebatan tentang AI dapat diperlakukan seperti nuklir atau dibiarkan terbuka. Ia berargumentasi bahwa AI bersumber terbuka akan memungkinkan pelaku baik mengawasi pelaku jahat, sehingga meminimalkan risiko.

Dalam wawancara sebelumnya dengan Newsweek, mantan Menteri Luar Negeri AS Henry Kissinger mengatakan AI “sama pentingnya” tetapi “kurang dapat diprediksi” dibandingkan senjata nuklir. Kissinger percaya bahwa risiko AI dapat dikelola melalui kerja sama dan regulasi internasional.

Pelaporan Cryptopolitan oleh Jeffery Gogo