Salah satu pendiri Ethereum, Vitalik Butertin, telah berbagi pendapatnya tentang kecerdasan buatan (AI) “super cerdas” yang menyebutnya “berisiko” sebagai respons terhadap perubahan kepemimpinan yang sedang berlangsung di OpenAI.
Pada tanggal 19 Mei, Cointelegraph melaporkan bahwa mantan kepala penyelarasan OpenAI, Jan Leike, mengundurkan diri setelah mengatakan dia telah mencapai “titik puncak” dengan manajemen mengenai prioritas inti perusahaan.
Leike menuduh bahwa “budaya dan proses keselamatan tidak lagi menjadi produk unggulan” di OpenAI, dan banyak yang menunjuk pada perkembangan seputar kecerdasan umum buatan (AGI).
AGI diharapkan menjadi jenis AI yang setara atau melampaui kemampuan kognitif manusia—hal ini sudah mulai menimbulkan kekhawatiran para pakar industri, yang mengatakan bahwa dunia belum memiliki perlengkapan yang memadai untuk mengelola sistem AI yang sangat cerdas tersebut.
Sentimen ini sepertinya sejalan dengan pandangan Buterin. Dalam postingannya di X, dia membagikan pemikiran terkininya mengenai topik tersebut, menekankan bahwa kita tidak boleh terburu-buru mengambil tindakan atau melawan mereka yang mencoba.
Sumber: Vitalik Buterin
Buterin menekankan model terbuka yang dijalankan pada perangkat keras konsumen sebagai “lindung nilai” terhadap masa depan di mana sekelompok kecil perusahaan kemudian dapat membaca dan memediasi sebagian besar pemikiran manusia.
“Model seperti itu juga jauh lebih rendah dalam hal risiko malapetaka dibandingkan megalomania korporat dan militer.”
Ini adalah komentar keduanya dalam seminggu terakhir mengenai AI dan peningkatan kemampuannya.
Pada 16 Mei, dia berpendapat bahwa model GPT-4 OpenAI telah melampaui uji Turing, yang menentukan “kemanusiaan” model AI. Dia mengutip penelitian baru yang menyatakan bahwa kebanyakan manusia tidak dapat menguraikannya ketika berbicara dengan mesin.
Terkait: Fitur penarikan ‘Black Mirror’ baru dari Microsoft mencatat semua yang Anda lakukan
Namun Buterin bukanlah orang pertama yang mengungkapkan kekhawatiran tersebut. Pemerintah Inggris juga baru-baru ini mengamati peningkatan keterlibatan Big Tech di sektor AI, sehingga menimbulkan masalah terkait persaingan dan dominasi pasar.
Kelompok-kelompok seperti 6079 AI sudah bermunculan di internet, mendukung desentralisasi AI untuk memastikan AI tetap lebih demokratis dan tidak didominasi oleh Big Tech.
Sumber: 6079.ai
Hal ini menyusul kepergian anggota senior tim kepemimpinan OpenAI lainnya pada tanggal 14 Mei, ketika Ilya Sutskever, salah satu pendiri dan kepala ilmuwan, mengumumkan pengunduran dirinya.
Sutskever tidak menyebutkan kekhawatiran apa pun tentang AGI. Namun, dalam postingannya di X, dia menyatakan keyakinannya bahwa OpenAI akan mengembangkan AGI yang “aman dan bermanfaat.”
Majalah: 'Sic AI satu sama lain' untuk mencegah kiamat AI: David Brin, penulis fiksi ilmiah
