Tokoh-tokoh industri terbagi pendapatnya mengenai rancangan undang-undang kecerdasan buatan California yang kontroversial dan disahkan pada tanggal 28 Agustus.
Undang-undang baru tersebut akan memaksa perusahaan AI untuk menerapkan protokol keselamatan baru, termasuk tombol “berhenti darurat” untuk model AI.
Undang-Undang Inovasi Aman dan Terjamin untuk Model Kecerdasan Buatan Perbatasan (SB 1047) disahkan Senat California dengan perolehan suara 29–9 pada tanggal 28 Agustus.
RUU tersebut sekarang diserahkan ke meja Gubernur Gavin Newson untuk diratifikasi.
Elon Musk termasuk di antara mereka yang menyatakan dukungannya terhadap RUU tersebut. Di X, ia mengatakan bahwa itu adalah "keputusan yang sulit" tetapi mendukung undang-undang tersebut karena "potensi risiko" AI.
Sumber: Elon Musk
Namun, tidak semua tokoh teknologi memiliki keyakinan yang sama. Kepala strategi OpenAI Jason Kwon termasuk di antara mereka yang mengkritik undang-undang tersebut.
Calanthia Mei, salah seorang pendiri jaringan AI terdesentralisasi Masa, mengatakan dia tidak mendukung aturan baru tersebut, dan menganggapnya sebagai hasil dari tergesa-gesanya pembuatan undang-undang.
"Peraturan yang terlalu dini seperti ini tidak hanya akan mengusir bakat dari California; tetapi juga akan mengusir bakat dari Amerika," kata Mei kepada Cointelegraph. Ia menambahkan:
“Risikonya terletak pada kemungkinan besar bahwa kerangka regulasi Amerika saat ini dan yang diusulkan akan membatasi pertumbuhan industri AI.”
Raheel Govindji, CEO proyek AI terdesentralisasi DecideAI, mengambil pandangan yang kontras.
“Kami mendukung undang-undang tersebut,” kata Govindji kepada Cointelegraph.
Govindji mengatakan DecideAI mendukung killswitch yang dikendalikan oleh organisasi otonom terdesentralisasi (DAO), yang merupakan cara mereka mengusulkan untuk mendemokratisasi dan mendesentralisasi penghentian darurat.
AI adalah industri yang bergerak cepat
Sifat industri AI yang bergerak cepat telah memicu ketakutan tentang perkembangannya yang tak terkendali.
Dalam surat tertanggal 22 Agustus, mantan staf dan whistleblower di OpenAI memperingatkan, “Pengembangan model AI tingkat lanjut tanpa tindakan pencegahan keamanan yang memadai menimbulkan risiko bencana yang dapat diduga bagi masyarakat.”
Namun, bagi yang lain, pesatnya perkembangan AI merupakan sesuatu yang harus dirayakan, bukannya ditakuti.
Terbaru: Solusi tanpa masalah: Berapa banyak lapisan Ethereum 2 yang terlalu banyak?
“Berbeda dengan teknologi transformatif lainnya, kecepatan inovasi AI tidak tertandingi. Para pembangun mengirimkan produk, fitur, dan aplikasi baru setiap hari,” kata Mei.
"Kami sebagai pembangun bahkan tidak tahu di mana batas maksimal AI; bagaimana pemerintah bisa tahu batas maksimal AI? Menetapkan batasan untuk teknologi berpotensi tinggi adalah tindakan yang tidak bijaksana."
Mei memperingatkan bahwa biaya akhir dari undang-undang ini adalah “mengusir bakat keluar dari AS” seperti yang terjadi “pada kripto.”
Mereka yang mendukung
Govindji mengusulkan agar “killswitch yang dikendalikan DAO” dapat mendukung persyaratan undang-undang tersebut sambil tetap mempertahankan “pengambilan keputusan kolektif dan transparan.”
RUU tersebut menyatakan bahwa setiap model AI harus mampu “segera melakukan penghentian penuh” namun gagal mendefinisikan makna dari kata segera, sehingga menyisakan ruang yang cukup besar untuk interpretasi.
Untuk saat ini, belum diketahui apakah model DAO dan sistem pemungutan suara demokratisnya akan cukup cepat untuk memuaskan para legislator. Govindji yakin hal itu akan terjadi. Menurut Govindji, DecideAI “akan menjadi yang terdepan dalam menyediakan AI yang merupakan barang sosial.”
Perusahaan AI Anthropic juga secara terbuka mendukung RUU tersebut.
Dalam surat terbuka kepada Gubernur Newsom, CEO Anthropic Dario Amodei mengatakan, "Sistem AI mengalami kemajuan kemampuan yang sangat pesat, yang menawarkan harapan besar bagi perekonomian California dan risiko yang besar [...] Kami percaya SB 1047, khususnya setelah amandemen terkini, kemungkinan menghadirkan beban kepatuhan yang layak bagi perusahaan seperti kami, mengingat pentingnya mencegah penyalahgunaan yang fatal."
Versi awal RUU tersebut memberlakukan sanksi pidana bagi perusahaan yang gagal mematuhinya. Setelah berkonsultasi dengan industri, ketentuan ini diperlunak menjadi sanksi perdata saja.
RUU SB 1047
RUU SB 1047 hanya akan berlaku untuk “model yang dicakup”, dengan definisi model apa saja yang dicakup akan berubah seiring berjalannya waktu.
Saat diimplementasikan, model yang dicakup akan berupa AI yang menghabiskan biaya lebih dari $100 juta untuk dikembangkan atau “Model kecerdasan buatan yang dilatih menggunakan daya komputasi yang lebih besar dari 10^26 operasi integer atau floating-point.”
Badan Operasi Pemerintah pemerintah federal akan memutuskan setiap perubahan pada ambang batas daya komputasi.
Terbaru: Lima prediksi pasar kripto yang belum menjadi kenyataan — setidaknya sampai sekarang
Dalam suratnya kepada Gubernur Newsom, Kwon dari OpenAI berpendapat bahwa undang-undang terkait AI seharusnya hanya ditangani di tingkat federal, “bukan melalui serangkaian undang-undang negara bagian.”
Mengingat besarnya konsentrasi perusahaan teknologi dan AI di California, SB 1047 mungkin bisa dibilang merupakan undang-undang nasional de facto untuk saat ini.
Situasinya dapat berubah jika undang-undang tersebut menyebabkan perusahaan AI pindah ke negara bagian lain, tetapi untuk menghindari SB 1047 sepenuhnya, perusahaan tersebut juga perlu menghentikan semua operasi dan layanan di California.