Perusahaan AI yang berbasis di California memprotes rancangan undang-undang AI baru yang menerapkan kontrol lebih ketat pada sektor ini dan berpotensi menghambat inovasi. RUU yang diusulkan memaksa perusahaan untuk mematuhi kerangka keselamatan yang ketat. Hal ini termasuk menciptakan “tombol mematikan” untuk mematikan model AI mereka yang kuat ketika perjuangan untuk mengendalikan sektor ini semakin meningkat.  

 Baca juga: Mengatasi Ancaman AI yang Menipu: Peneliti Keluarkan Pemanasan Mendesak

Beberapa langkah yang diusulkan dalam RUU ini mungkin berdampak negatif terhadap perusahaan teknologi seperti Meta, dan juga akan menciptakan pembatasan bagi perusahaan startup AI seperti OpenAI, Anthropic, dan Cohere.

Senat negara bagian mengesahkan RUU tersebut bulan lalu dan sekarang akan melakukan pemungutan suara di majelis umum pada bulan Agustus tahun ini.

RUU California mengancam model AI sumber terbuka

Menurut arstechnica, perusahaan teknologi besar harus menjamin bahwa mereka tidak akan pernah menciptakan model yang merugikan masyarakat, seperti senjata nuklir atau bantuan serangan keamanan siber.

Namun, rancangan undang-undang tersebut mendapat reaksi keras dari beberapa pemangku kepentingan di sektor ini, dengan alasan bahwa hal ini berdampak buruk pada startup yang mungkin terpaksa meninggalkan negara bagian tersebut. Hal ini juga dapat mencegah perusahaan besar seperti Meta untuk melakukan open source pada model mereka.

“Jika seseorang ingin membuat peraturan untuk menghambat inovasi, maka tidak ada yang bisa dilakukan dengan lebih baik,” kata Andrew NG, seorang ilmuwan komputer yang memimpin proyek AI di Google dan Baidu Tiongkok, dan duduk di dewan direksi Amazon.

“Hal ini menimbulkan risiko fiksi ilmiah yang sangat besar, sehingga memicu ketakutan pada siapa pun yang berani berinovasi.”

Arun Rao, manajer produk utama AI generatif di Meta, mengatakan RUU yang “tidak bisa dilaksanakan” akan “mengakhiri open source (di California).”

Protes memang diperkirakan terjadi, menurut Senator Wiener

Senator negara bagian Demokrat Scott Wiener, yang memperkenalkan RUU tersebut, mengabaikan kritik tersebut. Meskipun mendapat reaksi keras karena terlalu membatasi, legislator tersebut mengindikasikan bahwa protes tersebut bukanlah hal baru, dan datang dari sektor teknologi.

“Ini adalah sektor teknologi, mereka tidak suka dengan peraturan apa pun, jadi tidak mengherankan bagi saya bahwa akan ada penolakan.”

Senator Scott Wiener.

“Pada dasarnya saya ingin AI berhasil dan inovasi terus berlanjut, tetapi mari kita mencoba dan menghindari risiko keselamatan apa pun,” katanya.

Organisasi nirlaba Center for AI Safety (CAIS) yang berbasis di San Francisco, dipimpin oleh Dan Hendrycks, ikut mensponsori RUU California.

Baca juga: ‘AI Godfather’ Ingin Penghasilan Dasar Universal untuk Kehilangan Pekerjaan AI

Hendrycks mendukung RUU tersebut, dengan mengatakan bahwa RUU tersebut dapat membantu mengatasi salah satu permasalahan di sektor ini – mengambil jalan pintas di saat masyarakat juga menginginkan “pengawasan mendasar.”

“Ada tekanan persaingan yang memengaruhi organisasi-organisasi AI yang memberi insentif kepada mereka untuk mengambil jalan pintas dalam hal keselamatan.”

Sektor AI telah mengalami pertumbuhan pesat, yang juga menimbulkan kekhawatiran mengenai keamanan teknologinya. Tahun lalu, miliarder teknologi Elon Musk menyebut AI sebagai “ancaman bagi kemanusiaan.”

Pelaporan Cryptopolitan oleh Enacy Mapakame