Gubernur California Gavin Newsom baru saja mengesahkan undang-undang baru yang ketat untuk menindak tegas pemalsuan kecerdasan buatan bertema politik selama pemilu.

Hal ini terjadi hanya beberapa minggu setelah Elon Musk mengunggah ulang parodi iklan kampanye Kamala Harris di X yang ditonton jutaan kali dan menggunakan manipulasi suara bertenaga AI agar Harris seolah-olah menyebut dirinya sebagai kandidat presiden yang tidak kompeten.

Pada akhir Juli, Newsom secara khusus merujuk pada postingan Musk dan berjanji akan menandatangani undang-undang “dalam hitungan minggu” yang melarang praktik tersebut.

Iklan Kampanye Kamala Harris PARODI pic.twitter.com/5lBxvyTZ3o

— Tuan Reagan 🇺🇸 (@MrReaganUSA) 26 Juli 2024

Undang-undang baru, yang dikenal sebagai AB 2839, mulai berlaku segera dan secara efektif melarang individu dan kelompok untuk secara sadar membagikan deepfake pemilu dan “konten yang secara material menipu” lainnya.

Undang-undang yang ada saat ini hanya melarang distribusi media audio atau visual yang secara material menipu dari seorang kandidat dalam waktu 60 hari sebelum pemilihan umum. Undang-undang yang baru memperluas larangan tersebut hingga 120 hari sebelum pemilihan umum di California dan, dalam beberapa kasus, 60 hari setelah pemilihan umum diadakan.

Newsom juga menandatangani dua undang-undang lain yang ditujukan untuk menghapus deepfake AI politik pada hari yang sama, meskipun undang-undang tersebut tidak akan berlaku hingga bulan Januari.

Sumber: Gavin Newsom

Salah satu undang-undang, AB 2355, akan mengharuskan label dicantumkan pada iklan politik yang dibuat atau diubah secara substansial dengan AI.

Yang lainnya, AB 2655, mengharuskan platform media sosial dengan lebih dari 1 juta pengguna di California, seperti Facebook dan X, untuk memblokir konten menyesatkan terkait pemilu selama periode tertentu.

Ini juga akan membuat platform bertanggung jawab jika gagal menghapus konten dalam waktu 72 jam setelah menerima laporan dari pengguna.

Ketiga undang-undang tersebut hanya berlaku di California, dan diketahui bahwa gubernur menandatangani RUU tersebut saat berbincang santai dengan CEO Salesforce Marc Benioff di konferensi Dreamforce di San Francisco.

“Ini sangat berbeda dari RUU lain yang telah diajukan,” kata Ilana Beller, seorang manajer pengorganisasian tim demokrasi di organisasi advokasi konsumen Public Citizen kepada The New York Times.

Sementara itu, Newsom menandatangani dua RUU tambahan, AB 1836 dan AB 2602, pada 17 September, yang bertujuan untuk memberikan perlindungan lebih besar kepada para pemain atas penggunaan kemiripan digital mereka.

Gavin Newsom (kiri bawah) menandatangani undang-undang AI untuk melindungi para pelaku seni dari penyalahgunaan AI. Sumber: Instagram

Iklan parodi kampanye Harris palsu, yang diposting pada tanggal 26 Juli, telah mencapai 25,4 juta penayangan di X saja dan masih tersedia di platform tersebut hingga saat ini.

Musk kemudian membela tindakannya me-retweet postingan asli pada saat itu, dengan mengejek Newsom:

“Saya sudah bertanya kepada pakar dunia terkemuka, Profesor Suggon Deeznutz, dan dia mengatakan bahwa parodi itu legal di Amerika”

Majalah: Rencana ‘neraka’ drone AI untuk Taiwan, LLM terlalu bodoh untuk menghancurkan umat manusia: AI Eye