Jaksa Kota San Francisco telah mengajukan gugatan terhadap pemilik 16 situs web yang mengizinkan pengguna untuk “menelanjangi” wanita dan gadis muda menggunakan AI.
Kantor Jaksa Kota San Francisco David Chiu pada tanggal 15 Agustus mengatakan bahwa ia menggugat pemilik 16 “situs web yang paling banyak dikunjungi” yang memungkinkan pengguna untuk “menelanjangi” orang dalam sebuah foto untuk membuat “gambar telanjang wanita dan gadis tanpa persetujuan.”
Versi gugatan yang disunting yang diajukan di Pengadilan Tinggi kota tersebut menuduh pemilik situs tersebut meliputi individu dan perusahaan dari Los Angeles, New Mexico, Inggris Raya, dan Estonia yang telah melanggar undang-undang California dan Amerika Serikat tentang pornografi deepfake, pornografi balas dendam, dan materi pelecehan seksual anak.
Situs-situs web tersebut juga tidak asing lagi. Keluhan tersebut mengklaim bahwa situs-situs tersebut telah meraup 200 juta kunjungan hanya dalam paruh pertama tahun ini.
Satu situs web membanggakan bahwa situs web tersebut memungkinkan penggunanya untuk "melihat siapa pun telanjang." Situs web lain mengatakan, "Bayangkan membuang-buang waktu mengajaknya berkencan sementara Anda bisa menggunakan [situs web] untuk mendapatkan foto telanjangnya," menurut pengaduan tersebut.
Kantor Chiu mengatakan model AI yang digunakan oleh situs tersebut dilatih pada gambar pornografi dan materi pelecehan seksual anak.
Pada dasarnya, seseorang dapat mengunggah foto targetnya untuk membuat versi pornografi yang realistis. Beberapa situs membatasi generasi mereka hanya untuk orang dewasa, tetapi yang lain bahkan memperbolehkan pembuatan gambar anak-anak.
Kantor Chiu mengatakan gambar-gambar tersebut "hampir tidak bisa dibedakan" dari aslinya dan telah digunakan untuk "memeras, menindas, mengancam, dan mempermalukan perempuan dan anak perempuan," yang banyak di antaranya tidak memiliki kemampuan untuk mengendalikan gambar palsu tersebut setelah dibuat.
Terkait: RUU AI California yang bertujuan mencegah bencana menuai kemarahan dari Silicon Valley
Pada bulan Februari, gambar telanjang hasil rekayasa AI dari 16 siswa kelas delapan — yang umumnya berusia 13 hingga 14 tahun — dibagikan oleh siswa di sebuah sekolah menengah pertama di California, katanya.
Pada bulan Juni, ABC News melaporkan Polisi Victoria menangkap seorang remaja karena diduga menyebarkan 50 gambar siswa kelas sembilan hingga 12 yang bersekolah di sebuah sekolah di luar Melbourne, Australia.
“Penyelidikan ini membawa kita ke sudut-sudut tergelap internet, dan saya benar-benar merasa ngeri bagi para wanita dan anak-anak perempuan yang harus menanggung eksploitasi ini,” kata Chiu.
“Kita semua perlu berperan serta dalam menindak tegas pelaku kejahatan yang menggunakan AI untuk mengeksploitasi dan melecehkan orang-orang nyata, termasuk anak-anak,” tambahnya.
Chiu mengatakan bahwa AI memiliki “janji yang sangat besar,” tetapi ada penjahat yang mengeksploitasi teknologi tersebut, seraya menambahkan, “Kita harus sangat jelas bahwa ini bukanlah inovasi — ini adalah pelecehan seksual.”
AI Eye: Gelembung AI belum berakhir meski memasuki 'palung kekecewaan'