Kantor Kejaksaan Kota San Francisco David Chiu telah mengajukan gugatan terhadap pemilik 16 situs web terbesar di dunia yang mengizinkan AI untuk "menelanjangi" perempuan dan anak perempuan di foto tanpa persetujuan mereka.
Dokumen tersebut menuduh pelanggaran undang-undang negara bagian dan federal mengenai pornografi deepfake, pornografi balas dendam, dan materi pelecehan seksual terhadap anak.
“[...] AI Generatif mempunyai potensi yang sangat besar, namun seperti semua teknologi baru, terdapat konsekuensi yang tidak diinginkan dan pelaku kejahatan berusaha mengeksploitasi teknologi baru untuk keuntungan mereka. Kita harus jelas bahwa ini bukanlah inovasi – ini adalah kekerasan seksual [...],” kata Chiu.
Situs-situs yang terlibat dalam kasus ini menawarkan antarmuka yang mudah digunakan untuk mengunggah foto-foto perempuan dan anak perempuan berpakaian untuk pembuatan lebih lanjut versi pornografi yang realistis. Mereka hampir tidak dapat dibedakan dari gambar aslinya dan digunakan untuk pemerasan, intimidasi, ancaman dan penghinaan, kata pernyataan itu.
Secara total, situs tersebut dikunjungi lebih dari 200 juta kali pada paruh pertama tahun 2024. Beberapa di antaranya hanya mengizinkan Anda membuat foto dewasa, yang lain tidak memblokir permintaan saat mengunggah gambar anak-anak.
Pihak berwenang meminta penghapusan situs tersebut, denda dan perintah terhadap aktivitas ilegal di masa depan.
Google sebelumnya telah meningkatkan perjuangannya melawan pornografi deepfake. #BTC