Apakah AI Menciptakan Krisis Media Sosial dengan NCII Sintetis? 🧐
#Graphika , sebuah perusahaan analisis media sosial, mengamati lonjakan drastis dalam penggunaan layanan Gambar Intim Non-Konsensual (NCII) sintetis, terutama dalam "AI membuka baju".
Ini melibatkan #AI alat yang menghilangkan pakaian dari gambar yang disediakan pengguna. Tautan rujukan ke 34 situs web dan 52 saluran Telegram yang menawarkan layanan tersebut meningkat sebesar 2,408% pada tahun 2023.
Layanan ini menghasilkan konten eksplisit tanpa izin, sehingga menimbulkan risiko seperti pelecehan dan pemerasan seks. Peran AI meluas ke video deepfake, yang meningkatkan kekhawatiran tentang materi pelecehan seksual terhadap anak-anak (CSAM). Pengawas internet memperingatkan dampak luar biasa dari konten yang dihasilkan AI, sehingga sulit membedakan antara konten asli dan palsu.
Masalah ini telah menarik perhatian global, termasuk pernyataan Uni Eropa yang baru-baru ini mengenai penggunaan AI.
