Pornografi deepfake merajalela di Korea Selatan, dan idola girl grup TWICE juga menjadi korbannya
Korea Selatan baru-baru ini mengungkap skandal pornografi ilegal berskala besar yang melibatkan deepfake. Para pelaku terutama mengumpulkan foto wajah wanita biasa dan artis wanita, dan menggunakan teknologi AI untuk mensintesis gambar tersebut dan mengedarkannya ke grup-grup di perangkat lunak perpesanan Telegram Termasuk para korban gadis di bawah umur dan anggota girl grup seperti TWICE dan NewJeans.
Saat ini, perusahaan manajemen idola Korea Selatan JYP, YG dan CUBE semuanya telah mengeluarkan pernyataan bahwa mereka akan serius mengambil tindakan yang melanggar hak artisnya. Diantaranya, JYP bahkan mengatakan bahwa mereka "tidak akan pernah berdiam diri dan menonton."
Seberapa seriuskah pornografi deepfake di Korea Selatan? Liga Wanita: Ini telah menjadi krisis nasional
Kasus kekerasan seksual digital yang serius "Room N" pecah di Korea Selatan hanya beberapa tahun yang lalu, dan kali ini kejahatan seks palsu tersebut disebut "Room N 2.0" oleh media, dan para penjahat bahkan telah memperluas jangkauan mereka ke dalam kejahatan tersebut. sekolah.
Baru-baru ini, Hankyoreh menerbitkan berita eksklusif yang mengejutkan Korea Selatan. Reporter Ko Narin melakukan penyelidikan mendalam terhadap sindikat kejahatan seks palsu di dua universitas dan menemukan bahwa ada lusinan grup terkait di Telegram orang... Mengunggah foto gadis-gadis yang Anda kenal dan mengubahnya menjadi pornografi deepfake dalam hitungan detik adalah kejahatan yang menyebar di banyak kampus bahkan mengembangkan peta korban deepfake untuk memperingatkan.
Sumber: Korea Times Peta korban palsu yang dikembangkan oleh mahasiswa Korea Selatan
Yang lebih mengejutkan lagi adalah menurut Cho Ji-ho, direktur Badan Kepolisian Korea Selatan, 75% pelaku kejahatan seks deepfake yang ditangkap sejauh ini adalah anak muda berusia antara 10 dan 19 tahun; tahun 37% korban deepfake adalah anak di bawah umur.
Hanya berbagi foto wajah Anda di media sosial dan khawatir foto tersebut akan digunakan untuk membuat film porno pertukaran wajah? Kelompok perempuan Korea Selatan "Asosiasi Persahabatan Wanita" menuduh bahwa keseriusan kejahatan seksual palsu telah menjadi krisis nasional, menyebabkan perempuan setempat merasa panik dan kehilangan rasa aman dalam kehidupan sehari-hari.
Polisi Korea Selatan meluncurkan penyelidikan pra-izin terhadap Telegram
Pasca merebaknya kejahatan seks palsu, Presiden Korea Selatan Yoon Seok-yue memerintahkan penyelidikan menyeluruh dan pemberantasan penyebaran kejahatan seks digital. Pada tanggal 29 Agustus, partai yang berkuasa juga mendorong undang-undang untuk meningkatkan hukuman penjara maksimum untuk kejahatan seksual dari lima tahun menjadi tujuh tahun.
Pada tanggal 2 September, Woo Jong-soo, direktur Markas Besar Investigasi Nasional Badan Kepolisian Nasional Korea Selatan, mengumumkan bahwa polisi telah meluncurkan penyelidikan pra-kasus terhadap Telegram dengan alasan bahwa Telegram diduga membantu dalam pemalsuan mendalam.
Yu Zhongshou mengungkapkan kegagalan Telegram untuk bekerja sama secara aktif dalam penyelidikan tidak hanya menjadi masalah bagi kepolisian Korea Selatan, tetapi juga bagi negara lain. Mereka berencana bekerja sama dengan layanan investigasi Perancis dan beberapa organisasi internasional untuk menemukan cara mendeteksi Telegram.
Baru-baru ini, pihak berwenang Prancis telah mengajukan berbagai tuntutan kejahatan terhadap Durov, pendiri Telegram, termasuk dugaan peran Telegram dalam memfasilitasi perdagangan narkoba, kejahatan seks anak, dan kejahatan terorganisir lainnya.
Setelah Perancis mengambil tindakan, pemerintah Indonesia mengumpulkan bukti adanya konten ilegal yang disebarkan di Telegram dan sedang mempertimbangkan untuk melarangnya; pihak berwenang India juga meluncurkan penyelidikan untuk memastikan apakah platform tersebut melanggar peraturan hukum; , yang sudah dua kali dilakukan Kejahatan seks digital berskala besar disebarkan melalui Telegram.
Sumber: News.za Porno palsu merajalela di Korea Selatan, dan banyak kelompok kriminal bermunculan di Telegram
Haruskah Telegram bertanggung jawab atas penyalahgunaan pengguna?
"CryptoCity" sebelumnya melaporkan bahwa Telegram menyatakan bahwa platform tersebut mematuhi peraturan UE, dan bahwa Durov sendiri tidak dicurigai melakukan kejahatan. Adalah konyol untuk mengklaim bahwa platform tersebut bertanggung jawab atas penyalahgunaan pengguna.
Namun, meskipun Telegram mengatakan akan secara proaktif memantau konten publik di platformnya, menggunakan alat AI untuk menangani keluhan pengguna, dan menghapus jutaan konten yang melanggar ketentuan platform setiap hari, tampaknya Telegram masih belum mampu mengekang penyalahgunaan secara efektif.
Tuduhan terhadap pendiri Telegram telah memicu perdebatan antara kebebasan berpendapat, privasi pengguna, dan pembatasan kejahatan. Musk, pendiri Ethereum Vitalik Buterin, dan lainnya telah menyatakan keprihatinannya tentang kebebasan berbicara, tetapi dari sudut pandang lembaga penegak hukum, platform tersebut menolak untuk melakukannya. Kerja sama akan mempersulit penyelesaian kasus dan membuat para pelaku kejahatan semakin berani.
Di Taiwan, Dcard, sebuah platform jejaring sosial terkenal, pernah menjadi sasaran jaksa dan polisi yang menggunakan tiket pencarian untuk mengakses informasi karena penggunanya terlibat dalam penipuan, kasus anak-anak dan remaja, dll. Dengan alasan melindungi privasi pengguna, Dcard memberikan informasi terbatas untuk membantu penyelidikan dan investigasi.
Sumber foto: Lin Yuqin, pendiri DcardDcard
Namun, rancangan lain dari "Undang-Undang Layanan Perantara Digital" yang diperkenalkan untuk menargetkan keamanan Internet ditarik di tengah keraguan tentang pembatasan kebebasan berbicara, yang menunjukkan bahwa masyarakat Taiwan masih mencari keseimbangan antara kebebasan berbicara dan keamanan Internet.