WeChat Menindak Peniruan Selebriti yang Dihasilkan AI untuk Pemasaran yang Menipu

Platform media sosial Cina WeChat telah mengambil tindakan tegas untuk mengatasi masalah yang semakin meningkat tentang peniruan selebriti yang dihasilkan oleh AI yang digunakan untuk praktik pemasaran yang jahat.

Dalam pengumuman terbaru melalui akun resminya "WeChat Coral Security" pada 15 Desember 2024, platform tersebut mengungkapkan bahwa mereka telah menutup 209 akun yang terlibat dalam taktik pemasaran berbasis AI yang tidak etis, yang bertujuan untuk manipulasi kepercayaan konsumen dan mendapatkan lalu lintas penipuan.

Mereka telah dengan cepat menangani serangkaian pelanggaran di mana AI digunakan untuk meniru selebriti untuk tujuan promosi yang tidak tepat.

Platform tersebut menyatakan bahwa mereka telah menerima beberapa laporan dari pengguna dan melakukan pemeriksaan rutin, memungkinkan identifikasi dan penghapusan cepat dari aktivitas menipu ini.

WeChat mengatakan dalam pernyataan tersebut:

"Untuk melindungi hak pengguna dan mencegah penipuan konsumen, kami telah bertindak tegas untuk memerangi penyalahgunaan teknologi AI dalam pemasaran yang menipu."

Teknologi AI Memicu Praktik Menipu

Penggunaan teknologi AI untuk meniru tokoh publik yang terkenal telah mendapatkan perhatian, terutama untuk tujuan komersial.

Alat yang didorong oleh AI ini dapat membuat video dan rekaman suara palsu yang meyakinkan dengan mengkloning kemiripan tokoh terkenal, yang mengarah pada kesalahan representasi yang meluas secara online.

Penertiban WeChat dipicu oleh beberapa laporan dari pengguna dan pemantauan rutin, yang mengarah pada identifikasi akun yang menyalahgunakan teknologi ini.

WeChat sekarang telah menghapus 532 konten berbahaya sebagai bagian dari inisiatif yang lebih luas untuk memerangi aktivitas pemasaran penipuan ini.

Komitmen platform untuk meningkatkan perlindungan konsumen sangat jelas, dengan perusahaan menyatakan bahwa mereka akan terus fokus untuk membatasi praktik menipu semacam itu.

Tren Meningkat dari Peniruan AI yang Menipu

Meningkatnya kecanggihan konten yang dihasilkan oleh AI telah menimbulkan kekhawatiran, karena memungkinkan manipulasi konsumen melalui dukungan yang dibuat-buat.

Kasus-kasus terkenal tentang peniruan AI telah muncul, termasuk contoh di mana suara dan gambar selebriti digunakan untuk mempromosikan produk tanpa persetujuan mereka.

Salah satu kasus tersebut melibatkan aktor Hong Kong Raymond Wong, yang secara publik mengecam penggunaan penipuan terhadap gambar dan suaranya dalam iklan yang dihasilkan oleh AI.

Wong mengatakan dalam sebuah pernyataan yang diposting di media sosial:

“Perilaku ini adalah penipuan murni. Ini bertujuan untuk menyesatkan publik dan mengambil keuntungan darinya.”

Situasi ini memperlihatkan bahaya peniruan yang didorong oleh AI, di mana kepercayaan dimanipulasi untuk menipu konsumen untuk membeli produk melalui dukungan palsu.

Kekhawatiran Hukum dan Etika Seputar Penipuan yang Didorong oleh AI

Para ahli memperingatkan bahwa peniruan AI dapat melanggar hak individu.

Pengacara Xu Wei dari Firma Hukum Jingdu di Beijing menunjukkan bahwa menggunakan AI untuk mengubah kemiripan seseorang untuk tujuan komersial tanpa persetujuan melanggar hak potret mereka.

Jika produk yang dipromosikan melalui dukungan yang dibuat oleh AI ini dibesar-besarkan atau dijual dengan harga yang terlalu tinggi, itu bahkan bisa dianggap sebagai penipuan, karena konsumen mungkin disesatkan untuk melakukan pembelian berdasarkan dukungan palsu ini.

Xu juga menyoroti potensi kerusakan reputasi, mencatat bahwa penggunaan AI yang jahat, seperti menciptakan konten yang menyinggung atau menempatkan wajah seseorang dalam konteks yang tidak pantas, dapat menyebabkan pelanggaran hak pribadi seseorang.

Tanggung Jawab Platform dan Langkah-Langkah Masa Depan

Peran penyedia platform seperti WeChat juga sedang diperiksa.

Platform didorong untuk bertanggung jawab atas konten yang dihosting di situs mereka, memastikan bahwa video yang dihasilkan oleh AI diberi label jelas untuk menghindari kebingungan pengguna.

Regulasi ini mengharuskan penyedia layanan untuk memberi tanda yang jelas pada konten yang dihasilkan oleh AI dengan indikator yang terlihat di titik-titik kunci, seperti awal, akhir, atau area mencolok lainnya, di berbagai format seperti teks, audio, gambar, dan video.

Platform besar telah mulai menambahkan pernyataan, seperti “konten yang dihasilkan oleh AI” atau “diduga ciptaan AI,” untuk membantu pemirsa membedakan antara media nyata dan sintetis.

Namun, dalam kasus di mana platform gagal untuk memberi label atau menghapus konten yang menyesatkan dengan tepat, mereka bisa dimintai pertanggungjawaban atas penyebaran materi penipuan.

WeChat telah menyatakan bahwa mereka akan memperkuat upaya mereka untuk mencegah konten semacam itu mencapai pengguna, semakin memperketat praktik regulasi mereka.

Regulasi yang lebih ketat pada Layanan Sintesis AI

Menurut pedoman terbaru dari pihak berwenang di Cina, layanan AI yang menghasilkan konten deepfake harus dengan jelas menunjukkan kapan konten tersebut bisa menyebabkan kebingungan.

WeChat berkomitmen untuk semakin memperkuat tata kelolanya, memastikan bahwa baik pengguna maupun penyedia layanan tetap bertanggung jawab atas konten yang dihasilkan menggunakan teknologi AI.

Peran publik dalam membantu mengidentifikasi dan melaporkan konten AI yang menipu juga sangat penting dalam menjaga lingkungan online yang aman dan dapat dipercaya.

Dengan alat AI yang semakin mudah diakses, tanggung jawab ada pada penyedia platform dan pengguna untuk mencegah eksploitasi dan penipuan di dunia digital.