Sebuah penipuan terkait AI baru telah muncul yang menampilkan ribuan influencer yang dihasilkan oleh AI yang telah membanjiri situs sosial seperti Instagram menggunakan gambar yang dicuri dari orang-orang nyata.
Penipuan ini termasuk mencuri video dari model nyata dan pembuat konten dewasa, memberikan mereka wajah yang dihasilkan oleh AI, dan memonetisasi tubuh mereka dengan tautan ke situs kencan seperti Patreon, kompetisi OnlyFans, dan berbagai aplikasi AI.
Influencer yang dihasilkan AI bersaing dengan manusia di Instagram
Pada bulan April, 404 Media pertama kali melaporkan praktik ini, ketika pertama kali muncul. Praktik ini kini telah berkembang menjadi tren populer yang telah membuat banyak orang berasumsi bahwa media sosial yang dikelola oleh Meta tidak mampu atau tidak mau menghentikan tren yang tampaknya terjadi di platformnya.
Ini terjadi ketika para pembuat konten manusia di Instagram mengatakan bahwa mereka kini bersaing dengan konten AI dengan cara yang kini mempengaruhi keberlangsungan mereka.
Dengan beberapa alat dan aplikasi AI siap pakai yang dihosting di Apple App dan Google Play Stores, para influencer AI kini dapat dengan mudah membuat dan memonetisasi akun mereka. Menurut Wired, mereka meninjau lebih dari 1.000 akun Instagram yang dihasilkan oleh AI dan saluran Discord di mana orang-orang yang membuat konten ini berbagi tips dan mendiskusikan strategi serta beberapa panduan yang menjelaskan bagaimana cara menghasilkan uang melalui “AI pimping”.
Wired menemukan bahwa masalah yang dulunya kecil di Instagram telah berkembang menjadi praktik besar yang sejalan dengan beberapa prediksi mengenai lanskap media sosial di masa depan, di mana konten yang dihasilkan oleh AI mengungguli konten manusia.
Pembuat konten dewasa yang mempromosikan karya mereka di Instagram kini khawatir tentang bersaing langsung dengan akun-akun tiruan AI ini, banyak di antaranya menggunakan foto dan video yang dicuri dari pembuat konten dewasa dan model Instagram.
Elaina St James, seorang pembuat konten dewasa, mengatakan bahwa meskipun mungkin ada perubahan lain pada algoritma Instagram yang dapat berkontribusi terhadap ini, sejak ledakan akun influencer yang dihasilkan oleh AI di Instagram, “jangkauan saya menurun drastis,” dari biasanya 1 juta hingga 5 juta tampilan per bulan. Dia tidak mencapai satu juta dalam 10 bulan terakhir, dan terkadang hanya mendapatkan kurang dari 500.000 tampilan.
“Ini mungkin salah satu alasan mengapa jumlah penonton saya menurun. Ini karena saya bersaing dengan sesuatu yang tidak alami.” St James.
Alexios Mantzarlis, direktur inisiatif keamanan, kepercayaan, dan keselamatan di Cornell Tech dan sebelumnya kepala intelijen kepercayaan dan keselamatan di Google, mengumpulkan daftar sekitar 900 akun dalam penelitian 404 Media.
Sebuah tanda tentang bagaimana media sosial akan terlihat dalam waktu dekat
Mantzarlis mengatakan ini bukan hal yang benar-benar baru atau mengejutkan karena ini hanya memenuhi prediksi yang dibuat sebelumnya mengenai teknologi AI dan adopsinya di platform media sosial.
“Ini terasa seperti tanda kemungkinan tentang bagaimana media sosial akan terlihat dalam lima tahun,” kata Mantzarlis.
“Karena ini mungkin akan menyebar ke bagian lain dari Internet, tidak hanya di niche orang-orang menarik di Instagram. Ini mungkin tanda bahwa ini akan menjadi cukup buruk.”
Mantzarlis.
Dari lebih dari 1.000 akun influencer Instagram yang dihasilkan oleh AI, setidaknya 100 di antaranya termasuk konten deepfake yang mengambil video yang ada, biasanya dari model dan penghibur dewasa, dan mengganti wajah mereka dengan wajah yang dihasilkan oleh AI untuk memberikan tampilan baru pada video.
Video-video tersebut akan terlihat seperti konten baru, asli yang konsisten dengan gambar dan video lain yang dihasilkan oleh AI yang dibagikan oleh influencer yang dihasilkan oleh AI.
Instagram akan bertindak setelah menerima keluhan
Instagram mengatakan bahwa mereka akan mengambil tindakan pada akun hanya jika mereka dilaporkan oleh pemilik yang sah atau seseorang yang berwenang untuk melaporkan atas nama mereka. Namun, banyak influencer manusia mengatakan saluran yang disediakan tidak berfungsi karena mereka memiliki terlalu banyak akun peniru untuk diikuti.
St James menambahkan bahwa fakta bahwa banyak dari akun influencer yang dihasilkan oleh AI ini dioperasikan oleh saya menambah penghinaan.
“Kami sebagai wanita di dunia menghasilkan uang lebih sedikit. Kami berada dalam posisi yang kurang menguntungkan dalam banyak hal. Satu area di dunia di mana kami memiliki keuntungan adalah dalam hal influencer dan modeling, jadi ini hanya lapisan tambahan,” kata St James.
“Ini agak membuat saya sedikit marah bahwa ada seorang pria yang menghasilkan uang berpura-pura menjadi wanita,” tambahnya.
Apple, yang sejauh ini gagal menyelesaikan masalah “dual use” dari aplikasi pengganti wajah yang dapat digunakan dengan cara yang tidak berbahaya tetapi sering digunakan untuk membuat konten tanpa konsensual, dihapus dari App Store setelah ditanya tentang masalah tersebut.
Dari Nol hingga Pro Web3: Rencana Peluncuran Karir Anda dalam 90 Hari