Berdasarkan KriptoKentang, video palsu dari raja pertambangan dan pengusaha Australia Andrew “Twiggy” Forrest di Facebook telah diidentifikasi sebagai yang terbaru dari serangkaian deepfake yang digunakan dalam iklan yang menipu, sehingga merusak kepercayaan pada media. Perusahaan keamanan siber Cybertrace menandai video tersebut, yang tampaknya mempromosikan platform perdagangan kripto palsu.

Rekaman tersebut muncul di Facebook, mendesak pemirsa untuk mendaftar ke platform penipuan yang disebut 'Quantum AI,' yang menurut Cybertrace terkenal karena penipuan dan penipuan finansial. Video tersebut mengubah tindakan dan tingkah laku Forrest dari 'obrolan api unggun' yang diselenggarakan oleh Rhodes Trust pada Oktober 2023. Cybertrace menemukan deepfake di Facebook pada 27 Januari, di mana versi miliarder yang dimodifikasi AI ditampilkan mendukung platform perdagangan kripto yang curang.

Meskipun perusahaan induk Facebook dan Instagram, Meta, menerapkan larangan deepfake pada awal tahun 2020, klip yang direkayasa terus menimbulkan masalah bagi pengguna yang tidak menaruh curiga di platform media sosial. Forrest telah mengkritik raksasa media sosial itu karena tidak berbuat cukup untuk mencegah penipuan dan sedang menunggu tuntutan pidana terhadap Facebook atas penipuan iklan kripto lainnya yang diduga menyalahgunakan citranya. Forrest mengungkapkan rasa frustrasinya, dengan menyatakan, 'Facebook tidak melakukan apa pun – itulah yang saya harap dapat diatasi dengan tindakan hukum yang saya mulai, untuk membuat perusahaan media sosial bertanggung jawab atas kelalaian mereka dalam menjalankan platform iklannya. Saya memulai proses hukum hampir dua tahun yang lalu karena khawatir terhadap warga Australia yang tidak bersalah yang ditipu di Facebook.'

Penipu deepfake sedang meningkat, dengan pendiri MicroStrategy Michael Saylor baru-baru ini mengungkapkan bahwa timnya berupaya menghapus sekitar 80 video palsu setiap hari, banyak di antaranya dirancang untuk mendukung berbagai penipuan Bitcoin. Selain itu, video modifikasi yang menampilkan tokoh ternama seperti miliarder Elon Musk juga bermunculan di media sosial. Beberapa video ini berisi link ke skema investasi, produk tidak sah, atau situs e-commerce yang tidak terkait yang hilang setelah beberapa hari. Video deepfake yang dihasilkan oleh kecerdasan buatan (AI) semakin menjadi salah satu ancaman keamanan utama di seluruh dunia. Data dari Sumsub menunjukkan bahwa proporsi deepfake di Amerika Utara mengalami peningkatan yang signifikan dari tahun 2022 hingga Q1 2023. Di Amerika Serikat, proporsinya melonjak dari 0,2% menjadi 2,6%, sedangkan di Kanada meningkat dari 0,1% menjadi 4,6%. Pada saat yang sama, jumlah pemalsuan cetakan, yang mencakup 4% – 5% dari seluruh penipuan pada tahun 2022, turun menjadi 0% pada kuartal terakhir.