Riset Keamanan GoPlus: Efek pedang bermata dua dari teknologi AI yang mengubah wajah!
Dalam beberapa tahun terakhir, seiring pesatnya perkembangan teknologi kecerdasan buatan, teknologi yang disebut "AI face-changing" secara bertahap mulai terlihat publik. Asal usul teknologi ini dapat ditelusuri kembali ke tahun 2017, ketika Supasorn Suwajanakorn, seorang peneliti di Universitas Washington, dan lainnya meluncurkan proyek yang disebut "Synthesizing Obama" melalui teknologi pembelajaran mendalam. Dalam proyek ini, mereka berhasil memodifikasi klip video Barack Obama agar dia mengucapkan kata-kata dari trek audio baru yang tidak ada hubungannya dengan video tersebut. Inti dari teknologi ini terletak pada penerapan komprehensif jaringan saraf berulang (RNN) dan teknologi sintesis mulut. Efeknya sangat realistis sehingga audio dan gerakan mulut dalam video hampir tidak dapat dibedakan.
Dengan hadirnya teknologi ini, berbagai video dan komunitas pun bermunculan. Banyaknya produser video mulai menggunakan teknologi AI pengubah wajah untuk menambahkan berbagai efek khusus yang kompleks dan teknologi resolusi super pada karyanya, sehingga kualitas karyanya terlihat nyata. Video-video ini disebarluaskan di YouTube, Instagram, TikTok, dan platform lainnya. Menurut statistik, jumlah penayangan video terkait Deepfakes telah melebihi 10 miliar kali. Beberapa produser video berkualitas tinggi bahkan telah melampaui 1 juta penayangan dalam satu video.
Namun, di balik kegilaan ini, kita juga harus mewaspadai kemungkinan dampak buruk yang ditimbulkan oleh teknologi AI yang dapat mengubah wajah. Seri DeepFaceLab, perangkat lunak pengubah wajah paling sukses di komunitas open source, adalah salah satu perwakilannya. Dikembangkan antara lain oleh Ivan Perov dan Daiheng Gao, perangkat lunak ini memiliki lebih dari 66.000 bintang GitHub dan merupakan salah satu dari sepuluh proyek sumber terbuka AI teratas pada tahun 2020, bersama raksasa seperti Tensorflow dan PyTorch. Perlu disebutkan bahwa Daiheng Gao juga merupakan konsultan AI untuk GoPlus, dengan fokus pada penelitian untuk mencegah penyalahgunaan teknologi.
Meskipun teknologi AI yang mengubah wajah telah memberikan kita pengalaman kreatif dan hiburan yang belum pernah terjadi sebelumnya, kita juga harus menyadari bahwa teknologi ini juga dapat digunakan untuk tujuan jahat. Misalnya, dengan mengganti gambar wajah dalam video, penjahat dapat membuat propaganda politik palsu, konten pornografi, atau serangan jahat terhadap orang lain.
Oleh karena itu, tim GoPlus menghimbau masyarakat umum untuk waspada saat menggunakan teknologi AI pengubah wajah dan menghindari penggunaannya untuk tujuan ilegal atau jahat.
