Pengetahuan keselamatan: Waspada terhadap bahaya perubahan wajah AI
1. Apa yang dimaksud dengan “AI yang mengubah wajah”?
Pengubahan wajah AI biasanya mengacu pada penggunaan teknologi Deepfakes dalam pembelajaran mendalam untuk mengganti wajah seseorang dengan wajah orang lain. Teknologi ini dapat membuat video atau gambar palsu menjadi tampak nyata dengan menganalisis fitur wajah orang yang dituju dan kemudian menerapkannya pada video atau gambar lain.
Teknologi pengubah wajah memiliki nilai penerapan tertentu dalam hiburan, produksi film, dan bidang lainnya, tetapi juga membawa banyak bahaya. Secara khusus, Deepfakes digunakan dalam produksi materi pelecehan seksual terhadap anak-anak, video porno selebriti, pornografi balas dendam, dan berita palsu telah mendapat perhatian luas karena potensi penggunaannya dalam lelucon, intimidasi, dan penipuan keuangan.
2. Sejarah perkembangan “AI yang mengubah wajah”
Pada tahun 2017, Supasorn Suwajanakorn dan lainnya dari Universitas Washington menggunakan teknologi pembelajaran mendalam untuk meluncurkan "Synthesizing Obama" [1] (Synthetic Obama Project), yang diterbitkan di Siggraph 2017. Sederhananya, teknologi tersebut memodifikasi klip video Barack Obama sehingga ia mengucapkan kata-kata dari trek audio baru yang tidak ada hubungannya dengan video tersebut. Teknologinya merupakan aplikasi komprehensif dari teknologi seperti Recurrent-Neural-Network (RNN) dan Mouth Synthesis. Efeknya sangat bagus. Audio dan mulut dalam video disesuaikan untuk menghasilkan efek sintetik yang senyata nyata:
3. Bahaya “AI yang mengubah wajah”!
· Kasus di bidang keuangan tradisional:
Di bidang keuangan tradisional, teknologi yang mengubah wajah digunakan untuk aktivitas penipuan. Misalnya, menurut laporan [7,8], penjahat menggunakan informasi pribadi yang diperoleh secara ilegal untuk mensimulasikan dan mensintesis potret, wajah dan suara kerabat, kolega atau pejabat publik yang ditipu melalui algoritma komputer, dan meniru identitas orang-orang di atas untuk melakukan penipuan. Setelah mendapatkan kepercayaan korban, mereka menggunakan rutinitas yang telah disiapkan sebelumnya untuk mengirimkan informasi palsu seperti transfer kartu bank, investasi virtual dan pengelolaan keuangan, dan rabat tagihan kepada korban, dan menggunakan panggilan video, bom suara, dan cara lain untuk semakin mengurangi kepercayaan korban. sikap defensif. , sehingga menyulitkan korban untuk menyadari kelainan tersebut dalam waktu singkat. Setelah penipu mempercayai triknya dan menyelesaikan transfer, tidak akan ada kabar dari pihak lain. #ai
