什麼是 Deepfake？

“deepfake” 是一種技術過程，它使用人工智能 (AI)，特別是深度學習算法和生成對抗網絡 (GAN)，創建非常逼真的合成媒體，通常以聲音、照片或視頻的形式出現。由於這些算法是在大數據集上進行訓練的，所以 Deepfakes 能夠通過操縱或疊加現有的視覺和音頻內容來產生全新的、往往具有誤導性的信息。

利用這項技術，面部、聲音和其他獨特特徵可以被無縫改變，創造出栩栩如生、難以與真實材料辨別的圖像。Deepfakes 對藝術、娛樂和教育很有用，但它們也存在傳播虛假信息、侵犯隱私和可能被用來抹黑他人的嚴重風險。

照片：Vimeo

隨着深度僞造技術越來越受歡迎，越來越多的平臺開始製作這些經過修改的視頻和圖像。下面列出了一些流行的深度僞造平臺，它們展示了這項技術的範圍，從 GIF 中的簡單換臉到高級視頻處理，反映了深度僞造的多功能性和潛在用途。

臉部識別應用

FaceApp 以其面部變換功能而聞名，它允許用戶應用各種濾鏡來改變自己的外貌，例如變老或變性，並提供用戶友好的界面。

他們

一款中國深度僞造應用程序，因其能夠快速、高精度地替換視頻片段中的人臉而備受關注。ZAO 爲用戶提供簡單的工具來創建個性化的深度僞造。

恢復

一款用於在短視頻和 GIF 中交換面孔的移動應用。Reface 提供各種內容，包括熱門電影場景和名人圖像，讓您可以輕鬆創建娛樂內容。

DeepFace實驗室

DeepFaceLab 是一個更先進的深度僞造製作平臺，它是開源的，專爲想要製作複雜深度僞造項目的經驗豐富的用戶而設計。它允許對視頻中的面部進行細緻的處理。

旺博

Wombo 專注於口型同步，讓用戶能夠製作出唱歌或說話時面部表情生動的視頻。該平臺被廣泛用於創作幽默和娛樂內容。

Deepfakes 網絡

Deepfakes Web 是一項基於 Web 的服務，其設計旨在方便用戶使用。用戶可以上傳視頻和圖片來生成深度僞造內容，無需高級技術技能。

深假工作室

Deepfake Studio 是一個用於製作 Deepfake 視頻的綜合平臺，它提供各種用於換臉和處理視頻內容的工具。它既適合初學者，也適合經驗豐富的用戶。

Deepfakes 會帶來風險嗎？

事實上，獲取生成深度僞造所需的技術相當容易，而且很有可能被濫用於虛假信息、政治造假、社交媒體模仿和犯罪。威脅行爲者和其他犯罪分子可能會利用這些不真實的材料，編造故事、威脅他人或冒充知名人士，以實施欺詐或損害他人名譽。

惡意 Deepfakes 的實際案例

湯姆·克魯斯 Deepfake

TikTok 上湯姆·克魯斯的 Deepfake 視頻是最著名、最吸引人的人工媒體作品之一。數百萬人觀看了這些視頻，這些視頻將克魯斯的面容精確地放在另一個人的身上，創造出令人不安的逼真內容。

奧巴馬與喬丹·皮爾合作的公益廣告

導演兼喜劇演員喬丹·皮爾與 BuzzFeed 合作製作了一段視頻，其中他爲前總統巴拉克·奧巴馬配音。這段深度僞造視頻展示了利用人工媒體制作虛假材料是多麼簡單，凸顯了政治領域可能存在的風險。

馬克·扎克伯格 Deepfake 的社會評論

藝術家比爾·波斯特斯 (Bill Posters) 製作了 Facebook 首席執行官馬克·扎克伯格 (Mark Zuckerberg) 的視頻，以展示社交媒體是多麼容易被利用。在這段深度僞造視頻中，扎克伯格談到了 Facebook 對用戶數據的所有權，引起了人們對該公司對誤導性材料的管理爭議的關注。

加密貨幣詐騙

Deepfakes 也在加密領域被廣泛使用。例如，2024 年 2 月 7 日，CertiKSkynetAlert Twitter 頁面發佈了一條關於 Vitalik Buterin 深度僞造騙局的警報：

#CertiKSkynetAlert 我們發現 @VitalikButerin 的深度僞造被用來推廣錢包耗盡器詐騙網站是 strnetclaim[.]cc 視頻截圖如下 pic.twitter.com/R8AY5CVOea

— CertiK Alert (@CertiKAlert) 2024 年 2 月 7 日

有什麼方法可以阻止 Deepfakes 的使用？

能夠識別深度僞造或允許驗證真實材料的技術可用於對抗惡意深度僞造。檢測技術無需與原始未更改的材料進行比較即可識別假媒體。機器學習是這些技術經常使用的一種人工智能。來自信譽良好的真實和欺詐媒體來源的數據可用於訓練算法。這些技術包括面部或聲音異常、深度僞造創建過程的跡象以及顏色變化。

《Deepfakes 的陰暗面：惡意行爲者如何利用合成媒體進行操縱和欺騙》一文最先出現在 Metaverse Post 上。