深度僞造騙局是一種令人不安的趨勢，香港證券及期貨事務監察委員會已對此發出警告。這些欺詐行爲正在影響加密貨幣業務。騙子們正在使用複雜的策略，例如利用尖端人工智能技術製作描繪埃隆·馬斯克等知名人士的深度僞造電影來欺騙人們。我們將探討最近一家香港組織使用深度僞造技術宣傳虛假加密貨幣計劃的案例，闡明這種不誠實策略的更廣泛影響。

2024 年 Deepfake 詐騙的興起

由於我們生活在一個科技快速創新的時代，詐騙者總是在改變他們的策略，以利用數位生態系統的弱點。 Deepfake技術已成為駭客工具箱中的強大武器。它使用人工智慧演算法來模仿目標人員的聲音和臉部表情。透過使用這些逼真的模擬，藝術家可以製作虛假的音訊或視訊記錄，並成功冒充知名人士進行詐欺行為。

2024 年，全球將舉行 40 多場選舉，已成為一個重要議題。技術的進步，特別是合成媒體（例如深度偽造）的進步，使得很難確定媒體是由電腦偽造還是基於真實事件。深度造假對選舉的影響尚不清楚，但例子顯示它們可以以多種方式使用。

學者就此主題發表了許多文章和書籍。記者接受了確認和核實目的的培訓，政府也參與了「大委員會」和優勢中心。復原力策略的發展使圖書館成為他們的焦點。一些新的組織已經出現，提供資源、培訓和分析。這項工作使我們對錯誤訊息作為一種社會、心理、政治和技術現像有了更深入的理解。

政治深度造假可以採取多種形式，例如霸凌和虐待婦女和女孩，或傳播有關競選公職人員的虛假訊息。深度偽造音訊的複雜性使得識別具有挑戰性，並且重要的是要記住深度偽造仍處於起步階段並且缺乏高品質。

零美元是這個騙子應該收到的金額。 pic.twitter.com/wvM3HJYql6

— Anastasia Maria Loupis 博士 (@DrLoupis) 2024 年 2 月 13 日

投票委員會、候選人、媒體和選民對潛在事件的處理方式仍不清楚。民主選舉的公正性不能依賴造假者的無能。另一種破壞民主的策略是散播有關選舉程序有效性的謠言和陰謀。

必須考慮民主進程的彈性，以便在下一次選舉之前解決錯誤訊息問題。能夠提供優質調查的公正媒體體係是否符合公眾利益？是否存在可以在需要時做出決定的獨立法院？政治家和政黨是否充分地將民主原則置於自身利益之上？這些問題的答案可能會在今年的選舉年揭曉。

香港騙局揭曉

近日，香港證監會公開了一起令人震驚的案件，涉及一個使用「AI Quantum」或「Quantum AI」名稱的組織。該犯罪組織聲稱提供尖端的人工智慧驅動的比特幣交易服務。然而，調查人員發現的證據表明，該組織充當了涉及虛擬資產的詐欺行為的幌子。

香港加密貨幣交易所使用埃隆馬斯克的 Deepfake 來推廣服務 pic.twitter.com/GG61JbT3R9

- CryptoAlerts365 (@CryptoAlerts365) 2024 年 5 月 13 日

為了增強他們計劃的可信度，犯罪者利用以埃隆馬斯克為主角的深度偽造視頻，錯誤地將他描繪成他們技術背後的策劃者。透過傳播這些捏造的影片並建立一個假冒的「新聞」網站，詐騙者試圖欺騙潛在的受害者並使他們的非法行為合法化。這種對信任的操縱凸顯了深度造假詐騙的陰險本質，以及它們對毫無戒心的個人在數位領域中帶來的挑戰。

一名韓國女子愛上了 Elon Musk 的深度偽造視頻，並向騙子發送了超過 5 萬美元 pic.twitter.com/6x8AIJvmrb

- Pubity (@pubity) 2024 年 5 月 5 日

迅速行動和持續關注

香港當局的迅速乾預導致該組織的所有網站和社交媒體頁面被關閉。然而，該騙局造成的損害的全部程度仍不清楚，這凸顯出迫切需要提高警覺並採取強有力的網路安全措施。這事件清楚地提醒人們，深度造假技術所帶來的普遍威脅以及防範其惡意利用的必要性。

這起案件並非個案；這是更廣泛趨勢的一部分，其中詐騙者利用 Deepfake 技術在全球範圍內實施詐欺計劃。從尼日利亞「雅虎男孩」等臭名昭著的團體實施的浪漫騙局，到針對埃隆·馬斯克等知名人士和新加坡總理李顯龍等政治領導人的精心模仿策略，深度造假騙局的氾濫凸顯了其深遠的影響。

在國會缺席的情況下，各州和國際監管機構正在採取行動控制人工智慧產生的選舉內容的擴散。大約十個州已通過法律來懲罰那些使用人工智慧欺騙選民的人，威斯康辛州州長簽署了一項兩黨法案，將對那些未能在政治廣告中披露人工智慧的人處以罰款。密西根州法律會懲罰任何在選舉後 90 天內故意傳播人工智慧產生的深度造假的人。然而，目前尚不清楚處罰是否足以嚇阻潛在的違法者。由於檢測技術有限且指定人員很少，執法人員可能會發現很難快速確認影片或影像是否確實是人工智慧產生的。

政府官員正在尋求政治家和科技公司等的自願協議，以控制人工智慧產生的選舉內容的擴散。歐盟委員會副主席維拉·朱羅娃（Vera Jourova）已致函歐洲成員國主要政黨，抵制使用操縱手段，但政客和政黨如果不遵循她的要求，將不會面臨任何後果。

OpenAI 試圖與社群媒體公司建立關係，以解決人工智慧生成的政治材料的分發問題。然而，如果企業未能兌現承諾，則不會面臨任何處罰。

隨著社會努力應對深度造假技術帶來的道德和監管挑戰，打擊其濫用需要跨部門利害關係人的共同努力。為了保護數位生態系統免受詐騙，提高意識和嚴格的執法措施至關重要。在現實可以被無縫操縱的時代，洞察力和懷疑精神對於駕馭不斷變化的線上互動格局至關重要。

《香港證監會警告針對加密產業的 Deepfake 詐騙：對投資人安全的影響》一文首先出現在 Metaverse Post 上。