2024 年 1 月，一家香港公司的一名員工在被一段冒充其財務主管和幾名員工的深度僞造視頻欺騙後，向騙子提供了 2500 萬美元。這一事件是金融領域複雜且難以發現的人工智能驅動欺詐風險日益增加的一個例子。犯罪分子正在使用生成式人工智能技術製作令人信服的深度僞造、虛假言論和僞造文件。這就是銀行業及其客戶面臨嚴重危險的原因。

這事件是金融機構目前所處環境日益危險的令人沮喪的前兆。根據德勤金融服務中心的預測，到 2027 年，美國的竊盜損失可能達到驚人的 400 億美元，比 2023 年的 123 億美元的犯罪損失年化增加 32%。

照片：德勤

生成式人工智慧的顛覆性影響

生成式人工智慧的顛覆性潛力源於其創建高度令人信服的合成媒體的能力，包括深度偽造影片、虛構聲音和偽造文件。該技術的自學習能力不斷增強其欺騙能力，超越了旨在根據預定義規則和模式識別欺詐的傳統檢測系統。

此外，生成式人工智慧工具在暗網上的可及性使其可用性變得民主化，從而催生了一個蓬勃發展的地下市場，詐騙軟體很容易以 20 美元到數千美元的價格出售。這種民主化使得許多反詐欺工具失效，導致金融機構爭先恐後地適應。

照片：2023 年犯罪類型，IC3Report

商業電子郵件外洩 (BEC) 攻擊是生成式 AI 詐欺特別容易發生的領域之一。光是 2022 年，FBI 就記錄了 21,832 起 BEC 詐欺案件，損失估計超過 27 億美元。德勤預計，在「暴力」實施場景中，到 2027 年，生成式 AI 可能會將電子郵件詐欺損失增加到 115 億美元以上。

Deepfakes 識別的潛在危險

Deepfake 技術也威脅到身份驗證程序，而身份驗證程序歷來被視為安全堡壘。根據最近的研究，光是 2023 年，金融業的深度造假事件就會激增 700%。令人擔憂的是，IT 部門在創建可靠的方法來識別虛假錄音方面進展緩慢，這暴露了嚴重的風險。

照片：IC3Report

儘管傳統上銀行一直是第一個使用新技術來打擊詐欺的機構，但美國財政部的一項研究發出警告，指出“現有的風險管理框架可能不足以涵蓋新興的人工智慧技術。”各機構已經在競相將機器學習和人工智慧功能納入其詐騙識別和反應系統中，實現程式自動化，以更快地識別和調查可疑活動。

為了加強對信用卡詐欺的防禦，萬事達卡的決策智慧引擎檢查數十億個數據點以預測交易的真實性，而摩根大通則整合了巨大的語言模型來識別電子郵件入侵的跡象。

制定健全的防禦計劃

為了保持競爭力，隨著人工智慧詐欺環境的不斷變化，金融機構需要採取多元化的方法。將人類直覺與當代科技結合對於預測和阻止詐騙者的新策略至關重要。由於危險環境總是在不斷變化，反詐騙團隊需要採取不斷學習和適應的文化。這是因為沒有一種解決方案可以充分緩解這種情況。

照片：IC3Report

全面重組治理、資源分配和策略對於面向未來的機構防範詐欺至關重要。金融領域內外的合作至關重要，因為生成式人工智慧詐欺對整個組織構成了危險。銀行可以與可靠的第三方技術供應商合作，透過明確責任並解決責任問題來制定有效的應對措施。

此外，加強客戶教育和意識對於抵禦詐欺至關重要。定期的溝通接觸點，例如銀行應用程式上的推播警報，可以通知客戶可能存在的危險，並描述他們的金融機構為保護他們的資金而採取的預防措施。 

由於監管機構越來越關註生成式人工智慧的好處和風險，各機構積極參與新法規的製定。銀行可以透過在技術開發過程的早期納入合規團隊來創建其係統和程序的完整記錄。這將促進監管監控並保證符合不斷變化的要求。

投入資金於人才和持續創新

最重要的是要記住，銀行需要高度重視人力資本投資，僱用和教育員工在人工智慧的幫助下識別、制止和報告詐欺行為。面對快速發展的對手，這些投資對於保持領先地位是必要的，即使它們可能暫時給財務帶來負擔。

需要採取多學科策略來培養一支了解產生人工智慧詐欺的微妙之處的員工隊伍，結合數據科學、網路安全和行為分析等領域的知識。金融機構可以培養具有必要技能的員工，透過促進持續學習和資訊共享的文化來識別和主動減輕新的危險。

銀行還可以考慮使用合約工、內部工程團隊和外部承包商來創建專有的詐欺偵測技術。透過鼓勵持續學習和適應的文化，該策略最大限度地提高了資源分配，並允許對新挑戰做出快速反應。

Consult Hyperion 總監 David Birch 表示，金融機構需要製定可靠的計畫來應對人工智慧驅動的身分盜​​竊問題，他強調身分識別是第一道防線。他接著強調，身分識別系統需要能夠抵禦和適應不斷發展的詐欺計劃，以保護服務的形象並保護合法客戶。

隨著生成式人工智慧持續改變詐欺環境，金融機構需要做好長期鬥爭的準備。透過採用積極主動的多維方法，將最先進的技術與人類經驗、監管合規性和行業協作相結合，企業可以增強防禦能力，抵禦由人工智慧驅動的日益增多的極其複雜的詐欺計劃。

預計到 2027 年，光是美國的潛在損失就將超過 400 億美元，因此風險巨大。然而，金融機構可以透過更加重視對人員、技術和團隊合作的投資來降低風險並保護其營運的完整性。這將保證他們的客戶在日益複雜的數位環境中繼續對他們充滿信心。

德勤預測詐欺損失將爆炸式增長：生成式人工智慧到 2027 年可能使美國金融機構損失 400 億美元，這篇文章首先出現在 Metaverse Post 上。