2024 年 1 月，一家香港公司的一名员工在被一段冒充其财务主管和几名员工的深度伪造视频欺骗后，向骗子提供了 2500 万美元。这一事件是金融领域复杂且难以发现的人工智能驱动欺诈风险日益增加的一个例子。犯罪分子正在使用生成式人工智能技术制作令人信服的深度伪造、虚假言论和伪造文件。这就是银行业及其客户面临严重危险的原因。

这事件是金融机构目前所处环境日益危险的令人沮丧的前兆。根据德勤金融服务中心的预测，到 2027 年，美国的窃盗损失可能达到惊人的 400 亿美元，比 2023 年的 123 亿美元的犯罪损失年化增加 32%。

照片：德勤

生成式人工智慧的颠覆性影响

生成式人工智慧的颠覆性潜力源于其创建高度令人信服的合成媒体的能力，包括深度伪造影片、虚构声音和伪造文件。该技术的自学习能力不断增强其欺骗能力，超越了旨在根据预定义规则和模式识别欺诈的传统检测系统。

此外，生成式人工智慧工具在暗网上的可及性使其可用性变得民主化，从而催生了一个蓬勃发展的地下市场，诈骗软体很容易以 20 美元到数千美元的价格出售。这种民主化使得许多反诈欺工具失效，导致金融机构争先恐后地适应。

照片：2023 年犯罪类型，IC3Report

商业电子邮件外泄 (BEC) 攻击是生成式 AI 诈欺特别容易发生的领域之一。光是 2022 年，FBI 就记录了 21,832 起 BEC 诈欺案件，损失估计超过 27 亿美元。德勤预计，在「暴力」实施场景中，到 2027 年，生成式 AI 可能会将电子邮件诈欺损失增加到 115 亿美元以上。

Deepfakes 识别的潜在危险

Deepfake 技术也威胁到身份验证程序，而身份验证程序历来被视为安全堡垒。根据最近的研究，光是 2023 年，金融业的深度造假事件就会激增 700%。令人担忧的是，IT 部门在创建可靠的方法来识别虚假录音方面进展缓慢，这暴露了严重的风险。

照片：IC3Report

尽管传统上银行一直是第一个使用新技术来打击诈欺的机构，但美国财政部的一项研究发出警告，指出“现有的风险管理框架可能不足以涵盖新兴的人工智慧技术。”各机构已经在竞相将机器学习和人工智慧功能纳入其诈骗识别和反应系统中，实现程式自动化，以更快地识别和调查可疑活动。

为了加强对信用卡诈欺的防御，万事达卡的决策智慧引擎检查数十亿个数据点以预测交易的真实性，而摩根大通则整合了巨大的语言模型来识别电子邮件入侵的迹象。

制定健全的防御计划

为了保持竞争力，随著人工智慧诈欺环境的不断变化，金融机构需要采取多元化的方法。将人类直觉与当代科技结合对于预测和阻止诈骗者的新策略至关重要。由于危险环境总是在不断变化，反诈骗团队需要采取不断学习和适应的文化。这是因为没有一种解决方案可以充分缓解这种情况。

照片：IC3Report

全面重组治理、资源分配和策略对于面向未来的机构防范诈欺至关重要。金融领域内外的合作至关重要，因为生成式人工智慧诈欺对整个组织构成了危险。银行可以与可靠的第三方技术供应商合作，透过明确责任并解决责任问题来制定有效的应对措施。

此外，加强客户教育和意识对于抵御诈欺至关重要。定期的沟通接触点，例如银行应用程式上的推播警报，可以通知客户可能存在的危险，并描述他们的金融机构为保护他们的资金而采取的预防措施。 

由于监管机构越来越关注生成式人工智慧的好处和风险，各机构积极参与新法规的制定。银行可以透过在技术开发过程的早期纳入合规团队来创建其系统和程序的完整记录。这将促进监管监控并保证符合不断变化的要求。

投入资金于人才和持续创新

最重要的是要记住，银行需要高度重视人力资本投资，雇用和教育员工在人工智慧的帮助下识别、制止和报告诈欺行为。面对快速发展的对手，这些投资对于保持领先地位是必要的，即使它们可能暂时给财务带来负担。

需要采取多学科策略来培养一支了解产生人工智慧诈欺的微妙之处的员工队伍，结合数据科学、网路安全和行为分析等领域的知识。金融机构可以培养具有必要技能的员工，透过促进持续学习和资讯共享的文化来识别和主动减轻新的危险。

银行还可以考虑使用合约工、内部工程团队和外部承包商来创建专有的诈欺侦测技术。透过鼓励持续学习和适应的文化，该策略最大限度地提高了资源分配，并允许对新挑战做出快速反应。

Consult Hyperion 总监 David Birch 表示，金融机构需要制定可靠的计划来应对人工智慧驱动的身分盗​​窃问题，他强调身分识别是第一道防线。他接著强调，身分识别系统需要能够抵御和适应不断发展的诈欺计划，以保护服务的形象并保护合法客户。

随著生成式人工智慧持续改变诈欺环境，金融机构需要做好长期斗争的准备。透过采用积极主动的多维方法，将最先进的技术与人类经验、监管合规性和行业协作相结合，企业可以增强防御能力，抵御由人工智慧驱动的日益增多的极其复杂的诈欺计划。

预计到 2027 年，光是美国的潜在损失就将超过 400 亿美元，因此风险巨大。然而，金融机构可以透过更加重视对人员、技术和团队合作的投资来降低风险并保护其营运的完整性。这将保证他们的客户在日益复杂的数位环境中继续对他们充满信心。

德勤预测诈欺损失将爆炸式增长：生成式人工智慧到 2027 年可能使美国金融机构损失 400 亿美元，这篇文章首先出现在 Metaverse Post 上。