美国司法部周二宣布，美国执法部门查获了与俄罗斯政府有关联的人工智能社交媒体机器人农场相关的两个域名。
司法部发言人告诉 Decrypt：“这是包括联邦调查局在内的司法部在应对网络和网络威胁国家安全方面采取的‘破坏优先’战略的一个有力例证。”“我们将继续改进防御和识别这些行为者的方式。”
根据该机构发布的文件，网络犯罪分子使用生成式人工智能创建虚假的社交媒体资料，其中许多自称是美国人，然后用于在 Twitter 上发布亲俄信息。
美国联邦调查局 (FBI) 局长克里斯托弗·雷在一份声明中表示：“今天的行动是首次捣毁俄罗斯支持的生成式人工智能社交媒体机器人农场。”
“俄罗斯打算利用这个机器人农场传播人工智能生成的外国虚假信息，在人工智能的帮助下扩大他们的工作，以破坏我们在乌克兰的合作伙伴，并影响有利于俄罗斯政府的地缘政治叙事。”
据称，该机器人农场使用了亚利桑那州域名提供商 Namecheap 颁发的域名（mlrtr.com 和 otanmail.com）、私人电子邮件服务来生成随机电子邮件地址，并在 Twitter 上创建个人资料。
举个例子，一个机器人账户声称自己是明尼阿波利斯的居民，他自称是“人文主义者”，并带有比特币的标签。
总体而言，该机器人农场在 2022 年 6 月 11 日至 2024 年 3 月 1 日期间创建了超过 968 个 Twitter 账户。
尽管 Namecheap 表示无法对任何具体调查发表评论，但该公司向 Decrypt 表示“积极打击我们平台上一切形式的滥用行为”。
Namecheap 在 Twitter 上写道：“我们因有效的策略而广受认可，能够识别并迅速打击使用我们服务的不良行为者。”“我们与执法部门合作，执行与我们平台上的滥用或非法活动有关的美国传票、法院命令和/或逮捕令。”
对于网络安全专家来说，公开的生成式人工智能模型和标准化的开发工具对国家支持的网络犯罪分子具有吸引力。
区块链安全公司 Halborn 的联合创始人兼首席技术官 Steve Walbroehl 通过 Telegram 表示：“如果被恶意使用，Telegram、X 和 Meta 等平台提供的生成式人工智能与开发者 API 的组合可能会非常危险。”
“在正常情况下，此功能可让用户自动化、管理或提升其社交媒体影响力。但在坏人手中，这是一种非常有说服力的误导人们和在线社区的方法。”
Walbroehl 指出，Telegram 群组完全由人工智能机器人组成，可用于制造虚假炒作和社会认同，并说服毫无戒心的受害者根据这种人造热情投资骗局，最终他们的投资会被控制机器人的骗子窃取。
Walbroehl 补充道：“虽然这是一种用于大规模传播虚假信息的社会工程策略，但它也是骗子用来帮助‘哄抬和抛售’模因币以从天真的用户那里窃取大量资金的一种策略。”
公民实验室高级研究员约翰·斯科特·雷尔顿 (John Scott-Railton) 在推特上表示：“删除和随附的建议表明，美国及其盟友正在尝试各种类似破坏和扣押的技术……因为操作员目前超出了他们的直接控制范围。”
“希望运营商能够学习、发展，然后重新将目标转向美国。”
最新消息：@TheJusticeDept 刚刚破坏了俄罗斯运营的人工智能 Twitter 虚假信息机器人农场。
@X 上有近 1000 个账户。
伪装成美国人并宣传俄罗斯政府的言论。
这背后有令人着迷的侦探活动 1/https://t.co/QOsWnoVUCf pic.twitter.com/pvbVZM3nLj
— John Scott-Railton (@jsrailton) 2024 年 7 月 9 日
根除虚假账户的行动始于 6 月，当时美国亚利桑那州地方法院提交了两份搜查和扣押令，授权搜查 X Corp（又名 Twitter）的服务器并扣押 Namecheap 的域名。Twitter 自愿暂停了被举报的账户，理由是违反了服务条款。
司法部发言人表示：“X 是此案的重要合作伙伴，我们重视他们自愿删除这些机器人并开展自己的调查的努力。”
司法部副部长丽莎·莫纳科在一份声明中表示：“随着恶意行为者加速对人工智能的犯罪滥用，司法部将做出回应，我们将与我们的国际合作伙伴和私营部门优先采取破坏性行动。”
“我们将毫不犹豫地关闭机器人农场，夺取非法获得的互联网域名，并与我们的对手展开斗争。”
美国司法部表示，此次行动是与联邦调查局、网络国家任务部队、加拿大和荷兰的政府合作伙伴以及 Twitter 等社交媒体公司合作开展的。
美国司法部长梅里克·B·加兰在一份声明中表示：“通过这些行动，司法部挫败了俄罗斯政府支持的、由人工智能推动的宣传活动，该活动利用机器人农场在美国国内和国外传播虚假信息。”
“随着俄罗斯政府继续在乌克兰发动残酷战争并威胁世界各地的民主国家，司法部将继续部署我们所有的法律权力，以对抗俄罗斯的侵略并保护美国人民。”
虚假 Twitter 账户不仅被用来传播诈骗和虚假信息。最近，一系列针对著名艺人的合法 Twitter 账户的网络攻击也被用来传播加密货币诈骗，这些艺人包括音乐家 Doja Cat、女演员 Sydney Sweeney 和传奇重金属乐队 Metallica。
