美國司法部週二宣佈，美國執法部門查獲了與俄羅斯政府有關聯的人工智能社交媒體機器人農場相關的兩個域名。
司法部發言人告訴 Decrypt：“這是包括聯邦調查局在內的司法部在應對網絡和網絡威脅國家安全方面採取的‘破壞優先’戰略的一個有力例證。”“我們將繼續改進防禦和識別這些行爲者的方式。”
根據該機構發佈的文件，網絡犯罪分子使用生成式人工智能創建虛假的社交媒體資料，其中許多自稱是美國人，然後用於在 Twitter 上發佈親俄信息。
美國聯邦調查局 (FBI) 局長克里斯托弗·雷在一份聲明中表示：“今天的行動是首次搗毀俄羅斯支持的生成式人工智能社交媒體機器人農場。”
“俄羅斯打算利用這個機器人農場傳播人工智能生成的外國虛假信息，在人工智能的幫助下擴大他們的工作，以破壞我們在烏克蘭的合作伙伴，並影響有利於俄羅斯政府的地緣政治敘事。”
據稱，該機器人農場使用了亞利桑那州域名提供商 Namecheap 頒發的域名（mlrtr.com 和 otanmail.com）、私人電子郵件服務來生成隨機電子郵件地址，並在 Twitter 上創建個人資料。
舉個例子，一個機器人賬戶聲稱自己是明尼阿波利斯的居民，他自稱是“人文主義者”，並帶有比特幣的標籤。
總體而言，該機器人農場在 2022 年 6 月 11 日至 2024 年 3 月 1 日期間創建了超過 968 個 Twitter 賬戶。
儘管 Namecheap 表示無法對任何具體調查發表評論，但該公司向 Decrypt 表示“積極打擊我們平臺上一切形式的濫用行爲”。
Namecheap 在 Twitter 上寫道：“我們因有效的策略而廣受認可，能夠識別並迅速打擊使用我們服務的不良行爲者。”“我們與執法部門合作，執行與我們平臺上的濫用或非法活動有關的美國傳票、法院命令和/或逮捕令。”
對於網絡安全專家來說，公開的生成式人工智能模型和標準化的開發工具對國家支持的網絡犯罪分子具有吸引力。
區塊鏈安全公司 Halborn 的聯合創始人兼首席技術官 Steve Walbroehl 通過 Telegram 表示：“如果被惡意使用，Telegram、X 和 Meta 等平臺提供的生成式人工智能與開發者 API 的組合可能會非常危險。”
“在正常情況下，此功能可讓用戶自動化、管理或提升其社交媒體影響力。但在壞人手中，這是一種非常有說服力的誤導人們和在線社區的方法。”
Walbroehl 指出，Telegram 羣組完全由人工智能機器人組成，可用於製造虛假炒作和社會認同，並說服毫無戒心的受害者根據這種人造熱情投資騙局，最終他們的投資會被控制機器人的騙子竊取。
Walbroehl 補充道：“雖然這是一種用於大規模傳播虛假信息的社會工程策略，但它也是騙子用來幫助‘哄擡和拋售’模因幣以從天真的用戶那裏竊取大量資金的一種策略。”
公民實驗室高級研究員約翰·斯科特·雷爾頓 (John Scott-Railton) 在推特上表示：“刪除和隨附的建議表明，美國及其盟友正在嘗試各種類似破壞和扣押的技術……因爲操作員目前超出了他們的直接控制範圍。”
“希望運營商能夠學習、發展，然後重新將目標轉向美國。”
最新消息：@TheJusticeDept 剛剛破壞了俄羅斯運營的人工智能 Twitter 虛假信息機器人農場。
@X 上有近 1000 個賬戶。
僞裝成美國人並宣傳俄羅斯政府的言論。
這背後有令人着迷的偵探活動 1/https://t.co/QOsWnoVUCf pic.twitter.com/pvbVZM3nLj
— John Scott-Railton (@jsrailton) 2024 年 7 月 9 日
根除虛假賬戶的行動始於 6 月，當時美國亞利桑那州地方法院提交了兩份搜查和扣押令，授權搜查 X Corp（又名 Twitter）的服務器並扣押 Namecheap 的域名。Twitter 自願暫停了被舉報的賬戶，理由是違反了服務條款。
司法部發言人表示：“X 是此案的重要合作伙伴，我們重視他們自願刪除這些機器人並開展自己的調查的努力。”
司法部副部長麗莎·莫納科在一份聲明中表示：“隨着惡意行爲者加速對人工智能的犯罪濫用，司法部將做出迴應，我們將與我們的國際合作夥伴和私營部門優先採取破壞性行動。”
“我們將毫不猶豫地關閉機器人農場，奪取非法獲得的互聯網域名，並與我們的對手展開鬥爭。”
美國司法部表示，此次行動是與聯邦調查局、網絡國家任務部隊、加拿大和荷蘭的政府合作伙伴以及 Twitter 等社交媒體公司合作開展的。
美國司法部長梅里克·B·加蘭在一份聲明中表示：“通過這些行動，司法部挫敗了俄羅斯政府支持的、由人工智能推動的宣傳活動，該活動利用機器人農場在美國國內和國外傳播虛假信息。”
“隨着俄羅斯政府繼續在烏克蘭發動殘酷戰爭並威脅世界各地的民主國家，司法部將繼續部署我們所有的法律權力，以對抗俄羅斯的侵略並保護美國人民。”
虛假 Twitter 賬戶不僅被用來傳播詐騙和虛假信息。最近，一系列針對著名藝人的合法 Twitter 賬戶的網絡攻擊也被用來傳播加密貨幣詐騙，這些藝人包括音樂家 Doja Cat、女演員 Sydney Sweeney 和傳奇重金屬樂隊 Metallica。
