網絡安全公司 SlashNext 週二發佈的新報告顯示，人工智能引發的網絡犯罪正在迅速擴張，除了上個月發現的 WormGPT 之外，暗網上還推出了幾種新工具，這加速了犯罪的蔓延。
SlashNext 總結稱，WormGPT 和一週後發佈的 FraudGPT 只是網絡犯罪分子針對受害者開發的人工智能工具的冰山一角。僅 FraudGPT 就具備創建釣魚詐騙網頁、編寫惡意代碼、創建黑客工具和編寫詐騙信件的能力。
SlashNext 研究人員表示，他們透過 Telegram 聯繫了一位名叫 CanadianKingpin12 的匿名人士。
「在調查過程中，我們扮演了潛在買家的角色，深入挖掘 CanadianKingpin12 及其產品 FraudGPT，」SlashNext 表示。 “我們的主要目標是評估 FraudGPT 在技術能力和有效性方面是否優於 WormGPT。”
賣家在炫耀 FraudGPT 的同時表示，名為 DarkBart 和 DarkBert 的新型人工智慧聊天機器人即將推出，該團隊得到的超出了預期。 CanadianKingpin12 聲稱，這些聊天機器人將能夠訪問互聯網，並且可以與Google的圖像識別技術 Google Lens 集成，這將允許聊天機器人發送文字和圖像。
SlashNext 指出，DarkBert 最初是由資料情報公司 S2W 設計的，作為打擊網路犯罪的合法工具，但犯罪分子顯然已重新利用該技術來實施網路犯罪。
CanadianKingpin12 告訴研究人員，DarkBert 甚至可以協助高級社會工程攻擊、利用電腦系統中的漏洞以及分發其他惡意軟體，包括勒索軟體。
區塊鏈安全公司 Halborn 的首席營運長 David Schwed 此前在 Telegram 上對 Decrypt 表示：“ChatGPT 設有防護欄，可以防止非法或邪惡的用例。” “[WormGPT 和 FraudGPT] 沒有這些防護措施，因此您可以要求它為您開發惡意軟體。”
SlashNext 表示，賣家因違反政策而被禁止進入論壇，之後被迫將通訊切換到加密的即時通訊應用程序，具體來說，是試圖透過公共「透明網路」上的線上論壇出售 FraudGPT 的存取權。
明網或表面網路是指可透過搜尋引擎存取的一般互聯網。在合約中，暗網或暗網不會被搜尋引擎索引，通常無法透過Google搜尋找到暗網網站。雖然暗網與網路犯罪分子和絲綢之路等非法線上市場有聯繫，但許多用戶（例如記者或政治異議人士）依靠暗網來掩蓋他們的身份並保護他們的隱私。
為了抵禦人工智慧產生的網路犯罪工具的快速發展，SlashNext 建議企業積極主動地進行網路安全培訓並實施強化的電子郵件驗證措施。
隨著網路犯罪分子開始利用人工智慧來創建更先進的惡意工具，網路安全公司 Immunefi 的另一份報告稱，網路安全專家在使用人工智慧打擊網路犯罪方面運氣不佳。報告稱，64% 的受訪專家表示 OpenAI 的聊天機器人提供的“準確性有限”，61% 的專家表示缺乏識別漏洞的專業知識。
SlashNext 表示：“雖然很難準確衡量這些功能的真正影響，但可以合理地預期它們將降低有抱負的網路犯罪分子的障礙。” “此外，不到一個月的時間，從 WormGPT 到 FraudGPT 再到現在的 DarkBERT，突顯了惡意人工智慧對網路安全和網路犯罪格局的重大影響。”
