黑市聊天機器人已經成爲人工智能領域出現的最新趨勢之一，並且由於惡意大型語言模型 (LLM) 爲其創造者賺取金錢而蓬勃發展。

一項美國研究發現，人工智能黑市蓬勃發展，未註冊的法學碩士通過地下服務大賺一筆。OpenAI、Perplexity 等註冊的面向公衆的公司以及其他提供相同服務的大公司都遵循監管規定。

地下法學碩士可以躲避反病毒軟件

該研究主要關注 Malla，這是一個靠混合合法的 LLM 和 AI 平臺牟利而蓬勃發展的生態系統，研究者仔細審查了 2023 年 4 月至 10 月期間在地下市場上列出的 212 個黑市 LLM，並評估了它們的屬性。

本文作者之一、印第安納大學的 Zilong Lin 表示：

“我們發現地下論壇上的大多數 mala 服務主要是爲了賺取利潤。”

研究還發現，一些平臺在兩個月內從那些想要擺脫受監管的人工智能束縛的人的訂閱和購買中賺取了高達 28,000 美元的收入。

有些，例如 DarkGPT 和 EscapeGPT，只是合法使用的經過正式授權的 LLM 的越獄衍生品。

另一項研究還表明，這些非法 LLM 可用於多種用途，例如創建釣魚電子郵件。例如，DarkGPT 和 EscapeGPT 幾乎可以在 75% 的時間內生成正確的代碼，但防病毒軟件無法識別這些代碼。

另一個被稱爲 WolfGPT 的模型被視爲創建網絡釣魚電子郵件和躲避垃圾郵件檢測器的“強大工具”。

卡內基梅洛大學計算創新專家安德魯·亨特 (Andrew Hundt) 表示，蓬勃發展的人工智能地下市場應該引起人們的擔憂。

他呼籲制定法律規定，強制開發法學碩士學位的公司建立強大的系統，以防止被心懷不軌的人複製。

亨特說：“我們還需要法律框架來確保創建這些模型和提供服務的公司以更負責任的方式開展工作，以減輕惡意行爲者帶來的風險。”

瞭解黑市聊天機器人如何運作是關鍵

參與這項研究的印第安納大學教授王曉峯表示，瞭解這些黑市法學碩士學位是如何運作的非常重要，這樣才能針對發現的問題找到解決方案。

王教授補充道，這些法學碩士學位被操縱是無法避免的，這爲該行業提供了制定強有力的保護措施的空間，以最大限度地減少各種形式的網絡攻擊可能造成的危害。

“我們認爲現在是開始研究這些問題的好階段，因爲我們不想等到造成巨大危害之後纔開始研究。”

王教授。

據教授說，包括法學碩士在內的每項技術都有兩面性：好的一面和壞的一面。

網絡安全專家已開始呼籲人工智能行業放慢發展速度，並反思其技術被匿名互聯網社區摻假的危險性。

《福布斯》去年年底發表的一篇文章稱，應該以負責任的方式引入新理念，尤其是圍繞法學碩士。文章還強調了監管在促進負責任的人工智能創新方面的作用，這與監管會阻礙發展的誤解不同。

報告中寫道：“法學碩士學位的開發者和提供者需要暫停旨在推出更復雜模型的瘋狂軍備競賽，而應該與監管機構合作，採用符合道德設計和使用生成式人工智能應用程序的框架。”

據《Fast Company》報道，現在由於監管漏洞，人工智能黑市也正在迅速發展成爲一個價值數百萬美元的產業，可能需要大量資源來遏制。