黑市聊天机器人已经成为人工智能领域出现的最新趋势之一，并且由于恶意大型语言模型 (LLM) 为其创造者赚取金钱而蓬勃发展。

一项美国研究发现，人工智能黑市蓬勃发展，未注册的法学硕士通过地下服务大赚一笔。OpenAI、Perplexity 等注册的面向公众的公司以及其他提供相同服务的大公司都遵循监管规定。

地下法学硕士可以躲避反病毒软件

该研究主要关注 Malla，这是一个靠混合合法的 LLM 和 AI 平台牟利而蓬勃发展的生态系统，研究者仔细审查了 2023 年 4 月至 10 月期间在地下市场上列出的 212 个黑市 LLM，并评估了它们的属性。

本文作者之一、印第安纳大学的 Zilong Lin 表示：

“我们发现地下论坛上的大多数 mala 服务主要是为了赚取利润。”

研究还发现，一些平台在两个月内从那些想要摆脱受监管的人工智能束缚的人的订阅和购买中赚取了高达 28,000 美元的收入。

有些，例如 DarkGPT 和 EscapeGPT，只是合法使用的经过正式授权的 LLM 的越狱衍生品。

另一项研究还表明，这些非法 LLM 可用于多种用途，例如创建钓鱼电子邮件。例如，DarkGPT 和 EscapeGPT 几乎可以在 75% 的时间内生成正确的代码，但防病毒软件无法识别这些代码。

另一个被称为 WolfGPT 的模型被视为创建网络钓鱼电子邮件和躲避垃圾邮件检测器的“强大工具”。

卡内基梅洛大学计算创新专家安德鲁·亨特 (Andrew Hundt) 表示，蓬勃发展的人工智能地下市场应该引起人们的担忧。

他呼吁制定法律规定，强制开发法学硕士学位的公司建立强大的系统，以防止被心怀不轨的人复制。

亨特说：“我们还需要法律框架来确保创建这些模型和提供服务的公司以更负责任的方式开展工作，以减轻恶意行为者带来的风险。”

了解黑市聊天机器人如何运作是关键

参与这项研究的印第安纳大学教授王晓峰表示，了解这些黑市法学硕士学位是如何运作的非常重要，这样才能针对发现的问题找到解决方案。

王教授补充道，这些法学硕士学位被操纵是无法避免的，这为该行业提供了制定强有力的保护措施的空间，以最大限度地减少各种形式的网络攻击可能造成的危害。

“我们认为现在是开始研究这些问题的好阶段，因为我们不想等到造成巨大危害之后才开始研究。”

王教授。

据教授说，包括法学硕士在内的每项技术都有两面性：好的一面和坏的一面。

网络安全专家已开始呼吁人工智能行业放慢发展速度，并反思其技术被匿名互联网社区掺假的危险性。

《福布斯》去年年底发表的一篇文章称，应该以负责任的方式引入新理念，尤其是围绕法学硕士。文章还强调了监管在促进负责任的人工智能创新方面的作用，这与监管会阻碍发展的误解不同。

报告中写道：“法学硕士学位的开发者和提供者需要暂停旨在推出更复杂模型的疯狂军备竞赛，而应该与监管机构合作，采用符合道德设计和使用生成式人工智能应用程序的框架。”

据《Fast Company》报道，现在由于监管漏洞，人工智能黑市也正在迅速发展成为一个价值数百万美元的产业，可能需要大量资源来遏制。