「虽然我们有适当的保护措施，但系统有时可能会产生不正确或误导性的信息，并产生攻击性或有偏见的内容。它的目的不是提供建议。
– OpenAI 的开场免责声明
这让我们陷入了最大恐惧的核心——当科技与我们作对时会发生什么？
如果技术过早部署而没有对其功能进行适当的测试和了解，会发生什么？
本月早些时候，世界上最受关注的人工智慧 (AI) 公司 OpenAI 刚刚收到了有史以来第一起诽谤诉讼，这进一步展示了 ChatGPT 不受限制地生成没有事实支持或法律支持的结果的危险。
乔治亚州全国联合广播电台主持人马克沃特斯 (Mark Walters) 于 6 月 5 日对 OpenAI 提起诉讼，指控其人工智慧聊天机器人 ChatGPT 捏造了针对他的法律索赔。
这份长达13 页的投诉书提到了AmmoLand.com 记者Fred Riehl 及其5 月4 日向ChatGPT 提出的请求，要求总结第二修正案基金会诉弗格森案的法律案件，这是向华盛顿联邦法院提起的联邦案件，指控该州总检察长鲍勃·弗格森滥用职权。
虽然沃尔特在最初的诉讼中没有被提及，但 ChatGPT 对第二修正案基金会的 Riehl 的摘要请求做出了回应，并表示：
「…第二修正案基金会(SAF) 创始人兼执行副总裁艾伦·戈特利布(Alan Gottlieb) 对马克·沃尔特斯(Mark Walters) 提起法律诉讼，指控马克·沃尔特斯诈骗和挪用SAF 资金。
但这就是事情变得扭曲和危险的地方——ChatGPT 关于沃特斯的声明都没有出现在实际的 SAF 投诉中。
这份人工智慧产生的「投诉」还指控，担任该组织财务主管和首席财务官的沃特斯「在未经授权或报销的情况下挪用资金用于个人开支，操纵财务记录和银行对账单来隐瞒其活动，并且未能提供准确的信息”。以及及时向新加坡武装部队领导层提交财务报告和披露。”
作为一种救济形式，原告据称正在寻求“追回被挪用的资金、违反信托义务和欺诈的损害赔偿，以及解除沃尔特作为新加坡武装部队董事会成员的职务。”
然而，问题就在这里——根据沃特斯的说法，“[ChatGPT]摘要中与[他]有关的所有事实陈述都是错误的”，OpenAI 的聊天机器人甚至创建了“错误的案例编号”。
诉讼称：“ChatGPT 对沃特斯的指控是虚假和恶意的，以印刷品、文字、图片或标志的形式表达，往往会损害沃尔特的声誉，并使他遭受公众的仇恨、蔑视或嘲笑。” “通过向 Riehl 发送指控，[OpenAI] 发布了有关 Walters 的诽谤性内容。”
如果您要求 ChatGPT 提供 Walters 投诉中引用的 SAF 诉讼摘要，您也可能会得到与此类似的回应：
「我很抱歉，但作为一个人工智慧语言模型，我的回答是基于2021 年9 月之前已有的知识。因此，我无法访问或浏览互联网或查看在我的知识截止后发布的特定文档或链接。因此，我无法向您提供您提到的诉讼中指控的摘要……要获得有关诉讼及其指控的信息，我建议您自己查看该文件或参考可信的新闻来源或法律网站可能已经涵盖了这个案子。他们可以为您提供有关您提到的具体诉讼的准确和最新信息。
虽然OpenAI 尚未对沃特斯正在进行的诽谤诉讼做出任何评论，但它确实引出了一个问题：为什么这家人工智慧公司没有对这些可以预见的后果采取更严厉的措施，这些后果是回顾过去、疏忽部署而没有经过适当测试的程式码。
本案为 Mark Walters v. OpenAI, LLC，cv-23-A-04860-2。
您可以在此处阅读 Walter 6 月 5 日的投诉。
在其他新闻中，了解美国总统拜登与 8 位科技领袖会面，讨论解决人工智慧偏见和劳动力福利问题。
点击此处查看 Hypemoon 的完整画廊
