Ripple 的 CTO David Schwartz 提到,一家人尝试根据人工智能生成的指南食用蘑菇,却不幸中毒。
该事件对人工智能生成内容的可信度和质量提出了合理的质疑,尤其是在虚假信息构成威胁的情况下。
施瓦茨引用了一个法律案例,强调了人工智能生成内容和消费者保护的法律和道德问题。
Ripple 首席技术官 David Schwartz 最近分享了一个不幸的例子,即使用人工智能系统生成的虚假新闻导致了致命的健康后果。Reddit 上的一名用户最近指出了这一点,他分享了一个家庭因毒蘑菇中毒而住院的故事。
人工智能编写的蘑菇野外指南错误地识别了这些蘑菇。在社交媒体上非常活跃的施瓦茨利用这个平台提醒公众注意依赖人工智能获取重要信息(尤其是已出版作品中的信息)可能存在的风险。
人工智能导致不准确的案例
这本书是从一家大型在线商店购买的,书中包含据称由人工智能编写的图像和文字。书中的错误信息导致该家庭食用了有毒蘑菇,迫使他们寻求医疗帮助。尽管零售商为这本书退款,但这一事件引发了人们对网上存在人工智能编写的劣质材料的担忧。
在描述这一情况时,施瓦茨引用了 Winter v. G. P. Putnam's Sons 案中的法律先例。在 1991 年的案件中,两名男子在使用了一份包含错误信息的指南后病重,并被要求进行肝脏移植。
法院判决出版商胜诉,这对消费者对出版材料的责任和保护具有以下影响。通过上诉此案,施瓦茨完美地阐明了现代世界中人工智能生成内容的当代法律和道德问题。
https://twitter.com/JoelKatz/status/1824687968784720229
鉴于人工智能生成内容的趋势日益增长,尤其是在需要精确度的领域,Ripple 高管的警告被认为是正确的。Schwartz 还分享了一篇 Reddit 帖子,引发了关于谁应该受到指责的问题,原作者询问是否可以将这种疏忽归咎于当局。未来,可能会有更多关于人工智能技术使用是否合适的讨论,以及必须采取哪些措施来确保消费者受到保护。该事件还表明需要评估消息来源的可靠性,尤其是那些可能具有实际意义的信息。
文章《Ripple 首席技术官在发生有毒事故后对 AI 创作的内容发出警报》首先出现在 Crypto News Land 上。