谷歌正在缩减部分搜索结果中 AI 概览的显示比例。这一决定是在该搜索巨头犯下一些公开错误并在互联网上引起公众强烈反对之后做出的。
周四，谷歌搜索主管利兹·里德承认，该公司正在限制人工智能生成的摘要，即“人工智能概览”。当这项人工智能功能开始显示告诉人们吃石头和在披萨上粘奶酪的内容时，它受到了批评。
另请阅读：谷歌、OpenAI 和其他 13 家公司承诺不部署有风险的 AI 模型
谷歌在年度 I/O 大会结束后两周开始向美国用户展示 AI 概览，并在大会期间推出了多项基于 AI 的产品。从周四开始，用户发现问题越来越少，而 AI 会给出答案。
识别虚假的人工智能概述需要仔细分析
里德在一篇博文中写道，社交媒体上有人分享了 AI 概览的截图，这些截图给出了奇怪的解决方案。她表示，该公司的 AI 犯了一些错误，但很多都是假的，根本不是由谷歌的 AI 系统生成的。
Google AI 概览建议将奶酪粘到披萨上。来源。
她承认确实出现了一些奇怪或不准确的 AI 概述。它突出显示了该功能需要改进的地方，但它们并不是常见的搜索查询。她注意到这些假的，说，
“另外，大量伪造的截图被广泛传播。其中一些伪造的结果非常明显，也很愚蠢。”
里德表示，谷歌没有展示任何有关怀孕期间吸烟或将狗留在车内等主题的人工智能概览。她鼓励在社交媒体上看到这些截图的用户自己搜索并检查。
谷歌的人工智能现在可以识别讽刺内容
谷歌发现，讽刺内容和无意义的查询是产生不准确的 AI 概览需要解决的领域。谷歌表示，在查询“我应该吃多少块石头？”的截图传播开来之前，没有人问过这个问题。里德表示，可以查看 Google Trends 进行确认。
另请阅读：Opera 集成 Google 的 Gemini 模型以增强 Aria 浏览器 AI
另一个因素是特定主题的内容非常少，也称为数据空白，这也是 AI 概览不准确的一个原因。关于吃岩石的查询，Reid 表示内容的讽刺性质引发了 AI 概览。该内容还被一个地质软件网站重新发布，AI 概览链接到该网站。她澄清说，
“因此，当有人在搜索中输入这个问题时，就会出现一个 AI 概述，并忠实地链接到仅有的几个解决该问题的网站之一。”
里德没有提及社交媒体上流传的其他 AI 概述，许多大型出版商也发表了关于它们的报告。例如，《华盛顿邮报》发表了一篇关于谷歌告诉人们巴拉克·奥巴马是穆斯林的报告。该出版物还报道了另一个例子，其中谷歌 AI 概述告诉用户人们应该喝尿来帮助排出肾结石。
谷歌对公共论坛非常痴迷
谷歌搜索主管指出，该公司在向公众推出该功能之前进行了广泛的测试。她还承认，在测试阶段很难模拟现实世界的使用习惯，但该公司对典型用户查询进行了严格的红队测试和抽样。
另请阅读：谷歌的人工智能概览功能因结果不准确而面临强烈反对
一些用户和互联网内容分析师注意到，谷歌最近开始显示许多来自 Reddit 等公共论坛的结果。一些人质疑该公司与 Reddit 的交易，但谷歌发言人告诉 BBC，协议中没有这样的条款，以使 Reddit 在搜索结果中更具可见性。
营销机构 Amsive 的 SEO 策略和研究副总裁 Lily Ray 表示，现在许多查询都会显示来自 Reddit 的结果。她还在 X 帖子（以前的 Twitter）中嘲讽谷歌，称世界上所有的知识（Reddit 内容）都与人工智能相结合。
女士们，先生们，全世界的知识，加上人工智能的力量和一个 Reddit 巨魔。pic.twitter.com/jhzT2pGXjh
— Lily Ray 😏 (@lilyraynyc) 2024 年 5 月 21 日
里德表示，AI 概览中的一些示例包含来自论坛的讽刺内容。她说，论坛是获取第一手信息的良好来源，但在某些情况下，它们可能会引发不太有用的答案，例如将奶酪粘在披萨上。
谷歌的人工智能也会误解语言，导致人工智能概述中出现错误信息，但据该公司称，此类答案的比例非常低。里德指出，他们通过改进或删除不符合谷歌政策的回答，迅速解决了这些问题。
谷歌搜索副总裁还表示，健康和新闻等主题有严格的防护措施。该公司推出了新的触发改进措施，以增强对健康的质量保护。里德表示，检测系统还针对无意义的查询进行了更新，以免将其显示为 AI 概述。她还暗示将确认减少讽刺查询的 AI 概述，并表示：“我们更新了系统，以限制在可能提供误导性建议的响应中使用用户生成的内容。”
Aamir Sheikh 的 Cryptopolitan 报道
