以众议员亚当·希夫为首的几位美国众议院议员呼吁谷歌解释其人工智能概览功能。该工具集成在谷歌搜索引擎中，使用人工智能汇总信息。

希夫和其他议员致信谷歌首席执行官桑达尔·皮查伊，指出该功能的不准确性和危险性。信中进一步指出，该人工智能一直在从讽刺网站中提取信息，并引用早已被揭穿的阴谋论，向毫无戒心的用户提供错误信息。

信中提出了对错误信息的担忧

希夫强调了虚假信息的风险，特别是在谷歌是许多美国人的主要新闻和健康信息来源的情况下。这封信还由众议员亨利·C·约翰逊 (Henry C. Johnson, Jr.) (佐治亚州民主党)、唐纳德·S·贝耶 (Donald S. Beyer Jr.) (弗吉尼亚州民主党)、普拉米拉·贾亚帕尔 (Pramila Jayapal) (华盛顿州民主党) 和洛里·特拉汉 (Lori Trahan) (马萨诸塞州民主党) 签署，要求澄清人工智能概览功能的几个方面。

另请阅读：人工智能叙事加速，市场情绪转向看涨多种资产

立法者还想知道如何告知用户错误信息的风险以及纠正或删除虚假信息的时间范围。

Google 的 AI 概览功能采用 Gemini AI 模型从排名靠前的页面中提取信息并提供带有链接的摘要。然而，该功能被指控提供错误和误导性的信息。其中一些例子包括建议人们吃石头来补充维生素和支持巴拉克·奥巴马的宗教信仰。

最近的争议凸显了人工智能生成内容的问题

2024年5月，谷歌在美国发布《AI概览》后不久就受到批评，因为该功能建议在披萨上加胶水，这样奶酪就会粘住。截至发稿时，谷歌尚未对议员的信函做出直接回应。

谷歌副总裁兼搜索主管Liz Reid在一篇博文中也解释了AI Overviews功能存在的问题。Reid指出，AI存在的一个问题是，当查询没有足够的高质量数据支持时，它的表现会不佳。她指出，例如，当用户输入特定或罕见的话题，或者包含讽刺的话题时，AI会从有限的来源中选择答案，而有时这些来源并不可信。

关于出版商的财务后果，也有讨论。谷歌等基于人工智能的搜索引擎可能会提供来自不同来源的内容摘要，而不会将流量引导回原创者，这可能会影响他们的收入。这导致了立法行动，例如加利福尼亚州的立法行动，立法者主张科技公司利用出版商的内容时向出版商支付费用。