以衆議員亞當·希夫爲首的幾位美國衆議院議員呼籲谷歌解釋其人工智能概覽功能。該工具集成在谷歌搜索引擎中，使用人工智能彙總信息。

希夫和其他議員致信谷歌首席執行官桑達爾·皮查伊，指出該功能的不準確性和危險性。信中進一步指出，該人工智能一直在從諷刺網站中提取信息，並引用早已被揭穿的陰謀論，向毫無戒心的用戶提供錯誤信息。

信中提出了對錯誤信息的擔憂

希夫強調了虛假信息的風險，特別是在谷歌是許多美國人的主要新聞和健康信息來源的情況下。這封信還由衆議員亨利·C·約翰遜 (Henry C. Johnson, Jr.) (佐治亞州民主黨)、唐納德·S·貝耶 (Donald S. Beyer Jr.) (弗吉尼亞州民主黨)、普拉米拉·賈亞帕爾 (Pramila Jayapal) (華盛頓州民主黨) 和洛裏·特拉漢 (Lori Trahan) (馬薩諸塞州民主黨) 簽署，要求澄清人工智能概覽功能的幾個方面。

另請閱讀：人工智能敘事加速，市場情緒轉向看漲多種資產

立法者還想知道如何告知用戶錯誤信息的風險以及糾正或刪除虛假信息的時間範圍。

Google 的 AI 概覽功能採用 Gemini AI 模型從排名靠前的頁面中提取信息並提供帶有鏈接的摘要。然而，該功能被指控提供錯誤和誤導性的信息。其中一些例子包括建議人們喫石頭來補充維生素和支持巴拉克·奧巴馬的宗教信仰。

最近的爭議凸顯了人工智能生成內容的問題

2024年5月，谷歌在美國發布《AI概覽》後不久就受到批評，因爲該功能建議在披薩上加膠水，這樣奶酪就會粘住。截至發稿時，谷歌尚未對議員的信函做出直接回應。

谷歌副總裁兼搜索主管Liz Reid在一篇博文中也解釋了AI Overviews功能存在的問題。Reid指出，AI存在的一個問題是，當查詢沒有足夠的高質量數據支持時，它的表現會不佳。她指出，例如，當用戶輸入特定或罕見的話題，或者包含諷刺的話題時，AI會從有限的來源中選擇答案，而有時這些來源並不可信。

關於出版商的財務後果，也有討論。谷歌等基於人工智能的搜索引擎可能會提供來自不同來源的內容摘要，而不會將流量引導回原創者，這可能會影響他們的收入。這導致了立法行動，例如加利福尼亞州的立法行動，立法者主張科技公司利用出版商的內容時向出版商支付費用。