由衆議員亞當·希夫 (Adam Schiff) 領導的一組美國議員已要求 Alphabet/Google 首席執行官桑達爾·皮查伊 (Sundar Pichai) 在 8 月 1 日之前滿足有關該公司搜索“AI 概覽”功能相關信息的要求。
AI 概覽是用戶查詢時顯示在 Google 搜索頁面頂部的摘要窗口。它通常包含簡短的文本答案、相關圖片以及支持鏈接。
希夫辦公室援引多份報告稱，AI Overview 傾向於輸出不正確和/或潛在危險的信息。
該投訴由希夫辦公室發布，並由其他四名國會議員聯名簽署，要求回答有關該功能的 11 個問題，這些問題與該公司為確保更高的準確性和安全性所做的努力有關。
人工智慧概述
AI Overview 的一些問題源於它明顯無法確定給定來源是否是諷刺。希夫和其他國會成員寫道：「Google的人工智慧概述功能告訴用戶每天至少吃一塊石頭來補充維生素和礦物質。」並補充說人工智慧引用了諷刺新聞網站「洋蔥」。
在其他情況下，例如當用戶開始報告人工智慧概述聲稱巴拉克·歐巴馬是第一位穆斯林美國總統時，人工智慧系統直接引用了已被揭穿的陰謀論。
希夫的信承認谷歌正在努力打擊錯誤訊息，但指出還需要做更多的工作：
「我們讚賞谷歌為修復這些錯誤所做的努力，透過持續測試改進功能，刪除違反公司內容政策的回复，並將人工智慧生成的回复標記為實驗性回复。然而，我們還需要做更多的工作來充分確保谷歌能夠繼續成為美國人值得信賴和可靠的信息來源。
人工智慧推理
到目前為止，科學界還沒有一致認為這類問題實際上可以解決。問題的要點是，人工智慧不會“思考”或“推理”，儘管這兩個術語常用於人工智慧產品的營銷。
生成式人工智慧系統模仿人類語音，但缺乏理解上下文或將獲得的經驗應用於特定情況的能力。
這些問題在該領域長期以來一直很突出，並在早期的大型語言模型中註意到，例如OpenAI 的GPT-2 和Meta 現已不復存在的「卡拉狄加」系統，該系統在推出僅三天后就因引發強烈反對而被下架。
美國的要求
為了進一步了解谷歌的努力，希夫和他的議員同僚要求皮查伊和谷歌在 8 月 1 日之前做出回應，回答 11 個問題。其中包括對該公司的排名程序、自動事實核查、準確性、來源、透明度以及如何與當局合作以確保安全的詢問。
相關：微軟Windows資料中斷導致主要金融公司癱瘓，導致旅行混亂
