《衛報》的一項調查揭露了 OpenAI 的 ChatGPT 搜索工具中存在潛在的安全漏洞,凸顯了人們對該工具可能通過網頁上的隱藏內容進行操縱的擔憂。調查結果表明,ChatGPT 可能受到隱藏文本中嵌入的第三方指令的影響,從而可能生成有偏見或誤導性的摘要。
《衛報》進行的測試表明,即使網頁包含負面評論,隱藏的指令也能促使 ChatGPT 返回不必要的正面評價。CyberCX 的網絡安全專家 Jacob Larsen 警告稱,該工具的現狀可能使惡意行爲者能夠設計旨在欺騙用戶的網站,帶來重大風險。
隨著擔憂的增加,專家強調需要採取強有力的保護措施來解決這些漏洞,然後再更廣泛地部署該工具。 OpenAI 尚未對減輕這些風險的潛在措施發表評論。