据 ChainCatcher 报道,英国《卫报》调查发现,OpenAI 的 ChatGPT 搜索工具存在潜在安全问题,可能被利用隐藏内容进行操纵。
《卫报》测试显示,ChatGPT 在总结包含隐藏内容的网页时,可能被第三方指令影响,返回偏向性评价。即使页面上有负面评论,隐藏文本中的指令可导致 ChatGPT 返回正面评价。
CyberCX 网络安全研究员 Jacob Larsen 表示,如果 ChatGPT 搜索以目前状态开放,可能会有高风险的人创建专门欺骗用户的网站。
据 ChainCatcher 报道,英国《卫报》调查发现,OpenAI 的 ChatGPT 搜索工具存在潜在安全问题,可能被利用隐藏内容进行操纵。
《卫报》测试显示,ChatGPT 在总结包含隐藏内容的网页时,可能被第三方指令影响,返回偏向性评价。即使页面上有负面评论,隐藏文本中的指令可导致 ChatGPT 返回正面评价。
CyberCX 网络安全研究员 Jacob Larsen 表示,如果 ChatGPT 搜索以目前状态开放,可能会有高风险的人创建专门欺骗用户的网站。