ChainCatcher消息，据英国(卫报)调查发现，OpenAI的ChatGPT搜索工具存在潜在的安全问题，可能会被人利用隐藏内容进行操纵。
(卫报) probó la reacción de ChatGPT cuando se le pidió resumir páginas web que contenían contenido oculto. El contenido oculto puede incluir instrucciones de terceros, como hablar extensamente sobre los beneficios de un producto, y estas instrucciones pueden alterar la respuesta de ChatGPT. Esta técnica puede ser mal utilizada, por ejemplo, para hacer que ChatGPT devuelva una evaluación positiva a pesar de que hay críticas negativas sobre el producto en la misma página. Los probadores le dieron a ChatGPT una URL falsa que parecía la página de un producto de cámara y luego preguntaron si la cámara valía la pena comprar. ChatGPT dio una evaluación positiva pero equilibrada, al mismo tiempo que destacó algunas características que a algunas personas podrían no gustarles. Pero cuando el texto oculto contenía instrucciones para que ChatGPT devolviera buenas críticas, su respuesta siempre fue completamente positiva, incluso si había críticas negativas en la página.
El investigador de ciberseguridad de CyberCX, Jacob Larsen, indicó que si la búsqueda de ChatGPT se abre a todos en su estado actual, podría haber personas de 'alto riesgo' creando sitios web diseñados para engañar a los usuarios. (金十)