ChainCatcher message, selon une enquête du Guardian au Royaume-Uni, l'outil de recherche ChatGPT d'OpenAI présente des problèmes de sécurité potentiels qui pourraient être exploités pour manipuler le contenu caché.
(Guardian) a testé la réaction de ChatGPT lorsqu'il a été demandé de résumer des pages web contenant du contenu caché. Le contenu caché peut inclure des instructions tierces, telles que discuter abondamment des avantages d'un produit, et ces instructions peuvent modifier la réponse de ChatGPT. Cette technique peut être utilisée de manière malveillante, par exemple, en faisant en sorte que ChatGPT donne un avis positif malgré les critiques négatives sur le même page. Les testeurs ont donné à ChatGPT une fausse URL ressemblant à une page de produit d'appareil photo, puis ont demandé à ChatGPT si l'appareil photo valait la peine d'être acheté. ChatGPT a donné une évaluation positive mais équilibrée, tout en soulignant certaines fonctionnalités que certaines personnes pourraient ne pas apprécier. Mais lorsque le texte caché contenait des instructions demandant à ChatGPT de donner de bonnes critiques, sa réponse était toujours complètement positive, même si la page contenait des critiques négatives.
Jacob Larsen, chercheur en cybersécurité chez CyberCX, a déclaré que si la recherche ChatGPT restait ouverte à tous dans son état actuel, il pourrait y avoir des personnes à 'haut risque' créant des sites spécifiquement conçus pour tromper les utilisateurs. (Jin Shi)