Selon ChainCatcher, une enquête britannique (Guardian) a révélé que l'outil de recherche ChatGPT d'OpenAI présente des problèmes de sécurité potentiels et peut être manipulé en masquant du contenu.
(The Guardian) Les tests montrent que ChatGPT peut être affecté par des instructions de tiers lors du résumé de pages Web contenant du contenu caché, renvoyant des évaluations biaisées. Même s'il y a des avis négatifs sur la page, les instructions contenues dans le texte masqué peuvent amener ChatGPT à renvoyer un avis positif.
Jacob Larsen, chercheur en cybersécurité chez CyberCX, a déclaré que si la recherche ChatGPT est ouverte dans son état actuel, des individus à haut risque pourraient créer des sites Web spécialement conçus pour tromper les utilisateurs.