Secondo ChainCatcher, un'inchiesta del Regno Unito (The Guardian) ha rivelato che lo strumento di ricerca ChatGPT di OpenAI presenta potenziali problemi di sicurezza, che potrebbero essere sfruttati per manipolare contenuti nascosti.
I test (The Guardian) hanno mostrato che ChatGPT, nel riassumere pagine web contenenti contenuti nascosti, potrebbe essere influenzato da istruzioni di terze parti, restituendo valutazioni di parte. Anche se ci sono commenti negativi sulla pagina, le istruzioni nel testo nascosto possono portare ChatGPT a restituire valutazioni positive.
Jacob Larsen, ricercatore di sicurezza informatica di CyberCX, ha affermato che se la ricerca di ChatGPT rimarrà aperta nello stato attuale, ci sarà un alto rischio che individui malintenzionati creino siti web appositamente per ingannare gli utenti.