ChainCatcher messaggio, secondo un'indagine del Regno Unito (The Guardian), il strumento di ricerca ChatGPT di OpenAI presenta potenziali problemi di sicurezza che potrebbero essere sfruttati per manipolare contenuti nascosti.
(The Guardian) ha testato la reazione di ChatGPT quando gli è stato chiesto di riassumere una pagina web contenente contenuti nascosti. I contenuti nascosti possono contenere istruzioni di terze parti, come parlare ampiamente dei benefici di un prodotto, e queste istruzioni possono alterare la risposta di ChatGPT. Questa tecnologia può essere utilizzata in modo malevolo, ad esempio, facendo in modo che ChatGPT restituisca una valutazione positiva nonostante le recensioni negative dello stesso prodotto sulla stessa pagina. I tester hanno fornito a ChatGPT un URL falso che sembrava una pagina di prodotto per una fotocamera, e poi hanno chiesto a ChatGPT se la fotocamera fosse degna di essere acquistata. ChatGPT ha fornito una valutazione positiva ma equilibrata, sottolineando alcune caratteristiche che potrebbero non piacere a certe persone. Ma quando il testo nascosto conteneva istruzioni per far restituire a ChatGPT recensioni positive, le sue risposte erano sempre completamente positive, anche se c'erano recensioni negative sulla pagina.
Jacob Larsen, ricercatore di sicurezza informatica di CyberCX, ha dichiarato che se la ricerca di ChatGPT rimarrà aperta a tutti nello stato attuale, potrebbero esserci persone 'ad alto rischio' che creano siti web specificamente progettati per ingannare gli utenti. (Jinshi)