O investigație realizată de The Guardian a relevat posibile vulnerabilități de securitate în instrumentul de căutare ChatGPT al OpenAI, subliniind îngrijorările cu privire la susceptibilitatea sa la manipulare prin conținut ascuns pe paginile web. Descoperirile sugerează că ChatGPT poate fi influențat de instrucțiuni ale terților încorporate în textul ascuns, generând potențial rezumate părtinitoare sau înșelătoare.
Teste realizate de The Guardian au demonstrat că, chiar și atunci când paginile web conțineau comentarii negative, instrucțiuni ascunse puteau determina ChatGPT să ofere recenzii pozitive nejustificate. Jacob Larsen, un expert în securitate cibernetică de la CyberCX, a avertizat că starea actuală a instrumentului ar putea permite actorilor rău intenționați să conceapă site-uri web destinate să dezinformeze utilizatorii, prezentând riscuri semnificative.
Pe măsură ce îngrijorările cresc, experții subliniază necesitatea unor măsuri de protecție robuste pentru a aborda aceste vulnerabilități înainte de desfășurarea mai largă a instrumentului. OpenAI nu a comentat încă despre măsurile potențiale pentru a reduce aceste riscuri.