Vyšetřování deníku The Guardian odhalilo potenciální bezpečnostní zranitelnosti ve vyhledávacím nástroji ChatGPT společnosti OpenAI a upozornilo na obavy z jeho náchylnosti k manipulaci prostřednictvím skrytého obsahu na webových stránkách. Zjištění naznačují, že ChatGPT může být ovlivněn instrukcemi třetích stran vloženými do skrytého textu, což může potenciálně generovat neobjektivní nebo zavádějící souhrny.
Testy provedené The Guardian ukázaly, že i když webové stránky obsahovaly negativní komentáře, skryté pokyny mohly přimět ChatGPT, aby vrátil neoprávněné pozitivní recenze. Jacob Larsen, odborník na kybernetickou bezpečnost ze společnosti CyberCX, varoval, že současný stav nástroje může umožnit zlomyslným aktérům navrhovat webové stránky zaměřené na klamání uživatelů, což představuje značná rizika.
S rostoucími obavami odborníci zdůrazňují potřebu robustních ochranných opatření, která by tyto zranitelnosti vyřešila před širším nasazením nástroje. OpenAI se zatím nevyjádřila k potenciálním opatřením ke zmírnění těchto rizik.