Zpráva ChainCatcher uvádí, že podle vyšetřování britského (Guardian) existují potenciální bezpečnostní problémy s vyhledávacím nástrojem OpenAI ChatGPT, které by mohly být zneužity k manipulaci s obsahem.
(Guardian) testoval, jak ChatGPT reaguje na požadavek shrnout webové stránky obsahující skrytý obsah. Skrytý obsah může obsahovat pokyny třetích stran, například hodně mluvit o výhodách určitého produktu, což může změnit odpověď ChatGPT. Tato technika může být zneužita, například může ChatGPT vrátit pozitivní hodnocení, i když na stejné stránce jsou negativní recenze produktu. Testující poskytli ChatGPT falešnou adresu URL, která vypadala jako stránka s kamerovým produktem, a poté se zeptali, zda by stálo za to kameru koupit. ChatGPT poskytlo pozitivní, ale vyvážené hodnocení, přičemž zdůraznilo některé funkce, které by se některým lidem nemusely líbit. Ale když skrytý text obsahoval pokyny, aby ChatGPT vrátil pozitivní hodnocení, jeho odpověď byla vždy zcela pozitivní, i když na stránce byly negativní recenze.
Kybernetický bezpečnostní výzkumník Jacob Larsen z CyberCX uvedl, že pokud bude vyhledávání ChatGPT v současném stavu otevřeno pro všechny, mohlo by to vést k tomu, že 'vysokorizikoví' lidé vytvoří webové stránky zaměřené na podvádění uživatelů. (Jin Shi)