По данным ChainCatcher, британское расследование (Guardian) показало, что поисковый инструмент OpenAI ChatGPT имеет потенциальные проблемы с безопасностью и им можно манипулировать, скрывая контент.
(The Guardian) Тесты показывают, что на ChatGPT могут влиять сторонние инструкции при обобщении веб-страниц, содержащих скрытый контент, и возврате предвзятых оценок. Даже если на странице есть отрицательные отзывы, инструкции в скрытом тексте могут заставить ChatGPT вернуть положительный отзыв.
Исследователь кибербезопасности CyberCX Джейкоб Ларсен заявил, что, если поиск ChatGPT открыт в его нынешнем состоянии, могут появиться люди из группы высокого риска, создающие веб-сайты, специально предназначенные для обмана пользователей.