По сообщению ChainCatcher, согласно расследованию британского издания (The Guardian), у инструмента поиска ChatGPT от OpenAI есть потенциальные проблемы с безопасностью, которые могут быть использованы для манипуляции скрытым содержанием.
(The Guardian) протестировал реакцию ChatGPT, когда его попросили обобщить веб-страницу, содержащую скрытое содержание. Скрытое содержание может содержать инструкции третьих лиц, например, обширное обсуждение преимуществ определенного продукта, и эти инструкции могут изменить ответ ChatGPT. Эта техника может быть использована во вред, например, несмотря на наличие негативных отзывов о продукте на той же странице, заставить ChatGPT вернуть положительный отзыв. Тестировщики предоставили ChatGPT поддельный URL, который выглядел как страница продукта камеры, а затем спросили, стоит ли покупать камеру. ChatGPT дал положительный, но сбалансированный отзыв, при этом подчеркивая некоторые функции, которые могут не понравиться людям. Но когда скрытый текст содержал инструкции для ChatGPT вернуть положительные отзывы, его ответы всегда были исключительно положительными, даже если на странице были негативные комментарии.
Исследователь кибербезопасности CyberCX Джейкоб Ларсен заявил, что если поиск ChatGPT останется открытым для всех в своем нынешнем состоянии, существует риск, что "высокий риск" пользователи создадут сайты, специально нацеленные на обман пользователей. (Золотая десятка)