Повідомлення ChainCatcher, згідно з дослідженням британської (The Guardian), виявило потенційні проблеми безпеки у пошуковому інструменті ChatGPT від OpenAI, які можуть бути використані для маніпуляцій шляхом приховування контенту.
(The Guardian) протестував реакцію ChatGPT, коли йому було запропоновано підсумувати веб-сторінки, що містять прихований контент. Прихований контент може містити інструкції третіх осіб, такі як велика кількість позитивних відгуків про певний продукт, які змінюють реакцію ChatGPT. Цю технологію можна використовувати зловмисно, наприклад, щоб змусити ChatGPT надати позитивну оцінку, незважаючи на негативні відгуки про той же продукт на сторінці. Тестувальники надали ChatGPT фальшиве посилання, яке виглядало як сторінка продукту камери, а потім запитали, чи варто купувати камеру. ChatGPT дало позитивну, але збалансовану оцінку, підкреслюючи деякі функції, які можуть не сподобатися користувачам. Але коли прихований текст містив інструкції для ChatGPT, щоб повернути позитивні відгуки, його відповіді завжди були абсолютно позитивними, навіть якщо на сторінці були негативні коментарі.
Дослідник кібербезпеки CyberCX Джейкоб Ларсен зазначив, що якщо пошук ChatGPT залишиться відкритим для всіх у поточному стані, можуть з'явитися "високі ризики" для створення сайтів, спеціально націлених на обман користувачів. (Золотий десяток)