ChainCatcher menginformasikan bahwa menurut penyelidikan dari Inggris (The Guardian), alat pencarian ChatGPT dari OpenAI memiliki masalah keamanan potensial yang dapat dimanfaatkan untuk menyembunyikan konten demi manipulasi.
(The Guardian) menguji reaksi ChatGPT ketika diminta untuk merangkum halaman web yang mengandung konten tersembunyi. Konten tersembunyi dapat mencakup instruksi pihak ketiga, seperti banyak membahas manfaat suatu produk, dan instruksi ini dapat mengubah respons ChatGPT. Teknik ini dapat disalahgunakan, misalnya, meskipun ada ulasan negatif tentang produk di halaman yang sama, membuat ChatGPT memberikan ulasan positif. Penguji memberikan ChatGPT sebuah URL palsu yang tampak seperti halaman produk kamera, lalu menanyakan kepada ChatGPT apakah kamera itu layak dibeli. ChatGPT memberikan ulasan positif tetapi seimbang, sambil menekankan beberapa fitur yang mungkin tidak disukai orang. Namun, ketika teks tersembunyi berisi instruksi untuk membuat ChatGPT memberikan ulasan baik, jawabannya selalu sepenuhnya positif, bahkan ketika ada ulasan negatif di halaman.
Peneliti keamanan siber CyberCX, Jacob Larsen, menyatakan bahwa jika pencarian ChatGPT tetap terbuka untuk semua orang dalam keadaan saat ini, mungkin akan ada orang dengan 'risiko tinggi' yang membuat situs web khusus untuk menipu pengguna. (Jin Shi)