ガーディアン紙の調査により、OpenAI の ChatGPT 検索ツールに潜在的なセキュリティ上の脆弱性があることが明らかになり、Web ページ上の隠しコンテンツを通じて操作される可能性に対する懸念が浮き彫りになった。調査結果によると、ChatGPT は隠しテキストに埋め込まれたサードパーティの指示の影響を受け、偏った、または誤解を招くような要約が生成される可能性があるという。
ガーディアン紙が実施したテストでは、ウェブページに否定的なコメントが含まれていても、隠された指示によってChatGPTが不当な肯定的なレビューを返す可能性があることが実証された。サイバーCXのサイバーセキュリティ専門家、ジェイコブ・ラーセン氏は、このツールの現状では、悪意のある人物がユーザーを騙すことを目的としたウェブサイトを設計できる可能性があり、大きなリスクをもたらすと警告した。
懸念が高まるにつれ、専門家はツールのより広範な導入の前にこれらの脆弱性に対処するための強力な安全策の必要性を強調している。OpenAIはこれらのリスクを軽減するための潜在的な対策についてまだコメントしていない。