ユネスコは、AI開発者が倫理基準を適用しない場合、生成AIがホロコーストの歴史を歪曲する可能性があると懸念を表明した。ユニセフは月曜日に発表した報告書で、悪意のある人物による生成AIの潜在的な悪用について警告した。

関連記事：中央銀行はAIに関して「レベルアップ」する必要がある、BISが警告

ユネスコの報告書は、悪意のある人物がこの技術を利用してホロコーストに関する偽情報、誤報、誤解を招くコンテンツを拡散する可能性があると警告している。

若者は間違った情報に影響を受けやすい

世界ユダヤ人会議と共同で発表されたこの報告書は、若者はAIなどの新興技術に頻繁にさらされているため、歪んだ情報を受け取るリスクが高まっていると警告している。

また、10歳から24歳までの若者の80%が学校の課題などのさまざまな作業にAIを使用しており、歪んだ情報にアクセスする可能性が高まっていることも報告されている。

「AIの無責任な使用によってホロコーストの恐ろしい事実が薄められたり、歪曲されたり、偽造されたりするのを許せば、反ユダヤ主義が爆発的に広がり、これらの残虐行為の原因と結果についての理解が徐々に薄れていく危険がある。」

ユネスコ事務局長オードリー・アズレ氏。

報告書はまた、AIには「複雑な歴史を過度に単純化し、限られた範囲の情報源と少数の出来事を優先する」傾向が強いと指摘している。例えば、AI搭載検索エンジンのトップ画像結果の約60%から80%には、ホロコーストの遺跡であるアウシュビッツ・ビルケナウだけが表示される。

ユネスコは倫理を強化するための行動を呼び掛ける

報告書は、AI は既存の偏見を永続させる可能性があり、ホロコーストもこうした AI の偏見から逃れることはできないと主張している。ユネスコによると、ホロコーストに関する偽情報がすでに蔓延しており、生成 AI の使用によってそれが悪化する可能性があるという。

こちらもお読みください: AI競争が激化する中、Meta AIがインドに進出

アズレイ氏は、若者を歪んだ情報から守るために倫理基準を施行することの重要性を強調した。

「若い世代が捏造ではなく事実に基づいて成長できるように、ユネスコのAI倫理に関する勧告を実施することが急務です。」

アズレイ。

報告書は、OpenAIのChatGPTやGoogleのBard（現在はGemini）などのAIモデルがホロコーストについて幻覚を起こし、実際には起こらなかった出来事を詳細に描写していると強調している。ユネスコによると、これらのモデルは「ナチスがユダヤ人を川や湖で溺死させたという作戦を捏造することで、ホロコーストの概念を捏造した」という。

AIモデルは、こうした歪んだ物語を裏付けるために偽の引用も作成している。こうした事例を踏まえ、ユネスコは課題に対処するために多様な利害関係者によるアプローチを求めた。解決策の1つは、2021年に加盟国が採択したAI倫理に関する勧告を迅速に実施することだ。

ユネスコはまた、テクノロジー企業に対し、公平性、透明性、人権、デューデリジェンスの原則を尊重するよう求めた。2月にはテクノロジー企業8社がユネスコ事務局長との誓約書に署名し、AIモデルの開発に倫理的なアプローチを適用することを約束した。

Cryptopolitan の Enacy Mapakame によるレポート