EUのプライバシー監視機関による新たな報告書によると、OpenAIの話題のチャットボットChatGPTは依然として欧州連合のデータ精度基準を満たしていない。
こちらもお読みください: 欧州の AI 法案が最終承認、最大 3,800 万ドルの罰金を科す
欧州連合データ保護委員会 (EDPB) の報告書は法的文書ではありません。ただし、EU 加盟 27 か国全体で ChatGPT を規制するための共通のアプローチを示すものとなります。
ChatGPTはデータ標準に準拠していない
昨年、欧州の複数の国でAIモデルに対する訴訟が続いていることを受けて、各国の監視団体が「ChatGPTタスクフォース」を結成した。このタスクフォースはEDPBの管轄下にある。
タスクフォースは5月24日に発表した報告書の中で、次のように述べている。
「透明性の原則を遵守するために講じられた措置は、ChatGPTの出力の誤解を避けるのに有益ですが、データの正確性の原則を遵守するには十分ではありません。」
大規模言語モデル（LLM）は、「幻覚」を起こすことで有名です。これは、AI チャットボットがしばしば自信を持って虚偽の情報を吐き出すことを指す技術用語です。
ChatGPTやGoogleのGeminiなどのチャットボットはLLMを搭載しています。欧州の厳しい一般データ保護規則（GDPR）の下では、ユーザーは、自分に関する不正確な情報を誤って提示されたり、訂正する機会を拒否されたりしたとして訴訟を起こすことができます。
タスクフォースの報告書によると、「（AI）システムの確率的な性質により、現在のトレーニングアプローチでは、偏った、あるいは捏造された出力を生成する可能性のあるモデルが生成される可能性がある」とのことだ。
「ChatGPTが提供する出力は、実際の正確性に関わらず、個人に関する情報を含め、エンドユーザーによって事実として正確であると受け取られる可能性が高い」と付け加えた。
欧州連合旗。出典：Pixabay EUはコンプライアンスを強化
OpenAIはこれまで、誤情報の訂正に失敗した理由として技術的な複雑さを挙げてきたが、欧州連合の監視機関はさらなる圧力をかけている。
「特に、技術的な不可能性は、これらの要件に従わないことを正当化するために持ち出すことはできない」とタスクフォースは指摘した。
新たに開始された訴訟では、オーストリアの著名人が、生年月日を修正しなかったとして ChatGPT を訴えている。OpenAI は、これは技術的に不可能であると述べたが、この新しい報告書は AI モデルにさらなる圧力をかけることになるだろう。
この事件に関わるデータ保護弁護士のマーチェ・デ・グラーフ氏は、企業は現在、個人情報を処理する際にAIチャットボットにEU法を遵守させることができないと述べた。
「システムが正確で透明性のある結果を出せない場合、個人に関するデータを生成するために使用することはできません。テクノロジーは法的要件に従う必要があり、その逆ではありません」とデ・グラーフ氏は述べた。
OpenAIに安全性の懸念が浮上
専門家は、欧州連合のデータ保護を規制するGDPRに違反しないためには、ChatGPTには大胆な変更が必要になると述べている。
この規則は、アルゼンチン、ブラジル、チリ、日本、ケニア、モーリシャス、南アフリカ、韓国、トルコ、英国のデータ法の実用モデルも提供します。
こちらもお読みください: OpenAI、スカーレット・ヨハンソン論争を受けて ChatGPT 音声を廃止
一方、OpenAI のユーザー安全に対する取り組みは疑問視されている。
同社は、共同創業者のイリヤ・スツケヴァー氏、グレッチェン・クルーガー氏、ヤン・ライケ氏、その他6人の著名な退職が相次ぎ、企業文化の転換の必要性を訴える事態となっている。
今週初め、OpenAIは、AIをテーマにした映画「Her」の女優スカーレット・ヨハンソンの声に似ているという懸念から、ChatGPTの音声「Sky」の使用を中止すると発表した。
ジェフリー・ゴーゴーによるクリプトポリタンレポート