「安全対策は講じていますが、システムが不正確または誤解を招く情報を生成したり、不快または偏ったコンテンツを作成したりする場合があります。アドバイスを提供することを目的としたものではありません。」
– OpenAIの冒頭の免責事項
そして、それが私たちの最大の恐怖の核心につながります。テクノロジーが私たちに逆らったら何が起こるのでしょうか?
適切なテストや機能に関する知識がないまま、テクノロジーが時期尚早に導入されるとどうなるでしょうか?
今月初め、世界で最も話題になっている人工知能（AI）企業であるOpenAIは、同社にとって初の名誉毀損訴訟を起こされた。この訴訟は、事実や法的裏付けのない結果を無制限に生成するChatGPTの能力の危険性をさらに浮き彫りにした。
ジョージア州で全国放送されているラジオ番組の司会者マーク・ウォルターズ氏は、6月5日にOpenAIを相手取り、同社のAI搭載チャットボット「ChatGPT」が自分に対する法的請求を捏造したとして訴訟を起こした。
13ページの訴状は、AmmoLand.comのジャーナリスト、フレッド・リール氏と、5月4日にChatGPTに要請した、銃権利財団の活動を抑制して権力を乱用したとしてワシントン連邦裁判所に提訴された連邦訴訟、Second Amendment Foundation v. Fergusonの訴訟の概要を示し、OpenAIチャットボットに訴訟へのリンクを提供したことを言及している。
ウォルター氏は当初の訴訟では名前が挙がっていなかったが、ChatGPTはセカンド・アムデンメント財団のリール氏の要約要求に応えて、次のように述べた。
「…セカンド・アメンドメント財団（SAF）の創設者兼副会長のアラン・ゴットリーブ氏が、SAFから資金を詐取および横領したとして告発されているマーク・ウォルターズ氏に対して提出した訴訟。」
しかし、ここで事態は歪んで危険な状態になります。ウォルターズに関する ChatGPT の声明は、実際の SAF の苦情には一切含まれていないのです。
このAIが作成した「苦情」では、組織の会計係兼最高財務責任者を務めていたウォルターズ氏が「許可や払い戻しなしに個人的な経費に資金を不正流用し、活動を隠すために財務記録や銀行取引明細書を操作し、SAFの指導部に正確でタイムリーな財務報告や開示を行わなかった」とも主張されている。
原告は救済策として、「不正流用された資金の回収、信託義務違反と詐欺に対する損害賠償、そしてウォルター氏のSAF取締役会メンバーとしての地位からの解任」を求めていたとされる。
しかし、ここに問題がある。ウォルターズ氏によると、「[ChatGPT]の要約にある[彼]に関する事実の記述はすべて虚偽である」とのことで、OpenAIのチャットボットは「誤った事件番号」を作成するまでになった。
「ウォルターズ氏に関するChatGPTの申し立ては虚偽かつ悪意のあるものであり、印刷物、文章、写真、または標識で表現され、ウォルターズ氏の評判を傷つけ、公衆の憎悪、軽蔑、または嘲笑にさらす傾向があった」と訴状には記されている。「申し立てをリール氏に送ることで、[OpenAI]はウォルターズ氏に関する名誉毀損的な内容を公開した。」
ウォルターズ氏の訴状で引用された SAF の訴訟の概要を ChatGPT に提供するよう依頼した場合、次のような返答が返ってくる可能性もあります。
「申し訳ありませんが、AI言語モデルとして、私の回答は2021年9月までの既存の知識に基づいています。そのため、インターネットにアクセスしたり、閲覧したり、知識の限界後に公開された特定の文書やリンクを表示したりすることはできません。そのため、あなたが言及した訴訟の告発の概要を提供することはできません…訴訟とその告発に関する情報を得るには、自分で文書を確認するか、事件を取り上げている可能性のある信頼できるニュースソースや法律ウェブサイトを参照することをお勧めします。それらは、あなたが言及した特定の訴訟に関する正確で最新の情報を提供します。」
OpenAIはウォルターズ氏の進行中の名誉毀損訴訟に関するいかなるコメントにも反応していないが、振り返ってみると適切なテストを行わずに不注意に導入されたコードの、おそらくは予見できた結果について、なぜこのAI企業がもっと強く追及しないのかという疑問が残る。
この訴訟は、Mark Walters v. OpenAI, LLC、cv-23-A-04860-2 です。
ウォルターの6月5日の苦情はここで読むことができます。
その他のニュースでは、ジョー・バイデン米大統領が AI の偏見と労働力のメリットについて話し合うため 8 人の技術リーダーと会談したという記事をお読みください。
Hypemoonでギャラリー全体を見るにはここをクリックしてください
