アダム・シフ下院議員率いる米国下院議員数名は、Google に AI 概要機能の説明を求めている。Google 検索エンジンに統合されたこのツールは、AI を使用して情報を要約する。

シフ議員と他の議員らは、この機能の不正確さと危険性についてグーグルのサンダー・ピチャイCEOに書簡を送った。書簡ではさらに、AIが風刺的なウェブサイトから情報を引き出し、ずっと以前に否定された陰謀説を引用し、何も知らないユーザーに誤った情報を提供していると述べている。

手紙は誤報に関する懸念を引き起こす

シフ氏は、特に多くのアメリカ人にとってグーグルがニュースや健康情報の主な情報源となっている背景で、偽情報のリスクを強調した。ヘンリー・C・ジョンソン・ジュニア下院議員（ジョージア州民主党）、ドナルド・S・ベイヤー・ジュニア下院議員（バージニア州民主党）、プラミラ・ジャヤパル下院議員（ワシントン州民主党）、ロリ・トラハン下院議員（マサチューセッツ州民主党）も署名したこの書簡は、AI概要機能のいくつかの側面について説明を求めている。

関連記事：AIの物語が加速、複数の資産に対する感情が強気に転じる

議員らはまた、誤報のリスクについてユーザーがどのように知らされるのか、また、誤った情報を訂正または削除するまでの期間についても知りたいと考えている。

Google の AI 概要機能は、Gemini AI モデルを使用して、上位のページから情報を抽出し、リンク付きの概要を提供します。ただし、この機能は間違った情報や誤解を招く情報を提供していると非難されています。例としては、ビタミン補給のために岩石を食べるようアドバイスしたり、バラク・オバマの宗教を推奨したりすることなどが挙げられます。

最近の論争はAI生成コンテンツの問題を浮き彫りにしている

2024年5月、Googleは米国でAI Overviewsをリリースした直後、ピザにチーズがくっつくように接着剤を加えることを提案する機能だったとして批判を受けた。記事執筆時点で、Googleは議員らの書簡に直接回答していない。

Googleの副社長兼検索部門責任者のリズ・リード氏もブログ投稿で、AI概要機能に問題があると説明した。リード氏は、AIが抱える問題の1つは、尋ねられたクエリが十分な高品質データに裏付けられていない場合、AIがうまく機能しないことだ、と指摘した。例えば、ユーザーが特定のトピックや珍しいトピック、あるいは風刺を含むトピックを入力すると、AIは限られた情報源から回答を選択し、その情報源が信頼できないこともあると指摘した。

出版社にとっての経済的影響についても議論がある。Google などの AI ベースの検索エンジンは、トラフィックを元のコンテンツ提供者に誘導せずに、さまざまなソースからのコンテンツの要約を表示する場合があり、それが出版社の収益に影響を与える可能性がある。このため、カリフォルニアでは立法措置が取られ、議員らはテクノロジー企業がコンテンツを利用する際に出版社に支払いを行うことを提唱している。