Google は、一部の検索結果における AI 概要の表示を縮小している。この決定は、この検索大手がいくつかのミスを犯し、インターネット上で世間の反発を招いた後に下された。

グーグル検索部門の責任者リズ・リード氏は木曜日、同社が「AI概要」と呼ばれるAI生成の概要表示を制限していることを認めた。AIを活用したこの機能は、石を食べたりピザにチーズを貼り付けたりするよう指示するコンテンツを表示し始めた際に批判された。

こちらもお読みください: Google、OpenAI、その他13社が危険なAIモデルを導入しないと誓約

Google は、AI ベースのサービスを複数発表した年次 I/O イベントの 2 週間後、米国のユーザーに対して AI 概要の表示を開始しました。木曜日以降、ユーザーは質問が減り、AI による応答が増えていることに気付きました。

偽のAI概要を特定するには慎重な分析が必要

リード氏はブログ投稿で、ソーシャルメディア上で奇妙な解決策を提案するAI概要のスクリーンショットが共有されていると書いている。同社のAIはいくつかの間違いを犯したが、その多くは偽物であり、GoogleのAIシステムによって生成されたものではないと彼女は述べた。

Google AI の概要では、ピザにチーズを接着することを提案しています。出典。

彼女は、確かに奇妙で不正確な AI オーバービューがいくつか表示されたことを認めた。それは機能の改善が必要な領域を強調するものだったが、それらは一般的に検索されるクエリではなかった。彼女は偽物について言及し、次のように述べた。

「それとは別に、偽造されたスクリーンショットが大量に広く共有されています。これらの偽造結果の中には、明らかにばかげたものもありました。」

リード氏は、グーグルは妊娠中の喫煙や車内に犬を放置することといった話題についてはAI概要を表示しなかったと述べた。同氏は、ソーシャルメディアでそれらのスクリーンショットを見たユーザーには、自分で検索して確認するよう勧めた。

GoogleのAIが風刺的なコンテンツを識別可能に

Google は、風刺的なコンテンツや無意味なクエリが、不正確な AI オーバービューを生成する原因となっている領域であると認識した。Google は、「石を何個食べればいいのか」というクエリのスクリーンショットが話題になる前は、誰もその質問をしていなかったと述べた。リード氏は、Google トレンドで確認できると述べた。

関連記事：Opera、GoogleのGeminiモデルを統合してAriaブラウザAIを強化

もう一つの要因は、特定のトピックに関するコンテンツがほとんどないこと、つまりデータボイドと呼ばれるもので、これもAIオーバービューが不正確になる原因となっている。岩を食べるクエリに関して、リード氏は、コンテンツの風刺的な性質がAIオーバービューを引き起こしたと述べた。このコンテンツは、AIオーバービューがリンクしている地質学ソフトウェアのウェブサイトでも再公開された。彼女は次のように説明した。

「そのため、誰かがその質問を検索に入力すると、その質問に取り組んでいる数少ないウェブサイトの 1 つに忠実にリンクされた AI 概要が表示されました。」

リード氏はソーシャルメディアで広まっている他のAI概要については触れなかったが、多くの大手出版社もそれらについて記事を出した。例えば、ワシントンポスト紙は、グーグルがバラク・オバマはイスラム教徒だと人々に伝えたという記事を掲載した。同紙はまた、グーグルのAI概要がユーザーに、腎臓結石を排出するために尿を飲むべきだと伝えた別の事例も報じた。

Googleは公開フォーラムに執着している

Google の検索部門責任者は、この機能を一般公開する前に徹底的にテストしたと述べた。また、テスト段階では実際の使用状況をシミュレートするのは難しいと認めたが、同社は徹底したレッドチームテストと典型的なユーザークエリのサンプリングを実施した。

こちらもお読みください: Google の AI 概要機能が不正確な結果で反発を受ける

一部のユーザーやインターネットコンテンツアナリストは、Googleが最近Redditのようなパブリックフォーラムからの検索結果を多く表示し始めたと指摘している。同社とRedditの契約に疑問を呈する人もいるが、Googleの広報担当者はBBCに対し、検索結果でRedditの可視性を高める契約にはそのような条件は含まれていないと語った。

マーケティング会社AmsiveのSEO戦略および調査担当副社長リリー・レイ氏は、現在多くの検索でRedditの結果が表示されると語る。同氏はまた、Xポスト（旧Twitter）でGoogleを揶揄し、世界中の知識（Redditのコンテンツ）はすべてAIと組み合わされていると述べた。

皆さん、世界中の知識が AI の力と 1 人の Reddit 荒らしの力と融合しました。pic.twitter.com/jhzT2pGXjh

— リリー・レイ😏 (@lilyraynyc) 2024年5月21日

リード氏によると、AI オーバービューには、ディスカッション フォーラムからの皮肉なコンテンツがいくつか含まれているという。フォーラムは直接の情報を得るのに良い情報源だが、場合によっては、ピザにチーズを接着するなど、あまり役に立たない回答が返ってくることもあるとリード氏は述べた。

Google の AI は言語を誤って解釈し、AI 概要に間違った情報が表示されることもあるが、同社によれば、そうした回答の割合は非常に低いという。リード氏は、改善や Google のポリシーに準拠しない回答の削除を通じて、迅速に問題を解決したと述べた。

Google 検索の副社長は、健康やニュースなどのトピックには強力なガードレールが存在するとも述べた。同社は健康に関する品質保護を強化するために、新たなトリガーの改良を開始した。リード氏は、無意味なクエリについても検出システムを更新し、AI の概要として表示されないようにしたと述べた。また、風刺的なクエリに対する AI の概要が減ったことを示唆し、「誤解を招くアドバイスを提供する可能性のある応答でユーザー生成コンテンツの使用を制限するためにシステムを更新しました」と述べた。

クリプトポリタンのアーミル・シェイク記者によるレポート