Google の最新の AI ツール「AI Overview」は、ピザのトッピングとして接着剤を提案したり、象には 2 本の足があると主張したりするなど、不正確で奇妙な結果を頻繁に出すことで非難されている。このテクノロジー大手は、これらのミスはユーザーのせいだとし、AI は珍しいクエリや改ざんされたクエリにつまずいていると主張している。しかし、この弁明は受け入れられず、ユーザーは AI があまり一般的でない質問を処理できないことに不満を表明している。
頻繁なエラーはユーザーの信頼の低下につながり、一部のユーザーはこの機能を回避するための回避策を考案している。Google は AI を改良する取り組みを継続しているが、課題は依然として大きい。同社はさらなる誤報を防ぐために特定のクエリを無効にする必要があったが、AI が誤った回答に自信を持っていることは問題である。
Google が AI を改良し続ける中、テクノロジー業界は注視している。イーロン・マスクの xAI などのライバル企業は AI 機能の限界を押し広げており、機械が間もなく人間の知能を超える可能性があることを示唆している。ユーザーの信頼を取り戻し、急速に進化する AI 環境で効果的に競争するためには、Google の AI 概要に大幅な改善が必要です。