Google omezuje prezentaci přehledů AI v některých výsledcích vyhledávání. Rozhodnutí přišlo poté, co vyhledávací gigant udělal několik zveřejněných chyb, které vyvolaly veřejnou reakci na internetu.

Ve čtvrtek Liz Reid, vedoucí vyhledávání Google, připustila, že společnost omezuje souhrny generované umělou inteligencí nazvané „Přehledy AI“. Funkce poháněná umělou inteligencí byla kritizována, když začala zobrazovat obsah, který lidem říkal, aby jedli kameny a lepili sýr na pizzu.

Čtěte také: Google, OpenAI a 13 dalších se zavazuje, že nebudou nasazovat rizikové modely umělé inteligence

Google začal ukazovat přehledy AI svým uživatelům ve Spojených státech před dvěma týdny po své každoroční události I/O, během níž představil několik nabídek založených na AI. Od čtvrtka uživatelé zaznamenali méně otázek, což vedlo k odpovědi AI.

Identifikace falešných přehledů AI vyžaduje pečlivou analýzu

Reid v příspěvku na blogu napsal, že lidé na sociálních sítích sdíleli snímky obrazovky přehledů AI, které navrhovaly podivná řešení. Řekla, že AI společnosti udělalo několik chyb, ale mnohé byly falešné a nikdy nebyly vytvořeny systémem AI společnosti Google.

Google AI Overview navrhuje přilepit sýr na pizzu. Zdroj.

Připustila, že některé zvláštní nebo nepřesné přehledy AI se určitě objevily. Zdůraznil oblasti, kde je třeba funkci vylepšit, ale nejsou to běžně vyhledávané dotazy. Všimla si těch falešných, řekla:

„Odděleně bylo široce sdíleno velké množství falešných snímků obrazovky. Některé z těchto falešných výsledků byly zřejmé a hloupé."

Reid řekl, že Google nezobrazoval žádné přehledy AI pro témata, jako je kouření během těhotenství nebo ponechání psů v autech. Vyzvala uživatele, kteří viděli tyto snímky obrazovky na sociálních sítích, aby se sami vyhledávali a kontrolovali.

Umělá inteligence Google nyní dokáže identifikovat satirický obsah

Google zjistil, že satirický obsah a nesmyslné dotazy jsou oblasti, které je třeba řešit, aby bylo možné vytvářet nepřesné přehledy AI. Google řekl, že před snímky obrazovky s dotazem „Kolik kamenů bych měl sníst?“ se stal virálním, nikdo se na to nezeptal. Reid řekl, že Google Trends lze vidět pro potvrzení.

Přečtěte si také: Opera integruje modely Gemini od Googlu, aby vylepšila AI prohlížeče Aria

Dalším faktorem je, že je k dispozici velmi málo obsahu na konkrétní téma, známé také jako data void, což je také důvodem nepřesných přehledů AI. Co se týče dotazu na pojídání kamenů, Reid řekl, že satirická povaha obsahu spustila Přehled AI. Obsah byl také znovu publikován webem s geologickým softwarem, na který odkazoval přehled AI. upřesnila,

"Takže když někdo zadal tuto otázku do Vyhledávání, objevil se přehled AI, který věrně odkazoval na jednu z mála webových stránek, která tuto otázku řešila."

Reid se nezmínil o dalších přehledech AI, které kolují na sociálních sítích, a mnoho velkých vydavatelů o nich také zveřejnilo zprávy. Například The Washington Post zveřejnil zprávu na Googlu, která lidem říkala, že Barack Obama byl muslim. Publikace také uvedla další případ, kdy Google AI Overview řekl uživateli, že lidé by měli pít moč, aby pomohli vylučovat ledvinové kameny.

Google má posedlost veřejnými fóry

Vedoucí vyhledávání Google poznamenal, že společnost tuto funkci rozsáhle testovala, než ji spustila veřejnosti. Připustila také, že ve fázi testování je obtížné simulovat praktiky skutečného používání, ale společnost provedla robustní red-teaming a vzorkování typických uživatelských dotazů. 

Přečtěte si také: Funkce přehledu umělé inteligence společnosti Google čelí odporu kvůli nepřesným výsledkům

Někteří uživatelé a analytici internetového obsahu si všímají, že Google nedávno začal zobrazovat mnoho výsledků z veřejných fór, jako je Reddit. Někteří zpochybňují dohodu společnosti s Redditem, ale mluvčí Google řekl BBC, že žádné takové podmínky nebyly součástí dohody, která by Redditu poskytla větší viditelnost ve výsledcích vyhledávání.

Lily Ray, viceprezidentka pro strategii a výzkum SEO v marketingové agentuře Amsive, říká, že nyní mnoho dotazů ukazuje výsledky z Redditu. V příspěvku X (dříve Twitter) také zesměšňovala Google a uvedla, že veškeré znalosti světa (obsah Redditu) jsou kombinovány s AI.

Dámy a pánové, veškeré znalosti světa v kombinaci se silou umělé inteligence a jednoho trolla na Redditu. pic.twitter.com/jhzT2pGXjh

— Lily Ray 😏 (@lilyraynyc) 21. května 2024

Reid řekl, že přehledy AI obsahují v některých příkladech sarkastický obsah z diskusních fór. Řekla, že fóra jsou dobrým zdrojem informací z první ruky, ale v některých případech mohou vyvolat nepříliš užitečné odpovědi, jako je lepení sýra na pizzu.

Umělá inteligence společnosti Google také špatně interpretuje jazyk, což vede k nesprávným informacím v přehledech AI, ale poměr takových odpovědí je podle společnosti velmi nízký. Reid poznamenal, že problémy rychle vyřešili vylepšením nebo odstraněním odpovědí, které nebyly v souladu se zásadami společnosti Google.

Viceprezident Vyhledávání Google také řekl, že existují silné mantinely pro témata, jako je zdraví a zprávy. Společnost uvedla na trh nová spouštěcí vylepšení pro zvýšení kvality ochrany zdraví. Reid řekl, že detekční systém je také aktualizován pro nesmyslné dotazy, aby je nezobrazoval jako přehledy AI. Naznačila také potvrzení menšího počtu přehledů AI pro satirické dotazy a řekla: „Aktualizovali jsme naše systémy, abychom omezili používání obsahu vytvářeného uživateli v odpovědích, které by mohly nabízet zavádějící rady.“

Kryptopolitní zpravodajství od Aamira Sheikha