Několik členů Sněmovny reprezentantů USA v čele s poslancem Adamem Schiffem vyzývá Google, aby vysvětlil svou funkci Přehledy AI. Tento nástroj integrovaný do vyhledávače Google shrnuje informace pomocí AI.
Schiff a další zákonodárci napsali generálnímu řediteli Google Sundaru Pichaiovi o nepřesnosti a nebezpečí této funkce. V dopise se dále uvádí, že AI stahuje informace ze satirických webů a cituje dávno odhalené konspirační teorie, čímž poskytuje nic netušícím uživatelům špatné informace.
Dopis vyvolává obavy z dezinformací
Schiff zdůraznil rizika falešných informací, zejména v pozadí společnosti Google jako primárního zdroje zpráv a zdravotních informací pro mnoho Američanů. Dopis podepsaný také zástupci Henry C. Johnson, Jr. (D-Ga.), Donald S. Beyer Jr. (D-Va.), Pramila Jayapal (D-Wash.) a Lori Trahan (D-Mass .) hledá vysvětlení několika aspektů funkce Přehledy AI.
Čtěte také: Umělá inteligence se zrychluje, sentiment se u několika aktiv mění na býčí
Zákonodárci chtějí také vědět, jak jsou uživatelé informováni o rizicích dezinformací a časovém rámci pro opravu nebo odstranění nepravdivých informací.
Funkce Google AI Overviews využívá model Gemini AI k extrahování informací z nejvýše hodnocených stránek a poskytování shrnutí s odkazy. Tato funkce však byla obviněna z poskytování nesprávných a zavádějících informací. Některé z příkladů zahrnují rady lidem, aby konzumovali kameny kvůli vitamínům, a schvalování náboženství Baracka Obamy.
Nedávné kontroverze upozorňují na problémy s obsahem generovaným umělou inteligencí
V květnu 2024 byl Google kritizován krátce po vydání přehledů AI v USA, protože tato funkce navrhla přidat lepidlo na pizzu, aby se sýr přilepil. V době tisku nevydal Google přímou odpověď na dopis zákonodárců.
V příspěvku na blogu Liz Reid, viceprezidentka Google a vedoucí vyhledávání, také vysvětlila, že došlo k problémům s funkcí přehledů AI. Reid poukázal na to, že jedním z problémů, které má AI, je to, že nefunguje dobře, když požadované dotazy nejsou zálohovány dostatečně kvalitními daty. Poukázala na to, že když uživatel zadá konkrétní nebo vzácné téma nebo téma, které obsahuje například satiru, AI si vybere odpovědi z omezených zdrojů, které má, a někdy tyto zdroje nejsou důvěryhodné.
Diskutuje se také o finančních důsledcích pro vydavatele. Vyhledávače založené na umělé inteligenci, jako je Google, mohou prezentovat souhrn obsahu z různých zdrojů, aniž by nasměrovaly provoz zpět k původcům, což může ovlivnit jejich příjmy. To vedlo k legislativním krokům, jako jsou ty v Kalifornii, kde zákonodárci obhajují platby vydavatelům, když technologické společnosti využívají jejich obsah.