Skupina zákonodárců ze Spojených států v čele se zástupcem Adamem Schiffem poskytla generálnímu řediteli Alphabet/Google Sundaru Pichaiovi termín do 1. srpna, aby se podvolil požadavku na informace související s funkcí „AI Overview“ společnosti pro vyhledávání.

Přehled AI je souhrnné okno, které se zobrazí v horní části stránek Vyhledávání Google, když uživatel zadá dotaz. Obvykle obsahuje krátkou textovou odpověď, případně obrázek a podpůrné odkazy.

Podle Schiffovy kanceláře s odkazem na četné zprávy má přehled AI tendenci vydávat nesprávné a/nebo potenciálně nebezpečné informace.

Stížnost zveřejněná Schiffovou kanceláří a podepsaná čtyřmi dalšími členy kongresu požaduje odpovědi na jedenáct otázek týkajících se funkce související se snahou společnosti zajistit větší přesnost a bezpečnost.

Přehled AI

Některé problémy s přehledem AI vyplývají z jeho zjevné neschopnosti určit, zda je daný zdroj satira či nikoli. „Funkce přehledů AI od Googlu řekla uživatelům, aby snědli alespoň jeden kámen denně kvůli vitamínům a minerálům,“ napsal Schiff a další členové kongresu a dodali, že AI se odvolává na satirický zpravodajský web „The Onion“.

V jiných případech, například když uživatelé začali hlásit, že přehled AI tvrdil, že Barack Obama byl prvním muslimským prezidentem USA, systém AI přímo citoval vyvrácené konspirační teorie.

Schiffův dopis uznal pokračující úsilí společnosti Google v boji proti dezinformacím, ale uvedl, že je třeba udělat více:

„Oceňujeme snahu společnosti Google napravit tyto chyby vylepšením funkce prostřednictvím neustálého testování, odstraněním odpovědí, které porušují obsahové zásady společnosti, a označením odpovědí generovaných umělou inteligencí jako experimentální. Je však třeba udělat více, aby bylo zajištěno, že Google zůstane pro Američany důvěryhodným a spolehlivým zdrojem informací.“

Uvažování AI

Zatím neexistuje žádný vědecký konsensus, že tyto druhy problémů lze skutečně vyřešit. Podstatou problému je, že umělá inteligence „nemyslí“ ani „neuvažuje“, přestože se oba termíny běžně používají v marketingu produktů umělé inteligence.

Generativní systémy umělé inteligence napodobují lidskou řeč, ale postrádají schopnost porozumět kontextu nebo aplikovat získané zkušenosti na situaci.

Tyto problémy jsou v této oblasti dlouho nevyřešené a byly zaznamenány v raných velkých jazykových modelech, jako je OpenAI GPT-2 a Meta's nyní zaniklý systém „Galactica“, který byl odstraněn po pouhých třech dnech kvůli odporu způsobenému jeho spuštěním.

požadavky USA

Aby bylo možné lépe porozumět snahám společnosti Google, Schiff a jeho kolegové zákonodárci požadovali, aby Pichai a Google odpověděli do 1. srpna odpověďmi na seznam 11 otázek. Patří mezi ně dotazy na postupy hodnocení společnosti, automatické ověřování faktů, přesnost, získávání zdrojů, transparentnost a jak spolupracuje s úřady na zajištění bezpečnosti.

Související: Výpadek dat Microsoft Windows oslabuje velké finanční firmy a způsobuje chaos v cestování