Diversi membri della Camera dei rappresentanti degli Stati Uniti, guidati dal deputato Adam Schiff, chiedono a Google di spiegare la sua funzione Panoramica dell'intelligenza artificiale. Questo strumento, integrato nel motore di ricerca Google, riassume le informazioni utilizzando l'intelligenza artificiale.
Schiff e altri legislatori hanno scritto al CEO di Google Sundar Pichai riguardo all’imprecisione e al pericolo di questa funzionalità. La lettera afferma inoltre che l’intelligenza artificiale ha estratto informazioni da siti Web satirici e ha citato teorie del complotto da tempo sfatate, fornendo agli ignari utenti informazioni errate.
La lettera solleva preoccupazioni di disinformazione
Schiff ha sottolineato i rischi delle informazioni false, soprattutto alla luce del fatto che Google è la fonte primaria di notizie e informazioni sanitarie per molti americani. La lettera, firmata anche dai rappresentanti Henry C. Johnson, Jr. (D-Ga.), Donald S. Beyer Jr. (D-Va.), Pramila Jayapal (D-Wash.) e Lori Trahan (D-Mass ), chiede chiarimenti su diversi aspetti della funzionalità Panoramica intelligenza artificiale.
Leggi anche: La narrativa sull'IA accelera, il sentiment diventa rialzista su diversi asset
I legislatori vogliono anche sapere come gli utenti vengono informati sui rischi della disinformazione e sui tempi per correggere o rimuovere le informazioni false.
La funzione Panoramica AI di Google utilizza il modello Gemini AI per estrarre informazioni dalle pagine in cima alla classifica e fornire un riepilogo con collegamenti. Tuttavia, la funzionalità è stata accusata di fornire informazioni errate e fuorvianti. Alcuni esempi includono il consiglio alle persone di consumare rocce per ottenere vitamine e l’appoggio alla religione di Barack Obama.
Le recenti controversie evidenziano problemi con i contenuti generati dall'intelligenza artificiale
Nel maggio 2024, Google è stata criticata poco dopo il rilascio di AI Overviews negli Stati Uniti perché la funzione suggeriva di aggiungere colla alla pizza in modo che il formaggio si attaccasse. Al momento della stesura di questo articolo, Google non ha fornito una risposta diretta alla lettera dei legislatori.
In un post sul blog, Liz Reid, vicepresidente di Google e responsabile della ricerca, ha spiegato che c'erano problemi con la funzione Panoramica AI. Reid ha sottolineato che uno dei problemi dell’intelligenza artificiale è che non funziona bene quando le query poste non sono supportate da dati sufficienti di alta qualità. Ha sottolineato che quando un utente accede ad un argomento specifico o raro o ad un argomento che contiene satira, ad esempio, l'intelligenza artificiale sceglierà le risposte dalle fonti limitate di cui dispone, e talvolta le fonti non sono credibili.
Si discute anche sulle conseguenze finanziarie per gli editori. I motori di ricerca basati sull’intelligenza artificiale come Google possono presentare un riepilogo dei contenuti provenienti da diverse fonti senza reindirizzare il traffico agli autori, il che potrebbe influire sulle loro entrate. Ciò ha portato ad azioni legislative come quelle in California, dove i legislatori sostengono il pagamento agli editori quando le aziende tecnologiche utilizzano i loro contenuti.