La funzione “Panoramica AI” recentemente lanciata da Google nella Ricerca Google ha incontrato critiche significative. Gli utenti hanno pubblicato numerosi casi in cui i riepiloghi dell'intelligenza artificiale hanno generato una risposta illogica o errata a diverse ricerche, senza alcuna possibilità di disattivare il servizio. 

Leggi anche: Le nuove estensioni di Chrome mirano a migliorare l'esperienza di ricerca di Google

Esempi recenti includono consigli dubbi sulle pratiche culinarie e raccomandazioni sulla salute, scatenando un’ondata di critiche e derisione sui social media.

Gli utenti espongono le risposte imperfette di AI Overview

La nuova funzionalità, Panoramica AI, è stata lanciata meno di due settimane fa ed è stata progettata per fornire brevi panoramiche delle domande poste. Ad esempio, una ricerca su come pulire gli stivali di pelle può fornire istruzioni provenienti da diversi siti Web. Tuttavia, gli utenti hanno segnalato che lo strumento potrebbe fornire consigli errati e potenzialmente pericolosi.

Leggi anche: La nuova ricerca basata sull'intelligenza artificiale di Google danneggerà il traffico del sito web, preoccupando gli editori?

Un altro errore commesso dall’AI è stato affermare che “gli Stati Uniti hanno avuto un presidente musulmano, Barack Hussein Obama”, quando gli è stato chiesto quanti presidenti musulmani hanno avuto gli Stati Uniti. 

Fonte: Benzinga

Un altro consiglio che poteva causare gravi danni era l'uso della colla nella preparazione del sugo della pizza per evitare che il formaggio scivolasse via. Si è scoperto che questa raccomandazione proveniva da un commento di Reddit, aumentando la possibilità che l'IA ottenga informazioni da fonti inaffidabili.  

Google è morto senza paragoni pic.twitter.com/EQIJhvPUoI

– PixelButts (@PixelButts) 22 maggio 2024

Altre raccomandazioni scandalose includevano l’affermazione che guardare il sole è salutare e che le persone dovrebbero incorporare le rocce nella loro dieta ogni giorno. Alcuni dei problemi che sono stati segnalati includono semplici errori come l'errata enumerazione dei frutti e il calcolo errato delle date nella storia.

L'attribuzione errata offusca le fonti credibili

AI Overview è stata anche criticata per aver citato erroneamente fonti affidabili con informazioni errate. Ad esempio, ha affermato:

"Secondo WebMD, gli scienziati affermano che fissare il sole per 5-15 minuti, o fino a 30 minuti se hai la pelle più scura, è generalmente sicuro e offre i maggiori benefici per la salute."

Tali errate attribuzioni possono danneggiare la reputazione di istituzioni molto stimate e sono potenzialmente pericolose per la popolazione in generale. Alla domanda se la Ricerca Google viola o meno la legge antitrust, AI Overview ha risposto:

"Sì, il Dipartimento di Giustizia degli Stati Uniti e 11 stati stanno facendo causa a Google per violazioni antitrust."

La portavoce di Google Meghann Farnsworth ha affermato che gli errori derivano da “domande generalmente molto insolite e non sono rappresentativi delle esperienze della maggior parte delle persone”. Ha detto che gli errori si sono verificati in domande rare e ha affermato che la società sta lavorando attivamente per correggere le violazioni delle politiche sui contenuti. Anche con queste assicurazioni, la reazione solleva interrogativi sulle questioni più ampie legate alla crescente adozione delle tecnologie di intelligenza artificiale.

Paralleli al fiasco dello strumento di generazione di immagini Gemini Emerge

La controversia su AI Overview è simile ai problemi che lo strumento di generazione di immagini Gemini di Google ha dovuto affrontare subito dopo il suo lancio a febbraio a causa delle stesse interpretazioni errate e dei risultati dubbi. Alcuni dei problemi evidenziati includono false rappresentazioni della storia e schizzi inadatti all'uso, che hanno portato Google a interrompere il funzionamento dello strumento e a lavorare su miglioramenti.

La concorrenza nello spazio dell’intelligenza artificiale generativa è dura a causa della presenza di attori come Google, Microsoft e Open AI. Si prevede che il mercato degli strumenti e degli agenti di intelligenza artificiale raggiungerà una dimensione di oltre un trilione di dollari USA nel prossimo decennio. Questa intensa concorrenza può portare all’utilizzo di tecnologie immature sul mercato a causa della pressione per il rilascio di nuovi prodotti.

Leggi anche: Google, OpenAI e altri 13 si impegnano a non implementare modelli di intelligenza artificiale rischiosi

Google è il motore di ricerca più popolare al mondo e questo lo rende molto vulnerabile alle critiche. Attualmente, il motore di ricerca dell’azienda domina oltre il 90% della quota di mercato globale, il che significa che la sua efficacia è decisiva per la soddisfazione degli utenti e del modello di business dell’azienda.