Plusieurs membres de la Chambre des représentants des États-Unis, dirigés par le représentant Adam Schiff, demandent à Google d'expliquer sa fonctionnalité d'aperçu de l'IA. Cet outil, intégré au moteur de recherche Google, synthétise les informations grâce à l'IA.
Schiff et d’autres législateurs ont écrit au PDG de Google, Sundar Pichai, au sujet de l’inexactitude et du danger de cette fonctionnalité. La lettre indique en outre que l’IA a extrait des informations de sites Web satiriques et cité des théories du complot longtemps réfutées, fournissant ainsi des informations erronées aux utilisateurs sans méfiance.
Une lettre soulève des préoccupations en matière de désinformation
Schiff a souligné les risques de fausses informations, en particulier dans le contexte de Google en tant que principale source d'actualités et d'informations sur la santé pour de nombreux Américains. La lettre, également signée par les représentants Henry C. Johnson, Jr. (D-Ga. ), Donald S. Beyer Jr. (D-Va. ), Pramila Jayapal (D-Wash. ) et Lori Trahan (D-Mass . ), cherche à obtenir des éclaircissements sur plusieurs aspects de la fonctionnalité Aperçus IA.
Lisez aussi : Le récit de l’IA s’accélère, le sentiment devient haussier sur plusieurs actifs
Les législateurs souhaitent également savoir comment les utilisateurs sont informés des risques de désinformation et des délais nécessaires pour corriger ou supprimer les fausses informations.
La fonctionnalité AI Overviews de Google utilise le modèle Gemini AI pour extraire des informations des pages les mieux classées et fournir un résumé avec des liens. Cependant, la fonctionnalité a été accusée de diffuser des informations erronées et trompeuses. Certains exemples incluent le fait de conseiller aux gens de consommer des pierres pour obtenir des vitamines et d’approuver la religion de Barack Obama.
Des controverses récentes mettent en lumière les problèmes liés au contenu généré par l'IA
En mai 2024, Google a été critiqué peu après la sortie de AI Overviews aux États-Unis, car la fonctionnalité suggérait d'ajouter de la colle à la pizza pour que le fromage y colle. Au moment de mettre sous presse, Google n’a pas répondu directement à la lettre des législateurs.
Dans un article de blog, Liz Reid, vice-présidente de Google et responsable de la recherche, a également expliqué qu'il y avait des problèmes avec la fonctionnalité AI Overviews. Reid a souligné que l'un des problèmes de l'IA est qu'elle ne fonctionne pas bien lorsque les requêtes posées ne sont pas étayées par suffisamment de données de haute qualité. Elle a souligné que lorsqu'un utilisateur saisit un sujet spécifique ou rare ou un sujet contenant de la satire, par exemple, l'IA choisit les réponses parmi les sources limitées dont elle dispose, et parfois ces sources ne sont pas crédibles.
Des discussions sont également en cours sur les conséquences financières pour les éditeurs. Les moteurs de recherche basés sur l'IA tels que Google peuvent présenter un résumé du contenu provenant de différentes sources sans rediriger le trafic vers les auteurs, ce qui peut affecter leurs revenus. Cela a conduit à des actions législatives telles que celles de Californie, où les législateurs préconisent le paiement des éditeurs lorsque les entreprises technologiques utilisent leur contenu.