Varios miembros de la Cámara de Representantes de Estados Unidos, encabezados por el representante Adam Schiff, están pidiendo a Google que explique su función AI Overviews. Esta herramienta, integrada en el buscador de Google, resume la información mediante IA.
Schiff y otros legisladores escribieron al director ejecutivo de Google, Sundar Pichai, sobre la inexactitud y el peligro de la función. La carta afirma además que la IA ha estado extrayendo información de sitios web satíricos y citando teorías de conspiración desacreditadas durante mucho tiempo, proporcionando a los usuarios desprevenidos información incorrecta.
Carta plantea preocupaciones sobre desinformación
Schiff subrayó los riesgos de la información falsa, particularmente en el contexto de Google como fuente principal de noticias e información de salud para muchos estadounidenses. La carta, también firmada por los representantes Henry C. Johnson, Jr. (D-Ga.), Donald S. Beyer Jr. (D-Va.), Pramila Jayapal (D-Wash.) y Lori Trahan (D-Mass. ), busca aclaraciones sobre varios aspectos de la función Reseñas de IA.
Lea también: La narrativa de la IA se acelera, el sentimiento cambia a alcista en varios activos
Los legisladores también quieren saber cómo se informa a los usuarios sobre los riesgos de la desinformación y los plazos para corregir o eliminar información falsa.
La función AI Overviews de Google emplea el modelo Gemini AI para extraer información de las páginas mejor clasificadas y proporcionar un resumen con enlaces. Sin embargo, la función ha sido acusada de proporcionar información errónea y engañosa. Algunos de los ejemplos incluyen aconsejar a la gente que consuma rocas para obtener vitaminas y respaldar la religión de Barack Obama.
Controversias recientes resaltan problemas con el contenido generado por IA
En mayo de 2024, Google fue criticado poco después del lanzamiento de AI Overviews en EE. UU. porque la función sugería agregar pegamento a la pizza para que el queso se pegara. Al cierre de esta edición, Google no ha emitido una respuesta directa a la carta de los legisladores.
En una publicación de blog, Liz Reid, vicepresidenta y jefa de búsqueda de Google, también explicó que había problemas con la función AI Overviews. Reid señaló que uno de los problemas que tiene la IA es que no funciona bien cuando las consultas realizadas no están respaldadas por suficientes datos de alta calidad. Señaló que cuando un usuario ingresa a un tema específico o poco común o un tema que contiene sátira, por ejemplo, la IA elegirá respuestas de las fuentes limitadas que tiene y, a veces, las fuentes no son creíbles.
También hay debates sobre las consecuencias financieras para los editores. Los motores de búsqueda basados en inteligencia artificial, como Google, pueden presentar un resumen del contenido de diferentes fuentes sin dirigir el tráfico a sus creadores, lo que puede afectar sus ingresos. Esto ha llevado a acciones legislativas como las de California, donde los legisladores abogan por el pago a los editores cuando las empresas de tecnología utilizan su contenido.
