Un grupo de legisladores estadounidenses, encabezados por el representante Adam Schiff, le han dado al CEO de Alphabet/Google, Sundar Pichai, una fecha límite del 1 de agosto para acceder a una demanda de información relacionada con la función "Descripción general de IA" de la compañía para la Búsqueda.
La descripción general de AI es una ventana de resumen que se presenta en la parte superior de las páginas de Búsqueda de Google cuando un usuario realiza una consulta. Por lo general, contiene una respuesta de texto breve, una imagen si es relevante y enlaces de apoyo.
Según la oficina de Schiff, citando numerosos informes, AI Overview tiende a generar información incorrecta y/o potencialmente peligrosa.
La denuncia, publicada por la oficina de Schiff y firmada conjuntamente por otros cuatro miembros del Congreso, solicita respuestas a once preguntas sobre la característica relacionada con los esfuerzos de la compañía para garantizar una mayor precisión y seguridad.
Descripción general de la IA
Algunos de los problemas con AI Overview surgen de su aparente incapacidad para determinar si una fuente determinada es sátira o no. "La función AI Overviews de Google decía a los usuarios que comieran al menos una piedra al día para obtener vitaminas y minerales", escribieron Schiff y los demás miembros del congreso, añadiendo que la IA estaba citando el sitio de noticias satírico "The Onion".
En otros casos, como cuando los usuarios comenzaron a informar que la descripción general de la IA afirmaba que Barack Obama era el primer presidente musulmán de los Estados Unidos, el sistema de IA citó directamente teorías de conspiración desacreditadas.
La carta de Schiff reconocía los esfuerzos continuos de Google para combatir la desinformación, pero afirmaba que es necesario hacer más:
“Apreciamos los esfuerzos de Google para corregir estos errores mejorando la función mediante pruebas continuas, eliminando las respuestas que violan las políticas de contenido de la empresa y etiquetando las respuestas generadas por IA como experimentales. Sin embargo, se debe hacer más para garantizar adecuadamente que Google pueda seguir siendo una fuente de información confiable para los estadounidenses”.
razonamiento de IA
Hasta el momento, no existe un consenso científico de que este tipo de problemas realmente puedan resolverse. La esencia del problema es que la IA no “piensa” ni “razona”, a pesar de que ambos términos se utilizan comúnmente en el marketing de productos de IA.
Los sistemas de IA generativa imitan el habla humana pero carecen de la capacidad de comprender el contexto o aplicar la experiencia adquirida a una situación.
Estos problemas están pendientes desde hace mucho tiempo en el campo y se notaron en los primeros modelos de lenguajes grandes, como el GPT-2 de OpenAI y el ahora desaparecido sistema “Galactica” de Meta, que fue retirado después de solo tres días debido a la reacción que generó su lanzamiento.
Demandas estadounidenses
Para comprender mejor los esfuerzos de Google, Schiff y sus colegas legisladores exigieron que Pichai y Google respondan antes del 1 de agosto con respuestas a una lista de 11 preguntas. Estas incluyen consultas sobre los procedimientos de clasificación de la empresa, la verificación automatizada de datos, la precisión, el abastecimiento, la transparencia y cómo trabaja con las autoridades para garantizar la seguridad.
Relacionado: El apagón de datos de Microsoft Windows paraliza a las principales empresas financieras y provoca un caos en los viajes
