La función "Resumen de IA" lanzada recientemente por Google en la Búsqueda de Google ha recibido importantes críticas. Los usuarios han publicado numerosos casos en los que los resúmenes de IA generaron una respuesta ilógica o incorrecta a diferentes búsquedas, sin posibilidad de desactivar el servicio.
Lea también: Las nuevas extensiones de Chrome tienen como objetivo mejorar la experiencia de búsqueda de Google
Los ejemplos recientes han incluido consejos dudosos sobre prácticas culinarias y recomendaciones de salud, lo que provocó una ola de críticas y burlas en las redes sociales.
Los usuarios exponen las respuestas defectuosas de la descripción general de la IA
La nueva función, AI Overview, se lanzó hace menos de dos semanas y fue diseñada para brindar breves resúmenes de las preguntas formuladas. Por ejemplo, una búsqueda sobre cómo limpiar botas de cuero puede proporcionar instrucciones obtenidas de diferentes sitios web. Sin embargo, los usuarios han informado que la herramienta puede proporcionar recomendaciones incorrectas y potencialmente peligrosas.
Lea también: ¿La nueva búsqueda con IA de Google perjudicará el tráfico del sitio web y preocupará a los editores?
Otro error cometido por AI fue afirmar que “Estados Unidos ha tenido un presidente musulmán, Barack Hussein Obama”, cuando se le preguntó cuántos presidentes musulmanes ha tenido Estados Unidos.
Fuente: Benzinga
Otro consejo que podría provocar daños graves fue el uso de pegamento en la preparación de la salsa para pizza para evitar que el queso se resbalara. Se descubrió que esta recomendación se originó a partir de un comentario de Reddit, lo que plantea la posibilidad de que la IA obtenga información de fuentes no confiables.
Google está muerto sin comparación pic.twitter.com/EQIJhvPUoI
– PixelButts (@PixelButts) 22 de mayo de 2024
Otras recomendaciones escandalosas incluyeron afirmar que mirar al sol es saludable y que la gente debería incorporar piedras a su dieta a diario. Algunas de las cuestiones que se han señalado incluyen errores simples como la enumeración incorrecta de frutos y cálculos incorrectos de fechas en la historia.
La atribución errónea empaña las fuentes creíbles
AI Overview también ha sido criticado por citar erróneamente fuentes confiables con información incorrecta. Por ejemplo, afirmó:
"Según WebMD, los científicos dicen que mirar al sol durante 5 a 15 minutos, o hasta 30 minutos si tienes la piel más oscura, es generalmente seguro y proporciona los mayores beneficios para la salud".
Estas atribuciones erróneas pueden dañar la reputación de establecimientos muy estimados y son potencialmente peligrosas para la población en general. Cuando se le preguntó si la Búsqueda de Google viola o no la ley antimonopolio, AI Overview dijo:
"Sí, el Departamento de Justicia de Estados Unidos y 11 estados están demandando a Google por violaciones antimonopolio".
La portavoz de Google, Meghann Farnsworth, dijo que los errores provinieron de "consultas generalmente muy poco comunes y no son representativas de las experiencias de la mayoría de las personas". Dijo que los errores se produjeron en consultas poco frecuentes y afirmó que la empresa está trabajando activamente para corregir las violaciones de las políticas de contenido. Incluso con estas garantías, la reacción plantea interrogantes sobre los problemas más amplios de la creciente adopción de tecnologías de IA.
Surgen paralelos con el fiasco de la herramienta de generación de imágenes Gemini
La controversia en torno a AI Overview es similar a los problemas que enfrentó la herramienta de generación de imágenes Gemini de Google poco después de su lanzamiento en febrero debido a las mismas malas interpretaciones y resultados dudosos. Algunos de los problemas que se destacaron incluyen representaciones falsas de la historia y bocetos que no son aptos para su uso, lo que llevó a Google a detener el funcionamiento de la herramienta y trabajar en mejoras.
La competencia en el espacio de la IA generativa es dura debido a la presencia de actores como Google, Microsoft y Open AI. Se prevé que el mercado de herramientas y agentes de inteligencia artificial alcanzará un tamaño de más de un billón de dólares estadounidenses en la próxima década. Esta intensa competencia puede llevar al uso de tecnologías inmaduras en el mercado debido a la presión para lanzar nuevos productos.
Lea también: Google, OpenAI y otros 13 se comprometen a no implementar modelos de IA riesgosos
Google es el motor de búsqueda más popular del mundo y esto lo hace muy vulnerable a las críticas. Actualmente, el buscador de la compañía domina más del 90% de la cuota de mercado global, lo que hace que su eficacia sea decisiva para la satisfacción de los usuarios y el modelo de negocio de la empresa.
