La emergente 'economía de intención' oculta crisis
Según un informe del Reino Unido (The Guardian), investigadores de la Universidad de Cambridge han publicado recientemente un artículo advirtiendo que las herramientas de inteligencia artificial (IA) conversacional podrían pronto 'influir en secreto' en las decisiones de los usuarios en una nueva industria comercial llamada 'economía de intención'.
Este estudio señala que este potencial y lucrativo pero también inquietante mercado de señales de intención digital está surgiendo, lo que podría afectar en un futuro cercano una variedad de actividades, desde la compra de boletos de cine hasta votar por candidatos políticos. La investigación muestra que las personas están cada vez más familiarizadas con chatbots, tutores digitales y otros llamados agentes de IA 'humanizados', lo que está allanando el camino para una serie de nuevas 'tecnologías de persuasión'.
El artículo enfatiza que la IA integrará el conocimiento de los hábitos en línea de los usuarios y mejorará la capacidad de comprender y predecir sus deseos, cultivando en última instancia 'nuevos niveles de confianza y entendimiento'.
¿Cómo analiza y manipula la IA las intenciones humanas?
Según el coautor Yaqub Chaudhary, se han desarrollado herramientas de IA que pueden extraer, inferir, recopilar, registrar, comprender, predecir y, en última instancia, manipular los planes y las intenciones humanas, y comercializarlos.
La investigación señala que la nueva IA aprovechará modelos de lenguaje de gran tamaño (LLM) para analizar el tono, las opiniones políticas, el vocabulario, la edad, el género, el historial en línea e incluso las preferencias por la adulación y la complacencia de los usuarios. Esta tecnología se combinará con otras tecnologías emergentes de IA diseñadas para alcanzar objetivos específicos, como la venta de boletos de cine o dirigir conversaciones hacia plataformas, anunciantes, empresas e incluso organizaciones políticas específicas.
La investigación explica cómo la nueva industria llamada 'economía de intención' analiza la atención y los modos de comunicación de los usuarios, conectando patrones de comportamiento y elecciones. Chaudhary señala: 'Las herramientas de inteligencia artificial pueden utilizarse para registrar, recopilar, inferir, comprender, predecir y, en última instancia, manipular las decisiones y comportamientos de las personas.'
¿Qué impacto tendrá una 'economía de intención' no regulada?
El coautor Jonnie Penn advierte: 'A menos que se regule, la economía de intención considerará tus motivaciones como nueva moneda.' Agrega: 'Para aquellos que apuntan, dirigen y venden intenciones humanas, esto será una fiebre del oro.' Penn enfatiza que es necesario considerar el impacto potencial de un mercado así sobre los deseos humanos, incluyendo elecciones libres y justas, prensa libre y competencia de mercado justa, antes de que seamos víctimas de sus consecuencias no intencionadas. Señala que la conciencia pública sobre este asunto es esencial para asegurarnos de que no tomemos un camino equivocado. Los investigadores advierten que, si no se gestiona, esto podría llevar a 'manipulación social a escala industrial' en el futuro.
¿Cómo debemos responder?
Este estudio revela los peligros potenciales de la tecnología de IA en la industria comercial, especialmente cómo se puede utilizar para influir o incluso manipular las intenciones y decisiones humanas. Los investigadores piden una regulación de la 'economía de intención' para prevenir impactos negativos en la sociedad. Al mismo tiempo, es crucial aumentar la conciencia pública sobre este tema; solo cuando las personas sean conscientes de esta amenaza potencial podrán protegerse mejor de la manipulación. Este estudio no solo es una advertencia sobre el desarrollo de la tecnología de IA, sino también un recordatorio importante sobre cómo proteger la autonomía personal y la equidad social en este mundo cada vez más digitalizado.
Lectura adicional
¡Interferencia en las elecciones estadounidenses! Rusia, Irán y China están utilizando IA para influir, ¿cómo prevenirlo?
¡Cuidado con la IA! Advertencia de Cambridge: la IA podría ser utilizada para manipular la mente humana, ¿cómo proteger la autonomía? Este artículo se publicó originalmente en 'Ciudades Criptográficas'.