Internet está al borde de un cambio profundo. La visión de los agentes de IA —asistentes digitales inteligentes que actúan de forma autónoma en nombre de individuos y organizaciones— se está convirtiendo en una realidad. Este "Internet Agente" pronto estará poblado por billones de agentes de IA tomando decisiones, ejecutando tareas y participando en el comercio sin supervisión humana directa. Sin embargo, esta transformación trae desafíos significativos que debemos abordar para garantizar un ecosistema digital seguro, justo y confiable.

A medida que los agentes de IA personales asumen roles complejos, entender y autenticar su identidad se vuelve crucial. El concepto de ser personal implica que un agente puede representar a su creador para tomar decisiones significativas, desde transacciones financieras hasta negociaciones. Surge un problema crítico: ¿cómo aseguramos que un agente realmente represente a su creador humano?

Este problema se extiende a los datos utilizados en el desarrollo del agente. Si un agente de IA utiliza conjuntos de datos o modelos que no provienen de o no están aprobados por su creador, la alineación entre el agente y su creador puede estar comprometida. Esta discrepancia puede crear una crisis de identidad, socavando la confianza en estas interacciones digitales.

Permitir que un agente de IA tenga su propia billetera o los derechos para gestionar la billetera de un usuario es crucial para realizar la visión de agentes de IA completamente autónomos. Esta capacidad puede ayudar a cerrar la brecha digital, ya que los agentes a menudo están mejor equipados que la mayoría de los usuarios humanos para manejar activos digitales y contratos inteligentes complejos. Asegurar la seguridad de estos agentes es primordial: ¿cómo podemos confiar en un agente de IA para gestionar activos digitales valiosos?

La naturaleza descentralizada de los activos digitales exige medidas de seguridad más estrictas. Surge un desafío aún mayor ya que los humanos pueden tener que navegar por diferentes interfaces digitales utilizadas por los agentes de IA, lo que podría aumentar el riesgo de phishing y ataques de intermediarios. ¿Cómo podemos garantizar que los pagos se realicen al destinatario correcto? Se necesitan métodos de identificación y autenticación más intuitivos basados en interacciones humanas para minimizar la brecha digital. Sin embargo, siempre existe un compromiso entre la seguridad y la usabilidad.

Democratización del Internet Agente

Otro desafío urgente es el potencial de que la IA profundice las desigualdades socioeconómicas existentes. Las personas y corporaciones más ricas están mejor posicionadas para invertir en agentes de IA más sofisticados, capaces de ejecutar estrategias de alto impacto y dominar los mercados digitales. Estos agentes avanzados podrían ampliar la brecha de recursos y oportunidades, amplificando efectivamente la influencia de los ya privilegiados.

En contraste, individuos o comunidades con recursos limitados pueden encontrarse aún más marginados, careciendo de las capacidades digitales avanzadas necesarias para competir. En nuestra visión del internet agente, los usuarios obtienen mayor autonomía y control sobre su presencia digital, guiados por agentes de IA. Empoderamos a las comunidades para prosperar en un entorno en línea más descentralizado y centrado en el usuario. Los usuarios podrían transformar su capital social y/o capital de reputación en un capital económico en el internet agente.

También vale la pena mencionar: dado que los agentes de IA son extensiones o manifestaciones de sus creadores en el ámbito digital, se vuelve esencial contemplar sus responsabilidades digitales, derechos digitales y autonomía.

Encontrando el Camino para el Internet Agente

El 31 de octubre, Bangdao Chen, cofundador del Centro de Investigación Blockchain de Oxford, y Ramesh Ramadoss, presidente de la Comunidad Técnica de Blockchain de IEEE, organizaron un evento titulado “Agentes Inteligentes en una Blockchain Enriquecida” en Keble College, Oxford. Se destacó los desafíos y soluciones de diseño en el internet agente: construir agentes independientes y verificables. Científicos computacionales de renombre, incluyendo a Richard Sutton FRS FRSC, el "padre del aprendizaje por refuerzo", y Bill Roscoe FREng, director del Centro de Investigación Blockchain de Oxford, junto con otros expertos, presentaron en el evento.

Otorgar autonomía y capacidad de aprendizaje a los agentes de IA podría aumentar su confianza en sus interacciones y ayudar a mitigar los desequilibrios sociales. Esto se puede lograr a través de un enfoque de verificación autónomo, donde la seguridad y la gobernanza están programadas como reglas registradas en una blockchain. Aquí hay formas en las que podríamos definir un conjunto de protocolos para crear, entrenar y mantener "vidas digitales":

Verificación de Agentes de IA

Los agentes de IA podrían ser verificados utilizando métodos formales para identificar sus características, similar a etiquetar agua embotellada con detalles sobre su contenido mineral, fecha de producción y origen. La verificación formal puede mejorar la transparencia y confianza en los agentes de IA al permitir que los usuarios sepan qué es el agente, cómo puede comportarse y qué puede generar.

Generación de ID con Gobernanza en Mente

La generación de ID debería considerar la gobernanza de IA y las leyes de la naturaleza. Un agente no puede simplemente ser llenado con código o datos arbitrarios para representar una presencia digital; debería evolucionar con el tiempo, reflejando el proceso de la evolución del ADN hacia una forma de vida. El tiempo podría tratarse como un factor único en la ID del agente, mejorando la diversidad y promoviendo derechos iguales.

Billeteras Seguras para Agentes de IA

Los agentes de IA deberían tener sus propias billeteras, independientes del control humano. Esta autonomía trae múltiples beneficios: los agentes pueden estar mejor preparados para gestionar activos digitales y resistir estafas. Los humanos podrían delegar operaciones comerciales a estos agentes, especialmente en ámbitos digitales.

Pero la seguridad sigue siendo un desafío central, requiriendo nuevos protocolos de pago para apoyar transacciones de humano a agente, transacciones de agente a agente y una economía multi-agente. Se podrían desarrollar protocolos de seguridad interactivos con humanos para autenticar transacciones de humano a agente.

Agentes de Aprendizaje

Los agentes de IA que aprenden adaptativamente de su entorno e interacciones ajustan sus estrategias basándose en la retroalimentación, lo que los hace altamente receptivos a las condiciones cambiantes. A través de métodos como el aprendizaje por refuerzo, exploran y explotan diversas acciones para optimizar resultados, ajustándose en tiempo real a los cambios ambientales. Estos agentes emplean el aprendizaje continuo para retener conocimientos pasados mientras se adaptan a nueva información, mejorando su capacidad para manejar entornos dinámicos sin olvidar tareas anteriores.

Los debates sobre la AGI que potencialmente podría apoderarse del mundo y hacer que los trabajos sean redundantes son generalizados. Sin embargo, al democratizar el poder de la IA a través del Internet Agente y crear marcos robustos para las IDs y billeteras de los agentes, podemos ayudar a abordar estas percepciones y construir una economía digital más inclusiva.

Crear el camino para el Internet Agente dentro de nuestra civilización digital no es una tarea trivial. Esta visión abarca múltiples laboratorios de investigación y se está desarrollando poco a poco. Esperamos compartir nuestro progreso en los próximos meses mientras trabajamos para hacer de esta ambiciosa visión una realidad.

Nota: Las opiniones expresadas en esta columna son del autor y no reflejan necesariamente las de CoinDesk, Inc. o sus propietarios y afiliados.