L'internet est sur le point d'un changement profond. La vision des agents IA - des assistants numériques intelligents agissant de manière autonome au nom des individus et des organisations - devient une réalité. Cet "Internet Agentique" sera bientôt peuplé de trillions d'agents IA prenant des décisions, exécutant des tâches et s'engageant dans le commerce sans supervision humaine directe. Cependant, cette transformation apporte des défis significatifs que nous devons relever pour garantir un écosystème numérique sécurisé, équitable et digne de confiance.

À mesure que les agents IA personnels assument des rôles complexes, comprendre et authentifier leur identité devient crucial. Le concept d'être personnel implique qu'un agent peut représenter son créateur pour prendre des décisions significatives, allant des transactions financières aux négociations. Une question critique se pose : comment pouvons-nous garantir qu'un agent représente vraiment son créateur humain ?

Ce problème s'étend aux données utilisées dans le développement de l'agent. Si un agent IA utilise des ensembles de données ou des modèles non issus de son créateur ou non approuvés par celui-ci, l'alignement entre l'agent et son créateur peut être compromis. Ce décalage peut créer une crise d'identité, sapant la confiance dans ces interactions numériques.

Permettre à un agent IA d'avoir son propre portefeuille ou les droits de gérer le portefeuille d'un utilisateur est crucial pour réaliser la vision des agents IA pleinement autonomes. Cette capacité peut aider à réduire la fracture numérique, car les agents sont souvent mieux équipés que la plupart des utilisateurs humains pour gérer des actifs numériques et des contrats intelligents complexes. Garantir la sécurité de ces agents est primordial : comment pouvons-nous faire confiance à un agent IA pour gérer des actifs numériques précieux ?

La nature décentralisée des actifs numériques exige des mesures de sécurité renforcées. Un défi encore plus grand surgit alors que les humains peuvent avoir à naviguer à travers différentes interfaces numériques utilisées par les agents IA, ce qui augmente potentiellement le risque de phishing et d'attaques de type homme du milieu. Comment pouvons-nous garantir que les paiements sont effectués au bon destinataire ? Des méthodes d'identification et d'authentification plus intuitives basées sur les interactions humaines sont nécessaires pour minimiser la fracture numérique. Pourtant, il y a toujours un compromis entre la sécurité et l'utilisabilité.

Démocratisation de l'internet agentique

Un autre défi pressant est le potentiel de l'IA d'approfondir les inégalités socio-économiques existantes. Les individus et les entreprises plus riches sont mieux positionnés pour investir dans des agents IA plus sophistiqués, capables d'exécuter des stratégies à fort impact et de dominer les marchés numériques. Ces agents avancés pourraient élargir l'écart de ressources et d'opportunités, amplifiant effectivement l'influence des déjà privilégiés.

En revanche, les individus ou communautés disposant de ressources limitées peuvent se retrouver encore plus marginalisés, manquant des capacités numériques avancées nécessaires pour rivaliser. Dans notre vision de l'internet agentique, les utilisateurs gagnent une plus grande autonomie et un meilleur contrôle de leur présence numérique, guidés par des agents IA. Nous habilitons les communautés à prospérer dans un environnement en ligne plus décentralisé et centré sur l'utilisateur. Les utilisateurs pourraient transformer leur capital social et/ou leur capital réputation en un capital économique dans l'internet agentique.

Il convient également de mentionner : étant donné que les agents IA sont des extensions ou des manifestations de leurs créateurs dans le domaine numérique, il devient essentiel de réfléchir à leurs responsabilités numériques, à leurs droits numériques et à leur autonomie.

Trouver le chemin pour l'internet agentique

Le 31 octobre, Bangdao Chen, co-fondateur du Centre de recherche sur la blockchain d'Oxford, et Ramesh Ramadoss, président de la communauté technique de la blockchain IEEE, ont organisé un événement intitulé "Agents intelligents sur une blockchain enrichie" au Keble College, Oxford. Il a mis en lumière les défis et les solutions de conception dans l'internet agentique : construire des agents indépendants et vérifiables. Des informaticiens renommés, dont Richard Sutton FRS FRSC, le "père de l'apprentissage par renforcement," et Bill Roscoe FREng, directeur du Centre de recherche sur la blockchain d'Oxford, ainsi que d'autres experts, ont présenté lors de l'événement.

Accorder aux agents IA autonomie et capacité d'apprentissage pourrait renforcer leur confiance dans leurs interactions et aider à atténuer les déséquilibres sociaux. Cela peut être réalisé grâce à une approche de vérification autonome, où la sécurité et la gouvernance sont programmées comme des règles enregistrées sur une blockchain. Voici des moyens par lesquels nous pourrions définir un ensemble de protocoles pour créer, former et maintenir des "vies numériques" :

Vérification des agents IA

Les agents IA pourraient être vérifiés à l'aide de méthodes formelles pour identifier leurs caractéristiques, semblables à l'étiquetage de l'eau en bouteille avec des détails sur son contenu minéral, sa date de production et son origine. La vérification formelle peut améliorer la transparence et la confiance dans les agents IA en permettant aux utilisateurs de savoir ce qu'est l'agent, comment il peut se comporter et ce qu'il peut générer.

Génération d'ID avec la gouvernance à l'esprit

La génération d'ID devrait prendre en compte la gouvernance de l'IA et les lois de la nature. Un agent ne peut pas simplement être rempli de code ou de données arbitraires pour représenter une présence numérique ; il devrait évoluer au fil du temps, reflétant le processus par lequel l'ADN évolue en une forme de vie. Le temps pourrait être considéré comme un facteur unique dans l'ID de l'agent, améliorant la diversité et promouvant l'égalité des droits.

Portefeuilles sécurisés pour les agents IA

Les agents IA devraient avoir leurs propres portefeuilles, indépendants du contrôle humain. Cette autonomie apporte plusieurs avantages : les agents peuvent être mieux adaptés à la gestion des actifs numériques et à la résistance aux escroqueries. Les humains pourraient déléguer des opérations commerciales à ces agents, surtout dans les domaines numériques.

Mais la sécurité reste un défi central, nécessitant de nouveaux protocoles de paiement pour soutenir les transactions homme-à-agent, agent-à-agent et une économie multi-agents. Des protocoles de sécurité interactifs avec les humains pourraient être développés pour authentifier les transactions homme-à-agent.

Agents d'apprentissage

Les agents IA qui apprennent de manière adaptative de leur environnement et de leurs interactions ajustent leurs stratégies en fonction des retours, les rendant très réactifs aux conditions changeantes. Grâce à des méthodes telles que l'apprentissage par renforcement, ils explorent et exploitent diverses actions pour optimiser les résultats, s'ajustant en temps réel aux changements environnementaux. Ces agents utilisent un apprentissage continu pour conserver les connaissances passées tout en s'adaptant à de nouvelles informations, améliorant leur capacité à gérer des environnements dynamiques sans oublier les tâches antérieures.

Les débats sur la possibilité que l'AGI prenne le contrôle du monde et rende les emplois obsolètes sont répandus. Cependant, en démocratisant le pouvoir de l'IA grâce à l'internet agentique et en créant des cadres robustes pour les ID et les portefeuilles d'agents, nous pouvons aider à aborder ces perceptions et construire une économie numérique plus inclusive.

Créer le chemin pour l'internet agentique au sein de notre civilisation numérique n'est pas une tâche triviale. Cette vision s'étend à plusieurs laboratoires de recherche et est développée pièce par pièce. Nous sommes impatients de partager nos progrès dans les mois à venir alors que nous travaillons à rendre cette vision ambitieuse une réalité.

Remarque : Les opinions exprimées dans cette colonne sont celles de l'auteur et ne reflètent pas nécessairement celles de CoinDesk, Inc. ou de ses propriétaires et affiliés.