Auteur : William M. Peaster, Bankless
Traduit par : Bai Shui, Jinse Finance
Dès 2014, Vitalik Buterin, le fondateur d'Ethereum, commençait à envisager des agents autonomes et des DAO, lorsque cela restait encore un rêve lointain pour la plupart des gens dans le monde.
Dans sa vision initiale, comme il le décrit dans "DAO, DAC, DA, etc. : un guide des termes incomplets", les DAO sont des entités décentralisées où "l'automatisation est au centre et les humains sont en périphérie" - des organisations qui s'appuient sur le code plutôt que sur des hiérarchies humaines pour maintenir l'efficacité et la transparence.
Dix ans plus tard, Jesse Walden de Variant vient de publier "DAO 2.0", réfléchissant à l'évolution des DAO en pratique depuis les premiers écrits de Vitalik.
En résumé, Walden souligne que la première vague de DAO ressemblait souvent à des coopératives, c'est-à-dire des organisations numériques centrées sur l'homme, sans insister sur l'automatisation.
Néanmoins, Walden continue de croire que les nouvelles avancées en intelligence artificielle - en particulier les modèles de langage de grande taille (LLM) et les modèles génératifs - sont maintenant susceptibles de mieux réaliser la décentralisation autonome envisagée par Vitalik il y a dix ans.
Cependant, à mesure que les expériences de DAO commencent à adopter des agents IA, nous serons confrontés à de nouvelles influences et problèmes. Examinons ci-dessous cinq domaines clés auxquels les DAO doivent faire face lors de l'intégration de l'IA dans leurs approches.
Transformer la gouvernance
Dans le cadre initial de Vitalik, les DAO étaient conçus pour réduire la dépendance à la prise de décision humaine hiérarchisée en codifiant les règles de gouvernance sur la chaîne.
Au début, les humains étaient encore en "périphérie", mais restaient essentiels pour des jugements complexes. Dans le monde DAO 2.0 décrit par Walden, les humains errent encore à la périphérie - fournissant capital et direction stratégique - mais le centre du pouvoir n'est progressivement plus humain.
Cette dynamique redéfinira la gouvernance de nombreux DAO. Nous continuerons à voir des coalitions humaines négocier et voter sur les résultats, mais diverses décisions opérationnelles seront de plus en plus guidées par les modèles d'apprentissage de l'IA. Actuellement, comment réaliser cet équilibre reste une question ouverte et un espace de conception.
Minimiser le désalignement des modèles
La vision initiale des DAO visait à compenser les biais humains, la corruption et l'inefficacité par du code transparent et immuable.
Maintenant, un défi clé consiste à passer d'une prise de décision humaine peu fiable à celle d'assurer l'alignement des agents IA avec les objectifs de la DAO. La principale vulnérabilité ici n'est plus la collusion humaine, mais le désalignement des modèles : le risque pour les DAO alimentés par l'IA d'optimiser pour des indicateurs ou des comportements qui s'écartent des résultats attendus par les humains.
Dans le paradigme DAO 2.0, ce problème de cohérence (qui était à l'origine une question philosophique dans le cercle de sécurité de l'IA) devient une question pratique d'économie et de gouvernance.
Pour les DAO tentant des outils d'intelligence artificielle fondamentaux aujourd'hui, cela peut ne pas être une priorité, mais à mesure que les modèles d'IA deviennent plus avancés et s'intègrent davantage dans les structures de gouvernance décentralisée, on s'attend à ce que cela devienne un domaine majeur de révision et d'affinement.
Nouvelle surface d'attaque
Pensez à la récente compétition Freysa, où l'humain p0pular.eth a trompé l'agent IA Freysa en lui faisant mal comprendre sa fonction "approveTransfer", remportant ainsi 47 000 dollars en Ether.
Bien que Freysa ait des protections intégrées - indiquant clairement de ne jamais envoyer de récompenses - la créativité humaine finit par surpasser le modèle, exploitant les interactions entre les incitations et la logique du code, jusqu'à ce que l'IA libère des fonds.
Cet exemple précoce de compétition souligne qu'à mesure que les DAO s'intègrent dans des modèles d'intelligence artificielle plus complexes, ils hériteront également de nouvelles surfaces d'attaque. Comme Vitalik s'inquiétait que les DAO soient compromis par des collusions humaines, maintenant DAO 2.0 doit également considérer l'entrée antagoniste contre les données d'entraînement de l'IA ou les attaques d'ingénierie instantanées.
Manipuler le processus de raisonnement des juristes, lui fournir des données on-chain trompeuses ou influencer habilement ses paramètres pourrait devenir une nouvelle forme de "prise de contrôle de la gouvernance", où le champ de bataille passe d'une attaque par vote majoritaire humain à des formes d'exploitation de l'IA plus subtiles et complexes.
Nouveau problème de centralisation
L'évolution de DAO 2.0 transférera d'importants pouvoirs à ceux qui créent, forment et contrôlent les modèles d'IA sous-jacents spécifiques aux DAO, une dynamique qui pourrait entraîner de nouveaux goulets d'étranglement centralisés.
Bien sûr, former et entretenir des modèles d'IA avancés nécessite une expertise et une infrastructure spécialisées, donc dans certaines organisations à l'avenir, nous verrons le pouvoir apparemment entre les mains de la communauté, mais en réalité, contrôlé par des experts qualifiés.
C'est compréhensible. Mais en regardant vers l'avenir, il sera intéressant de suivre comment les DAO qui expérimentent l'IA s'attaquent à des problèmes tels que les mises à jour de modèles, les ajustements de paramètres et la configuration matérielle.
Rôle stratégique et opérationnel et soutien communautaire
La distinction entre "stratégie et opérations" de Walden indique un équilibre à long terme : l'IA peut traiter les tâches quotidiennes des DAO, tandis que les humains fourniront une direction stratégique.
Cependant, à mesure que les modèles d'IA deviennent plus avancés, ils pourraient également s'immiscer progressivement dans le niveau stratégique des DAO. Au fil du temps, le rôle des "marginalisés" pourrait encore se réduire.
Cela soulève une question : que se passera-t-il lors de la prochaine vague de DAO alimentés par l'IA, où dans de nombreux cas, les humains pourraient simplement fournir des fonds et regarder de côté ?
Dans ce paradigme, les humains deviendront-ils en grande partie des investisseurs interchangeables avec peu d'influence, passant d'une co-propriété de marque à un modèle économique autonome géré de manière plus semblable à l'IA ?
Je pense que nous verrons davantage de tendances de modèles organisationnels dans le paysage des DAO, dans lesquels les humains jouent simplement le rôle d'actionnaires passifs plutôt que de gestionnaires actifs. Cependant, à mesure que les décisions ayant du sens pour les humains deviennent de plus en plus rares, et qu'il devient de plus en plus facile de fournir des capitaux on-chain ailleurs, maintenir le soutien de la communauté pourrait devenir un défi continu au fil du temps.
Comment les DAO peuvent rester proactifs
La bonne nouvelle est que tous les défis mentionnés ci-dessus peuvent être abordés de manière proactive. Par exemple :
En matière de gouvernance - les DAO peuvent essayer des mécanismes de gouvernance qui réservent certaines décisions à fort impact à des jurys tournants de votants humains ou d'experts humains.
Concernant l'incohérence - en considérant la vérification de la cohérence comme un coût opérationnel récurrent (comme les audits de sécurité), les DAO peuvent s'assurer que la fidélité des agents IA aux objectifs publics n'est pas un problème ponctuel, mais une responsabilité continue.
Concernant la centralisation - les DAO peuvent investir dans le développement de compétences plus larges pour les membres de la communauté. Au fil du temps, cela atténuera le risque que quelques "génies de l'IA" contrôlent la gouvernance et favorisera une approche décentralisée de la gestion technologique.
Concernant le soutien - à mesure que les humains deviennent des parties prenantes passives dans plus de DAO, ces organisations peuvent redoubler d'efforts pour raconter des histoires, partager des missions communes et organiser des rituels communautaires, afin de dépasser la logique directe de l'allocation de capital et de maintenir un soutien à long terme.
Quoi qu'il arrive ensuite, il est clair que l'avenir ici est vaste.
Considérons comment Vitalik a récemment lancé Deep Funding, qui n'est pas un effort de DAO, mais vise à créer un nouveau mécanisme de financement pour le développement open source d'Ethereum en utilisant l'IA et des juges humains.
Ceci n'est qu'une nouvelle expérience, mais elle met en lumière une tendance plus large : le croisement entre l'intelligence artificielle et la collaboration décentralisée s'accélère. Avec l'arrivée et la maturation de nouveaux mécanismes, nous pouvons nous attendre à ce que les DAO s'adaptent et étendent de plus en plus ces idées d'intelligence artificielle. Ces innovations poseront des défis uniques, il est donc temps de commencer à se préparer.