L’intelligence artificielle pourrait bientôt gouverner une ville aux États-Unis – du moins si un candidat américain à la mairie parvient à ses fins.
Victor Miller s'est récemment porté candidat à la mairie de Cheyenne, dans le Wyoming, en s'engageant à gérer la ville de 65 000 habitants exclusivement avec un robot d'IA générative qu'il a lui-même construit, appelé VIC, ou Virtual Integrated Citizen.
Il a fait valoir que le système pourrait analyser rapidement des quantités de documents municipaux, résumer les événements et rendre des jugements sans erreur en temps quasi réel. Ses décisions seraient également objectives, sans crainte de favoritisme ou d’influence de la part des lobbyistes, ce qui serait bénéfique pour la démocratie.
L’État du Wyoming, féru de technologie, est sans doute l’État le plus favorable aux crypto-monnaies des États-Unis. Il est donc peut-être logique que sa capitale accueille également le premier candidat politique IA.
La gouvernance de l’IA est « hautement irresponsable »
Cependant, certains scientifiques et même des praticiens de l’IA sont consternés à l’idée d’externaliser le gouvernement local à un robot amélioré par l’IA.
« L’IA doit être considérée comme un outil que nous pouvons utiliser pour aider les services gouvernementaux à fonctionner plus efficacement, et non pour prendre le relais », a déclaré à Cointelegraph Terrence Sejnowski, professeur au département de neurobiologie de l’université de Californie à San Diego et chercheur à l’intersection de l’IA et des neurosciences.
Même si les décisions du robot IA étaient exactes, il y aurait toujours des cas non routiniers portés à l’attention de l’hôtel de ville qui dépassent le cadre des données de formation d’un robot.
« Cela est devenu évident avec les voitures autonomes, qui n'ont aucun problème avec 99,9 % des décisions qu'un conducteur doit prendre, mais qui ont du mal avec des cas limites inhabituels », a commenté Sejnowski.
Il s’agit souvent de cas particuliers, de ceux qui sont traditionnellement réglés par les tribunaux et les avocats. Selon Sejnowski, cela ne devrait pas changer.
« Il serait hautement irresponsable à ce stade d’utiliser l’intelligence artificielle générative pour toute prise de décision à risque modéré à élevé au sein du gouvernement », a déclaré à Cointelegraph Julian Cardarelli, PDG de GovCore, une entreprise technologique gouvernementale. « Je l’exclurais totalement pour tout ce qui nécessite une prise de décision éclairée avec un tel profil de risque. »
Toutefois, selon lui, certaines fonctions gouvernementales à faible risque pourraient être prises en charge en toute sécurité par des logiciels d’IA générative, comme le traitement des demandes d’aide sociale ou le renouvellement des permis et licences (conduite, chasse, pêche, armes à feu, etc.).
En outre, le calcul et la collecte des impôts, « ainsi que toute autre fonction transactionnelle du gouvernement où il n’y a pas de risque de préjudice physique ou de blessure », a ajouté Cardarelli.
Le candidat Miller est-il sérieux ?
Alors, que penser de Miller, candidat à la mairie de Cheyenne ? Tout cela n'est-il qu'un stratagème électoral ?
Selon une interview du candidat au Washington Post, Miller se considère comme un pionnier du « potentiel inexploité de l’intelligence artificielle au sein du gouvernement ».
Le déclic s’est produit ce printemps lorsque la ville lui a refusé « à tort » une demande d’accès aux documents publics, une décision qui a ensuite été annulée. Mais un robot IA n’aurait peut-être pas commis cette erreur initiale, a-t-il expliqué.
Récent : L’arrestation du PDG de Telegram, Pavel Durov, a des conséquences inquiétantes pour la crypto
« Je me suis demandé si l’IA ferait un meilleur maire que n’importe quel humain », a déclaré Miller au Washington Post. Il a créé un programme utilisant ChatGPT 4.0 et « l’a alimenté avec des ordonnances municipales et des documents connexes. Il a découvert que le robot pouvait rapidement rappeler les lois des archives publiques et prendre des décisions sur des questions telles que le financement de nouvelles constructions urbaines ou la réparation de nids-de-poule », a rapporté le journal.
« Cet incident dans le Wyoming semble tester les frontières de la réglementation locale », a déclaré au Post Valerie Wirtschafter, chercheuse en IA à la Brookings Institution.
Ailleurs, Eyal Darmon, responsable nord-américain de l'IA générative pour le service public du cabinet de conseil en informatique Accenture, a déclaré que l'IA pourrait réellement faire une différence dans les gouvernements du monde entier.
En effet, plus de 50 % des activités gouvernementales pourraient un jour être « perturbées » par l’IA générative, a-t-il déclaré à Government Technology.
« L’IA n’est pas encore au point »
Miller est-il vraiment sur la bonne voie ?
Chris Rothfuss, ingénieur de formation, est le chef de la minorité sénatoriale de l’Assemblée législative de l’État du Wyoming. Il copréside également le Comité spécial de l’Assemblée législative sur la blockchain, la technologie financière et la technologie de l’innovation numérique.
« À mon avis, l’IA n’en est pas encore là », a déclaré Rothfuss à Cointelegraph.
« Ce n’est pas encore assez développé pour que l’on puisse même envisager de céder le type de contrôle dont parle Miller – même si c’était éthique – ce qui n’est pas le cas », dit-il.
« Ce n’est pas une bonne idée. »
Il n’y a pas longtemps, Rothfuss et d’autres membres du comité restreint ont assisté à un atelier sur l’IA à l’Université de Stanford pour en apprendre davantage sur l’IA et le gouvernement.
D’autres gouvernements locaux et étatiques expérimentent désormais des modèles d’IA, notamment des projets dans lesquels l’algorithme informatique serait le décideur final.
Il s’agissait notamment de décisions susceptibles de nuire au bien-être d’une personne, comme celle de mettre fin aux paiements de Medicare ou de Medicaid.
Ces décisions étaient prises automatiquement par un robot, sans aucun examen final par un être humain.
« Je ne veux pas que cela se produise à l’avenir », a déclaré Rothfuss à Cointelegraph.
« Les principaux domaines que nous ne souhaitons pas confier sont les décisions exécutives, législatives et judiciaires », a ajouté Cardarelli. « Ce sont des fonctions à haut risque. »
L'IA élimine les erreurs et prend des décisions plus rapides
Mais cela ne signifie pas que l’introduction de l’IA dans le bureau du maire est nécessairement une mauvaise idée – simplement qu’elle ne devrait pas être seule dans le bureau, c’est-à-dire qu’elle devrait aider le maire élu et les autres.
Selon Cardarelli, la synthèse de longs documents tels que les « détails municipaux » destinés aux utilisateurs humains « créerait certainement de multiples améliorations en termes d’efficacité ». Il en va de même pour la rédaction de présentations et de documents de documentation, de notes d’information, de comptes-rendus de réunions, de résumés d’appels vidéo, etc.
« Ce type d’effort demande beaucoup de travail aux êtres humains, et l’IA peut le réaliser en temps quasi réel », a déclaré Cardarelli.
Cela pourrait également conduire à moins d’erreurs dans les administrations locales, du genre de celles qui ont scandalisé le candidat Miller. « Nous savons que le rendement est très variable lorsque des humains effectuent ce travail », a déclaré Cardarelli. Ce n’est pas le cas de l’IA, qui est très compatible avec ce type de travail.
Les décisions à haut risque – le type de décisions que l’IA devrait éviter – ne concernent que 20 % des collectivités locales, environ, tandis que les 80 % restants sont de nature administrative et peuvent être perturbés, selon Cardarelli, qui ajoute :
« Je pense que nous devons être très audacieux quant à la possibilité de créer un modèle de gouvernement numérique hyper-efficace qui réduise considérablement les inégalités et améliore radicalement l’accès aux services. »
L'IA comme assistante sociale
L’une des forces de l’ère moderne est que les vagues d’innovation se propagent rapidement dans le monde entier.
En ce qui concerne l’IA et la gouvernance locale, la ville de Sydney, en Australie, utilise l’IA pour améliorer le processus d’examen des certificats de développement conformes. La ville peut recevoir jusqu’à 30 000 demandes par an et, par le passé, le processus d’examen « était entaché d’incohérences et de retards », a rapporté le cabinet d’avocats DLA Piper, ajoutant :
« Grâce à cette méthode basée sur l’IA, les candidats reçoivent plus rapidement une évaluation préliminaire, ce qui simplifie les soumissions et augmente l’efficacité du service de planification. »
Par ailleurs, le ministère des Transports de l’État australien de Nouvelle-Galles du Sud étudie l’utilisation de l’IA pour développer « des diagnostics en temps réel de l’état des routes, ouvrant la voie à une maintenance proactive ».
En effet, nombreux sont ceux qui n’ont pas encore pris la mesure de l’ampleur des fonctions des administrations locales ou nationales qui pourraient être améliorées par l’IA. « Les services sociaux, pour lesquels l’empathie est nécessaire, ne viennent peut-être pas à l’esprit », a déclaré Sejnowski, ajoutant :
« Il a été prouvé que l’IA a une meilleure empathie que la plupart des médecins et est préférée par les patients pour la psychothérapie. Plus besoin d’attendre un travailleur social lorsque l’IA peut vous voir maintenant. »
Rothfuss s’oppose à l’utilisation de l’IA comme autorité finale pour toute décision susceptible de causer des souffrances humaines, comme couper le gaz d’une maison. Ce genre d’ordres nécessitera toujours un examen humain. En comparaison, une décision par laquelle un individu obtient quelque chose, comme une réduction d’impôt, pourrait être entièrement automatisée à un moment donné, selon le sénateur de l’État.
Nécessité d’une réglementation de l’IA
Sejnowski a observé que la révolution industrielle a créé des outils qui ont grandement amélioré notre puissance physique. L’ère de l’information a multiplié notre puissance cognitive. « Dans les deux cas, les gens doivent décider comment utiliser les outils. »
Magazine : Le « marché des algorithmes » de Dorsey pourrait résoudre le problème des médias sociaux… alors pourquoi ne l’a-t-il pas fait ?
C’est là le cœur du problème. « Les outils peuvent aussi être mal utilisés, il faut donc les réglementer », explique Sejnowski. Il faut donc peut-être reformuler les questions sur l’IA et le gouvernement en se demandant : « Ne demandez pas ce que l’IA peut faire pour vous, mais ce que vous pouvez faire pour rendre l’IA plus sûre », a-t-il déclaré à Cointelegraph.
« Le potentiel est énorme », a ajouté Cardarelli. « Nous en sommes aux tout premiers stades de cette transformation », un processus qui pourrait prendre 20 à 30 ans pour se déployer pleinement.
« Mais au bout du compte, nous pouvons raisonnablement espérer nous retrouver avec un nouveau type de gouvernement, plus démocratique parce qu’efficace, efficient et équitable », a-t-il déclaré.