L’IA et la cryptographie évoluent à une vitesse vertigineuse et sont profondément techniques, ce qui les rend difficiles à réglementer – mais les lanceurs d’alerte sont réduits au silence.

Une autre semaine et un autre avertissement concernant l'intelligence artificielle.

Mais cette lettre ouverte – exprimant la crainte qu’elle puisse exacerber les inégalités, alimenter la désinformation et conduire à des systèmes d’IA incontrôlables qui « pourraient entraîner l’extinction de l’humanité » – a un impact différent.

Pourquoi? Parce que quatre des signataires anonymes sont des employés actuels d’OpenAI, le créateur du très populaire ChatGPT. Six autres personnes y travaillaient.

Le fait que tant de personnes étroitement impliquées dans la diffusion de l’IA auprès des masses craignent pour l’avenir est significatif. Même s’ils croient que cette technologie encore naissante pourrait apporter des « bénéfices sans précédent » à l’humanité, ils craignent que le public – et les régulateurs – n’aient pas une vue d’ensemble.

« Les sociétés d’IA possèdent d’importantes informations non publiques sur les capacités et les limites de leurs systèmes, l’adéquation de leurs mesures de protection et les niveaux de risque de différents types de dommages. Cependant, ils n’ont actuellement que de faibles obligations de partager certaines de ces informations avec les gouvernements, et aucune avec la société civile. Nous ne pensons pas qu’on puisse compter sur eux pour le partager volontairement.

Droit d'avertir

Les parallèles entre l’intelligence artificielle et l’espace cryptographique sont assez frappants. Les deux secteurs évoluent à une vitesse vertigineuse et sont profondément techniques. Cela crée d’énormes pierres d’achoppement pour les gouvernements et les régulateurs. D’une part, certains politiciens peuvent avoir du mal à comprendre le problème lui-même. Il suffit de demander au représentant américain Brad Sherman, qui a tristement appelé le créateur de Bitcoin « Saratoshi Nagamoto ». 

https://twitter.com/guti_uno/status/1684383259025883137

À partir de là, il devient difficile d’élaborer des lois instruites qui encouragent l’innovation parmi les bons acteurs tout en dissuadant la criminalité parmi les mauvais. Et une fois que les autorités ont rattrapé leur retard, ces industries sont souvent si méconnaissables que la législation proposée ne reflète pas les réalités de la manière dont la technologie est utilisée… ni où se situent les plus grands risques. Il est révélateur qu’il existe toujours une paralysie réglementaire importante concernant les crypto-monnaies aux États-Unis – plus de 15 ans après le premier lancement de Bitcoin.

Comme le souligne la lettre ouverte axée sur l’IA, le manque de surveillance gouvernementale efficace signifie qu’il existe une énorme dépendance à l’égard des lanceurs d’alerte au sein des entreprises pour les tenir responsables. L’une des plus grandes préoccupations des auteurs concerne la manière dont les accords de confidentialité les empêchent de s’exprimer.

« Les protections ordinaires des lanceurs d’alerte sont insuffisantes car elles se concentrent sur les activités illégales, alors que bon nombre des risques qui nous préoccupent ne sont pas encore réglementés. Certains d’entre nous craignent raisonnablement diverses formes de représailles.»

Droit d'avertir

Encore une fois, une symétrie existe ici entre l'intelligence artificielle et la cryptographie – comme en témoigne un rapport récent, approfondi et accablant publié par un examinateur indépendant chargé d'enquêter sur l'implosion de FTX en 2022. Dans ce cas, il a été constaté que six lanceurs d'alerte anonymes avec des intérêts légitimes les préoccupations ont été remboursées à hauteur de 25 millions de dollars. On a demandé à l'un d'eux de s'excuser auprès du PDG, désormais emprisonné, Sam Bankman-Fried, et a fini par parvenir à un règlement de 16 millions de dollars après avoir démissionné de ses fonctions.

Bien que l’industrie de la cryptographie ait fait des progrès prometteurs pour réparer les torts du passé à la suite d’une série de faillites ces dernières années – parmi lesquelles BlockFi, Voyager et Celsius – on pourrait affirmer qu’il reste encore du travail à faire. Et cela rend les quatre engagements demandés aux entreprises d’IA dans cette lettre ouverte particulièrement applicables au secteur des actifs numériques.

Il a été demandé aux principales sociétés d’intelligence artificielle de s’abstenir d’appliquer des clauses interdisant aux employés inquiets des risques émergents de formuler des critiques – et d’introduire des procédures anonymes afin que les préoccupations puissent être soulevées auprès des conseils d’administration, des régulateurs et des experts. Certaines des plus grandes controverses liées à la cryptographie auraient pu être évitées si des garanties similaires avaient été mises en place.

En plus d’adopter une culture de critique ouverte, les dirigeants de l’IA sont appelés à jurer qu’ils ne prendront pas de représailles contre les travailleurs qui divulguent des informations confidentielles après avoir épuisé toutes les autres possibilités d’aggraver le problème.

On ne sait pas dans quelle mesure cette lettre ouverte fera bouger les choses dans la quête de régulation de l’IA. Et il y a quelque chose à dire sur la transparence inhérente à la technologie blockchain, où les flux de fonds – et les enregistrements des transactions – peuvent être surveillés en temps réel. Les grands modèles linguistiques, généralement construits à huis clos, sont en comparaison beaucoup plus opaques.

Mais les conséquences de l’inaction et les préjudices potentiels auxquels les consommateurs quotidiens sont confrontés sont tout aussi désastreux dans les deux secteurs. Trop d’investisseurs en cryptographie ont perdu toutes leurs économies parce qu’ils n’étaient pas suffisamment informés des risques – en raison d’un manque de coordination entre les régulateurs internationaux pour empêcher les mauvais acteurs offshore de ne pas être contrôlés. Et à mesure que l’IA devient chaque jour plus intelligente et plus intuitive pour l’utilisateur, les moyens de subsistance de millions de personnes qui travaillent dur pourraient également être menacés.

Vous aimerez peut-être aussi : Kraken et Binance poursuivis en justice pour 13 milliards de dollars. Pourquoi?