L'Union européenne (UE) a franchi une étape majeure mercredi en donnant au monde son premier ensemble de règles de gouvernance autour de l'intelligence artificielle (IA), alors que le Parlement européen a adopté un projet de loi connu sous le nom d'A.I. Acte.

L'A.I. Cette loi, proposée pour la première fois par l’UE le 21 avril 2021, a été présentée comme le premier et le plus complet cadre réglementaire au monde. Depuis sa proposition, la Commission européenne, le Conseil de l'Union européenne et le Parlement européen ont travaillé à la modification et à l'affinement de son projet initial, la version finale n'étant attendue que plus tard cette année.

Bien que le projet initial ait précédé l’essor de l’IA générative, y compris les chatbots, ce nouveau projet de loi prend certainement en considération les systèmes d’IA générative comme ChatGPT d’OpenAI et les implications qu’ils apportent. 

Tests avant le déploiement

La loi, qui s’applique à tous les pays membres de l’UE, exige que les États membres établissent au moins un « bac à sable » réglementaire pour tester les systèmes d’IA avant leur déploiement.

"La seule chose que nous voulions atteindre avec ce texte, c'est l'équilibre", a déclaré aux journalistes Dragoș Tudorache, député européen. La loi protège les citoyens tout en « promouvant l’innovation, sans entraver la créativité, ainsi que le déploiement et le développement de l’IA en Europe », a-t-il ajouté.

Le plus grand potentiel de préjudice humain

Au cœur du projet de loi adopté mercredi, l’IA générative serait soumise à de nouvelles exigences de transparence, qui incluent la publication de résumés du matériel protégé par le droit d’auteur utilisé pour former le système ainsi que la mise en œuvre de garanties pour empêcher l’IA de générer du contenu illégal. 

L'approche « fondée sur les risques » du projet de loi pour réglementer l'IA se concentre sur les cas d'utilisation présentant le plus grand potentiel de préjudice humain, y compris l'utilisation de systèmes d'IA pour faire fonctionner des infrastructures critiques comme l'eau ou l'énergie, notre système de justice juridique et la détermination de l'accès aux services publics et prestations gouvernementales. 

Les développeurs de cette technologie seraient tenus de procéder à des évaluations des risques avant de généraliser cette technologie, de la même manière que fonctionne actuellement le processus d’approbation des médicaments. 

Interdiction de la reconnaissance faciale

Un autre sujet de débat houleux concerne l’utilisation de la technologie de reconnaissance faciale. Le Parlement européen a voté en faveur de l'interdiction de l'utilisation de la reconnaissance faciale en direct, mais reste ouvert à la question de savoir s'il devrait y avoir une exception à son utilisation dans des cas de sécurité nationale et à d'autres fins répressives. 

À cela s’ajoute une autre disposition de l’A.I. La loi interdirait aux entreprises de récupérer des données biométriques sur les réseaux sociaux pour contribuer à la constitution de bases de données – ce qui était un problème majeur après que la société de reconnaissance faciale Clearview AI ait été condamnée à une amende de 20 millions de dollars par l'autorité française de protection des données (CNIL) pour la collecte et le traitement illégaux de données biométriques appartenant à des citoyens français, en plus d'une amende de 5,2 millions de dollars en souffrance. 

L’IA générative va-t-elle ajouter 4 400 milliards de dollars à l’économie mondiale ?

On estime que l’IA générative ajoutera 4 400 milliards de dollars à l’économie mondiale, selon un rapport publié mercredi par McKinsey & Company. 

Bien que ce chiffre se situe dans la partie supérieure de la fourchette projetée par McKinsey pour la valeur de l’IA générative, le rapport intitulé « Le potentiel économique de l’IA générative » présente également l’extrémité inférieure de la fourchette, qui s’élève à 2 600 milliards de dollars américains. 

Mercredi, lors de la conférence Viva à Paris, Yann LeCun, scientifique en chef de l'IA chez Meta, a évoqué les limites actuelles de l'IA générative, en particulier celles qui sont formées sur de grands modèles de langage. 

Selon LeCun, les IA génératives uniquement entraînées sur le langage ne sont pas très intelligentes.

"Ces systèmes sont très limités, ils n'ont aucune compréhension de la réalité sous-jacente du monde réel, car ils sont uniquement formés sur du texte, des quantités massives de texte", a déclaré LeCun. « La plupart des connaissances humaines n’ont rien à voir avec le langage… de sorte qu’une partie de l’expérience humaine n’est pas capturée par l’IA. »

"Nous avons écrit l'histoire aujourd'hui", a déclaré aux journalistes Brando Benifei, membre du Parlement européen travaillant sur la loi européenne sur l'IA.

"Alors que les grandes entreprises technologiques tirent la sonnette d'alarme sur leurs propres créations, l'Europe est allée de l'avant et a proposé une réponse concrète aux risques que l'IA commence à poser", a ajouté Benifei.

Cette semaine, plus de 40 % des chefs d’entreprise présents au Yale CEO Summit, dont le chef de Walmart, Doug McMillion, et le PDG de Coca-Cola, James Quincy, ont tous partagé leur conviction que l’IA a le potentiel de détruire l’humanité dans cinq à dix ans. 

La loi sur l'IA va encore plus loin dans les sanctions que nous avons vues dans le cadre européen de confidentialité du RGPD, où les entreprises engagées dans des pratiques interdites en matière d'IA pourraient être condamnées à une amende allant jusqu'à 43 millions de dollars américains ou un montant égal à 7 % du chiffre d'affaires annuel mondial d'une entreprise, selon le montant le plus élevé. est plus élevé. 

Le RGPD structure actuellement ses amendes jusqu'à 10,8 millions de dollars américains, ou jusqu'à 2 % du chiffre d'affaires mondial d'une entreprise, le montant le plus élevé étant retenu.

Dans d’autres actualités, découvrez l’informatique hyperdimensionnelle et pourquoi nous considérons peut-être l’IA de manière erronée.

Cliquez ici pour voir la galerie complète sur Hypemoon