Cet article en bref :
• Le président de la Securities and Exchange Commission (SEC) des États-Unis, Gary Gensler, a averti que l'intelligence artificielle centralisée pourrait constituer une menace pour le système financier et créer une monoculture.
Gensler a souligné que les régulateurs manquent actuellement de surveillance sur les modèles d’intelligence artificielle, qui joueront un rôle vital dans le secteur financier.
•Il insiste sur la nécessité de « diversité des modèles et diversité des sources de données » pour éviter la création de systèmes fragiles.
Le président de la SEC, Gary Gensler, est de retour. Cette fois, il cible le secteur de l’intelligence artificielle, et non les crypto-monnaies. De plus, les régulateurs financiers affirment que l’IA centralisée pourrait constituer une menace pour le système financier.
Le dernier avertissement de la « police crypto en direct » est survenu lors d’une discussion virtuelle au coin du feu organisée par Public Citizen le 17 janvier.
Menaces liées à l'intelligence artificielle
Il a déclaré qu’un marché centralisé de l’IA avec seulement quelques modèles pourrait conduire à un système financier fragile. Cela peut se produire si les acteurs financiers s’appuient trop sur eux pour obtenir des données financières.
Gensler a comparé l'essor de l'IA aux services cloud et aux fournisseurs de recherche. Aux États-Unis, il existe 3 acteurs majeurs dans ce domaine, à savoir Amazon, Microsoft et Google.
"Je pense qu'il est probablement inévitable que nous ayons de grands modèles de base mesurant avec les doigts d'une main et des agrégateurs de données séparés, voire deux ou trois."
Il a ajouté que cette situation créerait une « monoculture » dans laquelle des centaines, voire des milliers d’acteurs financiers pourraient s’appuyer sur des données centrales ou des modèles centraux d’intelligence artificielle.
Gensler a également déclaré que les régulateurs n’avaient aucune surveillance sur les modèles d’intelligence artificielle qui joueraient un rôle clé dans la finance. Les commentaires suggèrent que Gensler se tourne vers son agence pour réglementer l'intelligence artificielle, tout comme les crypto-monnaies.
Il a indiqué que les « nœuds centraux » sur lesquels l'ensemble du secteur financier pourrait s'appuyer ne sont actuellement pas réglementés.
"S'il y a un problème à ces nœuds et qu'une culture unique se développe dans une direction, alors la société et l'ensemble du secteur financier seront en danger."
Il a ajouté que les régulateurs américains doivent garantir « la diversité des modèles et la diversité des sources de données », sinon « vous vous retrouverez avec un système très fragile ».
Gary Genlser a dit des choses similaires à propos de l'industrie de la cryptographie, la qualifiant de « Far West » qui menace la finance traditionnelle. En septembre, il a mis en garde contre l’utilisation de l’intelligence artificielle par les conseillers financiers et, en août, il a déclaré que l’IA pourrait déstabiliser les marchés financiers grâce au deep learning.
Dernières actualités sur l'intelligence artificielle
Le domaine de l’intelligence artificielle est actuellement dominé par une poignée d’entreprises, dont OpenAI, Microsoft, Google et Anthropic.
Cette semaine, Google Deepmind a déclaré que son nouveau système d'intelligence artificielle avait réalisé une avancée majeure dans l'un des tests les plus difficiles de problèmes de géométrie avancés.
Jusqu’à présent, l’accent a été mis sur les grands modèles de langage, mais l’IA basée sur les mathématiques est en cours de développement. Cela pourrait mettre Gary Gensler et ses amis de TradFi en colère.
En outre, l’intelligence artificielle a été au centre du Forum économique mondial de Davos cette semaine. Le Forum économique mondial rend également compte des risques de l’intelligence artificielle et de son rôle dans la création de fausses informations et de désinformation. #人工智能 #GaryGensler