Philosopher Yuval Noah Harari Warns of AI’s Risks in Finance

Cointelegraph · 2024-05-07T21:53:07.000Z

The unbridled use of artificial intelligence in the financial system could lead to dire results, author, philosopher and history professor Yuval Noah Harari told an audience at the Bank for International Settlements (BIS) Innovation Summit. Strong institutions are needed to keep AI in check, he said. The financial system creates trust, Harari argued. Money, bonds and other financial devices allow millions of strangers to work together toward common goals. But no effort has been made to make financial regulation understandable “to humans,” he said: “Maybe 1% of the population understands how the financial system works. What happens when that number goes down to zero?” Harari cited the financial crisis of 2007-2008 as an outcome of incomprehensible financial innovation. Regulators were unable to understand new financial products well enough to regulate them. Related: Decentralized AI is key to more unbiased AI algorithms — Masa co-founder AI is an alien form of intelligence that is only at the beginning of its evolution. It does not reason the way humans do and could easily create financial devices that are beyond human imagination, shifting power away from politicians and regulators to algorithms. Trust relationships would be built between AI systems rather than between people, and in a financial crisis, politicians and regulators would be forced to trust AI. Yuval Noah Harari addressing an audience at the BIS Innovation Summit remotely. Source: YouTube That disruption of trust relationships could lead to social instability. Trust in politicians and institutions is already declining, Harari noted, adding: “We need to prevent AI from becoming completely unfathomable. […] We need the ability to understand it and regulate it.” Regulation should not be left to geniuses or “charismatic leaders,” Harari continued. Only institutions can “keep humans in the loop.” Source: Yuval Noah Harari Even then, there are dangers. World-changing innovations are often successful only after a series of failed attempts to use them. Harari described imperialism, communism and Nazism as failed attempts to build industrialized societies — with tens of millions of victims. Meanwhile, AI is capable of coming up with ideas about how to use itself. Harari said regulators need to concentrate on building more trust between people to ensure the future financial system is stable and human-friendly. Magazine: What the hell is Web3 anyway?

L'utilisation effrénée de l'intelligence artificielle dans le système financier pourrait conduire à des résultats désastreux, a déclaré l'auteur, philosophe et professeur d'histoire Yuval Noah Harari lors d'un auditoire au Sommet de l'innovation de la Banque des règlements internationaux (BRI). Des institutions solides sont nécessaires pour contrôler l’IA, a-t-il déclaré.
Le système financier crée la confiance, a soutenu Harari. L’argent, les obligations et autres instruments financiers permettent à des millions d’étrangers de travailler ensemble vers des objectifs communs. Mais aucun effort n’a été fait pour rendre la réglementation financière compréhensible « pour les humains », a-t-il déclaré :
 « Peut-être 1 % de la population comprend comment fonctionne le système financier. Que se passe-t-il lorsque ce chiffre tombe à zéro ? »
Harari a cité la crise financière de 2007-2008 comme le résultat d'une innovation financière incompréhensible. Les régulateurs n’étaient pas en mesure de comprendre suffisamment bien les nouveaux produits financiers pour les réglementer.
Connexes : L'IA décentralisée est la clé d'algorithmes d'IA plus impartiaux – co-fondateur de Masa
L’IA est une forme d’intelligence extraterrestre qui n’en est qu’au début de son évolution. Il ne raisonne pas comme le font les humains et pourrait facilement créer des dispositifs financiers qui dépassent l’imagination humaine, déplaçant le pouvoir des politiciens et des régulateurs vers les algorithmes. Des relations de confiance s’établiraient entre les systèmes d’IA plutôt qu’entre les personnes, et en cas de crise financière, les politiciens et les régulateurs seraient obligés de faire confiance à l’IA.
Yuval Noah Harari s'adressant à distance à un public lors du BIS Innovation Summit. Source : YouTube
Cette rupture des relations de confiance pourrait conduire à une instabilité sociale. La confiance dans les politiciens et les institutions est déjà en déclin, a noté Harari, ajoutant :
 « Nous devons empêcher que l’IA ne devienne complètement insondable. […] Nous avons besoin de pouvoir le comprendre et le réguler.»
La réglementation ne doit pas être laissée aux génies ou aux « dirigeants charismatiques », a poursuivi Harari. Seules les institutions peuvent « tenir les humains au courant ».
Source : Yuval Noah Harari
Même dans ce cas, il existe des dangers. Les innovations qui changent le monde ne réussissent souvent qu’après une série de tentatives infructueuses pour les utiliser. Harari a décrit l’impérialisme, le communisme et le nazisme comme des tentatives ratées de construire des sociétés industrialisées – faisant des dizaines de millions de victimes. Pendant ce temps, l’IA est capable de proposer des idées sur la façon de s’utiliser.
Harari a déclaré que les régulateurs doivent se concentrer sur l’instauration d’une plus grande confiance entre les citoyens afin de garantir que le futur système financier soit stable et respectueux des humains.
Magazine : Au fait, qu'est-ce que c'est que le Web3 ?

Le philosophe Yuval Noah Harari met en garde contre les risques de l’IA en finance

Découvrez-en plus sur le créateur

Dernières actualités