El uso desenfrenado de la inteligencia artificial en el sistema financiero podría conducir a resultados nefastos, dijo el autor, filósofo y profesor de historia Yuval Noah Harari ante una audiencia en la Cumbre de Innovación del Banco de Pagos Internacionales (BPI). Se necesitan instituciones fuertes para mantener la IA bajo control, afirmó.
El sistema financiero genera confianza, argumentó Harari. El dinero, los bonos y otros dispositivos financieros permiten a millones de desconocidos trabajar juntos para alcanzar objetivos comunes. Pero no se ha hecho ningún esfuerzo para que la regulación financiera sea comprensible “para los humanos”, afirmó:
“Quizás el 1% de la población entiende cómo funciona el sistema financiero. ¿Qué sucede cuando ese número baja a cero?
Harari citó la crisis financiera de 2007-2008 como resultado de una innovación financiera incomprensible. Los reguladores no pudieron comprender lo suficientemente bien los nuevos productos financieros como para regularlos.
Relacionado: La IA descentralizada es clave para lograr algoritmos de IA más imparciales: cofundador de Masa
La IA es una forma alienígena de inteligencia que se encuentra sólo en el comienzo de su evolución. No razona como lo hacen los humanos y podría crear fácilmente dispositivos financieros que están más allá de la imaginación humana, desviando el poder de los políticos y reguladores a los algoritmos. Se construirían relaciones de confianza entre sistemas de IA y no entre personas, y en una crisis financiera, los políticos y reguladores se verían obligados a confiar en la IA.
Yuval Noah Harari dirigiéndose de forma remota a una audiencia en la Cumbre de Innovación del BIS. Fuente: Youtube
Esa interrupción de las relaciones de confianza podría conducir a la inestabilidad social. La confianza en los políticos y las instituciones ya está disminuyendo, señaló Harari, y añadió:
“Necesitamos evitar que la IA se vuelva completamente insondable. […] Necesitamos la capacidad de comprenderlo y regularlo”.
La regulación no debe dejarse en manos de genios o “líderes carismáticos”, continuó Harari. Sólo las instituciones pueden “mantener a los humanos informados”.
Fuente: Yuval Noah Harari
Incluso entonces, existen peligros. Las innovaciones que cambian el mundo a menudo tienen éxito sólo después de una serie de intentos fallidos de utilizarlas. Harari describió el imperialismo, el comunismo y el nazismo como intentos fallidos de construir sociedades industrializadas, con decenas de millones de víctimas. Mientras tanto, la IA es capaz de generar ideas sobre cómo utilizarla.
Harari dijo que los reguladores deben concentrarse en generar más confianza entre las personas para garantizar que el futuro sistema financiero sea estable y amigable para los humanos.
Revista: ¿Qué diablos es Web3 de todos modos?
