O uso desenfreado da inteligência artificial no sistema financeiro pode levar a resultados terríveis, disse o autor, filósofo e professor de história Yuval Noah Harari numa audiência na Cimeira de Inovação do Banco de Compensações Internacionais (BIS). São necessárias instituições fortes para manter a IA sob controle, disse ele.
O sistema financeiro cria confiança, argumentou Harari. Dinheiro, títulos e outros dispositivos financeiros permitem que milhões de estranhos trabalhem juntos em prol de objetivos comuns. Mas nenhum esforço foi feito para tornar a regulamentação financeira compreensível “para os humanos”, disse ele:
“Talvez 1% da população entenda como funciona o sistema financeiro. O que acontece quando esse número cai para zero?”
Harari citou a crise financeira de 2007-2008 como resultado de uma inovação financeira incompreensível. Os reguladores não conseguiram compreender os novos produtos financeiros suficientemente bem para os regular.
Relacionado: IA descentralizada é a chave para algoritmos de IA mais imparciais – cofundador da Masa
A IA é uma forma alienígena de inteligência que está apenas no início de sua evolução. Não raciocina como os humanos e poderia facilmente criar dispositivos financeiros que estão além da imaginação humana, transferindo o poder dos políticos e reguladores para os algoritmos. As relações de confiança seriam construídas entre sistemas de IA e não entre pessoas, e numa crise financeira, os políticos e reguladores seriam forçados a confiar na IA.
Yuval Noah Harari discursando remotamente para um público no BIS Innovation Summit. Fonte: YouTube
Essa ruptura nas relações de confiança pode levar à instabilidade social. A confiança nos políticos e nas instituições já está a diminuir, observou Harari, acrescentando:
“Precisamos evitar que a IA se torne completamente insondável. […] Precisamos da capacidade de compreendê-lo e regulá-lo.”
A regulamentação não deve ser deixada a génios ou “líderes carismáticos”, continuou Harari. Somente as instituições podem “manter os humanos informados”.
Fonte: Yuval Noah Harari
Mesmo assim, existem perigos. As inovações que mudam o mundo muitas vezes só são bem-sucedidas após uma série de tentativas fracassadas de usá-las. Harari descreveu o imperialismo, o comunismo e o nazismo como tentativas fracassadas de construir sociedades industrializadas – com dezenas de milhões de vítimas. Enquanto isso, a IA é capaz de ter ideias sobre como usar a si mesma.
Harari disse que os reguladores precisam de se concentrar na construção de mais confiança entre as pessoas para garantir que o futuro sistema financeiro seja estável e amigo do ser humano.
Revista: Afinal, o que diabos é Web3?