Utilizarea nestăpânită a inteligenței artificiale în sistemul financiar ar putea duce la rezultate îngrozitoare, a declarat autorul, filozoful și profesorul de istorie Yuval Noah Harari unei audiențe la Summit-ul de inovare al Băncii Reglementelor Internaționale (BRI). Sunt necesare instituții puternice pentru a menține AI sub control, a spus el.
Sistemul financiar creează încredere, a argumentat Harari. Banii, obligațiunile și alte dispozitive financiare permit milioane de străini să lucreze împreună pentru obiective comune. Dar nu s-a făcut niciun efort pentru ca reglementarea financiară să fie înțeleasă „pentru oameni”, a spus el:
„Poate 1% din populație înțelege cum funcționează sistemul financiar. Ce se întâmplă când acel număr scade la zero?”
Harari a citat criza financiară din 2007-2008 ca rezultat al inovării financiare de neînțeles. Autoritățile de reglementare nu au putut înțelege noile produse financiare suficient de bine pentru a le reglementa.
Înrudit: IA descentralizată este cheia pentru algoritmi AI mai imparțiali - co-fondator Masa
AI este o formă extraterestră de inteligență care este abia la începutul evoluției sale. Nu motivează modul în care fac oamenii și ar putea crea cu ușurință dispozitive financiare care depășesc imaginația umană, transferând puterea de la politicieni și autoritățile de reglementare la algoritmi. Relațiile de încredere s-ar construi mai degrabă între sistemele AI decât între oameni, iar într-o criză financiară, politicienii și autoritățile de reglementare ar fi forțați să aibă încredere în AI.
Yuval Noah Harari se adresează de la distanță unei audiențe la Summitul Inovației BIS. Sursa: YouTube
Acea întrerupere a relațiilor de încredere ar putea duce la instabilitate socială. Încrederea în politicieni și instituții este deja în scădere, a remarcat Harari, adăugând:
„Trebuie să împiedicăm AI să devină complet de neînțeles. […] Avem nevoie de capacitatea de a o înțelege și de a o reglementa.”
Reglementarea nu trebuie lăsată în seama geniilor sau „liderilor carismatici”, a continuat Harari. Numai instituțiile pot „ține oamenii la curent”.
Sursa: Yuval Noah Harari
Chiar și atunci, există pericole. Inovațiile care schimbă lumea au adesea succes numai după o serie de încercări eșuate de a le folosi. Harari a descris imperialismul, comunismul și nazismul ca încercări eșuate de a construi societăți industrializate - cu zeci de milioane de victime. Între timp, AI este capabilă să vină cu idei despre cum să se folosească.
Harari a spus că autoritățile de reglementare trebuie să se concentreze pe construirea mai multor încrederi între oameni pentru a se asigura că viitorul sistem financiar este stabil și prietenos cu oamenii.
Magazine: Ce dracu este Web3?