哲学者ユヴァル・ノア・ハラリ氏、金融におけるAIのリスクを警告

作家、哲学者、歴史学教授のユヴァル・ノア・ハラリ氏は国際決済銀行（BIS）イノベーションサミットの聴衆に対し、金融システムにおける人工知能の無制限な使用は悲惨な結果を招く可能性があると語った。同氏は、AIを抑制するには強力な制度が必要だと語った。

金融システムは信頼を生み出す、とハラリ氏は主張した。お金、債券、その他の金融手段は、何百万人もの見知らぬ人々が共通の目標に向かって協力することを可能にする。しかし、金融規制を「人間にとって」理解しやすいものにするための努力はなされていない、と同氏は述べた。

「おそらく人口の1％が金融システムの仕組みを理解しているでしょう。その数がゼロになったらどうなるでしょうか？」

ハラリ氏は、2007年から2008年にかけての金融危機は理解不能な金融イノベーションの結果であると述べた。規制当局は新しい金融商品を規制できるほど十分に理解できなかった。

関連: 分散型 AI はより偏りのない AI アルゴリズムの鍵となる — マサ共同創設者

AI は、まだ進化の始まりに過ぎない異質な知能です。人間のように推論することはなく、人間の想像を超えた金融機器を簡単に作成し、権力を政治家や規制当局からアルゴリズムに移す可能性があります。信頼関係は、人間同士ではなく AI システム間で構築され、金融危機時には政治家や規制当局は AI を信頼せざるを得なくなります。

ユヴァル・ノア・ハラリ氏が BIS イノベーション サミットで遠隔的に聴衆に演説している。出典: YouTube

信頼関係の崩壊は社会の不安定化につながる可能性がある。政治家や機関への信頼はすでに低下しているとハラリ氏は指摘し、次のように付け加えた。

「AIが完全に理解不能になることを防ぐ必要があります。 […] AIを理解し、規制する能力が必要です。」

規制は天才や「カリスマ的なリーダー」に任せるべきではないとハラリ氏は続けた。「人間を常に把握しておけるのは制度だけだ」

出典: ユヴァル・ノア・ハラリ

それでも、危険はあります。世界を変えるようなイノベーションは、その使用を何度も試みて失敗した後に初めて成功することが多いのです。ハラリ氏は、帝国主義、共産主義、ナチズムを、何千万人もの犠牲者を出した工業化社会を築こうとした失敗した試みだと表現しました。一方、AIは、自らをどのように使用するかについてのアイデアを思いつくことができます。

ハラリ氏は、将来の金融システムが安定し、人間に優しいものとなるよう、規制当局は人々の間にさらなる信頼を築くことに注力する必要があると述べた。

雑誌：Web3って一体何ですか？