Penggunaan kecerdasan buatan yang tidak terkendali dalam sistem keuangan dapat menimbulkan akibat yang mengerikan, kata penulis, filsuf, dan profesor sejarah Yuval Noah Harari di hadapan hadirin di KTT Inovasi Bank for International Settlements (BIS). Dibutuhkan institusi yang kuat untuk mengendalikan AI, katanya.
Sistem keuangan menciptakan kepercayaan, kata Harari. Uang, obligasi, dan perangkat keuangan lainnya memungkinkan jutaan orang asing bekerja sama mencapai tujuan bersama. Namun belum ada upaya yang dilakukan untuk membuat peraturan keuangan dapat dipahami “oleh manusia,” katanya:
“Mungkin 1% penduduk memahami cara kerja sistem keuangan. Apa yang terjadi jika angkanya turun menjadi nol?”
Harari menyebut krisis keuangan tahun 2007-2008 sebagai akibat dari inovasi keuangan yang tidak dapat dipahami. Regulator tidak mampu memahami produk keuangan baru dengan cukup baik untuk mengaturnya.
Terkait: AI Terdesentralisasi adalah kunci untuk algoritma AI yang lebih tidak memihak — salah satu pendiri Masa
AI adalah bentuk kecerdasan alien yang baru berada pada awal evolusinya. Hal ini tidak beralasan seperti yang dilakukan manusia dan dapat dengan mudah menciptakan perangkat keuangan yang berada di luar imajinasi manusia, sehingga mengalihkan kekuasaan dari politisi dan regulator ke algoritma. Hubungan saling percaya akan dibangun antar sistem AI, bukan antar manusia, dan dalam krisis keuangan, politisi dan regulator akan terpaksa mempercayai AI.
Yuval Noah Harari berpidato di hadapan audiensi di BIS Innovation Summit dari jarak jauh. Sumber: YouTube
Gangguan hubungan kepercayaan dapat menyebabkan ketidakstabilan sosial. Kepercayaan terhadap politisi dan institusi sudah menurun, kata Harari, sambil menambahkan:
“Kita perlu mencegah AI menjadi hal yang tidak terduga. […] Kita memerlukan kemampuan untuk memahami dan mengaturnya.”
Peraturan tidak boleh diserahkan kepada orang-orang jenius atau “pemimpin karismatik,” lanjut Harari. Hanya institusi yang dapat “membuat manusia selalu mengetahui perkembangannya.”
Sumber: Yuval Noah Harari
Meski begitu, tetap ada bahayanya. Inovasi-inovasi yang mengubah dunia sering kali hanya berhasil setelah serangkaian upaya yang gagal dalam memanfaatkannya. Harari menggambarkan imperialisme, komunisme, dan Nazisme sebagai upaya yang gagal untuk membangun masyarakat industri – dengan puluhan juta korban. Sementara itu, AI mampu memunculkan ide-ide tentang cara menggunakan dirinya sendiri.
Harari mengatakan regulator perlu berkonsentrasi untuk membangun lebih banyak kepercayaan di antara masyarakat untuk memastikan sistem keuangan di masa depan stabil dan ramah manusia.
Majalah: Apa sih Web3 itu?
