Kecerdasan buatan (AI) merevolusi berbagai sektor dengan meningkatkan kemampuan pemrosesan data dan pengambilan keputusan di luar batas kemampuan manusia. Namun, seiring dengan semakin canggihnya sistem AI, sistem tersebut menjadi semakin tidak jelas, sehingga menimbulkan kekhawatiran mengenai transparansi, kepercayaan, dan keadilan. 

Sifat “kotak hitam” yang umum terjadi di sebagian besar sistem AI sering kali membuat para pemangku kepentingan mempertanyakan asal usul dan keandalan keluaran yang dihasilkan AI. Sebagai tanggapannya, teknologi seperti AI yang Dapat Dijelaskan (XAI) muncul dengan tujuan untuk mengungkap misteri operasi AI, meskipun teknologi tersebut sering kali gagal untuk sepenuhnya menjelaskan kompleksitasnya.

Seiring dengan terus berkembangnya seluk-beluk AI, kebutuhan akan mekanisme yang kuat juga diperlukan untuk memastikan sistem ini tidak hanya efektif namun juga dapat dipercaya dan adil. Masuki teknologi blockchain, yang dikenal karena peran pentingnya dalam meningkatkan keamanan dan transparansi melalui pencatatan yang terdesentralisasi.

Blockchain memiliki potensi tidak hanya untuk mengamankan transaksi keuangan tetapi juga untuk memberikan lapisan kemampuan verifikasi pada operasi AI yang sebelumnya sulit dicapai. Hal ini mempunyai potensi untuk mengatasi beberapa tantangan AI yang paling persisten, seperti integritas data dan ketertelusuran keputusan, sehingga menjadikannya komponen penting dalam upaya menciptakan sistem AI yang transparan dan andal.

Chris Feng, COO Chainbase, menawarkan wawasannya tentang masalah ini dalam sebuah wawancara dengan crypto.news. Menurut Feng, meskipun integrasi blockchain mungkin tidak secara langsung menyelesaikan setiap aspek transparansi AI, hal ini meningkatkan beberapa area penting.

Bisakah teknologi blockchain meningkatkan transparansi dalam sistem AI?

Teknologi Blockchain tidak memecahkan masalah inti dari kemampuan menjelaskan dalam model AI. Penting untuk membedakan antara interpretabilitas dan transparansi. Alasan utama kurangnya penjelasan dalam model AI terletak pada sifat kotak hitam jaringan saraf dalam. Meskipun kami memahami proses inferensi, kami tidak memahami signifikansi logis dari setiap parameter yang terlibat.

Jadi, bagaimana teknologi blockchain meningkatkan transparansi dengan cara yang berbeda dari peningkatan interpretabilitas yang ditawarkan oleh teknologi seperti IBM’s Prepared AI (XAI)?

Dalam konteks AI yang dapat dijelaskan (XAI), berbagai metode, seperti statistik ketidakpastian atau menganalisis keluaran dan gradien model, digunakan untuk memahami fungsinya. Namun, pengintegrasian teknologi blockchain tidak mengubah penalaran internal dan metode pelatihan model AI sehingga tidak meningkatkan kemampuan interpretasinya. Namun demikian, blockchain dapat meningkatkan transparansi data pelatihan, prosedur, dan inferensi sebab akibat. Misalnya, teknologi blockchain memungkinkan pelacakan data yang digunakan untuk pelatihan model dan menggabungkan masukan komunitas ke dalam proses pengambilan keputusan. Semua data dan prosedur ini dapat dicatat dengan aman di blockchain, sehingga meningkatkan transparansi proses konstruksi dan inferensi model AI.

Mengingat masalah bias dalam algoritma AI, seberapa efektifkah blockchain dalam memastikan asal dan integritas data di seluruh siklus hidup AI?

Metodologi blockchain saat ini telah menunjukkan potensi signifikan dalam menyimpan dan menyediakan data pelatihan untuk model AI dengan aman. Memanfaatkan node terdistribusi meningkatkan kerahasiaan dan keamanan. Misalnya, Bittensor menggunakan pendekatan pelatihan terdistribusi yang mendistribusikan data ke beberapa node dan menerapkan algoritme untuk mencegah penipuan antar node, sehingga meningkatkan ketahanan pelatihan model AI terdistribusi. Selain itu, menjaga data pengguna selama inferensi adalah hal yang terpenting. Ritual, misalnya, mengenkripsi data sebelum mendistribusikannya ke node off-chain untuk perhitungan inferensi.

Anda mungkin juga menyukai: Kecerdasan buatan dapat menambah dimensi baru pada kejahatan kripto, kata Elliptic

Apakah ada batasan pada pendekatan ini?

Keterbatasan penting adalah pengawasan terhadap bias model yang berasal dari data pelatihan. Secara khusus, identifikasi bias dalam prediksi model terkait gender atau ras yang dihasilkan dari data pelatihan sering kali diabaikan. Saat ini, baik teknologi blockchain maupun metode debiasing model AI tidak secara efektif menargetkan dan menghilangkan bias melalui teknik penjelasan atau debiasing.

Apakah menurut Anda blockchain dapat meningkatkan transparansi fase validasi dan pengujian model AI?

Perusahaan seperti Bittensor, Ritual, dan Santiment memanfaatkan teknologi blockchain untuk menghubungkan kontrak pintar on-chain dengan kemampuan komputasi off-chain. Integrasi ini memungkinkan inferensi on-chain, memastikan transparansi di seluruh data, model, dan daya komputasi, sehingga meningkatkan transparansi secara keseluruhan di seluruh proses.

Menurut Anda, mekanisme konsensus apa yang paling cocok untuk jaringan blockchain untuk memvalidasi keputusan AI?

Saya pribadi menganjurkan untuk mengintegrasikan mekanisme Proof of Stake (PoS) dan Proof of Authority (PoA). Tidak seperti komputasi terdistribusi konvensional, pelatihan AI dan proses inferensi memerlukan sumber daya GPU yang konsisten dan stabil dalam jangka waktu lama. Oleh karena itu, sangat penting untuk memvalidasi efektivitas dan keandalan node ini. Saat ini, sumber daya komputasi yang andal terutama ditempatkan di pusat data dengan berbagai skala, karena GPU tingkat konsumen mungkin tidak cukup mendukung layanan AI di blockchain.

Ke depan, pendekatan atau kemajuan kreatif apa dalam teknologi blockchain yang menurut Anda penting dalam mengatasi tantangan transparansi AI saat ini, dan bagaimana hal ini dapat membentuk kembali lanskap kepercayaan dan akuntabilitas AI?

Saya melihat beberapa tantangan dalam aplikasi AI berbasis blockchain saat ini, seperti mengatasi hubungan antara debiasing model dan data serta memanfaatkan teknologi blockchain untuk mendeteksi dan memitigasi serangan kotak hitam. Saya secara aktif mencari cara untuk memberi insentif kepada komunitas agar melakukan eksperimen pada interpretasi model dan meningkatkan transparansi model AI. Selain itu, saya sedang memikirkan bagaimana blockchain dapat memfasilitasi transformasi AI menjadi barang publik yang sesungguhnya. Barang publik ditentukan oleh transparansi, manfaat sosial, dan melayani kepentingan publik. Namun, teknologi AI saat ini sering kali berada di antara proyek eksperimental dan produk komersial. Dengan menggunakan jaringan blockchain yang memberikan insentif dan mendistribusikan nilai, kami dapat mengkatalisasi demokratisasi, aksesibilitas, dan desentralisasi AI. Pendekatan ini berpotensi mencapai transparansi yang dapat dilaksanakan dan menumbuhkan kepercayaan yang lebih besar dalam sistem AI.

Baca selengkapnya: Binance memanfaatkan kecerdasan buatan (AI) untuk meningkatkan pendidikan web3