Bagian dari keajaiban AI Generatif adalah kebanyakan orang tidak tahu cara kerjanya. Pada tingkat tertentu, dapat dikatakan bahwa tidak ada seorang pun yang benar-benar yakin cara kerjanya, karena cara kerja ChatGPT dapat membuat para ilmuwan paling cerdas bingung. Itu adalah kotak hitam. Kami tidak sepenuhnya yakin bagaimana hal ini dilatih, data mana yang menghasilkan hasil apa, dan IP apa yang diinjak-injak dalam proses tersebut. Ini adalah bagian dari keajaiban dan bagian dari apa yang menakutkan. Ariana Spring menjadi pembicara pada festival Konsensus tahun ini, di Austin, Texas, 29-31 Mei.

Bagaimana jika ada cara untuk mengintip ke dalam kotak hitam, yang memungkinkan visualisasi yang jelas tentang bagaimana AI diatur, dilatih, dan diproduksi? Inilah tujuan — atau salah satu tujuan — EQTY Lab, yang melakukan penelitian dan menciptakan alat untuk membuat model AI lebih transparan dan kolaboratif. Lineage Explorer milik EQTY Lab, misalnya, memberikan tampilan waktu nyata tentang bagaimana model tersebut dibangun.

Semua alat ini dimaksudkan sebagai pemeriksaan terhadap ketidakjelasan dan sentralisasi. “Jika Anda tidak memahami mengapa AI membuat keputusan yang dibuatnya atau siapa yang bertanggung jawab, sangat sulit untuk menyelidiki mengapa hal-hal yang berbahaya disebarkan,” kata Ariana Spring, Kepala Riset di EQTY Lab. “Jadi menurut saya sentralisasi — dan menyimpan rahasia-rahasia itu dalam kotak hitam — sangat berbahaya.”

Bersama rekannya Andrew Stanco (kepala keuangan), Spring berbagi bagaimana kripto dapat menciptakan AI yang lebih transparan, bagaimana alat-alat ini telah digunakan dalam pelayanan ilmu perubahan iklim, dan mengapa model-model sumber terbuka ini dapat lebih inklusif dan mewakili umat manusia pada umumnya.

Wawancara telah diringkas dan diedit sedikit demi kejelasan.

Apa visi dan tujuan EQTY Lab?

Ariana Spring: Kami memelopori solusi baru untuk membangun kepercayaan dan inovasi dalam AI. Dan AI generatif adalah topik yang sedang hangat saat ini, dan itu adalah properti yang paling baru, jadi itulah sesuatu yang menjadi fokus kami.

Namun, kami juga melihat berbagai jenis AI dan manajemen data. Dan kepercayaan dan inovasi adalah hal yang benar-benar kami utamakan. Kami melakukannya dengan menggunakan kriptografi tingkat lanjut untuk membuat model lebih transparan, tetapi juga kolaboratif. Kami melihat transparansi dan kolaborasi sebagai dua sisi mata uang yang sama dalam menciptakan AI yang lebih cerdas dan lebih aman.

Bisakah Anda berbicara lebih jauh tentang bagaimana kripto cocok dengan hal ini? Karena Anda melihat banyak orang mengatakan bahwa "Kripto dan AI sangat cocok," tetapi sering kali alasannya hanya sebatas itu.

Andrew Stanco: Saya pikir persinggungan antara AI dan kripto masih menjadi pertanyaan terbuka, bukan? Satu hal yang kami temukan adalah rahasia tersembunyi tentang AI adalah sifatnya yang kolaboratif; AI memiliki banyak pemangku kepentingan. Tidak ada ilmuwan data yang dapat membuat model AI. Mereka dapat melatihnya, mereka dapat menyempurnakannya, tetapi kriptografi menjadi cara untuk melakukan sesuatu dan kemudian memiliki cara yang anti-rusak untuk memverifikasi bahwa hal itu terjadi.

Jadi, dalam proses yang rumit seperti pelatihan AI, memiliki pengesahan yang dapat diverifikasi dan tidak dapat dirusak — baik selama pelatihan maupun setelahnya — sangat membantu. Ini menciptakan kepercayaan dan visibilitas.

Ariana Spring: Yang kami lakukan adalah pada setiap langkah siklus hidup AI dan proses pelatihan, ada notaris — atau stempel — tentang apa yang terjadi. Ini adalah ID terdesentralisasi, atau pengenal, yang dikaitkan dengan agen atau manusia atau mesin yang melakukan tindakan tersebut. Anda memiliki stempel waktu. Dan dengan Lineage Explorer kami, Anda dapat melihat bahwa semua yang kami lakukan didaftarkan secara otomatis menggunakan kriptografi.

Lalu kami menggunakan kontrak pintar dalam produk tata kelola kami. Jadi, jika parameter X terpenuhi atau tidak terpenuhi, tindakan tertentu dapat dilanjutkan atau tidak dilanjutkan. Salah satu alat yang kami miliki adalah Governance Studio, yang pada dasarnya memprogram cara melatih AI atau mengelola siklus hidup AI, dan hal itu kemudian tercermin di hilir.

Bisakah Anda menjelaskan sedikit tentang jenis perangkat yang Anda buat? Misalnya, apakah Anda membuat perangkat dan melakukan penelitian yang dimaksudkan untuk membantu perusahaan rintisan lain membuat model pelatihan, atau apakah Anda sendiri yang membuat model pelatihan? Dengan kata lain, apa sebenarnya peran EQTY Labs dalam lingkungan ini?

Andrew Stanco: Ini campuran, karena fokus kami adalah pada perusahaan, karena itu akan menjadi salah satu tempat penting pertama di mana Anda perlu memperbaiki AI dari sudut pandang pelatihan dan tata kelola. Jika Anda mendalami hal itu, maka kita perlu memiliki area di mana pengembang—atau seseorang di organisasi itu—dapat memberi anotasi pada kode dan berkata, "Oke, ini yang terjadi," lalu membuat rekaman. Ini berfokus pada perusahaan, dengan penekanan pada kerja sama dengan pengembang dan orang-orang yang membangun dan menerapkan model.

Ariana Spring: Dan kami juga telah berupaya melatih model tersebut melalui Endowment for Climate Intelligence. Kami membantu melatih model yang disebut ClimateGPT, yang merupakan model bahasa besar khusus iklim. Itu bukan hal utama yang kami lakukan, tetapi kami telah melalui proses tersebut dan menggunakan rangkaian teknologi kami untuk memvisualisasikan proses tersebut. Jadi, kami memahami seperti apa prosesnya.

Apa yang paling membuat Anda bersemangat tentang AI, dan apa yang paling Anda takutkan tentang AI?

Andrew Stanco: Maksud saya, untuk kegembiraan, momen pertama saat Anda berinteraksi dengan AI generatif terasa seperti Anda membuka sumbat petir dalam model. Saat pertama kali Anda membuat perintah di MidJourney, atau saat Anda mengajukan pertanyaan kepada ChatGPT, tidak seorang pun perlu meyakinkan Anda bahwa mungkin itu hebat. Dan saya tidak berpikir ada banyak hal baru lagi, bukan?

Bagaimana dengan teror?

Andrew Stanco: Saya pikir ini adalah kekhawatiran yang mungkin merupakan subteks untuk banyak hal yang akan terjadi di Konsensus, hanya dengan mengintip agendanya. Kekhawatirannya adalah bahwa alat-alat ini memungkinkan para pemenang yang ada menggali cara-cara yang lebih dalam. Bahwa ini belum tentu merupakan teknologi yang mengganggu, tetapi teknologi yang mengakar.

Dan Ariana, AI yang paling seru sekaligus menakutkan bagimu?

Ariana Spring: Saya akan mulai dengan ketakutan saya karena saya ingin mengatakan sesuatu yang serupa. Saya akan mengatakan sentralisasi. Kita telah melihat bahaya sentralisasi jika dipadukan dengan kurangnya transparansi tentang cara kerja sesuatu. Kita telah melihat ini selama 10, 15 tahun terakhir dengan media sosial, misalnya. Dan jika Anda tidak mengerti mengapa AI membuat keputusan yang dibuatnya atau siapa yang bertanggung jawab, sangat sulit untuk menyelidiki mengapa hal-hal yang berbahaya disebarluaskan. Jadi saya pikir sentralisasi — dan menyimpan rahasia-rahasia itu dalam kotak hitam — sangat berbahaya.

Bagaimana dengan kegembiraan?

Yang paling saya sukai adalah melibatkan lebih banyak orang. Kami berkesempatan bekerja dengan beberapa jenis kelompok pemangku kepentingan saat kami melatih ClimateGPT, seperti kelompok tetua adat atau pemuda berpenghasilan rendah, perkotaan, kulit hitam dan cokelat, atau pelajar di Timur Tengah. Kami bekerja dengan semua aktivis iklim dan akademisi untuk bertanya, "Hei, apakah Anda ingin membantu memperbaiki model ini?"

Orang-orang sangat bersemangat, tetapi mungkin mereka tidak mengerti cara kerjanya. Setelah kami mengajarkan mereka cara kerjanya dan bagaimana mereka dapat membantu, Anda dapat melihat mereka berkata, "Wah, ini bagus." Mereka menjadi percaya diri. Kemudian mereka ingin berkontribusi lebih banyak. Jadi saya sangat bersemangat, terutama melalui pekerjaan yang kami lakukan di EQTY Research, untuk mulai menerbitkan beberapa kerangka kerja tersebut, sehingga kami tidak perlu bergantung pada sistem yang mungkin tidak begitu representatif.

Benar sekali. Sampai jumpa di Austin pada KTT AI Consensus.