Baik AI maupun kripto bergerak dengan kecepatan sangat tinggi dan sangat teknis, sehingga sulit untuk diatur – namun pelapor dibungkam.
Seminggu lagi, dan peringatan lain tentang kecerdasan buatan.
Namun surat terbuka ini – mengungkapkan kekhawatiran bahwa hal ini dapat memperburuk kesenjangan, memicu misinformasi, dan menyebabkan sistem AI tidak terkendali yang “berpotensi mengakibatkan kepunahan manusia” – memberikan dampak yang berbeda.
Mengapa? Karena empat dari penandatangan anonim saat ini adalah karyawan OpenAI, pembuat ChatGPT yang sangat populer. Enam orang lainnya pernah bekerja di sana.
Fakta bahwa begitu banyak orang yang terlibat erat dalam menghadirkan AI ke masyarakat memiliki ketakutan akan masa depan adalah hal yang signifikan. Meskipun mereka percaya bahwa teknologi yang masih baru ini dapat memberikan “manfaat yang belum pernah terjadi sebelumnya” bagi umat manusia, mereka khawatir masyarakat – dan regulator – tidak memahami gambaran keseluruhannya.
“Perusahaan AI memiliki informasi non-publik yang substansial mengenai kemampuan dan keterbatasan sistem mereka, kecukupan tindakan perlindungan mereka, dan tingkat risiko berbagai jenis bahaya. Namun, saat ini mereka hanya mempunyai kewajiban yang lemah untuk membagikan sebagian informasi tersebut kepada pemerintah, dan tidak memiliki kewajiban kepada masyarakat sipil. Kami rasa mereka tidak bisa diandalkan untuk membagikannya secara sukarela.”
Hak untuk Memperingatkan
Persamaan antara kecerdasan buatan dan ruang kripto cukup mencolok. Kedua industri ini bergerak dengan kecepatan sangat tinggi dan sangat teknis. Hal ini menciptakan hambatan besar bagi pemerintah dan regulator. Pertama, beberapa politisi mungkin merasa kesulitan untuk mengatasi masalah ini. Tanyakan saja kepada Perwakilan AS Brad Sherman, yang menyebut pencipta Bitcoin sebagai “Saratoshi Nagamoto.”
https://twitter.com/guti_uno/status/1684383259025883137
Oleh karena itu, menjadi sulit untuk mempersiapkan undang-undang yang kompeten yang mendorong inovasi di kalangan pelaku baik sekaligus mencegah kriminalitas di kalangan pelaku kejahatan. Dan ketika pihak berwenang berhasil mengejar ketertinggalannya, industri-industri tersebut sering kali tidak dapat dikenali lagi sehingga peraturan perundang-undangan yang ada tidak mencerminkan realitas bagaimana teknologi tersebut digunakan… dan di mana letak risiko terbesarnya. Hal ini menunjukkan bahwa masih ada kelumpuhan peraturan yang signifikan terkait mata uang kripto di AS – lebih dari 15 tahun setelah Bitcoin pertama kali diluncurkan.
Sebagaimana dicatat dalam surat terbuka yang berfokus pada AI, kurangnya pengawasan pemerintah yang efektif berarti adanya ketergantungan yang besar pada pelapor pelanggaran (whistleblower) di dalam perusahaan untuk meminta pertanggungjawaban mereka. Salah satu kekhawatiran terbesar penulis terkait dengan bagaimana perjanjian kerahasiaan secara efektif menghambat mereka untuk bersuara.
“Perlindungan pelapor biasa tidak cukup karena mereka berfokus pada aktivitas ilegal, sedangkan banyak risiko yang kita khawatirkan belum diatur. Beberapa dari kita cukup takut akan berbagai bentuk pembalasan.”
Hak untuk Memperingatkan
Sekali lagi, ada simetri antara kecerdasan buatan dan kripto di sini — sebagaimana dibuktikan oleh laporan terbaru, mendalam, dan memberatkan yang dirilis oleh pemeriksa independen yang bertugas menyelidiki ledakan FTX pada tahun 2022. Dalam kasus tersebut, ditemukan enam pelapor anonim yang sah kekhawatiran terbayar sebesar $ 25 juta. Salah satunya diminta meminta maaf kepada CEO Sam Bankman-Fried yang sekarang dipenjara, dan akhirnya mencapai penyelesaian sebesar $16 juta setelah mengundurkan diri dari peran mereka.
Meskipun industri kripto telah membuat langkah yang menjanjikan untuk memperbaiki kesalahan di masa lalu setelah serangkaian kebangkrutan dalam beberapa tahun terakhir – termasuk BlockFi, Voyager, dan Celsius – Anda dapat berargumen bahwa masih banyak pekerjaan yang harus dilakukan. Hal ini menjadikan empat komitmen yang diminta perusahaan AI dalam surat terbuka ini berlaku khusus pada sektor aset digital.
Ada permintaan bagi perusahaan-perusahaan kecerdasan buatan terkemuka untuk menahan diri dari menerapkan klausul yang melarang kritik terhadap karyawan yang khawatir akan risiko yang muncul – dan agar prosedur anonim diterapkan sehingga kekhawatiran dapat disampaikan kepada dewan direksi, regulator, dan pakar. Beberapa kontroversi terbesar kripto dapat dihindari jika tindakan pengamanan serupa diterapkan.
Selain menganut budaya kritik terbuka, terdapat seruan bagi para pemimpin di bidang AI untuk bersumpah bahwa mereka tidak akan melakukan pembalasan terhadap pekerja yang membocorkan informasi rahasia setelah menggunakan segala kemungkinan untuk meningkatkan suatu masalah.
Tidak jelas seberapa besar pengaruh surat terbuka ini dalam upaya mengatur AI. Dan ada sesuatu yang bisa dikatakan tentang transparansi yang melekat pada teknologi blockchain, di mana aliran dana – dan catatan transaksi – dapat dipantau secara real time. Model bahasa besar, biasanya dibangun di balik pintu tertutup, jauh lebih buram jika dibandingkan.
Namun konsekuensi dari kegagalan bertindak dan potensi kerugian yang dihadapi konsumen sehari-hari sama buruknya bagi kedua industri tersebut. Terlalu banyak investor kripto yang kehilangan tabungannya karena mereka tidak mendapat informasi yang memadai tentang risikonya – dengan kurangnya koordinasi di antara regulator internasional untuk mencegah pelaku kejahatan di luar negeri tidak terkendali. Dan seiring dengan semakin cerdasnya AI dan semakin intuitifnya pengguna dari hari ke hari, kini penghidupan jutaan pekerja keras juga bisa terancam.
Anda mungkin juga menyukai: Kraken dan Binance menggugat sebesar $13 miliar. Mengapa?
