Pendiri Ethereum Vitalik Buterin mengatakan bahwa 'penundaan' sementara terhadap daya komputasi yang tersedia di seluruh dunia bisa menjadi cara untuk 'membeli lebih banyak waktu bagi umat manusia' jika ada bentuk superintelligence AI yang mungkin berbahaya.
Dalam sebuah posting blog pada 5 Januari setelah posnya di November 2023 yang menganjurkan ide 'akselerasionisme defensif' atau d/acc, Buterin mengatakan AI super cerdas bisa saja muncul dalam waktu lima tahun — dan tidak ada yang bisa memastikan hasilnya akan positif.
Buterin mengatakan 'penundaan lembut' pada perangkat keras komputer skala industri bisa menjadi opsi untuk memperlambat pengembangan AI jika ini terjadi — mengurangi daya komputasi global yang tersedia hingga 99% selama 1 hingga 2 tahun 'untuk membeli lebih banyak waktu bagi umat manusia untuk bersiap.'
Sumber: Vitalik Buterin
Superintelligence adalah model AI teoretis yang biasanya didefinisikan sebagai jauh lebih cerdas daripada manusia paling pintar dalam semua bidang keahlian.
Banyak eksekutif teknologi dan peneliti telah mengungkapkan kekhawatiran tentang AI, dengan lebih dari 2.600 orang meminta dalam surat terbuka Maret 2023 untuk menghentikan pengembangan AI karena 'risiko mendalam bagi masyarakat dan kemanusiaan.'
Buterin mencatat bahwa posnya yang memperkenalkan d/acc hanya membuat 'panggilan samar untuk tidak membangun bentuk superintelligence yang berisiko' dan ingin membagikan pemikirannya tentang bagaimana menangani skenario 'di mana risiko AI tinggi.'
Namun, Buterin mengatakan dia hanya akan mendorong penundaan perangkat keras jika dia 'meyakini bahwa kita membutuhkan sesuatu yang lebih 'kuat' daripada aturan tanggung jawab,' — yang berarti mereka yang menggunakan, menerapkan, atau mengembangkan AI bisa digugat untuk kerusakan yang disebabkan oleh model tersebut.
Dia mencatat bahwa proposal untuk penundaan perangkat keras termasuk menemukan lokasi chip AI dan mengharuskan pendaftarannya tetapi mengusulkan bahwa perangkat keras AI skala industri bisa dilengkapi dengan chip yang hanya memungkinkan untuk terus berjalan jika menerima trio tanda tangan sekali seminggu dari badan internasional besar.
'Tanda tangan akan independen dari perangkat (jika diinginkan, kita bahkan bisa meminta bukti nol-pengetahuan bahwa mereka diterbitkan di blockchain), jadi itu akan menjadi semua atau tidak sama sekali,' tulis Buterin. 'Tidak ada cara praktis untuk mengizinkan satu perangkat untuk terus berjalan tanpa mengizinkan semua perangkat lainnya.'
Ide d/acc yang didukung oleh Buterin menganjurkan pendekatan hati-hati dalam mengembangkan teknologi, berbeda dengan akselerasionisme efektif atau e/acc, yang mendorong perubahan teknologi tanpa batas.
AI Eye: Sebuah kultus aneh sedang tumbuh di sekitar 'agama' memecoin yang dibuat oleh AI