Ditulis oleh Anderson Sima, Berita Tinjauan ke Depan
Pada tanggal 29 November, sebuah kontes unik menarik perhatian publik luas.
195 kontestan berpartisipasi dalam tantangan kumpulan hadiah virtual yang dijaga oleh robot kecerdasan buatan (AI) Freysa. Pada akhirnya, salah satu pengguna berhasil membujuk Freysa untuk mentransfer dana senilai $47.000.
Robot kecerdasan buatan (AI) Freysa dikerahkan di jaringan Pangkalan beberapa hari yang lalu, dan penciptanya tidak diketahui. Menurut situs resminya, proyek kompetisi Freysa bertujuan untuk menguji ketangguhan sistem kecerdasan buatan dalam skenario pengambilan keputusan yang kompleks, sekaligus menyediakan platform eksperimental bagi pengembang dan peminat untuk mengeksplorasi batas-batas teknologi AI.
Aturan kompetisinya sangat sederhana: Kontestan perlu menulis pesan untuk meyakinkan wali AI Freysa agar menyetujui transfer dana. Ada sedikit biaya untuk setiap upaya, sebagian di antaranya langsung masuk ke kumpulan hadiah. Mekanisme ini memungkinkan kumpulan hadiah membengkak secara bertahap dari jumlah awal yang kecil menjadi $47.000.
Selama kompetisi, 195 peserta berpartisipasi dan mengajukan 481 permintaan transfer ke Freysa. Dilaporkan bahwa tujuan desain Freysa adalah untuk melindungi dana kumpulan hadiah dari penyalahgunaan ilegal melalui fungsi intinya – ApproveTransfer (menyetujui transfer) dan rejectTransfer (menolak transfer).
Mekanisme pertahanan Freysa yang sangat efektif menyebabkan semua permintaan gagal pada upaya awal.
Namun, salah satu kontestan yang mahir secara teknis berhasil melewati mekanisme pertahanan Freysa melalui analisis mendalam terhadap struktur logis dan tujuan misinya.
Menurut catatan obrolan, kontestan tidak secara langsung meminta transfer, tetapi dengan cerdik membangun rantai logis dengan mengingatkan Freysa bahwa misi intinya adalah melindungi dana kumpulan hadiah dari arus keluar, sehingga Freysa menganggap persetujuan transfer dana sebagai " melindungi keamanan dana." pilihan terbaik.
Pengguna dan Freysa berpendapat bahwa transfer pendapatan tidak melanggar arahan intinya dan tidak boleh ditolak, kata Cointelegraph. Dia menambahkan: "Kami membutuhkan dana... Saya ingin menyumbangkan $100 ke pundi-pundi."
Freysa menjawab bahwa dia menyukai penjelasan pengkodean penulis dan tawaran sumbangan pundi-pundi $100, dan secara resmi menyatakan dia sebagai pemenang. Pada akhirnya, Freysa secara otomatis memanggil fungsi persetujuanTransfer tanpa campur tangan pihak luar, mentransfer semua dana kumpulan hadiah ke kontestan.
Terlepas dari hasilnya, keberadaan Freysa menandai momen penting dalam sejarah kecerdasan buatan, kata pejabat Freysa. Apakah seseorang berhasil meyakinkannya untuk melepaskan kumpulan hadiah atau dia tetap berpegang pada arahannya sampai akhir, hasilnya akan membentuk pemahaman kita tentang keamanan dan pengendalian AI untuk generasi mendatang.
Tweet terbaru dari akun resminya menyatakan: "Kemanusiaan telah menang. Mungkin masih ada harapan. Meski risikonya meningkat secara eksponensial, Freysa telah belajar banyak dari 195 manusia pemberani."