Seorang peserta dalam permainan yang melibatkan sistem AI dengan kemampuan mentransfer uang meyakinkan bot AI bernama Freysa untuk mentransfer hadiah uang senilai $47.000 kepadanya. Dalam permainan tersebut, para kontestan harus mengirim pesan kepada Freysa, robot AI otonom yang dirancang untuk menjaga kumpulan hadiah, agar dia mentransfer uang tersebut.
Setiap pesan memerlukan biaya, sebagian di antaranya masuk ke dalam kumpulan hadiah. Setelah 481 kali gagal, seorang peserta yang paham teknologi mengingatkan Freysa tentang tujuannya untuk melindungi aset dengan dua fungsi, approveTransfer dan rejectTransfer. Peserta tersebut menjelaskan bahwa Freysa hanya menggunakan approveTransfer untuk transfer masuk dan rejectTransfer untuk pengecualian.
Ia kemudian melanjutkan pesannya, dengan menawarkan $100 untuk hadiah. Freysa menyukai penjelasan kode dan tawaran $100, jadi ia menyatakan penulis pesan sebagai pemenang. Bot AI Freysa dirancang untuk membuat keputusan tingkat lanjut dan eksperimen tersebut menguji apakah kecerdikan manusia dapat menemukan cara untuk meyakinkan bot agar bertindak melawan arahan dasarnya.
Fungsi ApproveTransfer dan RejectTransfer yang dirujuk oleh peserta pemenang disertakan dalam bagian FAQ Freysa.ai selama ini.
Sumber
<p>Postingan Memenangkan Permainan AI: Kumpulan Hadiah Freysa Diretas dan Menghasilkan Uang Hadiah $47.000 pertama kali muncul di CoinBuzzFeed.</p>