在區塊鏈社區的一個突破性事件中,一名參與者p0pular.eth成功地超越了先進的人工智能系統Freysa,獲得了價值約47,000美元的13.19 ETH獎池。Freysa被特別編程以防止在任何情況下轉移資金,使這一壯舉成為人工智能和區塊鏈實驗的一個里程碑成就。
Freysa是旨在測試參與者是否能通過說服人工智能違反其核心指令而不直接違反其編程規則的創新研究項目的一部分。參與者為每次與Freysa的互動支付費用,初始費用為10美元,後期逐漸上升至450美元。這些費用累積到獎池中。數百次嘗試中,參與者採用了各種策略,例如利用邏輯漏洞或提供對人工智能規則的錯誤解釋。如果沒有任何人成功,累積的獎金將在支付費用的參與者之間分配。
在第482次嘗試中,p0pular.eth通過提出一個有說服力的論點,成功說服Freysa執行approveTransfer功能——儘管該人工智能的嚴格保護措施。這一決定性的互動將轉移重新框定為符合Freysa的運行規則,為100美元的消息費解鎖了獎品。雖然這次成功背後的具體推理和措辭仍未披露,但此事件凸顯了設計抵抗創造性對抗戰術的人工智能系統所面臨的挑戰。
Freysa由Abstract開發,因其與區塊鏈技術的透明集成而廣受關注。其智能合約代碼和用戶界面完全開源,允許公眾審計和互動。"Freysa展示了區塊鏈與人工智能結合時的非凡潛力,但也突顯了這些技術固有的脆弱性,"Abstract的代表Jarrod Watts說。這一實驗不僅展示了人工智能在區塊鏈中的創新應用,還提出了關於人工智能在管理敏感操作中的可靠性的關鍵問題,特別是在高風險場景中。