👁️以太坊聯合創始人 Vitalik Buterin 提議全球 按下“軟暫停按鈕” 以緩人工智能通用智能(AGI)發展
近日,以太坊聯合創始人Vitalik Buterin提出了一個頗具爭議的提議:在全球範圍內設立一個“軟暫停按鈕”,旨在減緩人工智能通用智能(AGI)的發展速度,以確保人類有足夠的時間準備和適應。
Vitalik Buterin在其發表的d/acc理念相關文章中提出,通過這個“軟暫停按鈕”,在關鍵時刻將全球可用的計算能力降低約90%-99%,持續1-2年,爲人類爭取更多準備時間。
該提議在社區中引發了激烈的討論。有用戶強烈反對這一觀點,認爲在沒有軍事力量強制執行的情況下,暫停全球1-2年內90%-99%的計算能力是一個天真的提議,溫和減速的機會渺茫。
面對批評,Vitalik迴應稱,他同意這是一個艱鉅的任務,但幾乎所有應對強人工智能的提議在某種程度上都是艱難的。他認爲這個提議比其他暫停想法更不那麼艱難,因爲它是在硬件層面強制執行,關鍵決策是在高風險時期開始之前做出的,而且“背叛”需要製造新的硬件,而不是僅僅祕密地撥動幾個開關,這需要數月的準備時間。
你如何看待Vitalik Buterin的這一提議?您認爲全球“軟暫停按鈕”是否可行,或者有沒有更好的方法來確保AGI的安全和可控發展?
#VitalikButerin #人工智能安全 #AGI