👁️以太坊联合创始人 Vitalik Buterin 提议全球 按下“软暂停按钮” 以缓人工智能通用智能(AGI)发展
近日,以太坊联合创始人Vitalik Buterin提出了一个颇具争议的提议:在全球范围内设立一个“软暂停按钮”,旨在减缓人工智能通用智能(AGI)的发展速度,以确保人类有足够的时间准备和适应。
Vitalik Buterin在其发表的d/acc理念相关文章中提出,通过这个“软暂停按钮”,在关键时刻将全球可用的计算能力降低约90%-99%,持续1-2年,为人类争取更多准备时间。
该提议在社区中引发了激烈的讨论。有用户强烈反对这一观点,认为在没有军事力量强制执行的情况下,暂停全球1-2年内90%-99%的计算能力是一个天真的提议,温和减速的机会渺茫。
面对批评,Vitalik回应称,他同意这是一个艰巨的任务,但几乎所有应对强人工智能的提议在某种程度上都是艰难的。他认为这个提议比其他暂停想法更不那么艰难,因为它是在硬件层面强制执行,关键决策是在高风险时期开始之前做出的,而且“背叛”需要制造新的硬件,而不是仅仅秘密地拨动几个开关,这需要数月的准备时间。
你如何看待Vitalik Buterin的这一提议?您认为全球“软暂停按钮”是否可行,或者有没有更好的方法来确保AGI的安全和可控发展?