人工智能的潛力不僅僅是一項技術進步，還帶來我們不能忽視的風險。

以太坊聯合創始人#VitalikButerin 對#Artificial_Intelligence （人工智能）發出了嚴厲警告。

他沒有將#AI 與智能手機或社交媒體等常見的技術進步歸爲一類。相反，#Buterin 將人工智能歸爲一類，因爲它有可能徹底改變社會（就像印刷機或輪子一樣）。

轉折點是什麼？人工智能可能比我們所有人都聰明，有可能成爲地球上的主導力量。這是一次向未知領域的跨越。

超級人工智能的威脅

布特林的擔憂超出了典型的科技恐懼。他警告說，超級智能 AI 可能會將人類視爲威脅，從而導致災難性的後果。

這不是一個遙遠的未來問題——人工智能正在迅速發展。雖然我們理想中希望這些超級智能生物成爲我們的盟友，但對它們進行編程以使其與人類安全共存是我們尚未解決的挑戰。這聽起來可能像科幻小說，但這是一個在科技圈備受重視的話題。MIRI 的 Rob Bensinger 闡述了對人工智能威脅程度的不同看法。

一個驚人的發現是，2022 年針對機器學習專家的一項調查顯示，人工智能導致人類滅絕的可能性爲 5-10%。

儘管聽起來只是推測，但這些擔憂已經存在十多年了，值得關注。

展望人工智能的未來

布特林還邀請我們思考一下在人工智能統治的世界裏生活會是什麼樣子。他提到了伊恩·班克斯的《文化》系列，其中人類與強大的人工智能共存。

這個想象的未來提供了長壽、健康和娛樂，但有一個潛在的代價——人類可能無法控制。

這引出了一個關於我們未來與人工智能共存的關鍵問題：在這個由機器智能驅動的世界中，我們會成爲合作伙伴，還是僅僅是乘客？