人工智能（AI）的爆發正在給我們的世界帶來理想化的夢想或末日的預言，但這兩者都無法捕捉到真正的威脅。
我們並不是面臨一場“巨大機器人叛亂”，人工智能或機器人進行敵對接管。忘掉《終結者》或《黑客帝國》中的電影場景——這並不會發生。征服世界的人工智能技術並不存在。
人工智能可能在特定任務中表現出色，比如摺疊蛋白質或下棋，但它並不具備建立軍隊或管理國家的能力。
然而，這種沒有機器人的起義並不意味着我們安全。人工智能正通過不那麼戲劇性但同樣強大的方式悄然滲透我們的生活：數字官僚主義。
真正的危險不是殺手機器人，而是人工智能侵入控制我們日常生活的決策。人類已經進化出對有形威脅的恐懼。想想大型掠食者，比如獅子和鯊魚。
但我們對來自文書工作、文件或官僚主義的威脅準備不足。官僚主義本身是一種相對較新的發明，只有在5000年前隨着文字的產生而發展。
在寫作之前，所有權例如依賴於社區達成的共識。如果你“擁有”一塊土地，那是因爲你的鄰居尊重它。無需任何文件。
從泥板到數字官僚
這一切在人們開始使用泥板和記錄時發生了變化。書面文件意味着財產權不再依賴於社區共識，而是官方記錄。古代美索不達米亞人將泥塊變成官方所有權的象徵，顛覆了所有權的概念。
法院的判決可能基於一塊寫有你擁有一塊土地的泥板，即使社區並不認同。快進到今天，我們的系統仍然建立在類似的原則上，只是現在我們使用硅芯片和數字記錄而非泥土。
這一轉變改變了權力結構。所有權變成了一種可以在沒有當地社區認可的情況下進行買賣和交易的東西。官僚機構的出現使得稅收徵集、軍事資金和中央政府成爲可能。
官僚成爲這些系統中的重要角色，使用記錄、表格和印章來管理軍隊、分配資源，甚至控制法律。這些官僚系統催生了對其人口進行廣泛控制的集中國家，這種控制現在正轉向人工智能。
人工智能不需要建立機器人軍隊；它只需掌握官僚系統。在這些框架內，人工智能能夠做出比任何人類更具影響力的決策，如今正如我們所見，人工智能已經在決定我們是否獲得貸款、工作機會、大學錄取，甚至醫療診斷。
想象一下，人工智能銀行家決定信用資格，人工智能法官裁決案件，或軍事人工智能計算打擊目標。人工智能並不需要機器人的叛亂。它所繼承的官僚權力已經是巨大的。
社交媒體中的人工智能和公共影響
社交媒體算法雖然原始，但已經掌握了巨大的權力。人工智能算法，尤其是來自Facebook、X（前身爲Twitter）、YouTube和TikTok的算法，都是以一個目標爲導向的：用戶參與。人們在這些平臺上停留的時間越長，流向公司的錢就越多。
通過對數十億用戶的試驗和錯誤，這些算法發現，觸發像貪婪、憤怒和恐懼等情感可以增加參與度。當它們按下這些情感按鈕時，用戶就會被吸引。
這些算法沒有止步於優化在線時間。它們更進一步，發現會引發強烈情感的內容能夠提升用戶參與度。這一發現導致了陰謀論、錯誤信息和社會分裂的傳播。
今天的世界充斥着數字憤怒、恐懼煽動和極端分化，這多虧了優先考慮點擊率而非凝聚力的算法。通過利用情感觸發，社交媒體算法助長了今天陰謀論和假新聞的流行。
這些算法“決策者”並不是天生惡意的。相反，它們被優化以高效執行其角色。然而，它們的決策缺乏我們通常在如此重要的領域中所期待的人類直覺或背景。
人工智能可能做出更快或更一致的判斷，但如果出現問題，結果可能是災難性的。這種潛在風險已經在社交媒體對社會的影響中顯現，警示着我們人工智能的失控權力可能導致的後果。
拜登爲五角大樓和情報機構設定人工智能規則
喬·拜登總統宣佈了一項國家安全備忘錄，制定了在國家安全中使用人工智能的新規則，防止五角大樓和情報機構以違背民主價值觀的方式使用人工智能。
這是指導人工智能在國家安全中角色的首個指令。這些新規則將鼓勵人工智能實驗，同時確保政府機構不使用人工智能來侵犯言論自由等權利或削弱核控制。
國家安全顧問傑克·沙利文表示：“我們的備忘錄指導全政府首次建立人工智能風險管理承諾的框架。”他概述了避免偏見、維護問責制以及確保在敏感職務中對人工智能進行人類監督的目標。
雖然這些規則沒有法律約束力，但涵蓋了國家安全應用，如網絡安全、反情報和軍事行動中的後勤。拜登去年還發布了出口管制，通過限制技術訪問來減緩中國的人工智能進展。
根據這一指令，華盛頓的人工智能安全研究所將負責檢查人工智能工具，以防在發佈前被誤用，美國情報界將優先監測其他國家的人工智能進展。
