網路安全和基礎設施安全局 (CISA) 公佈了新建議，以響應國土安全部 (DHS) 對人工智慧安全的重視，不久前成立了一個特殊的安全和安保委員會，突顯了這一點。

CISA 關鍵部門人工智慧安全指南

剛發佈的指導方針適用於被指定爲關鍵基礎設施的六個部門的所有者和運營商，這些部門由農業、醫療保健和資訊技術等領域提供服務。本指南是一套最低限度的要求，透過使用負責任的人工智慧技術使人工智慧系統變得安全和有彈性。這些諮詢方法爲人工智慧相關流程的治理、風險評估和持續管理提供指導。

運營商可以採用 NIST 的 AI 風險管理框架來持續評估與 AI 實施相關的影響和風險。這些包括確定 AI 依賴性所在以及技術對環境的影響，並嘗試解決任何被提及的漏洞。指南建議制定規則，提醒進行 AI 用途清單並創建報告 AI 相關安全風險的特殊程序。

CISA 承認，首席信息安全官需要了解 AI 供應鏈的關鍵路徑，並測試 AI 系統以發現安全漏洞。通過強調特定領域，基礎設施所有者面臨廣泛的 AI 相關風險，包括設計缺陷、網絡攻擊和物理安全漏洞。

人工智能在關鍵基礎設施中的雙重作用

該文件表明，人工智能有機會通過引入對外部環境的廣泛感知、自動化客戶服務、改善物理安全性以及使預測更加準確來改變關鍵基礎設施管理。

雖然這項創新將有助於使基礎設施系統全面穩健，但也可能使它們更容易受到新形式的攻擊和故障。

這些指導方針只是國土安全部更廣泛的舉措的一部分，旨在克服將人工智能技術納入國家安全框架的複雜性。人工智能的普及性有兩方面：這項改變遊戲規則的技術的推出以及它對關鍵系統的敏感基礎設施構成的威脅，國土安全部長亞歷杭德羅·馬約卡斯提醒道。風險小組對這種情況反應非常靈敏，並通過專家協作採取戰略舉措來識別和減輕隱藏的危險。

國土安全部的人工智能計劃

國土安全部在今年年初提出了其人工智能戰略，制定了 DBDS 路線圖，並宣佈成立人工智能軍團。到 2024 年，該團隊將由 50 名專家組成，這些專家將被稱爲技術專家，旨在提升該機構的人工智能能力。新董事會將包括技術領域的重量級人物，例如來自 OpenAI 的 Sam Altman 和代表 Alphabet Company 的 Sundar Pichai。

新版《人工智能指南》中對 CISA 的授權，不僅是爲了履行拜登政府最近頒佈的人工智能相關行政命令所賦予的職責，也是爲了爲社會各領域可能開展的類似風險分析樹立榜樣。美國政府藉此凸顯了其在“關鍵基礎設施安全矩陣”中的領導地位，而這一矩陣如今與人工智能高度相關。

新聞來源：fedscoop