网路安全和基础设施安全局 (CISA) 公布了新建议，以响应国土安全部 (DHS) 对人工智慧安全的重视，不久前成立了一个特殊的安全和安保委员会，突显了这一点。

CISA 关键部门人工智慧安全指南

刚发布的指导方针适用于被指定为关键基础设施的六个部门的所有者和运营商，这些部门由农业、医疗保健和资讯技术等领域提供服务。本指南是一套最低限度的要求，透过使用负责任的人工智慧技术使人工智慧系统变得安全和有弹性。这些咨询方法为人工智慧相关流程的治理、风险评估和持续管理提供指导。

运营商可以采用 NIST 的 AI 风险管理框架来持续评估与 AI 实施相关的影响和风险。这些包括确定 AI 依赖性所在以及技术对环境的影响，并尝试解决任何被提及的漏洞。指南建议制定规则，提醒进行 AI 用途清单并创建报告 AI 相关安全风险的特殊程序。

CISA 承认，首席信息安全官需要了解 AI 供应链的关键路径，并测试 AI 系统以发现安全漏洞。通过强调特定领域，基础设施所有者面临广泛的 AI 相关风险，包括设计缺陷、网络攻击和物理安全漏洞。

人工智能在关键基础设施中的双重作用

该文件表明，人工智能有机会通过引入对外部环境的广泛感知、自动化客户服务、改善物理安全性以及使预测更加准确来改变关键基础设施管理。

虽然这项创新将有助于使基础设施系统全面稳健，但也可能使它们更容易受到新形式的攻击和故障。

这些指导方针只是国土安全部更广泛的举措的一部分，旨在克服将人工智能技术纳入国家安全框架的复杂性。人工智能的普及性有两方面：这项改变游戏规则的技术的推出以及它对关键系统的敏感基础设施构成的威胁，国土安全部长亚历杭德罗·马约卡斯提醒道。风险小组对这种情况反应非常灵敏，并通过专家协作采取战略举措来识别和减轻隐藏的危险。

国土安全部的人工智能计划

国土安全部在今年年初提出了其人工智能战略，制定了 DBDS 路线图，并宣布成立人工智能军团。到 2024 年，该团队将由 50 名专家组成，这些专家将被称为技术专家，旨在提升该机构的人工智能能力。新董事会将包括技术领域的重量级人物，例如来自 OpenAI 的 Sam Altman 和代表 Alphabet Company 的 Sundar Pichai。

新版《人工智能指南》中对 CISA 的授权，不仅是为了履行拜登政府最近颁布的人工智能相关行政命令所赋予的职责，也是为了为社会各领域可能开展的类似风险分析树立榜样。美国政府借此凸显了其在“关键基础设施安全矩阵”中的领导地位，而这一矩阵如今与人工智能高度相关。

新闻来源：fedscoop