Агентство кибербезопасности и безопасности инфраструктуры (CISA) представило новые рекомендации в соответствии с акцентом Министерства внутренней безопасности (DHS) на безопасности ИИ, который был подчеркнут не так давно созданием специального совета по безопасности.

Рекомендации CISA по безопасности ИИ в критически важных секторах

Только что опубликованные рекомендации предназначены для владельцев и операторов шести секторов, отнесенных к критически важным инфраструктурам, которые обслуживаются такими областями, как сельское хозяйство, здравоохранение и информационные технологии. Это Руководство представляет собой минимальный необходимый набор, который обеспечивает безопасность и отказоустойчивость системы ИИ за счет использования ответственных технологий ИИ. Эти подходы к консультированию предлагают рекомендации по управлению, оценке рисков и текущему управлению процессами, связанными с ИИ.

Операторы могут использовать систему управления рисками ИИ NIST, чтобы постоянно оценивать влияние и риски, связанные с внедрением ИИ. К ним относятся определение того, где лежат зависимости ИИ и влияние технологий на окружающую среду, а также попытки устранить любую возникшую уязвимость. В руководящих принципах рекомендуются правила, напоминающие о проведении инвентаризации использования ИИ и создании специальных процедур для сообщения о рисках безопасности, связанных с ИИ.

CISA признает, что директора по информационной безопасности должны знать критический путь цепочки поставок ИИ и тестировать системы ИИ для выявления пробелов в безопасности. Делая акцент на определенных областях, владельцы инфраструктуры сталкиваются с широким спектром рисков, связанных с ИИ, включая недостатки проектирования, кибератаки и нарушения физической безопасности.

Двойная роль ИИ в критической инфраструктуре

Документ демонстрирует, что ИИ имеет возможность трансформировать управление критически важной инфраструктурой, внедряя широкомасштабное зондирование внешней среды, автоматизируя обслуживание клиентов, улучшая физическую безопасность и делая прогнозирование более точным.

Хотя это нововведение поможет сделать инфраструктурные системы надежными по всем направлениям, также возможно, что оно сделает их более уязвимыми к новым формам атак и сбоев.

Эти руководящие принципы являются лишь одним из элементов более широких инициатив Министерства внутренней безопасности, направленных на преодоление сложностей, связанных с включением технологии искусственного интеллекта в структуру национальной безопасности. Распространение искусственного интеллекта двояко: внедрение этой революционной технологии и угроза, которую она представляет для чувствительной инфраструктуры критически важных систем, напоминает министр внутренней безопасности Алехандро Майоркас. Группа риска очень быстро реагирует на ситуацию и реализует стратегические инициативы по выявлению и смягчению скрытых опасностей посредством сотрудничества экспертов.

Инициативы DHS в области искусственного интеллекта

В начале года DHS представило свою стратегию в области искусственного интеллекта, изложив дорожную карту DBDS и объявив о создании Корпуса искусственного интеллекта. В 2024 году эта команда должна состоять из 50 специалистов, которые будут считаться квалифицированными и будут направлены на расширение возможностей агентства в области искусственного интеллекта. В новый совет войдут тяжеловесы технологической сферы, такие как Сэм Альтман из OpenAI и Сундар Пичаи, представляющий компанию Alphabet.

Мандат CISA в новых Руководящих принципах AI заключается не только в выполнении своих обязанностей в соответствии с недавним указом администрации Байдена об AI-Associated, но и в том, чтобы подать первый пример аналогичного анализа рисков, который может проводиться в различных секторах общества. Таким образом, правительство США подчеркивает свое лидерство в «матрице безопасности критической инфраструктуры», которая сегодня тесно связана с искусственным интеллектом.

Новости взяты из Fedscoop