Агентство з кібербезпеки та безпеки інфраструктури (CISA) оприлюднило нові рекомендації відповідно до наголосу Міністерства внутрішньої безпеки (DHS) на безпеку штучного інтелекту, що було підкреслено створенням спеціальної ради безпеки та безпеки нещодавно.
Рекомендації CISA щодо безпеки штучного інтелекту в критичних секторах
Щойно опубліковані рекомендації призначені для власників і операторів шести секторів, визначених як критичні інфраструктури, які обслуговуються такими сферами, як сільське господарство, охорона здоров’я та інформаційні технології. Ця інструкція є мінімально необхідним набором, який робить систему ШІ безпечною та стійкою завдяки використанню відповідальних технологій ШІ. Ці підходи до консультування пропонують вказівки щодо управління, оцінки ризиків і поточного управління процесами, пов’язаними зі ШІ.
Оператори можуть прийняти систему управління ризиками штучного інтелекту NIST, щоб постійно оцінювати вплив і ризики, пов’язані з впровадженням штучного інтелекту. До них належать визначення залежностей ШІ та впливу технологій на навколишнє середовище, а також спроби усунути будь-яку виявлену вразливість. Настанови рекомендують правила, які нагадують про проведення інвентаризації використання штучного інтелекту та створення спеціальних процедур для звітування про ризики безпеки, пов’язані зі штучним інтелектом.
CISA визнає, що CISO повинні знати критичний шлях ланцюга постачання штучного інтелекту та тестувати системи ШІ, щоб виявити прогалини в безпеці. Виділяючи певні сфери, власники інфраструктури стикаються з широким спектром ризиків, пов’язаних зі штучним інтелектом, включаючи недоліки конструкції, кібератаки та фізичні порушення безпеки.
Подвійна роль ШІ в критичній інфраструктурі
Документ демонструє, що штучний інтелект має можливість трансформувати управління критичною інфраструктурою шляхом запровадження широкомасштабного вимірювання зовнішнього середовища, автоматизації обслуговування клієнтів, покращення фізичної безпеки та підвищення точності прогнозування.
Хоча це нововведення допоможе зробити системи інфраструктури надійними за всіма напрямками, також можливо, що це зробить їх більш уразливими до нових форм атак і збоїв.
Ці вказівки є лише одним із елементів ширших ініціатив Міністерства внутрішньої безпеки, спрямованих на подолання складнощів включення технології штучного інтелекту в систему національної безпеки. Поширеність штучного інтелекту подвійна: розгортання цієї кардинальної технології та загроза, яку вона становить для чутливої інфраструктури критично важливих систем, нагадує міністру внутрішньої безпеки Алехандро Майоркасу. Група ризику дуже реагує на ситуацію та виконує стратегічні ініціативи для виявлення та пом’якшення прихованих небезпек за допомогою експертної співпраці.
Ініціативи DHS щодо ШІ
DHS представила свою стратегію AI на початку року, виклавши дорожню карту DBDS і оголосивши про запуск AI Corps. Ця команда 2024 року повинна складатися з 50 спеціалістів, яких можна назвати кваліфікованими, які мають на меті підвищити можливості AI агентства. До нової ради увійдуть важковаговики в технологічній сфері, такі як Сем Альтман з OpenAI і Сундар Пічаї, який представляє компанію Alphabet.
Мандат CISA у нових Керівних принципах щодо штучного інтелекту полягає не лише у виконанні своїх обов’язків згідно з нещодавнім виконавчим указом адміністрації Байдена, пов’язаному з штучним інтелектом, але й у створенні першого прикладу подібного аналізу ризиків, який може бути проведений у різних секторах суспільства. Таким чином уряд США підкреслює своє лідерство в «матриці безпеки критичної інфраструктури», яка сьогодні тісно пов’язана зі штучним інтелектом.
Джерело новин fedscoop
