Agentura pro kybernetickou bezpečnost a bezpečnost infrastruktury (CISA) představila nová doporučení v souladu s důrazem ministerstva vnitřní bezpečnosti (DHS) na bezpečnost umělé inteligence, což bylo zvýrazněno zřízením zvláštního výboru pro bezpečnost a zabezpečení nedávno.
Pokyny CISA pro zabezpečení AI v kritických sektorech
Právě vydané pokyny jsou určeny vlastníkům a provozovatelům šesti sektorů označených jako kritické infrastruktury, kterým slouží oblasti jako zemědělství, zdravotnictví a informační technologie. Tato směrnice je minimální požadovaná sada, díky které je systém umělé inteligence bezpečný a odolný pomocí odpovědných technologií umělé inteligence. Tyto poradenské přístupy nabízejí vodítko pro řízení, hodnocení rizik a průběžné řízení procesů souvisejících s AI.
Operátoři mohou přijmout rámec řízení rizik umělé inteligence NIST, aby neustále vyhodnocovali dopad a rizika spojená s implementacemi umělé inteligence. Patří mezi ně identifikace, kde leží závislosti AI a environmentální dopady, které mají technologie, a pokus o řešení případných zranitelností. Pravidla, která připomínají provádění inventarizace použití AI a vytváření speciálních postupů pro hlášení bezpečnostních rizik souvisejících s AI, které směrnice doporučují.
CISA uznává, že CISO potřebují znát kritickou cestu dodavatelského řetězce AI a testovat systémy AI, aby identifikovali bezpečnostní mezery. Zdůrazněním konkrétních oblastí čelí vlastníci infrastruktury širokospektrým rizikům souvisejícím s umělou inteligencí, včetně konstrukčních nedostatků, kybernetických útoků a narušení fyzické bezpečnosti.
Dvojí role AI v kritické infrastruktuře
Dokument ukazuje, že umělá inteligence má příležitost transformovat správu kritické infrastruktury zavedením rozsáhlého snímání vnějšího prostředí, automatizací zákaznických služeb, zlepšením fyzického zabezpečení a zpřesněním předpovědí.
I když tato inovace pomůže učinit infrastrukturní systémy robustní ve všech oblastech, je také možné, že by je více vystavila novějším formám útoků a selhání.
Tyto pokyny jsou pouze jedním prvkem širších iniciativ ministerstva pro vnitřní bezpečnost zaměřených na překonání složitosti začlenění technologie AI do rámců národní bezpečnosti. Všudypřítomnost umělé inteligence je dvojí: zavádění této technologie, která mění hru, a hrozba, kterou představuje pro citlivou infrastrukturu kritických systémů, připomíná ministr pro vnitřní bezpečnost Alejandro Mayorkas. Riziková skupina velmi reaguje na situaci a provádí strategické iniciativy k identifikaci a zmírnění skrytých nebezpečí prostřednictvím spolupráce odborníků.
iniciativy DHS AI
DHS představilo svou strategii AI na začátku roku, stanovilo plán DBDS a oznámilo spuštění AI Corps. Tento tým pro rok 2024 by měl tvořit 50 specialistů, kteří budou považováni za zkušené, s cílem posílit schopnosti agentury AI. Nová rada bude zahrnovat těžké váhy v technologické sféře, jako je Sam Altman z OpenAI a Sundar Pichai zastupující Alphabet Company.
Mandát CISA v nových směrnicích pro AI je nejen plnit své povinnosti podle nedávného výkonného nařízení Bidenovy administrativy spojené s AI, ale také stanovit první příklad podobných analýz rizik, které mohou být prováděny v různých sektorech společnosti. Tímto způsobem vláda USA zdůrazňuje své vedoucí postavení v „matici zabezpečení kritické infrastruktury“, která dnes vysoce koreluje s umělou inteligencí.
Zprávy pocházejí z Fedscoop