New AI Safety Measures Unveiled By CISA

Cryptopolitan · 2024-04-29T12:23:02.000Z

The Cybersecurity and Infrastructure Security Agency (CISA) unveiled new recommendations in line with the Department of Homeland Security’s (DHS) emphasis on AI safety, which was highlighted by establishing a special safety and security board not too long ago. CISA guidelines for AI security in critical sectors The just-released guidelines are meant for the owners and operators of the six sectors designated as critical infrastructures, which are served by areas like agriculture, healthcare, and information technology. This Guideline is a minimal required set that makes the AI system secure and resilient by using responsible AI technologies. These counseling approaches offer guidance on the governance, risk assessment, and ongoing management of AI-related processes. Operators can adopt NIST’s AI risk management framework to continuously assess the impact and risks associated with AI implementations. These include identifying where AI dependencies lie and the environmental effects that technologies have and attempting to tackle any brought-up vulnerability. Rules that remind about conducting AI inventories of uses and creating special procedures for reporting AI-related risks of safety the guidelines recommend. CISA acknowledges that CISOs need to know the critical path of the AI supply chain and test AI systems to identify security gaps. By emphasizing particular areas, infrastructure owners confront broad-spectrum AI-related risks, including design flaws, cyber-attacks, and physical security breaches. AI’s dual role in critical infrastructure The document demonstrates that AI has an opportunity to transform critical infrastructure management by introducing wide-ranging sensing of the external environment, automating customer service, improving physical security, and making forecasting more accurate. While this innovation will help make the infrastructure systems robust across the board, it is also possible that it would make them more exposed to newer forms of attacks and failure. These guidelines are but one element of the Department of Homeland Security’s broader initiatives aimed at overcoming the intricacies of including AI technology into its frameworks of national security. The pervasiveness of AI is twofold: the rollout of this game-changing technology and the threat it poses to sensitive infrastructure for critical systems reminds Homeland Security Secretary Alejandro Mayorkas. The risk group is very reactive to the situation and performs strategic initiatives to identify and mitigate the hidden perils through expert collaboration. DHS’s AI initiatives DHS presented its AI strategy at the start of the year, laying out the DBDS roadmap and announcing the launch of AI Corps. This team 2024 should comprise 50 specialists, to be cited as skilled ones, aiming to boost the agency`s AI capabilities. The new board will involve heavyweights in the technology sphere, such as Sam Altman from OpenAI and Sundar Pichai representing Alphabet Company. The mandate of CISA in the new AI Guidelines is not only to fulfill its duties under the recent AI-Associated executive order of the Biden administration but also to set the first example of similar risk analyses that may be conducted in various sectors of society. In this way, the U.S. Government highlights its leadership in the “critical infrastructure security matrix,” which is highly correlated with artificial intelligence today. News sourced from fedscoop

A Agência de Segurança Cibernética e de Infraestrutura (CISA) revelou novas recomendações em linha com a ênfase do Departamento de Segurança Interna (DHS) na segurança da IA, que foi destacada pela criação de um conselho especial de segurança e proteção não muito tempo atrás.
Diretrizes CISA para segurança de IA em setores críticos
As directrizes recém-lançadas destinam-se aos proprietários e operadores dos seis sectores designados como infra-estruturas críticas, que são servidos por áreas como a agricultura, a saúde e a tecnologia da informação. Esta Diretriz é um conjunto mínimo necessário que torna o sistema de IA seguro e resiliente através do uso de tecnologias de IA responsáveis. Estas abordagens de aconselhamento oferecem orientação sobre a governação, avaliação de riscos e gestão contínua de processos relacionados com a IA.
Os operadores podem adotar a estrutura de gestão de riscos de IA do NIST para avaliar continuamente o impacto e os riscos associados às implementações de IA. Estas incluem identificar onde residem as dependências da IA ​​e os efeitos ambientais que as tecnologias têm e tentar resolver qualquer vulnerabilidade levantada. Regras que lembram a realização de inventários de usos de IA e a criação de procedimentos especiais para relatar riscos de segurança relacionados à IA, recomendadas pelas diretrizes.
A CISA reconhece que os CISOs precisam conhecer o caminho crítico da cadeia de fornecimento de IA e testar os sistemas de IA para identificar lacunas de segurança. Ao enfatizar áreas específicas, os proprietários de infraestruturas enfrentam riscos de amplo espectro relacionados com a IA, incluindo falhas de conceção, ataques cibernéticos e violações de segurança física.
O duplo papel da IA ​​em infraestruturas críticas
O documento demonstra que a IA tem a oportunidade de transformar a gestão de infraestruturas críticas, introduzindo uma ampla detecção do ambiente externo, automatizando o atendimento ao cliente, melhorando a segurança física e tornando as previsões mais precisas.
Embora esta inovação ajude a tornar os sistemas de infraestrutura robustos em todos os níveis, também é possível que os torne mais expostos a novas formas de ataques e falhas.
Estas directrizes são apenas um elemento das iniciativas mais amplas do Departamento de Segurança Interna destinadas a superar as complexidades da inclusão da tecnologia de IA nos seus quadros de segurança nacional. A difusão da IA ​​é dupla: a implantação desta tecnologia revolucionária e a ameaça que representa para infra-estruturas sensíveis de sistemas críticos, lembra o Secretário de Segurança Interna, Alejandro Mayorkas. O grupo de risco é muito reativo à situação e realiza iniciativas estratégicas para identificar e mitigar os perigos ocultos através da colaboração especializada.
Iniciativas de IA do DHS
O DHS apresentou a sua estratégia de IA no início do ano, traçando o roteiro do DBDS e anunciando o lançamento do AI Corps. Essa equipe 2024 deverá ser composta por 50 especialistas, a serem citados como capacitados, visando potencializar as capacidades de IA da agência. A nova diretoria envolverá pesos pesados ​​da esfera tecnológica, como Sam Altman da OpenAI e Sundar Pichai representando a Alphabet Company.
O mandato da CISA nas novas Diretrizes de IA não é apenas cumprir as suas funções ao abrigo da recente ordem executiva associada à IA da administração Biden, mas também dar o primeiro exemplo de análises de risco semelhantes que podem ser conduzidas em vários setores da sociedade. Desta forma, o Governo dos EUA destaca a sua liderança na “matriz de segurança de infra-estruturas críticas”, que hoje está altamente correlacionada com a inteligência artificial.
Notícias provenientes do fedscoop

Explore mais do Criador

Últimas Notícias