A primeira reunião do Conselho Consultivo de IA do Departamento de Segurança Interna foi realizada na segunda-feira desta semana. O conselho pretende melhorar o tratamento da implantação de tecnologia de inteligência artificial e defender a tecnologia contra ameaças externas.
Lidando com preconceitos de IA e riscos de segurança
Durante uma sessão de perguntas e respostas com os repórteres na conferência RSA e um discurso de abertura com os funcionários, Mayorkas discutiu a segurança da IA e os resultados da discussão da primeira reunião do conselho. Os membros falaram sobre a questão da segurança da IA em instalações essenciais. Também abordaram as implicações em termos de direitos humanos da implementação da IA nas tarefas do DHS, com alguns destacando o seu potencial para ser utilizado como uma extensão do preconceito implícito existente.
Os sistemas de IA que trabalham com colorismo e sexismo são alguns problemas de longa data que os especialistas e o governo federal continuam abordando porque os líderes de pensamento e o governo são minorias que não se preocupam em testar os produtos para ver se os sistemas funcionam com mulheres e pessoas de cor. Além disso, a Casa Branca e o Departamento de Justiça também iniciaram projetos destinados a eliminar os preconceitos trazidos pelos sistemas de IA.
O conselho do DHS, que se reunirá trimestralmente, foi divulgado. Inclui pessoas como o CEO da OpenAI, Sam Altman, funcionários do governo ativos em IA e proprietários de infraestrutura crítica e fabricantes de tecnologia. Mayorkas afirmou que existem mais de 20 usos de IA, desde o foco em reclamações de seguros contra danos causados por furacões até ajudar recentemente a Agência Federal de Gerenciamento de Emergências (FEMA) a treinar agentes de casos de refugiados.
Cooperação global contra ameaças de IA
Os funcionários do DHS destacaram nos seus relatórios que criaram um portal que lista onde a tecnologia de IA foi implementada ou rescindida devido a preocupações díspares entre as várias partes interessadas. Os funcionários do DHS sublinharam que o departamento pretende expandir a sua força de trabalho em áreas relacionadas com a IA, e já foram recebidas 3.000 candidaturas para cargos nesta área.
Mayorkas partilhou que o conselho iniciou o processo de elaboração de linhas estratégicas e planos para prevenir possíveis ameaças à IA e reduzir os riscos de consequências indesejáveis durante a aplicação da IA. O trabalho suplementar a bordo já foi satisfatório. O facto de esta ser a composição dos líderes internacionais da IA também é crítico porque irá funcionar em danos legislativos com outros países.
No entanto, a defesa dos sistemas de IA não será alcançada apenas com a participação de intervenientes globais. Tal cenário exige que a parceria construa um mecanismo de defesa sólido.