As empresas de IA sediadas na Califórnia estão a protestar contra a nova lei de IA que impõe controlos mais rigorosos ao sector e potencialmente sufoca a inovação. O projeto de lei proposto obriga as empresas a aderir a uma estrutura de segurança rigorosa. Isto incluirá a criação de um “interruptor de eliminação” para desligar os seus poderosos modelos de IA à medida que a batalha para controlar o sector aumenta.  

 Leia também: Enfrentando a ameaça da IA ​​enganosa: pesquisadores emitem aquecimento urgente

Algumas medidas propostas no projeto de lei podem impactar negativamente empresas de tecnologia como a Meta, ao mesmo tempo que criarão restrições para empresas iniciantes de IA como OpenAI, Anthropic e Cohere.

O Senado estadual aprovou o projeto no mês passado e agora será votado em sua assembleia geral em agosto deste ano.

O projeto de lei da Califórnia ameaça modelos de IA de código aberto

Segundo a arstechnica, as grandes empresas de tecnologia devem garantir que nunca criarão modelos prejudiciais à sociedade, como armas nucleares ou ataques de ajuda à segurança cibernética.

No entanto, o projecto de lei proposto está a receber uma reacção negativa de algumas partes interessadas do sector, argumentando que isto tem um efeito de repercussão nas startups que podem ser forçadas a deixar o estado. Também pode impedir que grandes empresas como a Meta abram o código-fonte de seus modelos.

“Se alguém quisesse criar regulamentos para reprimir a inovação, dificilmente poderia fazer melhor”, disse Andrew NG, cientista da computação que liderou projetos de IA no Google e no Baidu da China, e faz parte do conselho da Amazon.

“Isso cria enormes responsabilidades para os riscos da ficção científica e, portanto, provoca medo em qualquer pessoa que ouse inovar.”

Arun Rao, gerente de produto líder de IA generativa da Meta, disse que o projeto de lei “impraticável” “acabaria com o código aberto (na Califórnia)”.

Os protestos são esperados, segundo o senador Wiener

O senador estadual democrata Scott Wiener, que apresentou o projeto, ignorou as críticas. Embora enfrentando uma reação negativa por serem excessivamente restritivos, o legislador indicou que os protestos não eram novidade, vindos do setor tecnológico.

“Este é o setor de tecnologia, não gosta de ter nenhuma regulamentação, então não é nenhuma surpresa para mim que haja um retrocesso.”

Senador Scott Wiener.

“Fundamentalmente, quero que a IA tenha sucesso e que a inovação continue, mas vamos tentar sair à frente de quaisquer riscos de segurança”, disse ele.

A organização sem fins lucrativos Center for AI Safety (CAIS), com sede em São Francisco, liderada por Dan Hendrycks co-patrocinou o projeto de lei da Califórnia.

Leia também: ‘AI Godfather’ quer renda básica universal para perdas de empregos em IA

Hendrycks apoiou o projecto de lei, dizendo que poderia ajudar a resolver um dos problemas nos sectores – cortar custos numa altura em que as pessoas também querem “alguma supervisão básica”.

“Existem essas pressões competitivas que estão afetando essas organizações de IA e que as incentivam a economizar na segurança.”

O setor da IA ​​registou um rápido crescimento, o que também suscitou preocupações sobre a segurança da tecnologia. No ano passado, o bilionário da tecnologia Elon Musk chamou a IA de “ameaça à humanidade”.

Reportagem criptopolitana de Enacy Mapakame