O empresário e investidor Elon Musk expressou sua opinião em uma publicação recente na plataforma de mídia social X, defendendo a aprovação do Projeto de Lei 1047 do Senado da Califórnia, ou Safe and Secure Innovation for Frontier Artificial Intelligence Models Act. Elon Musk, que é a favor da regulamentação da IA há mais de duas décadas, enfatizou que tal regulamentação é necessária para qualquer tecnologia ou oferta que represente possíveis riscos ao público.
Em resposta, o cofundador do blockchain Ethereum Vitalik Buterin expressou preocupações sobre como o projeto de lei poderia impactar o modelo de peso de código aberto e solicitou evidências mais substanciais. Ele mencionou que versões anteriores do projeto de lei incluíam um requisito para um desligamento completo, o que entrava em conflito com o modelo de peso de código aberto, embora esse requisito tenha sido removido desde então. Vitalik Buterin também observou que alguns defensores da segurança da IA apoiaram a ideia de proibir modelos de peso aberto. Ele sugeriu ainda que uma interpretação caridosa do objetivo do projeto de lei poderia ser exigir testes de segurança e, se os testes revelarem capacidades ou comportamentos potencialmente prejudiciais, esses modelos seriam proibidos de serem lançados.
O Projeto de Lei do Senado 1047 busca criar uma estrutura regulatória para gerenciar modelos de IA em larga escala. O projeto de lei tem como alvo modelos que excedem limites específicos de computação e custo. Ele responsabiliza legalmente os desenvolvedores pelo uso ou modificação subsequente de seus modelos. Antes do início do treinamento, eles devem certificar que seus modelos não fornecerão ou habilitarão “capacidades perigosas” e devem implementar várias salvaguardas para evitar tais resultados. A aplicação dessas regulamentações seria gerenciada por uma “divisão de modelos de fronteira” recém-criada, responsável por definir padrões de segurança e aconselhar sobre legislação relacionada à IA.
Qual é a melhor evidência de que o projeto de lei será usado para atacar pesos abertos?
Eu sei que versões anteriores do projeto de lei tinham uma requisição de desligamento total que é incompatível com pesos abertos, mas isso foi removido. E eu sei que algumas pessoas de segurança de IA expressaram apoio a…
— vitalik.eth (@VitalikButerin) 27 de agosto de 2024
SB 1047 enfrenta reação negativa da indústria de IA, votação da Assembleia da Califórnia se aproxima
A introdução do SB 1047 provocou fortes reações da indústria de tecnologia, com muitas empresas e organizações de IA proeminentes expressando preocupações sobre seus efeitos potenciais na inovação e em suas operações. Grandes entidades como a organização de pesquisa de IA OpenAI e a empresa de pesquisa e segurança de IA Anthropic, juntamente com vários membros da delegação do Congresso da Califórnia, se opuseram publicamente ao documento. Eles argumentam que a regulamentação da IA deve ser gerenciada em nível federal, em vez de por meio de uma colcha de retalhos de políticas específicas de cada estado. Em resposta a esse feedback da indústria, o projeto de lei foi revisado várias vezes para abordar essas preocupações, preservando seus objetivos fundamentais.
O Senado da Califórnia aprovou o Projeto de Lei 1047 em maio, que agora está agendado para votação na Assembleia da Califórnia em agosto. Se for aprovado, exigiria apenas a assinatura do Governador Gavin Newsom para se tornar lei na Califórnia.
A postagem Elon Musk apoia o projeto de lei de segurança de IA da Califórnia, mas Vitalik Buterin alerta sobre os riscos para modelos de código aberto apareceu primeiro em Metaverse Post.