A União Europeia (UE) deu um passo importante na quarta-feira ao dar ao mundo o seu primeiro conjunto de regras de governação em torno da inteligência artificial (IA), quando o Parlamento Europeu aprovou um projeto de lei conhecido como IA. Agir.
A IA A lei, que foi proposta pela primeira vez pela UE em 21 de abril de 2021, foi considerada o primeiro e mais abrangente quadro regulamentar do mundo. Desde a sua proposta, a Comissão Europeia, o Conselho da União Europeia e o Parlamento Europeu têm trabalhado na modificação e aperfeiçoamento do seu projecto inicial, esperando-se uma versão final até ao final deste ano.
Embora o rascunho inicial tenha surgido antes do surgimento da IA generativa, incluindo chatbots, este novo projeto de lei certamente leva em consideração sistemas de IA generativos como o ChatGPT da OpenAI e as implicações que eles trazem.
Teste antes da implantação
A lei, que se aplica a todos os países membros da UE, exige que os estados membros da UE estabeleçam pelo menos uma “sandbox” regulamentar para testar os sistemas de IA antes de serem implantados.
“A única coisa que queríamos alcançar com este texto é o equilíbrio”, disse Dragoș Tudorache, membro do Parlamento Europeu, aos jornalistas. A lei protege os cidadãos ao mesmo tempo que “promove a inovação, sem prejudicar a criatividade, e a implantação e desenvolvimento da IA na Europa”, acrescentou.
Maior Potencial de Dano Humano
No cerne do projeto de lei aprovado na quarta-feira, a IA generativa estaria sujeita a novos requisitos de transparência, que incluem a publicação de resumos de material protegido por direitos de autor utilizado para treinar o sistema, bem como a implementação de salvaguardas para evitar que a IA gere conteúdos ilegais.
A abordagem “baseada no risco” do projeto de lei para regular a IA concentra-se em casos de uso com maior potencial de danos humanos, incluindo a utilização de sistemas de IA para operar infraestruturas críticas como água ou energia, nosso sistema de justiça legal e determinar o acesso a serviços públicos e benefícios do governo.
Os desenvolvedores desta tecnologia seriam obrigados a realizar avaliações de risco antes de colocar essa tecnologia no mercado, semelhante à forma como funciona atualmente o processo de aprovação de medicamentos.
Proibição de reconhecimento facial
Outra área de debate acalorado gira em torno do uso da tecnologia de reconhecimento facial. O Parlamento Europeu votou a favor da proibição da utilização do reconhecimento facial ao vivo, mas ainda está aberto à questão de saber se deveria haver uma exceção para a sua utilização em casos de segurança nacional e outros fins de aplicação da lei.
Somando-se a isso, outra disposição do A.I. A lei proibiria as empresas de extrair dados biométricos das mídias sociais para ajudar a construir bancos de dados – algo que foi um grande problema depois que a empresa de reconhecimento facial Clearview AI foi multada em US$ 20 milhões pela autoridade de proteção de dados da França (CNIL) pela coleta e processamento ilegal de dados biométricos pertencentes a cidadãos franceses, além de uma multa vencida de US$ 5,2 milhões.
IA generativa adicionará US$ 4,4 trilhões à economia global?
Estima-se que a IA generativa adicione US$ 4,4 trilhões à economia global, de acordo com um relatório publicado na quarta-feira pela McKinsey & Company.
Embora esse número esteja no limite superior do intervalo projetado pela McKinsey para o valor da IA generativa, o relatório intitulado “O Potencial Económico da IA Generativa” também fornece o limite inferior do intervalo que se situa em 2,6 biliões de dólares.
Durante a Conferência Viva em Paris na quarta-feira, o cientista-chefe de IA da Meta, Yann LeCun, falou sobre as limitações atuais da IA generativa, especificamente aquelas que são treinadas em grandes modelos de linguagem.
De acordo com LeCun, a IA generativa treinada exclusivamente em linguagem não é muito inteligente.
“Esses sistemas são muito limitados, não têm qualquer compreensão da realidade subjacente do mundo real, porque são puramente treinados em texto, grandes quantidades de texto”, disse LeCun. “A maior parte do conhecimento humano não tem nada a ver com a linguagem… portanto, essa parte da experiência humana não é capturada pela IA.”
“Hoje fizemos história”, disse Brando Benifei, membro do Parlamento Europeu que trabalha na Lei da IA da UE, aos jornalistas.
“Enquanto as grandes empresas tecnológicas soam o alarme sobre as suas próprias criações, a Europa foi em frente e propôs uma resposta concreta aos riscos que a IA está a começar a representar”, acrescentou Benifei.
Esta semana, mais de 40% dos líderes empresariais presentes no Yale CEO Summit, incluindo o chefe do Walmart, Doug McMillion, e o CEO da Coca-Cola, James Quincy, partilharam a sua crença de que a IA tem o potencial de destruir a humanidade dentro de cinco a 10 anos.
A Lei de IA leva as penalidades que vimos na estrutura de privacidade GDPR da Europa um passo adiante, onde as empresas envolvidas em práticas proibidas de IA podem ser multadas em até US$ 43 milhões ou um valor igual a 7% do faturamento anual mundial de uma empresa, o que for é maior que.
Atualmente, o GDPR estrutura suas multas em até US$ 10,8 milhões, ou até 2% do faturamento global de uma empresa, o que for maior.
Em outras notícias, leia sobre a computação hiperdimensional e por que podemos estar olhando para a IA de maneira totalmente errada.
Clique aqui para ver a galeria completa no Hypemoon
