Tanto a IA como a criptografia movem-se a uma velocidade vertiginosa e são profundamente técnicas, o que as torna difíceis de regular – mas os denunciantes estão a ser silenciados.

Mais uma semana e mais um aviso sobre inteligência artificial.

Mas esta carta aberta – expressando receios de que possa agravar as desigualdades, alimentar a desinformação e levar a sistemas de IA incontroláveis ​​que “resultam potencialmente na extinção humana” – atingiu um impacto diferente.

Por que? Porque quatro dos signatários anônimos são atuais funcionários da OpenAI, criadora do popular ChatGPT. Outros seis trabalhavam lá.

O facto de tantas pessoas intimamente envolvidas em levar a IA às massas temerem pelo futuro é significativo. Embora acreditem que esta tecnologia ainda nascente possa proporcionar “benefícios sem precedentes” à humanidade, temem que o público – e os reguladores – não estejam a compreender o panorama completo.

“As empresas de IA possuem informações substanciais não públicas sobre as capacidades e limitações dos seus sistemas, a adequação das suas medidas de proteção e os níveis de risco de diferentes tipos de danos. No entanto, actualmente têm apenas obrigações fracas de partilhar algumas destas informações com os governos, e nenhuma com a sociedade civil. Não achamos que se possa confiar que todos eles o compartilharão voluntariamente.”

Direito de avisar

Os paralelos entre a inteligência artificial e o espaço criptográfico são bastante nítidos. Ambas as indústrias avançam a uma velocidade vertiginosa e são profundamente técnicas. Isto cria enormes obstáculos tanto para governos como para reguladores. Por um lado, alguns políticos podem achar difícil compreender a questão em si. Basta perguntar ao representante dos EUA Brad Sherman, que se referiu ao criador do Bitcoin como “Saratoshi Nagamoto”. 

https://twitter.com/guti_uno/status/1684383259025883137

A partir daqui, torna-se difícil preparar leis competentes que encorajem a inovação entre os bons intervenientes e, ao mesmo tempo, dissuadam a criminalidade entre os maus. E quando as autoridades conseguem recuperar o atraso, essas indústrias são muitas vezes tão irreconhecíveis que a legislação em debate não consegue reflectir a realidade de como a tecnologia está a ser utilizada... e onde residem os maiores riscos. É revelador que ainda haja uma paralisia regulatória significativa em relação às criptomoedas nos EUA – mais de 15 anos após o lançamento do Bitcoin.

Como observa a carta aberta focada na IA, a falta de supervisão governamental eficaz significa que existe uma enorme dependência de denunciantes dentro das empresas para responsabilizá-los. Uma das maiores preocupações dos autores diz respeito à forma como os acordos de confidencialidade os impedem de falar abertamente.

“As proteções comuns aos denunciantes são insuficientes porque se concentram em atividades ilegais, ao passo que muitos dos riscos que nos preocupam ainda não estão regulamentados. Alguns de nós tememos razoavelmente várias formas de retaliação.”

Direito de avisar

Mais uma vez, aqui existe simetria entre inteligência artificial e criptografia – como evidenciado por um relatório recente, aprofundado e contundente divulgado por um examinador independente encarregado de investigar a implosão da FTX em 2022. Nesse caso, descobriu-se que seis denunciantes anônimos com ações legítimas preocupações foram pagas no valor de US$ 25 milhões. Um deles foi instruído a pedir desculpas ao CEO Sam Bankman-Fried, agora preso, e acabou chegando a um acordo de US$ 16 milhões após renunciar ao cargo.

Embora a indústria de criptografia tenha feito avanços promissores para corrigir erros do passado após uma série de falências nos últimos anos – BlockFi, Voyager e Celsius entre elas – você poderia argumentar que ainda há mais trabalho a ser feito. E isso faz com que os quatro compromissos solicitados às empresas de IA nesta carta aberta sejam especialmente aplicáveis ​​ao setor de ativos digitais.

Há um pedido para que as principais empresas de inteligência artificial se abstenham de aplicar cláusulas que proíbem críticas de servir funcionários preocupados com riscos emergentes - e para que sejam introduzidos procedimentos anónimos para que as preocupações possam ser levadas aos conselhos de administração, reguladores e especialistas. Algumas das maiores controvérsias da criptografia poderiam ter sido evitadas se salvaguardas semelhantes estivessem em vigor.

E para além de abraçarem uma cultura de crítica aberta, há um apelo aos líderes da IA ​​para que prometam que não retaliarão os trabalhadores que divulgam informações confidenciais depois de esgotarem todas as outras possibilidades para escalar um problema.

Não está claro até que ponto esta carta aberta irá mover a agulha na busca pela regulamentação da IA. E há algo a ser dito sobre a transparência inerente à tecnologia blockchain, onde o fluxo de fundos — e os registros de transações — podem ser monitorados em tempo real. Grandes modelos de linguagem, normalmente construídos a portas fechadas, são muito mais opacos em comparação.

Mas as consequências de não agir e os potenciais danos que os consumidores diários enfrentam são igualmente terríveis em ambos os setores. Muitos investidores em criptomoedas perderam as suas poupanças porque não foram adequadamente informados sobre os riscos – com uma falta de coordenação entre os reguladores internacionais para evitar que maus atores offshore não fossem controlados. E à medida que a IA se torna mais inteligente e mais intuitiva a cada dia que passa, agora os meios de subsistência de milhões de pessoas que trabalham arduamente também podem ser comprometidos.

Você também pode gostar: Kraken e Binance processaram US$ 13 bilhões. Por que?