A explosão da inteligência artificial (IA) está preenchendo nosso mundo com sonhos idealistas ou previsões apocalípticas, mas nenhum dos dois captura a verdadeira ameaça.
Não estamos enfrentando uma “grande rebelião robótica” onde AIs ou robôs realizam uma tomada hostil. Esqueça as cenas de filmes em O Exterminador do Futuro ou Matrix—isso não está nos planos. A tecnologia para que as AIs conquistem o mundo não existe.
A IA pode estar se destacando em tarefas específicas, como dobrar proteínas ou jogar xadrez, mas não é capaz de construir exércitos ou governar nações.
No entanto, essa falta de uma revolta robótica não significa que estamos seguros. A IA está infiltrando nossas vidas silenciosamente através de meios menos dramáticos, mas igualmente poderosos: a burocracia digital.
O verdadeiro perigo não são robôs assassinos. É a invasão da IA em decisões que controlam nossas vidas diárias. Os humanos evoluíram para temer ameaças tangíveis. Pense em grandes predadores, como leões e tubarões.
Mas estamos menos preparados para detectar ameaças provenientes de papelada, documentos ou burocracia. A própria burocracia é uma invenção relativamente nova, tendo se desenvolvido apenas há 5.000 anos com a criação da escrita.
Antes da escrita, a propriedade, por exemplo, dependia do que a comunidade concordava. Se você “possuía” um pedaço de terra, era porque seus vizinhos respeitavam isso. Nenhum documento era necessário.
De tabelas de argila a burocratas digitais
Tudo isso mudou quando as pessoas começaram a usar tabelas de argila e registros. Documentos escritos significavam que os direitos de propriedade não eram mais sobre consenso comunitário, mas registros oficiais. Os antigos mesopotâmios transformaram pedaços de barro em símbolos oficiais de propriedade, invertendo a ideia de propriedade.
Uma decisão judicial pode ser baseada em uma tabela de argila dizendo que você possuía um pedaço de terra, mesmo que a comunidade não concordasse. Avançando para hoje, nossos sistemas ainda são construídos sobre princípios semelhantes, só que agora usamos chips de silício e registros digitais em vez de argila.
Essa mudança transformou estruturas de poder. A propriedade tornou-se algo que poderia ser vendido e trocado sem um aceno da comunidade local. Burocracias surgiram, tornando possível a arrecadação de impostos, financiamento militar e governo central.
Os burocratas se tornaram jogadores essenciais nesses sistemas, usando registros, formulários e carimbos para gerenciar exércitos, alocar recursos e até controlar leis. Esses sistemas burocráticos deram origem a estados centralizados com controle extensivo sobre suas populações, um controle que agora está se transferindo para a IA.
A IA não precisa levantar um exército robótico; ela só precisa dominar sistemas burocráticos. Dentro desses quadros, a IA pode tomar decisões mais influentes do que qualquer humano, como vemos hoje. As AIs já estão decidindo se recebemos empréstimos, ofertas de emprego, admissões em faculdades e até diagnósticos médicos.
Imagine banqueiros de IA determinando a elegibilidade de crédito, juízes de IA decidindo casos judiciais ou AIs militares calculando alvos de ataque. A IA não precisa de uma rebelião robótica. O poder burocrático que está herdando já é enorme.
IA nas mídias sociais e influência pública
Os algoritmos das mídias sociais, embora primitivos, já estão exercendo um poder imenso. Os algoritmos de IA, particularmente os do Facebook, X (anteriormente Twitter), YouTube e TikTok, são elaborados com um único objetivo em mente: o engajamento do usuário. Quanto mais tempo as pessoas ficam nessas plataformas, mais dinheiro flui para as corporações.
Através de tentativa e erro com bilhões de usuários, esses algoritmos descobriram que provocar emoções como ganância, raiva e medo aumenta o engajamento. Quando pressionam esses botões emocionais, mantêm os usuários viciados.
Esses algoritmos não pararam de otimizar o tempo gasto online. Eles foram além, descobrindo que conteúdos que provocam emoções intensas aumentam o engajamento do usuário. Essa descoberta resultou na disseminação de teorias da conspiração, desinformação e divisões sociais.
O mundo hoje está inundado com indignação digital, alarmismo e polarização, graças a algoritmos que priorizam cliques em vez de coesão. Ao explorar gatilhos emocionais, os algoritmos das mídias sociais alimentaram a epidemia atual de teorias da conspiração e notícias falsas.
Esses “decisores” algorítmicos não são inerentemente maliciosos. Pelo contrário, eles são otimizados para desempenhar seus papéis de forma eficiente. No entanto, suas decisões carecem da intuição ou contexto humano que geralmente esperamos em áreas tão importantes.
A IA pode fazer julgamentos mais rápidos ou mais consistentes, mas se algo der errado, os resultados podem ser desastrosos. Esse risco potencial já se tornou visível na influência das mídias sociais sobre a sociedade, servindo como um aviso para onde o poder descontrolado da IA pode levar.
Biden estabelece regras de IA para o Pentágono e agências de inteligência
O presidente Joe Biden anunciou um memorando de segurança nacional com novas regras para o uso de IA na segurança nacional, impedindo o Pentágono e agências de inteligência de usar IA de maneiras que contradigam valores democráticos.
Esta é a primeira diretriz que orienta o papel da IA na segurança nacional. As novas regras incentivarão a experimentação com IA, garantindo que os órgãos governamentais não usem IA para infringir direitos como a liberdade de expressão ou minar os controles nucleares.
“Nosso memorando orienta o primeiro quadro governamental sobre nossos compromissos de gerenciamento de riscos em IA,” disse o conselheiro de segurança nacional Jake Sullivan. Ele delineou metas para evitar preconceitos, manter a responsabilidade e garantir que haja supervisão humana da IA em funções sensíveis.
Embora não sejam legalmente vinculativas, as regras abrangem aplicações de segurança nacional como cibersegurança, contrainteligência e logística em operações militares. Biden também emitiu controles de exportação no ano passado, retardando os avanços em IA da China ao restringir o acesso à tecnologia.
Sob a diretriz, o Instituto de Segurança da IA em Washington será responsável por inspecionar ferramentas de IA para prevenir abusos antes do lançamento, com a comunidade de inteligência dos EUA priorizando o monitoramento dos avanços em IA em outros países.