Uma equipe de cientistas na Bélgica pode ter resolvido um dos maiores desafios no campo da IA usando um método de treinamento descentralizado baseado em blockchain. Embora a pesquisa ainda esteja em seus estágios iniciais, suas potenciais implicações podem variar de revolucionar a exploração do espaço sideral a representar uma ameaça existencial à humanidade.
Em um ambiente simulado, os pesquisadores desenvolveram uma maneira de coordenar o aprendizado entre agentes de IA individuais e autônomos. A equipe usou a tecnologia blockchain para facilitar e proteger as comunicações dos agentes, criando assim um “enxame” descentralizado de modelos de aprendizado.
Os resultados individuais do treinamento para cada agente no enxame foram então usados para desenvolver um modelo de IA maior. Como os dados eram manipulados via blockchain, esse sistema maior se beneficiava da inteligência coletiva do enxame sem acessar nenhum dado dos agentes individuais.
Enxames de IA
O aprendizado de máquina, um conceito intimamente relacionado à inteligência artificial, vem em muitas formas. O chatbot típico, como o ChatGPT da OpenAI ou o Claude da Anthropic, por exemplo, é desenvolvido usando várias técnicas. Ele é pré-treinado usando um paradigma chamado "aprendizado não supervisionado" e então ajustado com outro chamado "aprendizado por reforço a partir do feedback humano".
Um dos maiores desafios com essa abordagem é que, normalmente, ela requer que os dados de treinamento do sistema sejam isolados em um banco de dados centralizado. Isso a torna impraticável para aplicativos que exigem aprendizado autônomo contínuo ou onde a privacidade é importante.
A equipe de pesquisa conduziu sua pesquisa de blockchain usando um paradigma de aprendizagem chamado “aprendizagem federada descentralizada”. Ao fazer isso, eles descobriram que poderiam coordenar os modelos com sucesso, mantendo a descentralização dos dados.
Segurança de enxame
A maior parte da pesquisa da equipe envolveu o estudo da resiliência do enxame contra vários métodos de ataque. Como a tecnologia blockchain é um livro-razão compartilhado e a rede de treinamento usada no experimento era descentralizada, a equipe conseguiu demonstrar robustez contra ataques de hackers tradicionais.
No entanto, eles encontraram um limite definitivo para exatamente quantos robôs desonestos o enxame poderia controlar. Os pesquisadores desenvolveram cenários apresentando robôs projetados intencionalmente para prejudicar a rede. Isso incluía agentes com agendas nefastas, agentes com informações desatualizadas e robôs codificados com instruções simples de interrupção.
Embora fosse relativamente fácil se defender dos agentes simples e desatualizados, a equipe descobriu que agentes inteligentes com agendas nefastas poderiam eventualmente perturbar a inteligência do enxame se um número suficiente deles conseguisse se infiltrar.
Esta pesquisa continua experimental e só foi conduzida por meio de simulações. Mas pode chegar em breve um momento em que enxames de robôs podem ser coordenados de forma descentralizada. Isso pode um dia permitir que equipes de agentes de IA de diferentes empresas ou países trabalhem juntas para treinar um agente maior sem sacrificar a privacidade dos dados.