Un equipo de científicos de Bélgica podría haber resuelto uno de los mayores desafíos en el campo de la IA utilizando un método de entrenamiento descentralizado basado en blockchain. Si bien la investigación aún se encuentra en sus primeras etapas, sus posibles implicaciones podrían ir desde revolucionar la exploración del espacio exterior hasta representar una amenaza existencial para la humanidad.
En un entorno simulado, los investigadores desarrollaron una forma de coordinar el aprendizaje entre agentes de IA autónomos e individuales. El equipo utilizó tecnología blockchain para facilitar y proteger las comunicaciones de los agentes, creando así un “enjambre” descentralizado de modelos de aprendizaje.
Los resultados del entrenamiento individual de cada agente del enjambre se utilizaron para desarrollar un modelo de IA más grande. Debido a que los datos se manejaron a través de blockchain, este sistema más grande se benefició de la inteligencia colectiva del enjambre sin acceder a ninguno de los datos de los agentes individuales.
Enjambres de IA
El aprendizaje automático, un concepto estrechamente relacionado con la inteligencia artificial, se presenta de muchas formas. El chatbot típico, como ChatGPT de OpenAI o Claude de Anthropic, por ejemplo, se desarrolla utilizando múltiples técnicas. Se lo entrena previamente utilizando un paradigma llamado "aprendizaje no supervisado" y luego se lo perfecciona con otro denominado "aprendizaje de refuerzo a partir de la retroalimentación humana".
Uno de los mayores desafíos de este enfoque es que, por lo general, requiere que los datos de entrenamiento del sistema se almacenen en una base de datos centralizada. Esto lo hace poco práctico para aplicaciones que requieren aprendizaje autónomo continuo o donde la privacidad es importante.
El equipo de investigación llevó a cabo su investigación sobre blockchain utilizando un paradigma de aprendizaje llamado "aprendizaje federado descentralizado". Al hacerlo, descubrieron que podían coordinar con éxito los modelos y, al mismo tiempo, mantener la descentralización de los datos.
Seguridad de enjambre
La mayor parte de la investigación del equipo consistió en estudiar la resistencia del enjambre frente a varios métodos de ataque. Debido a que la tecnología blockchain es un libro de contabilidad compartido y la red de entrenamiento utilizada en el experimento estaba descentralizada, el equipo pudo demostrar su solidez frente a los ataques de piratería tradicionales.
Sin embargo, encontraron un umbral definitivo para la cantidad exacta de robots rebeldes que el enjambre podría controlar. Los investigadores desarrollaron escenarios con robots diseñados intencionalmente para dañar la red. Estos incluían agentes con agendas nefastas, agentes con información obsoleta y robots codificados con instrucciones de interrupción simples.
Si bien era relativamente fácil defenderse de los agentes simples y obsoletos, el equipo descubrió que los agentes inteligentes con agendas nefastas podrían eventualmente perturbar la inteligencia del enjambre si una cantidad suficiente de ellos lograba infiltrarse en él.
Esta investigación sigue siendo experimental y solo se ha llevado a cabo mediante simulaciones, pero pronto podría llegar el momento en que los enjambres de robots puedan coordinarse de manera descentralizada. Esto podría permitir que algún día equipos de agentes de IA de diferentes empresas o países trabajen juntos para entrenar a un agente más grande sin sacrificar la privacidad de los datos.