Un team di scienziati in Belgio potrebbe aver risolto una delle più grandi sfide nel campo dell'intelligenza artificiale utilizzando un metodo di formazione decentralizzato basato su blockchain. Sebbene la ricerca sia ancora nelle sue fasi iniziali, le sue potenziali implicazioni potrebbero spaziare dalla rivoluzione dell'esplorazione dello spazio esterno alla minaccia esistenziale per l'umanità.
In un ambiente simulato, i ricercatori hanno sviluppato un modo per coordinare l'apprendimento tra singoli agenti AI autonomi. Il team ha utilizzato la tecnologia blockchain per facilitare e proteggere le comunicazioni degli agenti, creando così uno "sciame" decentralizzato di modelli di apprendimento.
I risultati individuali dell'addestramento per ogni agente nello sciame sono stati poi utilizzati per sviluppare un modello di IA più ampio. Poiché i dati sono stati gestiti tramite blockchain, questo sistema più ampio ha beneficiato dell'intelligenza collettiva dello sciame senza accedere a nessuno dei dati dei singoli agenti.
Sciami di intelligenza artificiale
L'apprendimento automatico, un concetto strettamente correlato all'intelligenza artificiale, si presenta in molte forme. Il tipico chatbot, come ChatGPT di OpenAI o Claude di Anthropic, ad esempio, viene sviluppato utilizzando più tecniche. Viene pre-addestrato utilizzando un paradigma chiamato "apprendimento non supervisionato" e poi perfezionato con un altro denominato "apprendimento di rinforzo dal feedback umano".
Una delle sfide più grandi con questo approccio è che, in genere, richiede che i dati di training del sistema siano isolati in un database centralizzato. Ciò lo rende poco pratico per le applicazioni che richiedono un apprendimento autonomo continuo o ovunque la privacy sia importante.
Il team di ricerca ha condotto la propria ricerca sulla blockchain utilizzando un paradigma di apprendimento chiamato "apprendimento federato decentralizzato". In tal modo, hanno scoperto di poter coordinare con successo i modelli mantenendo la decentralizzazione dei dati.
Sicurezza dello sciame
La maggior parte della ricerca del team ha coinvolto lo studio della resilienza dello sciame contro vari metodi di attacco. Poiché la tecnologia blockchain è un registro condiviso e la rete di addestramento utilizzata nell'esperimento era essa stessa decentralizzata, il team è stato in grado di dimostrare robustezza contro i tradizionali attacchi di hacking.
Tuttavia, hanno trovato una soglia definitiva per il numero esatto di robot canaglia che lo sciame poteva gestire. I ricercatori hanno sviluppato scenari con robot progettati intenzionalmente per danneggiare la rete. Questi includevano agenti con programmi nefasti, agenti con informazioni obsolete e robot codificati con semplici istruzioni di interruzione.
Mentre gli agenti semplici e obsoleti erano relativamente facili da difendere, il team ha scoperto che agenti intelligenti con obiettivi nefasti avrebbero potuto alla fine perturbare l'intelligenza dello sciame se un numero sufficiente di individui fosse riuscito a infiltrarsi al suo interno.
Questa ricerca rimane sperimentale ed è stata condotta solo tramite simulazioni. Ma potrebbe presto arrivare il momento in cui gli sciami di robot potranno essere coordinati in modo trasversale e decentralizzato. Ciò potrebbe un giorno consentire a team di agenti AI di diverse aziende o paesi di lavorare insieme per addestrare un agente più grande senza sacrificare la privacy dei dati.