Nel contesto del rapido sviluppo dell'intelligenza artificiale (AI), la ricerca di Google DeepMind suggerisce fattori importanti per raggiungere la super intelligenza artificiale (ASI).
Negli ultimi anni, i modelli di piattaforma hanno fatto grandi progressi e sono ampiamente utilizzati in molte applicazioni. Tuttavia, la creazione di sistemi pionieristici di intelligenza artificiale (AI), capaci di auto-miglioramento e di generazione continua di nuove informazioni, rimane una sfida importante. Il rapporto di Edward Hughes e dei suoi coautori mostra come la natura aperta influisca sullo sviluppo dell'ASI e come raggiungere tale natura negli odierni sistemi di intelligenza artificiale.
La definizione formale di apertura è data sulla base di due aspetti principali: novità e capacità di apprendere. Un sistema è considerato aperto se genera continuamente nuovi dati che hanno valore di apprendimento per migliorare la comprensione e le competenze dell'osservatore.
L’articolo fornisce molti esempi specifici degli attuali sistemi di intelligenza artificiale per illustrare questo concetto. AlphaGo è un tipico esempio di sistema ristretto aperto. AlphaGo ha superato i migliori giocatori di Go del mondo sviluppando strategie nuove e imprevedibili. Tuttavia, la natura aperta di AlphaGo è limitata al gioco Go.
Un altro esempio è il sistema AdA, un agente di apprendimento nell'ambiente 3D XLand2 con 25 miliardi di variazioni di attività. AdA è capace di accumulare competenze complesse e diversificate, ma la sua novità tende a svanire dopo un periodo di formazione. Ciò suggerisce che per mantenere l’apertura sono necessari un ambiente più ricco e attori più forti.
L'articolo discute anche i sistemi evolutivi come POET (Paired open-ended trailblazer), in cui gli agenti e l'ambiente coevolvono. POET illustra il fenomeno del “trampolino di lancio”, in cui gli agenti possono affrontare ambienti molto difficili attraverso un’evoluzione graduale. Tuttavia, questi sistemi devono affrontare anche dei limiti quando l’ambiente non è abbastanza complesso da mantenere l’apertura.
Inoltre, l’articolo afferma anche che gli attuali modelli di piattaforma non soddisfano i criteri di apertura se addestrati solo su set di dati fissi. Questi modelli possono apparire aperti in ambiti ampi, ma se ristretti nell’ambito, rivelano limiti nella loro capacità di generare soluzioni nuove e precise.
Gli autori propongono quattro principali direzioni di ricerca per combinare l'apertura con i modelli di piattaforma: apprendimento per rinforzo (RL), auto-miglioramento, generazione di compiti e algoritmi evolutivi. L’apprendimento per rinforzo ha ottenuto molto successo in ambiti ristretti e modelli come Voyager hanno mostrato il potenziale di auto-miglioramento costruendo una libreria di competenze dal miglioramento continuo delle attività. Gli algoritmi evolutivi forniscono anche un percorso promettente per la creazione di sistemi aperti, con la capacità di implementare mutazioni significative attraverso il testo.
Una parte importante dell'articolo è una discussione sulle questioni di sicurezza e responsabilità durante lo sviluppo di sistemi aperti. L’apertura comporta molti rischi per la sicurezza, tra cui l’errata interpretazione degli obiettivi e l’abuso delle specifiche. È importante garantire che i sistemi aperti possano essere interpretati e controllati nelle mani dell’uomo. Ciò richiede che i sistemi siano in grado di spiegare e interagire con gli esseri umani in modo chiaro e comprensibile.
Nel rapporto, gli autori affermano che gli attuali modelli di piattaforma hanno fatto progressi significativi, ma per andare verso l’ASI è necessario sviluppare sistemi aperti. Questi sistemi possono apportare enormi benefici alla società, tra cui l’accelerazione delle scoperte scientifiche e tecnologiche, il miglioramento della creatività umana e l’espansione della conoscenza generale in molti campi.
Il documento di Google DeepMind ha aperto una nuova direzione nella ricerca sull'intelligenza artificiale, sottolineando l'importanza dell'apertura nel raggiungimento della superintelligenza artificiale. Lo sviluppo responsabile di questi sistemi contribuirà a garantire che offrano i massimi benefici alla società, riducendo al minimo i rischi potenziali.