I cofondatori di OpenAI, Ilya Sutskever, hanno sottolineato durante la conferenza NeurIPS tenutasi a Vancouver, Canada, il 15/12, che lo sviluppo dell'AI è arrivato a un punto di svolta cruciale, con le tecniche di pre-addestramento che stanno affrontando ostacoli, e che in futuro si avvierà verso l'intelligenza superumano (Artificial Super Intelligence, ASI).

I dati di pre-addestramento dell'AI incontrano un "tetto", la trasformazione è inevitabile.

Sutskever ha dichiarato alla conferenza che l'era del pre-addestramento dell'AI sta per finire. Ritiene che la quantità di dati disponibili in rete sia vicina al limite, e che in futuro saranno necessarie nuove tecnologie per continuare a spingere l'AI verso la prossima fase, con l'obiettivo finale di sviluppare un'intelligenza superumano (ASI).

Sutskever ha sottolineato che, con il continuo progresso di hardware, software e algoritmi, le capacità di calcolo dell'AI sono notevolmente aumentate, ma i dati utilizzati per addestrare l'AI non possono essere espansi all'infinito. Sutskever ha paragonato i dati al "carburante fossile" dell'AI, affermando: "I dati non cresceranno all'infinito, poiché esiste solo una rete. I dati sono come il carburante fossile dell'AI, e attualmente sono quasi esauriti. In futuro, sarà necessario trovare modi per sfruttare appieno i dati esistenti."

(Nota: i modelli di pre-addestramento si riferiscono a modelli che non devono essere addestrati da zero, poiché hanno già appreso le conoscenze di base.)

Tre tecnologie chiave per promuovere lo sviluppo dell'AI

Sebbene Sutskever abbia evidenziato i problemi attuali dell'AI durante la conferenza, ha anche presentato tre tecnologie chiave che potrebbero influenzare l'evoluzione dell'AI verso l'intelligenza superumano (ASI) in futuro:

  1. AI autonoma (Agentic AI): può prendere decisioni e svolgere compiti senza l'intervento umano, in grado di adattare il comportamento in base a obiettivi e ambienti dinamici. A differenza degli agenti AI, gli agenti AI sono principalmente passivi o agiscono in base a logiche fisse, necessitando di maggiori interventi umani.

  2. Dati sintetici (Synthetic Data): utilizzando l'AI per generare autonomamente dati simulati di alta qualità, risolvendo il problema della carenza di dati. Ad esempio, se si desidera addestrare un modello AI per riconoscere veicoli in movimento, ma i dati di traffico nel mondo reale sono insufficienti, possiamo utilizzare tecniche sintetiche per "generare" molti veicoli e scenari simulati come sostituti.

  3. Calcolo in tempo reale (Inference Time Computing): migliorare le capacità di calcolo dei modelli AI, permettendo all'AI di risolvere problemi complessi più rapidamente.

Sutskever ritiene che queste tre tecnologie principali possano portare l'attuale tecnologia AI verso l' "intelligenza superumano" (ASI).

L'ondata di AI travolge il mercato blockchain e LLM.

Il concetto di agenti AI non è solo sotto i riflettori nel campo tecnologico, ma molte criptovalute meme e modelli linguistici di grandi dimensioni (LLM) stanno anche iniziando a integrare la tecnologia AI. Ad esempio, l'agente AI Truth Terminal promuove su social media la criptovaluta meme GOAT, il cui valore di mercato è salito a 600 milioni di dollari, suscitando anche l'ammirazione del noto investitore a16z, Marc Andreessen.

Uno dei casi più noti di recenti agenti AI combinati con modelli linguistici di grandi dimensioni è il modello Gemini 2.0 lanciato da Google DeepMind. Secondo quanto dichiarato ufficialmente da Google, Gemini 2.0 può generare direttamente immagini, testo e persino convertire il testo in voce, oltre a poter regolare gli effetti sonori in diverse lingue, utilizzare direttamente Google Search, eseguire codice e utilizzare strumenti di terze parti personalizzati dagli utenti.

Vantaggi dell'AI autonoma, risolvendo il problema delle "allucinazioni" dell'AI.

Sutskever ha sottolineato che l'AI autonoma e il calcolo in tempo reale possono aiutare a risolvere il problema delle "allucinazioni" dell'AI. Le cosiddette allucinazioni dell'AI si riferiscono al fatto che, a causa di dati di addestramento insufficienti, i modelli AI potrebbero produrre informazioni errate o imprecise. Poiché la nuova generazione di modelli AI continua a fare affidamento sui dati prodotti dai modelli precedenti, questo problema diventerà sempre più grave.

Sutskever ha affermato che, per risolvere il problema delle "allucinazioni", l'AI autonoma può rafforzare le capacità di ragionamento e calcolo in tempo reale per giudicare efficacemente la veridicità dei dati, migliorando l'affidabilità e le prestazioni dell'AI.

Di fronte al grande problema delle "allucinazioni" causato dal raggiungimento del limite dei dati di addestramento dell'AI, l'opinione di Jensen Huang, CEO di Nvidia, non è del tutto la stessa. Huang ha anche evidenziato questo problema in precedenti interviste e ha proposto tre fasi importanti per migliorare le "allucinazioni" in futuro:

  • Addestramento preliminare:

    • Per la fase fondamentale dell'AI, attraverso l'assorbimento massiccio di dati dal mondo reale, per "apprendere" e "scoprire" varie conoscenze, ma questo è solo un'introduzione, non è ancora abbastanza profondo.

  • Addestramento posteriore:

    • Questa è la fase di potenziamento dell'AI, attraverso feedback umani, come il punteggio fornito dagli esseri umani. E anche il feedback dell'AI stessa, utilizzando dati sintetici per simulare più situazioni. In questo momento si integreranno tecnologie come il rafforzamento dell'apprendimento e l'apprendimento multi-path per aiutare l'AI a concentrarsi e migliorare competenze specifiche, rendendola più consapevole di come risolvere i problemi.

  • Scalabilità del tempo di test (Test Time Scaling):

    • Questa fase può essere compresa come l'inizio del "pensiero" dell'AI. Quando si affrontano problemi complessi, l'AI scompone il problema passo dopo passo, simulando ripetutamente diverse soluzioni, per poi regolare continuamente per trovare la risposta migliore. Jensen Huang ritiene che, se si fornisce più "tempo di pensiero" all'AI, le risposte che ottiene potrebbero essere più precise o di qualità superiore.

Questo articolo segna la conclusione del pre-addestramento dell'AI! Il cofondatore di OpenAI: l'AI autonoma e i dati sintetici accelerano l'arrivo dell'era dell'intelligenza superumano, apparso per la prima volta su Lian News ABMedia.