Ilya Sutskever, cofondator OpenAI, a subliniat la conferința sistemelor de procesare a informațiilor neuronale (NeurIPS) din Vancouver, Canada, pe 15 decembrie, că dezvoltarea AI-ului a ajuns într-un punct de cotitură critic, tehnicile de pre-antrenament întâmpinând treptat obstacole, iar viitorul va înainta spre inteligența superioară artificială (Artificial Super Intelligence, ASI).
Datele de pre-antrenament ale AI-ului se confruntă cu un „tavan”, transformarea fiind inevitabilă.
Sutskever a declarat la conferință că era pre-antrenamentului AI se apropie de sfârșit. El consideră că volumul de date disponibile pe internet se află aproape de limita sa, iar în viitor va fi nevoie de noi tehnologii pentru a continua să avanseze AI-ul spre următoarea etapă, dezvoltând în cele din urmă inteligența superioară artificială (ASI).
Sutskever a subliniat că, odată cu progresul continuu al software-ului și hardware-ului și al algoritmilor, capacitatea de calcul a AI-ului s-a îmbunătățit semnificativ, dar datele utilizate pentru antrenarea AI-ului nu pot fi extinse nelimitat. Sutskever a comparat datele cu „combustibilul fosil” al AI-ului, afirmând: „Datele nu vor crește la nesfârșit, deoarece internetul este unic. Datele sunt ca combustibilul fosil al AI-ului, care este pe cale de a se epuiza, iar în viitor trebuie să găsim modalități de a folosi cât mai bine datele existente.”
(Nota: modelul de pre-antrenament se referă la modele care nu trebuie să fie antrenate de la zero, ci care au învățat deja cunoștințe de bază.)
Cele trei tehnologii cheie pentru avansarea dezvoltării AI-ului
Deși Sutskever a subliniat la conferință problemele cu care se confruntă în prezent AI-ul, el a propus și cele trei tehnologii cheie care ar putea influența evoluția AI-ului către inteligența superioară artificială (ASI) în viitor:
AI autonom (Agentic AI): poate lua decizii și executa sarcini fără intervenție umană, ajustându-și comportamentul în funcție de obiective și mediu. Spre deosebire de AI Agent, care acționează în principal pasiv sau conform unei logici fixe, necesitând mai multă intervenție umană.
Date sintetice (Synthetic Data): utilizând AI-ul pentru a genera date simulate de înaltă calitate, pentru a rezolva problema insuficienței datelor. De exemplu, să presupunem că dorim să antrenăm un model AI pentru a recunoaște vehiculele care circulă pe drum, dar datele de trafic din lumea reală sunt insuficiente, putem folosi tehnologia sintetică pentru a „genera” multe vehicule și scenarii simulate pentru a compensa.
Calcul în timp real (Inference Time Computing): îmbunătățirea capacității de calcul a modelului AI, astfel încât AI-ul să poată rezolva probleme complexe mai rapid.
Sutskever consideră că aceste trei tehnologii majore pot avansa tehnologia AI actuală către „inteligența superioară artificială” (ASI).
Frenezia AI-ului cuprinde piața blockchain și LLM.
Conceptul de agenți AI nu este doar un subiect de interes în domeniul tehnologiei, ci și multe monede meme și modele de limbaj de mari dimensiuni (LLMs) au început să integreze tehnologia AI, cum ar fi agentul AI Truth Terminal care promovează pe rețelele sociale moneda meme GOAT, cu o capitalizare de piață care a crescut la 600 de milioane de dolari, iar cunoscutul investitor a16z, Marc Andreessen, a fost de asemenea impresionat de Truth Terminal.
Și recent, cel mai cunoscut caz de combinație a agenților AI cu modele de limbaj de mari dimensiuni este modelul Gemini 2.0 lansat de Google DeepMind. Conform declarațiilor oficiale de la Google, Gemini 2.0 poate genera direct imagini, texte, și chiar transforma texte în voce, având capacitatea de a ajusta efectele sonore în funcție de diferite limbi. De asemenea, poate utiliza căutarea Google, execuția de cod și poate folosi instrumente terțe personalizate de utilizatori.
Avantajele AI-ului autonom, rezolvarea problemei „halucinațiilor AI”
Sutskever subliniază că AI-ul autonom și calculul în timp real ajută la rezolvarea „halucinațiilor AI” (AI Hallucinations) în procesul de antrenare a AI-ului. Așa-numitele halucinații AI se referă la faptul că, din cauza insuficienței datelor de antrenament, modelul AI poate produce informații eronate sau false. Odată cu noua generație de modele AI care depind în continuare de datele generate de modelele vechi, această problemă se va agrava.
Sutskever afirmă că, pentru a rezolva problema „halucinațiilor”, AI-ul autonom poate întări abilitatea de raționare și calculul în timp real pentru a judeca eficient veridicitatea datelor, sporind astfel fiabilitatea și eficiența AI-ului.
Se confruntă cu problema majoră a limitelor datelor de antrenament ale AI-ului care cauzează „halucinații”, care, de fapt, nu este în întregime în conformitate cu gândirea lui Jensen Huang, CEO-ul Nvidia. Anterior, Huang a subliniat această problemă într-un interviu și a propus cele trei etape importante de îmbunătățire a „halucinațiilor” în viitor:
Antrenament inițial:
Reprezintă etapa de bază pentru AI, prin absorbția masivă a datelor din lumea reală, pentru a „învăța” și a „descoperi” diverse cunoștințe, însă aceasta este doar o introducere, iar profunzimea nu este suficientă.
Antrenament ulterior:
Aceasta este etapa de întărire a AI-ului, prin feedback uman, cum ar fi evaluarea de către oameni. De asemenea, AI-ul își oferă propriul feedback, folosind date sintetice pentru a simula mai multe situații. În acest moment, se vor introduce tehnici precum învățarea prin întărire și învățarea pe mai multe căi, pentru a ajuta AI-ul să se concentreze pe perfecționarea abilităților specifice, astfel încât să înțeleagă mai bine cum să rezolve probleme.
Scalarea timpului de testare (Test Time Scaling):
Această etapă poate fi înțeleasă ca AI-ul începând să „gândească”. Când se confruntă cu probleme complexe, AI-ul va descompune problema pas cu pas, simulând diferite soluții repetitiv, și apoi va ajusta constant pentru a găsi răspunsul optim. Jensen Huang consideră că, dacă se oferă AI-ului mai mult „timp de gândire”, răspunsurile obținute pot fi mai precise sau de o calitate mai înaltă.
Acest articol va marca sfârșitul pre-antrenamentului AI! Cofondatorul OpenAI: AI-ul autonom și datele sintetice accelerează sosirea epocii inteligenței superioare artificiale. A apărut prima dată în lanțul de știri ABMedia.