La sfârșitul lunii iulie, Mark Zuckerberg a scris o scrisoare în care explică de ce „sursa deschisă este necesară pentru un viitor AI pozitiv”, în care își exprimă poetic necesitatea dezvoltării AI cu sursă deschisă. Adolescentul fondator cândva tocilar, acum transformat în „Zuck”, luptă cu lanțuri de aur și jiu-jitsu, a fost etichetat drept mesia dezvoltării modelelor open-source.
Dar până acum, el și echipa Meta nu au articulat prea multe despre modul în care sunt implementate aceste modele. Deoarece complexitatea modelului crește cerințele de calcul, dacă implementarea modelului este controlată de câțiva actori, atunci nu am cedat la o formă similară de centralizare? Inteligența artificială descentralizată promite să rezolve această provocare, dar tehnologia necesită progrese în tehnicile criptografice de vârf în industrie și soluții hibride unice.
Acest articol de opinii face parte din noul DePIN Vertical al CoinDesk, care acoperă industria emergentă a infrastructurii fizice descentralizate.
Spre deosebire de furnizorii centralizați de cloud, AI descentralizat (DAI) distribuie procesele de calcul pentru inferența și instruirea AI în mai multe sisteme, rețele și locații. Dacă sunt implementate corect, aceste rețele, un tip de rețea de infrastructură fizică descentralizată (DePIN), aduc beneficii în ceea ce privește rezistența la cenzură, accesul la calcul și costurile.
DAI se confruntă cu provocări în două domenii principale: mediul AI și infrastructura descentralizată în sine. În comparație cu sistemele centralizate, DAI necesită măsuri de protecție suplimentare pentru a preveni accesul neautorizat la detaliile modelului sau furtul și replicarea informațiilor proprietare. Din acest motiv, există o oportunitate subexploatată pentru echipele care se concentrează pe modele open-source, dar recunosc potențialul dezavantaj de performanță al modelelor open-source în comparație cu omologii lor cu sursă închisă.
Sistemele descentralizate se confruntă în mod specific cu obstacole în ceea ce privește integritatea rețelei și supraîncărcarea resurselor. Distribuția datelor clienților pe noduri separate, de exemplu, expune mai mulți vectori de atac. Atacatorii ar putea să rotească un nod și să analizeze calculele acestuia, să încerce să intercepteze transmisiile de date între noduri sau chiar să introducă părtiniri care degradează performanța sistemului. Chiar și într-un model de inferență descentralizat securizat, trebuie să existe mecanisme de auditare a proceselor de calcul. Nodurile sunt stimulate să economisească costurile resurselor prezentând calcule incomplete, iar verificarea este complicată de lipsa unui actor centralizat și de încredere.
Dovezi cu cunoștințe zero
Dovezile cu cunoștințe zero (ZKPs), deși în prezent sunt prea costisitoare din punct de vedere computațional, sunt o soluție potențială la unele provocări DAI. ZKP este un mecanism criptografic care permite unei părți (dovatorul) să convingă o altă parte (verificatorul) de adevărul unei declarații fără a divulga detalii despre declarația în sine, cu excepția validității acesteia. Verificarea acestei dovezi este rapidă pentru rularea altor noduri și oferă o modalitate pentru fiecare nod de a demonstra că a acționat în conformitate cu protocolul. Diferențele tehnice dintre sistemele de probă și implementările lor (deep-dive on acest lucru mai târziu) sunt importante pentru investitorii din spațiu.
Calculul centralizat face ca antrenamentul de model să fie exclusiv pentru o mână de jucători bine poziționați și cu resurse. ZKP-urile ar putea fi o parte a deblocării calculului inactiv pe hardware-ul de consum; un MacBook, de exemplu, ar putea folosi lățimea de bandă suplimentară de calcul pentru a ajuta la antrenarea unui model de limbă mare, în timp ce câștigă jetoane pentru utilizator.
Desfășurarea de instruire descentralizată sau inferență cu hardware-ul de consum este punctul central al echipelor precum Gensyn și Inference Labs; Spre deosebire de o rețea de calcul descentralizată precum Akash sau Render, fragmentarea calculelor adaugă complexitate, și anume problema cu virgulă mobilă. Folosirea resurselor de calcul distribuite inactiv deschide ușa dezvoltatorilor mai mici pentru a-și testa și antrena propriile rețele – atâta timp cât au acces la instrumente care rezolvă provocările asociate.
În prezent, sistemele ZKP sunt aparent cu patru până la șase ordine de mărime mai scumpe decât rularea nativă a calculului, iar pentru sarcinile care necesită calcul ridicat (cum ar fi antrenamentul modelului) sau latență scăzută (cum ar fi inferența modelului) utilizarea unui ZKP este prohibitiv de lentă. Pentru comparație, o scădere de șase ordine de mărime înseamnă că un sistem de ultimă oră (cum ar fi Jolt al lui a16z) care rulează pe un cip M3 Max poate dovedi un program de 150 de ori mai lent decât rularea acestuia pe un calculator grafic TI-84.
Capacitatea AI de a procesa cantități mari de date o face compatibilă cu dovezile zero-knowledge (ZKP), dar este nevoie de mai multe progrese în criptografie înainte ca ZKP-urile să poată fi utilizate pe scară largă. Lucrările efectuate de echipe precum Irreductible (care a proiectat sistemul de verificare și schema de angajament Binius), Gensyn, TensorOpera, Hellas și Inference Labs, printre altele, va fi un pas important în realizarea acestei viziuni. Cronologie, totuși, rămân prea optimiste, deoarece adevărata inovație necesită timp și progrese matematice.
Între timp, merită remarcate și alte posibilități și soluții hibride. HellasAI și alții dezvoltă noi metode de reprezentare a modelelor și calculelor care pot permite un joc de provocare optimist, permițând doar un subset de calcul care trebuie gestionat în cunoștințe zero. Dovezile optimiste funcționează numai atunci când există miza, capacitatea de a dovedi greșelile și o amenințare credibilă că calculul este verificat de alte noduri din sistem. O altă metodă, dezvoltată de Inference Labs, validează un subset de interogări în care un nod se angajează să genereze un ZKP cu o legătură, dar prezintă doar dovada dacă este contestat mai întâi de client.
În Sum
Instruirea și inferența AI descentralizată vor servi drept protecție împotriva consolidării puterii de către câțiva actori majori, deblocând în același timp calcularea inaccesibilă anterior. ZKP-urile vor fi o parte integrantă a permiterii acestei viziuni. Computerul dvs. va putea să vă câștige bani reali în mod imperceptibil utilizând putere suplimentară de procesare în fundal. Dovezi succinte că un calcul a fost efectuat corect vor face să nu fie necesară încrederea pe care cei mai mari furnizori de cloud o folosesc, permițând rețelelor de calcul cu furnizori mai mici să atragă clientela întreprinderilor.
În timp ce dovezile fără cunoștințe vor permite acest viitor și vor fi o parte esențială a mai mult decât rețelele de calcul (cum ar fi viziunea Ethereum pentru finalitatea unui singur slot), suprafața lor de calcul rămâne un obstacol. Soluțiile hibride care combină mecanica teoriei jocurilor a jocurilor optimiste cu utilizarea selectivă a dovezilor fără cunoștințe sunt o soluție mai bună și, probabil, vor deveni omniprezente ca punct de legătură până când ZKP-urile devin mult mai rapide.
Pentru investitorii cripto nativi și non-nativi, înțelegerea valorii și provocărilor sistemelor AI descentralizate va fi crucială pentru implementarea eficientă a capitalului. Echipele ar trebui să aibă răspunsuri la întrebările referitoare la dovezile de calcul ale nodurilor și la redundanțele de rețea. În plus, așa cum am observat în multe proiecte DePIN, descentralizarea are loc în timp, iar planul clar al echipelor față de această viziune este esențial. Rezolvarea provocărilor asociate cu calculul DePIN este esențială pentru a preda controlul înapoi persoanelor fizice și dezvoltatorilor mici - o parte vitală a menținerii sistemelor noastre deschise, gratuite și rezistente la cenzură.
Notă: Opiniile exprimate în această coloană sunt cele ale autorului și nu reflectă neapărat cele ale CoinDesk, Inc. sau ale proprietarilor și afiliaților săi.