O parte din magia AI generativă este că majoritatea oamenilor nu au idee cum funcționează. La un anumit nivel, este chiar corect să spunem că nimeni nu este pe deplin sigur cum funcționează, deoarece funcționarea interioară a ChatGPT îi poate lăsa nedumeriți pe cei mai străluciți oameni de știință. Este o cutie neagră. Nu suntem pe deplin siguri cum este antrenat, ce date produc ce rezultate și ce IP este călcat în picioare în acest proces. Aceasta este atât parte a magiei, cât și a ceea ce este terifiant. Ariana Spring este un vorbitor la festivalul Consensus de anul acesta, din Austin, Texas, 29-31 mai.
Ce se întâmplă dacă ar exista o modalitate de a privi în interiorul cutiei negre, permițând o vizualizare clară a modului în care AI este guvernată, antrenată și produsă? Acesta este scopul – sau unul dintre obiectivele – al EQTY Lab, care efectuează cercetări și creează instrumente pentru a face modelele AI mai transparente și mai colaborative. Lineage Explorer al EQTY Lab, de exemplu, oferă o vedere în timp real a modului în care este construit modelul.
Toate aceste instrumente sunt menite să verifice opacitatea și centralizarea. „Dacă nu înțelegeți de ce o IA ia deciziile pe care le ia sau cine este responsabil, este foarte greu să interogați de ce sunt aruncate lucruri dăunătoare”, spune Ariana Spring, șefa de cercetare la EQTY Lab. „Deci cred că centralizarea – și păstrarea acestor secrete în cutii negre – este cu adevărat periculoasă.”
Alăturată de colegul ei Andrew Stanco (șeful de finanțe), Spring împărtășește cum cripto poate crea IA mai transparentă, cum aceste instrumente sunt deja implementate în serviciul științei schimbărilor climatice și de ce aceste modele cu sursă deschisă pot fi mai incluzive și mai reprezentative pentru umanitatea în general.
Interviul a fost condensat și ușor editat pentru claritate.
Care este viziunea și scopul EQTY Lab?
Ariana Spring: Suntem pionieri în soluții noi pentru a construi încredere și inovație în AI. Iar IA generativă este un fel de subiect fierbinte în acest moment și aceasta este proprietatea cea mai emergentă, așa că este ceva asupra căruia ne concentrăm.
Dar, de asemenea, ne uităm la toate tipurile diferite de AI și managementul datelor. Și cu adevărat încrederea și inovația sunt locul în care ne sprijinim. Facem asta folosind criptografia avansată pentru a face modelele mai transparente, dar și colaborative. Vedem transparența și colaborarea ca două fețe ale aceleiași monede pentru a crea AI mai inteligentă și mai sigură.
Poți să vorbești puțin mai mult despre cum se potrivește cripto-ul în asta? Pentru că vezi mulți oameni spunând că „Crypto și AI se potrivesc foarte bine”, dar de multe ori rațiunea se oprește la un nivel foarte înalt.
Andrew Stanco: Cred că intersecția dintre AI și cripto este una care este o întrebare deschisă, nu? Un lucru pe care l-am descoperit este că secretul ascuns despre AI este că este colaborativ; are o multitudine de părți interesate. Niciun cercetător de date nu ar putea realiza un model AI. Îl pot antrena, îl pot regla fin, dar criptografia devine o modalitate de a face ceva și apoi de a avea o modalitate inviolabilă de a verifica dacă s-a întâmplat.
Așadar, într-un proces la fel de complex precum antrenamentul AI, deținerea acelor atestări inviolabile și verificabile – atât în timpul antrenamentului, cât și după aceea – ajută cu adevărat. Creează încredere și vizibilitate.
Ariana Spring: Ceea ce facem este că la fiecare pas al ciclului de viață al AI și al procesului de formare, există o legalizare – sau o ștampilă – a ceea ce sa întâmplat. Acesta este ID-ul sau identificatorul descentralizat, care este asociat cu agentul sau cu omul sau cu mașina care efectuează acțiunea respectivă. Ai marcajul de timp. Și cu Lineage Explorer, puteți vedea că tot ceea ce facem este înregistrat automat folosind criptografie.
Și apoi folosim contracte inteligente în produsele noastre de guvernare. Deci, dacă parametrul X este îndeplinit sau nu, o anumită acțiune poate continua sau nu. Unul dintre instrumentele pe care le avem este un studio de guvernare și care, practic, programează modul în care puteți antrena un AI sau cum vă puteți gestiona ciclul de viață al AI, iar acesta este apoi reflectat în aval.
Puteți clarifica puțin ce tip de instrumente construiți? De exemplu, construiți instrumente și faceți cercetări menite să ajute alte startup-uri să construiască modele de instruire sau construiți singuri modele de antrenament? Cu alte cuvinte, care este exact rolul EQTY Labs în acest mediu?
Andrew Stanco: Este o combinație, într-un fel, pentru că ne concentrăm pe întreprindere, deoarece acesta va fi unul dintre primele locuri mari în care trebuie să corectați AI din punct de vedere al formării și al guvernării. Dacă cercetați asta, atunci trebuie să avem o zonă în care un dezvoltator – sau cineva din acea organizație – poate adnota codul și poate spune „Ok, asta sa întâmplat”, apoi să creeze o înregistrare. Este axat pe întreprinderi, cu accent pe lucrul cu dezvoltatorii și cu oamenii care construiesc și implementează modelele.
Ariana Spring: Și am lucrat la antrenarea modelului și prin intermediul Endowment for Climate Intelligence. Am ajutat la formarea unui model numit ClimateGPT, care este un model de limbaj mare specific climatului. Aceasta nu este pâinea și untul nostru, dar am trecut prin procesul și am folosit suita noastră de tehnologii pentru a vizualiza acest proces. Deci înțelegem cum este.
Ce te entuziasmează cel mai mult la AI și ce te sperie cel mai mult la AI?
Andrew Stanco: Vreau să spun, pentru emoție, acel prim moment în care interacționezi cu IA generativă ai simțit că ai desfundat fulgerul din model. Prima dată când creați un prompt în MidJourney sau când ați pus o întrebare ChatGPT, nimeni nu a trebuit să vă convingă că poate că este puternic. Și nu credeam că mai sunt multe lucruri noi, nu?
Și cât despre teroare?
Andrew Stanco: Cred că aceasta este o îngrijorare care poate este subtextul pentru multe dintre ceea ce va fi la Consensus, doar din aruncarea cu ochiul la ordinea de zi. Îngrijorarea este că aceste instrumente permit câștigătorilor existenți să sape moduri mai profunde. Că aceasta nu este neapărat o tehnologie disruptivă, ci una înrădăcinată.
Și Ariana, principala ta emoție și teroare AI?
Ariana Spring: Voi începe cu frica mea pentru că aveam de gând să spun ceva asemănător. Aș spune centralizare. Am văzut daunele centralizării atunci când sunt asociate cu o lipsă de transparență în ceea ce privește modul în care funcționează ceva. Am văzut asta în ultimii 10, 15 ani cu rețelele sociale, de exemplu. Și dacă nu înțelegeți de ce o IA ia deciziile pe care le ia sau cine este responsabil, este foarte greu de interogat de ce sunt aruncate lucruri dăunătoare. Așa că cred că centralizarea – și păstrarea acestor secrete în cutii negre – este cu adevărat periculoasă.
Ce zici de emoție?
Ceea ce mă încântă cel mai mult este să aduc mai mulți oameni. Am avut șansa de a lucra cu mai multe tipuri diferite de grupuri de părți interesate în timp ce antrenam ClimateGPT, cum ar fi grupurile indigene de bătrâni sau tinerii cu venituri mici, din mediul urban, negri și brun, sau studenți din Orientul Mijlociu. Lucrăm cu toți acești activiști în domeniul schimbărilor climatice și academicieni pentru a spune cumva: „Hei, vrei să contribui la îmbunătățirea acestui model?”
Oamenii sunt foarte entuziasmați, dar poate nu au înțeles cum a funcționat. Odată ce i-am învățat cum funcționează și cum ar putea ajuta, îi puteai vedea spunând: „Oh, asta e bine”. Ei capătă încredere. Atunci vor să contribuie mai mult. Așa că sunt foarte încântat, mai ales prin munca pe care o facem la EQTY Research, să încep publicarea unora dintre aceste cadre, astfel încât să nu trebuie să ne bazăm pe sisteme care poate nu sunt atât de reprezentative.
Frumos spus. Ne vedem la Austin la Summitul AI al Consensus.