Daļa no ģeneratīvā AI burvības ir tāda, ka lielākajai daļai cilvēku nav ne jausmas, kā tas darbojas. Noteiktā līmenī ir pat godīgi teikt, ka neviens nav pilnībā pārliecināts, kā tas darbojas, jo ChatGPT iekšējā darbība var apmulsināt spilgtākos zinātniekus. Tā ir melnā kaste. Mēs neesam pilnīgi pārliecināti, kā tas tiek apmācīts, kuri dati rada kādus rezultātus un kāds IP tiek izmīdīts šajā procesā. Tā ir gan daļa no maģijas, gan daļa no tā, kas ir biedējošs. Ariana Spring ir runātāja šī gada festivālā Consensus Ostinā, Teksasā, no 29. līdz 31. maijam.
Kā būtu, ja būtu veids, kā ieskatīties melnajā kastē, ļaujot skaidri vizualizēt, kā AI tiek pārvaldīts, apmācīts un ražots? Tas ir EQTY Lab mērķis vai viens no mērķiem, kas veic pētījumus un rada rīkus, lai padarītu AI modeļus pārredzamākus un sadarbīgākus. Piemēram, EQTY Lab's Lineage Explorer sniedz reāllaika skatījumu par modeļa uzbūvi.
Visi šie rīki ir paredzēti kā pārbaude pret necaurredzamību un centralizāciju. "Ja jūs nesaprotat, kāpēc mākslīgais intelekts pieņem lēmumus, ko tā pieņem, vai kurš ir atbildīgs, ir patiešām grūti jautāt, kāpēc tiek izplatītas kaitīgas lietas," saka Ariana Springa, EQTY Lab pētniecības vadītāja. "Tāpēc es domāju, ka centralizācija un šo noslēpumu glabāšana melnajās kastēs ir patiešām bīstama."
Kopā ar viņas kolēģi Endrjū Stenko (finanšu nodaļas vadītājs) Spring stāsta, kā kriptogrāfija var radīt pārredzamāku mākslīgo intelektu, kā šie rīki jau tiek izmantoti klimata pārmaiņu zinātnē un kāpēc šie atvērtā pirmkoda modeļi var būt iekļaujošāki un reprezentatīvāki. cilvēce kopumā.
Intervija skaidrības labad ir saīsināta un viegli rediģēta.
Kāda ir EQTY Lab vīzija un mērķis?
Ariana Spring: Mēs izstrādājam jaunus risinājumus, lai radītu uzticēšanos un inovācijas AI. Un ģeneratīvā AI šobrīd ir aktuāla tēma, un tas ir visizplatītākais īpašums, tāpēc mēs koncentrējamies uz to.
Taču mēs arī aplūkojam dažādus AI un datu pārvaldības veidus. Un patiesi uzticēšanās un inovācijas ir tas, uz ko mēs tiecamies. Mēs to darām, izmantojot uzlabotu kriptogrāfiju, lai padarītu modeļus pārskatāmākus, bet arī uz sadarbību vērstus. Mēs uzskatām, ka pārredzamība un sadarbība ir vienas monētas divas puses, veidojot viedāku un drošāku AI.
Vai varat pastāstīt nedaudz vairāk par to, kā kriptovalūta iekļaujas šajā jomā? Tā kā jūs redzat, ka daudzi cilvēki saka, ka "Kripto un mākslīgais intelekts ir lieliski piemēroti", taču bieži vien pamatojums apstājas ļoti augstā līmenī.
Endrjū Stanko: Es domāju, ka AI un kriptovalūtu krustpunkts ir atklāts jautājums, vai ne? Viena lieta, ko esam atklājuši, ir tas, ka AI slēptais noslēpums ir tas, ka tas ir sadarbīgs; tajā ir daudz ieinteresēto personu. Neviens datu zinātnieks nevarēja izveidot AI modeli. Viņi var to apmācīt, precizēt, bet kriptogrāfija kļūst par veidu, kā kaut ko darīt un pēc tam nodrošināt pret viltojumiem drošu veidu, kā pārbaudīt, vai tas noticis.
Tātad tik sarežģītā procesā kā mākslīgā intelekta apmācība patiešām palīdz iegūt pret viltojumiem drošus un pārbaudāmus apliecinājumus gan apmācības laikā, gan pēc tam. Tas rada uzticību un atpazīstamību.
Ariana Spring: Mēs darām, ka katrā AI dzīves cikla un apmācības procesa posmā notiek notariāls apstiprinājums vai zīmogs par notikušo. Šis ir decentralizētais ID vai identifikators, kas ir saistīts ar aģentu vai cilvēku vai iekārtu, kas veic šo darbību. Jums ir laikspiedols. Un, izmantojot mūsu Lineage Explorer, jūs varat redzēt, ka viss, ko mēs darām, tiek reģistrēts automātiski, izmantojot kriptogrāfiju.
Un tad savos pārvaldības produktos izmantojam viedos līgumus. Tātad, ja X parametrs ir izpildīts vai nav izpildīts, noteikta darbība var turpināties vai neturpināt. Viens no mūsu rīcībā esošajiem rīkiem ir pārvaldības studija, kas pamatā ieprogrammē, kā jūs varat apmācīt AI vai pārvaldīt savu AI dzīves ciklu, un tas tiek atspoguļots pakārtotajā virzienā.
Vai varat precizēt, kāda veida rīkus jūs veidojat? Piemēram, vai jūs veidojat rīkus un veicat pētījumus, kas ir paredzēti, lai palīdzētu citiem jaunizveidotiem uzņēmumiem izveidot apmācības modeļus, vai arī jūs veidojat apmācības modeļus paši? Citiem vārdiem sakot, kāda tieši ir EQTY Labs loma šajā vidē?
Endrjū Stenko: Savā ziņā tas ir sajaukums, jo mēs koncentrējamies uz uzņēmumu, jo tā būs viena no pirmajām lielajām vietām, kur jums ir nepieciešams pareizi AI no apmācības un pārvaldības viedokļa. Ja jūs to iedziļināsit, mums ir jābūt vietai, kurā izstrādātājs vai kāds no šīs organizācijas var komentēt kodu un pateikt: “Labi, tas notika” un pēc tam izveidot ierakstu. Tas ir vērsts uz uzņēmumu, uzsvaru liekot uz darbu ar izstrādātājiem un cilvēkiem, kuri veido un izvieto modeļus.
Ariana Spring: Mēs esam strādājuši arī pie modeļa apmācības, izmantojot Klimata izlūkošanas fondu. Mēs palīdzējām apmācīt modeli ar nosaukumu ClimateGPT, kas ir klimatam raksturīgs lielas valodas modelis. Tā nav mūsu maize un sviests, taču mēs esam izgājuši cauri šim procesam un izmantojuši mūsu tehnoloģiju komplektu, lai vizualizētu šo procesu. Tātad mēs saprotam, kā tas ir.
Kas jūs visvairāk aizrauj AI un kas jūs visvairāk biedē AI?
Endrjū Stanko: Es domāju, ka sajūsmas labad pirmajā brīdī, kad jūs mijiedarbojāties ar ģeneratīvo AI, šķita, ka esat atkorķējis modelī esošo zibeni. Pirmo reizi veidojot uzvedni pakalpojumā MidJourney vai uzdodot ChatGPT jautājumu, nevienam nebija jūs jāpārliecina, ka tas varbūt ir spēcīgs. Un es nedomāju, ka vairs ir daudz jaunu lietu, vai ne?
Un kas attiecas uz teroru?
Endrjū Stenko: Es domāju, ka šīs ir bažas, kas, iespējams, ir zemteksts daudzām lietām, kas notiks konsensā, tikai paskatoties uz darba kārtību. Bažas rada tas, ka šie rīki ļauj esošajiem uzvarētājiem izpētīt dziļākus režīmus. Ka šī ne vienmēr ir traucējoša tehnoloģija, bet gan iesakņojusies.
Un Ariana, jūsu galvenais AI satraukums un šausmas?
Ariana Spring: Sākšu ar savām bailēm, jo grasījos teikt kaut ko līdzīgu. Es teiktu, centralizācija. Mēs esam redzējuši centralizācijas kaitīgumu, ja to apvieno ar pārskatāmības trūkumu par to, kā kaut kas darbojas. Mēs to esam redzējuši pēdējo 10, 15 gadu laikā, piemēram, sociālajos medijos. Un, ja jūs nesaprotat, kāpēc mākslīgais intelekts pieņem lēmumus, ko tā pieņem, vai kurš ir atbildīgs, ir patiešām grūti iztaujāt, kāpēc tiek izplatītas kaitīgas lietas. Tāpēc es domāju, ka centralizācija un šo noslēpumu glabāšana melnajās kastēs ir patiešām bīstama.
Kā ar sajūsmu?
Visvairāk esmu sajūsmā par to, ka iesaistos vairāk cilvēku. Mums ir bijusi iespēja sadarboties ar vairākām dažāda veida ieinteresēto personu grupām, apmācot ClimateGPT, piemēram, pamatiedzīvotāju grupas vai zemu ienākumu grupas, pilsētu, melnādainiem un brūnajiem jauniešiem, vai studenti Tuvajos Austrumos. Mēs sadarbojamies ar visiem šiem klimata aktīvistiem un akadēmiķiem, lai teiktu: "Hei, vai vēlaties palīdzēt uzlabot šo modeli?"
Cilvēki ir patiešām satraukti, bet varbūt viņi nesaprata, kā tas darbojas. Kad mēs viņiem iemācījām, kā tas darbojas un kā viņi varētu palīdzēt, jūs varētu redzēt, kā viņi saka: "Ak, tas ir labi." Viņi iegūst pārliecību. Tad viņi vēlas dot lielāku ieguldījumu. Tāpēc es ļoti priecājos, jo īpaši saistībā ar darbu, ko veicam uzņēmumā EQTY Research, lai sāktu publicēt dažus no šiem ietvariem, tāpēc mums nav jāpaļaujas uz sistēmām, kuras, iespējams, nav tik reprezentatīvas.
Skaisti teikts. Tiekamies Ostinā Consensus AI samitā.