Součástí kouzla generativní umělé inteligence je, že většina lidí nemá ponětí, jak funguje. Na určité úrovni je dokonce spravedlivé říci, že si nikdo není zcela jistý, jak to funguje, protože vnitřní fungování ChatGPT může nechat ty nejchytřejší vědce na omdlení. Je to černá skříňka. Nejsme si úplně jisti, jak je to trénováno, která data produkují jaké výsledky a jaká IP je v procesu pošlapávána. To je jak část magie, tak součást toho, co je děsivé. Ariana Spring je řečníkem na letošním festivalu Consensus v Austinu v Texasu, 29.–31.
Co kdyby existoval způsob, jak nahlédnout do černé skříňky, což by umožnilo jasnou vizualizaci toho, jak je AI řízena, trénována a vytvářena? To je cíl – nebo jeden z cílů – laboratoře EQTY Lab, která provádí výzkum a vytváří nástroje, aby byly modely umělé inteligence transparentnější a spolupracovaly. Průzkumník linií EQTY Lab například poskytuje pohled na to, jak je model sestaven v reálném čase.
Všechny tyto nástroje jsou určeny jako kontrola proti neprůhlednosti a centralizaci. „Pokud nerozumíte tomu, proč AI dělá rozhodnutí, která dělá, nebo kdo je za to zodpovědný, je opravdu těžké vyslechnout, proč jsou chrlení škodlivé věci,“ říká Ariana Spring, vedoucí výzkumu v EQTY Lab. "Takže si myslím, že centralizace - a udržování těchto tajemství v černých skříňkách - je opravdu nebezpečné."
Spring se spojila se svým kolegou Andrewem Stancem (vedoucí financí) a sdílí, jak mohou kryptoměny vytvořit transparentnější AI, jak jsou tyto nástroje již nasazovány ve službách vědy o změně klimatu a proč mohou být tyto modely s otevřeným zdrojovým kódem inkluzivnější a reprezentativnější. lidstvo jako celek.
Rozhovor byl kvůli přehlednosti zhuštěn a lehce upraven.
Jaká je vize a cíl EQTY Lab?
Ariana Spring: Jsme průkopníky nových řešení pro budování důvěry a inovací v AI. A generativní umělá inteligence je právě teď nějakým žhavým tématem, a to je ta nejrozšířenější vlastnost, takže na to se zaměřujeme.
Ale také se podíváme na všechny různé druhy AI a správy dat. A skutečně se opíráme o důvěru a inovace. Děláme to pomocí pokročilé kryptografie, aby byly modely transparentnější, ale také spolupracovaly. Transparentnost a spolupráci vnímáme jako dvě strany téže mince vytváření chytřejší a bezpečnější umělé inteligence.
Můžete mluvit trochu více o tom, jak do toho krypto zapadá? Protože vidíte, jak mnoho lidí říká, že „Krypto a umělá inteligence se skvěle hodí“, ale odůvodnění se často zastaví na velmi vysoké úrovni.
Andrew Stanco: Myslím, že průnik AI a krypto je otázka, která je otevřená, že? Jedna věc, kterou jsme zjistili, je, že skrytým tajemstvím umělé inteligence je to, že spolupracuje; má mnoho zúčastněných stran. Žádný datový vědec nedokázal vytvořit model umělé inteligence. Mohou to trénovat, mohou to doladit, ale kryptografie se stává způsobem, jak něco udělat, a pak mít způsob, jak ověřit, že se to stalo, odolným proti neoprávněné manipulaci.
Takže v procesu tak složitém, jako je školení AI, mít tato nefalšovaná a ověřitelná atestace – jak během školení, tak po něm – opravdu pomáhá. Vytváří důvěru a viditelnost.
Ariana Spring: Děláme to tak, že v každém kroku životního cyklu AI a tréninkového procesu je notářské ověření – nebo razítko – toho, co se stalo. Toto je decentralizované ID nebo identifikátor, který je spojen s agentem, člověkem nebo strojem, který tuto akci provádí. Máte časové razítko. A s naším Průzkumníkem Lineage můžete vidět, že vše, co děláme, je registrováno automaticky pomocí kryptografie.
A pak používáme chytré smlouvy v našich produktech pro správu věcí veřejných. Takže pokud je X parametr splněn nebo není splněn, určitá akce může pokračovat nebo nepokračovat. Jedním z nástrojů, které máme, je Governance Studio, které v podstatě naprogramuje, jak můžete trénovat AI nebo jak můžete řídit svůj životní cyklus AI, a to se následně odráží.
Můžete trochu upřesnit, jaký typ nástrojů vyrábíte? Vytváříte například nástroje a provádíte výzkum, který má pomoci jiným startupům vytvářet tréninkové modely, nebo stavíte tréninkové modely sami? Jinými slovy, jaká je přesně role EQTY Labs v tomto prostředí?
Andrew Stanco: Je to svým způsobem mix, protože se soustředíme na podnik, protože to bude jedno z prvních velkých míst, kde potřebujete správně nastavit AI z hlediska školení a řízení. Pokud se v tom ponoříte, potřebujeme mít oblast, kde může vývojář – nebo někdo v této organizaci – označit kód a říct: „Dobře, stalo se to,“ a pak vytvořit záznam. Je zaměřený na podniky s důrazem na spolupráci s vývojáři a lidmi, kteří vytvářejí a nasazují modely.
Ariana Spring: A také jsme pracovali na školení modelu prostřednictvím Endowment for Climate Intelligence. Pomohli jsme trénovat model s názvem ClimateGPT, což je velký jazykový model specifický pro klima. To není náš chléb a máslo, ale prošli jsme procesem a použili naši sadu technologií k vizualizaci tohoto procesu. Takže chápeme, jaké to je.
Co vás na AI nejvíc vzrušuje a co vás na AI nejvíc děsí?
Andrew Stanco: Myslím, pro vzrušení, ten první okamžik, kdy interagujete s generativní AI, jste měli pocit, jako byste v modelu odzátkovali blesk. Když poprvé vytvoříte výzvu v MidJourney nebo když jste položili ChatGPT otázku, nikdo vás nemusel přesvědčovat, že možná je to mocné. A už jsem si nemyslel, že je tam mnoho nových věcí, že?
A co se týče teroru?
Andrew Stanco: Myslím, že toto je obava, která je možná podtextem pro mnohé z toho, co bude na Consensusu, jen z nahlédnutí do agendy. Jde o to, že tyto nástroje umožňují stávajícím vítězům proniknout do hlubších režimů. Že se nejedná nutně o rušivou technologii, ale o zakořenění.
A Ariana, vaše hlavní AI vzrušení a hrůza?
Ariana Spring: Začnu svým strachem, protože jsem chtěla říct něco podobného. Řekl bych centralizace. Viděli jsme škody centralizace ve spojení s nedostatkem transparentnosti ohledně toho, jak něco funguje. Viděli jsme to za posledních 10, 15 let například na sociálních sítích. A pokud nerozumíte tomu, proč AI dělá rozhodnutí, která dělá, nebo kdo je za to zodpovědný, je opravdu těžké vyslechnout, proč jsou chrlení škodlivé věci. Takže si myslím, že centralizace – a udržování těchto tajemství v černých skříňkách – je opravdu nebezpečné.
Co takhle vzrušení?
Nejvíc mě těší, že sem přivádím více lidí. Při školení ClimateGPT jsme měli možnost pracovat s několika různými skupinami zainteresovaných stran, jako jsou domorodé skupiny starších nebo s nízkými příjmy, městská, černá a hnědá mládež, nebo studenti na Blízkém východě. Spolupracujeme se všemi těmito klimatickými aktivisty a akademiky, abychom tak trochu řekli: "Hele, chcete pomoci vylepšit tento model?"
Lidé jsou opravdu nadšení, ale možná nechápali, jak to funguje. Jakmile jsme je naučili, jak to funguje a jak mohou pomoci, mohli jste je vidět říkat: "Ach, to je dobré." Získávají sebevědomí. Pak chtějí přispívat více. Takže jsem opravdu nadšený, zejména díky práci, kterou děláme v EQTY Research, že můžeme začít publikovat některé z těchto rámců, abychom se nemuseli spoléhat na systémy, které možná nejsou tak reprezentativní.
Krásně řečeno. Uvidíme se v Austinu na Consensus’ AI Summit.