Częścią magii generatywnej sztucznej inteligencji jest to, że większość ludzi nie ma pojęcia, jak ona działa. Na pewnym poziomie można nawet powiedzieć, że nikt nie jest do końca pewien, jak to działa, ponieważ wewnętrzne funkcjonowanie ChatGPT może wprawić w zakłopotanie najzdolniejszych naukowców. To czarna skrzynka. Nie jesteśmy do końca pewni, w jaki sposób jest trenowany, jakie dane dają jakie wyniki i jakie IP jest deptane w tym procesie. Jest to zarówno część magii, jak i część tego, co przerażające. Ariana Spring będzie prelegentką na tegorocznym festiwalu Consensus, który odbędzie się w Austin w Teksasie, w dniach 29–31 maja.
Co by było, gdyby istniał sposób zajrzenia do czarnej skrzynki i uzyskania jasnej wizualizacji tego, w jaki sposób sztuczna inteligencja jest zarządzana, szkolona i produkowana? Taki jest cel – lub jeden z celów – EQTY Lab, które prowadzi badania i tworzy narzędzia, dzięki którym modele AI stają się bardziej przejrzyste i oparte na współpracy. Na przykład Lineage Explorer firmy EQTY Lab zapewnia wgląd w czasie rzeczywistym w proces budowy modelu.
Wszystkie te narzędzia mają na celu kontrolę przejrzystości i centralizacji. „Jeśli nie rozumiesz, dlaczego sztuczna inteligencja podejmuje takie decyzje i kto jest za to odpowiedzialny, naprawdę trudno jest ustalić, dlaczego rozpowszechniane są szkodliwe rzeczy” – mówi Ariana Spring, kierownik ds. badań w EQTY Lab. „Myślę zatem, że centralizacja – i trzymanie tych tajemnic w czarnych skrzynkach – jest naprawdę niebezpieczna”.
Wraz ze swoim kolegą Andrew Stanco (szefem finansów) Spring opowiada, w jaki sposób kryptowaluty mogą stworzyć bardziej przejrzystą sztuczną inteligencję, w jaki sposób narzędzia te są już wdrażane w nauce o zmianach klimatycznych i dlaczego te modele o otwartym kodzie źródłowym mogą być bardziej włączające i reprezentatywne dla ludzkość jako całość.
Wywiad został skrócony i lekko zredagowany dla przejrzystości.
Jaka jest wizja i cel EQTY Lab?
Ariana Spring: Jesteśmy pionierami nowych rozwiązań służących budowaniu zaufania i innowacji w zakresie sztucznej inteligencji. Generatywna sztuczna inteligencja jest obecnie dość popularnym tematem i jest to najbardziej wyłaniająca się właściwość, więc na tym się skupiamy.
Ale przyglądamy się także różnym rodzajom sztucznej inteligencji i zarządzania danymi. Tak naprawdę stawiamy na zaufanie i innowacyjność. Robimy to, korzystając z zaawansowanej kryptografii, aby modele były bardziej przejrzyste, ale także umożliwiały współpracę. Postrzegamy przejrzystość i współpracę jako dwie strony tego samego medalu tworzenia inteligentniejszej i bezpieczniejszej sztucznej inteligencji.
Czy możesz powiedzieć trochę więcej o tym, jak krypto wpasowuje się w tę sytuację? Ponieważ wiele osób twierdzi, że „Kryptowaluty i sztuczna inteligencja świetnie do siebie pasują”, ale często uzasadnienie kończy się na bardzo wysokim poziomie.
Andrew Stanco: Myślę, że skrzyżowanie sztucznej inteligencji i kryptowalut to kwestia otwarta, prawda? Odkryliśmy jedną rzecz: ukryty sekret sztucznej inteligencji polega na tym, że opiera się ona na współpracy; ma wielu zainteresowanych stron. Żaden analityk danych nie byłby w stanie stworzyć modelu sztucznej inteligencji. Mogą go wytrenować, mogą go dostroić, ale kryptografia staje się sposobem na zrobienie czegoś, a następnie posiadanie odpornego na manipulacje sposobu sprawdzenia, czy tak się stało.
Zatem w procesie tak złożonym, jak szkolenie w zakresie sztucznej inteligencji, posiadanie odpornych na manipulacje i możliwych do sprawdzenia atestów – zarówno podczas szkolenia, jak i po nim – naprawdę pomaga. Tworzy zaufanie i widoczność.
Ariana Spring: Naszym zadaniem jest to, że na każdym etapie cyklu życia sztucznej inteligencji i procesu szkolenia następuje notarialne poświadczenie – lub pieczęć – tego, co się wydarzyło. Jest to zdecentralizowany identyfikator lub identyfikator powiązany z agentem, człowiekiem lub maszyną wykonującą dane działanie. Masz znacznik czasu. Dzięki naszemu Eksploratorowi Lineage możesz zobaczyć, że wszystko, co robimy, jest rejestrowane automatycznie przy użyciu kryptografii.
Następnie używamy inteligentnych kontraktów w naszych produktach do zarządzania. Zatem jeśli parametr X jest spełniony lub nie, określona akcja może zostać wykonana lub nie. Jednym z narzędzi, które posiadamy, jest Studio Zarządzania, które zasadniczo programuje, w jaki sposób można szkolić sztuczną inteligencję lub jak można zarządzać cyklem życia sztucznej inteligencji, co jest następnie odzwierciedlane w dalszej części procesu.
Czy możesz nieco wyjaśnić, jakiego rodzaju narzędzia budujesz? Na przykład, czy budujesz narzędzia i prowadzisz badania, które mają pomóc innym startupom w budowaniu modeli szkoleniowych, czy też sam budujesz modele szkoleniowe? Innymi słowy, jaka jest dokładnie rola EQTY Labs w tym środowisku?
Andrew Stanco: W pewnym sensie jest to mieszanka, ponieważ skupiamy się na przedsiębiorstwie, ponieważ będzie to jedno z pierwszych dużych miejsc, w których trzeba będzie poprawić sztuczną inteligencję z punktu widzenia szkoleń i zarządzania. Jeśli się w to zagłębisz, potrzebujemy obszaru, w którym programista — lub ktoś z tej organizacji — może opatrzyć kod adnotacją i powiedzieć: „OK, tak właśnie się stało”, a następnie utworzyć rekord. Jest skoncentrowany na przedsiębiorstwach, z naciskiem na współpracę z programistami oraz osobami budującymi i wdrażającymi modele.
Ariana Spring: Pracowaliśmy także nad szkoleniem modelki za pośrednictwem Endowment for Climate Intelligence. Pomogliśmy wytrenować model o nazwie ClimateGPT, który jest wielkojęzykowym modelem specyficznym dla klimatu. To nie jest nasz chleb powszedni, ale przeszliśmy przez ten proces i wykorzystaliśmy nasz pakiet technologii, aby zwizualizować ten proces. Rozumiemy więc, jak to jest.
Co najbardziej ekscytuje Cię w AI, a co najbardziej Cię przeraża w AI?
Andrew Stanco: To znaczy, dla podekscytowania, w tej pierwszej chwili, gdy wchodzisz w interakcję z generatywną sztuczną inteligencją, czułeś się, jakbyś odkorkował błyskawicę w modelu. Kiedy po raz pierwszy tworzysz podpowiedź w MidJourney lub zadajesz pytanie ChatGPT, nikt nie musiał Cię przekonywać, że może ma to potężną moc. A myślałam, że nie ma już wielu nowych rzeczy, prawda?
A jeśli chodzi o terror?
Andrew Stanco: Myślę, że jest to obawa, która być może jest podtekstem wielu wydarzeń związanych z Consensusem, na podstawie samego spojrzenia na porządek obrad. Problem polega na tym, że narzędzia te pozwalają obecnym zwycięzcom szukać głębszych trybów. Że niekoniecznie jest to technologia przełomowa, ale wzmacniająca.
A Ariana, twoja główna ekscytacja i terror związany ze sztuczną inteligencją?
Ariana Spring: Zacznę od mojego strachu, bo chciałam powiedzieć coś podobnego. Powiedziałbym centralizację. Widzieliśmy szkody centralizacji w połączeniu z brakiem przejrzystości co do sposobu działania czegoś. Widzieliśmy to na przykład w mediach społecznościowych przez ostatnie 10, 15 lat. A jeśli nie rozumiesz, dlaczego sztuczna inteligencja podejmuje takie decyzje i kto jest za to odpowiedzialny, naprawdę trudno jest ustalić, dlaczego rozpowszechniane są szkodliwe rzeczy. Dlatego uważam, że centralizacja – i trzymanie tych tajemnic w czarnych skrzynkach – jest naprawdę niebezpieczna.
A co z ekscytacją?
Najbardziej ekscytuje mnie przyciągnięcie większej liczby osób. Podczas szkolenia ClimateGPT mieliśmy okazję pracować z kilkoma różnymi grupami interesariuszy, takimi jak rdzenne grupy osób starszych lub młodzież miejska, czarna i brązowa o niskich dochodach, lub studentów z Bliskiego Wschodu. Współpracujemy ze wszystkimi aktywistami klimatycznymi i naukowcami, aby zapytać: „Hej, czy chcesz pomóc ulepszyć ten model?”
Ludzie są naprawdę podekscytowani, ale może nie rozumieli, jak to działa. Kiedy już nauczyliśmy ich, jak to działa i jak mogą pomóc, można było zobaczyć, jak mówili: „Och, to jest dobre”. Zyskują pewność siebie. Wtedy chcą wnieść większy wkład. Dlatego jestem bardzo podekscytowany, szczególnie pracą, którą wykonujemy w EQTY Research, możliwością rozpoczęcia publikowania niektórych z tych frameworków, dzięki czemu nie będziemy musieli polegać na systemach, które być może nie są aż tak reprezentatywne.
Pięknie powiedziane. Do zobaczenia w Austin na szczycie AI Consensus.