Twórcy: Raghav Agarwal, Roy Lu, LongHash Ventures
Opracowano przez: Elvin, ChainCatcher
sztuczna inteligencja
Ludzkość znajduje się w momencie AI Oppenheimera.
Elon Musk zauważył: „Wraz z postępem naszej technologii niezwykle istotne jest zapewnienie, aby sztuczna inteligencja służyła interesom ludzi, a nie tylko interesom potężnych osób.
Na skrzyżowaniu z kryptowalutami sztuczna inteligencja może się zdemokratyzować. Zacznij od modelu open source, a następnie sztuczną inteligencję dla ludzi, przez ludzi i dla ludzi. Chociaż cele Web3 x AI są szlachetne, jego faktyczne przyjęcie zależy od jego użyteczności i kompatybilności z istniejącymi stosami oprogramowania AI. W tym miejscu wchodzi w grę unikalne podejście i stos technologii IO.NET.
Zdecentralizowana platforma Ray IO.NET to koń trojański, który uruchamia rynek obliczeń AI bez pozwolenia w sieci Web3 i poza nią.
IO.NET jest liderem w zapewnianiu bogactwa GPU. W przeciwieństwie do innych agregatorów obliczeniowych ogólnego przeznaczenia, IO.NET łączy zdecentralizowane przetwarzanie z wiodącym w branży stosem sztucznej inteligencji, przepisując framework Ray. Takie podejście toruje drogę do szerszego zastosowania w web3 i poza nim.
Wyścig o moc obliczeniową w kontekście nacjonalizmu AI
W całym stosie sztucznej inteligencji nasila się rywalizacja o zasoby. W ciągu ostatnich kilku lat nastąpił wzrost liczby modeli sztucznej inteligencji. W ciągu kilku godzin od premiery Llama 3 firmy Mistral i OpenAI udostępniły nowe wersje swoich najnowocześniejszych modeli sztucznej inteligencji.
Trzy poziomy stosu AI konkurujące o zasoby to: 1) dane szkoleniowe, 2) zaawansowane algorytmy i 3) jednostki obliczeniowe. Moc obliczeniowa umożliwia modelom AI poprawę wydajności poprzez skalowanie danych szkoleniowych i rozmiaru modelu. Według badań empirycznych OpenAI nad modelami językowymi opartymi na transformatorach, wydajność stale się poprawia w miarę zwiększania ilości obliczeń wykorzystywanych do szkolenia.
W ciągu ostatnich 20 lat nastąpił gwałtowny wzrost wykorzystania komputerów. Analiza 140 modeli przeprowadzona przez serwis Epoch.ai pokazuje, że od 2010 r. obliczenia szkoleniowe tego przełomowego systemu zwiększały się 4,2 razy rocznie. Najnowszy model OpenAI, GPT-4, wymaga 66 razy więcej obliczeń niż GPT-3 i około 1,2 miliona razy więcej niż GPT.
Nacjonalizm AI jest oczywisty
Ogromne inwestycje ze Stanów Zjednoczonych, Chin i innych krajów na łączną kwotę około 40 miliardów dolarów. Większość środków zostanie przeznaczona na produkcję procesorów graficznych i fabryk układów sztucznej inteligencji. Dyrektor generalny OpenAI Sam Altman planuje zebrać do 7 bilionów dolarów funduszy na usprawnienie globalnej produkcji chipów sztucznej inteligencji, podkreślając, że „informatyka stanie się walutą przyszłości”.
Agregacja zasobów obliczeniowych o długim ogonie może znacząco zakłócić rynek. Wyzwania stojące przed scentralizowanymi dostawcami usług chmurowych, takimi jak AWS, Azure i GCP, obejmują długi czas oczekiwania, ograniczoną elastyczność procesora graficznego i uciążliwe umowy długoterminowe, szczególnie dla mniejszych podmiotów i start-upów.
Niedostatecznie wykorzystany sprzęt w centrach danych, koparkach kryptowalut i procesorach graficznych klasy konsumenckiej może zaspokoić popyt. Badanie DeepMind z 2022 r. wykazało, że trenowanie mniejszych modeli na większej ilości danych jest często bardziej efektywne niż korzystanie z najnowszych i najpotężniejszych procesorów graficznych, co sygnalizuje zmianę w kierunku korzystania z dostępnych procesorów graficznych w celu bardziej wydajnego szkolenia AI.
IO.NET strukturalnie zakłóca rynek obliczeń sztucznej inteligencji
IO.NET strukturalnie zakłócił globalny rynek obliczeń sztucznej inteligencji. Kompleksowa platforma IO.NET do globalnie rozproszonego szkolenia, wnioskowania i dostrajania sztucznej inteligencji łączy procesory graficzne typu long-tail w celu odblokowania niedrogiego i wydajnego szkolenia.
Rynek procesorów graficznych:
IO.NET agreguje procesory graficzne z centrów danych, górników i konsumentów na całym świecie. Startupy AI mogą wdrożyć zdecentralizowane klastry GPU w ciągu kilku minut, określając lokalizację klastra, typ sprzętu, stos uczenia maszynowego (Tensorflow, PyTorch, Kubernetes) i natychmiastowo płacąc w Solana.
Grupa:
Procesor graficzny bez dostosowanej infrastruktury równoległej jest jak reaktor bez przewodu zasilającego, który istnieje, ale nie można go użyć. Jak podkreśla blog OpenAI, ograniczenia w równoległości sprzętowej i algorytmicznej znacząco wpływają na wydajność obliczeniową każdego modelu, ograniczając rozmiar modelu i użyteczność podczas uczenia.
IO.NET wykorzystuje platformę Ray do przekształcania tysięcy klastrów GPU w jednolitą całość. Ta innowacja umożliwia IO.NET tworzenie klastrów GPU niezależnie od rozproszenia geograficznego, rozwiązując w ten sposób główny problem rynku obliczeniowego.
Wyróżnia się framework Ray
Jako ujednolicona platforma obliczeniowa typu open source Ray upraszcza skalowanie obciążeń związanych ze sztuczną inteligencją i językiem Python. Ray jest wykorzystywany przez liderów branży, takich jak Uber, Spotify, LinkedIn i Netflix, do promowania integracji sztucznej inteligencji w swoich produktach i usługach. Microsoft oferuje klientom możliwość wdrożenia Ray na platformie Azure, podczas gdy Google Kubernetes Engine (GKE) upraszcza wdrażanie oprogramowania do uczenia maszynowego typu open source, obsługując Kubeflow i Ray.
Ahmad prezentuje swoją pracę nad zdecentralizowanym frameworkiem Ray na Ray Summit 2023
Zdecentralizowany promień — promień rozszerzający do globalnego wnioskowania (link do filmu: https://youtu.be/ie-EAlGfTHA?)
Po raz pierwszy spotkaliśmy Tory’ego, gdy był dyrektorem operacyjnym szybko rozwijającego się startupu z branży fintech i wiedzieliśmy, że jest starszym operatorem z dziesięcioleciami doświadczenia w skalowaniu startupów do owocnego poziomu. Po rozmowie z Ahmadem i Torym od razu wiedzieliśmy, że to zespół marzeń, który ma wprowadzić zdecentralizowane przetwarzanie sztucznej inteligencji do web3 i nie tylko.
Pomysł Ahmada, IO.NET, zrodził się z chwili aha w praktycznym zastosowaniu. Opracowanie Dark Tick, algorytmu do handlu przy wysokich częstotliwościach z bardzo niskimi opóźnieniami, wymaga znacznych zasobów procesora graficznego. Aby zaradzić problemowi kosztów, Ahmad opracował zdecentralizowaną wersję frameworku Ray, która łączy w klastry procesory graficzne pochodzące z koparek kryptowalut, nieumyślnie tworząc odporną infrastrukturę, która rozwiązuje szersze wyzwania obliczeniowe AI.
Tempo rozwoju:
Dzięki wykorzystaniu zachęt związanych z symbolami IONET będzie miał do połowy 2024 r. w trybie online ponad 100 000 procesorów graficznych i 20 000 procesorów graficznych gotowych do pracy w klastrach, w tym dużą liczbę procesorów NVIDIA H100 i A100. Krea.ai wykorzystuje już zdecentralizowaną usługę chmurową io.net, IO Cloud, do wnioskowania o modelu sztucznej inteligencji. IO.NET ogłosił niedawno współpracę z NavyAI, Synesis One, RapidNode, Ultiverse, Aethir, Flock.io, LeonardoAI, Synthetic AI i wieloma innymi projektami.
Opierając się na globalnie rozproszonej sieci procesorów graficznych, IO.NET może:
Skraca czas wnioskowania klientów, umożliwiając wnioskowanie bliżej użytkowników końcowych w porównaniu do scentralizowanych dostawców usług w chmurze
Zwiększ odporność, łącząc wiele centrów danych za pomocą wysoce zintegrowanego szkieletu sieci, organizując zasoby w strefy
Zmniejsz koszty i czas dostępu do zasobów obliczeniowych
Umożliwia firmom dynamiczne skalowanie w górę i w dół wielkości wykorzystywanych zasobów
Pozwól dostawcom procesorów graficznych uzyskać większy zwrot z inwestycji w sprzęt
IO.NET przoduje w innowacjach dzięki zdecentralizowanemu frameworkowi Ray. Wykorzystując Ray Core i Ray Serve, ich rozproszony klaster GPU skutecznie koordynuje zadania na zdecentralizowanych procesorach graficznych.
podsumowując
Nacisk na modele sztucznej inteligencji o otwartym kodzie źródłowym jest ukłonem w stronę ducha współpracy pierwotnego Internetu, w którym ludzie mogli korzystać z protokołów HTTP i SMTP bez pozwolenia.
Pojawienie się sieci GPU korzystających z crowdsourcingu jest naturalną ewolucją etosu braku uprawnień. Dzięki crowdsourcingowi procesorów graficznych typu long-tail IO.NET otwiera śluzy dla cennych zasobów obliczeniowych, tworząc uczciwy i przejrzysty rynek oraz zapobiegając koncentracji władzy w rękach nielicznych.
Wierzymy w wizję IO.NET polegającą na wykorzystaniu sztucznej inteligencji jako waluty poprzez zdecentralizowaną technologię klastrów Ray. W świecie coraz bardziej złożonym z „posiadających” i „nieposiadających” IO.NET w końcu „spowoduje, że Internet ponownie się otworzy”.