Nome: Raghav Agarwal, Roy Lu, LongHash Ventures
Compilado por: Elvin, ChainCatcher
IA
A humanidade está em um momento AI Oppenheimer.
Elon Musk observou: “À medida que a nossa tecnologia avança, é fundamental garantir que a IA sirva os interesses das pessoas, e não apenas os interesses dos poderosos. A IA de propriedade das pessoas fornece um caminho a seguir.
Na intersecção com as criptomoedas, a IA pode se democratizar. Comece com um modelo de código aberto, depois IA para as pessoas, pelas pessoas, para as pessoas. Embora os objetivos do Web3 x AI sejam nobres, sua adoção real depende de sua usabilidade e compatibilidade com as pilhas de software de IA existentes. É aqui que a abordagem exclusiva e a pilha de tecnologia da IO.NET entram em ação.
A estrutura Ray descentralizada da IO.NET é um cavalo de Tróia para lançar o mercado de computação de IA sem permissão na web3 e além.
IO.NET está liderando o caminho para trazer riqueza de GPU. Ao contrário de outros agregadores de computação de uso geral, o IO.NET conecta a computação descentralizada com a pilha de IA líder do setor, reescrevendo a estrutura Ray. Essa abordagem abre caminho para uma adoção mais ampla na web3 e além.
A corrida pelo poder computacional no contexto do nacionalismo da IA
Em toda a pilha de IA, a competição por recursos está se intensificando. Nos últimos anos, assistimos a uma proliferação de modelos de inteligência artificial. Poucas horas após o lançamento do Llama 3, Mistral e OpenAI lançaram novas versões de seus modelos de inteligência artificial de ponta.
Os três níveis da pilha de IA que competem por recursos são: 1) dados de treinamento, 2) algoritmos avançados e 3) unidades de computação. O poder da computação permite que os modelos de IA melhorem o desempenho ao dimensionar os dados de treinamento e o tamanho do modelo. De acordo com a pesquisa empírica da OpenAI sobre modelos de linguagem baseados em transformadores, o desempenho melhora constantemente à medida que aumentamos a quantidade de computação usada para treinamento.
O uso da computação explodiu nos últimos 20 anos. A análise de 140 modelos da Epoch.ai mostra que o cálculo de treinamento do sistema de referência aumentou 4,2 vezes por ano desde 2010. O modelo OpenAI mais recente, GPT-4, requer 66 vezes os cálculos do GPT-3 e aproximadamente 1,2 milhão de vezes os do GPT.
O nacionalismo da IA é óbvio
Enormes investimentos dos Estados Unidos, China e outros países, totalizando cerca de 40 mil milhões de dólares. A maior parte do financiamento será focada na produção de fábricas de GPU e chips de inteligência artificial. O CEO da OpenAI, Sam Altman, planeja arrecadar até US$ 7 trilhões em financiamento para melhorar a fabricação global de chips de inteligência artificial, enfatizando que “a computação se tornará a moeda do futuro”.
A agregação de recursos de computação de cauda longa poderia perturbar significativamente o mercado. Os desafios enfrentados pelos provedores de serviços de nuvem centralizados, como AWS, Azure e GCP, incluem longos tempos de espera, flexibilidade limitada de GPU e contratos de longo prazo complicados, especialmente para entidades menores e startups.
Hardware subutilizado em data centers, mineradores de criptomoedas e GPUs de consumo podem atender à demanda. Um estudo da DeepMind de 2022 descobriu que treinar modelos menores com mais dados costuma ser mais eficiente do que usar as GPUs mais recentes e poderosas, sinalizando uma mudança no uso de GPUs acessíveis para um treinamento de IA mais eficiente.
IO.NET perturba estruturalmente o mercado de computação de inteligência artificial
A IO.NET perturbou estruturalmente o mercado global de computação de inteligência artificial. A plataforma ponta a ponta da IO.NET para treinamento, inferência e ajuste fino de IA distribuídos globalmente agrega GPUs de cauda longa para desbloquear treinamento acessível e de alto desempenho.
Mercado de GPU:
IO.NET agrega GPUs de data centers, mineradores e consumidores de todo o mundo. As startups de IA podem implantar clusters de GPU descentralizados em minutos, especificando a localização do cluster, tipo de hardware, pilha de aprendizado de máquina (Tensorflow, PyTorch, Kubernetes) e pagando instantaneamente no Solana.
Conjunto:
Uma GPU sem infraestrutura paralela adaptada é como um reator sem cabo de alimentação que existe, mas não pode ser usado. Como destaca o blog OpenAI, as limitações no paralelismo de hardware e algoritmo impactam significativamente a eficiência computacional de cada modelo, limitando o tamanho do modelo e a utilidade durante o treinamento.
IO.NET aproveita a estrutura Ray para transformar milhares de clusters de GPU em um todo unificado. Esta inovação permite que a IO.NET forme clusters de GPU independentemente da dispersão geográfica, resolvendo assim um grande problema no mercado de computação.
Estrutura Ray se destaca
Como uma estrutura de computação unificada de código aberto, Ray simplifica o dimensionamento de inteligência artificial e cargas de trabalho Python. Ray é usado por líderes do setor como Uber, Spotify, LinkedIn e Netflix para promover a integração de inteligência artificial em seus produtos e serviços. A Microsoft oferece aos clientes a oportunidade de implantar o Ray no Azure, enquanto o Google Kubernetes Engine (GKE) simplifica a implantação de software de aprendizado de máquina de código aberto, oferecendo suporte ao Kubeflow e ao Ray.
Ahmad apresenta seu trabalho na estrutura Ray descentralizada no Ray Summit 2023
Ray Descentralizado - Estendendo Ray para inferência global (link do vídeo: https://youtu.be/ie-EAlGfTHA?)
Conhecemos Tory quando ele era COO de uma startup de fintech de alto crescimento e sabíamos que ele era um operador sênior com décadas de experiência em escalar startups a um nível frutífero. Depois de conversar com Ahmad e Tory, soubemos imediatamente que esta era a equipe dos sonhos para trazer a computação de IA descentralizada para a web3 e além.
A ideia de Ahmad, IO.NET, nasceu de um momento aha no uso prático. O desenvolvimento do Dark Tick, um algoritmo para negociação de alta frequência com latência ultrabaixa, requer recursos de GPU significativos. Para combater o problema dos custos, Ahmad desenvolveu uma versão descentralizada da estrutura Ray que agrupa GPUs de mineradores de criptomoedas, criando inadvertidamente uma infraestrutura resiliente que resolve os desafios mais amplos da computação de IA.
Momento de desenvolvimento:
Ao aproveitar incentivos de token, a IONET terá mais de 100.000 GPUs e 20.000 GPUs prontas para cluster online até meados de 2024, incluindo um grande número de NVIDIA H100s e A100s. Krea.ai já está aproveitando o serviço de nuvem descentralizado da io.net, IO Cloud, para conduzir sua inferência de modelo de IA. IO.NET anunciou recentemente cooperação com NavyAI, Synesis One, RapidNode, Ultiverse, Aethir, Flock.io, LeonardoAI, Synthetic AI e muitos outros projetos.
Ao contar com uma rede de GPUs distribuída globalmente, o IO.NET pode:
Reduz os tempos de inferência dos clientes, permitindo que a inferência esteja mais próxima dos usuários finais, em comparação com provedores de serviços de nuvem centralizados
Aumente a resiliência conectando vários data centers com um backbone de rede altamente integrado e organizando recursos em zonas
Reduza o custo e o tempo de acesso dos recursos computacionais
Permite que as empresas aumentem e diminuam dinamicamente o tamanho dos recursos alavancados
Permita que os fornecedores de GPU obtenham melhores retornos de seus investimentos em hardware
IO.NET está na vanguarda da inovação através da estrutura descentralizada Ray. Aproveitando Ray Core e Ray Serve, seu cluster de GPU distribuído orquestra com eficiência tarefas em GPUs descentralizadas.
para concluir
A pressão por modelos de IA de código aberto é uma homenagem ao espírito colaborativo da Internet original, onde as pessoas podiam acessar HTTP e SMTP sem permissão.
O surgimento de redes GPU de crowdsourcing é uma evolução natural do espírito sem permissão. Ao crowdsourcing de GPUs de cauda longa, a IO.NET está abrindo as comportas para recursos computacionais valiosos, criando um mercado justo e transparente e evitando a concentração de poder nas mãos de poucos.
Acreditamos na visão da IO.NET de realizar a computação de inteligência artificial como moeda por meio da tecnologia de cluster Ray descentralizada. Num mundo cada vez mais composto por “ricos” e “pobres”, a IO.NET finalmente “tornará a Internet aberta novamente”.