NVIDIA lançou um supercomputador de IA pessoal, capaz de executar modelos de grande escala com 200 bilhões de parâmetros.
A NVIDIA anunciou hoje na CES 2025 o NVIDIA Project DIGITS, um supercomputador de IA pessoal que pode ser colocado em sua mesa.
Leva a computação de IA, que tradicionalmente exigiria grandes data centers, para a mesa de todos.‘
O Project DIGITS usa o novo NVIDIA GB10 Grace Blackwell Superchip, capaz de oferecer 1 PFLOP (um quatrilhão de operações de ponto flutuante por segundo) de desempenho em computação de IA.
O propósito de design é para desenvolvimento de protótipos, ajuste fino e execução de grandes modelos de IA, permitindo que os usuários desenvolvam e executem modelos de inferência em sistemas locais, e depois os implantem de forma contínua na nuvem ou em data centers.
Isso significa que ele pode executar modelos de IA extremamente grandes localmente, sendo capaz de rodar modelos de linguagem com até 200 bilhões de parâmetros.
Através da rede NVIDIA ConnectX, duas supercomputadoras Project DIGITS podem ser conectadas, permitindo a execução de modelos com 405 bilhões de parâmetros.
Além disso, suporta o desenvolvimento e teste de modelos de IA em computadores locais, e depois uma rápida implantação na nuvem ou em data centers.
Em resumo, é como se cada desenvolvedor tivesse sua própria supercomputadora de IA portátil!