NVIDIA lanza una supercomputadora personal de IA capaz de ejecutar modelos de gran tamaño con 200 mil millones de parámetros.
NVIDIA presentó hoy en CES 2025 el NVIDIA Project DIGITS, una supercomputadora personal de IA que puede colocarse en tu escritorio.
Lleva la computación de IA, que tradicionalmente requería grandes centros de datos, a la mesa de cada persona.
Project DIGITS utiliza el nuevo superchip NVIDIA GB10 Grace Blackwell, que puede proporcionar un rendimiento de computación de IA de 1 PFLOP (un cuatrillón de operaciones de punto flotante por segundo).
Está diseñada para el desarrollo de prototipos, ajuste fino y ejecución de grandes modelos de IA, permitiendo a los usuarios desarrollar y ejecutar modelos de inferencia en sistemas de escritorio locales, y luego desplegarlos sin problemas en la nube o en centros de datos.
Es decir, puede ejecutar enormes modelos de IA localmente, capaces de manejar modelos de lenguaje de hasta 200 mil millones de parámetros.
A través de la red NVIDIA ConnectX, dos supercomputadoras Project DIGITS pueden conectarse para ejecutar modelos de 405 mil millones de parámetros.
Además, admite el desarrollo y prueba de modelos de IA en computadoras locales, y luego una rápida implementación en la nube o en centros de datos.
En pocas palabras, ¡es como si cada desarrollador tuviera su propia supercomputadora de IA de bolsillo!