Nvidia (NVDA.O) ha lanciato un nuovo supercomputer generativo AI compatto - il Jetson Orin Nano Super Developer Kit, offrendo prestazioni superiori a un prezzo inferiore grazie a un aggiornamento software.
Questo nuovo prodotto è compatto, delle dimensioni di un palmo, adatto a una vasta gamma di utenti, dai sviluppatori AI commerciali a hobbisti e studenti, migliorando le capacità e le prestazioni dell'AI generativa. Inoltre, il prezzo è di soli 249 dollari (circa 1800 yuan), un notevole calo rispetto ai precedenti 499 dollari.
Questo kit per sviluppatori ha migliorato le prestazioni di inferenza dell'AI generativa di 1,7 volte, con un aumento delle prestazioni del 70%, raggiungendo 67 INT8 TOPS, mentre la larghezza di banda della memoria è aumentata del 50%, raggiungendo 102GB/s, rispetto al suo predecessore.
Che si tratti di creare chatbot LLM basati su generazione migliorata da recupero, costruire agenti AI visivi o implementare robot basati su AI, il Jetson Orin Nano Super è la soluzione ideale.
Per gli utenti che già possiedono il kit per sviluppatori Jetson Orin Nano, il nuovo Jetson Orin Nano Super avrà anche aggiornamenti software disponibili che miglioreranno le prestazioni dell'AI generativa.
Il Jetson Orin Nano Super è perfetto per coloro che sono interessati a sviluppare competenze nei campi dell'AI generativa, della robotica o della visione artificiale. Con il passaggio dai modelli di attività specifiche ai modelli fondamentali nel campo dell'AI, offre anche una piattaforma facile da usare per trasformare le idee in realtà.
Inoltre, le prestazioni potenziate del Jetson Orin Nano Super forniscono un miglioramento per tutti i modelli AI generativi popolari e per la visione artificiale basata su trasformatori.
Il kit per sviluppatori include un modulo di sistema Jetson Orin Nano (SoM) con 8GB di memoria e una scheda di riferimento, offrendo una piattaforma ideale per lo sviluppo di prototipi di applicazioni AI edge.
Questo SoM utilizza una GPU con architettura Ampere di Nvidia, dotata di core tensor e di una CPU Arm a 6 core, supportando più pipeline di applicazioni AI parallele e inferenze ad alte prestazioni. Supporta fino a quattro telecamere, offrendo risoluzioni e frame rate superiori rispetto alle versioni precedenti.
L'AI generativa sta evolvendo rapidamente. Il laboratorio AI di Nvidia Jetson offre supporto immediato per modelli all'avanguardia dalla comunità open source e fornisce tutorial facili da usare. Gli sviluppatori possono anche ricevere supporto dalla vasta comunità Jetson e trarre ispirazione dai progetti creati da altri sviluppatori.
La piattaforma Jetson esegue software AI di Nvidia, inclusi Nvidia Isaac (per la robotica), Nvidia Metropolis (per l'AI visiva) e Nvidia Holoscan (per l'elaborazione dei sensori). I tempi di sviluppo possono essere ridotti tramite Nvidia Omniverse Replicator (per la generazione di dati sintetici) e Nvidia TAO Toolkit (per il fine-tuning dei modelli AI pre-addestrati dal catalogo NGC).
I partner dell'ecosistema Jetson forniscono ulteriori software AI e di sistema, strumenti di sviluppo e servizi di sviluppo software personalizzati. Possono anche fornire telecamere e altri sensori, oltre a servizi di progettazione per schede e soluzioni di prodotto.
Per ottenere un aumento delle prestazioni dell'AI generativa di 1,7 volte, anche i moduli di sistema della serie Jetson Orin Nano e Orin NX riceveranno aggiornamenti software. Gli attuali utenti del kit per sviluppatori Jetson Orin Nano possono immediatamente aggiornare il JetPack SDK per sbloccare le prestazioni potenziate.
Articolo ripubblicato da: Jinshi Data