NVIDIA (NVDA.O) představila zcela novou kompaktní generativní AI superpočítač - Jetson Orin Nano Super Developer Kit, který nabízí silnější výkon za nižší cenu díky softwarovým aktualizacím.
Tento nový produkt je kompaktní, velikostí pouze srovnatelný s dlaní, a je vhodný pro široké spektrum od komerčních AI vývojářů po nadšence a studenty, zvyšuje schopnosti a výkon generativní AI. A cena je pouze 249 dolarů (přibližně 1800 Kč), což je výrazný pokles oproti předchozím 499 dolarům.
Tento vývojářský kit zvýšil výkon generativní AI inference o 1,7x, výkon se zvýšil o 70 %, dosáhl 67 INT8 TOPS, zatímco šířka pásma paměti se zvýšila o 50 %, dosáhla 102 GB/s, což představuje značné zlepšení oproti jeho předchůdci.
Ať už vytváříte LLM chatboty založené na vylepšení vyhledávání, stavíte vizuální AI agenty nebo nasazujete AI roboty, Jetson Orin Nano Super je ideální řešení.
Pro uživatele, kteří již mají vývojářský kit Jetson Orin Nano, budou aktualizace softwaru nového modelu Jetson Orin Nano Super také zvyšovat výkon generativní AI.
Jetson Orin Nano Super je ideální pro ty, kteří mají zájem rozvíjet své dovednosti v oblasti generativní AI, robotiky nebo počítačového vidění. Jak se AI oblast přesouvá od modelů pro specifické úkoly k základním modelům, také poskytuje snadno použitelnou platformu pro přetváření nápadů na realitu.
Dále, vylepšený výkon Jetson Orin Nano Super poskytuje zvýšení pro všechny populární generativní AI modely a počítačové vidění založené na transformátorech.
Tento vývojářský kit zahrnuje systémový modul (SoM) Jetson Orin Nano s 8GB paměti a referenční desku, což poskytuje ideální platformu pro prototypování aplikací edge AI.
Tento SoM je vybaven GPU architekturou NVIDIA Ampere, má tensorové jádra a 6jádrový Arm CPU, podporuje více paralelních AI aplikačních pipeline a vysoce výkonné inference. Podporuje až čtyři kamery, poskytuje vyšší rozlišení a snímkovou frekvenci než předchozí verze.
Generativní AI se rychle vyvíjí. NVIDIA Jetson AI laboratoř poskytuje okamžitou podporu pro špičkové modely z open-source komunity a nabízí snadno použitelné tutoriály. Vývojáři mohou také získat podporu od široké Jetson komunity a inspirovat se projekty vytvořenými jinými vývojáři.
Jetson platforma běží na AI softwaru NVIDIA, včetně NVIDIA Isaac (pro robotiku), NVIDIA Metropolis (pro vizuální AI) a NVIDIA Holoscan (pro zpracování senzorů). Doba vývoje může být zkrácena pomocí NVIDIA Omniverse Replicator (pro generování syntetických dat) a NVIDIA TAO Toolkit (pro doladění předtrénovaných AI modelů z NGC katalogu).
Partneři ekosystému Jetson poskytují další AI a systémový software, vývojové nástroje a služby zakázkového vývoje softwaru. Mohou také nabídnout kamery a další senzory, stejně jako návrhové služby pro desky a produktová řešení.
Aby se zvýšil výkon generativní AI o 1,7x, systémové moduly Jetson Orin Nano a Orin NX série také obdrží aktualizace softwaru. Stávající uživatelé vývojářského kity Jetson Orin Nano mohou okamžitě aktualizovat JetPack SDK, aby odemkli vylepšený výkon.
Článek převzat z: Jin Shi Data