英偉達(NVDA.O)推出全新緊湊型生成式AI超級計算機——Jetson Orin Nano Super開發者套件,憑藉軟件升級以更低價格提供更強的性能。

這款新產品體積小巧,大小僅與手掌相當,適用於從商業AI開發者到愛好者和學生的廣泛人羣,提升了生成式AI的能力和性能。而且,價格僅爲249美元(約合1800元),較之前的499美元大幅下降。

這款開發者套件在生成式AI推理性能上提升了1.7倍,性能提升了70%,達到了67 INT8 TOPS,同時內存帶寬提升了50%,達到了102GB/s,相較於其前身大幅提升。

無論是創建基於檢索增強生成的LLM聊天機器人、構建視覺AI代理,還是部署基於AI的機器人,Jetson Orin Nano Super都是理想的解決方案。

對於已經擁有Jetson Orin Nano開發者套件的用戶,新款Jetson Orin Nano Super的可用軟件更新也將提升生成式AI的性能。

Jetson Orin Nano Super非常適合那些有興趣在生成式AI、機器人技術或計算機視覺領域發展技能的人。隨着AI領域從特定任務模型轉向基礎模型,它也提供了一個易於使用的平臺,將創意變爲現實。

另外,Jetson Orin Nano Super增強的性能爲所有流行的生成式AI模型和基於變換器的計算機視覺提供了提升。

該開發者套件包括一個8GB內存的Jetson Orin Nano系統模塊(SoM)和一個參考載板,提供了一個理想的平臺用於邊緣AI應用原型開發。

該SoM採用英偉達安培架構的GPU,配備張量核心和6核Arm CPU,支持多個並行AI應用管道和高性能推理。它最多支持四個攝像頭,提供比之前版本更高的分辨率和幀率。

生成式AI正在快速發展。英偉達Jetson AI實驗室爲來自開源社區的前沿模型提供即時支持,並提供易於使用的教程。開發者還可以獲得來自廣泛Jetson社區的支持,並從其他開發者創建的項目中獲得靈感。

Jetson平臺運行包括英偉達Isaac(用於機器人技術)、英偉達Metropolis(用於視覺AI)和英偉達Holoscan(用於傳感器處理)等英偉達AI軟件。開發時間可以通過英偉達Omniverse Replicator(用於合成數據生成)和英偉達TAO工具包(用於微調來自NGC目錄的預訓練AI模型)來縮短。

Jetson生態系統的合作伙伴提供額外的AI和系統軟件、開發工具和定製軟件開發服務。它們還可以提供攝像頭和其他傳感器,以及載板和產品解決方案的設計服務。

爲了提高1.7倍的生成式AI性能,Jetson Orin Nano和Orin NX系列的系統模塊也將推出軟件更新。現有的Jetson Orin Nano開發者套件用戶可以立即升級JetPack SDK,以解鎖提升後的性能。

文章轉發自:金十數據