Ted Hisokawa 18. Nov 2024 19:20
Die H200 NVL GPU von NVIDIA bietet verbesserte Leistung für KI- und HPC-Anwendungen, geeignet für Unternehmensserver mit energieeffizienten, luftgekühlten Rack-Designs, die erhöhte Effizienz und Konfigurierbarkeit bieten.
NVIDIA hat die H200 NVL PCIe GPU eingeführt, eine neue Ergänzung seiner Hopper-Architektur, die darauf abzielt, KI- und Hochleistungsrechen (HPC)-Anwendungen für Unternehmensserver zu verbessern. Auf der Supercomputing 2024 Konferenz vorgestellt, bietet die H200 NVL ein energieeffizientes, luftgekühltes Design, das ideal für Rechenzentren mit flexiblen Konfigurationen ist, so NVIDIA.
Vorteile der H200 NVL GPU
Die H200 NVL GPU ist so konzipiert, dass sie die Bedürfnisse von Rechenzentren mit Unternehmens-Racks von 20 kW und darunter erfüllt, die überwiegend Luftkühlung verwenden. Dies macht sie zu einem entscheidenden Bestandteil für die Bereitstellung von Granularität in der Knotenbereitstellung, die es Organisationen ermöglicht, ihre Rechenleistung effizient zu optimieren. Die GPU bietet eine 1,5-fache Erhöhung des Speichers und eine 1,2-fache Erhöhung der Bandbreite im Vergleich zu ihrem Vorgänger, der NVIDIA H100 NVL, was schnellere Feinabstimmungen von KI-Modellen und Inferenzleistungen ermöglicht.
Technologische Verbesserungen
Die Hardwarefähigkeiten der H200 NVL werden durch die NVLink-Technologie von NVIDIA ergänzt, die Kommunikationsgeschwindigkeiten zwischen GPUs bietet, die siebenmal schneller sind als die PCIe der fünften Generation. Dieser Fortschritt ist besonders vorteilhaft für leistungshungrige Aufgaben wie die Inferenz und Feinabstimmung großer Sprachmodelle.
Brancheneinführung und Anwendungsfälle
Unternehmen aus verschiedenen Sektoren nutzen bereits die H200 NVL für vielfältige Anwendungen. Dropbox verwendet die beschleunigte Berechnung von NVIDIA, um ihre KI- und maschinellen Lernfähigkeiten zu verbessern, während die Universität von New Mexico sie in Forschungsbereichen wie Genomik und Klimamodellierung anwendet. Diese Anwendungsfälle unterstreichen das Potenzial der GPU, Effizienz und Innovation in KI- und HPC-Arbeitslasten voranzutreiben.
Verfügbarkeit und Unterstützung des Ökosystems
Wichtige Technologieunternehmen, einschließlich Dell Technologies, Hewlett Packard Enterprise, Lenovo und Supermicro, werden erwartet, die H200 NVL in einer Vielzahl von Konfigurationen zu unterstützen. Die globalen Systempartner von NVIDIA werden im Dezember beginnen, Plattformen mit der H200 NVL anzubieten. Darüber hinaus entwickelt NVIDIA eine Enterprise-Referenzarchitektur, um Partner und Kunden bei der Bereitstellung von Hochleistungs-KI-Infrastrukturen in großem Maßstab zu unterstützen.
Für weitere Details besuchen Sie den offiziellen NVIDIA-Blog hier.
Bildquelle: Shutterstock
Quellenlink
<p>Der Beitrag NVIDIA’s H200 NVL GPU verbessert KI- und HPC-Anwendungen in Unternehmensservern erschien zuerst auf CoinBuzzFeed.</p>