Oblast umělé inteligence (AI) prochází seismickým posunem a hlavní hráči jako Nvidia, Intel a Google se předhánějí, kdo bude v čele této revoluce.
Nedávné benchmarky MLPerf Training 3.1 poskytly krátký pohled na intenzivní konkurenci mezi těmito technologickými giganty a ukázaly nebývalé úspěchy ve školení velkých jazykových modelů (LLM). V prvním čtvrtletí roku 2023 Nvidia, Intel a Google odhalily svou neuronovou síť AI. systémy pro úkoly hlubokého učení. Do konce roku zpráva ukazuje, že společnosti provedly testy, aby prokázaly úroveň svých výsledků.
Benchmarky MLPerf se nedávno staly bojištěm pro demonstraci pokroků v LLM školení. Odvětví umělé inteligence, kterému dříve dominovaly předpovědi Mooreova zákona, nyní rozšiřuje hardware a software tempem, které překonává tradiční projekce.
Řada odborníků tvrdí, že Mooreův zákon pomalu přichází vniveč, takže se pravděpodobně budou hodit nové objevy společností Nvidia, Intel a Google.
Dominance superpočítače EOS společnosti Nvidia
Nvidia, stálice v prostředí umělé inteligence, nedávno představila svůj superpočítač EOS, technologický zázrak s 10 752 GPU připojenými přes Nvidia Quantum-2 InfiniBand. V benchmarcích MLPerf Training 3.1 dosáhla Nvidia od června u svého modelu GPT-3 ohromujícího 2,8násobného zlepšení rychlosti tréninku LLM.
Úkoly zahrnovaly sumarizaci, překlad, klasifikaci a generování nového obsahu, jako je počítačový kód, marketingová kopie, poezie a další.
Ohromující specifikace systému EOS, včetně více než 40 exaflopů výpočtu AI, podtrhují závazek společnosti Nvidia posouvat hranice AI.
Průlom v akcelerátoru Intel Gaudi 2
Společnost Intel dosáhla významného pokroku se svým akcelerátorem Habana Gaudi 2 a využila kombinaci technik, včetně použití 8bitových datových typů s plovoucí desetinnou čárkou (FP8).
Výsledky hovoří samy za sebe, s pozoruhodným 103% zvýšením tréninkové rychlosti oproti červnovým benchmarkům MLPerf. Strategické zaměření společnosti Intel na metriky ceny a výkonu ji staví jako impozantního konkurenta v oblasti školení AI.
„Předpokládali jsme 90procentní zisk ze zapnutí FP8,“ řekl Eitan Medina, provozní ředitel společnosti Intel Habana Labs. „Dodali jsme více, než bylo slíbeno – o 103 procent zkrácení času potřebného na vlak u clusteru 384 akcelerátoru.“
Cloud TPU v5e od Googlu a možnosti škálování
Stejně tak Google se svým Cloud TPU v5e vstoupil do soutěže a předvedl své škálovací schopnosti. Využitím FP8 pro optimální tréninkový výkon Google zdůraznil svou technologii multislice škálování, která umožňuje působivé škálování až 1 024 uzlů se 4 096 čipy TPU v5e.
Závazek společnosti Google k efektivnímu škálování ji v současnosti staví jako klíčového hráče v závodě o dominanci AI, protože společnost nikdy nepřestává optimalizovat svůj software. Intenzivní konkurence mezi Nvidií, Intelem a Googlem v oblasti školení AI mění budoucnost umělé inteligence. . Jak posouvají hranice školení LLM, tito tech giganti nejen překračují předpovědi Moorova zákona, ale také posouvají průmysl do neprobádaných oblastí. Výsledky této soutěže nepochybně ovlivní trajektorii vývoje umělé inteligence a připraví cestu pro transformační pokrok v pole.
The post MLPerf’s Training Benchmark Report odhaluje Nvidia, Intel a Google Racing for Generative AI Dominance appeared first on Metaverse Post.