Amazon údajně pracuje na svém vlastním AI procesoru, aby snížil svou závislost na NVIDIA pro AI čipy. Tato iniciativa také vyvíjí tlak na Nvidii, která dominuje obchodě s AI čipy.
E-commerce gigant se údajně připravuje na debut svých AI čipů a to přichází v době, kdy se Amazon snaží získat spravedlivý podíl v AI průmyslu a upevnit svou pozici v závodě o AI.
Amazon již vyvinul několik vlastních procesorů.
Podle Financial Times Amazon již pracoval na několika vlastních procesorech vyrobených na míru pro jeho pracovní zátěže datových center.
Většina informací pokrývajících tento vývoj AI procesoru by měla být vydána firmou na jejím příštím řadě čipů Trainium příští měsíc.
Zprávy naznačují, že OpenAI, které je podporováno Microsoftem, již používá čipy vyvinuté Annapurna Labs. Annapurna Labs je hlavním partnerem Amazonu, který vyrábí čipy AI procesorů a také poskytuje e-commerce a cloud computing gigantu přístup k základnímu AI modelu Claude od Anthropic.
Velká technologie se rozhodla prosazovat menší závislost na NVIDIA, protože je to jediná firma vyrábějící nejvýkonnější a nejzávislejší AI procesory. I když jsou NVIDIA GPU nejlepší na trhu, jsou však velmi žádané a mají nízkou nabídku, což je činí drahými a zvyšuje náklady na vývoj AI.
Nedostatek nejvýkonnějších AI procesorů je činí jedním z nejžádanějších a nejdražších produktů na světě.
Financial Times uvedly, že pro Amazon je interní vývoj AI čipů strategií, jak snížit svou závislost na NVIDIA pro tento produkt.
Amazon chce snížit náklady na AI produkty od jiných firem.
Amazon však není nováčkem v produkci vlastních čipů. Akvizice Annapurna umožnila firmě poskytovat alternativní možnosti průběžně, aby snížila náklady na používání produktů AMD a Intel pro tradiční datacentrové pracovní zátěže.
Procesory Graviton, které vyrábí Annapurna, úzce spolupracují s vlastními AI procesory nazývanými Trainium vyráběnými Amazonem. Amazon odhalil Trainium 2 v listopadu 2023 a je navržen tak, aby pracoval s velkými jazykovými modely.
Pokud jde o alternativní procesory pro datacentra, Annapurna je také na čele, aby snížila závislost Amazonu na GPU NVIDIA, protože je to preferovaný vývojář.
I když zpráva Financial Times neodhalila mnoho o vlastnostech čipů, uvedla, že firma využije události, která se bude týkat čipů Trainium2. Anthropic používá Trainium 2, ale čip je v nedostatku, přestože byl uveden na trh v roce 2023.
$AMZN ZESILUJE TLAK NA AI ČIPY, ABY KONKUROVAL $NVDA – FT
Annapurna Labs Amazonu zvyšuje svůj sortiment vlastních AI čipů, aby snížila závislost na Nvidii. S brzy uvedeným Trainium 2, který již testovaly firmy jako Anthropic a Databricks, Amazon plánuje snížit náklady na své cloudové služby… pic.twitter.com/1QIKInsy2V
— Wall St Engine (@wallstengine) 12. listopadu 2024
Podle Amazonu více než 500 000 zákazníků AWS používalo jeho čipy Graviton v roce 2023.
Další technologičtí giganti jako mateřská společnost Google Alphabet a majitel Facebooku Meta se také pustili do vývoje AI čipů. Nicméně některé velké technologie jako Apple stále outsourcují k svým rivalům. Meta na začátku tohoto roku uvedla svou druhou generaci Meta Training and Inference Accelerator (MTIA) a obě tyto snižují závislost na GPU NVIDIA.
Rovněž se uvádí, že Microsoftem podporovaný OpenAI také zvažuje možnost vývoje vlastních čipů. V tomto duchu Google na začátku listopadu uvedl AI čip tensor processing unit (TPU), Trillium, svou nejnovější nabídku.
Hovoří se o tom, že AI čipy Google TPU jsou čtyřikrát rychlejší v tréninkovém výkonu AI a třikrát rychlejší v inferenci než jejich předchůdci.
Amazon mezitím rozšířil své úsilí mimo vývoj hardwaru. V červenci tech firma oznámila, že pracuje na AI chatbotu nazvaném Metis. Chatbot by měl fungovat s dvojnásobkem datových parametrů než OpenAI GPT-4.