亞馬遜一直在開發自己的 AI 芯片以降低成本,這也有助於提高亞馬遜網絡服務 (AWS) 的盈利能力。然而,這家電子商務巨頭正在努力開發能夠與 Nvidia 標準芯片相媲美的 AI 芯片。

項目遷移問題、兼容性差距和低使用率是阻礙亞馬遜 AI 芯片普及的一些問題。這種情況還使亞馬遜從其雲業務中獲得的鉅額收入面臨風險。據《商業內幕》報道,亞馬遜面臨的挑戰是通過機密文件和熟悉此事的消息人士確定的。

亞馬遜內部人工智慧晶片的採用受到抑制

Trainium 和 Inferentia 是亞馬遜設計的頂級晶片,於去年年底推出。該出版物報導稱,去年,與 Nvidia 圖形處理單元相比,Trainium 在 AWS 客戶中的採用率僅為 0.5%。

另請閱讀:AWS 的生成式 AI 創造奇蹟,亞馬遜利潤超出華爾街預期

報告稱,亞馬遜於 2024 年 4 月透過其 AWS 服務進行了評估,以衡量不同人工智慧晶片的使用百分比。同時,Inferentia 的採用率略高,為 2.7%。 Inferentia是一款專為推理而設計的特殊晶片,推理是一種人工智慧任務,通常指最終消費者使用人工智慧模型的計算過程。該報告提到了一份內部文件稱;

“客戶的早期嘗試暴露了摩擦點並阻礙了採用。”

上述說法指的是大型雲端客戶在過渡到亞馬遜客製化晶片時所面臨的挑戰。 Nvidia 的 CUDA 平台被認為對客戶更具吸引力,報告認為這是一個關鍵原因。

亞馬遜的客製化人工智慧晶片開發正在接受內部審查

全球最大的雲端服務供應商AWS目前正在開發自研電腦晶片以方便運作。亞馬遜有時會炫耀其人工智慧晶片的努力。然而,文件中顯示的圖片與該公司的計劃有所不同。

新加坡通訊和資訊部長 Tan Kiat How 與 AWS 高層和合作夥伴。資料來源:AWS。

內部文件稱,該公司正因採用率緩慢而苦苦掙扎,但亞馬遜執行長卻有不同的看法。亞馬遜執行長安迪賈西 (Andy Jassy) 在第一季財報電話會議上表示,對 AWS 晶片的需求很高。

“我們擁有最廣泛的 NVIDIA 計算實例選擇,但鑑於其相對於可用替代方案具有有利的性價比優勢,對我們的定制晶片、訓練和推理的需求相當高。”

安迪·賈西

Jassy 在投資者信中還提到了 AWS 晶片的早期採用者,他表示“我們已經有幾個客戶在使用我們的 AI 晶片,包括 Anthropic、Airbnb、Hugging Face、Qualtrics、Ricoh 和 Snap。”同時,Anthropic 的情況則完全不同,因為亞馬遜是這家新創公司最大的支持者。這家雲端巨頭已向 Anthropic 投資 40 億美元,投資協議規定必須使用 AWS 設計的晶片。

AWS 的一個主要元件利用 Nvidia GPU

Amazon Web Services 提供各種處理器,從 Nvidia 的 Grass Hopper 晶片到 AMD 和 Intel。它的大部分盈利能力來自於設計自己的資料中心晶片,這有助於它透過避免從 Nvidia 購買 GPU 來節省成本。

另請閱讀:在人工智慧和 GPU 需求不斷增長的情況下,Nvidia 經歷了顯著的成長

亞馬遜於 2018 年推出了首款人工智慧晶片 Inferntia,但英偉達在提供更廣泛地被不同行業採用的解決方案方面仍然處於領先地位。 AWS、微軟和谷歌是 Nvidia 的一些最大客戶。所有這些巨頭都透過他們的雲端服務租用 GPU。 

今年 3 月,AWS 執行長 Adam Selipsku 出席了 Nvidia GTC 2023。 

“我們兩個組織之間的深度合作可以追溯到 13 年前,當時我們共同在 AWS 上推出了世界上第一個 GPU 雲端實例,如今我們為客戶提供最廣泛的 NVIDIA GPU 解決方案。”

塞利普斯卡

Nvidia 的平台稱為 Cuda,通常受到開發人員的青睞。由於英偉達花費了多年的時間和精力來創建它,並且業界已經採用它,這使得他們處理事情變得更容易。另一方面,亞馬遜仍然需要透過反覆試驗來解決這個難題。

阿米爾謝赫 (Aamir Sheikh) 的《加密城》報道