在拉斯維加斯舉行的 Google Cloud Next ’24 活動期間,Google Cloud (GCP) 推出了一系列新功能,其中最引人注目的是基於 Arm 的客製化 Axion 晶片和 AI 加速器。
在AI加速方面,Google將與Nvidia合作,整合預計於2025年推出的Nvidia Blackwell平台,包括超快的HGX B200 GPU和NBL72 GB200,該GPU非常適合訓練大型AI任務。
為了滿足當前的 LLM 培訓需求,Google 推出了 A3 Mega——標準 H100 GPU 和新網路的組合,為每個 GPU 提供雙倍的頻寬。另一種變體是 A3 Confidential,它優先考慮敏感資料的安全性,在 Intel CPU 之間傳輸期間對資料進行端對端加密。
谷歌也推出了該公司開發的最強大的AI加速處理器Cloud TPU v5p,與上一代系統相比,浮點運算效能提高了一倍,記憶體頻寬提高了三倍。
除了晶片之外,Google還提供了 AI 最佳化的儲存選項,例如 Hyperdisk ML,它可以將模型載入時間縮短多達 3.7 倍。
此外,Google還將推出新的通用C4和N4實例,由英特爾第四代和第五代Xeon處理器提供支持,以及C3裸機、X4記憶體優化的裸機版本和針對儲存優化的Z3虛擬機。
Google Cloud Next '24 的創新體現了 Google Cloud 致力於為客戶提供最強大、靈活和高效的雲端運算解決方案的承諾。