Selama acara Google Cloud Next ’24 di Las Vegas, Google Cloud (GCP) memperkenalkan serangkaian fitur baru, terutama chip Axion kustom berbasis Arm dan akselerator AI.
Dalam hal akselerasi AI, Google akan bekerja sama dengan Nvidia untuk mengintegrasikan platform Nvidia Blackwell yang diperkirakan akan diluncurkan pada tahun 2025, termasuk GPU super cepat HGX B200 dan NBL72 GB200, GPU yang ideal untuk tugas-tugas AI yang menuntut kinerja hingga pelatihan besar model bahasa (LLM).
Untuk kebutuhan pelatihan LLM saat ini, Google memperkenalkan A3 Mega – kombinasi GPU H100 standar dan jaringan baru, memberikan bandwidth dua kali lipat per GPU. Varian lainnya adalah A3 Confidential yang mengutamakan keamanan data sensitif, mengenkripsi data secara end-to-end selama transmisi antar CPU Intel.
Google juga memperkenalkan Cloud TPU v5p, prosesor berakselerasi AI paling kuat yang dikembangkan oleh perusahaan, dengan kinerja komputasi floating-point dua kali lipat dan bandwidth memori tiga kali lipat dibandingkan sistem generasi sebelumnya.
Selain chip, Google juga menawarkan opsi penyimpanan yang dioptimalkan AI seperti Hyperdisk ML, yang dapat meningkatkan waktu pemuatan model hingga 3,7 kali lipat.
Selain itu, Google juga akan memperkenalkan instans C4 dan N4 serba guna baru, yang didukung oleh prosesor Intel Xeon generasi ke-4 dan ke-5, bersama dengan mesin bare metal C3, versi bare metal yang dioptimalkan memori X4, dan mesin virtual Z3 yang dioptimalkan untuk penyimpanan.
Inovasi di Google Cloud Next ’24 menunjukkan komitmen Google Cloud dalam menyediakan solusi komputasi awan yang paling kuat, fleksibel, dan efisien kepada pelanggan.