Amazon telah mengembangkan chip AI-nya sendiri untuk memangkas biaya, yang juga membantu meningkatkan profitabilitas Amazon Web Services (AWS). Namun, raksasa e-commerce tersebut sedang berjuang untuk mengembangkan chip AI yang dapat menyaingi chip standar Nvidia.

Masalah migrasi proyek, kesenjangan kompatibilitas, dan rendahnya penggunaan adalah beberapa kekhawatiran yang memperlambat adopsi chip AI Amazon. Situasi ini juga mempertaruhkan pendapatan besar yang dihasilkan Amazon dari bisnis cloud-nya. Tantangan yang dihadapi Amazon diidentifikasi melalui dokumen rahasia dan sumber yang mengetahui masalah tersebut, seperti dilansir Business Insider.

Adopsi Chip AI In-House Amazon Tertahan

Trainium dan Inferentia adalah chip terbaik rancangan Amazon yang memulai debutnya menjelang akhir tahun lalu. Publikasi tersebut melaporkan bahwa tahun lalu, tingkat adopsi Trainium di antara pelanggan AWS hanya 0,5% dibandingkan dengan unit pemrosesan grafis Nvidia.

Baca juga: Keuntungan Amazon Melampaui Ekspektasi Wall Street karena AI Generatif AWS Berhasil dengan Ajaib

Amazon melakukan penilaian untuk mengukur persentase penggunaan chip AI yang berbeda melalui layanan AWS-nya pada bulan April 2024, menurut laporan tersebut. Pada saat yang sama, tingkat adopsi Inferentia sedikit lebih tinggi, yaitu 2,7%. Inferentia adalah chip khusus yang dirancang untuk inferensi, tugas AI yang biasanya merujuk pada proses komputasi untuk penggunaan model AI oleh konsumen akhir. Laporan tersebut menyebutkan dokumen internal yang mengatakan bahwa;

“Upaya awal dari pelanggan telah mengungkap titik-titik gesekan dan menghambat adopsi.”

Pernyataan di atas mengacu pada tantangan yang dihadapi pelanggan cloud besar saat melakukan transisi ke chip khusus Amazon. Platform CUDA Nvidia dianggap lebih menarik bagi pelanggan, dan laporan tersebut mengidentifikasinya sebagai alasan utama.

Pengembangan Chip AI Kustom Amazon Sedang Ditinjau Internal

AWS, penyedia layanan cloud terbesar di dunia, kini mengembangkan chip komputer buatannya untuk memfasilitasi pengoperasian. Amazon terkadang memamerkan upaya chip AI-nya. Namun gambaran yang ditampilkan dalam dokumen tersebut berbeda dengan apa yang diproyeksikan perusahaan.

Menteri Komunikasi dan Informasi Singapura, Tan Kiat How, bersama para eksekutif dan mitra AWS. Sumber: AWS.

Dokumen internal menyatakan bahwa perusahaan sedang berjuang dengan tingkat adopsi yang lambat, namun CEO Amazon memiliki pandangan berbeda. Pada laporan pendapatan kuartal pertama, CEO Amazon Andy Jassy mengatakan permintaan chip AWS tinggi.

“Kami memiliki pilihan instans komputasi NVIDIA terluas, namun permintaan terhadap silikon kustom, pelatihan, dan inferensi kami cukup tinggi, mengingat keunggulan harga-kinerja yang menguntungkan dibandingkan alternatif yang tersedia.”

Andy Jassy

Jassy juga menyebutkan pengguna awal chip silikon AWS dalam surat investornya, dengan mengatakan bahwa “kami telah memiliki beberapa pelanggan yang menggunakan chip AI kami, termasuk Anthropic, Airbnb, Hugging Face, Qualtrics, Ricoh, dan Snap.” Pada saat yang sama, Anthropic adalah kasus yang berbeda karena Amazon adalah pendukung terbesar startup ini. Raksasa cloud ini telah menginvestasikan $4 miliar di Anthropic, dan kesepakatan investasi tersebut mengikatnya untuk menggunakan silikon rancangan AWS.

Komponen Utama AWS Memanfaatkan GPU Nvidia

Amazon Web Services menawarkan beragam prosesor, mulai dari chip Grass Hopper Nvidia hingga AMD dan Intel. Sebagian besar keuntungannya berasal dari perancangan chip pusat datanya sendiri, yang membantunya menghemat biaya dengan menghindari pembelian GPU dari Nvidia.

Baca juga: Nvidia Mengalami Pertumbuhan Luar Biasa di Tengah Meningkatnya Permintaan AI dan GPU

Amazon meluncurkan chip AI pertamanya, Inferntia, pada tahun 2018, namun Nvidia masih memimpin dalam menawarkan solusi yang lebih banyak diadopsi oleh berbagai industri. AWS, Microsoft, dan Google adalah beberapa pelanggan terbesar Nvidia. Semua raksasa ini menyewa GPU melalui layanan cloud mereka. 

Pada bulan Maret, Adam Selipsku, CEO AWS, menghadiri Nvidia GTC 2023. Kedua perusahaan membuat pengumuman bersama yang berfokus pada kolaborasi strategis mereka untuk memajukan AI generatif. 

“Kolaborasi mendalam antara kedua organisasi kami telah berlangsung selama lebih dari 13 tahun, ketika kami bersama-sama meluncurkan instance cloud GPU pertama di dunia di AWS, dan hari ini kami menawarkan solusi GPU NVIDIA terluas untuk pelanggan.”

Selipska

Platform Nvidia yang disebut Cuda biasanya disukai oleh para pengembang. Karena Nvidia menghabiskan waktu dan upaya bertahun-tahun dalam menciptakannya, dan industri telah mengadopsinya, yang membuat penanganannya lebih mudah. Di sisi lain, Amazon masih harus menyelesaikan teka-teki ini dengan trial and error.

Pelaporan Cryptopolitan oleh Aamir Sheikh