Nhà sản xuất chip Ampere Computing đã công bố hợp tác với Qualcomm để phát triển máy chủ AI thế hệ mới, sử dụng CPU của Ampere và chip suy luận AI Cloud AI 100 Ultra của Qualcomm, hứa hẹn hiệu năng cao và tiết kiệm năng lượng.
Trong lộ trình phát triển năm tới, Ampere Computing – công ty chuyên sản xuất chip ARM cho máy chủ trung tâm dữ liệu – đã gây bất ngờ khi công bố hợp tác với Qualcomm, cái tên vốn nổi tiếng với chip di động.
Sự kết hợp nhằm tận dụng thế mạnh của hai bên để tạo ra dòng máy chủ AI inference (suy luận) mới, sử dụng CPU của Ampere và chip Cloud AI 100 Ultra của Qualcomm. Giải pháp này được thiết kế để chạy các mô hình AI quy mô lớn, đặc biệt là các mô hình ngôn ngữ lớn (LLM) và ứng dụng AI tạo sinh, một cách hiệu quả và tiết kiệm năng lượng.
Theo Jeff Wittich, Giám đốc công nghệ của Arm, “Chúng tôi đã làm việc với Qualcomm để tạo ra giải pháp cấp máy chủ, kết hợp hiệu quả CPU Ampere với card hiệu năng cao của họ. Đây không chỉ là một bước phát triển thông thường, mà là một cuộc cách mạng trong cách chúng ta tiếp cận AI.”
Kết quả thử nghiệm cho thấy mô hình ngôn ngữ Llama 3 của Meta chạy trên CPU Ampere tại Oracle Cloud đạt hiệu suất tương đương GPU Nvidia A100 nhưng tiêu thụ ít năng lượng hơn. Ampere và Qualcomm tin rằng máy chủ mới sẽ là lựa chọn hấp dẫn cho các doanh nghiệp tìm kiếm giải pháp AI mạnh mẽ và tiết kiệm năng lượng.
Bên cạnh đó, Ampere cũng giới thiệu chip AmpereOne mới với 256 lõi, sản xuất trên tiến trình 3nm tiên tiến, hỗ trợ RAM DDR5 12 kênh, cho phép khách hàng trung tâm dữ liệu linh hoạt điều chỉnh truy cập bộ nhớ theo nhu cầu.
Không dừng lại ở đó, Ampere còn hợp tác với NETINT để xây dựng giải pháp kết hợp CPU của mình với chip xử lý video của NETINT. Máy chủ mới có khả năng mã hóa song song 360 kênh video trực tiếp và sử dụng mô hình chuyển văn bản thành giọng nói Whisper của OpenAI để tạo phụ đề cho 40 luồng video.
Những hợp tác này cho thấy nỗ lực của Ampere trong việc mở rộng thị trường ra ngoài lĩnh vực trung tâm dữ liệu truyền thống, hướng đến các ứng dụng AI trong truyền thông, giải trí, bán lẻ và sản xuất.