Producent chipów Ampere Computing ogłosił partnerstwo z firmą Qualcomm w celu opracowania serwera AI nowej generacji, wykorzystującego procesory Ampere i układ inferencyjny AI Cloud AI 100 Ultra firmy Qualcomm, co zapewnia wysoką wydajność i oszczędność energii.

W planie rozwoju na przyszły rok Ampere Computing – firma specjalizująca się w produkcji chipów ARM dla serwerów centrów danych – zaskoczyła wszystkich ogłaszając partnerstwo z firmą Qualcomm, firmą słynącą z chipów mobilnych.

Połączenie ma na celu wykorzystanie mocnych stron obu stron w celu stworzenia nowej linii serwerów wnioskowania AI, wykorzystujących procesor Ampere i układ Qualcomm Cloud AI 100 Ultra. Rozwiązanie to zostało zaprojektowane z myślą o wydajnym i energooszczędnym uruchamianiu wielkoskalowych modeli sztucznej inteligencji, zwłaszcza dużych modeli językowych (LLM) i generatywnych aplikacji AI.

Według Jeffa Witticha, dyrektora ds. technologii w firmie Arm, „Współpracowaliśmy z firmą Qualcomm, aby stworzyć rozwiązanie klasy serwerowej, które skutecznie łączy procesory Ampere z ich kartami o wysokiej wydajności. To nie tylko powszechny rozwój, ale rewolucja w sposobie, w jaki podchodzimy do sztucznej inteligencji”.

Wyniki testów pokazują, że model języka Meta Llama 3 działający na procesorze Ampere w Oracle Cloud osiąga taką samą wydajność jak procesor graficzny Nvidia A100, ale zużywa mniej energii. Ampere i Qualcomm uważają, że nowy serwer będzie atrakcyjnym wyborem dla firm poszukujących wydajnych i energooszczędnych rozwiązań AI.

Ponadto Ampere wprowadziło także nowy układ AmpereOne z 256 rdzeniami, wyprodukowany w zaawansowanym procesie technologicznym 3 nm, obsługujący 12-kanałową pamięć RAM DDR5, umożliwiając klientom centrów danych elastyczne dostosowywanie dostępu do pamięci w zależności od potrzeb.

Nie poprzestając na tym, Ampere współpracowała również z firmą NETINT w celu zbudowania rozwiązania, które łączy procesor z układem przetwarzania wideo firmy NETINT. Nowy serwer może równolegle kodować 360 kanałów wideo na żywo i wykorzystuje model zamiany tekstu na mowę Whisper OpenAI do generowania napisów dla 40 strumieni wideo.

Współpraca ta pokazuje wysiłki Ampere mające na celu rozszerzenie rynku poza tradycyjny sektor centrów danych w kierunku zastosowań sztucznej inteligencji w mediach, rozrywce, handlu detalicznym i produkcji.