Производитель чипов Ampere Computing объявил о партнерстве с Qualcomm для разработки сервера искусственного интеллекта нового поколения с использованием процессоров Ampere и чипа вывода Qualcomm AI Cloud AI 100 Ultra, обещая высокую производительность и экономию энергии.
В плане развития на следующий год Ampere Computing — компания, специализирующаяся на производстве чипов ARM для серверов центров обработки данных — удивила всех, объявив о партнерстве с Qualcomm, компанией, известной своими мобильными чипами.
Целью объединения является использование сильных сторон обеих сторон для создания новой линейки серверов вывода ИИ с использованием процессора Ampere и чипа Qualcomm Cloud AI 100 Ultra. Это решение предназначено для эффективного и энергоэффективного запуска крупномасштабных моделей ИИ, особенно больших языковых моделей (LLM) и генеративных приложений ИИ.
По словам Джеффа Виттича, технического директора компании Arm: «Мы работали с Qualcomm над созданием решения серверного уровня, которое эффективно сочетает в себе процессоры Ampere с их высокопроизводительными картами. Это не просто общая разработка, это революция в нашем подходе к искусственному интеллекту».
Результаты испытаний показывают, что языковая модель Llama 3 от Meta, работающая на процессоре Ampere в Oracle Cloud, обеспечивает производительность, эквивалентную графическому процессору Nvidia A100, но потребляет меньше энергии. Ampere и Qualcomm полагают, что новый сервер станет привлекательным выбором для компаний, которым нужны мощные и энергоэффективные решения искусственного интеллекта.
Кроме того, Ampere также представила новый чип AmpereOne с 256 ядрами, изготовленный по передовому 3-нм техпроцессу, поддерживающий 12-канальную оперативную память DDR5, что позволяет клиентам центров обработки данных гибко настраивать доступ к памяти в соответствии с потребностями.
Не останавливаясь на достигнутом, Ampere также сотрудничала с NETINT для создания решения, которое сочетает в себе центральный процессор с чипом обработки видео NETINT. Новый сервер способен параллельно кодировать 360 каналов живого видео и использует модель преобразования текста в речь OpenAI Whisper для субтитров 40 видеопотоков.
Это сотрудничество демонстрирует усилия Ampere по расширению рынка за пределы традиционного сектора центров обработки данных в сторону приложений искусственного интеллекта в средствах массовой информации, развлечениях, розничной торговле и производстве.