Nvidia, międzynarodowa korporacja i firma technologiczna, ogłosiła wprowadzenie nowej usługi, która pomaga przedsiębiorstwom i krajom budować niestandardowe i wyspecjalizowane superkomputery przy użyciu najnowszego LLM firmy Meta, Llama 3.1. 

Nvidia udostępniła dwie nowe usługi skierowane do przedsiębiorstw i krajów. Technologiczny gigant udostępnił usługę w ramach Nvidia AI Foundry oraz mikrousługi wnioskowania w ramach NVIDIA NIM. Obie usługi wykorzystują najnowszą bibliotekę LLM typu open source firmy Meta, Llama 3.1, i mogą tworzyć superkomputery generatywnej sztucznej inteligencji. 

Nvidia AI Foundry pomoże przedsiębiorstwom i krajom tworzyć modele super LLM, które są dostosowane do konkretnych wymagań i potrzeb branżowych. Jest to możliwe dzięki zastosowaniu oprogramowania, sprzętu i talentu Llama 3.1 oraz sprzętu i talentu firmy Nvidia. Przedsiębiorstwa i kraje będą miały możliwość szkolenia tych supermodelek przy użyciu zastrzeżonych danych lub danych syntetycznych wygenerowanych z Llama 3.1 i modelu nagród Nvidia Nemotron.

Przeczytaj także: Tesla zacznie używać humanoidalnych botów w 2025 roku, mówi Elon Musk

Wydana dzisiaj Llama 3.1 ma 405 miliardów parametrów i może konkurować z modelami AI o zamkniętym kodzie źródłowym, takimi jak ChatGPT i Gemini. Meta stale udoskonala Llamę, dostarczając dodatkowe komponenty współpracujące z modelem. Meta i Nvidia nawiązały współpracę, aby zintegrować Llamę 3.1 z usługami Nvidii, dzięki czemu rozwiązanie będzie dostępne od pierwszego dnia. Dyrektor generalny Nvidii, Jensen Huang, powiedział:

„…NVIDIA AI Foundry w pełni zintegrowała Llamę 3.1 i jest gotowa pomóc przedsiębiorstwom w tworzeniu i wdrażaniu niestandardowych supermodeli Lamy.”  

Generacyjne modele AI w Llama 3.1 są trenowane na ponad 16 000 procesorów graficznych Nvidia H100 Tensor Core. Ponadto są zoptymalizowane pod kątem przyspieszonego przetwarzania i oprogramowania Nvidia, które umożliwia wdrażanie w centrach danych, chmurach i na komputerach osobistych wyposażonych w procesor graficzny.

Przeczytaj także: Meta przedstawia największą wersję modelu AI Llama 3

Obecnie wiele firm na całym świecie ma dostęp do mikrousług NIM dla Lamy. Accenture jest pierwszym klientem, który tworzy niestandardowe supermodelki Lamy dla Aramco, AT&T i Ubera. Te korporacje jako pierwsze uzyskają dostęp do mikrousług NIM przy użyciu Lamy 3.1. Po pomyślnym utworzeniu niestandardowych modeli przedsiębiorstwo może wybrać mikrousługi Nvidii, platformę OP i platformę chmurową do uruchamiania modeli. 

W zeszłym tygodniu Mistral AI wypuściło nowy model 12B o nazwie Mistral NeMo we współpracy z Nvidią. Model jest dostępny jako mikrousługa wnioskowania Nvidia NIM. Jeśli chodzi o nowy sprzęt GPU, przeciekający twierdził, że firma zajmująca się technologią sprzętową wypuści nową generację RTX 5090D tylko na rynek chiński. Nowa karta graficzna będzie następcą RTX 4090D.