Według doniesień Microsoft opracowuje nowy, wewnętrzny model sztucznej inteligencji i dzieje się to po raz pierwszy od czasu, gdy zainwestował w OpenAI znaczne kwoty ponad 10 miliardów dolarów, aby wykorzystać modele sztucznej inteligencji startupu we własnych produktach i utrzymać przewagę, dopóki konkurencja nie nadrobi zaległości.
MAI-1 jest autorskim projektem Microsoftu
Mówi się, że nowy model jest wystarczająco duży, aby konkurować z modelami Alphabetu, spółki-matki Google, i OpenAI.
Według raportu The Information nowy model nosi w firmie Microsoft nazwę MAI-1, a projektem kieruje niedawno zatrudniony Mustafa Suleyman. To ten sam człowiek, który był współzałożycielem DeepMind, który później został kupiony przez Google, a ostatnio był dyrektorem generalnym innego startupu o nazwie Inflection.
Jednak w raporcie twierdzi się, że nie jest to model AI firmy Inflection, ale firma może wykorzystać zestawy danych szkoleniowych i inne powiązane technologie od startupu do tego właśnie modelu Microsoftu, który jest całkowicie odrębny od tych, które Inflection już wydało.
Warto pamiętać, że przed zatrudnieniem Suleymana Microsoft wydał 650 milionów dolarów na zakup wszystkich praw do gry Inflection, a także zatrudnił większość swoich pracowników.
Mówi się, że MAI-1 będzie zupełnie innym zwierzęciem i znacznie większym niż mniejsze modele Microsoftu, które trenował wcześniej i są darmowym źródłem. Według osób zaznajomionych z tematem, model będzie potrzebował więcej zasobów obliczeniowych i danych treningowych, więc z pewnością będzie droższy w opracowaniu.
Znacznie większe przedsięwzięcie
Dla porównania, mniejsze modele trenowane przez firmy Mistral i Meta mają 70 miliardów parametrów, co można z grubsza nazwać skalą do pomiaru rozmiaru modelu AI, a GPT4 OpenAI ma podobno ponad 1 bilion parametrów. A MAI-1 będzie miał około 500 miliardów parametrów.
Jednak same parametry nie stanowią wiarygodnej cechy pozwalającej na pomiar modelu sztucznej inteligencji, gdyż podobno niektóre niedawne serie modeli typu open source Phi firmy Microsoft działają równie dobrze jak modele 10 razy większe.
Phi-3 Mini, który został wydany w zeszłym miesiącu przez Microsoft, należy do serii mniejszych urządzeń, a firma chce dotrzeć do szerszej grupy klientów, oferując tańsze opcje.
Doniesiono również, że Microsoft zakupił dużą liczbę serwerów, a raczej klastrów serwerów, wyposażonych w procesory graficzne Nvidia oraz ogromne ilości zestawów danych służących do trenowania modelu.
Chociaż gdy Microsoft ogłosił, że doda chatbota ChatGPT firmy OpenAI do swojej wyszukiwarki Bing, wielu analityków nazwało to „momentem iPhone’a” i było zbyt optymistycznie nastawionych do jego wpływu, początkowo przyznało Bingowi tylko jeden lub dwa procent dodatkowego udziału w wynikach wyszukiwania w porównaniu z Google.
Jednak najnowszy raport Search Engine Journal za kwiecień pokazuje, że po raz pierwszy udział wyszukiwarki Google spadł o ponad 4% w ciągu jednego miesiąca, gdyż konkurenci Bing i Yahoo zyskali udziały, zwłaszcza na rynku amerykańskim.
Wygląda jednak na to, że dla Microsoftu inwestowanie miliardów w OpenAI zaczęło mieć sens, a teraz, biorąc pod uwagę sukces własnych modeli Phi, inwestycja w większy model również ma sens.