Microsoft développe un nouveau grand modèle de langage nommé MAI-1 et concurrence OpenAI, Google et Anthropic. Selon un rapport de The Information, le projet est supervisé par Mustafa Suleyman, PDG de l'IA de Microsoft. L'objectif du nouveau modèle LLM n'est pas encore clair, mais il sera plus grand que les modèles LLM open source précédemment publiés par Microsoft.
MAI-1, GPT4 ou Grok ?
MAI-1 est le premier LLM interne de cette ampleur. Il comportera 500 milliards de paramètres, ce qui en fera l'un des plus grands modèles de langage développés par Microsoft. MAI-1 surpasse tous les modèles open source développés par le géant de la technologie, y compris le Phi-3 mini récemment lancé.
Selon les rumeurs, GPT4 aurait 1,74 billion de paramètres en fonction de sa vitesse d'exécution. Grok-1 d'Elon Musk possède 314 milliards de paramètres et est considéré comme le plus grand LLM open source. DeepMind et Claude 3 n'ont pas divulgué le nombre de paramètres de leur modèle d'IA.
Pourquoi construire MAI-1 ?
On ne sait pas pourquoi Microsoft développe un nouveau modèle LLM tout en investissant 10 milliards de dollars dans OpenAI. Selon The Information, l’objectif de MAI-1 dépendra de ses performances. Le géant de la technologie entraînera le modèle à l'aide de diverses sources de données et utilisera les GPU Nvidia pour construire un cluster de serveurs.
Kevin Scott, le CTO de Microsoft a déclaré sur LinkedIn qu'il ne savait pas pourquoi il s'agissait d'une nouvelle ; cependant, il a confirmé le développement de MAI-1.
Source : LinkedIn
Microsoft prend la tête de la course à l'IA et a intégré la technologie OpenAI dans ses produits, notamment Copilot et Dynamics 365 AI. The Information rapporte que Microsoft pourrait prévisualiser MAI-1 dès sa conférence des développeurs Build plus tard cette année. La prévisualisation du modèle dépend des progrès réalisés dans les semaines à venir.
Microsoft mise à fond sur l'IA
Microsoft est fortement impliqué dans l'intelligence artificielle et les grands modèles de langage. Le mois dernier, la société a lancé un modèle d'IA léger appelé Phi-3 mini. Selon Sébastien Bubeck, vice-président de la recherche GenAI chez Microsoft, le Phi-3 mini est considérablement moins cher et dix fois plus rentable que d'autres modèles dotés de capacités similaires.
Aujourd'hui, Microsoft a annoncé un nouveau centre de données d'IA dans le Wisconsin. Le président Joe Biden s’est joint au géant de la technologie pour faire cette annonce. Microsoft élargit continuellement ses partenariats dans le domaine de l'IA. Il y a deux mois, Microsoft s'est associé à la société française Mistral AI. Elle s'associe également à Vodafone depuis dix ans pour intégrer l'IA générative dans l'entreprise de télécommunications.