Elon Musk a annoncé qu’une itération améliorée du chatbot Grok de sa société d’intelligence artificielle xAI pourrait être publiée la semaine prochaine.

Cette révélation est venue via la publication de Musk sur les réseaux sociaux le 29 mars, à la suite de l’annonce de Grok-1.5 par xAI dans un article de blog. Le chatbot IA amélioré sera initialement accessible aux « premiers testeurs et aux utilisateurs Grok existants sur la plateforme de médias sociaux ».

De plus, Musk a fait allusion au développement en cours de Grok 2, qui, selon lui, dépassera les normes actuelles en matière d'IA dans tous les aspects.

Grok-1.5

Grok-1.5 est une version avancée du modèle d'IA Grok-1 et est livré avec un raisonnement amélioré et une longueur de contexte de 128 000 jetons.

L'analyse de xAI indique des améliorations significatives dans les performances de son chatbot avancé, en particulier dans les tâches de codage et liées aux mathématiques. Cependant, il est loin d’être comparable au Gemini Pro 1.5 de Google et au GPT-4 d’OpenAI.

Selon le cabinet :

« Grok-1.5 a obtenu un score de 50,6 % au test MATH et un score de 90 % au test GSM8K, deux tests mathématiques couvrant un large éventail de problèmes de compétition du primaire au lycée. De plus, il a obtenu un score de 74,1 % au benchmark HumanEval, qui évalue les capacités de génération de code et de résolution de problèmes.

De plus, Grok-1.5 peut utiliser des informations provenant de documents beaucoup plus longs, et le modèle peut gérer des invites plus longues et plus complexes tout en conservant sa capacité de suivi d'instructions à mesure que sa fenêtre contextuelle s'agrandit.

La société a ajouté :

« Grok-1.5 est construit sur un cadre de formation distribué personnalisé basé sur JAX, Rust et Kubernetes. Cette pile de formation permet à notre équipe de prototyper des idées et de former de nouvelles architectures à grande échelle avec un minimum d'effort.

Grok est open source

Plus tôt ce mois-ci, xAI a franchi une étape importante en rendant open source le code de base de Grok-1.

Cette décision fait suite à une action en justice intentée par Musk contre OpenAI, l'organisation qu'il a cofondée. Musk a allégué qu'OpenAI s'était écarté de son engagement initial de donner la priorité au développement de modèles open source plutôt qu'aux intérêts des actionnaires.

Pendant ce temps, xAI a déclaré que le code publié était « le point de contrôle brut du modèle de base de la phase de pré-formation Grok-1, qui s'est terminée en octobre 2023. Cela signifie que le modèle n'est pas affiné pour une application spécifique, telle que le dialogue ». Il a ajouté que le modèle était sous licence Apache License 2.0.