Selon Cointelegraph, un nouveau chatbot d'intelligence artificielle appelé « Reflection 70B » a été introduit par HyperWrite AI. Le PDG Matt Shumer a annoncé le développement le 5 septembre, affirmant qu'il s'agissait du meilleur modèle open source au monde. L'IA a été formée à l'aide d'une technique appelée « Reflection-Tuning », conçue pour permettre aux grands modèles linguistiques (LLM) de corriger leurs propres erreurs.

Selon Shumer, Reflection Llama-3.1 70B, l’IA open source de Meta lancée en juillet, peut rivaliser avec les meilleurs modèles à code source fermé comme Claude 3.5 Sonnet d’Anthropic et GPT-4o d’OpenAI dans plusieurs tests de performance. Il explique que les modèles d’IA actuels ont souvent des hallucinations, c’est-à-dire qu’ils génèrent des résultats inexacts en percevant des modèles ou des objets qui n’existent pas. Reflection-Tuning vise à résoudre ce problème en permettant à l’IA de reconnaître et de corriger ses erreurs avant de finaliser une réponse.

Le réglage par réflexion consiste à alimenter le modèle à partir des réponses de l’IA, en lui demandant d’évaluer ses propres résultats pour identifier ses points forts, ses points faibles et les domaines à améliorer. Ce processus itératif aide l’IA à affiner en permanence ses capacités, la rendant plus consciente d’elle-même et plus efficace pour critiquer et améliorer ses performances. Shumer a noté qu’avec les bonnes indications, le nouveau modèle est très efficace pour divers cas d’utilisation.

En 2023, OpenAI, soutenu par Microsoft, a publié un article de recherche sur les méthodes permettant de prévenir les hallucinations de l'IA. L'une des idées proposées était la « supervision des processus », qui consiste à entraîner les modèles d'IA à se récompenser pour chaque étape correcte du raisonnement plutôt que pour la conclusion finale correcte. Karl Cobbe, chercheur à OpenAI, a souligné l'importance de détecter et d'atténuer les erreurs logiques ou les hallucinations comme une étape essentielle vers la construction d'une intelligence artificielle générale alignée (IAG).