Un nouveau réseau de supercalculateurs pourrait conduire à l’IA générale, espèrent les scientifiques, avec un premier nœud en ligne d’ici quelques semaines
Les scientifiques espèrent accélérer le développement d’une IA de niveau humain en utilisant un réseau de supercalculateurs puissants, la première de ces machines étant pleinement opérationnelle d’ici 2025.
Les chercheurs prévoient d’accélérer le développement de l’intelligence artificielle générale (AGI) avec un réseau mondial d’ordinateurs extrêmement puissants — en commençant par un nouveau supercalculateur qui sera mis en service en septembre.
L’intelligence artificielle (IA) englobe des technologies telles que l’apprentissage automatique et les systèmes d’IA génératifs comme GPT-4. Ces derniers offrent un raisonnement prédictif basé sur l’apprentissage à partir d’un grand ensemble de données. Ils peuvent souvent surpasser les capacités humaines dans un domaine particulier, en fonction de leurs données d’apprentissage. Ils sont toutefois inférieurs à la moyenne pour les tâches cognitives ou de raisonnement et ne peuvent pas être appliqués à toutes les disciplines.
L’AGI, en revanche, est un système futur hypothétique qui surpasse l’intelligence humaine dans de multiples disciplines – et qui peut apprendre de lui-même et améliorer sa prise de décision en fonction de l’accès à davantage de données.
Les supercalculateurs, construits par SingularityNET, formeront un « réseau informatique cognitif à plusieurs niveaux » qui sera utilisé pour héberger et former les architectures requises pour l’AGI, ont déclaré les représentants de l’entreprise dans un communiqué.
Il s’agit notamment d’éléments de systèmes d’IA avancés tels que les réseaux neuronaux profonds, qui imitent les fonctions du cerveau humain ; les grands modèles linguistiques (LLM), qui sont de grands ensembles de données sur lesquels les systèmes d’IA s’entraînent ; et les systèmes multimodaux qui relient les comportements humains tels que les entrées de parole et de mouvement aux sorties multimédias. Cela ressemble à ce que vous verriez dans les vidéos d’IA.
Construire un nouveau réseau de supercalculateurs d’IA
Les premiers supercalculateurs commenceront à être mis en service en septembre et les travaux seront terminés d’ici fin 2024 ou début 2025, ont déclaré des représentants de l’entreprise, en fonction des délais de livraison des fournisseurs.
Le supercalculateur modulaire sera doté de composants et d’une infrastructure matérielle avancés, notamment des unités de traitement graphique (GPU) Nvidia L40S, des processeurs AMD Instinct et Genoa, des racks de serveurs Tenstorrent Wormhole équipés de GPU Nvidia H200, ainsi que des systèmes GB200 Blackwell de Nvidia. Ensemble, ils constituent l’un des matériels d’IA les plus puissants du marché.
« Ce supercalculateur sera en soi une avancée décisive dans la transition vers l’AGI. Bien que les nouvelles approches d’IA neuronale-symbolique développées par l’équipe d’IA de SingularityNET réduisent quelque peu le besoin de données, de traitement et d’énergie par rapport aux réseaux neuronaux profonds standards, nous avons toujours besoin d’importantes installations de calcul intensif », a déclaré Ben Goertzel , PDG de SingularityNET , à LiveScience dans une déclaration écrite.
« La mission de la machine informatique que nous créons est d’assurer une transition de phase entre l’apprentissage sur le big data et la reproduction ultérieure des contextes de la mémoire sémantique du réseau neuronal, et la pensée machine non imitative basée sur des algorithmes de raisonnement en plusieurs étapes et une modélisation dynamique du monde basée sur la mise en correspondance de modèles inter-domaines et la distillation itérative des connaissances. Sous nos yeux, un changement de paradigme se produit vers l’apprentissage continu, la généralisation transparente et l’auto-modification réflexive de l’IA. »
La route vers une « superintelligence » de l’IA
L’objectif de SingularityNET est de fournir un accès aux données pour la croissance de l’IA, de l’AGI et d’une future superintelligence artificielle , un système futur hypothétique bien plus avancé sur le plan cognitif que n’importe quel être humain. Pour ce faire, Ben Goertzel et son équipe avaient également besoin d’un logiciel unique pour gérer le cluster de calcul fédéré (distribué).
Les clusters de calcul fédérés permettent l’abstraction des données utilisateur et l’exposition des données récapitulatives nécessaires aux calculs à grande échelle, mais protégés, d’ensembles de données contenant des éléments hautement sécurisés tels que les PII.
« OpenCog Hyperon est un framework logiciel open source conçu spécifiquement pour l’architecture des systèmes d’IA », a ajouté Ben Goertzel. « Cette nouvelle infrastructure matérielle est spécialement conçue pour mettre en œuvre OpenCog Hyperon et son environnement d’écosystème AGI. »
Pour permettre aux utilisateurs d’accéder au supercalculateur, Ben Goertzel et son équipe utilisent un système de tokenisation courant dans l’IA. Les utilisateurs ont accès au supercalculateur et, grâce à leurs tokens, ils peuvent utiliser et ajouter des données aux ensembles existants sur lesquels d’autres utilisateurs s’appuient pour tester et déployer des concepts d’IA générale.
Dans leur forme la plus simple, les jetons IA imitent les jetons des jeux vidéo autonomes dans les salles d’arcade. Les joueurs devaient acheter des jetons pour ensuite les insérer dans le jeu vidéo pour avoir un certain nombre de chances de jouer. Dans ce cas, les données collectées lors du jeu sont accessibles à tous les autres joueurs, non seulement dans une salle d’arcade, mais également partout où cette instance du jeu se trouve dans d’autres salles d’arcade du monde.
« GPT-3 a été formé sur 300 milliards de jetons (généralement des mots, des parties de mots ou des signes de ponctuation) et GPT-4 sur 13 000 milliards », a écrit Nabeel S. Qureshi, chercheur et ingénieur logiciel chez Mercatus. « Les voitures autonomes sont formées sur des milliers d’heures de séquences vidéo ; OpenAI Copilot, pour la programmation, est formé sur des millions de lignes de code humain provenant du site Web Github. »
Les leaders de l’IA, en particulier le cofondateur de DeepMind, Shane Legg, ont déclaré que les systèmes pourraient égaler ou dépasser l’intelligence humaine d’ici 2028. Goertzel a déjà estimé que les systèmes atteindraient ce point d’ici 2027 , tandis que Mark Zuckerberg poursuit activement l’AGI après avoir investi 10 milliards de dollars dans la construction de l’infrastructure pour former des modèles d’IA avancés en janvier.
SingularityNET, qui fait partie de l’Artificial Super Intelligence Alliance (ASI) – un collectif d’entreprises dédiées à la recherche et au développement d’intelligence artificielle open source – prévoit d’étendre le réseau à l’avenir et d’augmenter la puissance de calcul disponible. Parmi les autres membres de l’ASI figure Fetch.ai, qui a récemment investi 100 millions de dollars dans une plateforme informatique décentralisée pour les développeurs.
https://www.livescience.com/technology/artificial-intelligence/new-supercomputing-network-lead-to-agi-1st-node-coming-within-weeks
** Le GPU universel le plus puissant du marché
Le GPU L40S de NVIDIA vous fournit des performances de pointe pour traiter de multiples charges de travail. Associant de puissantes fonctionnalités de calcul reposant sur l'IA à des capacités d’accélération graphique et multimédia à la pointe de l’industrie, le GPU L40S a été conçu pour prendre en charge la nouvelle génération des charges de travail sur Data Center, de l’IA générative à l’inférence et l'entraînement sur de grands modèles de langage en passant par l’infographie 3D, le rendu graphique et la vidéo. **
** Des performances de pointe à n'importe quelle échelle
Les accélérateurs AMD Instinct™ offrent des performances de pointe pour les centres de données, à n'importe quelle échelle, des solutions monoserveur aux plus grands supercalculateurs exascale du monde1.
Ils sont particulièrement bien adaptés à la gestion des charges de travail d'IA et de HPC les plus exigeantes, offrant des performances de calcul exceptionnelles, une grande densité de mémoire, une mémoire à large bande passante et la prise en charge de formats de données spécialisés. **
