Lors du récent All-In Summit 2024, le cofondateur de Google, Sergey Brin, a partagé ses réflexions sur l’état actuel de l’IA et l’implication de Google dans le développement de cette technologie. Brin, qui est récemment revenu chez Google pour travailler sur l’IA, a commencé par souligner son enthousiasme pour les progrès « époustouflants » réalisés dans le domaine. Il a noté que l’IA était passée d’une note de bas de page dans les programmes d’informatique à devenir le centre de l’innovation technologique d’aujourd’hui, ajoutant qu’il trouve étonnantes les avancées mensuelles dans les capacités de l’IA.
Brin a expliqué qu’en tant qu’informaticien, les progrès réalisés dans les réseaux neuronaux et l’apprentissage automatique au cours de la dernière décennie ont été particulièrement passionnants. Brin a expliqué comment l’IA touche désormais de nombreux aspects de la vie, y compris la programmation elle-même. Il a révélé qu’il avait même utilisé l’IA pour écrire du code, citant un exemple où il avait demandé à l’IA d’écrire un programme pour générer des grilles de Sudoku et les résoudre ensuite. Brin s’est dit stupéfait de la rapidité avec laquelle l’IA a accompli la tâche, surprenant même les ingénieurs de Google, qui n’avaient pas pleinement réalisé la puissance des outils à leur disposition.
Abordant le sujet des modèles de langage de grande taille (LLM), Brin a évoqué la quête de l’industrie d’un modèle unifié capable de gérer de multiples tâches, faisant allusion au développement de ce que certains appellent un « modèle divin » ou une intelligence artificielle générale (AGI). Il a fait remarquer que si l’idée d’un modèle singulier capable d’effectuer un large éventail de tâches est séduisante, la réalité actuelle nécessite toujours des modèles spécialisés pour certaines tâches. Cependant, Brin estime que la tendance est à un « modèle plus unifié » qui pourrait rassembler ces capacités dans un système puissant et centralisé.
Interrogé sur le développement massif de puces d’IA et d’infrastructures informatiques, Brin a confirmé que Google étendait sa capacité de calcul aussi rapidement que possible pour répondre à la demande interne et externe. Il a reconnu que les clients de Google Cloud sont avides de TPU et de GPU, et que l’entreprise est parfois obligée de refuser des demandes en raison d’une disponibilité limitée. Brin a attribué cette demande à l’empressement du monde des entreprises à intégrer l’IA dans leurs opérations, mais il a également mis en garde contre l’extrapolation aveugle des tendances en matière de puissance de calcul, affirmant que les récentes améliorations algorithmiques pourraient réduire le besoin d’augmentations exponentielles du matériel.
En évoquant les applications de l’IA, Brin a souligné le succès d’AlphaFold, qui a révolutionné le domaine de la biologie en prédisant les structures des protéines. Il a décrit comment AlphaFold est devenu un outil incontournable pour les biologistes du monde entier, soulignant le potentiel transformateur de l’IA dans les sciences de la vie. Dans le même temps, Brin s’est montré optimiste quant à l’avenir de la robotique tout en reconnaissant que la technologie manque encore de la robustesse nécessaire pour une utilisation quotidienne généralisée. Il a expliqué qu’avec le recul, les précédentes incursions de Google dans la robotique étaient peut-être prématurées, mais les avancées dans les modèles d’IA multimodaux, qui intègrent le langage, la vision et d’autres données, ouvrent une voie plus claire pour les applications futures.
Brin a également évoqué l’équilibre entre risque et innovation, notamment en ce qui concerne l’approche prudente de Google en matière de déploiement des LLM. Il a admis que Google était initialement « trop timide » dans le déploiement de ses modèles d’IA, bien qu’il soit un leader dans le développement des modèles Transformer, qui ont jeté les bases des LLM modernes. Brin a souligné que même si ces modèles peuvent parfois commettre des « erreurs stupides », leur potentiel global dépasse de loin ces imperfections. Il estime que les entreprises doivent être prêtes à accepter certains « embarras » afin de repousser les limites et de découvrir de nouvelles possibilités.
En réfléchissant à la culture de Google, Brin a reconnu qu’au fur et à mesure que l’entreprise s’est développée, le développement de produits a tendance à se faire plus conservateur. Il a raconté une histoire interne où les ingénieurs hésitaient à déployer du code généré par l’IA parce qu’il n’était pas parfait. Brin a encouragé l’équipe à aller de l’avant avec la sortie, en faisant valoir que la magie de l’IA réside dans sa capacité à rendre possibles des choses qui étaient auparavant impossibles, et que la perfection ne devrait pas faire obstacle au progrès.
Brin a évoqué la concurrence dans le domaine de l’IA, en particulier entre Google, OpenAI et Anthropic. S’il a salué la concurrence, soulignant qu’elle favorise l’innovation, il a également souligné que le domaine est vaste et regorge d’opportunités. Brin a fait remarquer que même si Google a été brièvement dépassé dans certains tests d’IA par ses concurrents, l’entreprise a depuis retrouvé sa position à l’avant-garde de l’innovation en IA. Il a fièrement partagé que Google a récemment été classé numéro un dans l’analyse des modèles de langage de l’IA pendant quelques semaines, soulignant les progrès réalisés par l’entreprise depuis le lancement de ChatGPT et d’autres modèles concurrents.
Image en vedette via YouTube