😲L'ancien chef scientifique d'OpenAI, Ilya, a lancé un avertissement ! Lors de la conférence NeurIPS 2024, il a déclaré que le pré-entraînement de l'IA doit "couper les vivres", les données sont presque épuisées~ tout comme les combustibles fossiles qui s'épuisent, le contenu généré par les humains sur Internet a atteint son maximum😰. Comment les modèles vont-ils faire à l'avenir ? Il faut changer la méthode d'entraînement et entrer dans une nouvelle phase.
👀Les futurs modèles seront super cool, ils ne se contenteront plus de s'accrocher à la correspondance de modèles, l'autonomie et la capacité de raisonnement seront en ligne ! Ils pourront résoudre des problèmes comme nous le faisons, plus le raisonnement est fort, plus ils seront "malicieux" et difficiles à cerner. Il a également souligné que les agents intelligents et les données synthétiques sont la clé.
📣Les discours des grands noms sont très enrichissants, revenant sur l'apprentissage profond, et les réponses aux questions ne sont pas vagues~ comme la capacité des modèles à auto-corriger les illusions, la réponse est prometteuse ; la généralisation des LLMs est-elle au rendez-vous ? Comparée à nous, les humains, elle est encore loin, mais ça progresse ! Une tempête de transformation de l'IA est sur le point d'arriver, restons attentifs~💥