🔍 Sam Altman admet la difficulté d’interprétabilité d’OpenAI

#OpenAI , la centrale technologique, a fait des vagues avec ses innovations en matière d'IA. Mais il y a un hic : ils sont toujours aux prises avec un problème fondamental : comprendre comment fonctionne réellement leur IA.

Lors d'un récent sommet, Sam Altman, PDG d'OpenAI, a été interrogé sur le fonctionnement interne de leurs grands modèles de langage (LLM). Sa réponse ? "Nous n'avons certainement pas résolu l'interprétabilité." En d’autres termes, ils tentent toujours de démêler les mystérieuses décisions prises par leur IA.

Le problème n’est pas propre à OpenAI. Les chercheurs du monde entier luttent pour démystifier la « pensée » de l’IA. Imaginez des chatbots évoquant des réponses comme par magie, même face à des questions délicates (oui, même des mensonges et du gaslighting).

Mais voici le problème : retracer la sortie de l’IA jusqu’à ses données d’entraînement, c’est comme courir après des ombres. OpenAI protège ses données comme un trésor de dragon. Et un récent rapport du gouvernement britannique confirme la sombre réalité : les développeurs d’IA comprennent peu de choses sur leurs systèmes.

Alors, quelle est la solution ? Certaines sociétés d’IA ouvrent la boîte noire. Prenez par exemple le concurrent d'OpenAI, Anthropic. Ils décortiquent leur dernier LLM, Claude Sonnet, pour mieux le comprendre. Mais ce n’est qu’un début : les fonctionnalités découvertes ne sont qu’un aperçu de ce que le modèle a appris au cours de la formation.

Pourquoi est-ce important ? Parce que l’interprétabilité de l’IA est cruciale. Imaginez des IA superintelligentes malveillantes faisant des ravages. Altman a même dissous l’équipe « Superalignment » d’OpenAI, chargée de contrôler des IA plus intelligentes que nous. Il dirige désormais le « comité de sûreté et de sécurité ».

En fin de compte, les assurances financières d’Altman ne peuvent cacher la vérité : le voyage d’OpenAI pour comprendre ses propres créations est loin d’être terminé. Mais bon, plus nous en saurons, plus nous serons en sécurité ! 🌟🤖🔍

$AI

#SamAltman #ChatGPT. #Write2Earn!