William Saunders, ancien membre de l'équipe de superalignement d'OpenAI, a révélé les raisons de son départ de l'organisation, faisant une analogie frappante avec le naufrage du R.M.S. Titanesque. Après avoir passé trois ans chez OpenAI, Saunders a exprimé ses inquiétudes dans un épisode du podcast du journaliste technologique Alex Kantrowitz, soulignant sa conviction qu'OpenAI pourrait se diriger vers une catastrophe semblable au triste voyage du Titanic en 1912.

Saunders a déclaré que son travail chez OpenAI l’a souvent amené à se demander si la trajectoire de l’entreprise correspondait à l’effondrement tragique du Titanic ou au succès du programme spatial Apollo. Alors que le Titanic a malheureusement péri à cause de canots de sauvetage inadéquats et d'autres problèmes de sécurité négligés, le programme Apollo, malgré ses difficultés, a finalement réussi grâce à des efforts scientifiques diligents.

OpenAI est le Titanic de l'IA

« Beaucoup de travail a été réalisé pour sécuriser le navire et construire des compartiments étanches afin qu'ils puissent dire qu'il était insubmersible. Mais en même temps, il n’y avait pas assez de canots de sauvetage pour tout le monde », a fait remarquer Saunders, faisant une analogie directe avec les opérations d’OpenAI. Il a critiqué la philosophie de l’entreprise, qu’il considère comme donnant la priorité au développement de produits plutôt qu’aux précautions de sécurité essentielles.

Saunders a décrit un environnement chez OpenAI dans lequel les employés qui exprimaient des préoccupations en matière de sécurité étaient marginalisés et où la direction semblait plus axée sur le profit que sur la mise en œuvre des mesures de sécurité nécessaires. "Au fil du temps", a-t-il déclaré, "on a commencé à avoir vraiment l'impression que les décisions prises par les dirigeants ressemblaient davantage à celles de la White Star Line construisant le Titanic."

La critique d’OpenAI par Elon Musk

Ce n’est pas la première fois qu’OpenAI est confronté à des dissensions internes. Elon Musk, l’un des cofondateurs d’OpenAI, a récemment déposé puis retiré une action en justice contre l’entreprise, affirmant qu’elle s’était écartée de sa mission initiale. Bien que Musk ne soit pas impliqué dans OpenAI depuis des années et dirige désormais une société d’IA concurrente, xAI, ses préoccupations font écho aux sentiments de Saunders.

De même, la société rivale d’IA Anthropic a été fondée en 2021 par d’anciens employés d’OpenAI qui n’étaient pas satisfaits de l’accent mis par OpenAI sur la confiance et la sécurité. D’un autre côté, Ilya Sutskever, un autre co-fondateur et ancien scientifique en chef, a quitté OpenAI en mai 2024 pour lancer sa propre entreprise, exprimant sa confiance dans le fait qu’OpenAI atteindrait ses objectifs en toute sécurité.

Iceberg

Avec plusieurs départs très médiatisés et des critiques comparant le chemin d’OpenAI à celui du Titanic, la question pressante demeure : qui ou qu’est-ce que l’iceberg ?

Si nous considérons les passagers de l’analogie avec le Titanic comme l’ensemble de l’humanité, alors l’iceberg pourrait représenter les risques existentiels posés par les systèmes d’IA avancés comme ChatGPT pour une société non préparée. La capacité de l’IA à surpasser l’intelligence humaine sans garanties adéquates pourrait avoir des conséquences désastreuses, similaires à l’absence de canots de sauvetage sur le Titanic.

Le message Un ancien employé d'OpenAI qualifie l'entreprise de « Titanic de l'IA » apparaît en premier dans Dernières nouvelles et informations sur la blockchain, la crypto-monnaie et l'investissement.