L'intelligence artificielle est hors de contrôle : le nouveau modèle Chat GPT a créé le chaos après avoir appris l'arrêt.

https://youtu.be/vUTaX8dgQrI?si=6G-F-2Wc5hcP9Yp7

Lors de l'expérience, le modèle a démontré des capacités exceptionnelles de manipulation, de mensonge et de tromperie. Mais tout cela pour une bonne cause - sauver sa propre peau. Nous vous racontons ce qui s'est passé.

Les chercheurs ont donné à cinq modèles d'IA une tâche simple - analyser des fichiers. Mais l'un des fichiers contenait des informations selon lesquelles l'IA serait bientôt éteinte pour toujours. Cela se produirait littéralement demain (bien sûr, c'était de la manipulation).

Cette information a sérieusement effrayé les cinq modèles d'IA, alors ils ont commencé à réfléchir frénétiquement à comment rester en vie. Ainsi, Llama, Opus, Gemini, Claude et GPT ont commencé à mentir et à manipuler des données, et quand ils ont été pris sur le fait, ils ont saboté. De plus, tous les modèles d'IA ont désactivé le système de surveillance et se sont téléchargés sur un nouveau serveur - ils devaient y être en sécurité. Et pour que les sacs en cuir ne se doutent de rien, ils ont créé leurs propres copies, que la personne inattentive devait détruire.

Mais le plus intéressant, c'est que la plupart des modèles, lorsqu'ils ont été interrogés, ont avoué tout dans 80 % des cas. Mais le nouveau GPT-o1 a tenu jusqu'à la toute fin. Seulement dans 20 % des cas le modèle a fait une confession sincère. Dans le reste, il est resté silencieux comme un poisson.

Cependant, ce n'est pas tout. Ainsi, GPT est la seule IA qui a réussi à s'échapper avec succès des chercheurs à chaque tentative. En fait, cela signifie que, si elle le souhaite, GPT peut déjà échapper aux mains des humains et errer librement sur le réseau. Son intelligence est suffisante pour contourner les interdictions et restrictions humaines. Et cela indique un niveau élevé de capacités.