OpenAI retarde la sortie de l'outil de détection de contenu IA en raison de problèmes de falsification et de stigmatisation 🛑
OpenAI retarde la sortie d'un outil "très précis" pour détecter le contenu généré par ChatGPT en raison de préoccupations concernant #tampering et de la stigmatisation des non-anglophones. Annoncée en mai, la sortie de l'outil est au point mort après des débats internes sur son utilisation abusive potentielle et son impact sur les anglophones non natifs qui pourraient éviter les outils d'écriture d'IA pour contourner la détection.
Les recherches indiquent que le tatouage de texte pourrait affecter de manière disproportionnée certains groupes. Malgré l'efficacité de l'outil contre la falsification, #OpenAI craint qu'il puisse encore être contourné par de mauvais acteurs.
Aucun outil actuel n'a montré un niveau élevé de détection du contenu généré par l'IA dans diverses tâches, ce qui rend l'outil d'OpenAI, qui utilise un filigrane invisible et des méthodes propriétaires, potentiellement révolutionnaire.
