OpenAI retrasa el lanzamiento de una herramienta de detección de contenido de IA por preocupaciones de manipulación y estigmatización 🛑
OpenAI está retrasando el lanzamiento de una herramienta "altamente precisa" para detectar contenido generado por ChatGPT debido a preocupaciones sobre #tampering y la estigmatización de las personas que no hablan inglés. Anunciado en mayo, el lanzamiento de la herramienta se ha estancado después de debates internos sobre su posible uso indebido y el impacto en los hablantes no nativos de inglés que podrían evitar las herramientas de escritura de IA para evitar la detección.
Las investigaciones indican que las marcas de agua en los textos podrían afectar de manera desproporcionada a algunos grupos. A pesar de la eficacia de la herramienta contra la manipulación, #OpenAI teme que los malos actores aún puedan pasarla por alto.
Ninguna herramienta actual ha mostrado un alto #accuracy en la detección de contenido generado por IA en diversas tareas, lo que hace que la herramienta de OpenAI, que utiliza marcas de agua invisibles y métodos patentados, sea potencialmente innovadora.
