Desde el lanzamiento de herramientas de IA como ChatGPT, el término "IA" se ha convertido en una palabra de moda en industrias que van desde la educación hasta la creación de contenido. Los escritores y estudiantes ahora enfrentan un nuevo desafío para defender su trabajo, ya sea contenido de IA o humano.
Según las estadísticas de Stastia, el año pasado, el término "IA" se buscó más de 30,4 millones de veces en julio de 2023, lo que triplica la cifra del mes anterior. A medida que la IA se hizo más frecuente, los profesores y editores tuvieron que encontrar una forma alternativa de determinar si el texto que se les presentaba era IA o no. Esto llevó al surgimiento de los detectores de IA. Sin embargo, muchos escritores y educadores han cuestionado la autenticidad de la IA. Uno de ellos es Christoper Pen, cofundador de TrustInsights.ai, quien afirmó en una publicación de LinkedIn que los "detectores de IA" son una broma. Pen no es el único que piensa que los detectores de IA no son fiables. Dianna Mason, especialista en contenidos SEO, afirmó en una publicación: "Los detectores de contenido de IA no funcionan".
Según otra publicación en Reddit, un usuario afirmó: “Sí, los detectores de IA son una estafa. Nunca ha habido un artículo académico que demuestre que un detector de IA puede funcionar de manera confiable. Tampoco existe un marco teórico prometedor sobre cómo funcionaría un detector de IA confiable”.
Varios ejemplos muy conocidos muestran la ineficacia de los detectores de IA. Por ejemplo, un detector identificó erróneamente el 97,75 % de la Declaración de Independencia de los Estados Unidos como compuesta por IA.
En otro caso, se descubrió que textos de la Biblia habían sido escritos por IA. La IA también identificó erróneamente el Bhagavad Gita, una escritura hindú. Este tipo de incidentes plantean serias dudas sobre la credibilidad de los detectores de IA.
Para investigar más a fondo la eficacia de los detectores de IA, probamos un extracto de la Biblia con cuatro detectores diferentes. Los resultados fueron bastante diferentes.
Quilbott: Según este sitio, el extracto utilizado probablemente fue 0% y no generado por IA.
Grammaly- Grammaly también identificó el texto como 100% escrito por humanos.
Gpt Zero: Este sitio le dio al texto un 96% de probabilidad de haber sido escrito por humanos.
Zero Gpt: este fue el último sitio que probé y los resultados fueron bastante alucinantes, según el sitio, el texto estaba escrito en un 96% por IA.
Cómo funcionan los detectores de IA
Los detectores de IA, o detectores GPT, son sistemas diseñados para identificar contenido generado por IA. Estos detectores comparan el texto en términos de patrones y disposición de palabras, al igual que los detectores LLM lo hacen con el texto. Los detectores LLM trabajan con probabilidades que se infieren de los datos y basan sus predicciones puramente en la detección de secuencias de palabras. Los detectores de IA operan sobre estas probabilidades para detectar contenido de IA.
Los detectores de IA utilizan principalmente dos medidas, a saber, la perplejidad y la ráfaga. La perplejidad mide la probabilidad de que la siguiente palabra sea correcta, y la ráfaga es la variabilidad del número de palabras y frases. Si bien la escritura humana tiende a mostrar más variedad, el texto generado por IA suele ser más uniforme. A pesar de esto, a medida que avanzan los modelos de IA como GPT-4, pueden replicar la escritura humana con mayor competencia, lo que dificulta aún más la detección.
Según Jodie Cook, fundadora de Coachvox, “hoy nos reímos de los comentarios de LinkedIn generados por inteligencia artificial… pero a medida que la tecnología mejore, no tendremos ni idea de lo que es real y lo que no. Nadie lo tendrá”.
Para los escritores, estudiantes y empresas, hay mucho en juego. Esto plantea la pregunta: ¿se puede confiar en los detectores de IA?