La Inteligencia Artificial (IA) se ha apoderado de la vida moderna, particularmente en la generación de contenido escrito. Si bien todo es diversión y juegos, la inexactitud en la detección de contenido de IA es alarmante. Lo peor es que los detectores de IA marcan el contenido escrito por humanos como generado por GPT; Estudio de caso la Constitución de los Estados Unidos.

Lea también: Paul Graham de Y Combinator, criticado por afirmar que los textos con "Delve" están escritos por IA

La Constitución de los Estados Unidos fue redactada en 1787, ratificada en 1788 y ha estado en vigor desde 1789. Es la carta de gobierno escrita más antigua del mundo. La Constitución fue aproximadamente un siglo antes de que se inventara el primer automóvil. Sin embargo, un detector de IA marcó que el 97,97% era generado por IA.

Los detectores de IA marcan la Constitución de EE. UU. como inhumana

En 2023 se produjo un aumento en el contenido escrito sobre inteligencia artificial. Poco después, los desarrolladores del mercado aprovecharon la oportunidad para crear detectores que informan los porcentajes de contenido de IA. Debería haber sido un buen avance, pero no es el caso.

Un detector de IA ha marcado la Constitución de los Estados Unidos como contenido de IA. ¿El porcentaje? Un cierre del 97,97%. El término “inteligencia artificial” se acuñó y se hizo popular con el nacimiento de la IA entre 1950 y 1956. Entonces, ¿cómo es posible que la IA haya escrito un documento 163 años más antiguo que su invención?

Fuente: Zerogpt.com

En 1950, Alan Turing publicó un artículo titulado “Computer Machinery and Intelligence”, en el que proponía una prueba de inteligencia de las máquinas llamada The Imitation Game. Este artículo marcó el comienzo del mundo en el que vivimos hoy.

En 1952, un informático llamado Arthur Samuel desarrolló un programa para jugar a las damas, el primero en aprender el juego de forma independiente. Poco después, en 1955, John McCarthy impartió un taller en Dartmouth sobre “inteligencia artificial”, que fue el primer uso de la palabra.

Los detectores de IA tienen limitaciones

Los detectores de IA tienen limitaciones porque el texto generado por IA imita la escritura humana. Estos detectores han sido entrenados por los mismos humanos que enseñaron a escribir a las máquinas. Entonces, ¿cómo funcionarían sus detectores de IA y qué precisión tienen? Otro detector de IA obtuvo un contenido de IA del 1% en la Constitución de Estados Unidos. ¿De dónde salió el 1%?

Fuente: gptzero.me

Bueno, aquí está la disparidad: algunos detectores de IA buscan ciertas palabras como "profundizar, tapizar, utilizar, numerosos, etc." que suele utilizar la IA pero que son poco comunes entre los estadounidenses. 

Sin embargo, para algunas personas de países con historia colonial británica, estas palabras se usan comúnmente tanto en el lenguaje hablado como escrito.

El mes pasado, el cofundador de Y Combinator, Paul Graham, fue criticado luego de una teoría de atribución de texto ChatGPT que hizo en X (anteriormente Twitter). Graham publicó una fría propuesta por correo electrónico que recibió de alguien para un proyecto que concluyó que era escritura de IA porque contenía la palabra "profundizar".

Un usuario de X dijo: "Las personas que han aprendido inglés en los países que tienen un pasado colonial británico, así es exactamente como aprendimos inglés [...] 'Delve' es una palabra normal que hablamos". Otro dijo que es un problema estadounidense.

Algunos países y personas todavía usan lo que yo describiría como “inglés literario”. Lo desafortunado es que el vocabulario americano se basa principalmente en coloquialismos (lo que se llama slang) y modismos americanos contemporáneos, hasta el punto de que el uso sofisticado de...

– Oficina de Investigación de África (@MightiJamie) 10 de abril de 2024

Esto plantea la pregunta: ¿los detectores de IA y los generadores de contenido deberían ser específicos para cada región en inglés? ¿O deberíamos acabar con todas estas herramientas de escritura y detectores?

Los detectores de IA son inexactos

Los detectores de IA se basan en características lingüísticas inconsistentes. El lenguaje humano es inherentemente variable, con una amplia gama de estilos, dialectos y modismos. El texto generado por IA puede caer dentro de estas variaciones, lo que dificulta que los detectores sean precisos.

Alrededor del 20% de los textos generados por IA pasan a través de estos sistemas de detección sin ser detectados, lo que socava la confiabilidad de los detectores de IA. De manera similar, alrededor del 25% del texto escrito por humanos está falsamente marcado como IA.

Un usuario de Quora escribió: “El detector de IA está detectando mi trabajo como 100% generado por IA. Porque, por ignorancia, lo usé como herramienta de edición y gramática a pedido de un asesor académico. Las palabras, el concepto y la experiencia de vida en el artículo ya publicado son míos. ¿Qué debo hacer?"

Muchos han expresado su frustración con este tema. Recientemente, en una noticia publicada por Cryptopolitan, un generador de inteligencia artificial marcó palabras pronunciadas por Donald Trump. Dijo: "Soy muy positivo y de mente abierta con respecto a las empresas de criptomonedas y todo lo relacionado con esta nueva y floreciente industria". ⁤¿Cómo se añade la IA a las palabras habladas? ¿Está en la mente de una persona? ¿En pensamientos expresados?

Otro contenido fue de David Bailey: “Nos movilizaremos para defendernos. ⁤⁤No votaremos por Trump per se, votaremos contra Biden. ⁤⁤El único culpable de esto es Biden. “

Lea también: La campaña criptográfica de Trump: todo lo que necesita saber

En 2023, OpenAI publicó consejos para educadores en una publicación de blog promocional que muestra cómo algunos profesores utilizan ChatGPT como ayuda educativa.  

En una sección de las preguntas frecuentes titulada "¿Funcionan los detectores de IA?" OpenAI escribió: “En resumen, no. Si bien algunos (incluido OpenAI) han lanzado herramientas que pretenden detectar contenido generado por IA, ninguna de ellas ha demostrado distinguir de manera confiable entre contenido generado por IA y contenido generado por humanos”. El problema de distinguir el contenido humano del contenido de IA persiste. La pregunta es: ¿Qué se debe hacer en el futuro?

Informe criptopolitano de Florence Muchai