Esta semana, la aparición de productos creados por inteligencia artificial está revolucionando la industria editorial académica, haciendo sonar las alarmas sobre el riesgo de desinformación.
Dos profesores de filosofía, Tomasz Żuradzk y Leszek Wroński, descubrieron tres revistas de Addleton Academic Publishers que parecían tener la mayor parte de su contenido creado utilizando IA generativa (Gen AI). Esto se confirma por el hecho de que los artículos de estas revistas siguen un patrón común, utilizan en exceso términos comunes, y los consejos editoriales de las tres revistas son idénticos: están formados por 10 miembros que fallecieron y utilizaron la misma dirección desconocida en Queens, Nueva York. York.
La existencia de estas revistas "fantasma" no sólo afecta la reputación de los editores sino que también expone fallas en el sistema de evaluación de la capacidad de investigación. El sistema CiteScore, una de las métricas de buena reputación, clasifica a estas revistas entre las 10 primeras en investigación filosófica porque se citan constantemente entre sí. Esto muestra lo fácil que es explotar el sistema de evaluación de la investigación para la promoción y la contratación, lo que podría generar riesgos similares en otras profesiones del conocimiento.
Según los profesores Żuradzk y Wroński, si se difunden las revistas "fantasmas" y la información falsa, se tambaleará la reputación de todo el sistema de investigación científica. Porque las clasificaciones como CiteScore se utilizan para evaluar la calidad de la investigación y desempeñan un papel importante en las decisiones relativas a premios académicos, contratación y promoción.
Esta tecnología puede utilizarse para crear sofisticados artículos falsos, lo que afecta negativamente a la reputación de los investigadores auténticos y genera injusticia en la evaluación de la capacidad. Esto requiere una reestructuración integral de los sistemas de evaluación de la investigación para garantizar que reflejen con mayor precisión la calidad real de la investigación y no sean explotados por contenido artificial.
Para hacer frente a este riesgo, es necesario que haya soluciones sincrónicas para prevenir y gestionar los casos de abuso de la IA en la investigación científica. Es necesario que organizaciones y autoridades generen conciencia sobre este tema y construyan mecanismos de control más estrictos para la publicación científica, garantizando la transparencia y honestidad en la investigación. A largo plazo, es necesario investigar y desarrollar herramientas más efectivas para detectar y prevenir artículos falsos, protegiendo la reputación de la industria de la investigación científica.
Esto también es una advertencia para la comunidad de investigación científica sobre los riesgos potenciales de la IA artificial. Garantizar la integridad y la reputación del sistema de investigación es fundamental para mantener el desarrollo sostenible de la ciencia en el futuro.
