Un nuevo sistema de IA detecta más de 250,000 estudios sospechosos en investigación del cáncer

Un reciente estudio liderado por el profesor Adrian Barnett de la Queensland University of Technology (QUT) utilizó un potente sistema de inteligencia artificial (IA) para detectar más de 250,000 artículos de investigación sobre cáncer que podrían estar relacionados con las llamadas "fábricas de artículos". Este análisis se realizó sobre 2.6 millones de trabajos publicados entre 1999 y 2024, lo que pone de manifiesto uno de los mayores problemas de integridad en la ciencia moderna.

Los investigadores encontraron que más de 250,000 documentos presentaban patrones de escritura similares a los de estudios que ya habían sido retirados por sospechas de fabricación. Según Barnett, "las fábricas de artículos son empresas que venden estudios científicos falsos o de baja calidad. Están produciendo 'investigación' a escala industrial, y nuestros hallazgos sugieren que el problema en la investigación del cáncer es mucho más grande de lo que la mayoría de la gente se imaginaba".

¿Cómo funcionan las fábricas de artículos?

Estas fábricas venden posiciones de autoría y, en algunos casos, artículos científicos completos ya elaborados. Estos estudios pueden incluir texto reutilizado, lenguaje inusual o torpe, y datos o imágenes fabricadas. Barnett explicó que "lo más probable es que estén utilizando plantillas estándar que pueden ser detectadas por modelos de lenguaje grandes que analizan patrones en los textos".

Para identificar estos patrones, Barnett y su equipo entrenaron un modelo de lenguaje llamado BERT, diseñado para reconocer "huellas digitales" textuales sutiles que aparecen repetidamente en productos de fábricas de artículos. Al evaluar ejemplos verificados, el modelo detectó correctamente documentos sospechosos el 91% de las veces.

El investigador comparó su herramienta con un "filtro de spam científico". "Así como tu sistema de correo electrónico puede identificar mensajes no deseados, nuestra herramienta señala artículos que coinciden con el estilo de escritura y la estructura que observamos en trabajos fraudulentos retirados", añadió.

Aumento de artículos sospechosos

El análisis a gran escala reveló tendencias preocupantes: los artículos marcados aumentaron drásticamente en las últimas dos décadas, pasando de aproximadamente el 1% a más del 16% en 2022. Este problema parece estar presente en miles de revistas publicadas por grandes editoriales, incluyendo algunas con buena reputación y alto impacto.

Los artículos sospechosos fueron especialmente comunes en áreas como la biología molecular del cáncer y la investigación de laboratorio en etapas iniciales. Ciertos tipos de cáncer, como el gástrico, hepático, óseo y de pulmón, mostraron tasas particularmente altas de estudios marcados.

Pruebas del sistema de IA en revistas científicas

Actualmente, tres revistas científicas están probando este sistema como parte de su proceso de revisión editorial, con el objetivo de ayudar a los editores a identificar manuscritos potencialmente fabricados antes de enviarlos a expertos externos para su revisión por pares. Los investigadores también planean adaptar la herramienta para su uso en otros campos científicos, y esperan que su precisión mejore a medida que se disponga de más ejemplos confirmados de actividad de fábricas de artículos.

No obstante, el equipo enfatizó que los documentos identificados por el sistema no deben ser automáticamente considerados como fraudulentos. Los resultados son señales de advertencia, no hallazgos confirmados de mala conducta, y cada caso debe ser revisado por expertos humanos.

Impacto de la investigación falsa en los pacientes

La investigación en cáncer influye en ensayos clínicos, desarrollo de medicamentos y atención al paciente. Barnett alertó: "Si estudios fabricados ingresan a la base de evidencia, pueden engañar a científicos reales y, en última instancia, ralentizar el progreso para los pacientes. Por eso es vital que abordemos este problema de manera proactiva".