La edición científica se enfrenta al creciente desafío de la autenticidad en la era de la IA

La comunidad científica y editorial se enfrenta a un aumento significativo de contenido generado por inteligencia artificial de baja calidad, denominado “AI slop” (literalmente, “basura de IA”). Las estimaciones indican que un 57% de los artículos académicos publicados para el año 2025 exhibirán evidencia detectable de influencia de modelos de lenguaje grandes (LLM), un notable incremento desde el 12% registrado en 2023. Además, un 12% de las revisiones de Nature Communications en 2025 fueron generadas íntegramente por IA, y solo una de cada 40 publicaciones con evidencia de uso de IA en 2025 lo había revelado formalmente, lo que sugiere una subestimación del problema real.

Ante esta situación, que amenaza con erosionar la confianza en el proceso científico, IEEE Spectrum llevó a cabo un experimento para evaluar la facilidad de generar artículos científicos convincentes pero falsos. Benjamin Skuse, autor del estudio, utilizó herramientas de IA gratuitas como ChatGPT y Gemini para crear un artículo ficticio sobre solitones ópticos, su campo de doctorado. Esta primera publicación, diseñada sin investigación real, fue enviada a la revista IEEE Access.

El sistema de defensa de IEEE Access detectó rápidamente el fraude, identificando numerosas “referencias alucinadas” o citas inventadas. Según Jenny Mahoney, editora jefa de IEEE Access, aunque el contenido científico superficialmente parecía plausible, la gran cantidad de referencias fabricadas generó una inmediata desconfianza en la totalidad del trabajo. Herramientas de verificación como STM Integrity Hub y MolecularConnections confirmaron la existencia de entre 12 y 24 referencias no válidas.

En una segunda fase, el experimento se elevó al utilizar un sistema de investigación autónomo de IA llamado FARS (Fully Automated Research System), desarrollado por Analemma. Este sistema, capaz de realizar búsquedas bibliográficas, diseñar y ejecutar experimentos computacionales y redactar artículos con mínima intervención humana, generó una propuesta de investigación en 21 minutos y el artículo final en 2 horas. Pese a que las referencias de este segundo artículo eran reales, IEEE Access lo rechazó debido a un porcentaje excesivo de citas a preprints, que carecen de revisión por pares. Además, se identificaron artefactos de IA en las figuras, como términos sin sentido y puntos aleatorios.

Estos hallazgos subrayan la creciente presión sobre el sistema de revisión por pares, que ya procesó más de 3 millones de artículos en 2022. La cultura de “publicar o perecer” y la existencia de “fábricas de artículos” (paper mills) preexisten a la IA, pero esta última actúa como un potente acelerador. La situación exige una reevaluación de los mecanismos de validación científica, y como concluye el estudio de IEEE Spectrum, el enfoque tradicional de la ciencia ya no es una opción viable.

“No es solo el registro [científico] lo que está amenazado, es la ciencia en su conjunto. El AI slop está erosionando completamente la confianza en la ciencia y en cada proceso científico que hemos trabajado durante siglos para crear.”

Amanda Sulicz, Gerente de integridad de investigación de IEEE

“Lo comparo con un incendio, donde el ‘publicar o perecer’ siempre ha sido la leña, las fábricas de artículos son la gasolina y la IA es el acelerante.”

Ivan Oransky, Cofundador de Retraction Watch y miembro de la junta de PubPeer Foundation