La inteligencia artificial generativa amenaza la integridad del conocimiento científico

Un reciente reportaje de IEEE Spectrum aborda el desafío que la inteligencia artificial (IA) generativa representa para la veracidad del conocimiento. Benjamin Skuse, escritor freelance y doctor en matemáticas aplicadas, demostró la simplicidad de producir un artículo científico plausible con IA, lanzándolo directamente a los sistemas de publicación con una intervención humana mínima.

Según Eliza Strickland, editora de funciones y de IA, Skuse "básicamente pulsó ‘ejecutar experimento’ y ‘escribir artículo’. Y luego no le hizo absolutamente nada". Este experimento subraya la capacidad de las herramientas actuales para generar material que se asemeja a la investigación académica.

Frente a esta situación, las defensas de instituciones como el IEEE, que combinan procesos de revisión humana con programas de verificación de integridad, logran mantener el ritmo frente al uso de herramientas gratuitas de IA. Sin embargo, se anticipa una escalada en esta "carrera armamentística" a medida que los modelos de lenguaje grandes (LLM) más avanzados perfeccionen su capacidad de generar contenido sin los errores detectables de versiones anteriores.

El problema se extiende más allá de las publicaciones académicas. Wikipedia, como repositorio global de conocimiento generado por humanos, también enfrenta la afluencia de material producido por IA. Iniciativas voluntarias como WikiProject AI Cleanup, lideradas por figuras como Ellia Lebleu, trabajan para identificar y eliminar este contenido, aunque con menos recursos y herramientas que los editores comerciales.

La implicación directa de esta tendencia es una erosión potencial de la confianza en el registro científico y en las instituciones encargadas de curar el cuerpo de conocimiento humano. Si la autenticidad de los hechos básicos se pone en duda, la comprensión colectiva de la realidad se ve comprometida. Eliza Strickland subraya que "Wikipedia es conocida como un repositorio de información generada por humanos, y quieren mantener eso. Quién sabe cuánto tiempo podrán hacerlo".

Esta dinámica plantea la posibilidad de un futuro en el que la IA genere ciencia y artículos para otras IA, dejando a los humanos fuera de un circuito de conocimiento cada vez más autónomo.