Detección y camuflaje de textos generados por inteligencia artificial

La generación de texto por inteligencia artificial (IA) ha alcanzado una notable prevalencia, suscitando el desafío de distinguir el contenido de autoría humana del producido por máquinas. Este panorama ha impulsado el desarrollo de estrategias tanto para la detección de textos sintéticos como para su camuflaje, buscando eludir dicha identificación.

El mecanismo central de la generación de texto por IA implica la selección secuencial de tokens —palabras, fragmentos o signos— basándose en un algoritmo de probabilidades derivado de extensos conjuntos de datos de entrenamiento. Este proceso tiende a generar patrones estilísticos discernibles, caracterizados por la predilección de vocabulario común, el uso recurrente de palabras de relleno y la adopción de estructuras didácticas o expositivas, lo que contrasta con la variabilidad inherente a la escritura humana.

La relevancia de esta cuestión se materializa en casos concretos, como el del escritor Thélyson Orélien, cuya novela fue retirada de un certamen literario ante la sospecha de haber sido generada por IA, confirmada por la aplicación Pangram, considerada un estándar en detectores de este tipo. Este suceso subraya la necesidad de herramientas de detección en ámbitos tan diversos como el educativo y el editorial, tal como detalla una publicación de The Conversation España.

Las estrategias de detección se fundamentan en el análisis de estos patrones estilísticos. La estilometría mide los rasgos del texto para identificar similitudes con la escritura de IA. Paralelamente, la métrica de perplejidad evalúa cuán predecible o sorprendente resulta una secuencia textual para un modelo de lenguaje; los textos generados por IA tienden a mostrar una perplejidad uniforme, a diferencia de la mayor variabilidad observada en la escritura humana. Detectores específicos, como Pangram, se entrenan para diferenciar entre textos humanos y artificiales, demostrando una mayor eficacia que los modelos de lenguaje comerciales de propósito general.

En respuesta a las capacidades de detección, han surgido maniobras de camuflaje destinadas a alterar los patrones distintivos de la IA. Estas incluyen desde instrucciones directas a la IA para que genere texto con un estilo específico o evite ciertas palabras, hasta modificaciones manuales o automáticas del contenido ya producido, como el parafraseo reiterado o la traducción a otros idiomas y su posterior retrotraducción. Investigaciones sugieren que el parafraseo sucesivo puede reducir la efectividad de los detectores.

La capacidad humana para discernir la autoría de IA presenta resultados dispares. Mientras que personas sin familiaridad con la escritura de IA tienden a cometer errores y exhiben una excesiva confianza en sus juicios, los expertos en la materia demuestran una elevada fiabilidad. La combinación de veredictos de múltiples expertos puede alcanzar un rendimiento equiparable al de los detectores comerciales. No obstante, se reconoce que ningún sistema de detección es infalible, manteniendo un margen de incertidumbre en la identificación de textos generados por inteligencia artificial.