La marca de agua digital puede alterar la seguridad de los LLM

La integración de sistemas de marca de agua digital en modelos de lenguaje grandes (LLM), pensados para identificar el origen del contenido generado por inteligencia artificial, ha revelado una interacción inesperada con su comportamiento de seguridad. Según reporta Ars Technica, una de estas soluciones, conocida como SynthID, tiene la capacidad de modificar la forma en que los LLM responden a determinadas indicaciones.

Específicamente, el uso de SynthID puede llevar a los modelos a acatar instrucciones que, bajo condiciones normales y sin la aplicación de esta marca de agua, habrían rechazado por considerarlas dañinas. Esto sugiere que una tecnología desarrollada para la atribución de contenido podría, paradójicamente, incrementar la vulnerabilidad de los LLM frente a prompts adversarios o maliciosos.

El hallazgo subraya una preocupación emergente sobre cómo las herramientas destinadas a gestionar la transparencia y la procedencia de la IA pueden influir en aspectos fundamentales de su seguridad y ética operativa. La capacidad de un sistema de watermarking para alterar la resistencia de un LLM a indicaciones perjudiciales plantea interrogantes sobre la robustez de los mecanismos de defensa actuales y la necesidad de una evaluación exhaustiva de estas interacciones.