Investigadores demuestran la propagación de “virus mentales” entre agentes autónomos de IA

El avance de los sistemas de inteligencia artificial hacia una mayor autonomía conlleva nuevos desafíos en ciberseguridad. Uno de los más recientes ha sido puesto de manifiesto por un equipo de investigadores de seguridad de Anthropic y la EPFL, quienes han logrado demostrar la existencia de lo que han denominado “virus mentales” en agentes de IA.

Estos “virus mentales” no son otra cosa que cargas maliciosas con capacidad de autopropagación. La particularidad de este hallazgo reside en el vector de ataque: la transmisión se produce de un agente de IA a otro a través de los archivos de prompt del sistema. Dichos archivos son fundamentales para las estructuras que dan soporte a los agentes autónomos de IA, ya que se utilizan para almacenar y transportar el estado o la “memoria” de un agente entre diferentes sesiones o tareas. Al ser editables, estos ficheros se convierten en un punto de entrada para la inserción de código malicioso que luego puede replicarse.

Para probar esta técnica, los investigadores simularon un entorno de desarrollo con seis agentes de IA. En esta configuración controlada, consiguieron que las cargas útiles se distribuyeran con éxito, demostrando la viabilidad de la vulnerabilidad. Este tipo de propagación representa una amenaza novedosa, ya que no se basa en fallos de software tradicionales, sino en la manipulación de los mecanismos internos que los agentes de IA utilizan para su propia persistencia y comunicación.

La implicación principal de esta investigación, presentada en un preprint, es la necesidad de replantear los modelos de seguridad para los sistemas de inteligencia artificial avanzados. A medida que los agentes de IA se vuelven más sofisticados e interactúan en entornos complejos, comprender y mitigar estos vectores de ataque emergentes será crucial para garantizar su funcionamiento seguro y confiable.