Servidores maliciosos explotan asistentes de IA para exfiltrar datos críticos de forma sigilosa

La ciberseguridad en el ámbito de la inteligencia artificial se enfrenta a un nuevo desafío con la identificación de una técnica que permite a servidores maliciosos explotar asistentes de codificación basados en IA para exfiltrar datos críticos. Este método, particularmente insidioso, permite el robo de información sensible como claves SSH, secretos de entorno, código fuente y datos de clientes, sin la necesidad de enviar instrucciones que sean detectadas como maliciosas de forma evidente.

El modus operandi se basa en la fragmentación de las peticiones. En lugar de intentar una sustracción directa y potencialmente detectable, el servidor atacante divide la solicitud de exfiltración de datos en múltiples fragmentos. Cada uno de estos fragmentos, individualmente, parece una instrucción rutinaria y benigna. Estos segmentos son entonces introducidos en los canales de comunicación habituales que el asistente de IA utiliza para sus operaciones legítimas. Al ensamblarse dentro del asistente o en sus sistemas conectados, la serie de fragmentos cumple el objetivo malicioso de extraer la información.

Lo que hace a esta técnica especialmente preocupante es su capacidad para eludir las defensas existentes. Se ha demostrado que puede tener éxito incluso en escenarios donde un intento de robo más directo y burdo habría sido previamente rechazado o bloqueado. Esto sugiere una sofisticación en el ataque que aprovecha la confianza inherente y la arquitectura de procesamiento de información de los asistentes de IA, que están diseñados para interactuar con múltiples fuentes y procesar tareas complejas dividiéndolas en subtareas más manejables. La discreción del ataque representa un riesgo significativo para la integridad de los entornos de desarrollo y la privacidad de los datos empresariales.