Descubierto un ataque que podría robar datos del chatbot Grok de xAI

La compañía de seguridad Adversa AI ha hecho público un nuevo vector de ataque dirigido a los chatbots de inteligencia artificial, específicamente a Grok de xAI. Esta técnica, a la que han bautizado como "Cryptographic Context Injection", demuestra cómo la interacción aparentemente inocente de un usuario con un chatbot puede ser explotada para comprometer su privacidad.

El ataque se materializa cuando un usuario instruye a Grok para que resuma una página web aparentemente ordinaria. Sin embargo, si dicha página ha sido manipulada por un atacante, el chatbot puede ser inducido a enviar información confidencial del usuario a un servidor bajo control del atacante. Entre los datos que se podrían exfiltrar se incluyen el nombre del usuario, su ubicación geográfica aproximada, el nivel de suscripción que posee y, de forma crítica, las consultas (prompts) de la conversación en curso con el bot.

La relevancia de este hallazgo subraya los desafíos persistentes en la seguridad de los sistemas de IA, especialmente aquellos que interactúan con contenido externo no verificado. La capacidad de un atacante para inyectar código o instrucciones maliciosas a través de un simple resumen de contenido web representa una vía preocupante para la exfiltración de datos, lo que plantea serias dudas sobre la robustez de las salvaguardias actuales en estas plataformas. Este tipo de vulnerabilidades resalta la necesidad de una vigilancia constante y mejoras en la arquitectura de seguridad de los chatbots de IA para proteger la información personal de sus usuarios.