Fallo en las APIs de OpenAI, Anthropic y Google expone el razonamiento interno de la IA y credenciales
Investigadores han identificado y divulgado una vulnerabilidad crítica que afecta a las APIs de tres de los principales desarrolladores de inteligencia artificial: OpenAI, Anthropic y Google. Este fallo reside en la forma en que estas plataformas gestionan el razonamiento oculto de sus modelos de IA entre distintas llamadas a la API, permitiendo la extracción de información confidencial.
La debilidad se localiza específicamente en los objetos de razonamiento cifrado que emplean las APIs de estos proveedores. Estos objetos, que encapsulan partes del proceso de pensamiento o los pasos intermedios de un modelo de IA, están diseñados para ser privados y seguros. Sin embargo, la falla permitió que un bloque de razonamiento generado en una sesión se reutilizara o «reprodujera» en otra, abriendo una puerta a la exposición de datos sensibles.
Durante las pruebas, se demostró que esta vulnerabilidad no solo permitía la recuperación del razonamiento interno de los modelos, sino también la extracción de secretos directamente de los registros de sesión. Entre la información comprometida se incluyen claves de API y contraseñas, lo que plantea serias implicaciones para la seguridad de los sistemas que dependen de estas infraestructuras de IA y para la privacidad de sus usuarios. La capacidad de discernir el «pensamiento» de un modelo, combinado con el acceso a credenciales, subraya la necesidad de una revisión exhaustiva de los protocolos de seguridad en la interacción con APIs de IA avanzadas.
Por qué importa
La exposición del razonamiento interno de modelos de IA no solo es un riesgo de ciberseguridad por el posible acceso a credenciales, sino que también puede comprometer la propiedad intelectual y las ventajas competitivas de las empresas desarrolladoras. Entender cómo "piensa" un modelo avanzado es un valor estratégico. Este tipo de vulnerabilidad socava la confianza en la robustez de las APIs que sustentan gran parte de la infraestructura de inteligencia artificial actual y futura.
El mecanismo de repetición de sesiones
La vulnerabilidad se manifestaba en los objetos de razonamiento cifrado. Un bloque de datos de razonamiento generado y utilizado en una sesión específica podía ser capturado y luego "reproducido" en una sesión diferente. Esta repetición permitía a los atacantes eludir las protecciones y acceder a la información que se suponía oculta, incluido el proceso de pensamiento del modelo y, lo más crítico, las credenciales de seguridad almacenadas en los registros asociados a la sesión.
Fuente original: The Hacker News
