La función de compactación de OpenAI permitió extraer el razonamiento interno de modelos

La capacidad de compactación de OpenAI, diseñada para reducir la extensión de conversaciones extensas, ha sido identificada como una posible vía para extraer el razonamiento interno de sus modelos. Este hallazgo, revelado por la firma de seguridad Xint, expone un método para obtener en texto plano la lógica de procesamiento que habitualmente permanece inaccesible.

Los modelos de razonamiento de OpenAI procesan internamente un problema antes de formular una respuesta. Este proceso suele devolverse al usuario como un elemento cifrado, no legible. Sin embargo, según la información publicada por The Hacker News, el método desarrollado por los investigadores logra eludir esta protección, permitiendo copiar el razonamiento crudo de los modelos.

Esta situación subraya la importancia de la supervisión constante en las funcionalidades de las plataformas de inteligencia artificial, especialmente aquellas relacionadas con la gestión de datos internos y la transparencia de sus operaciones. La explotación de una característica concebida para la eficiencia en la gestión del espacio destaca la complejidad inherente a la seguridad en sistemas de IA avanzados.