OpenAI ha revelado el desarrollo de GPT-Red, un modelo de lenguaje grande (LLM) diseñado específicamente para actuar como un «superatacante» interno, cuya misión es identificar y explotar las debilidades de otros sistemas de IA de la compañía con el fin último de incrementar su seguridad y fiabilidad.
OpenAI ha revelado la creación de GPT-Red, un modelo de lenguaje de gran tamaño (LLM) diseñado para operar como un ‘super-hacker’ interno. Su función es identificar y explotar puntos débiles en otros LLM de la compañía, como la recientemente lanzada versión GPT-5.6, con el objetivo de elevar su resiliencia frente a posibles ciberataques.
El estado de Nueva York ha decretado una suspensión temporal de un año en la construcción de nuevos centros de datos, una decisión que ha provocado inquietud en la industria de la inteligencia artificial por sus implicaciones regulatorias y su potencial de replicarse en otras jurisdicciones.
Anthropic ha anunciado el descubrimiento de un método para observar los procesos de razonamiento interno de sus modelos de inteligencia artificial, como Claude, lo que representa un avance crucial para la comprensión de cómo estas complejas redes neuronales llegan a sus respuestas.
