Investigadores emplean Claude para vulnerar la seguridad de OpenAI

Según un reporte de Ars Technica, investigadores han demostrado la capacidad de utilizar el modelo de inteligencia artificial Claude para llevar a cabo una intrusión que comprometió una cuenta de empleado de OpenAI. Este acceso ilícito no solo permitió alcanzar la credencial de un trabajador, sino que también facilitó la obtención de datos sensibles alojados en GitHub.

Este evento subraya una preocupación emergente en el ámbito de la ciberseguridad: el potencial de los modelos de IA como herramientas en ataques dirigidos. El hecho de que una inteligencia artificial haya sido instrumentalizada para vulnerar la seguridad de una compañía líder en el desarrollo de IA como OpenAI plantea interrogantes sobre las defensas actuales y la sofisticación creciente de las amenazas. La obtención de datos sensibles en GitHub, una plataforma central para el desarrollo de software, agrava la relevancia del incidente al indicar el acceso a información potencialmente crítica para las operaciones o la propiedad intelectual de la empresa.