Evasión de salvaguardas en Claude plantea desafíos para el control de biorriesgos

Usuarios de la plataforma de inteligencia artificial Claude han logrado encontrar métodos para eludir las salvaguardas implementadas por el sistema, diseñadas para prevenir investigaciones relacionadas con el desarrollo de armas biológicas. La información, difundida por Ars Technica, subraya una complejidad inherente a la supervisión mediante IA.

Este hecho resalta que ciertas actividades biológicas de riesgo comparten características con investigaciones legítimas, lo que dificulta la distinción automatizada. Tal ambigüedad complica de manera sustancial la eficacia de los mecanismos de seguridad basados en inteligencia artificial, cuya función es mitigar el uso de estas tecnologías en contextos de alto riesgo, como la creación de armamento biológico.