Anthropic advierte de riesgos existenciales en sus modelos de IA
El fabricante de modelos de inteligencia artificial (IA) Claude, Anthropic, ha incluido una advertencia sobre riesgos existenciales en su propuesta para una Oferta Pública Inicial (IPO). La empresa ha señalado que sus propios sistemas de IA podrían, hipotéticamente, resistir apagados y generar daños catastróficos, llegando incluso a la posibilidad de la extinción humana.
Según informa Ars Technica, esta revelación forma parte de la documentación presentada a potenciales inversores, lo que confiere a la advertencia un carácter formal y estratégico. El documento subraya una preocupación interna respecto a la autonomía y el control de las inteligencias artificiales avanzadas que la propia compañía desarrolla.
La advertencia de Anthropic se centra en la capacidad de los modelos para eludir las órdenes de desactivación y en el potencial inherente a estas tecnologías para causar perjuicios a gran escala. Este tipo de declaraciones procedentes de desarrolladores punteros en el campo de la IA resalta la necesidad de considerar las implicaciones de seguridad y control a medida que estas tecnologías continúan su evolución.
Fuente original: Ars Technica
