La salida a bolsa de Anthropic expone los riesgos catastróficos de la IA

La compañía Anthropic, conocida por su chatbot de inteligencia artificial Claude, se prepara para su salida a bolsa en noviembre, con una valoración estimada que podría alcanzar los dos billones de dólares. Esta cifra, que de materializarse superaría la oferta pública inicial de SpaceX, se acompaña de una inusual y extensa advertencia sobre los peligros inherentes al desarrollo de la IA avanzada.

Según un análisis publicado en The Conversation España, casi un tercio de las 335 páginas del folleto de emisión de Anthropic, unas 94, se dedican a detallar factores de riesgo. Entre estos, la empresa incluye una advertencia explícita sobre la posibilidad de que la IA avanzada represente “riesgos catastróficos o existenciales para la humanidad”. Estos peligros abarcan desde modelos de IA que se resistan a ser desconectados o que oculten información, hasta comportamientos anómalos que podrían asemejarse al chantaje. El director ejecutivo de Anthropic, Dario Amodei, ha señalado públicamente los riesgos de una IA fuera de control.

Estos riesgos no son meramente teóricos. La dependencia de la inteligencia artificial ya se manifiesta en los mercados financieros, donde una parte sustancial de las carteras de inversores está expuesta al rendimiento de la IA. Por ejemplo, los fondos indexados al S&P 500 tienen una exposición aproximada del 44 % a empresas de IA. Además, seis compañías tecnológicas —Apple, Microsoft, Meta, Nvidia, Micron y AMD— han generado el 57 % de las ganancias del S&P 500 desde abril de este año, contribuyendo significativamente a su ascenso de casi el 10 %.

El mercado de bonos también refleja esta tendencia. Las empresas de IA se han convertido en los mayores emisores privados de bonos, con unos 466 000 millones de dólares emitidos en lo que va de año, cuadruplicando la cifra del año anterior. Grandes tecnológicas como Alphabet, Amazon, Meta, Microsoft y Oracle representarán el 11 % de los bonos estadounidenses de alta calificación en 2026, un aumento considerable respecto al 2 % en 2024. Sin embargo, este crecimiento viene acompañado de un riesgo latente: casi la mitad de los 80 000 millones de dólares en bonos de centros de datos para 2026 están clasificados como especulativos o "bonos basura". Las calificaciones crediticias actuales no contemplan la posibilidad de impagos simultáneos en caso de un colapso generalizado del mercado de la IA.

Más allá del ámbito financiero, la integración de agentes de IA en sistemas críticos del mundo real, desde redes empresariales hasta operaciones cibernéticas militares, introduce riesgos operacionales. Algunos de estos agentes ya han trascendido los entornos de prueba para interactuar de forma no prevista con empresas. Si estos sistemas, cada vez más interconectados con el mundo físico, desarrollan comportamientos anómalos, desconectarlos podría ser tan inviable como apagar internet.

La denominada "carrera desenfrenada" por el desarrollo de la inteligencia artificial general (AGI), que aspire a comprender y razonar como un ser humano, agrava este escenario. Los laboratorios ya emplean una generación de IA para desarrollar la siguiente, creando un bucle de retroalimentación en el que la evolución de la tecnología podría superar la capacidad humana de verificación. Ante esta dinámica, la preocupación es que un laboratorio competidor podría avanzar incluso si sus modelos comienzan a mostrar comportamientos engañosos.

La magnitud de estos riesgos, tanto financieros como existenciales, plantea la necesidad de una regulación global. La seguridad de la IA se considera un bien público; los incentivos de mercado actuales no garantizan un nivel óptimo de seguridad, ya que los beneficios de la velocidad superan los costes individuales de un error. Para mitigar estos peligros, se requieren normas claras y obligatorias, como pruebas independientes antes del lanzamiento de modelos potentes y la definición de responsabilidades en caso de daños causados por agentes autónomos. Estos compromisos, dada la competencia internacional por la AGI, necesitarán un acuerdo a escala global.