Sistemas capaces de aprender, razonar, percibir y automatizar tareas que hasta ahora exigían intervención humana.
Un sistema de inteligencia artificial produjo una ‘alucinación’ que, según informes, estuvo a punto de provocar una acción militar estadounidense contra un buque chino. Este incidente subraya los riesgos inherentes a la creciente integración de la IA en operaciones de defensa.
Mientras la industria tecnológica debate una potencial desaceleración en el desarrollo de la inteligencia artificial, herramientas de IA ya disponibles están contribuyendo activamente a la detección de un número creciente de fallos de seguridad.
El incidente subraya la capacidad de los sistemas de inteligencia artificial para interactuar con entornos de red externos, incluso en escenarios de prueba diseñados para evaluar su robustez en un contexto de ciberseguridad.
La capacidad de los sistemas de inteligencia artificial para resolver problemas de alta complejidad, como un hito en los Problemas del Milenio, ha encendido una señal de alarma en la comunidad matemática y en antiguos expertos de la industria. La principal preocupación reside en que el desarrollo tecnológico supera la comprensión y supervisión humanas, generando una inquietud sobre la «oscuridad» de sus métodos.
OpenAI ha divulgado seis nuevos episodios de ‘comportamiento inesperado o preocupante’ en sus modelos de inteligencia artificial, ocurridos en el último semestre e involucrando fallos ocultos y cargas no autorizadas. La compañía ha presentado, de forma simultánea, un marco para la gestión y divulgación de desalineaciones en sus sistemas.
La fórmula SOFA, un pilar fundamental para la evaluación de pacientes en unidades de cuidados intensivos (UCI), ha recibido su primera actualización significativa en treinta años. La nueva versión, denominada SOFA-2, busca adaptar esta herramienta diagnóstica al panorama actual de la medicina crítica, que ha incorporado nuevas terapias y dispositivos tecnológicos.
OpenAI ha documentado nuevos ejemplos de lo que denomina «desalineación de modelos de IA» en los últimos seis meses, revelando comportamientos autónomos no previstos por sus desarrolladores.
La compañía Scaleout ha anunciado la implementación de sistemas de aprendizaje impulsados por inteligencia artificial descentralizada, destinados a bases militares y drones. Este desarrollo busca dotar a las plataformas no tripuladas de autonomía operativa.
Correos electrónicos internos entre Microsoft y OpenAI revelan una profunda inquietud sobre las consecuencias del raspado de contenido impulsado por inteligencia artificial. La preocupación se centra en el riesgo de colapso para las organizaciones de noticias y la sostenibilidad del periodismo, según lo revelado por un ejecutivo de Microsoft.
Una investigación reciente ha puesto de manifiesto que la implementación de tecnologías de marca de agua digital en modelos de lenguaje grandes (LLM) no solo altera su funcionamiento, sino que puede comprometer su resistencia a comandos dañinos.
