Revelada la técnica GuardBreaker para perturbar el análisis mediante IA

La técnica GuardBreaker ha sido descubierta y descrita por investigadores en ciberseguridad, evidenciando un nuevo enfoque en la capacidad de los actores de amenazas para influir en los sistemas de IA. Según información de The Hacker News, esta técnica fue empleada por el grupo UAC-0099, un actor de amenazas alineado con Rusia, en una operación dirigida contra un objetivo en Ucrania.

El propósito principal de GuardBreaker es perturbar el análisis que realizan las herramientas de inteligencia artificial. En particular, busca interferir con el funcionamiento de los grandes modelos de lenguaje (LLM). ESET, según una serie de publicaciones en X, ha señalado que la estrategia detrás de GuardBreaker consiste en activar deliberadamente los mecanismos de seguridad intrínsecos de los LLM. Este mecanismo tiene como efecto impedir el análisis normal por parte de dichos modelos, sugiriendo una táctica para inutilizar o confundir el procesamiento automatizado de información.

La aparición de GuardBreaker subraya la creciente sofisticación de los ataques dirigidos a las infraestructuras y procesos que dependen de la inteligencia artificial, especialmente en contextos geopolíticos sensibles.