La inteligencia artificial desafía la autenticidad visual en la esfera pública

El pasado 15 de octubre, dos días después de su operación, circularon en redes sociales imágenes que mostraban al papa León XIV recuperándose en un hospital, apoyado en un andador y con equipo médico. Aunque el Vaticano había comunicado su recuperación, las fotografías resultaron ser generadas por inteligencia artificial, a pesar de incluir una pequeña etiqueta de advertencia "Immagine AI" que podía pasar inadvertida.

Este no es un fenómeno aislado. Casos similares se registraron con el anterior papa, Francisco. Durante su hospitalización en 2025, la demora en la publicación de imágenes oficiales dio paso a la aparición de retratos artificiales que lo mostraban en diversas situaciones, incluso falsamente presentado como fallecido. Años antes, en 2023, una imagen suya con un plumífero blanco, creada con la herramienta Midjourney, fue ampliamente confundida con una fotografía auténtica. Según un análisis publicado en The Conversation España, estas representaciones llenan un vacío informativo y ofrecen al público una versión imaginada de la realidad que puede ser fácilmente aceptada como verdadera.

La verosimilitud de estas imágenes radica en que reproducen signos de experiencias humanas reconocibles, como la vulnerabilidad en un hospital, lo que puede generar una conexión emocional o transmitir tranquilidad a los fieles. No obstante, como recordó el propio papa León XIV en su encíclica Magnifica humanitas, los sistemas de IA "no pasan por la alegría y el dolor", simplemente reproduciendo los signos de estas emociones sin experimentarlas.

Ante este panorama, han surgido diversas herramientas para rastrear la procedencia de las imágenes. InVID-WeVerify facilita búsquedas inversas, mientras que SynthID detecta la señal invisible que Google incorpora en las imágenes de sus modelos de IA. Hive, por su parte, analiza rasgos visuales para ofrecer una puntuación de confianza sobre la posible creación con sistemas de IA. Es crucial, sin embargo, que el resultado de estas herramientas se contraste con fuentes fiables, ya que una imagen auténtica, como la primera fotografía del papa Francisco en la capilla del Gemelli, también puede ser erróneamente tildada de falsa en el entorno digital.

La normativa europea busca abordar este desafío. El artículo 50 del Reglamento europeo de IA establece que los creadores y difusores de deepfakes deben advertir clara e inequívocamente de su origen artificial desde la primera publicación, aunque esta obligación no se aplica al uso estrictamente personal. Además, los proveedores de IA generativa estarán obligados a incorporar marcas digitales detectables por software en los archivos. Esta última exigencia, según el Digital Omnibus, entrará en vigor el 2 de diciembre de 2026, otorgando un plazo para adaptar los sistemas ya comercializados.