el cisne de plata es un robot del siglo XVII fabricado a escala real que se conserva en Gran Bretaña. En 2017 fue desmontado para averiguar exactamente cómo funcionaba. A pesar del tiempo que ha pasado desde su construcción, el cisne conserva secretos. Algo parecido a desentrañar los secretos de este autómata es lo que hacemos cuando intentamos dilucidar si una imagen ha sido generada mediante IA o no.
La captura de Nicolás Maduro por Estados Unidos desató una fiebre por ver cuáles eran las primeras fotos en las que aparecía retenido. Era casi inevitable: junto a imágenes reales empezaron a circular con rapidez fotografías generativas, el nombre por el que se conoce a las imágenes con apariencia fotográfica creadas por inteligencia artificial generativa.
No todas las imágenes cutres son falsas
Sección de la imagen publicada por Trump en su red Truth Social: hubo que hacer un análisis forense de la foto para saber si era real o generada por IA
Los New York Times incluso publicado un artículo explicando los pasos que siguieron para intentar desentrañar qué fotos de Maduro eran reales y cuáles falsas. Entre ellas, analizaron la imagen difundida por el presidente de Estados Unidos, Donald Trump, una foto de mala calidad y encuadre extraño, que parecía fotografiada desde una pantalla o una impresión, y que incluso al pasarla por detectores online de IA no arrojaba una respuesta concluyente.
Esto importa porque a partir de ahora todos podemos recibir fotos falsas generadas totalmente o en parte mediante IA. Y, en ocasiones, puede ser difícil determinar si una imagen ha sido captada con una cámara, creada o manipulada con un modelo generativo. Pero también es cierto que muchas falsedades pueden detectarse con relativa facilidad cuando se sabe qué mirar.
Imagen generada mediante la IA de Gemini con Nanobanana en la que se aprecian claramente inconsistencias en la profundidad de campo, con fallos en las áreas desenfocadas.
Desde hace tiempo, Photoshop y otros programas permitían alterar fotos si se tenían los conocimientos suficientes. “Esto viene muy de lejos, del siglo XIX”, nos explica el fotógrafo Manuel Ruíz Toribio, que durante años trabajó como fotoperiodista en EFE usando toda clase de tecnologías, desde fotos de carrete escaneadas y editadas con Photoshop hasta imágenes digitales.
Con él hemos hecho un experimento: fotografiar las mismas escenas activando y desactivando el modo IA en las cámaras de un Honor Magic8 Pro. Este teléfono hace fotografía computacional, con fusión de varias tomas, HDR, reducción de ruido y reconstrucción de detalle. Pero además incorpora funciones donde la línea entre mejorar y reconstruir se vuelve más difusa. Especialmente al usar el zoom digital, el modo noche y el modo retrato.
El Honor Magic 8 Pro con el modo IA activado al emplear el zoom de largo alcance.
Repetimos varias escenas en interior y exterior, con sujetos a contraluz, piel en sombras, texturas finas como el pelo y fondos con luces puntuales. Y comparamos una versión normal, con procesado estándar, con otra en la que activamos los modos de mejora con IA más agresivos de zoom, retrato y noche.
Mientras examina en una tableta las imágenes del experimento, Ruíz Toribio explica que “desde la aparición de la fotografía se ha querido llegar a la perfección técnica, pero también se ha querido tergiversar la realidad. En el siglo XIX, en un estudio fotográfico mediano había unos cuarenta trabajadores. Era muy importante tener un buen equipo de retocadores, de iluminadores. Eran los que falseaban: te quitaban arrugas, te quitaban años. Se trataba de que el cliente quedase más contento. La IA usada en la propia cámara es un paso. en ese sentido: no es la mano del retocador, pero busca igualmente satisfacernos”.
Detalle de una fotografía usando la IA generativa en la propia cámara en la que se puede observar en el fondo un artefacto en forma de mancha de píxeles.
También probamos un detector popular, el servicio online IA o noy el resultado fue revelador por otra razón: marcaba como generadas con IA muchas fotos en las que no se había usado IA generativa, sino únicamente la IA clásica de la fotografía computacional. Esta tecnología aplica mejoras en la foto a partir de fusionar varias tomas de la misma imagen con diversa luminosidad, captadas y procesadas sin que lo percibimos.
El detector parecía reaccionar no tanto a si la escena era inventada, sino a la huella de un procesador agresivo de imagen típico de los móviles modernos. Los detectores automáticos pueden ayudar a buscar un indicio, pero a veces confunden una foto real muy procesada con una imagen generada con IA.
Lee también
Cinco indicios de que deberías levantar sospechas sobre una imagen
Veamos cinco indicios para seguir la huella de una manipulación. La primera es que a la IA no le gusta el ruido ni las imperfecciones de los objetivos. Cuando hacemos una fotografía estándar con un teléfono o una cámara se genera cierto nivel de ruido, similar al grano químico: ocurre al forzar la luminosidad del sensor de imagen, aumentando la sensibilidad ISO.
En cambio, muchos procesos de IA generativa tienden a limpiar el ruido de forma tan intenso que sustituyen la textura real por superficies demasiado lisas, piel con aspecto ceroso o microdetalles inventados que no coinciden con el patrón del resto de la imagen.
En este retrato que se ha hecho usando la IA con el Honor Magic 8 Pro, la herramienta online de análisis forense de imágenes detecta la foto como un Deepfake.
Y esto no ocurre solo en imágenes generadas desde cero: también aparece en reconstrucciones de detalles que usan un zoom digital extremo; o en ciertas mejoras nocturnas, donde el software intenta salvar lo que el sensor captó con poco nivel de detalle.
También hay que sospechar de la ausencia de algunas cosas típicas de los objetivos: que los bordes de la imagen tengan el mismo nivel de detalle que el centro de la imagen, que se producen desenfoques extraños y la ausencia de los halos que se ven al reflejarse la luz en los cristales de un objetivo.
Una pista clara
La IA elimina “el ruido” de las fotos cambiando su textura por superficies lisas
La segunda cuestión en la que hay que fijarse es en los fallos de la profundidad de campo (el área que se ve enfocada en una imagen). Si de repente el sujeto parece demasiado enfatizado, con una iluminación que no corresponde al entorno, como si se hubiera pintado encima, o si el diseño de fondo no respeta transiciones naturales, podemos estar ante reinterpretaciones y no meros retoques.
Tercero: aparecen patrones geométricos y manchas que delatan una reconstrucción de la imagen. En generadores de imágenes, se ven a veces como texturas repetitivas en paredes, suelos, tejidos, pelo o zonas de sombra. Aquí hay que ser cauteloso: WhatsApp y redes sociales comprimen y cambian el tamaño en píxeles de una imagen. Esa compresión puede fabricar artefactos que parecen señales de IA. Por eso, si es posible, hay que revisar el archivo original.
La generación completamente artificial de imágenes realistas, sin que intervenga una cámara, se conoce como fotografía generativa.
Cuarta cuestión: la gravedad, el movimiento y las sombras. Sigue siendo un terreno donde la IA falla, sobre todo cuando hay saltos, manos en posiciones raras o movimientos rápidos. Las sombras con frecuencia se proyectan de forma demasiado geométrica o inconsistente con el resto de la escena; dan la sensación de estar dibujadas o de no responder bien a Múltiples fuentes de luz.
Y finalmente está la cuestión del color. Muchas imágenes generadas tienden a buscar una estética atractiva, pero poco natural: contraste suave, piel demasiado uniforme, cielos bonitos por defecto, y una especie de filtro sutil que hace que todo parezca más parecido a un anuncio. Y en algunos teléfonos, ciertas optimizaciones automáticas empujan en esa dirección: no inventan la escena, pero sí la estilizan.
Fotografía en la que se ha empleado la IA para mejorar el zoom digital con el Honor Magic 8 Pro, un teléfono que emplea a fondo la generación de imágenes
Habría una forma relativamente sencilla de ayudarnos por parte de la industria: incorporar la información de generación o edición con IA en los metadatos EXIF que recogen cosas como la hora, parámetros de disparo y modelo de cámara. Tanto servicios de generación como cámaras que usan procesos avanzados podrían agregar una etiqueta clara indicando si se ha usado IA generativa y en qué parte del flujo. El problema es que esa información es fácil de borrar y que aplicaciones como WhatsApp eliminan por defecto muchos metadatos.
Por eso han cobrado fuerza iniciativas de credenciales verificables, como Credenciales de contenidobasado en el estándar C2PA, que buscan adjuntar al archivo una especie de historial firmado: quién lo creó, con qué herramienta y qué se editó, de forma que pueda verificarse criptográficamente cuando el ecosistema lo soporte.
Lee también
“Si examinamos una fotografía como las que estamos viendo en este análisis, sí que se nota que ha habido una manipulación tecnológica. Pero es curioso que se haya intentado rectificar una cosa que ya es bastante buena”, señala Ruíz Toribio al ver los avances logrados sin recurrir a IA generativa. La fotografía computacional, la de siempre, ya ha obtenido resultados muy altos en la mejora de las imágenes.
En fotografía, la IA no generativa lleva años haciendo milagros silenciosos. Y, sin embargo, cuando aparece la tentación de mejorar con más agresividad, el resultado a veces es el contrario: la imagen puede quedar menos creíble, menos coherente, o simplemente más plástica. En esos casos, el problema no es que la foto sea falsa, sino que el procesamiento intenta hacerla más espectacular y termina desvirtuando lo que había. De forma resumida, podríamos decir que hay que desconfiar de las fotos con apariencia perfecta y, a la vez, extrañas. Sobre todo si aparecen al poco de desarrollarse una noticia.
