Para detectar imágenes falsas creadas con IA, un poco de formación da para mucho

A principios de este año, Matthew Groh pidió a ChatGPT que creara imágenes de un hombre tocando la guitarra con Bruce Springsteen y jugando al tenis con Rafael Nadal y Roger Federer.

A primera vista, las dos fotografías parecían bastante convincentes. Sin embargo, Groh, profesor adjunto de Gestión y Organizaciones de la Kellogg School of Management, detectó un par de señales reveladoras de que eran falsas: las incrustaciones del diapasón de la guitarra no estaban correctamente colocadas y las cuerdas de las raquetas de tenis parecían extrañamente deformes.

Gracias a su experiencia en la identificación de imágenes generadas por IA, Groh ha adquirido la habilidad de detectar este tipo de discrepancias con relativa facilidad. Sin embargo, la mayoría de las personas no posee ese nivel de experiencia y, en estos primeros tiempos de la IA generativa, aún no está claro con qué facilidad se adquiere esa habilidad.

Groh y sus colegas se propusieron investigar si una breve sesión de formación puede ayudar a una persona a distinguir entre imágenes reales e imágenes generadas por IA. Sus esfuerzos se centraron en los profesionales que deben realizar esta distinción en situaciones de alto riesgo: los analistas de inteligencia del Gobierno de EE. UU.

Groh impartió a un grupo de analistas de inteligencia una sola sesión formativa de media hora en la que les señaló patrones característicos de las imágenes reales y de las generadas por IA. Y los resultados fueron alentadores. La formación contribuyó a mejorar significativamente el nivel general de precisión de los analistas.

«Es posible mejorar —afirma Groh—. No estamos condenados a no poder distinguir lo real de lo falso».

Hay margen de mejora

Los últimos modelos de IA permiten que prácticamente cualquiera cree una imagen de aspecto bastante realista con solo darles una descripción textual. Como los modelos han mejorado tanto en tan poco tiempo, «la opinión generalizada es que las personas no son muy hábiles a la hora de detectar las imágenes generadas por IA» —afirma Groh.

Sin embargo, en un estudio reciente, Groh y sus colegas evaluaron la capacidad de personas comunes y corrientes de distinguir entre imágenes reales y falsas, y descubrieron que acertaban en la clasificación de las imágenes aproximadamente tres cuartas partes de las veces. Además, cuanto más tiempo estudiaban una imagen, más probabilidades tenían de detectar si era falsa. Los participantes estaban «lejos de ser perfectos —afirma—, pero tampoco se limitaban a elegir al azar».

No obstante, aún hay margen de mejora, especialmente para profesionales como los analistas de inteligencia, que realizan diariamente un trabajo delicado y de gran responsabilidad. Un error por parte de un analista a la hora de identificar correctamente imágenes generadas por IA puede tener graves consecuencias. Por ejemplo, las autoridades podrían autorizar un ataque con drones sin causa justificada si no logran detectar que una imagen que parece indicar que un terrorista se encuentra en un lugar determinado es falsa.

Por lo tanto, los investigadores diseñaron una sesión formativa de 30 minutos en la que se señalan los patrones y los indicios reveladores presentes en siete imágenes reales y 50 imágenes generadas por IA.

Por ejemplo, un indicio frecuente de que una imagen ha sido generada por IA es su aspecto excesivamente perfecto y cinematográfico, con personas de rasgos simétricos y de belleza clásica: algo que «parece demasiado bueno para ser verdad», afirma. Otros indicios comunes son una piel de aspecto ceroso o brillante, dientes que faltan o incongruencias, tales como un médico que lleva un estetoscopio cuyos dos auriculares se han unido, formando un bucle.

Resultados rápidos

Para su estudio, Groh y sus colegas colaboraron con 32 analistas de inteligencia de diversas agencias estadounidenses que redactaban informes diarios para el presidente y otros altos cargos de la Casa Blanca.

Se pidió a los analistas que clasificaran 40 imágenes como reales o generadas por IA en una interfaz en línea personalizada. Si querían, podían indicar el motivo de sus decisiones. La colección de imágenes reales y falsas abarcaba retratos, fotografías de cuerpo entero, fotografías de grupo posadas y fotografías espontáneas. Las imágenes habían sido agrupadas por pares en función de su contenido. Por ejemplo, una pareja de imágenes podía estar formada por una fotografía real de una astronauta y otra generada por IA (si bien las imágenes se mostraban a los participantes de una en una).

En conjunto, los analistas identificaron correctamente el 73 por ciento de las imágenes, una cifra muy cercana al nivel de precisión que el equipo de Groh había obtenido en su estudio anterior con el público en general. Estos modelos de inteligencia artificial son tan nuevos que «ni siquiera los profesionales que manejan habitualmente este tipo de contenidos necesariamente obtienen mejores resultados», afirma.

A continuación, Groh hizo a los analistas la presentación formativa de 30 minutos sobre cómo distinguir las imágenes reales de las generadas por IA, tras lo cual los analistas repitieron el ejercicio de clasificación en línea con otro conjunto de 40 imágenes, algunas reales y las otras generadas por IA.

Antes de la formación, la precisión de los analistas era más o menos la misma que la del público en general. Después de la formación, sin embargo, aumentó hasta el 82 por ciento, lo que supone un incremento de 9 puntos porcentuales. Además, su capacidad para clasificar correctamente las dos imágenes de un par —por ejemplo, las imágenes reales y falsas de un astronauta— aumentó un 11 por ciento.

La detección de lo que es real

La mejora de los participantes se debió principalmente a que su precisión a la hora de identificar imágenes reales aumentó un 14 por ciento. Dicho de otro modo, la formación contribuyó a reducir los falsos positivos de los analistas.

«Los ayudamos a reconocer mejor las imágenes reales, lo que, en realidad, es lo más difícil», afirma Groh. En el caso de una imagen generada por IA, uno puede estar seguro de que es falsa en cuanto detecta el artefacto, pero «una imagen real se caracteriza por la ausencia de artefactos».

Esta habilidad es fundamental, ya que, sin ella, uno tiende a creer que las imágenes son falsas por defecto. En algunas sesiones de formación impartidas por otros investigadores en el pasado, por ejemplo, los participantes aprendieron a identificar mejor las imágenes generadas por IA, pero también se volvieron más propensos a decir que las fotografías reales habían sido creadas por IA.

«Eso resulta algo problemático —afirma Groh—. La gente termina pensando que todo es falso».

Además, en la segunda prueba, los analistas ofrecieron argumentos más detallados para justificar sus respuestas que en la primera, lo que reflejaba una mejor comprensión de las señales más comunes. Antes de la formación, sus comentarios solían ser vagos: se limitaban a nombrar una parte del cuerpo («el pelo» o «los dedos») o a decir «algo no encaja». Tras la formación, se mostraban mucho más dispuestos a señalar detalles que reflejaban patrones clave, como puertas que se abrían a un espacio vacío o una suciedad de aspecto excesivamente uniforme.

«[Tras la formación,] todos sabían que ese era el tipo de cosas en que debían fijarse», afirma Groh.

Conocer los límites

Más allá de la seguridad nacional, la capacidad de diferenciar con precisión las imágenes auténticas de las falsas es fundamental para todo, desde detectar noticias falsas hasta tomar decisiones empresariales acertadas. «La confianza es fundamental en los negocios», afirma Groh. Los inversores, por ejemplo, pueden recibir propuestas de nuevos emprendedores con fotografías de sus productos o de su trayectoria.

«El momento en que ya no se pueda distinguir la diferencia en absoluto será el momento en que ya no se podrá confiar en ningún medio visual», afirma.

En un mundo ideal, las autoridades establecerían medidas de control en torno a la generación de imágenes mediante IA, como requisitos sobre cuándo y cómo sus creadores deben revelar que las imágenes son falsas. «Pero esas medidas normativas aún no existen —afirma Groh—. Mientras tanto, cada uno por su cuenta tiene que adquirir esa habilidad».

Para mejorar su precisión, las personas pueden tomar cursos de formación, pero también experimentar por su cuenta con modelos de IA. Cuanto más lo hagan, mejor podrán detectar las señales que suelen estar presentes en este tipo de imágenes.

«Lo más útil es experimentar con las propias herramientas —afirma Groh—. Es así como uno empieza a descubrir sus limitaciones».