La delgada línea entre la realidad y la IA: el desafío de distinguir lo auténtico
Daniel Púa, jefe de seguridad en Magnific: "ninguna persona a primera vista podría estar 100% segura de si es IA o no es IA"
A medida que la inteligencia artificial avanza, la capacidad de distinguir entre imágenes generadas por IA y las reales se vuelve cada vez más complicada. Daniel Púa, jefe de seguridad en Magnific, una de las herramientas de IA generativa de imágenes y vídeo más populares, ha declarado que «ninguna persona a primera vista podría estar 100% segura de si es IA o no es IA». Este fenómeno ha generado una desconfianza colectiva, haciendo que dudemos de la autenticidad de lo que vemos.
Un ejemplo claro de esta problemática se dio cuando Google lanzó Nano Banana Pro, un modelo de IA que por primera vez hizo que las imágenes generadas fueran prácticamente indistinguibles de las reales. Según Púa, «depende del modelo que se utilice y del prompt que se le dé», pero la realidad es que el nivel de detalle ha alcanzado un punto en el que la vista ya no es una herramienta fiable.
El desafío no se limita solo a las imágenes. En el campo del vídeo, aunque aún es más fácil detectar contenido generado por IA debido a inconsistencias en la física y la secuencia de avance, Púa advierte que «los últimos modelos de vídeo ya trabajan superbien» y estima que en «un año y pico» podrían ser indistinguibles de los vídeos reales.
Ante esta situación, se han propuesto soluciones como el uso de marcas de agua y el etiquetado. Google, por ejemplo, ha desarrollado SynthID, que modifica ciertos píxeles para indicar que una imagen fue generada por IA. Sin embargo, Púa señala que «para que tenga sentido tiene que ser adoptado por todos los modelos de forma igualitaria». Otro sistema, el C2PA, guarda el historial de la imagen en los metadatos, pero esta información puede perderse fácilmente si se borran los metadatos o se comparte la imagen por plataformas que no los conservan.
Para los usuarios, Púa sugiere desconfiar de las imágenes que carecen de metadatos, ya que «hasta una foto que haces con el móvil lleva metadatos». Además, los expertos en análisis forense recomiendan fijarse en detalles como la coherencia de las sombras y los reflejos, así como en la convergencia de los puntos de fuga.
