La UE impone la transparencia en el contenido generado por IA con nuevas normativas

Hiding your use of AI is about to get much harder — thanks to Brussels

BRUSELAS — La Unión Europea ha dado un paso significativo en la regulación del contenido generado por inteligencia artificial (IA) al implementar nuevos requisitos de «marca de agua» que entraron en vigor este mes. Estas normativas podrían transformar la forma en que los usuarios de Internet experimentan e interactúan con imágenes, videos y textos generados por IA.

Desde el auge de la IA generativa a finales de 2022, han surgido temores de que su dominio podría marcar el fin de la llamada verdad fotográfica: lo que ves es, por defecto, verdadero. Aunque las principales empresas de IA han expresado su intención de abordar este riesgo identificando la procedencia del contenido generado por sus modelos, sus esfuerzos han sido en gran medida voluntarios.

Ahora, los legisladores de la UE exigen que los usuarios de Internet sean informados sobre si están interactuando con IA y si el contenido que ven es el resultado de bots o la creación de un humano. El gigante estadounidense de la IA, Anthropic, anunció que todos sus futuros modelos admitirán la marca de agua para cumplir con las normas de la UE.

«No creo que la gente entienda la escala del cambio», dijo Ashley Casovan, directora general del centro de gobernanza de IA en la organización experta en privacidad y IA, IAPP. Ella describió un cambio de un mundo donde las personas tenían que tomar una «decisión informada» sobre si algo fue generado por IA a uno donde dicho contenido tiene un símbolo o superposición verificada.

Incluso sin tener una plataforma de IA líder, Europa está moldeando cómo se despliega esta tecnología transformadora a nivel mundial. La ley insignia de IA de la UE, la Ley de Inteligencia Artificial, ha comenzado a obligar a las plataformas más grandes del mundo a tomar decisiones cruciales sobre todo, desde la seguridad hasta la transparencia.

Las obligaciones de transparencia de la ley son «el principal enfoque en este momento, en términos de lo que todos están hablando», dijo Francesca Pole, abogada de datos, privacidad y ciberseguridad en DLA Piper.

Las empresas más destacadas han anunciado que cumplirán no solo firmando un conjunto de mejores prácticas de la UE para el cumplimiento, sino también anunciando una serie de ajustes técnicos. OpenAI prometió a finales de julio que «las personas deberían tener un mejor contexto sobre el contenido que ven en línea, incluido si fue creado o editado por IA».

La empresa confía en SynthID, una herramienta de marca de agua desarrollada por la rama de Google enfocada en IA, DeepMind, para dar a las imágenes generadas por IA una superposición «invisible». A finales de julio, extendió eso al audio.

Anthropic siguió el ejemplo este lunes, anunciando que todos los modelos Claude lanzados desde el 2 de agosto agregarían «marcas de agua incrustadas en el texto». «No lo verás, y no cambia el significado, la calidad o la legibilidad de la respuesta de Claude», decía una publicación en el blog de la empresa.

Ambas empresas también propagaron un estándar de la industria, desarrollado por una organización llamada C2PA (la Coalición para la Procedencia y Autenticidad del Contenido), destinado a almacenar y transferir metadatos de procedencia.

Marcar el contenido es solo el primer paso, detectar esas marcas y hacerlas visibles para los usuarios de Internet es un segundo paso crucial. Las empresas como Anthropic tendrán que trabajar con plataformas donde se está circulando contenido generado por IA para «visualizarlo», dijo Walter Pasquarelli, investigador en contenido sintético en la Universidad de Cambridge y asesor en la OCDE.

Las consecuencias podrían ser de gran alcance. «Hay mucha evidencia, … cuando se trata de medios, de que tan pronto como las personas saben que algo es generado por IA, su participación disminuye significativamente», dijo.

Fuente: https://www.politico.eu/article/artificial-intelligence-ai-watermark-big-tech/