Diario de la Innovación

regulacion-digital

La UE impulsa las marcas de agua en ChatGPT, Claude y Gemini para certificar el contenido generado por IA

Fotografía que ilustra la noticia: La UE impulsa las marcas de agua en ChatGPT, Claude y Gemini para certificar el contenido generado por IA
(El Español)

El Código de Transparencia de la UE, en vigor desde el 2 de agosto, obliga a las empresas de inteligencia artificial a identificar los contenidos que generan sus modelos. Anthropic, OpenAI, Google, Meta, Microsoft y Mistral ya han anunciado su adhesión y trabajan en sistemas de marcas de agua y metadatos para cumplir con el plazo, que para los modelos anteriores a la fecha clave se extiende hasta el 2 de diciembre.

Por

Adhesiones parciales: xAI y las empresas chinas quedan fuera

La firma de los principales actores del sector no es universal. Ni xAI, la empresa de Elon Musk, ni las compañías chinas se han adherido de momento al Código de Transparencia, lo que deja un hueco en el esfuerzo por certificar el origen de los contenidos generados por IA. La UE plantea el código como el marco legal que puede forzar una solución más definitiva al problema de la desinformación, especialmente en imágenes y vídeos realistas que circulan por redes sociales.

Mientras tanto, la presión social crece. Spotify anunció esta semana medidas contra los músicos creados con IA, aunque aclara que los artistas humanos pueden usarla. Google, por su parte, se ha visto obligada a desactivar su IA en Google Earth ante la avalancha de imágenes falsas de guerras y catástrofes creadas como si fueran de satélites. El realismo de lo generado sigue descompensado por la falta de un sistema robusto y universal de identificación que permita frenar los bulos que aprovechan la IA para generar caos.

Dos herramientas: marcas de agua y metadatos C2PA

Las compañías hablan de dos sistemas de verificación: las marcas de agua y los metadatos de C2PA (Coalition for Content Provenance and Authenticity), uno de los mayores grupos que intentan abordar la generación de imágenes con IA. El estándar C2PA incluye información sobre el origen de las imágenes y el flujo de trabajo utilizado en hardware y software para crear un trazo digital. OpenAI recuerda que este estándar también está siendo adoptado por fabricantes de cámaras y medios de comunicación para certificar la fuente y la procedencia del contenido multimedia.

Anthropic aclara la diferencia entre ambas técnicas: el texto generado incluirá marcas de agua integradas y los archivos generados incluirán metadatos de procedencia firmados digitalmente, cuando sea compatible. Así, cuando Claude genera un archivo .svg, .png o .jpg, le adjunta metadatos de procedencia firmados. OpenAI, por su parte, aplica marcas de agua SynthID y metadatos C2PA en imágenes generadas con ChatGPT, Codex y su API. "Estamos trabajando para permitir que usuarios y otras entidades puedan detectar las marcas incluidas y la procedencia de los metadatos", indica Anthropic, admitiendo que aún faltan detalles por pulir.

Limitaciones técnicas y la tensión con el factor humano

El sistema no es perfecto y las limitaciones son conocidas. Hasta ahora, hacer una captura de pantalla sobre una imagen eliminaba el rastro delator de su origen artificial. No está claro en qué supuestos se puede anular la marca de agua, por ejemplo en fragmentos de texto muy pequeños o archivos comprimidos. También es posible solicitar al chatbot una imagen con marca de agua visible, aunque otro modelo de IA podría borrarla. OpenAI ofrece la web openai.com/verify para comprobar si un texto, imagen o audio es fruto de su IA.

Los responsables de los modelos generativos recuerdan que el uso de la IA no implica que el autor no aplique su impronta. Anthropic advierte que las marcas de agua no sentencian la procedencia del texto: los usuarios suelen emplear Claude para corregir, traducir o resumir, y en esos casos el modelo no es el autor original. "La gente se olvida que detrás del click que mueve a la IA hay una persona", comenta Noelia Carballo, directora de arte de Magnific, defendiendo el proceso de los artistas digitales que integran estas herramientas en su trabajo. La tensión entre la certificación técnica y la reivindicación del factor humano sigue abierta, mientras el sector busca un equilibrio entre la transparencia exigida por la UE y el reconocimiento del trabajo creativo.