Las marcas de agua en la IA ya llegan a Claude, ChatGPT y Gemini: la UE obliga a identificar el contenido generado

El Código de Transparencia de la UE: plazos y firmantes

El Código de Transparencia de la UE entró en vigor el 2 de agosto y obliga a las compañías a identificar todos los contenidos que generen sus sistemas de IA. La medida se aplica a los modelos lanzados a partir de esa fecha, pero para los modelos anteriores la UE concede un plazo hasta el 2 de diciembre, que Anthropic tiene previsto cumplir.

Anthropic y OpenAI han anunciado en los últimos días que cumplirán con la normativa europea. También lo han hecho Google, Meta, Microsoft y Mistral. Sin embargo, ni xAI, la compañía de Elon Musk, ni las empresas chinas se han adherido de momento. La ausencia de estos actores deja fuera del marco a dos de los desarrolladores con mayor capacidad de generación de contenido, lo que limita el alcance global del sistema de verificación.

Dos sistemas de verificación: marcas de agua y metadatos C2PA

Las compañías trabajan con dos mecanismos complementarios. Por un lado, las marcas de agua, que se integran de forma invisible en el texto generado y permanecen incluso si se modifica, traduce o fragmenta. Por otro, los metadatos de C2PA (Coalition for Content Provenance and Authenticity), un estándar técnico que incluye información sobre el origen de las imágenes y el flujo de trabajo utilizado en hardware y software.

Anthropic ha explicado la diferencia entre ambas técnicas: el texto generado por Claude incluirá marcas de agua integradas, mientras que los archivos generados, como .svg, .png o .jpg, llevarán metadatos de procedencia firmados digitalmente cuando sea compatible. OpenAI, por su parte, ha señalado que las imágenes generadas con ChatGPT, Codex y su API incluyen tanto las marcas de agua de SynthID como los metadatos C2PA. La compañía también ofrece la web openai.com/verify para comprobar si un texto, imagen o audio proviene de su IA.

Anthropic ha reconocido que aún quedan detalles por pulir y que están trabajando para que usuarios y otras entidades puedan detectar las marcas y la procedencia de los metadatos.

Límites del sistema y debate sobre la autoría

El uso de metadatos y marcas de agua no es nuevo, y hasta ahora bastaba con hacer una captura de pantalla sobre una imagen para eliminar el rastro de su origen artificial. Hasta que el sistema de detección esté completamente desplegado, será complicado saber en qué supuestos se puede anular la marca de agua, por ejemplo si el fragmento de texto generado es muy pequeño o surge de un archivo comprimido.

Para quienes quieran dejar clara la procedencia del contenido, es posible solicitar al chatbot que genere una imagen con marca de agua visible, aunque con ayuda de otro chatbot esa marca puede borrarse de nuevo. Anthropic advierte además de que estas marcas no sentencian la procedencia del texto: "Claude puede no ser el autor original. La gente suele usar Claude para corregir, traducir, resumir o convertir archivos".

El contexto es de creciente rechazo cultural a lo generado por IA: escritores recurren a trucos como faltas de ortografía o escritura caótica para desmarcarse, y plataformas como Spotify han tomado medidas contra músicos creados con IA, aunque permiten su uso a artistas humanos. Google, por su parte, ha desactivado su IA en Google Earth tras la avalancha de imágenes falsas de guerras y catástrofes que se crearon como si fueran de satélites.

En detección, herramientas como ZeroGPT u Originality han mejorado su capacidad para distinguir obras originales de artificiales. ZeroGPT explica en su web que analiza los textos en busca de "patrones de tokens, frecuencia de aparición de eventos, entropía y características de clasificadores de conjunto entrenados con datos mixtos". Proyectos de investigación como el de la UC Riverside abordan la detección de vídeos generados, identificando incluso qué modelo está detrás mediante "artefactos distintivos" en los cambios de movimiento y temporales entre fotogramas.