Así puede esconder una marca de agua dentro de un texto
Anthropic anunció el pasado viernes que su sistema de marcado de texto será precisamente “una versión” de SynthID-Text, a diferencia de una marca de agua tradicional que puede verse sobre una imagen o dentro de un documento, este sistema introduce un patrón estadístico en la manera en la que el modelo selecciona las palabras. El resultado es un texto que para una persona sigue siendo completamente normal, pero que puede ser identificado posteriormente mediante una clave específica, la compañía asegura además que la tecnología no supondrá un coste adicional para los usuarios de Claude ni tendrá un impacto práctico en la calidad o en el contenido de sus respuestas.
El funcionamiento se basa en una característica propia de los modelos de lenguaje, para muchas partes de una frase existen varias palabras posibles que mantienen prácticamente el mismo significado, Anthropic utiliza como ejemplo una frase como “The weather today was cold and…”, después de esa construcción, palabras como “overcast” o “grey” pueden ser opciones bastante probables, mientras que “sugary” sería una elección muy poco probable. Entre las dos primeras alternativas existe una decisión que apenas cambia el significado de la frase.
Normalmente, el modelo utiliza un número aleatorio para decidir cuál de las diferentes opciones posibles selecciona, el sistema de marcado aprovecha precisamente esas decisiones de bajo impacto que aparecen constantemente a lo largo de un texto generado. En lugar de utilizar un generador de números aleatorios convencional, el sistema de watermarking emplea una clave y varias de las palabras que aparecen previamente en el texto para determinar qué opción debe escoger el modelo en determinados momentos, de esta manera, las elecciones continúan siendo aparentemente aleatorias para el lector, pero siguen un patrón estadístico concreto, un patrón que se va acumulando a lo largo del texto hasta formar una especie de huella invisible.
La marca no se puede ver, pero sí detectar
Una de las características fundamentales del sistema es que la marca de agua no modifica visualmente el texto ni introduce caracteres especiales que puedan identificarlo a simple vista, una persona que lea una respuesta generada por Claude no debería poder saber por el texto en sí que contiene una marca de agua, sin embargo, quienes dispongan de la clave necesaria podrán analizar las elecciones de palabras realizadas por el modelo y determinar si existe el patrón característico del sistema de marcado.
Esto permite que la identificación se realice posteriormente sin necesidad de añadir una etiqueta visible a cada respuesta, la tecnología se apoya en las probabilidades internas que utiliza el propio modelo para generar lenguaje. Anthropic señala que las decisiones utilizadas para introducir el patrón son aquellas que tienen un impacto reducido sobre el significado. Por ello, la compañía sostiene que el sistema no debería tener un efecto práctico apreciable sobre la calidad o el contenido de las respuestas de Claude.
La incorporación de esta tecnología está relacionada directamente con las obligaciones de transparencia establecidas por la Ley de Inteligencia Artificial de la Unión Europea (AI Act), las nuevas normas contemplan que determinados contenidos sintéticos, incluidos audio, imágenes, vídeo y texto, incorporen mecanismos legibles por máquinas que permitan identificar que han sido generados o manipulados mediante inteligencia artificial. Anthropic también está trabajando con C2PA para los contenidos de imagen procesados por Claude, mientras que el sistema de marcado de texto se centra en crear una huella estadística dentro de las respuestas, C2PA permite incorporar información de procedencia y credenciales de contenido en determinados archivos. El objetivo es que los sistemas de IA puedan cumplir con las exigencias de transparencia sin que el usuario tenga necesariamente que enfrentarse a marcas visibles o elementos que interfieran con el contenido generado.
Google ya utiliza SynthID en Gemini
Claude no será el primer modelo de inteligencia artificial que utilice este tipo de tecnología, Google ya incorporó SynthID Text a su chatbot Gemini, utilizando el mismo principio general de introducir patrones estadísticos en las decisiones de generación de texto, la diferencia en el caso de Anthropic es que la compañía está utilizando una versión del enfoque desarrollado por Google DeepMind como parte de su estrategia para cumplir con las obligaciones europeas.
El desarrollo de estas tecnologías también puede convertirse en una herramienta importante para distinguir entre textos escritos por personas y contenidos generados por modelos de IA a medida que estos sistemas se integran cada vez más en la creación de documentos, comunicaciones y contenidos digitales. Las exigencias europeas no se aplican exclusivamente a Anthropic, los principales desarrolladores de inteligencia artificial tendrán que adaptarse a las obligaciones de transparencia establecidas por la normativa europea.
En el caso de OpenAI, la compañía todavía no ha detallado públicamente un sistema concreto de marcas de agua para el texto generado por ChatGPT dentro de su hoja de ruta de cumplimiento del AI Act, sin embargo, sus sistemas también estarán sujetos a las obligaciones que correspondan bajo la legislación europea.
Si (
No(
