Cero. Ese es el número de personas que realmente creen que las marcas de agua invisibles en la salida de un LLM detendrán la avalancha de spam generado por IA. Anthropic está esencialmente pegando una pegatina de “no robar” en un archivo digital y esperando que internet se comporte. Es un gesto de cumplimiento regulatorio, no una solución técnica.

Marcas de agua invisibles y legibles por máquina para texto generado. Metadatos de procedencia C2PA para imágenes generadas. Un giro hacia el cumplimiento de los mandatos de transparencia europeos.

El motor aquí no es un deseo repentino de salvar internet de la desinformación; es la Ley de IA de la UE. Anthropic quiere el mercado europeo y no puede permitirse ser el extraño cuando los reguladores comiencen a auditar la procedencia. Según The Verge, la empresa se compromete a marcar texto e imágenes para garantizar la transparencia. Es un movimiento corporativo clásico: hacer lo mínimo necesario para satisfacer al departamento legal mientras se finge que se resuelve un problema sistémico. Este es el “Efecto Bruselas” en acción, donde el apetito regulatorio de una sola región fuerza un cambio global en el diseño del producto, independientemente de si ese cambio realmente añade valor al usuario final.

En el lado técnico, el marcaje de agua de texto es notoriamente frágil. La mayoría de estos sistemas se basan en una técnica llamada sesgo de logit, donde el modelo divide su vocabulario en listas “verdes” y “rojas”. Al favorecer sutilmente los tokens verdes, el modelo crea una huella estadística que una herramienta de detección puede detectar, pero un humano no. Pero esta señal es increíblemente fácil de eliminar. Un usuario puede simplemente tomar la salida, pasarla por un modelo diferente y más pequeño para una “reescritura”, o incluso gastar dos minutos intercambiando manualmente unos pocos adjetivos. Es un poco como intentar probar que una fotocopia es una copia buscando una pequeña mancha de tinta en la esquina que el usuario puede simplemente recortar. O quizás es más como intentar ocultar un olor con perfume barato; podría engañar a un observador casual, pero no cambia la naturaleza subyacente de la cosa. Una vez que el texto se modifica en incluso un pequeño porcentaje, la marca “invisible” desaparece.

El lado de las imágenes es ligeramente diferente pero igualmente fútil. Anthropic se apoya en C2PA, un estándar que adjunta un manifiesto digital al archivo. Aunque este es un enfoque más limpio que el marcaje de agua a nivel de píxeles, es fundamentalmente una etiqueta voluntaria. ¿Alguien cree realmente que un actor malicioso, el tipo de persona que realmente despliega deepfakes o campañas de desinformación, va a dejar los metadatos intactos? Un simple “guardar como” en un editor de imágenes básico o un rápido pase por una herramienta de limpieza borra la procedencia por completo. De hecho, la mayoría de las plataformas de redes sociales ya eliminan este tipo de metadatos automáticamente para ahorrar espacio o proteger la privacidad. La fricción en el mundo real aquí es casi cero. Estamos tratando una etiqueta de metadatos como si fuera un sello físico en una bóveda, cuando en realidad es más como una etiqueta de “Hecho en China” en una camiseta que se puede cortar con un cortauñas en tres segundos.

Este movimiento tiene más que ver con la gestión de marca que con la seguridad real (y aman su marca). Al adoptar estos estándares, Anthropic puede mantener su imagen como el laboratorio “responsable” mientras evita las fuertes multas asociadas con las reglas de transparencia de la UE. Están construyendo una cerca que se ve genial desde la carretera pero que tiene un agujero gigante en la parte trasera. Quieren el prestigio de ser la empresa de “IA Constitucional” sin la dificultad real de resolver el problema de atribución. Para el primer trimestre de 2025, veremos el primer conjunto de herramientas de “limpieza de marcas de agua” diseñadas específicamente para la salida de texto de Claude, probablemente empaquetadas como “Humanizadores de IA” para estudiantes y redactores perezosos que quieran evitar la detección.

Un ejercicio de marcar casillas corporativo.