Imagina a un chef intentando demostrar que una salsa es de supermercado solo con probarla, sin mirar los ingredientes. Podría acertar si la salsa es insípida, pero también marcaría a cualquier chef profesional que simplemente sea demasiado disciplinado con su sazón. Ese es el estado actual de la detección de IA. Básicamente, estamos intentando identificar una marca específica de agua solo probándola; en realidad, solo estás probando agua.

El panorama actual de la “detección de IA” es un desastre de conjeturas estadísticas. The Verge destaca cómo estas herramientas están convirtiendo aulas y oficinas en salas de interrogatorio. El problema central no es solo que estas herramientas sean inexactas; es que son fundamentalmente incompatibles con el funcionamiento de los LLM. Estos detectores generalmente buscan la “perplejidad” y la “burstiness”. En palabras llanas: marcan textos demasiado consistentes o predecibles. Si los patrones son demasiado uniformes, el bot grita “sintético”.

El problema es que muchos humanos—especialmente hablantes no nativos de inglés o personas que escriben con un estilo claro y académico—ya escriben con baja perplejidad. Escriben de forma predecible porque les enseñaron a seguir estrictamente las reglas del idioma. Así que la herramienta los marca. (He visto que esto le pase a mis propios borradores de documentación). Hemos pasado de un mundo donde la “prueba” significaba una marca de tiempo o un historial de versiones, a un mundo donde la “prueba” es una puntuación de probabilidad de un clasificador de caja negra. Es un poco como un árbitro señalando una falta en una jugada que no vio realmente, pero que “sintió” como falta basándose en la vibra general del jugador.

¿De verdad creemos que una puntuación de probabilidad es un sustituto de la evidencia? La absurdidad radica en que estamos gastando potencia de cómputo y dinero para ejecutar un modelo solo para adivinar si otro modelo escribió un párrafo. Es una forma costosa de equivocarse.

Esta es la realidad: no puedes detectar una señal que está diseñada para ser indistinguible del ruido. Los LLM se entrenan con la suma de la producción digital humana. A medida que mejoran, la brecha entre “humano” y “sintético” no solo se reduce; desaparece. Cualquiera que venda un “detector” como una fuente confiable de verdad está vendiendo un placebo.

Es una caza de brujas digital.

La verdadera fricción aquí no es técnica; es institucional. Los gerentes y profesores no quieren evaluar realmente el trabajo; quieren un atajo para evitar la carga cognitiva de calificar o revisar. Prefieren arriesgarse a un falso positivo que gastar diez minutos pensando realmente en el contenido. Esto crea un incentivo perverso para que los escritores “humanicen” intencionalmente su texto. Estamos viendo a personas agregar errores tipográficos intencionales o estructuras de oraciones extrañas y torpes—básicamente, limando su propia profesionalidad—solo para satisfacer a un algoritmo roto. (O quizás solo nos estamos volviendo masoquistas).

El resultado es una degradación de la calidad. Estamos entrenando a una generación de escritores para ser menos claros para que no los marque un bot. La ironía es espesa: estamos usando IA para forzar a los humanos a escribir más como una IA mala. Ya hemos visto este patrón antes con el contenido SEO, donde pasamos una década escribiendo para los crawlers de Google en lugar de para personas reales. Ahora lo estamos haciendo por “detectores”.

La brecha de confianza ya está aquí. Una vez que empiezas a acusar a las personas de hacer trampa basándote en una puntuación de probabilidad, no recuperas la “integridad”. Solo obtienes una fuerza laboral aterrorizada de escribir demasiado claramente y un entorno donde la única forma de probar tu humanidad es actuar ligeramente incompetente.

La mayoría de estas startups de detección independientes estarán en bancarrota o habrán hecho un pivote para el cuarto trimestre del próximo año. Están librando una batalla perdida contra la propia naturaleza de la tecnología que intentan rastrear. Una vez que un modelo pueda simular perfectamente la “burstiness” de un humano—lo cual ya puede hacer si simplemente se lo pides—, el detector se convierte en un generador de números aleatorios.

El juego final no es un mundo donde podamos distinguir entre un humano y un bot. El juego final es aceptar que la distinción es irrelevante si la salida es útil. Pero hasta que las personas a cargo se den cuenta de eso, seguiremos atrapados en este bucle de sospecha y errores tipográficos sintéticos.