OpenAI prepara marcas de agua de texto para la UE

OpenAI presentó el 5 de octubre un despliegue por etapas para marcar texto generado por algunos de sus modelos. La compañía lo vinculó con las reglas de transparencia de la Unión Europea, pero no anunció un detector abierto para cualquier persona ni una marca activada globalmente en ChatGPT.

También puede servirte: ChatGPT Salud: acceso, aplicaciones y límites en Argentina

El plan tiene dos vías: clientes de la API en todo el mundo podrán activar la marca en modelos seleccionados, con la opción apagada por defecto; para usuarios elegibles de ChatGPT y Codex en la Unión Europea, OpenAI dice que incorporará una señal invisible durante las próximas semanas.

OpenAI llama textGrain a su método. Según la empresa, incorpora una señal estadística invisible en la elección de palabras del modelo; un detector busca esa señal en un pasaje. No es un rótulo que se vea al leer el texto ni una marca añadida como una etiqueta al final.

La compañía también anunció que abrirá solicitudes para probar el detector. En la primera etapa, el acceso será evaluado caso por caso y quedará limitado a investigadores y organizaciones expertas aprobadas, con el objetivo declarado de medir su fiabilidad y mejorar la tecnología.

Un resultado positivo solo indica que el detector encontró una señal asociada con una marca de agua de OpenAI. La empresa dice que el resultado no identifica a la persona, la cuenta, la organización, el prompt o la conversación que produjo el pasaje; tampoco mide cuánto aportó una persona ni verifica si el texto es verdadero.

Un resultado negativo tampoco demuestra que el texto lo haya escrito una persona. Puede faltar señal porque el fragmento es corto, fue editado o traducido, proviene de un modelo no compatible o se generó antes del despliegue. Por eso, el detector no debe interpretarse como una prueba concluyente de autoría.

En el ensayo publicado por la empresa, con una tasa objetivo de falsos positivos del 1%, el detector encontró la marca en cerca del 80% de pasajes de psicología de 200 tokens y en alrededor del 95% de pasajes de 400 tokens. OpenAI informó resultados bastante menores para textos de matemática, donde hay menos libertad para elegir palabras.

La edición también debilitó la señal. En pasajes en inglés de 400 tokens, reemplazar por sinónimos el 10% de las palabras bajó la detección informada del 92% al 66%; al reemplazar el 25%, cayó al 17%. Son resultados de pruebas publicadas por OpenAI, no una evaluación independiente del detector en textos cotidianos.

El artículo 50 de la Ley de IA europea se aplica desde el 2 de agosto de 2026. La Comisión Europea explica que los proveedores deben incorporar marcas legibles por máquina para detectar contenido generado o manipulado por IA, dentro del alcance definido por la norma y sus directrices. Las obligaciones de quienes publican ciertos textos son distintas.

La señal estadística de texto tampoco es lo mismo que las credenciales de contenido C2PA: esa especificación define manifiestos firmados que registran información de origen e historial de un archivo. OpenAI las presenta como técnicas complementarias, no como una única prueba de quién escribió un texto.