OpenAI añadirá una marca de agua invisible al texto de ChatGPT y Codex en la UE para cumplir con la Ley de IA

OpenAI anunció que, para cumplir con requisitos de transparencia de la Ley de IA de la Unión Europea, incorporará una marca de agua invisible al texto y al código generados por ChatGPT y Codex. El sistema se llama textGrain: introduce una señal estadística imperceptible en las elecciones de palabras del modelo y luego se detecta con tecnología propia. Desde este martes, los usuarios globales de la API podrán activar la marca de agua en ciertos modelos (desactivada por defecto). En la UE, la activación llegará en las próximas semanas, inicialmente con acceso del detector solo a investigadores y organizaciones aprobadas. OpenAI advierte que la detección puede fallar con falsos positivos o negativos, especialmente en textos cortos o editados: reemplazar 25% de palabras por sinónimos reduce la detección del 92% al 17% en fragmentos de 400 tokens.