OpenAI comenzará a marcar el texto de ChatGPT en la UE para cumplir con la Ley de IA

OpenAI anunció que comenzará a implementar una marca de agua invisible en el texto generado por ChatGPT y Codex en la Unión Europea, como parte de su cumplimiento con la Ley de IA. La medida fue comunicada en un blog el pasado lunes.

Las nuevas reglas de transparencia de la Ley de IA, que entraron en vigor el 2 de agosto, exigen que las empresas de inteligencia artificial marquen el contenido generado por IA de una manera que otros sistemas puedan identificar.

La compañía indicó que la marca de agua se implementará en las próximas semanas para los usuarios elegibles de ChatGPT y Codex en todos los planes, pero solo en la UE. Los desarrolladores que utilizan la API de OpenAI en cualquier parte del mundo pueden activarla para modelos selectos a partir de hoy, aunque estará desactivada por defecto. OpenAI aclaró que no está haciendo de la marca de agua un estándar global en su lanzamiento.

Esta marca no es un símbolo visible, sino que funciona moldeando sutilmente las elecciones de palabras del modelo, dejando un patrón que los lectores no pueden ver, pero que un detector puede identificar. Dado que reside en las propias palabras, viaja con el texto cuando se copia y pega. OpenAI afirmó que la marca de agua no identifica al usuario y que no se observó un cambio significativo en el rendimiento de sus modelos con esta función activada.

La empresa también publicó un informe técnico sobre su método, denominado textGrain, junto con el anuncio. Coescrito con investigadores de la Universidad de Pensilvania y Yale, el informe describe un ejemplo de cómo usar una clave secreta para clasificar las predicciones de la siguiente palabra para completar una oración. Al agregar cientos de estos empujones, el detector puede identificar el contenido generado por IA utilizando solo el texto y la clave.

¿Puede la marca de agua ser eliminada al editar? Las pruebas de OpenAI sugieren que sí. En una prueba, reemplazar el 10% de las palabras con sinónimos redujo la detección del 92% al 66%. La empresa también mencionó que los pasajes cortos, las respuestas matemáticas y el texto traducido son más difíciles de detectar.

OpenAI advirtió que una falta de marca de agua "no prueba la autoría humana". El texto podría ser demasiado corto o estar demasiado editado, o podría provenir de la IA de otra empresa.

La compañía aclaró que las marcas de agua "pueden indicar que un sistema de OpenAI generó o procesó parte de un pasaje, pero no cuánto juicio humano, edición o creatividad se invirtió en él".

Este anuncio se produjo dos meses después de que Anthropic anunció que también marcaría el texto generado por su modelo Claude, una medida que se aplica a nivel mundial. Esta decisión atrajo críticas de algunos usuarios de Claude, quienes argumentaron que ellos habían proporcionado "las instrucciones, el contexto, las decisiones" mientras que Claude era simplemente "la herramienta".

OpenAI había desarrollado una marca de agua para texto anteriormente, pero decidió no lanzarla, en parte debido a preocupaciones de que los usuarios optarían por rivales que no marcaran el contenido, según informó The Wall Street Journal en 2024.

Compañías como OpenAI, Anthropic, Google, Meta y Microsoft se han comprometido a seguir el código de prácticas de la UE sobre contenido generado por IA.

Temas