OpenAI ha decidido implementar una marca de agua en los textos generados por ChatGPT dentro de la Uni贸n Europea. Esta medida responde a la reciente Ley de IA de la UE, que exige que los contenidos creados por modelos de inteligencia artificial sean identificables. La t茅cnica utilizada, llamada textGrain, permite detectar patrones en las palabras sin afectar la calidad del texto, aunque solo es visible para herramientas especializadas.
Las claves
- La marca de agua es obligatoria solo en la UE debido a la normativa local.
- La t茅cnica textGrain no altera la calidad del texto y es detectable con herramientas espec铆ficas.
- El acceso al detector est谩 limitado a ciertos investigadores y organizaciones.
Contexto
La Ley de IA de la Uni贸n Europea, que entr贸 en vigor en agosto, ha impulsado a OpenAI a implementar esta nueva medida de identificaci贸n en sus productos. La normativa exige que los contenidos generados por inteligencia artificial sean claramente marcados para garantizar la transparencia y la responsabilidad en el uso de estas tecnolog铆as. Esto ha llevado a OpenAI a desarrollar textGrain, una t茅cnica que inserta patrones en las elecciones de palabras, haci茅ndolos detectables por herramientas especializadas.
Aunque OpenAI ha logrado una tasa de detecci贸n del 92% en sus pruebas, la eficacia de la marca de agua puede verse reducida si se realizan cambios en el texto. Modificar solo el 10% del contenido puede disminuir la tasa de detecci贸n en casi un 30%, mientras que un cambio del 20% puede reducirla hasta en un 75%. Este desaf铆o resalta la complejidad de garantizar la identificaci贸n de textos generados por IA.
En contraste, Anthropic, un competidor de OpenAI, ha implementado marcas de agua de manera global en sus modelos. OpenAI, sin embargo, ha optado por hacerlas obligatorias solo en regiones donde las regulaciones lo exigen, como en la UE, manteni茅ndolas opcionales para su API.
La lectura desde Espa帽a
Para las empresas y usuarios en Espa帽a, esta medida de OpenAI podr铆a significar un paso hacia una mayor transparencia en el uso de la inteligencia artificial. La implementaci贸n de marcas de agua obligatorias en la UE podr铆a servir como un precedente para futuras regulaciones en otras regiones. Adem谩s, las empresas que operan en la UE deber谩n adaptarse a estas nuevas normativas para asegurar el cumplimiento legal y evitar posibles sanciones.