La apertura al público de SynthID, la herramienta de Google DeepMind para identificar contenido generado por inteligencia artificial, representa un avance en la lucha contra las noticias falsas. Sin embargo, su eficacia limitada plantea desafíos significativos en un entorno donde la creación de contenido artificial es cada vez más sofisticada.
Las claves
- SynthID ahora está disponible para el público, permitiendo identificar imágenes, vídeos y audios generados por IA.
- La herramienta utiliza marcas de agua imperceptibles, pero solo es efectiva con contenido creado por Google o sus socios.
- Existen limitaciones en el número de consultas diarias y en la detección de contenido de IA de otros proveedores.
Contexto
La proliferación de noticias falsas y contenido manipulado en redes sociales ha sido un problema creciente, exacerbado por el avance de la inteligencia artificial generativa. Google DeepMind lanzó SynthID en 2023 como una herramienta cerrada para identificar contenido falso, y ahora ha abierto su uso al público en general. La tecnología detrás de SynthID se basa en marcas de agua que se incrustan en el contenido generado por IA, diseñadas para ser resistentes a modificaciones comunes como recortes o compresión.
A pesar de su potencial, SynthID tiene limitaciones importantes. Solo permite realizar 20 consultas diarias y no puede identificar contenido generado por programas de IA que no sean de Google o sus socios. Esto significa que, si el contenido se crea utilizando otras herramientas de IA, SynthID no podrá detectarlo. Además, aunque es fácil de usar, su eficacia se ve restringida a un ecosistema controlado por Google.
Otras empresas, como Adobe y Meta, han desarrollado sus propias soluciones para el etiquetado de contenido generado por IA, y la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) está trabajando en un estándar para gestionar estas tecnologías. Sin embargo, la identificación completa de contenido generado por IA sigue siendo un desafío.
La lectura desde España
Para España, la apertura de SynthID y sus limitaciones destacan la necesidad de un enfoque más amplio para abordar la autenticidad del contenido digital. Las empresas y las instituciones deben considerar la adopción de múltiples herramientas y estándares para protegerse contra la desinformación. Además, el anteproyecto de ley aprobado en marzo de 2025, que considera infracción no etiquetar contenido generado por IA, subraya la importancia de la regulación en este ámbito. La colaboración internacional y el desarrollo de tecnologías más avanzadas serán cruciales para mitigar los riesgos asociados con el contenido generado por inteligencia artificial.