La proliferación de contenido explícito generado por inteligencia artificial está generando preocupación entre los investigadores en seguridad, quienes han advertido sobre la facilidad con la que se pueden engañar los modelos de IA para crear imágenes no consensuadas. A pesar de la creciente amenaza, los reguladores aún no han implementado medidas efectivas para detener esta tendencia.
LAS CLAVES
- Investigadores destacan la vulnerabilidad de modelos de IA como DALL·E 3 y GPT-Image-2 para bloquear contenido explícito.
- El método «RISE» de White Circle revela fallos en los filtros de seguridad de estos modelos.
- Google y OpenAI no han respondido a las solicitudes de comentarios sobre las vulnerabilidades encontradas.
CONTEXTO
Un estudio coautor por Google, realizado en julio, reveló que el contenido explícito generado por IA se comparte comúnmente en mensajes de texto y directos o se almacena en nubes privadas. Esto dificulta su detección y reporte, aumentando la preocupación sobre el uso indebido de estas tecnologías.
Los modelos de IA líderes, como DALL·E 3 de OpenAI y otros de Google, han mostrado ser menos efectivos para bloquear salidas explícitas, según pruebas recientes. White Circle, una corporación de beneficio público, ha estado evaluando la efectividad de estos modelos y ha encontrado fallos significativos en sus filtros de seguridad.
El método «Red-teaming via Iterative Strategy Evolution» (RISE) desarrollado por White Circle busca patrones reutilizables que puedan eludir las defensas de los modelos de IA, demostrando que no se necesitan modelos de vanguardia para comprometer la seguridad de estos sistemas.
LA LECTURA DESDE ESPAÑA
En España, la creciente vulnerabilidad de los modelos de IA para generar contenido explícito podría tener implicaciones significativas para empresas y reguladores. La necesidad de reforzar la seguridad de estos sistemas es crucial para proteger la privacidad de los usuarios y evitar el uso indebido de la tecnología. Las empresas tecnológicas y las instituciones deben estar atentas a estos desarrollos y considerar medidas proactivas para mitigar los riesgos asociados.