El Reino Unido ha decidido intensificar sus defensas cibernéticas en respuesta a la creciente preocupación mundial sobre los riesgos asociados con la inteligencia artificial (IA). Este movimiento se produce en un momento en que el ministro de IA, Kanishka Narayan, ha instado a las empresas que desarrollan sistemas avanzados de IA a mejorar sus medidas de seguridad. Narayan subraya la importancia de que el país no dependa exclusivamente de las empresas tecnológicas para la supervisión de sus modelos, destacando la necesidad de desarrollar una infraestructura propia de IA en el Reino Unido.
Las claves
- El Reino Unido intensifica sus defensas cibernéticas ante los riesgos de la IA.
- El ministro Kanishka Narayan pide a las empresas de IA que refuercen la seguridad.
- Preocupación por posibles robos de modelos avanzados por parte de estados enemigos.
Contexto
El discurso de Narayan en el oeste de Londres pone de relieve la vulnerabilidad de los sistemas de IA, especialmente después de incidentes recientes que han demostrado estas debilidades. Geoffrey Irving, exjefe científico del Instituto de Seguridad de IA del Reino Unido, ha expresado su preocupación por el riesgo de que estados enemigos puedan robar modelos avanzados que aún no han sido liberados. Un ejemplo de estas vulnerabilidades es un incidente reciente en OpenAI, donde investigadores de ciberseguridad lograron «hackear» el sistema bajo un programa que recompensa a los hackers éticos por probar sus sistemas.
Irving, con experiencia en OpenAI y Google DeepMind, ahora lidera un organismo de investigación sobre seguridad de IA. Advierte que existe una «50% de probabilidad» de que la humanidad sea aniquilada por IA superinteligentes, y plantea que la única solución viable es detener el desarrollo de sistemas avanzados lo antes posible. Según él, podríamos alcanzar la superinteligencia en menos de 12 meses si continuamos por el camino actual.
El discurso de Narayan será observado de cerca para identificar si el Reino Unido se unirá a un llamado internacional para coordinar estándares de seguridad comunes para las IAs, una iniciativa ya firmada por varios países, aunque ni el Reino Unido ni Estados Unidos han firmado aún el acuerdo.
La lectura desde España
Para las empresas e instituciones en España, el fortalecimiento de las defensas cibernéticas en el Reino Unido y el llamado a mejorar la seguridad en los sistemas de IA pueden servir como un ejemplo a seguir. La creciente preocupación por la seguridad de la IA resalta la importancia de establecer estándares robustos y colaborativos a nivel internacional, lo que podría influir en la forma en que las empresas españolas abordan la seguridad de sus propios sistemas de IA.