La creciente dependencia de la inteligencia artificial (IA) en el ámbito militar ha llevado a Estados Unidos a considerar la implementación de un «botón rojo» para desactivar sistemas automatizados en situaciones de emergencia. Esta iniciativa surge tras un incidente en la primavera pasada donde un error en la interpretación de datos por parte de una plataforma de IA del ejército estadounidense casi desencadena un conflicto con China.
Las claves
- Incidente crítico: un fallo de IA casi provoca un conflicto bélico con China.
- Propuesta de «botón rojo» para desactivar sistemas automatizados en emergencias.
- El Pentágono y el Congreso de EE.UU. desarrollan un marco regulatorio para IA militar.
Contexto
Durante maniobras rutinarias en Oriente Próximo, herramientas de vigilancia basadas en IA clasificaron incorrectamente los movimientos de las fuerzas armadas chinas como preparativos para un ataque nuclear. Este error se corrigió a tiempo gracias a la intervención de oficiales que detectaron las inconsistencias en las alertas emitidas por el sistema. Sin embargo, el incidente ha puesto de manifiesto las limitaciones de los modelos de aprendizaje automático en situaciones de alta tensión geopolítica, donde los algoritmos, incapaces de interpretar intenciones diplomáticas, sobredimensionaron la amenaza.
La naturaleza de «caja negra» de estas tecnologías impide auditar sus decisiones en tiempo real, lo que ha llevado al Pentágono y al Congreso de EE.UU. a trabajar en un marco regulatorio que incluya un «protocolo de botón rojo». Este mecanismo busca garantizar que las decisiones críticas no sean transferidas a las máquinas, manteniendo siempre a un operador humano en el proceso de decisión.
Además, las reformas propuestas prohíben la conexión de plataformas de análisis predictivo a sistemas de armas y aseguran la posibilidad de detener el flujo de datos en caso de anomalías. La iniciativa ya cuenta con el respaldo del gobernador de California desde el 18 de septiembre, subrayando la importancia de establecer controles humanos en la automatización de la inteligencia de defensa.
La lectura desde España
Para España, esta iniciativa estadounidense podría servir como referencia en el desarrollo de políticas de control sobre la inteligencia artificial en el ámbito militar. Aunque el contexto geopolítico es diferente, la necesidad de establecer protocolos de seguridad y mantener el control humano en decisiones críticas es un aspecto relevante que podría influir en futuras regulaciones europeas sobre el uso de la IA en defensa.
Fuente: https://theobjective.com/tecnologia/2026-10-03/eeuu-boton-rojo-ia-incidente-tercera-guerra-mundial/