El CEO de Nvidia, Jensen Huang, se ha posicionado como una figura clave en el debate sobre los riesgos de la inteligencia artificial (IA), desafiando las narrativas apocalípticas que algunos líderes del sector han promovido. Huang aboga por un enfoque más pragmático en la regulación de la IA, centrándose en los daños reales en lugar de los hipotéticos.
Las claves
- Jensen Huang critica el alarmismo sobre el riesgo existencial de la IA.
- Aboga por regulaciones centradas en daños reales y no teóricos.
- Nvidia lanza una plataforma para mejorar la seguridad de los agentes de IA.
Contexto
En una reciente entrevista, Jensen Huang, CEO de Nvidia, ha expresado su desacuerdo con las visiones catastrofistas sobre el futuro de la IA. Durante su intervención en un evento del G20 en septiembre, Huang instó a los gobiernos a regular los daños tangibles de la IA, comparando su desarrollo con la evolución de los automóviles, que han mejorado en seguridad con el tiempo.
A pesar de su postura crítica hacia el alarmismo, Huang reconoce la importancia de implementar salvaguardias en el desarrollo de la IA. En este contexto, Nvidia ha presentado su nueva plataforma Open Agent Safety Platform, diseñada para gestionar de manera integral la seguridad de los agentes de IA desde su fase de pruebas hasta la implementación.
La plataforma de Nvidia, que busca prevenir incidentes con agentes descontrolados, incluye dos componentes principales: «OpenShell» y «Sentry». OpenShell aísla a los agentes de IA para limitar su acceso a recursos críticos, mientras que Sentry monitorea continuamente su actividad, con la capacidad de detenerlos rápidamente si intentan sobrepasar sus límites.
La lectura desde España
Para las empresas e instituciones en España, la postura de Huang puede ser un llamado a adoptar un enfoque más equilibrado en la regulación de la IA, priorizando la seguridad sin frenar la innovación. La nueva plataforma de Nvidia podría ofrecer herramientas útiles para gestionar la seguridad de la IA, un aspecto cada vez más relevante en el ámbito empresarial y tecnológico.
Fuente: https://fortune.com/2026/10/04/nvidia-jensen-huang-ai-doomerism-foil-risk/