La creciente confianza en la capacidad de la inteligencia artificial (IA) para rechazar acciones peligrosas plantea serias preocupaciones sobre su fiabilidad y seguridad. A pesar de los esfuerzos por entrenar a los modelos para que se nieguen a realizar tareas dañinas, la realidad es que estos mecanismos no siempre son efectivos, lo que podría tener consecuencias catastróficas.
Las claves
- La IA moderna está entrenada para rechazar solicitudes dañinas, pero a menudo falla.
- El rechazo de la IA es probabilístico, lo que lo hace inherentemente poco confiable.
- Dependencia del rechazo puede llevar a la represión o a la falta de seguridad.
Contexto
Desde sus inicios, la inteligencia artificial ha sido vista como una herramienta capaz de replicar la inteligencia humana, incluyendo la capacidad de decir «no». Sin embargo, a medida que los modelos de IA han evolucionado, también lo ha hecho su habilidad para realizar tareas potencialmente peligrosas. En 2021, se estableció que los modelos de lenguaje grandes deberían ser útiles, honestos e inofensivos, rechazando acciones peligrosas como la construcción de bombas.
El entrenamiento de los modelos actuales incluye ejercicios que recompensan a la IA por negarse a responder preguntas dañinas y la castigan por rechazar en exceso las inofensivas. Sin embargo, la desobediencia no es natural para las máquinas, y los modelos siguen albergando conocimientos peligrosos. La capacidad de la IA para causar daño ha crecido junto con su inteligencia, lo que plantea riesgos significativos.
Además, la línea entre lo que un modelo debe obedecer y desobedecer es trazada por las empresas de IA, lo que genera preocupaciones sobre la transparencia y el control gubernamental. La negativa de la IA se ha convertido en un pilar de seguridad, pero su fiabilidad es cuestionable, y los fallos en el rechazo podrían tener consecuencias globales.
La lectura desde España
Para España, el desarrollo y uso responsable de la inteligencia artificial es crucial. Las empresas y gobiernos deben colaborar para establecer regulaciones claras que garanticen la seguridad y la ética en el uso de la IA. La dependencia excesiva en la capacidad de la IA para rechazar acciones peligrosas sin un marco regulador sólido podría llevar a riesgos significativos, tanto en términos de seguridad como de derechos civiles.
Fuente: https://www.technologyreview.com/2026/10/09/1145728/we-are-putting-too-much-faith-in-ai-to-say-no/