Las advertencias de Stephen Hawking sobre los peligros potenciales de la inteligencia artificial (IA) resuenan con fuerza en la actualidad, especialmente en un contexto donde expertos como Jacob Coxon critican la falta de salvaguardas en su desarrollo. La preocupación por los riesgos asociados a la IA ha alcanzado incluso a la Casa Blanca, donde se han firmado acuerdos para intentar mitigar estos peligros.
Las claves
- Stephen Hawking advirtió en 2014 sobre los riesgos de una IA avanzada.
- Jacob Coxon denuncia la falta de responsabilidad en el desarrollo de IA.
- La Casa Blanca firma un acuerdo para establecer controles en la IA.
Contexto
En 2014, el físico teórico Stephen Hawking expresó su preocupación por el desarrollo de una inteligencia artificial completa, sugiriendo que podría significar el fin de la raza humana. Esta declaración surgió durante una entrevista con la BBC, donde discutió sobre el sistema de comunicación que utilizaba, el cual integraba una forma básica de IA. Este sistema, desarrollado por Intel y Swiftkey, le permitía comunicarse a pesar de su enfermedad, la esclerosis lateral amiotrófica (ELA).
A pesar de celebrar las mejoras en su sistema de comunicación, Hawking temía que una IA más avanzada pudiera rediseñarse a sí misma y superar a los humanos, quienes están limitados por su lenta evolución biológica. Estas preocupaciones han cobrado relevancia en la actualidad, especialmente con las críticas de Jacob Coxon, exinvestigador de OpenAI y Anthropic, quien ha acusado a estas compañías de avanzar sin las salvaguardas necesarias.
Recientemente, la Casa Blanca ha tomado medidas al respecto. El 29 de septiembre, Donald Trump y seis líderes tecnológicos firmaron un acuerdo voluntario para establecer controles de seguridad en el desarrollo de sistemas de inteligencia artificial. Aunque este pacto es «moralmente vinculante», carece de carácter legal y no prevé sanciones para las firmas que incumplan sus compromisos.
La lectura desde España
En España, estas advertencias y medidas pueden tener implicaciones significativas para las empresas y el desarrollo de tecnología. La preocupación por la ciberseguridad y la bioseguridad es un tema creciente, y las compañías españolas podrían verse afectadas por las regulaciones internacionales que se establezcan. Además, el debate sobre la ética y la responsabilidad en el desarrollo de la inteligencia artificial es cada vez más relevante para las políticas tecnológicas del país.