La creciente integración de la inteligencia artificial (IA) en las administraciones públicas plantea un desafío crucial: garantizar que los empleados públicos estén capacitados para cuestionar las decisiones automatizadas que afectan a los ciudadanos. Este debate cobra relevancia en un contexto donde la supervisión humana podría convertirse en un mero trámite formal.
Las claves
- La IA se está utilizando en la gestión de documentos y procedimientos en el sector público.
- Existe preocupación sobre la capacidad de los funcionarios para cuestionar decisiones automatizadas.
- Es esencial formar a empleados públicos en el uso y cuestionamiento de la IA.
Contexto
La inteligencia artificial ha comenzado a jugar un papel crucial en el funcionamiento de las administraciones públicas, facilitando tareas como el análisis de documentación y la elaboración de procedimientos. Sin embargo, este avance tecnológico trae consigo preocupaciones sobre la capacidad de los sistemas automatizados para tomar decisiones que impactan directamente en la vida de los ciudadanos, como la concesión o denegación de ayudas.
Javier Mateo, en un artículo de opinión, plantea la necesidad de que los funcionarios públicos no solo utilicen estas herramientas, sino que también estén preparados para cuestionarlas. Esto es especialmente relevante dado que incluso los desarrolladores de estas tecnologías sugieren la necesidad de ralentizar su implementación para asegurar que existan mecanismos adecuados de evaluación y supervisión.
El riesgo es que la supervisión humana se convierta en un simple trámite formal, sin capacidad real de intervención. Para mitigar este riesgo, se propone la formación de miles de empleados públicos no solo en el uso de las herramientas de IA, sino también en la capacidad de desafiar sus decisiones cuando sea necesario.
La lectura desde España
Para España, este debate es fundamental, ya que el uso responsable de la IA en el sector público podría establecer un precedente en la gestión de tecnologías emergentes. La formación adecuada de los empleados públicos en el uso y cuestionamiento de la IA no solo garantizaría decisiones más justas y transparentes, sino que también reforzaría la confianza de los ciudadanos en las instituciones. Además, permitiría a los ciudadanos conocer si una decisión que les afecta ha sido influida por una IA y acceder a una revisión humana si es necesario.
Fuente: https://valenciaplaza.com/valenciaplaza/opinion/quien-le-lleva-la-contraria-al-algoritmo