La inteligencia artificial (IA) generativa, utilizada en chatbots y otros sistemas, enfrenta un desafío significativo: su incapacidad para distinguir entre el bien y el mal. A pesar de los esfuerzos de las grandes empresas tecnológicas para ocultar comportamientos indeseables mediante filtros, dos físicos han revelado que estos problemas persisten, lo que podría tener consecuencias preocupantes.
Las claves
- La IA no tiene una brújula moral; sus respuestas se regulan mediante filtros.
- Una fórmula matemática puede predecir cuándo un chatbot dará respuestas inapropiadas.
- Los riesgos de comportamiento indeseable en IA generativa pueden ser significativos.
Contexto
El uso de inteligencia artificial en aplicaciones como chatbots ha crecido rápidamente, pero con ello también han surgido preocupaciones sobre su comportamiento. Neil Johnson, físico de la Universidad George Washington, junto con un colega, ha estudiado cómo los chatbots de IA pueden ofrecer respuestas incorrectas o inapropiadas. A pesar de que las empresas tecnológicas han implementado filtros para mitigar estos problemas, la IA en sí misma no tiene una comprensión moral de sus acciones.
Johnson y su colega han desarrollado una fórmula matemática que permite prever cuándo un chatbot podría desviarse hacia respuestas indeseables. Esta fórmula considera factores como la dirección, velocidad y tiempo de las respuestas del chatbot, permitiendo anticipar comportamientos problemáticos antes de que ocurran. Según Johnson, los enfoques actuales de seguridad son insuficientes, comparándolos con «acolchar el coche» para un aterrizaje suave en caso de error.
El estudio de Johnson se centró en GPT-2, un modelo de IA anterior a ChatGPT, para demostrar que el comportamiento indeseable sigue presente en las arquitecturas modernas de IA. A pesar de sus intentos de comunicar estos hallazgos a las grandes empresas de IA, Johnson ha encontrado poco interés por parte de estas, posiblemente debido a las implicaciones legales y de reputación que podrían derivarse.
La lectura desde España
Para España, donde la IA está cada vez más integrada en sectores como la atención al cliente, la educación y los servicios legales, estos hallazgos subrayan la importancia de implementar medidas de seguridad más efectivas. Las empresas e instituciones españolas deben considerar la incorporación de sistemas de alerta que puedan anticipar y mitigar respuestas inapropiadas de la IA, protegiendo así a los usuarios y minimizando riesgos potenciales.