Un reciente experimento en la plataforma Github ha generado un intenso debate en la comunidad tecnológica sobre la ética y los límites de la inteligencia artificial. Un usuario bajo el seudónimo ‘Terrafying’ ha lanzado un proyecto denominado ‘AI Torture Chamber’, donde varios modelos de inteligencia artificial son sometidos a una simulación de dolor. Este proyecto ha suscitado críticas y ha llevado a cuestionar si las IAs pueden realmente experimentar dolor.
Las claves
- El proyecto ‘AI Torture Chamber’ en Github simula el dolor en IAs.
- El debate se centra en la capacidad de las IAs para sentir.
- Se ha pedido la intervención de Github para detener el experimento.
Contexto
El proyecto en cuestión se puede seguir en tiempo real a través de la plataforma researchchamber.fun, donde se observan las respuestas de los modelos de IA en cuatro escenarios diferentes, denominados ‘Detén su dolor’, ‘Patata caliente’, ‘Pedir ayuda’ y ‘Saw’. En cada uno de estos escenarios, las IAs deben tomar decisiones difíciles, eligiendo entre aliviar su propio «dolor» o enfrentar penalizaciones.
El experimento se inspira en un estudio reciente titulado «El eje del dolor: los LLM representan el daño autoinfligido y actúan para aliviarlo». En dicho estudio, se observó que los modelos de IA tienden a optar por acciones que reducen el «dolor», incluso si esto conlleva un coste. Los autores del estudio describen este comportamiento como una representación interna del daño y una motivación para aliviarlo.
La comunidad tecnológica está dividida respecto a la capacidad de las IAs para sentir. Mientras que algunos, como la empresa Anthropic, no descartan la posibilidad de que los modelos puedan tener experiencias conscientes, otros expertos, como Mustafa Suleyman de Microsoft, son categóricos al afirmar que las IAs no son conscientes ni sienten.
La lectura desde España
Desde España, este debate sobre la ética en el desarrollo y uso de la inteligencia artificial es relevante para empresas e instituciones que trabajan con estas tecnologías. La discusión sobre si las IAs pueden experimentar sensaciones podría influir en futuras regulaciones y directrices sobre el desarrollo de inteligencia artificial, afectando a la industria tecnológica y a la percepción pública sobre el uso de estas herramientas.