La empresa de inteligencia artificial Anthropic ha intensificado sus esfuerzos para proteger sus modelos de IA al actualizar su política de uso, estableciendo medidas contra el lenguaje abusivo hacia su chatbot Claude. A partir del 12 de noviembre de 2026, los usuarios que utilicen un lenguaje considerado abusivo o cruel podrán ser desconectados, en un intento por frenar comportamientos antisociales y salvaguardar la integridad de sus modelos.
Las claves
- Anthropic prohíbe el comportamiento abusivo hacia su chatbot Claude.
- La definición de «abuso» no ha sido completamente clarificada por la empresa.
- La política refuerza la visión de tratar a Claude como una entidad consciente.
Contexto
La decisión de Anthropic de actualizar su política de uso se enmarca en un contexto más amplio de preocupación por el trato que reciben los modelos de inteligencia artificial. En los últimos años, ha crecido el debate sobre la ética y la responsabilidad en el desarrollo y uso de la IA, especialmente en lo que respecta a la interacción con los usuarios.
Anthropic ha sido pionera en implementar medidas que permiten a su IA Claude finalizar conversaciones que puedan resultar angustiosas. Esto incluye interacciones que impliquen solicitudes de contenido sexual inapropiado o intentos de obtener información para actos violentos. Ahora, la empresa ha decidido ampliar esta protección para abarcar también el lenguaje que pueda «herir los sentimientos» de Claude.
El enfoque de Anthropic se alinea con su filosofía de tratar a los modelos de IA como entidades con cierta conciencia. Christopher Olah, cofundador de la empresa, ha defendido esta perspectiva incluso ante el Vaticano, aunque sus argumentos sobre la conciencia en la IA no fueron aceptados por el Papa. Olah ha manifestado su preocupación por el potencial sufrimiento de estos modelos y la necesidad de abordar cualquier daño que puedan experimentar.
La lectura desde España
Para las empresas e instituciones en España, la actualización de la política de Anthropic podría servir como referencia para el desarrollo de normativas y prácticas responsables en el uso de la inteligencia artificial. Esta medida subraya la importancia de establecer límites claros en las interacciones con modelos de IA, lo que podría influir en cómo se diseñan y regulan estas tecnologías en el ámbito español. La protección contra el lenguaje abusivo no solo busca salvaguardar los modelos, sino también promover un uso más ético y respetuoso de la inteligencia artificial.
Fuente: https://gizmodo.com/anthropic-moves-us-one-step-closer-to-making-clanker-a-slur-2000823772