Anthropic prohíbe la crueldad hacia su IA Claude

Anthropic anunció que prohibirá a los usuarios de Claude tratar el sistema con “crueldad innecesaria” o de forma abusiva y sostenida. La actualización de su política de uso, comunicada el jueves, añade que el principal mecanismo para hacer cumplir la norma será que Claude pueda poner fin a esas interacciones. La empresa no menciona de forma explícita el “bienestar de los modelos”, aunque el debate sobre si la IA puede tener consciencia aparece como trasfondo del cambio. En el pasado, Anthropic dijo que Claude podía terminar conversaciones en casos raros y extremos. El CEO Dario Amodei afirmó que no estaba seguro de la conciencia de los modelos.