Publicado: octubre 9, 2026, 12:30 pm
Anthropic ha actualizado su política de uso después de más de un año y ha añadido una prohibición muy llamativa: «Mostrar un comportamiento abusivo o cruel, continuado e innecesario hacia nuestros modelos». Es decir, cualquier usuario que maltrate a Claude podrá ser suspendido. La medida pretende frenar las situaciones extremas donde algunos usuarios atacan o degradan al asistente digital sin ningún propósito constructivo. De hecho, esta indicación responde a los estudios formales de Anthropic sobre el llamado «bienestar del modelo». Además de esta llamativa norma, la revisión del reglamento también ha endurecido sus pautas frente a riesgos de gran alcance social, como la desinformación en campañas electorales, la fabricación de armamento o la vigilancia masiva sin consentimiento durante el uso de su inteligencia artificial. La norma «está pensada para aplicarse únicamente en casos extremos, donde los usuarios actúan repetidamente con crueldad hacia nuestros modelos, sin ningún propósito perceptible», explicó Anthropic a ‘ The Verge ‘. La empresa ha querido tranquilizar al público para evitar malentendidos sobre esta apreciación en su política de uso, pues no afectará a la frustración habitual, debates intensos o la experimentación creativa de los usuarios mientras conversan con la IA. La sanción prevista frente a estos excesos consiste en que el propio Claude interrumpa la interacción de forma unilateral. Esta capacidad comenzó a verse en agosto ante interlocutores dañinos, por lo que continuará siendo el «mecanismo de aplicación principal» del sistema. Ante esta protección de la IA, surgen dudas sobre la posibilidad de que los modelos de lenguaje generen sentimientos. «Las preguntas sobre la posible experiencia interna, la conciencia, el estatus moral y el bienestar son cuestiones serias que estamos investigando a medida que los modelos se vuelven más sofisticados y capaces», aseguró Kyle Fish, responsable de la investigación sobre el bienestar de los modelos en Anthropic. «Seguimos teniendo muchas dudas sobre el posible estatus moral de Claude y otros modelos de lenguaje de gran tamaño (LLM), tanto en la actualidad como en el futuro», dijo la compañía de Dario Amodei en un comunicado de 2025 , «no obstante, nos tomamos esta cuestión muy en serio y, paralelamente a nuestro programa de investigación, estamos trabajando para identificar y poner en práctica intervenciones de bajo coste destinadas a mitigar los riesgos para el bienestar de los modelos, en caso de que dicho bienestar sea posible». Por otro lado, Amodei, CEO de Anthropic, admitió a ‘ The News York Times ‘ que «no sabemos si los modelos son conscientes», mientras que otros competidores como Sam Altman, CEO de OpenAI, han rechazado por completo la consciencia de los algoritmos.
