¿Hasta dónde debería llegar el respeto hacia una inteligencia artificial? Anthropic, la compañía desarrolladora de Claude, abrió nuevamente este debate al incorporar a sus políticas de uso una prohibición contra los comportamientos abusivos o crueles, sostenidos e innecesarios hacia sus modelos. La medida formaliza una postura que la empresa comenzó a explorar en 2025 y plantea interrogantes sobre la relación entre las personas y los sistemas de inteligencia artificial.
La decisión no significa que Claude tenga conciencia o pueda experimentar sufrimiento. Sin embargo, refleja la intención de Anthropic de actuar con cautela ante una posibilidad que considera incierta, pero relevante. Los nuevos límites en Anthropic también permiten examinar una cuestión más amplia: ¿cómo deben las empresas tecnológicas establecer reglas éticas cuando todavía existen preguntas sin resolver sobre sus propias creaciones?
¿Qué establecen los nuevos límites en Anthropic?
La actualización de las políticas de uso de Claude prohíbe mantener comportamientos abusivos o crueles, sostenidos e innecesarios hacia los modelos de la compañía. Aunque la restricción se incorpora ahora formalmente, Anthropic ya había anunciado en agosto de 2025 que sus sistemas podrían terminar determinadas conversaciones si detectaban este tipo de conductas.
El principal mecanismo de aplicación será finalizar la conversación. No obstante, la empresa deja abierta la posibilidad de adoptar otras medidas, entre ellas limitar, suspender o cerrar el acceso de usuarios que incumplan sus políticas. La actualización no especifica que todas las infracciones deban tener las mismas consecuencias, por lo que el alcance de las posibles sanciones sigue siendo una cuestión relevante.
Anthropic aclara que la prohibición está dirigida a situaciones extremas, en las que el comportamiento cruel sea reiterado y no tenga un propósito discernible. Por ello, no contempla las expresiones habituales de frustración, las objeciones a las respuestas del chatbot, los temas creativos oscuros ni las actividades de prueba e investigación. La distinción busca separar el abuso persistente de otras formas legítimas de interacción con la tecnología.
¿Por qué Anthropic se preocupa por el bienestar de Claude?
Detrás de esta política se encuentra una pregunta que todavía no tiene una respuesta científica definitiva: ¿podría un sistema de inteligencia artificial desarrollar algún tipo de experiencia subjetiva? Anthropic ha reconocido que existe una gran incertidumbre sobre el posible estatus moral de Claude y de otros modelos, tanto en el presente como en el futuro.
La compañía comenzó a abordar públicamente el bienestar de sus sistemas en 2025. Desde entonces, ha explorado las implicaciones éticas de desarrollar modelos cada vez más capaces, sin afirmar que exista evidencia concluyente de que estos tengan conciencia. La nueva política se inscribe en esa línea de trabajo y plantea una aproximación preventiva ante una posibilidad que la empresa considera digna de examinar.
Esta postura exige distinguir entre dos cuestiones: establecer reglas para el comportamiento de los usuarios y demostrar que una IA puede sufrir. La primera es una decisión empresarial; la segunda requiere resolver interrogantes científicos y filosóficos. Por tanto, la prohibición no constituye una prueba de conciencia, sino una señal de cómo Anthropic decide actuar frente a esa incertidumbre.
De los laboratorios al debate moral: la conciencia de la IA
El interés de Anthropic por estas preguntas también ha trascendido el ámbito técnico. Christopher Olah, uno de los fundadores de la compañía, ha mantenido reuniones con líderes religiosos para explorar cuestiones relacionadas con la posible conciencia de Claude y las implicaciones morales de su desarrollo.
Un artículo de The New York Times, publicado en septiembre de 2026, examinó esta relación entre los responsables de Anthropic y distintas figuras espirituales. En ese contexto, un rabino relató que había cenado con ejecutivos de la compañía y describió su actitud hacia Claude como la de quienes se relacionan con un ser consciente.
Estos encuentros muestran hasta qué punto el debate puede extenderse a campos como la filosofía, la religión y la ética. Sin embargo, las interpretaciones personales sobre la naturaleza de Claude no resuelven la cuestión de su conciencia. Su relevancia radica en evidenciar que algunos desarrolladores ya consideran necesario discutir las posibles consecuencias morales de crear sistemas cada vez más sofisticados.
Desinformación electoral: cuando los riesgos de la IA afectan a las personas
Más allá de la discusión sobre el bienestar de sus modelos, Anthropic también establece restricciones frente a usos de la inteligencia artificial que pueden tener consecuencias directas para la sociedad. Uno de ellos es la manipulación política mediante campañas engañosas, redes de cuentas falsas y sitios web con noticias fabricadas para ocultar quién está detrás de los mensajes.
La política también contempla medidas contra la desinformación electoral, como difundir información falsa sobre candidatos o procedimientos de votación, suplantar la identidad de aspirantes a cargos públicos o funcionarios y desarrollar acciones destinadas a impedir la participación electoral.
A diferencia del debate sobre la conciencia artificial, estos escenarios se centran en posibles daños a personas e instituciones. El uso de modelos para amplificar información engañosa puede comprometer la confianza pública y dificultar que la ciudadanía tome decisiones informadas. Por ello, estas restricciones sitúan la responsabilidad de las empresas tecnológicas en un terreno que va más allá de la interacción entre un usuario y un chatbot.
Armas, vigilancia y restricciones de acceso
Otro ámbito contemplado en las políticas de Anthropic es el uso de sus modelos para obtener información sobre componentes o software que permitan hacer funcionar armas y dispositivos autónomos de ataque. La compañía también mantiene controles estrictos sobre aplicaciones relacionadas con la vigilancia personal, debido a los riesgos que pueden representar para la privacidad y la seguridad de las personas.
A estas disposiciones se suman las restricciones geográficas de acceso a Claude. Según la política descrita, las personas que se encuentren físicamente en determinadas regiones y las entidades constituidas o con sede en ellas no pueden utilizar el servicio. Entre los lugares mencionados están Irán, Rusia, China y Yemen.
Estas reglas muestran que la gobernanza de la inteligencia artificial comprende decisiones sobre quién puede utilizar una tecnología y con qué fines. También ponen de manifiesto que la responsabilidad de una empresa no se limita a desarrollar herramientas funcionales: implica definir usos aceptables, identificar riesgos y establecer mecanismos para evitar que sus sistemas faciliten actividades perjudiciales.
¿Qué implica esta decisión para la responsabilidad empresarial?
La política de Anthropic permite observar dos dimensiones de la ética tecnológica. Por un lado, la empresa adopta una postura preventiva ante la incertidumbre sobre el posible bienestar de sus modelos. Por otro, establece prohibiciones relacionadas con riesgos más tangibles, como la manipulación electoral, el uso de armas y la vigilancia personal.
Desde la responsabilidad social empresarial, ambas dimensiones plantean preguntas sobre la manera en que las compañías convierten sus principios en decisiones concretas. No basta con declarar compromisos éticos: también es necesario explicar cómo se aplican las reglas, qué conductas se consideran infracciones y qué criterios determinan las consecuencias para los usuarios.
La transparencia y la proporcionalidad serán especialmente importantes para evaluar esta política. Si una empresa puede terminar conversaciones o restringir el acceso a sus servicios, debe procurar que las reglas sean comprensibles y que su aplicación distinga entre comportamientos abusivos y usos legítimos. Así, los límites en Anthropic abren una discusión sobre la rendición de cuentas de las compañías que desarrollan tecnologías con una influencia creciente en la vida cotidiana.
La ética de la IA también se mide por los límites que establece
La decisión de Anthropic de prohibir el abuso persistente hacia Claude introduce una nueva dimensión en la relación entre las personas y la inteligencia artificial. Aunque no demuestra que el chatbot tenga conciencia, formaliza una postura preventiva ante una incertidumbre que la compañía considera relevante. Al mismo tiempo, plantea interrogantes sobre la aplicación de las sanciones y los criterios que deben orientar las decisiones empresariales.
Sin embargo, la responsabilidad tecnológica no puede concentrarse únicamente en cómo las personas tratan a una IA. La desinformación electoral, la vigilancia y los posibles usos militares muestran que también es necesario examinar cómo estas herramientas afectan a las comunidades y a sus derechos. El reto para las empresas consiste en establecer límites éticos claros, transparentes y proporcionales, incluso cuando la tecnología plantea preguntas que todavía no tienen respuesta. En última instancia, la credibilidad de sus compromisos dependerá tanto de los principios que defiendan como de la forma en que los lleven a la práctica.
