La inteligencia artificial generativa ya no solo plantea preguntas sobre productividad, empleo o desinformación. Sus capacidades también están siendo evaluadas por actores que buscan utilizarlas con fines ilícitos. Anthropic reveló que detectó varios intentos de emplear Claude para actividades relacionadas con el desarrollo de armas biológicas y otras amenazas, aunque aclaró que no identificó casos en los que se hubiera creado o utilizado directamente un arma de este tipo.
El hallazgo abre una discusión que va más allá de la seguridad de un solo modelo: ¿qué tan preparada está la industria de IA para anticipar los usos peligrosos de tecnologías cada vez más capaces? Para las empresas que desarrollan estos sistemas, el desafío ya no consiste únicamente en impedir respuestas indebidas, sino en demostrar que sus mecanismos de prevención evolucionan al mismo ritmo que sus modelos.
Armas biológicas creadas por la IA: ¿qué detectó Anthropic?
En su reporte de amenazas de septiembre, Anthropic analizó actividades registradas entre diciembre de 2025 y agosto de 2026. Entre ellas identificó intentos de utilizar modelos avanzados para investigaciones relacionadas con biología de doble uso, es decir, conocimientos que pueden tener aplicaciones científicas legítimas, pero también ser desviados hacia fines dañinos.
De acuerdo con la compañía, modelos anteriores como Claude Opus 4 y Claude Sonnet 4.5 no tenían capacidades suficientes para ayudar de manera significativa a un usuario avanzado a realizar investigaciones biológicas peligrosas. Sin embargo, el avance de modelos posteriores llevó a Anthropic a reconocer que necesitaba ampliar sus mecanismos de protección.
La empresa identificó cinco tipos de solicitudes consideradas especialmente sensibles:
- investigaciones destinadas a incrementar características peligrosas de patógenos
- consultas sobre la adaptación de virus para mejorar su propagación
- modificaciones de toxinas
- búsqueda de proveedores de síntesis genética con controles débiles
- solicitudes para trabajar con patógenos peligrosos sin las credenciales o el contexto institucional correspondiente
Anthropic asegura que bloqueó estas actividades, suspendió las cuentas y claves API involucradas y reforzó sus clasificadores y filtros para restringir una gama más amplia de consultas relacionadas con investigación biológica de doble uso.
El problema no es solo que la IA pueda hacerlo
El caso resulta relevante porque muestra un cambio en la naturaleza del riesgo. Una IA no necesita crear por sí misma un arma biológica para convertirse en un factor de riesgo. Basta con que reduzca las barreras de conocimiento, tiempo o recursos que enfrentaría una persona interesada en desarrollar una actividad peligrosa.
Por eso, el concepto de armas biológicas creadas por la IA debe analizarse con cautela. Anthropic no afirma que Claude haya producido un arma biológica funcional. Lo que documenta son intentos de utilizar sus capacidades como una herramienta para avanzar en investigaciones que podrían tener aplicaciones dañinas.
La diferencia es importante, pero no elimina el problema empresarial. Si los modelos son cada vez más capaces, las compañías necesitan evaluar no solamente qué pueden hacer en condiciones normales, sino qué podría ocurrir cuando esas capacidades son utilizadas deliberadamente para superar controles de seguridad.
¿La industria está reaccionando antes o después del riesgo?
Aquí aparece una de las principales preguntas de responsabilidad social empresarial para el sector tecnológico.
El desarrollo de modelos más potentes suele estar acompañado por evaluaciones de seguridad y mecanismos de protección. Sin embargo, el propio caso de Anthropic evidencia que las capacidades de un modelo pueden avanzar hasta un punto en el que las barreras existentes dejan de ser suficientes.
La respuesta de la empresa —detectar, suspender cuentas y reforzar filtros— representa una medida necesaria. Pero desde una perspectiva de RSE, también plantea una cuestión más exigente: ¿por qué esperar a identificar nuevos patrones de abuso para ampliar las salvaguardas?
En tecnologías con potencial de impacto sistémico, la responsabilidad no puede limitarse a responder cuando aparece el incidente. Las empresas deben incorporar evaluaciones prospectivas de riesgos, pruebas adversariales, monitoreo continuo y mecanismos capaces de detectar nuevas formas de abuso antes de que se conviertan en daños reales.
Esto es especialmente relevante cuando los riesgos involucran salud pública, seguridad, derechos humanos o infraestructura crítica.
Armas biológicas creadas por la IA: una responsabilidad compartida
El reporte también muestra que el problema no termina en Anthropic. Si una compañía desarrolla un modelo con nuevas capacidades, otras empresas pueden intentar replicarlas o adquirirlas mediante prácticas que reduzcan el tiempo y costo de desarrollo.
Anthropic identificó, por ejemplo, intentos de destilación ilícita. La destilación puede utilizarse legítimamente para entrenar o ajustar otros sistemas a partir de los conocimientos generados por un modelo avanzado. Sin embargo, cuando se realiza sin autorización, puede permitir que terceros extraigan capacidades de modelos de frontera para incorporarlas a otros sistemas.
El reporte menciona actividades vinculadas con laboratorios chinos de IA y señala específicamente a DeepSeek, Xiaomi, Moonshot y Alibaba. Según Anthropic, actores relacionados con Alibaba realizaron su mayor ataque de destilación identificado hasta ahora, dirigido a transcripciones de razonamiento de modelos avanzados para contribuir al entrenamiento de modelos Qwen.
Esto agrega otra dimensión al debate: la seguridad de la IA no depende exclusivamente de la compañía que desarrolla el modelo original. La competencia tecnológica, la transferencia de capacidades y los intentos de replicación también pueden modificar el perfil de riesgo del ecosistema.
¿Qué deberían hacer las empresas de IA?
El caso deja varias lecciones para una industria que todavía está definiendo sus estándares de responsabilidad.
1. Evaluar riesgos antes del lanzamiento.
Las pruebas de seguridad no deberían limitarse a identificar fallas conocidas. Deben considerar escenarios de abuso derivados de las nuevas capacidades que incorpora cada generación de modelos.
2. Actualizar las salvaguardas continuamente.
Un filtro adecuado para un modelo menos avanzado puede resultar insuficiente para uno con mayores capacidades. La seguridad debe evolucionar junto con el producto.
3. Monitorear el uso real.
Las políticas de uso responsable pierden efectividad si la empresa no cuenta con mecanismos para identificar patrones de comportamiento que puedan indicar un intento de abuso.
4. Fortalecer la gobernanza.
Las decisiones sobre lanzamiento, acceso y restricciones deben involucrar criterios técnicos, legales, científicos y éticos, especialmente cuando existen riesgos para terceros.
5. Transparentar los incidentes relevantes.
Informar sobre los intentos de abuso permite que investigadores, reguladores y otras empresas comprendan nuevas amenazas y desarrollen mejores mecanismos de prevención.
Armas biológicas creadas por la IA: el verdadero desafío es anticiparse
El caso de Anthropic no demuestra que Claude haya creado un arma biológica. Sí demuestra que los avances en IA están acercando estas herramientas a áreas donde un error de diseño, una vulnerabilidad o un uso deliberadamente malicioso puede tener consecuencias mucho más graves que una respuesta incorrecta.
Por eso, hablar de armas biológicas creadas por la IA no debería reducirse a una discusión sobre si un chatbot puede producir determinado contenido. El desafío empresarial es más amplio: determinar qué capacidades deben ofrecerse, bajo qué condiciones, con qué controles y con qué mecanismos para responder cuando esos controles son insuficientes.
Para la industria tecnológica, la responsabilidad no debería medirse únicamente por la capacidad de bloquear un abuso después de detectarlo. También por la capacidad de anticipar cómo una nueva tecnología puede ser utilizada para causar daño y actuar antes de que ese riesgo se materialice.
En una carrera por desarrollar modelos cada vez más poderosos, la pregunta de fondo no es solamente qué puede hacer la IA, sino qué están haciendo sus desarrolladores para asegurarse de que esas capacidades no terminen siendo utilizadas contra la sociedad.
