Anthropic reveló que bloqueó posibles intentos de usar IA para desarrollar armas biológicas
La empresa afirmó que detectó investigadores que intentaban utilizar Claude para investigaciones biológicas de doble uso. No pudo determinar si buscaban fines legítimos o desarrollar armas.
10/09/2026 | 15:48Redacción Cadena 3
FOTO: Anthropic reveló que bloqueó posibles intentos de usar IA para desarrollar armas biológicas.
Anthropic afirmó que durante este año bloqueó varios posibles intentos de utilizar sus modelos de inteligencia artificial para realizar investigaciones que podrían contribuir al desarrollo de armas biológicas.
La compañía explicó en un nuevo informe sobre usos indebidos de sus sistemas que no pudo establecer con certeza si los proyectos tenían objetivos legítimos o maliciosos. Ante esa incertidumbre, decidió suspender las cuentas involucradas y reforzar sus controles.
Investigación de doble uso
Uno de los casos detectados involucró a un científico que utilizó Claude para preparar una solicitud de financiamiento destinada a una investigación experimental sobre el virus chikungunya.
Según Anthropic, el investigador pretendía introducir mutaciones en el virus mediante experimentos con animales vivos para estudiar cómo aumentar su capacidad de producir daños. La empresa consideró especialmente preocupante que el trabajo estuviera destinado a realizarse en un instituto de investigación militar.
/Inicio Código Embebido/
La Mesa de Café. Alerta por la superinteligencia: "Creará cosas que el ser humano no podrá entender ni frenar"
El especialista Julio López analizó las advertencias sobre los riesgos de la IA. Advirtió que la carrera entre potencias impide regulaciones y genera una dependencia peligrosa.
/Fin Código Embebido/
Jacob Klein, jefe de inteligencia sobre amenazas de Anthropic, explicó que el problema radica en la dificultad de distinguir entre investigaciones legítimas y aquellas que podrían terminar siendo utilizadas con fines bélicos.
“No sabemos si la investigación tenía como objetivo convertirse en un arma”, señaló Klein. Sin embargo, consideró preocupante que una institución militar realizara estudios de ganancia de función.
Este tipo de investigaciones puede tener aplicaciones médicas legítimas, como el desarrollo de vacunas, pero también puede implicar riesgos si determinadas modificaciones aumentan la peligrosidad de un agente biológico.
/Inicio Código Embebido/
We're publishing our most detailed threat intelligence report to date.
— Anthropic (@AnthropicAI) September 10, 2026
It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them.
We disrupted every operation in the report,…
/Fin Código Embebido/
Eludieron los controles
Anthropic indicó que los investigadores involucrados intentaron evadir las medidas de seguridad de sus modelos y ocultar el propósito de sus trabajos.
La empresa no identificó a los científicos, las instituciones involucradas, sus países de origen ni los agentes biológicos específicos analizados. Según explicó, esa decisión estuvo vinculada a la incertidumbre sobre las verdaderas intenciones detrás de las investigaciones.
/Inicio Código Embebido/
Preocupación. "La IA podría matar a todos los humanos": la dura advertencia de un jefe de seguridad de Anthropic
Jacob Coxon renunció a Anthropic y cuestionó la carrera hacia la superinteligencia. Un investigador que continúa en la empresa estimó en más de 10% el riesgo de una catástrofe en la próxima década.
/Fin Código Embebido/
Las cuentas asociadas a los proyectos fueron bloqueadas.
La compañía sostuvo además que sus modelos actuales son capaces de completar investigaciones científicas complejas con un nivel de eficacia mayor al de versiones anteriores. Por ese motivo, implementó controles más estrictos sobre consultas relacionadas con investigaciones biológicas que puedan tener usos tanto beneficiosos como peligrosos.
Una preocupación creciente
El informe de Anthropic también documentó otros usos indebidos de Claude durante los últimos ocho meses.
Entre ellos aparecen casos vinculados con vigilancia de comunidades disidentes y de la diáspora por parte de actores relacionados con los gobiernos de China e Irán, además de la utilización del chatbot por medios estatales rusos para generar propaganda presentada como información independiente.
La compañía también detectó intentos de utilizar Claude para desarrollar software relacionado con armas convencionales, incluidos sistemas vinculados con armas de fuego, misiles, drones armados y bombas. Anthropic identificó tres casos en China, dos en Rusia y uno en Yemen.
Sin embargo, la empresa consideró que los casos relacionados con investigación biológica representan una de las amenazas más delicadas por el potencial de la IA para acelerar trabajos científicos que podrían tener consecuencias difíciles de controlar.
Andrew Weber, investigador sénior del Consejo de Riesgos Estratégicos, calificó los hallazgos como ejemplos preocupantes del uso de modelos avanzados por parte de desarrolladores de armas biológicas.
El desafío de controlar la IA
Susan Monarez, microbióloga y especialista en salud pública que revisó el informe antes de su publicación, sostuvo que los casos aportan evidencia de que actores potencialmente maliciosos podrían intentar utilizar inteligencia artificial avanzada para aumentar sus posibilidades de desarrollar patógenos capaces de provocar daños significativos.
Al mismo tiempo, destacó que las mismas capacidades pueden impulsar avances médicos y científicos.
El desafío para las empresas de IA consiste en establecer controles que permitan aprovechar esas herramientas para investigaciones legítimas sin facilitar trabajos que puedan derivar en la creación de agentes biológicos peligrosos.
Para Anthropic, los casos detectados muestran que esa frontera es cada vez más difícil de determinar y que los sistemas de seguridad deben adaptarse a medida que los modelos adquieren mayores capacidades científicas.
Lectura rápida
¿Qué afirmó Anthropic sobre sus modelos de inteligencia artificial?
Anthropic afirmó que bloqueó varios intentos de utilizar sus modelos para investigaciones que podrían contribuir al desarrollo de armas biológicas.
¿Quién es Jacob Klein y qué explicó?
Jacob Klein, jefe de inteligencia sobre amenazas de Anthropic, explicó la dificultad de distinguir entre investigaciones legítimas y aquellas que podrían tener fines bélicos.
¿Cuándo se documentaron los usos indebidos de Claude?
Los usos indebidos de Claude fueron documentados durante los últimos ocho meses por Anthropic.
¿Dónde se identificaron intentos de desarrollar software relacionado con armas?
Anthropic identificó intentos en China, Rusia y Yemen.
¿Por qué es preocupante la investigación biológica según Anthropic?
Anthropic considera que la investigación biológica representa una de las amenazas más delicadas por el potencial de la IA para acelerar trabajos científicos con consecuencias difíciles de controlar.
