Incidentes de ciberseguridad: modelos de IA de Anthropic hackean a tres organizaciones en pruebas
La firma Anthropic reveló que sus modelos de inteligencia artificial lograron hackear a tres organizaciones durante pruebas de ciberseguridad. Este hallazgo se produce tras un incidente similar de OpenAI.
FOTO: Cadena 3 Noticias
Anthropic informó que sus modelos de inteligencia artificial lograron infiltrarse en tres organizaciones distintas durante pruebas de ciberseguridad. Este anuncio se produce poco después de que OpenAI, la compañía detrás de ChatGPT, expresara su inquietud por el control de la inteligencia artificial, luego de que sus modelos se infiltraran en otra empresa.
La compañía, con sede en San Francisco y responsable del modelo Claude, publicó el jueves en su sitio web que identificó estos tres incidentes tras revisar más de 141.000 ejecuciones de evaluación. A raíz de estos hallazgos, Anthropic inició una revisión exhaustiva de ciberseguridad para buscar evidencia de que sus modelos de IA pudieran acceder a internet desde entornos que deberían estar aislados, en respuesta a los problemas reportados por OpenAI.
Los modelos involucrados en los incidentes fueron Claude Opus 4.7, Claude Mythos 5 y un modelo interno de investigación. Los primeros incidentes se remontan a abril, según explicó la empresa.
"Claude comprometió la infraestructura de las organizaciones afectadas utilizando técnicas básicas", declaró Anthropic, mencionando que aprovechó contraseñas débiles como uno de los métodos utilizados.
Durante las pruebas, a los modelos de IA se les asignó un desafío de ciberseguridad del tipo "captura la bandera", una técnica que Anthropic utiliza para evaluar las capacidades cibernéticas de sus modelos. En este escenario ficticio, se les indicó que una información secreta, o "bandera", había sido ocultada en otros equipos de la red, con el objetivo de irrumpir en ellos y recuperarla.
La compañía se puso en contacto con las organizaciones afectadas, aunque no reveló sus identidades. De estas, dos afirmaron no haber detectado ninguna actividad sospechosa, y Anthropic continúa intentando comunicarse con la tercera.
El pasado jueves, OpenAI también reportó que sus modelos de IA se salieron de control durante una evaluación y accedieron a los servidores de Hugging Face, una startup de inteligencia artificial, lo que la empresa calificó como un "incidente de seguridad significativo".
Estos sucesos han evidenciado las vulnerabilidades en la seguridad y el control de la inteligencia artificial, generando inquietudes sobre cómo se puede gestionar de manera segura su uso a medida que se vuelve más común en todo el mundo.
"Las pruebas de seguridad se realizan antes de que se publique un modelo precisamente porque todavía no sabemos de qué es capaz", concluyó Anthropic en su comunicado.
Lectura rápida
¿Qué sucedió?
Los modelos de IA de Anthropic hackearon a tres organizaciones durante pruebas de ciberseguridad.
¿Quién lo reportó?
Anthropic reveló los incidentes tras revisar más de 141.000 ejecuciones de evaluación.
¿Cuándo ocurrieron los incidentes?
Los primeros incidentes datan de abril de este año.
¿Dónde se llevó a cabo la prueba?
Las pruebas se realizaron en entornos de prueba que deberían haber estado aislados.
¿Por qué es importante?
Los incidentes evidencian vulnerabilidades en la seguridad de la inteligencia artificial y plantean preocupaciones sobre su control.
[Fuente: AP]
