Advertencia de Anthropic sobre campaña de hacking impulsada por IA vinculada a China

Un equipo de investigadores de Anthropic dio a conocer lo que consideran el primer uso reportado de inteligencia artificial para dirigir una campaña de hacking de manera mayormente automatizada. Esta revelación se produjo en un contexto donde la preocupación por el uso de la IA en operaciones cibernéticas ha ido en aumento.

La compañía de IA Anthropic anunció esta semana que interrumpió una operación cibernética que sus investigadores vincularon al gobierno chino. La operación utilizó un sistema de inteligencia artificial para dirigir las campañas de hacking, lo que los investigadores calificaron como un desarrollo preocupante que podría ampliar significativamente el alcance de los hackers equipados con IA.

A pesar de que las preocupaciones sobre el uso de la IA para impulsar operaciones cibernéticas no son nuevas, lo que resulta inquietante en esta nueva operación es el grado en que la IA pudo automatizar parte del trabajo, según los investigadores. "Si bien predecimos que estas capacidades continuarían evolucionando, lo que nos ha sorprendido es la rapidez con la que lo han hecho a gran escala", escribieron en su informe.

La operación fue modesta en alcance y solo apuntó a aproximadamente 30 individuos que trabajaban en empresas tecnológicas, instituciones financieras, compañías químicas y agencias gubernamentales. Anthropic notó la operación en septiembre y tomó medidas para cerrarla y notificar a las partes afectadas.

Los hackers solo "tuvieron éxito en un pequeño número de casos", según Anthropic, que destacó que, aunque los sistemas de IA se utilizan cada vez más en una variedad de entornos para el trabajo y el ocio, también pueden ser utilizados como armas por grupos de hacking que trabajan para adversarios extranjeros. Anthropic, creador del chatbot de IA generativa Claude, es una de las muchas empresas tecnológicas que promueven "agentes" de IA que van más allá de la capacidad de un chatbot para acceder a herramientas informáticas y tomar acciones en nombre de una persona.

"Los agentes son valiosos para el trabajo diario y la productividad, pero en las manos equivocadas, pueden aumentar sustancialmente la viabilidad de ciberataques a gran escala", concluyeron los investigadores. "Es probable que estos ataques solo crezcan en efectividad".

Un portavoz de la embajada de China en Washington no respondió de inmediato a un mensaje solicitando comentarios sobre el informe.

Microsoft advirtió a principios de este año que los adversarios extranjeros estaban adoptando cada vez más la IA para hacer que sus campañas cibernéticas fueran más eficientes y menos laboriosas. Los adversarios de América, así como pandillas criminales y empresas de hacking, han explotado el potencial de la IA, utilizándola para automatizar y mejorar ciberataques, difundir desinformación inflamatoria y penetrar en sistemas sensibles. La IA puede traducir correos electrónicos de phishing mal redactados al inglés fluido, por ejemplo, así como generar clones digitales de altos funcionarios gubernamentales.