Google interrumpe ataque de hackers que usaban IA para amenazar a una empresa

Google anunció que el lunes logró frustrar un intento de un grupo de hackers que planeaba utilizar inteligencia artificial para explotar una vulnerabilidad digital de otra empresa. Este hecho resalta las crecientes preocupaciones en el ámbito gubernamental y en el sector privado acerca de los riesgos que la IA representa para la ciberseguridad.

La compañía proporcionó información limitada sobre los atacantes y la empresa objetivo. Sin embargo, John Hultquist, analista jefe del área de inteligencia de amenazas de Google, subrayó que este incidente representa un momento crítico que los expertos en ciberseguridad han venido advirtiendo durante años: los piratas informáticos están utilizando IA para potenciar su capacidad de infiltrarse en sistemas informáticos a nivel global.

"Ya está aquí", afirmó Hultquist. "La era de las vulnerabilidades y la explotación impulsadas por IA ha comenzado".

Este suceso ocurre en un contexto donde las capacidades de la IA para detectar vulnerabilidades han avanzado notablemente, como es el caso del modelo Mythos, presentado hace un mes por Anthropic. La Casa Blanca, bajo la administración del presidente Donald Trump, ha comenzado a modificar su enfoque respecto a la evaluación de modelos de IA más potentes antes de su lanzamiento al público.

Luego de cumplir una promesa de campaña de derogar las salvaguardas implementadas por el presidente demócrata Joe Biden, el gobierno republicano está enviando señales mixtas sobre la necesidad de una mayor supervisión de la IA.

El gobierno de Trump anunció la semana pasada que firmó nuevos acuerdos con Google, Microsoft y xAI de Elon Musk para evaluar sus modelos de IA más avanzados antes de su lanzamiento, basándose en acuerdos previos con Anthropic y OpenAI, creadores de ChatGPT. Sin embargo, esta información fue posteriormente retirada del sitio web del Departamento de Comercio.

Google indicó que detectó a un grupo criminal planificando un ataque significativo, aprovechando una falla que les permitía eludir la autenticación de dos factores para acceder a una herramienta de administración de sistemas en línea, cuyo nombre no fue revelado. Este ataque se clasifica como un ciberataque de "día cero", lo que significa que los ingenieros de seguridad no tuvieron tiempo para desarrollar una solución antes de que la vulnerabilidad fuera explotada.

La empresa notificó a la compañía afectada y a las autoridades, logrando interrumpir la operación antes de que causara daños. Durante la investigación, se encontró evidencia de que los atacantes habían utilizado un modelo de lenguaje de IA para identificar la vulnerabilidad.

Hultquist explicó que, a diferencia de los espías gubernamentales, que operan de manera más silenciosa y lenta, los hackers criminales pueden aprovechar la rapidez de la IA para encontrar fallos de seguridad y convertirlos en armas. "Hay una carrera entre ustedes y ellos para detenerlos antes de que obtengan los datos que necesitan para extorsionarlos o lancen ransomware", advirtió.

Por otro lado, el Departamento de Comercio de Trump también ha estado colaborando con Anthropic para crear el Project Glasswing, una iniciativa que busca reunir a grandes empresas tecnológicas con el fin de proteger el software crítico del mundo frente a las potenciales consecuencias de la nueva tecnología.

El principal competidor de Anthropic, OpenAI, ha lanzado un modelo similar que busca ayudar a defensores responsables a detectar y corregir vulnerabilidades en su código. Sin embargo, Dean Ball, investigador principal de la Foundation for American Innovation, advierte que el tiempo para reforzar la seguridad de los sistemas informáticos podría ser largo y que, mientras tanto, los riesgos de ciberseguridad aumentarán significativamente.