Elizabeth Warren cuestiona al Pentágono sobre acceso de xAI a redes clasificadas

Elizabeth Warren, senadora por Massachusetts, envió una carta al secretario de Defensa Pete Hegseth el pasado lunes, manifestando su inquietud por la decisión del Pentágono de permitir que la empresa de Elon Musk, xAI, acceda a redes clasificadas.

En la carta, Warren afirmó que "Grok", el controvertido modelo de inteligencia artificial desarrollado por xAI, ha generado salidas perturbadoras para los usuarios, incluyendo consejos sobre cómo cometer asesinatos y ataques terroristas, así como la creación de contenido antisemita y material de abuso sexual infantil. La senadora argumentó que la aparente falta de adecuadas medidas de seguridad en Grok podría representar "serios riesgos para la seguridad del personal militar estadounidense y para la ciberseguridad de los sistemas clasificados".

Warren exigió a Hegseth información sobre cómo el Departamento de Defensa planea mitigar estos posibles riesgos para la seguridad nacional. No es la primera vez que se expresa alarma por el acceso de Grok a sistemas clasificados. El mes pasado, una coalición de organizaciones sin fines de lucro instó al gobierno a suspender de inmediato el despliegue de Grok en agencias federales, incluyendo el DoD, después de que usuarios de X incitaran repetidamente al chatbot a transformar fotos reales de mujeres, y en algunos casos niños, en imágenes sexualizadas sin su consentimiento.

El mismo día en que Warren envió su carta, se presentó una demanda colectiva contra xAI alegando que Grok había generado contenido sexual a partir de imágenes reales de los demandantes cuando eran menores.

La misiva se produce tras la decisión del Pentágono de clasificar a Anthropic como un riesgo para la cadena de suministro, después de que la empresa de IA se negara a proporcionar al ejército acceso irrestricto a sus sistemas de IA. Anthropic había sido, hasta hace poco, la única compañía de IA con sistemas listos para clasificación. En medio de ese conflicto, el DoD firmó un acuerdo con OpenAI y xAI para utilizar los sistemas de IA de ambas compañías en redes clasificadas, según Axios.

Un alto funcionario del Pentágono confirmó que Grok fue incorporado para ser utilizado en un entorno clasificado, aunque aún no se está usando.

"No está claro qué garantías o documentación ha proporcionado xAI al Departamento de Defensa sobre las salvaguardias de seguridad de Grok, las prácticas de manejo de datos o los controles de seguridad, y si el DoD ha evaluado esas garantías antes de permitir supuestamente que Grok acceda a sistemas clasificados", escribió Warren.

La senadora solicitó una copia del acuerdo que supuestamente se alcanzó entre el DoD y xAI sobre el uso de Grok en sistemas clasificados y una explicación de cómo el departamento planea garantizar que Grok no esté expuesto a ciberataques y no filtrará información sensible o clasificada militarmente.

La semana pasada, un ex-empleado del Departamento de Eficiencia del Gobierno de Musk supuestamente robó datos personales de estadounidenses de la Administración del Seguro Social y los almacenó en una unidad USB, lo que representa la última acusación de filtraciones de datos relacionadas con DOGE.

El portavoz principal del Pentágono, Sean Parnell, declaró que el departamento "espera implementar Grok en su plataforma oficial de IA GenAI.mil en un futuro cercano".

GenAI.mil es la plataforma empresarial segura del ejército para IA generativa que brinda a los trabajadores del DoD acceso a modelos de lenguaje grande (LLM) y otras herramientas de IA dentro de entornos de nube aprobados por el gobierno. Está diseñado para ayudar principalmente con tareas no clasificadas como investigación, redacción de documentos y análisis de datos.