Anthropic se niega a cumplir con exigencias del Pentágono sobre IA

WASHINGTON — El director general de Anthropic, Dario Amodei, declaró el jueves que la compañía de inteligencia artificial "no puede, en conciencia, acceder" a las exigencias impuestas por el Pentágono para un uso más amplio de su tecnología.

En un comunicado, Anthropic aclaró que no se está retirando de las negociaciones, aunque el nuevo lenguaje contractual recibido del Departamento de Defensa "prácticamente no avanzó nada en impedir el uso del chatbot Claude para la vigilancia masiva de estadounidenses o en armas totalmente autónomas".

El portavoz principal del Pentágono, Sean Parnell, reiteró que las fuerzas armadas buscan utilizar la tecnología de Anthropic de manera legal, y que no permitirán que la empresa imponga límites antes de que venza el plazo para aceptar sus exigencias.

Parnell publicó en redes sociales que el Pentágono "no tiene interés en usar la IA para realizar vigilancia masiva de estadounidenses (lo cual es ilegal), ni queremos usar la IA para desarrollar armas autónomas que operen sin participación humana".

Las políticas de Anthropic impiden que sus modelos, incluido el chatbot Claude, sean utilizados para esos fines. La empresa es la más reciente entre sus pares, como Google, OpenAI y xAI de Elon Musk, en no suministrar su tecnología para una nueva red militar interna de Estados Unidos.

Parnell mencionó que el Pentágono desea "usar el modelo de Anthropic para todos los fines lícitos", aunque no ofreció detalles sobre lo que eso implica. Explicó que abrir el uso de la tecnología evitaría que la empresa "ponga en riesgo operaciones militares cruciales".

Durante una reunión el martes entre el secretario de Defensa, Pete Hegseth, y Amodei, funcionarios militares advirtieron que podrían designar a Anthropic como un riesgo para la cadena de suministro, cancelar su contrato o invocar la Ley de Producción para la Defensa, que les otorgaría mayor autoridad para usar sus productos, incluso sin la aprobación de la empresa.

Parnell mencionó que Anthropic tiene "hasta las 5:01 p. m., hora del Este, del viernes para decidir". De no hacerlo, la asociación se daría por finalizada y se les consideraría un riesgo para la cadena de suministro.

Anthropic no respondió de inmediato a una solicitud de comentarios. Tras la reunión, la empresa comunicó que "continuó conversaciones de buena fe sobre nuestra política de uso para garantizar que Anthropic pueda seguir apoyando la misión de seguridad nacional del gobierno, en consonancia con lo que nuestros modelos pueden hacer de manera confiable y responsable".

El senador republicano Thom Tillis, que no buscará la reelección, criticó al Pentágono por manejar el asunto de manera poco profesional, mientras que Anthropic "está tratando de hacer lo más que puede para ayudarnos a protegernos de nosotros mismos".

El senador Mark Warner, demócrata de mayor rango en la Comisión de Inteligencia del Senado, expresó que estaba "profundamente perturbado" por los informes de que el Pentágono está "trabajando para intimidar a una empresa líder de Estados Unidos". Esto resalta la necesidad de que el Congreso implemente mecanismos sólidos de gobernanza para la IA en contextos de seguridad nacional.

Temas