OpenAI y el Pentágono: nuevo acuerdo con salvaguardias técnicas

Sam Altman, CEO de OpenAI, anunció el viernes un acuerdo que permite al Departamento de Defensa de los Estados Unidos (DoD) utilizar sus modelos de inteligencia artificial en la red clasificada del departamento. Este anuncio se produjo tras una tensa confrontación entre el DoD y Anthropic, un competidor de OpenAI.

El Pentágono había instado a varias empresas de inteligencia artificial, incluida Anthropic, a permitir el uso de sus modelos para "todos los fines legales", mientras que Anthropic buscaba establecer límites en el uso de su tecnología para la vigilancia masiva y armamento autónomo.

En una declaración extensa, el CEO de Anthropic, Dario Amodei, expresó que la empresa nunca había objetado operaciones militares específicas ni intentó limitar el uso de su tecnología de manera arbitraria, pero argumentó que en ciertos casos, la inteligencia artificial podría socavar, en lugar de defender, los valores democráticos.

Más de 60 empleados de OpenAI y 300 de Google firmaron una carta abierta pidiendo a sus empleadores que apoyaran la posición de Anthropic. Después de que Anthropic y el Pentágono no lograron llegar a un acuerdo, el expresidente Donald Trump criticó a Anthropic en una publicación en redes sociales, instando a las agencias federales a dejar de usar los productos de la empresa tras un período de seis meses para su eliminación.

En un post separado, el Secretario de Defensa, Pete Hegseth, acusó a Anthropic de intentar "apoderarse del poder de veto sobre las decisiones operativas del ejército de Estados Unidos" y designó a la empresa como un riesgo para la cadena de suministro.

El viernes, Anthropic declaró que aún no había recibido comunicación directa del DoD o de la Casa Blanca sobre el estado de sus negociaciones, pero insistió en que impugnaría cualquier designación de riesgo en los tribunales.

Curiosamente, Altman afirmó en un post en X que el nuevo contrato de defensa de OpenAI incluye protecciones que abordan las mismas preocupaciones que se convirtieron en un punto crítico para Anthropic. Altman destacó que dos de los principios de seguridad más importantes de OpenAI son la prohibición de la vigilancia masiva doméstica y la responsabilidad humana por el uso de la fuerza, incluyendo sistemas de armas autónomas.

"El DoD está de acuerdo con estos principios, los refleja en la ley y la política, y los incluimos en nuestro acuerdo", afirmó Altman.

Además, el CEO de OpenAI comentó que la empresa "construirá salvaguardias técnicas para asegurar que nuestros modelos se comporten como deben, lo que el DoD también quería", y que desplegará ingenieros junto al Pentágono para ayudar con sus modelos y garantizar su seguridad.

Altman añadió que están pidiendo al DoD que ofrezca estos mismos términos a todas las empresas de inteligencia artificial, un acuerdo que, en su opinión, todos deberían aceptar. Expresó su fuerte deseo de que las cosas se desescalen lejos de acciones legales y gubernamentales hacia acuerdos razonables.

El post de Altman llegó poco antes de que se conociera la noticia de que los gobiernos de Estados Unidos e Israel habían comenzado a bombardear Irán, con Trump pidiendo el derrocamiento del gobierno iraní.

Temas