Anthropic se enfrenta al Pentágono por salvaguardas en inteligencia artificial

WASHINGTON — Un choque significativo entre el gobierno de Trump y Anthropic ha alcanzado un punto crítico, ya que los funcionarios militares han exigido a la compañía de inteligencia artificial que modifique sus políticas éticas antes de un plazo establecido, de lo contrario, podrían enfrentar consecuencias negativas en su negocio.

El director ejecutivo de Anthropic, Dario Amodei, dejó claro que su empresa "no puede, en conciencia, acceder" a la última exigencia del Pentágono, que implica permitir un uso sin restricciones de su tecnología de IA. Esta postura se presenta a tan solo un día del vencimiento del ultimátum impuesto por el secretario de Defensa, Pete Hegseth.

Aunque Anthropic, creadora del chatbot Claude, podría sobrevivir a la pérdida de un contrato militar, el ultimátum plantea riesgos más amplios para la compañía, que ha evolucionado rápidamente de un laboratorio de investigación poco conocido en San Francisco a una de las startups más valoradas del mundo.

Si Amodei se mantiene firme en su posición, las autoridades militares han advertido que no solo cancelarían el contrato con Anthropic, sino que también podrían considerarla un riesgo para la cadena de suministro, un estatus que usualmente se asocia a adversarios extranjeros y que podría obstaculizar las alianzas estratégicas de la empresa con otros negocios.

En caso de que Amodei cediera, podría perder la confianza de la industria de la IA, especialmente entre el talento que ha sido atraído por la promesa de construir una IA responsable, superior a la humana, que sin salvaguardas podría acarrear peligros significativos.

Anthropic ha buscado garantías limitadas del Pentágono para asegurar que Claude no se empleará en vigilancia masiva de ciudadanos estadounidenses ni en armas completamente autónomas. Sin embargo, después de meses de negociaciones privadas que culminaron en un debate público, la compañía comunicó que los nuevos términos contractuales ofrecidos por el Pentágono venían con cláusulas legales que permitirían eludir esas salvaguardas.

La situación se complicó aún más cuando Sean Parnell, portavoz del Pentágono, declaró en redes sociales que "no permitiremos que NINGUNA empresa dicte los términos sobre cómo tomamos decisiones operativas". Anthropic tiene "hasta las 5:01 de la tarde del viernes, hora del Este, para decidir" si cumplirá con las demandas o enfrentará repercusiones, afirmó Parnell.

En una crítica directa, Emil Michael, subsecretario de Defensa para investigación e ingeniería, cuestionó a Amodei en redes, acusándolo de tener un "complejo de Dios" y de poner en riesgo la seguridad nacional al tratar de controlar las decisiones del ejército.

A pesar de la presión, la comunidad tecnológica, en su mayoría, ha respaldado la postura de Amodei. Un creciente número de trabajadores de empresas competidoras, como OpenAI y Google, han expresado su apoyo a través de una carta abierta.

El apoyo hacia Amodei también proviene de Sam Altman, CEO de OpenAI, quien cuestionó la amenaza del Pentágono en una entrevista, sugiriendo que la mayoría de la industria de la IA comparte las mismas preocupaciones sobre el uso responsable de la tecnología.

Legisladores de ambos partidos, así como un exlíder de iniciativas de IA del Departamento de Defensa, han manifestado su inquietud respecto al enfoque del Pentágono. El general retirado Jack Shanahan comentó que "poner a Anthropic en la mira genera titulares impactantes, pero al final todos pierden".

La situación sigue evolucionando, y mientras Amodei espera que el Pentágono reconsidere su postura, también ha indicado que Anthropic está preparada para facilitar una transición a otro proveedor si no se llega a un acuerdo satisfactorio.