Empleados de OpenAI y Google defienden a Anthropic en demanda contra el DOD

Más de 30 empleados de OpenAI y Google DeepMind presentaron un comunicado el lunes apoyando la demanda de Anthropic contra el Departamento de Defensa de los Estados Unidos, después de que esta agencia clasificara a la firma de inteligencia artificial como un riesgo para la cadena de suministro, según documentos judiciales.

El comunicado expresó: "La designación del gobierno de Anthropic como un riesgo para la cadena de suministro fue un uso impropio y arbitrario del poder que tiene serias repercusiones para nuestra industria". Entre los firmantes se encuentra Jeff Dean, científico jefe de Google DeepMind.

A finales de la semana pasada, el Pentágono etiquetó a Anthropic como un riesgo para la cadena de suministro, una clasificación que generalmente se reserva para adversarios extranjeros, luego de que la firma de inteligencia artificial se negara a permitir que el Departamento de Defensa utilizara su tecnología para la vigilancia masiva de ciudadanos estadounidenses o para el uso autónomo de armas. El DOD argumentó que debería poder utilizar IA para cualquier propósito "legal" y no verse restringido por un contratista privado.

El breve apoyo a Anthropic apareció en el expediente unas horas después de que el fabricante de Claude presentara dos demandas contra el DOD y otras agencias federales. Wired fue el primero en informar la noticia.

En la presentación judicial, los empleados de Google y OpenAI señalaron que si el Pentágono ya no estaba satisfecho con los términos acordados de su contrato con Anthropic, la agencia podría simplemente haber cancelado el contrato y adquirido los servicios de otra empresa líder en IA.

El DOD firmó, de hecho, un acuerdo con OpenAI momentos después de designar a Anthropic como un riesgo para la cadena de suministro, un movimiento que muchos empleados de la empresa creadora de ChatGPT protestaron.

El comunicado advirtió: "Si se permite proceder, este esfuerzo por castigar a una de las principales empresas de IA de EE.UU. tendrá, sin duda, consecuencias para la competitividad industrial y científica del país en el campo de la inteligencia artificial y más allá. Y enfriará la deliberación abierta en nuestro campo sobre los riesgos y beneficios de los sistemas de IA actuales".

La presentación también reafirmó que las líneas rojas establecidas por Anthropic son preocupaciones legítimas que justifican fuertes salvaguardias. Sin una ley pública que gobierne el uso de la IA, argumenta, las restricciones contractuales y técnicas que los desarrolladores imponen a sus sistemas son una salvaguarda crítica contra un uso catastrófico.

Muchos de los empleados que firmaron el comunicado también firmaron cartas abiertas en las últimas semanas instando al DOD a retirar la etiqueta y pidiendo a los líderes de sus empresas que apoyen a Anthropic y se nieguen a utilizar unilateralmente sus sistemas de IA.