Preocupaciones del CEO de Amazon sobre modelos de Anthropic antes de la prohibición

El CEO de Amazon, Andy Jassy, se convirtió en el centro de atención tras revelar que sus preocupaciones sobre la seguridad de ciertos modelos de inteligencia artificial llevaron a Anthropic a restringir el acceso mundial a dos de sus modelos. Esta decisión se tomó el pasado viernes, según informó el Wall Street Journal.

Jassy comunicó sus inquietudes a Scott Bessent, secretario del Tesoro de EE.UU., y a otros funcionarios, mencionando que los investigadores de Amazon utilizaron el modelo Claude Fable 5 de Anthropic para obtener información que podría ser utilizada en ciberataques. Como resultado, el gobierno impuso una prohibición de exportación sobre los modelos Fable 5 y Mythos 5.

Un portavoz de Amazon declaró que, aunque no es raro que los gobiernos busquen asesoramiento sobre posibles riesgos de seguridad, la empresa no comparte los detalles de esas discusiones. Además, se destacó que AWS, la división de servicios en la nube de Amazon, se vio afectada por la restricción de estos modelos.

Informes de The Information y Reuters corroboraron que Amazon, que es un importante inversor en Anthropic, había expresado preocupaciones sobre la seguridad de los modelos de la compañía. En este contexto, David Sacks, exzar de IA durante la administración de Trump y actual co-presidente del Consejo de Asesores sobre Ciencia y Tecnología del presidente, también compartió su versión de los hechos. Sacks afirmó que "un socio confiable altamente creíble de Anthropic y el gobierno de EE.UU. se presentó con un jailbreak".

Según Sacks, la administración solicitó a Dario Amodei, CEO de Anthropic, que solucionara el problema del jailbreak o retirara el modelo, a lo que Amodei se negó. Este episodio resalta la creciente tensión entre el desarrollo de la inteligencia artificial y las preocupaciones sobre la seguridad y el uso indebido de la tecnología.

Temas