Preocupaciones sobre seguridad en modelos de IA
13/06/2026 | 18:02
Redacción Cadena 3
El CEO de Amazon, Andy Jassy, se convirtió en el centro de atención tras revelar que sus preocupaciones sobre la seguridad de ciertos modelos de inteligencia artificial llevaron a Anthropic a restringir el acceso mundial a dos de sus modelos. Esta decisión se tomó el pasado viernes, según informó el Wall Street Journal.
Jassy comunicó sus inquietudes a Scott Bessent, secretario del Tesoro de EE.UU., y a otros funcionarios, mencionando que los investigadores de Amazon utilizaron el modelo Claude Fable 5 de Anthropic para obtener información que podría ser utilizada en ciberataques. Como resultado, el gobierno impuso una prohibición de exportación sobre los modelos Fable 5 y Mythos 5.
Un portavoz de Amazon declaró que, aunque no es raro que los gobiernos busquen asesoramiento sobre posibles riesgos de seguridad, la empresa no comparte los detalles de esas discusiones. Además, se destacó que AWS, la división de servicios en la nube de Amazon, se vio afectada por la restricción de estos modelos.
Informes de The Information y Reuters corroboraron que Amazon, que es un importante inversor en Anthropic, había expresado preocupaciones sobre la seguridad de los modelos de la compañía. En este contexto, David Sacks, exzar de IA durante la administración de Trump y actual co-presidente del Consejo de Asesores sobre Ciencia y Tecnología del presidente, también compartió su versión de los hechos. Sacks afirmó que "un socio confiable altamente creíble de Anthropic y el gobierno de EE.UU. se presentó con un jailbreak".
Según Sacks, la administración solicitó a Dario Amodei, CEO de Anthropic, que solucionara el problema del jailbreak o retirara el modelo, a lo que Amodei se negó. Este episodio resalta la creciente tensión entre el desarrollo de la inteligencia artificial y las preocupaciones sobre la seguridad y el uso indebido de la tecnología.
¿Qué ocurrió?
El CEO de Amazon, Andy Jassy, planteó preocupaciones sobre modelos de Anthropic, llevando a la empresa a restringir su acceso.
¿Quién es el protagonista?
Andy Jassy, CEO de Amazon, y Dario Amodei, CEO de Anthropic.
¿Cuándo sucedió?
La restricción se impuso el 13 de junio de 2026.
¿Dónde tuvo lugar?
Las discusiones se dieron entre Jassy y funcionarios del gobierno estadounidense.
¿Por qué es relevante?
Resalta la preocupación sobre la seguridad en el uso de modelos de inteligencia artificial y la relación entre empresas tecnológicas y el gobierno.
Te puede Interesar
Inversión en inteligencia artificial
La gigante tecnológica Amazon ha firmado un acuerdo para obtener $17.5 mil millones de varias entidades bancarias, incluyendo Citigroup y JPMorgan, para financiar sus proyectos de inteligencia artificial en medio de un creciente gasto en el sector.
Innovaciones en comercio electrónico
La nueva función de Amazon permitirá a los usuarios ver imágenes generadas por IA basadas en sus búsquedas. Esto busca facilitar la navegación y mejorar la experiencia de compra.
Estructura organizativa única
Dario Amodei, CEO de Anthropic, cuenta que tiene solo un reporte directo, su jefa de personal, mientras que el resto del equipo ejecutivo responde a su hermana. Esta estructura le permite enfocarse en la estrategia y la cultura de la empresa.
Novedades en videojuegos
La nueva herramienta de Anthropic, Fable 5, permite generar videojuegos con un solo clic, mostrando capacidades sorprendentes en la creación de juegos y visualizaciones.