Amazon lanza TorchNeuron para desafiar el dominio de Nvidia en el desarrollo de IA

El lunes, Amazon Web Services (AWS) lanzó una nueva herramienta llamada TorchNeuron, diseñada para facilitar a las startups de inteligencia artificial la migración de sus aplicaciones a Trainium, el chip de IA de Amazon. Con este movimiento, Amazon busca desafiar directamente la ventaja que Nvidia ha mantenido en el mercado gracias a su software, que se ha convertido en la opción predeterminada para las aplicaciones de IA.

TorchNeuron es compatible con PyTorch, un kit de herramientas gratuito y de código abierto utilizado por los desarrolladores para crear, entrenar y ejecutar modelos de IA. Según AWS, los desarrolladores solo necesitan realizar un cambio en la configuración para que las aplicaciones escritas en PyTorch funcionen en Trainium, sin necesidad de reescribir el código.

Aproximadamente el 85% de las aplicaciones de IA están escritas en PyTorch, que fue desarrollado originalmente por Facebook y desde 2022 forma parte de la Linux Foundation, que se encarga de mantener proyectos de código abierto. Nvidia ha invertido años en asegurar que su software CUDA —la infraestructura que permite que las aplicaciones funcionen en sus GPUs— sea compatible con PyTorch. Esto ha llevado a que el hardware de Nvidia esté profundamente integrado en este kit de herramientas, convirtiéndose en la opción predeterminada.

La herramienta de Amazon no es la primera en intentar facilitar la adaptación de chips a la plataforma. Los usuarios de PyTorch también pueden trasladar sus aplicaciones a GPUs de AMD o a chips de Apple con un simple cambio de configuración.

Sin embargo, Amazon sostiene que la migración a Trainium no solo es sencilla, sino que también brinda a las startups de IA acceso a toda la infraestructura de la nube de AWS. Según AWS, esto representa una mejor opción para las startups en comparación con neoclouds que dependen del hardware de Nvidia, como Coreweave, Nebius y Firmus.

"Estás construyendo en AWS. No estás apostando por un proveedor de computación de un solo propósito y tratando de construir todo lo demás a su alrededor", expresó Colin Brace, vicepresidente de Tecnología de Software en AWS Annapurna Labs, a TechCrunch por correo electrónico. "En AWS, la infraestructura para pasar de prototipo a producción ya está disponible, lo que permite a un fundador avanzar rápidamente y escalar cuando lo necesite".

AWS también afirma que, dado que el mismo chip maneja tanto el entrenamiento (la enseñanza del modelo de IA) como la inferencia (el uso del modelo terminado, como cuando responde a una pregunta de un usuario), y está estrechamente integrado con la infraestructura en la nube que las startups necesitan, su nube les ahorrará dinero, incluso si AWS no ofrece el precio más bajo por token.

"El valor de Trainium es el rendimiento por precio, además del hecho de que es una plataforma única para entrenamiento e inferencia, lo que mejora la economía en toda la carga de trabajo", añadió Brace. "Observa a Deepgram — ellos se trasladaron a Trainium utilizando PyTorch nativo y están procesando un 70% más de audio por dólar con una precisión de producción". Deepgram es un proveedor de aplicaciones de voz de IA, competidor de ElevenLabs.

No obstante, Amazon no se conforma con solo ofrecer a los desarrolladores de aplicaciones en PyTorch una opción sencilla para trasladarse a su nube. También afirma que está impulsando a PyTorch para que no esté automáticamente centrado en Nvidia, y contribuirá con el código necesario para lograrlo al proyecto principal de PyTorch. En el blog que anunció la nueva herramienta, la empresa escribió:

"El enfoque de Amazon se extiende más allá de su propio hardware. La empresa está contribuyendo con cambios al código de PyTorch, trabajando con la comunidad de PyTorch para eliminar el código que vincula el marco a chips específicos. El objetivo es hacer que PyTorch sea más agnóstico al hardware para toda la comunidad de desarrolladores, no solo para los usuarios de Trainium".

Si bien tal táctica es indudablemente beneficiosa para aquellos que venden hardware y servicios en la nube que compiten con Nvidia, uno de los objetivos de PyTorch es ocultar todas las dificultades que conlleva hacer que el código de IA funcione en el hardware. Habrá que esperar para ver si el impulso de Amazon para alejar a Nvidia ofrece a los desarrolladores más opciones y alternativas más asequibles, como promete, o simplemente más dolores de cabeza en la configuración.

En cualquier caso, si Amazon logra desacoplar profundamente a PyTorch de Nvidia, esto podría tener repercusiones mucho más grandes para el gigante de las GPUs que simplemente lidiar con competidores de chips. Como dijo Brace: "La verdadera historia es eliminar el bloqueo que mantenía a los desarrolladores sin una opción real".

Temas