¿Son los centros de datos del futuro portátiles? Runware presenta su innovador Sonic Inference Pod

El pasado martes, la empresa de infraestructura de inteligencia artificial Runware anunció el lanzamiento de su centro de datos modular denominado Sonic Inference Pod. Este innovador dispositivo está diseñado como una unidad de transporte única, representando una forma más flexible de computación que puede coexistir con los masivos proyectos de centros de datos de los hyperscalers.

Según Runware, el Sonic Inference Pod ofrece una inferencia de mayor calidad a un costo inferior en comparación con otras plataformas de inferencia sin servidor y nubes de GPU. Su diseño modular facilita la adición rápida de capacidad mediante la creación de nuevos pods, evitando así la necesidad de expandir un centro de datos fijo. Flaviu Radulescu, cofundador y CEO de Runware, afirmó que "este es, en cierta medida, el futuro".

"Creemos que la computación distribuida, posicionada más cerca de los usuarios finales para una inferencia más rápida, es lo que ganará a largo plazo", comentó Radulescu, señalando a su empresa como un ejemplo de ello. Además de un precio más bajo, destacó que el sistema de Runware puede escalar y añadir capacidad rápidamente, desplegarse en cualquier lugar donde haya energía y adaptarse con rapidez a nuevos lanzamientos de hardware. Los pods de Runware también evitan el uso de agua, empleando en su lugar un sistema de refrigeración de circuito cerrado que puede ser construido en días, en contraste con los meses o incluso años que se requieren para construir centros de datos tradicionales.

"La demanda de inferencia está creciendo más rápido de lo que se pueden construir las instalaciones", señaló Radulescu. "Lo que queremos es alimentar la inteligencia del mundo, ser la columna vertebral sobre la que funciona cada modelo de IA, con una capacidad que se mantenga al día con la demanda en lugar de restringirla". Actualmente, Runware tiene 10 pods en despliegue en Estados Unidos, Europa y Asia-Pacífico. La empresa ya proporciona inferencia a algunas compañías, incluyendo Higgsfield AI y Wix, y cuenta con 160 sitios disponibles para alimentar sus pods en este momento. En diciembre, Runware anunció una ronda de financiación Serie A de 50 millones de dólares para proporcionar la infraestructura necesaria para que las empresas generen imágenes. La expansión hacia los pods se considera parte de la misión central de la compañía: ofrecer inferencia a empresas, en lugar de un único producto.

Los laboratorios de IA como OpenAI y SpaceX continúan compitiendo por construir centros de datos en todo Estados Unidos. Por ejemplo, OpenAI está cerca de cerrar un acuerdo de 500 mil millones de dólares que le permitiría construir un centro de datos en Ohio, según informes. Sin embargo, Radulescu no considera que esos proyectos representen una amenaza para los Sonic Inference Pods, describiendo la flexibilidad de los pods como un diferenciador clave.

"Cada pod opera como parte de una única red, por lo que las solicitudes van a donde hay capacidad, más cerca de los usuarios, y si un pod se desconecta, el tráfico se redirige a otro", explicó, añadiendo que un fallo en el sistema significa que solo un pod está fuera de servicio en lugar de toda una instalación fija. "Los clientes que desean hardware dedicado obtienen pods completos para ellos".

Radulescu también se mostró optimista sobre la competencia, afirmando que la fabricación de hardware es un proceso lento y que la disponibilidad de talento para construir y reparar esta tecnología es limitada.

"Un error en el diseño de un circuito impreso puede costar meses entre rediseño, simulación, fabricación, pruebas y entrega", explicó. "Cada una de esas llamadas necesita a alguien que entienda exactamente lo que hace cada componente y qué se rompe si falta".

Sin embargo, la construcción de centros de datos de IA es un tema controvertido, especialmente debido a cuántos recursos utiliza. Ya se han reportado aumentos en los costos de servicios públicos en las comunidades donde se encuentran los centros de datos. Un día, Runware imagina un mundo donde puede operar con energía renovable y no agotar los recursos que las comunidades necesitan, pero ese día no necesariamente es hoy.

Radulescu afirmó que el uso de energía para IA seguirá aumentando, "impulsado por la demanda de inferencia, no por quién la suministra". Lo que Runware está enfocando en este momento es cómo se satisface esa demanda, dijo. "Sin pérdidas de transmisión, sin agua en la refrigeración, y estamos utilizando energía que ya existe en lugar de pedir que se construya nueva capacidad de red. Más inferencia construida de esta manera significa menos nueva red, menos agua, por la misma cantidad de computación".

Temas