ZML, la startup francesa que lanza software gratuito para optimizar IA

ZML, una prometedora startup francesa de inteligencia artificial respaldada por el ganador del Premio Turing Yann LeCun, lanzó recientemente ZML/LLMD, un software diseñado para optimizar la ejecución de modelos de lenguaje en diversos chips, incluyendo los de Nvidia, AMD, Google, Apple y Intel.

El objetivo de ZML es eliminar las barreras existentes en el uso de diferentes arquitecturas de chips, permitiendo que las empresas y los proveedores de servicios en la nube utilicen una combinación de ellos, lo que podría resultar en una reducción de costos y un menor consumo de energía. "La idea es devolver a los usuarios el poder de crear su propio sistema y lograr verdaderas ganancias de eficiencia", afirmó Steeve Morin, fundador de ZML, en una entrevista con TechCrunch.

Con el lanzamiento de ZML/LLMD, la compañía busca mejorar el rendimiento de la inferencia, que es el proceso de respuesta a solicitudes de inteligencia artificial, un área que ha cobrado gran importancia a medida que la IA se integra en la vida cotidiana y en el trabajo. Sin embargo, Morin destacó que a menudo este proceso se siente fragmentado debido a las limitaciones de software y arquitectura que conducen al bloqueo de proveedores.

La promesa de ZML de alcanzar un rendimiento óptimo en una variedad de chips no solo representa un logro tecnológico, sino que también tiene el potencial de interrumpir el mercado, especialmente en un momento en que los costos asociados a la IA son motivo de creciente preocupación.

Morin comentó que ZML tiene la intención de colaborar con nuevos fabricantes de chips de IA, muchos de ellos europeos, como Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud y VSORA. Sin embargo, más allá de su lugar de origen, lo que realmente importa es que ZML pueda trabajar con ellos en "cosas que no se han hecho antes en ninguna parte del mundo".

A pesar de la competencia, Morin no es pesimista sobre Nvidia, gracias a la relación que ZML ha cultivado con el gigante de los chips, que se ha estado preparando para el aumento de la inferencia. La inferencia ha sido un área de intensa inversión, lo que ha llevado a algunos a llamarla la "fiebre del oro de la inferencia". ZML enfrenta competencia de empresas como Baseten, que recientemente fue valorada en 13 mil millones de dólares, Inferact, y RadixArk, la compañía detrás de SGLang.

Ambos, vLLM y SGLang, compiten en parte con ZML/LLMD, pero Morin subrayó que las ambiciones de ZML abarcan un espectro más amplio. "Hemos llegado al punto en el que estamos co-diseñando silicio", afirmó. Atribuyó la rapidez de ZML, que cuenta con un equipo de solo 20 personas, a su capacidad de respuesta y agilidad en el desarrollo de nuevos productos.

La financiación también ha sido clave para el crecimiento de ZML. Morin, quien fue vicepresidente de ingeniería de Zenly, que fue adquirida por Snapchat por una suma de nueve cifras en 2017, logró recaudar 20 millones de dólares de diversas firmas de capital de riesgo. A diferencia de su primer proyecto público, el marco de ML enfocado en la inferencia lanzado en 2024, ZML/LLMD no es de código abierto, pero se lanzará como un producto gratuito con el objetivo de aprender sobre su uso. "Prefiero medir y luego generar ingresos donde sea más efectivo sin obstaculizar mi crecimiento por ser demasiado codicioso desde el principio", concluyó Morin.