Rippling presenta una herramienta para controlar el gasto en IA tras un despilfarro millonario

Rippling, un proveedor de software de recursos humanos, presentó esta semana su nueva herramienta llamada AI Spend Console, diseñada para ayudar a las empresas a controlar y rastrear el gasto en inteligencia artificial (IA) de sus empleados. Esta herramienta surge tras un alarmante descubrimiento: la compañía se dio cuenta de que sus gastos en IA estaban creciendo de forma exponencial, alcanzando cifras que comprometían su presupuesto de investigación y desarrollo.

El AI Spend Console permite a las empresas identificar cuánto gastan individualmente sus empleados en herramientas de IA y si este gasto se traduce en una mayor productividad. Según la empresa, esta herramienta puede mostrar, por ejemplo, qué ingenieros tienen un alto gasto en IA y cuántas veces sus compañeros les piden rehacer trabajos en las revisiones de código.

La necesidad de crear esta herramienta surgió cuando el equipo ejecutivo de Rippling se reunió en marzo y su director financiero, Adam Swiecicki, presentó cifras que dejaron atónitos a los directivos. La empresa estaba en camino de gastar un 40% de su presupuesto de personal de I+D en tokens de IA, lo que representaba millones de dólares en gastos no planificados.

El crecimiento del gasto en IA era del 80% mensual, y si esta tendencia continuaba, se proyectaba que el año siguiente la empresa gastaría un 90% de lo que pagaba a sus empleados de I+D en tokens de IA.

"Nos quedamos incrédulos", comentó Matt MacInnis, director de producto de Rippling. Ante esta situación, la dirección emprendió un proyecto urgente para entender el gasto y evaluar el retorno de inversión de estas herramientas.

La compañía también reveló que aproximadamente el 10-15% de sus empleados generaban el 60% del gasto total en IA. Un ingeniero, por ejemplo, estaba gastando $50,000 al mes. Rippling no pretendía detener el uso de IA, sino controlarlo. Para ello, comenzó a negociar un límite de gasto con las herramientas que utilizaba, como Cursor, OpenAI y Anthropic.

"La verdad es que los proveedores de inferencia, como Anthropic y OpenAI, no tienen ningún incentivo para ayudar a controlar el gasto. Tienen todos los incentivos para que sea un gasto descontrolado, y eso es exactamente lo que hacen", afirmó MacInnis.

Después de un análisis, Rippling determinó que el uso efectivo de IA requería una variedad de modelos de diferentes laboratorios a distintos precios, incluyendo opciones de modelos avanzados. Además, la compañía desarrolló su propio gateway de IA que también forma parte del AI Spend Console, permitiendo a las empresas dirigir las solicitudes al modelo más adecuado y rentable para cada tarea.

Con la implementación de esta herramienta, Rippling logró reducir su gasto en tokens de IA del 40% de su presupuesto de personal a aproximadamente un 15%, sin disminuir el uso de IA. En julio, la empresa alcanzó un uso interno de 600 mil millones de tokens, pero el costo de ese gasto fue solo el 37% del costo registrado en abril.

"Eso es solo porque ahora estamos dirigiendo las solicitudes a los modelos más efectivos", añadió MacInnis, quien también destacó que han nombrado a ciertos empleados como "capitanes de IA" para ayudar a otros en la empresa a usar estas herramientas de manera efectiva.

A pesar de estos avances, Rippling reconoce que todavía queda trabajo por hacer para que el uso de IA se extienda más allá del área de ingeniería. La compañía está trabajando en su implementación para equipos de incorporación de clientes, automatizando tareas de envío de datos y reconciliación de datos, y midiendo la productividad en términos de incorporación de más clientes.

"Debemos poder vincular el consumo de tokens en funciones generales y en funciones orientadas al cliente con la productividad. Si no podemos hacerlo, todas las apuestas están fuera respecto a la disponibilidad de estas herramientas para un mayor número de empleados", concluyó MacInnis.