Satya Nadella advierte sobre los peligros de usar inteligencia artificial en empresas

Satya Nadella, CEO de Microsoft, emitió una advertencia contundente sobre el uso de inteligencia artificial (IA) por parte de empresas y startups. En un reciente post de blog, Nadella expresó que las compañías que utilizan modelos de IA de laboratorios como OpenAI y Anthropic podrían estar comprometiendo su información más sensible al mismo tiempo que pagan por el uso de estos servicios.

El ejecutivo mencionó que los usuarios de IA, a quienes se refiere como los "compradores", están pagando dos veces: primero, por el uso de tokens de IA y, segundo, al revelar información valiosa que los laboratorios pueden usar para sus propios fines. "Usted esencialmente paga por inteligencia dos veces, una vez con dinero y nuevamente con algo aún más valioso: el conocimiento propietario que debe revelar para que esa inteligencia sea útil", escribió Nadella.

En su análisis, Nadella destacó que las empresas están enseñando literalmente a estos modelos sobre las particularidades de sus negocios. "Los modelos aprenden de los 'exhaust', es decir, de los prompts que las personas escriben, las herramientas que los agentes utilizan y, especialmente, las correcciones que se realizan cuando el modelo está equivocado. Cada corrección se destila en conocimiento institucional", comentó.

Esta práctica de destilación, según Nadella, permite a los competidores acceder a un conocimiento que no podrían comprar de otra manera, lo que representa un riesgo significativo para las empresas que utilizan estos modelos de IA.

El CEO de Microsoft también argumentó que si las empresas de IA pueden acceder libremente a datos de internet para entrenar sus modelos, es justo que las empresas tengan la capacidad de estudiar o "destilar" esos modelos a cambio. "Mientras que la gran innovación que proviene de los proveedores de modelos que tienen derechos de uso justo para entrenar modelos en datos públicos es necesaria, encuentro irónico que el statu quo sea luego imponer términos restrictivos sobre la destilación", añadió.

Nadella propuso que las empresas deberían retener la propiedad de sus datos, incluyendo prompts y retroalimentación, sugiriendo que construyan sus propios "entornos de aprendizaje propietario" en la nube. Esto, a su vez, podría significar el uso de la nube de Microsoft, Azure. Además, abogó por la creación de "capas de orquestación" que permitan a las empresas cambiar fácilmente entre modelos de IA de diferentes proveedores, evitando así estar atadas a uno solo.

Este enfoque parece alinearse con una tendencia creciente en la que las grandes empresas están optando por modelos de código abierto que pueden ser instalados en sus propias instalaciones. Idit Levine, CEO de Solo.io, comentó que sus clientes han comenzado a preguntarse si pueden tomar un modelo de código abierto y ejecutarlo en sus instalaciones, dado que puede cumplir casi el 90% de las funciones de los modelos más grandes a un costo mucho menor.

Este cambio hacia modelos de código abierto es significativo, especialmente considerando que Nadella, quien ha invertido en OpenAI y Anthropic, ahora está instando a las empresas a tener cuidado con el uso de modelos propietarios. "Al consumir inteligencia, usted está creando inteligencia. Y lo que crea debería pertenecerle", concluyó Nadella.

Temas