La industria de la IA pide no restringir modelos abiertos ante la respuesta de EE.UU. a China

Varios empresas de inteligencia artificial, entre ellas Hugging Face, Meta, Microsoft, Mistral y Nvidia, firmaron una carta abierta instando a los legisladores a no imponer "restricciones prematuras" en los modelos de IA de peso abierto. La misiva surge en un contexto en el que Washington debate cómo debería responder EE.UU. a las acusaciones de que laboratorios de IA chinos están robando propiedad intelectual de sus contrapartes estadounidenses, mientras sus capacidades crecen.

La carta no menciona a China, pero llega tras informes de que la administración de Trump ha considerado prohibir modelos abiertos chinos y potencialmente imponer sanciones a empresas de IA de ese país. La Casa Blanca incluso acusó a Moonshot AI de destilar el modelo Fable de Anthropic para entrenar su recientemente lanzado modelo Kimi K3, que ha demostrado ser muy impresionante.

El objetivo de la carta parece ser disuadir una prohibición total sobre los modelos chinos y asegurar que la respuesta de la administración a las acusaciones de destilación china no conduzca a restricciones más amplias sobre la IA de peso abierto o técnicas comunes como la destilación:

Los legisladores deben tener cuidado de no confundir técnicas legítimas de desarrollo de modelos con la apropiación indebida. La destilación, o la práctica de usar los resultados de un modelo para ayudar a entrenar o mejorar otro, es una técnica ampliamente utilizada para la mejora, evaluación y validación de modelos. Refleja una larga tradición de aprendizaje, construcción y mejora de tecnologías existentes, una tradición que ha impulsado la innovación desde el auge del movimiento de software de código abierto.

Por el contrario, los esfuerzos ilegales para extraer valor de modelos cerrados plantean preocupaciones legítimas. Esas preocupaciones deben abordarse a través de marcos legales y comerciales específicos en lugar de restricciones generales sobre técnicas que juegan un papel importante en la innovación de la IA.

O como dijo Amjad Masad, CEO de Replit (que también firmó la carta): "Creo que prohibir los modelos abiertos chinos es tan bueno como prohibir los modelos abiertos en general". Destacó que el nuevo modelo abierto de Thinking Machines Lab, Inkling, fue entrenado con la ayuda del modelo Kimi 2.5 de Moonshot. "Es un ecosistema, y el precedente [que establecería una prohibición] es malo".

La carta también rechaza los argumentos en la industria que afirman que los modelos de peso abierto son inherentemente peligrosos porque amplían el acceso a modelos poderosos, que pueden ser utilizados en ciberataques u otras actividades nefastas, sin supervisión.

"La respuesta adecuada a este riesgo no es prohibir los pesos abiertos. En un mundo donde los atacantes de ciberseguridad utilizan IA avanzada, los defensores necesitan acceso a modelos con capacidades comparables para poder detectar, simular y responder a amenazas emergentes", reza la carta. "Los modelos abiertos amplían la capacidad defensiva, aumentan la transparencia y permiten que las vulnerabilidades sean descubiertas y remediadas en muchos equipos".

La semana pasada, OpenAI reveló que, mientras probaba GPT-5.6 Sol y otro modelo no nombrado, uno de los sistemas explotó una debilidad en su entorno de pruebas para acceder a un repositorio de Hugging Face que contenía una solución a un benchmark de codificación. Se podría argumentar que el objetivo del modelo no era malicioso, y que estaba efectivamente haciendo trampa en una prueba para obtener la puntuación más alta. Pero el incidente desató un debate sobre los riesgos de concentrar tecnología avanzada de IA en un puñado de proveedores cerrados.

Hugging Face declaró que no pudo defenderse contra el ataque con modelos de IA comerciales de frontera porque sus guardrails bloquearon sus esfuerzos. El modelo de IA cerrado que utilizó no pudo distinguir entre ser solicitado para construir exploits para un atacante y un defensor que intentaba detectarlos. La empresa tuvo que pivotar hacia el uso del modelo de peso abierto de la firma china Z.ai, GLM 5.2, para defenderse del ataque.

La carta destaca una división en la industria de la IA. Empresas como OpenAI y Anthropic han instado a la administración a responder a los alegatos de robo de propiedad intelectual por parte de empresas de IA chinas, a medida que los modelos de peso abierto crecen rápidamente en capacidad. El resultado podría tener importantes implicaciones en sus modelos de negocio, que están siendo amenazados por la propagación de modelos de IA accesibles, económicos y altamente capaces.

Estas empresas, junto con otros desarrolladores de IA de código cerrado como Google DeepMind y SpaceX, son notables por su ausencia al pie de esta carta.

Los firmantes de la carta tienen un interés económico obvio en ver florecer los modelos de IA abiertos. Empresas como Nvidia, Microsoft Azure y otros proveedores de infraestructura tienen un interés en impulsar modelos comoditizados: si los modelos son intercambiables, la gente comprará más GPUs, alquilará más capacidad en la nube, construirá más aplicaciones y utilizará más capas de enrutamiento.

La carta alienta a los legisladores a expandir el acceso a computación para startups e investigadores, invertir en activos de entrenamiento compartidos como conjuntos de datos, herramientas y marcos de evaluación, y "[mantener] la frontera plural evitando restricciones prematuras sobre modelos abiertos que sofocan la competencia o impulsan la innovación al extranjero".

Este artículo ha sido actualizado con un comentario de Amjad Masad, CEO de Replit.