Garry Tan de Y Combinator aboga por que laboratorios de IA estadounidenses destilen modelos de frontera

Garry Tan, CEO de Y Combinator, expresó su deseo de que los laboratorios de inteligencia artificial (IA) de Estados Unidos adopten técnicas de destilación similares a las utilizadas por sus contrapartes chinas. En una entrevista con CNBC, Tan argumentó que la regulación no debería intervenir en este proceso, permitiendo así que los laboratorios de IA estadounidenses fortalezcan su posición en el mercado.

"Yo no haría nada", comentó Tan, sugiriendo que podría ser beneficioso establecer un régimen de destilación estadounidense. Esto implicaría que laboratorios más pequeños y de código abierto en EE. UU. empleen técnicas de entrenamiento sobre modelos de frontera, lo que proporcionaría opciones más robustas y competitivas que las disponibles actualmente, que a menudo son chinas.

La destilación se refiere a un proceso en el que un modelo de IA se entrena a partir de otro modelo, aprendiendo así sus métodos y razonamientos. Esta técnica es comúnmente utilizada por laboratorios de IA para mejorar la eficiencia y efectividad de sus nuevos modelos.

Recientemente, Anthropic lanzó un informe alegando que laboratorios chinos están llevando a cabo "ataques de destilación ilícitos", ocultando sus identidades para extraer información sin permiso, utilizando fraudes y credenciales robadas. El CEO de Anthropic, Dario Amodei, había instado previamente a los reguladores estadounidenses a tomar medidas enérgicas contra estas prácticas.

A pesar de estas preocupaciones, Tan no se alinea con la idea de restringir las prácticas de destilación en EE. UU. No aboga por el uso de credenciales robadas, sino por una apertura en el acceso a la información que los modelos de IA pueden compartir. Según él, es un exceso que los laboratorios de IA intenten controlar lo que sus clientes pueden hacer con la información obtenida.

Tan también destacó que los laboratorios de IA propietarios no pidieron permiso cuando recopilaron vastas cantidades de conocimiento humano para entrenar sus modelos. Este acceso a datos ha sido fundamental para el desarrollo de la inteligencia artificial, y según Tan, es justo que los laboratorios de IA de código abierto también tengan la libertad de destilar información para su uso.

El CEO de Y Combinator enfatizó la necesidad de un equilibrio entre los laboratorios de IA de frontera y los de código abierto. "Son los que están en la vanguardia y empujan hacia adelante. Queremos que eso sea financieramente viable y que continúe siendo un gran modelo de negocio", afirmó.

La preocupación de Tan radica en que el poder de la IA de frontera no debe concentrarse en una única entidad. "El escenario de pesadilla para la IA es que haya una sola empresa que controle todo", advirtió. "Eso sería perjudicial".

Temas