Expertos en IA debaten la regulación y la necesidad de mantener la apertura en la tecnología

La conferencia Ai4, celebrada en Las Vegas, se convirtió en un escenario donde tres de los más respetados expertos en inteligencia artificial (IA) del mundo, Geoffrey Hinton, Fei-Fei Li y Andrew Ng, debatieron sobre la creciente preocupación por la seguridad en el desarrollo de esta tecnología. El tema central giró en torno a la regulación y la necesidad de mantener un acceso abierto a los modelos de IA, en un contexto donde el control de la tecnología por parte de unas pocas grandes empresas puede limitar la innovación.

Durante el panel, los expertos expresaron su preocupación por el hecho de que solo unas pocas compañías tengan el control sobre el avance de la IA. Andrew Ng advirtió que esto podría resultar en un estancamiento de la innovación, similar al que se observa en el mercado de los sistemas operativos móviles, donde empresas como Apple y Google dominan. "No quiero que haya guardianes, ya que eso limita cómo todos podemos acceder a la IA", afirmó Ng.

El panel también abordó la dicotomía entre los modelos de código abierto y los modelos de pesos abiertos. Geoffrey Hinton destacó que, si bien el código abierto permite la inspección y modificación del software, los modelos de pesos abiertos presentan riesgos significativos, ya que facilitan el uso indebido de modelos costosos de entrenar. "Estaba en contra de los pesos abiertos porque facilitan que personas entrenen modelos para hacer cosas malas, como ataques cibernéticos", comentó Hinton.

A pesar de sus reservas, Hinton reconoció que los modelos de pesos abiertos ya son una realidad en el campo de la IA. "Ese combate se ha perdido. Ahora tenemos modelos de pesos abiertos, por lo que la barrera para que muchas personas accedan a estos grandes modelos ha desaparecido", añadió.

En contraste, Fei-Fei Li propuso que la apertura no debería ser un enfoque extremo. Usó el ejemplo de la física nuclear, donde los artículos científicos son públicos, pero el uranio está regulado, sugiriendo que el acceso a la IA debe ser igualmente matizado. "Es peligroso hacer de esto una dicotomía entre total apertura y total cierre", dijo Li, abogando por un enfoque equilibrado que permita diferentes niveles de apertura según el contexto.

Todos los panelistas coincidieron en que se necesita algún nivel de regulación para guiar el desarrollo de la IA hacia un futuro positivo. "Lo que queremos es desarrollar la IA en una dirección que ayude a las personas, y la regulación nos ayudará a lograr eso", concluyó Hinton.

Temas