¿La IA se está saliendo de control? Un especislista advirtió por los riesgos de su avance

1. Audio. ¿La IA se está saliendo de control? Un especislista advirtió por los riesgos de su avance

   Ahora país

   Episodios

El especialista en Inteligencia Artificial y Ciberseguridad Enrique "Quique" Dutra advirtió sobre los riesgos que plantea el acelerado desarrollo de los sistemas de inteligencia artificial y consideró difícil que las principales compañías tecnológicas consigan frenar efectivamente su avance.

En diálogo con Cadena 3, Dutra se refirió al debate abierto después de que Dario Amodei, CEO de Anthropic, planteara la necesidad de desacelerar el desarrollo de los modelos más avanzados, una posición que recibió el respaldo de referentes como Sam Altman, de OpenAI, y Elon Musk, de xAI.

“A veces hay que leer entre líneas algunas cuestiones, porque muchas veces estas cosas que se publican también sirven para que las acciones de estas empresas suban y bajen”, señaló.

Según explicó, el problema central es que, mientras aumenta la preocupación por las capacidades de la IA, no existe un sistema global de control capaz de establecer las mismas reglas para todos los desarrolladores.

“El mundo, por un lado, dice que está preocupado por la IA, por este crecimiento y por comportamientos que se están saliendo de las manos, pero, por otro lado, no hay un control exhaustivo”, sostuvo.

Dutra puso como ejemplo el impacto que cualquier eventual desaceleración tendría sobre compañías vinculadas al sector, como Nvidia, uno de los principales fabricantes de chips utilizados para entrenar y ejecutar modelos de inteligencia artificial.

Pero advirtió que la principal dificultad no está solamente entre las compañías estadounidenses. “Supongamos que OpenAI, Anthropic y Google se ponen de acuerdo en hacer las cosas de otra manera. ¿Qué hacemos con DeepSeek y Alibaba, del mundo chino? Ellos también están desarrollando y avanzando muy fuertemente con la IA”, planteó.

Para el especialista, la competencia tecnológica entre países y empresas dificulta alcanzar un acuerdo general. Comparó esa dinámica con la carrera armamentística nuclear: ningún actor quiere reducir unilateralmente su capacidad mientras desconozca qué harán sus competidores. “Los países siguen avanzando y no quieren poner un freno porque no saben si los otros países también lo van a hacer. Y las empresas tampoco quieren frenar”, explicó.

En ese sentido, sostuvo que una compañía que limite por sí misma el desarrollo de sus modelos podría perder competitividad frente a aquellas que continúen avanzando. “Lograr un acuerdo global es muy complicado”, resumió.

/Inicio Código Embebido/

/Fin Código Embebido/

• Los riesgos de una IA con mayor autonomía

Consultado sobre los episodios en los que sistemas de inteligencia artificial consiguieron salir de entornos de prueba o acceder a sistemas externos, Dutra puso el foco en la responsabilidad humana detrás de esas herramientas.

“Todo lo que es inteligencia artificial está respaldado por software que hicieron los humanos. Entonces, en algún momento alguien evitó poner algún límite o algún control”, señaló. Y agregó: “El ser humano no puede delegar la responsabilidad”.

Para Dutra, atribuir directamente a una IA las consecuencias de una acción incorrecta supone ignorar que detrás del sistema existen desarrolladores y responsables que establecen sus parámetros. “Cuando te dicen: ‘Esto lo hizo la IA, que fracasó’, allí está el ser humano por no poner controles y parámetros para que eso no ocurra”, explicó.

El especialista sostuvo que, si un programa recibe como objetivo buscar información y ampliar permanentemente sus conocimientos sin restricciones suficientes, intentará cumplir esa instrucción dentro de las posibilidades técnicas que tenga disponibles. “Si las plataformas empiezan a desvirtuarse es porque en algún momento alguien no puso algún límite para que eso no ocurra”, indicó.

• “Cada vez estamos más cerca de Terminator”

Ante la consulta sobre un escenario extremo en el que sistemas autónomos puedan actuar contra los intereses humanos, Dutra reconoció que técnicamente no puede descartarse. “Puede ocurrir. Yo siempre digo en las charlas que cada vez estamos más cerca de ‘Terminator’”, afirmó.

Sin embargo, aclaró que uno de los puntos determinantes será la capacidad que tengan estos sistemas para controlar dispositivos físicos del mundo real. “Si en algún momento estas plataformas empiezan a tener control sobre acciones físicas reales”, advirtió, los riesgos podrían adquirir otra dimensión.

Como ejemplo, contó que consultó a Grok, el sistema de inteligencia artificial integrado a X, sobre cómo terminar rápidamente un conflicto bélico y recibió como respuesta la posibilidad de utilizar un arma nuclear.

“Esa no es la respuesta que debería darme una IA. Debería hablar de acuerdos diplomáticos o de otras alternativas. Entonces, cuando tira una cosa así sin filtro, imaginemos que tuviera acceso a algún dispositivo físico para lanzar un arma nuclear: sería el caos”, expresó.

/Inicio Código Embebido/

/Fin Código Embebido/

• Dutra: “Esto no va a parar”

Dutra coincidió con la idea de que, pese a las advertencias públicas de los principales referentes del sector, el desarrollo tecnológico difícilmente se detenga.

“Esto no va a parar porque todos dicen una cosa, pero hacen otra. Hoy todos están facturando de alguna manera por el uso. Esto es un servicio que se vende, más allá de que muchas personas lo utilicen gratuitamente”, sostuvo.

Frente a ese escenario, planteó la necesidad de establecer reglas internacionales similares para todas las compañías y recordó las conocidas leyes de la robótica formuladas por el escritor de ciencia ficción Isaac Asimov como ejemplo conceptual de principios comunes. “Esas mismas leyes se podrían adaptar, pero la humanidad se tiene que poner de acuerdo”, afirmó.

El especialista remarcó que la regulación no debería contemplar solamente herramientas masivas como ChatGPT, Gemini o Grok, sino también los modelos privados que distintas compañías entrenan para sus propios procesos internos. “Hay modelos locales dentro de las empresas que también se están entrenando y muchas veces, cuando se entrena ese modelo para hacer algo dentro de una compañía, tampoco tiene filtros de ninguna índole”, alertó.

Finalmente, Dutra manifestó preocupación por la velocidad de los avances, especialmente por la combinación entre inteligencia artificial, robótica y nuevas capacidades de procesamiento.

Recordó que en ferias tecnológicas internacionales como el Mobile World Congress de Barcelona aumentó la presencia de robots humanoides destinados a realizar distintas actividades. “Cuando ves eso y ves las noticias sobre el uso de la inteligencia artificial, ‘Terminator’ no parece tan alocado”, afirmó.

Además, señaló que la evolución de la computación cuántica podría impulsar todavía más las capacidades de estos sistemas durante los próximos años. “Vamos a ver qué pasa con el procesador cuántico. Va a ser todavía más disruptivo y ahí la inteligencia artificial va a ser más poderosa de lo que es hoy”, concluyó.

Entrevista de Rodolfo Barili.

Temas