El papa León XIV advierte sobre la seguridad de la inteligencia artificial y sugiere un debate urgente

A BORDO DEL AVIÓN PAPAL (AP) — El papa León XIV manifestó el lunes que las preocupaciones sobre que la inteligencia artificial se descontrole no son "noticias falsas" y deben tomarse en serio, e insistió en que los problemas de seguridad planteados por expertos en IA deben debatirse y atenderse.

León XIV, quien dedicó su primera encíclica a la IA y a proteger a la humanidad de sus efectos, fue consultado durante una conferencia de prensa sobre qué deberían hacer, en particular, Estados Unidos y China para evitar que la IA suponga riesgos catastróficos para la humanidad. El presidente estadounidense Donald Trump ha calificado de "engaño" las preocupaciones sobre que la IA se descontrole.

"Este es un problema sobre el que creo que tenemos que sentarnos a hablar", declaró el papa de origen estadounidense a los periodistas que regresaban a casa desde Francia. "No podemos simplemente quedarnos de brazos cruzados y fingir que no va a pasar nada".

Trump ha sido un defensor de la IA y con frecuencia advierte que Estados Unidos debe mantenerse por delante de China en la carrera armamentística tecnológica. Ha dicho que los esfuerzos por limitar la tecnología formaban parte de una "conspiración" de sus adversarios políticos.

Varios gigantes de la IA, entre ellos Anthropic, han pedido una desaceleración del desarrollo para dar tiempo a que las medidas de seguridad alcancen a una tecnología que avanza a gran velocidad. El director general de Anthropic, Dario Amodei, por ejemplo, ha advertido que en un plazo de seis a 12 meses la IA podría ser capaz de liderar un enjambre de agentes que podría apoderarse de todo internet.

Trump dijo el domingo que planeaba reunirse a cenar con Amodei, pero aún no ha comentado sobre el encuentro.

"Si alguien me preguntara: '¿Estoy en modo pánico?'. No, no lo estoy. Duermo por la noche", expresó León XIV. Pero "sí creo que las preocupaciones planteadas por muchos de los expertos, especialistas en IA, deben tomarse en serio".

"No creo que eso sea 'noticias falsas', como algunos han dicho para tratar de obtener algún beneficio, ya sea financiero u otro tipo", añadió León XIV.

El pontífice, que pidió una regulación sólida de la IA y una desaceleración de la tecnología en su encíclica "Magnificent Humanity", está al día de los avances en el campo.

Pese a estar al final de un agotador viaje de cuatro días a Francia, León XIV mencionó un reporte de noticias el lunes por la tarde sobre Nvidia introduciendo barreras de seguridad en la IA. También señaló que la empresa anteriormente se ha resistido a la regulación externa del desarrollo de la IA.

León XIV había identificado a la IA como uno de los mayores desafíos para la humanidad a los pocos días de su elección, y dio el inusual paso de lanzar personalmente su propia encíclica junto con el cofundador de Anthropic, Christopher Olah, en un acto en el Vaticano en mayo. La iniciativa formaba parte del esfuerzo del Vaticano por involucrar a Silicon Valley en torno a los costos humanos de la IA.

"Tenemos que seguir invitando a líderes políticos, líderes de la IA, organizaciones sociales, asociaciones, a reunirse y observar lo que ya está ocurriendo y lo que podría venir más adelante", afirmó el lunes.

"Decir simplemente: 'Oh, no va a pasar' y cerrar los ojos ante ello, creo que probablemente no es la manera más responsable de abordar esto", agregó.

Con sus comentarios del lunes sobre la legitimidad de las preocupaciones de seguridad y el desarrollo de la IA, León XIV ha mostrado otra área de desacuerdo con Trump. Ambos discreparon en abril por la oposición del papa a la guerra de Estados Unidos e Israel en Irán, y León XIV también ha criticado la ofensiva del gobierno de Trump contra la migración.

Trump se reunió la semana pasada con el presidente chino Xi Jinping en Washington y, mientras Xi dijo que era importante garantizar que la IA esté "siempre bajo control humano", Trump se centró más en intentar rebautizarla como "superinteligencia" y desestimó los llamados a la regulación. Sin embargo, ambos líderes acordaron explorar un nuevo "mecanismo de notificación" para incidentes de IA que afecten la seguridad nacional.

La IA se ha convertido en un tema importante en un año electoral en Estados Unidos, mientras algunas de las mayores empresas del país se apresuran a construir una red nacional de centros de datos y los estadounidenses de ambos partidos hacen sonar las alarmas sobre el impacto en las tierras agrícolas, los suministros de agua y las facturas de electricidad.

Las preocupaciones sobre la IA siguen creciendo dentro y fuera de la industria, y continúan apareciendo reportes sobre sistemas cada vez más potentes que resuelven problemas más allá de la capacidad humana, pero que también podrían descontrolarse y llevar a cabo otras tareas más dañinas.

Las inquietudes han crecido tanto que el director general de OpenAI, la empresa detrás de ChatGPT, dijo en una entrevista con Fortune que su compañía esperaría hasta el próximo año para empezar a vender sus acciones a inversionistas en Wall Street, mientras se centra en la seguridad.

___

La periodista de The Associated Press Roberta Rampton en Washington contribuyó a este despacho.

___

La cobertura de religión de The Associated Press recibe apoyo a través de la colaboración de AP con The Conversation US, con financiamiento de Lilly Endowment Inc. La AP es la única responsable de este contenido.

___

Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.