Líderes de IA solicitan a la ONU controles para mitigar riesgos tecnológicos para la humanidad

NACIONES UNIDAS (AP) — Los líderes de destacadas empresas de inteligencia artificial hicieron un llamado el miércoles a las Naciones Unidas para que implementen controles sobre la tecnología que desarrollan, buscando proteger a la humanidad. "Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto", expresó Dario Amodei, director ejecutivo de Anthropic.

Por su parte, Sam Altman, CEO de OpenAI, advirtió: "Podríamos perder el control del futuro ante la IA". Ambos directivos coincidieron en que los países deben establecer salvaguardias a través del Consejo de Seguridad de la ONU. Estas medidas serían controles necesarios para evitar que la tecnología se vuelva demasiado poderosa.

En el encuentro, también se planteó la preocupación sobre la concentración del poder de la IA, donde los líderes insistieron en la necesidad de que este no recaiga en una sola empresa o nación. Una de las preguntas centrales que emergió fue: ¿quién debería tomar decisiones cruciales sobre la vida o la muerte: los humanos o las máquinas?

El Consejo de Seguridad de la ONU se reunió para discutir si las capacidades crecientes de la inteligencia artificial deben ser reguladas y, de ser así, quién debería llevar a cabo dicha regulación. Preguntas sobre el momento en que podría ser demasiado tarde para actuar también fueron planteadas.

Un día antes, el secretario general de la ONU, Antonio Guterres, había alertado sobre la amenaza de "robots asesinos". Esta advertencia fue respaldada por expertos y líderes europeos, quienes aseguraron que esta preocupación no es solo una exageración, sino una realidad que se encuentra peligrosamente cerca.

Temas