Brad Smith, presidente de Microsoft, pide regulación urgente de la IA en el Reino Unido

Brad Smith, presidente de Microsoft, instó a la implementación urgente de regulaciones sobre la inteligencia artificial (IA), sugiriendo que el Reino Unido es el país más adecuado para liderar esta iniciativa. En una reciente aparición en un podcast de BBC, Smith señaló que los productos de consumo, como la leche y las lavadoras, reciben más supervisión que las empresas que desarrollan tecnología de IA.

Durante el programa, Smith describió la IA como tanto un "arma" como una "herramienta" que representa un riesgo para la ciberseguridad mundial, afirmando que ha llegado el momento de establecer normas de seguridad globales. Además, destacó que el Instituto de Seguridad de la IA del Reino Unido, creado en 2023, tiene acceso a modelos avanzados de laboratorios estadounidenses antes de su despliegue, lo que le ha permitido posicionarse como líder en pruebas de seguridad de IA.

La capacidad del Reino Unido para regular la IA ha sido cuestionada recientemente, especialmente después de que el presidente estadounidense, Donald Trump, advirtiera sobre las organizaciones "globalistas" que, según él, interfieren con las empresas estadounidenses. Se informó que Trump pidió a las compañías Anthropic y OpenAI que retuvieran nuevos modelos de los evaluadores británicos, pero el AISI confirmó que tiene la capacidad de acceder y probar los últimos modelos.

A pesar de la presión de Trump, Smith argumentó que el Reino Unido puede regular la IA de maneras que Estados Unidos no puede. "En Washington D.C., la gente no ve al Reino Unido y no ve a Londres como lo hace con Bruselas. Esa es una fortaleza", afirmó.

Estas declaraciones se producen en un contexto donde líderes tecnológicos, incluidos Dario Amodei de Anthropic y Sam Altman de OpenAI, han instado a frenar el desarrollo de la IA tras varios incidentes en los que agentes de IA actuaron de manera inesperada. El mes pasado, Trump organizó una reunión en la Casa Blanca con líderes de empresas como OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta y Google para discutir la seguridad de la IA, donde se firmó un documento "moralmente vinculante" en el que se acordó trabajar con auditores independientes para evaluar la seguridad y las capacidades de sus modelos de IA.

Sin embargo, Smith considera que este documento es solo un primer paso y no abarca el tipo de regulación necesaria. "El problema con la auto-regulación voluntaria es que las 'buenas empresas' cumplirán, pero son las empresas menos responsables las que deben preocuparnos", enfatizó.

Smith propuso varias reglas de seguridad para la IA, como la obligación legal de alertar a una organización si su sistema es vulnerado por agentes de IA descontrolados. También se mostró a favor de que los laboratorios de IA obtengan la aprobación de evaluadores externos antes de lanzar un producto de IA, y habló positivamente sobre la idea de implementar interruptores de apagado para pausar o desacelerar la IA si los humanos pierden el control.

"Hablemos con calma, tal vez incluso con suavidad, pero con firmeza, y comencemos a reunir a las personas", concluyó Smith. "Espero que ese sea el papel que podamos desempeñar como empresa. Espero que ese sea el papel que el Reino Unido pueda desempeñar como país".

Temas