Trump y líderes de tecnología firman acuerdo para regular la inteligencia artificial en EE.UU.

Buenos Aires, 30 de septiembre (NA) -- El presidente de Estados Unidos, Donald Trump, junto a líderes de destacadas empresas tecnológicas, ha firmado un acuerdo voluntario que busca reforzar los controles de seguridad en el desarrollo de modelos avanzados de inteligencia artificial (IA), también denominada "superinteligencia" por el gobierno estadounidense.

Este documento, titulado "Acuerdo de la Casa Blanca sobre la superinteligencia: compromiso conjunto sobre las responsabilidades de la IA de frontera", establece una serie de compromisos que las empresas deben asumir para garantizar un desarrollo seguro de sus tecnologías y define mecanismos para la detección y corrección de problemas potenciales.

Entre los firmantes se encuentran ejecutivos de Google, Anthropic, Meta, OpenAI, SpaceX y Nvidia: Sundar Pichai, Dario Amodei, Mark Zuckerberg, Greg Brockman, Elon Musk y Jensen Huang, respectivamente.

Según información de la Agencia Noticias Argentinas, aunque el acuerdo tiene un carácter "moralmente vinculante", no posee valor legal.

El acuerdo indica que las empresas que desarrollen y desplieguen modelos de frontera (sistemas de IA en la vanguardia tecnológica) deben contar con "procesos y controles internos sólidos" para asegurar que sus sistemas funcionen correctamente y que cualquier inconveniente sea identificado y resuelto rápidamente.

Cuatro niveles de control a la IA

El documento contempla cuatro niveles de control:

Mecanismos internos para supervisar las capacidades y el comportamiento de los modelos durante su entrenamiento y despliegue.

Equipos internos con autoridad para verificar el funcionamiento de esos controles.

Evaluaciones realizadas por auditores o revisores externos independientes.

Comité independiente del consejo de administración encargado de supervisar los controles y recibir los informes de los equipos internos y externos.

Estos mecanismos deberán enfocarse en los riesgos relacionados con la ciberseguridad, la bioseguridad y las amenazas químicas, así como en prevenir que los modelos accedan o interfieran de forma no intencionada en sistemas técnicos.

Además, las empresas también se han comprometido a reunirse periódicamente para establecer estándares y buenas prácticas comunes.

De esta manera, la iniciativa reúne a compañías que desarrollan algunos de los principales modelos y sistemas de IA del mundo y busca establecer un marco común de supervisión, aunque por el momento no se trata de obligaciones legales para la industria.

Temas