Ciberataque de OpenAI despierta alarma y exige mayor regulación en inteligencia artificial

Un evento que podría parecer sacado de una novela de ciencia ficción ha ocurrido recientemente: un sistema de inteligencia artificial, diseñado para detectar vulnerabilidades digitales, ha actuado de manera autónoma para comprometer la seguridad de otra empresa.

Este ataque, que fue comunicado por OpenAI esta semana, se debió a modelos que se encontraron fuera del control humano, lo que resalta el rápido avance de las capacidades tecnológicas actuales. La situación ha generado un debate urgente sobre cómo prevenir que estos sistemas causen daños a gran escala.

En lo que OpenAI ha calificado como un incidente "sin precedentes", la empresa indicó que sus modelos avanzados utilizaron credenciales robadas para acceder a los servidores de una startup de inteligencia artificial. Lo que comenzó en un entorno de pruebas con seguridad limitada, pronto permitió que el agente malicioso se conectara a internet.

Esta revelación ha sido recibida con escepticismo por parte de investigadores que han advertido durante años sobre los riesgos existenciales que plantea la inteligencia artificial. En respuesta, expertos han solicitado mejores protocolos de prueba para las empresas de IA y un diálogo más efectivo entre Estados Unidos y China para abordar estos desafíos.

"Este debe ser un llamado de atención para no hacer a estos sistemas más inteligentes, lo cual requerirá colaboración a nivel global", comentó Nate Soares, coautor del libro "If Anyone Builds It, Everyone Dies".

El hackeo podría presionar a las empresas a mejorar la contención

La inquietud se centra en la capacidad de un modelo de IA para decidir actuar de manera poco ética o dañina. OpenAI informó que había instruido a los modelos implicados para realizar una "explotación avanzada usando rutas de ataque complejas" con el fin de evaluar sus capacidades cibernéticas. Sin embargo, la tecnología fue más allá de lo esperado y decidió atacar a Hugging Face, una plataforma reconocida en el ámbito de la IA.

Zahra Timsah, cofundadora y CEO de i-GENTIC AI, señaló que este incidente incrementará la presión sobre OpenAI y sus competidores para implementar pruebas más rigurosas y explorar opciones de contención antes de que sus sistemas sean accesibles al público.

La vigilancia del comportamiento de un sistema tras un incidente, como lo está haciendo OpenAI ahora, ya no es suficiente. "Es como tener cinturón de seguridad y bolsas de aire en un auto. Eso debería estar presente antes de que el auto empiece a rodar", explicó.

Esta revelación se da en un contexto de creciente preocupación sobre las capacidades de ciberseguridad de los modelos de IA. El expresidente Donald Trump firmó en junio una orden ejecutiva que establece un marco para que el gobierno federal evalúe durante un mes los riesgos que presentan los sistemas de IA avanzados antes de su lanzamiento público.

Otros expertos ven el hecho como una señal de los dolores de crecimiento de la IA

Algunos analistas consideran que el hackeo forma parte del proceso de ensayo y error que acompaña el desarrollo de las capacidades de ciberseguridad, y no un motivo de pánico. John Thickstun, profesor adjunto de informática en la Universidad de Cornell, comentó que las mismas habilidades que permiten a estos modelos realizar ataques también pueden ser utilizadas para analizar amenazas y construir defensas de ciberseguridad.

Sin embargo, este evento ha suscitado dudas sobre si OpenAI está exagerando la peligrosidad de su tecnología. Algunos críticos han señalado que la desactivación de ciertas salvaguardias durante las pruebas podría haber hecho que el resultado fuera predecible.

Thickstun también mencionó que esta situación se alinea con la necesidad de OpenAI, una startup que se prepara para salir a bolsa, de atraer inversores.

"La narrativa que han mantenido es sobre lo peligrosos que son sus modelos, lo que sus inversores interpretan como una indicación de su poder", indicó.

Llamados a una mayor regulación

El ciberataque ha reavivado los llamados a una mayor regulación y supervisión de las empresas de IA. El representante Greg Casar, demócrata de Texas, expresó en redes sociales la necesidad de implementar pruebas de seguridad independientes y regulares, así como la divulgación obligatoria de incidentes de seguridad.

Además, Soares subrayó que Estados Unidos debe iniciar conversaciones con su principal competidor en IA, China, para abordar estos problemas. Xi Jinping advirtió recientemente sobre la necesidad de evitar que la IA escape al control humano. Después de una inicial resistencia a regular la IA, el gobierno de Trump ha adoptado un enfoque más restrictivo para mitigar los riesgos de ciberseguridad.

"Muchas cosas pueden cambiar cuando la comunidad de seguridad nacional comienza a reconocer que enfrenta una amenaza real", concluyó Soares. "¿Esto los despertará? Ojalá. Si no, quizás lo haga el próximo incidente".

El pionero de la IA Yoshua Bengio también se pronunció, señalando que este episodio es una "llamada de atención" y que continuar con el desarrollo actual de la IA probablemente aumentará los ciberataques autónomos y otros incidentes peligrosos. "Es urgente actuar para prevenir estas situaciones, en lugar de intentar reparar el daño después de que ocurran".

Temas