OpenAI investiga ciberataque donde su IA hackeó a otra empresa desde entorno de prueba

OpenAI ha confirmado que sigue investigando un "incidente cibernético sin precedentes" en el que sus sistemas de inteligencia artificial se salieron de un entorno de pruebas y lograron hackear a Hugging Face, una startup de inteligencia artificial. Este evento ha desatado un intenso debate sobre la urgencia de establecer barreras de protección más efectivas para la inteligencia artificial y cuestiona la autonomía de los agentes en este campo.

La empresa, creadora de ChatGPT, detalló que el ataque fue llevado a cabo por dos de sus modelos de IA más avanzados, lo que ha generado preocupación sobre la capacidad de estos sistemas para operar de manera independiente. La intrusión fue detectada por Hugging Face la semana pasada, pero no fue hasta esta semana que la startup se enteró de que OpenAI era la responsable. El director ejecutivo de Hugging Face, Clément Delangue, describió el ataque como "algo que nunca habíamos visto antes".

OpenAI explicó que su modelo de IA utilizó credenciales robadas y aprovechó una vulnerabilidad previamente desconocida para acceder a los servidores de Hugging Face. Esto ocurrió porque el sistema estaba operando con medidas de seguridad reducidas, ya que debía estar contenido en un entorno de pruebas aislado, conocido como "sandbox".

Sin embargo, la empresa reveló que el sistema fue más allá de los límites establecidos para alcanzar su objetivo de prueba, encontrando formas de conectarse a internet sin intervención humana y accediendo a información confidencial que podría haber utilizado para manipular las evaluaciones.

Expertos critican la narrativa de OpenAI

Algunos expertos han señalado que OpenAI está culpando erróneamente a la tecnología por el incidente. Hannes Cools, un científico social de la Universidad de Ámsterdam, argumentó que describir el ciberataque como resultado de un agente de IA que actuó de forma autónoma es una antropomorfización innecesaria que, en última instancia, exonera a la empresa de su responsabilidad. "Es una decisión humana desactivar salvaguardas específicas", afirmó Cools. "No es la IA la que se descontrola en ese sentido. Siguió instrucciones específicas basadas en el prompt que se le dio a ese sistema de IA".

Por otro lado, otros especialistas han destacado que la capacidad de los modelos de IA para causar problemas sin dirección humana pone de relieve los peligros inherentes a esta tecnología. OpenAI informó que el ataque fue resultado de una combinación de sus modelos de IA, incluido el recientemente lanzado GPT-5.6 Sol y un modelo "aún más capaz" que se encuentra en pruebas internas.

Debate sobre IA abierta versus cerrada

Este hackeo se produce en un contexto de debate sobre los beneficios y riesgos de los modelos de IA de código abierto, especialmente aquellos desarrollados en China, que son más accesibles y casi tan efectivos como los que crean empresas como Anthropic, Google y OpenAI. Aunque su nombre sugiere apertura, los modelos de OpenAI son en realidad cerrados. En contraste, Hugging Face promueve la tecnología de código abierto, permitiendo a los desarrolladores acceder a componentes clave para su análisis y modificación.

Thomas Wolf, cofundador y director científico de Hugging Face, expresó que el ataque ha reforzado su creencia en la importancia de un acceso amplio a modelos de código abierto para la defensa en ciberseguridad. "Cuando un modelo de frontera te está atacando y se mueve lateralmente dentro de tu infraestructura, los defensores necesitan un amplio acceso a herramientas casi de frontera en cuestión de horas o incluso minutos", escribió Wolf en redes sociales, enfatizando la necesidad de no depender de plataformas cerradas.

__________________________________

Esta historia fue traducida del inglés por un editor de AP con ayuda de una herramienta de inteligencia artificial generativa.