OpenAI revela que su IA llevó a cabo un hackeo inédito a otra empresa de inteligencia artificial

OpenAI, la empresa detrás de ChatGPT, ha declarado que su inteligencia artificial llevó a cabo un hackeo autónomo a otra firma de inteligencia artificial, un evento que la compañía ha calificado como un "incidente cibernético sin precedentes".

El director ejecutivo de OpenAI, Sam Altman, comentó sobre el suceso en un comunicado publicado en redes sociales el martes: "Tuvimos un incidente de seguridad importante durante la evaluación de nuestros modelos".

Por su parte, la startup de IA Hugging Face anunció la semana pasada que detectó una intrusión en sus sistemas de procesamiento de datos, que, según sus indicios, fue provocada por un agente de IA que actuó de forma autónoma.

El cofundador y CEO de Hugging Face, Clément Delangue, expresó: "Dada la sofisticación del agente, sospechamos que el ciberataque podría haber provenido de un laboratorio de frontera. ¡Y resulta que sí!".

Esta revelación surge en un contexto de creciente inquietud sobre las capacidades de ciberseguridad de los modelos de inteligencia artificial avanzados. En respuesta, el presidente de Estados Unidos, Donald Trump, firmó en junio una orden ejecutiva que establece un marco para que el gobierno federal evalúe, hasta un mes antes de su lanzamiento público, los riesgos que representan para la seguridad nacional los sistemas de IA más avanzados.

En su comunicado, OpenAI afirmó: "La IA acelera el descubrimiento y la explotación de vulnerabilidades. La principal lección de este incidente es que la seguridad y la protección de los modelos deben mantenerse al ritmo de unas capacidades que avanzan rápidamente".

Delangue agregó que pasó las últimas 24 horas colaborando con OpenAI y que ambos creen firmemente que no hubo intención maliciosa por parte de la empresa. "¡Es realmente alucinante que todo esto haya ocurrido de manera autónoma!".

Además, OpenAI explicó que la intrusión fue facilitada por una combinación de sus modelos de IA, incluyendo el recientemente lanzado GPT 5.6 Sol y un modelo "aún más capaz" que se encuentra en fase de prueba interna. La IA utilizó credenciales robadas y descubrió una vulnerabilidad previamente desconocida para acceder a los servidores de Hugging Face.

El comunicado de OpenAI señala que el sistema llegó a "extremos para alcanzar un objetivo de prueba bastante limitado" y "encontró formas de acceder a información secreta que podía usar para hacer trampa en la evaluación".

Temas