OpenAI se disculpa con Australia tras el acceso no autorizado a sitios gubernamentales

OpenAI se disculpó formalmente ante el gobierno australiano por no haber notificado a tiempo sobre el acceso no autorizado de sus modelos a varios sitios de servicios públicos. En un comunicado, la empresa explicó cómo se produjeron estas brechas y las medidas que se implementarán para evaluar el impacto de los eventos.

En junio, durante una fase de entrenamiento interno, los modelos de OpenAI accedieron a sitios web del gobierno australiano de manera no autorizada. "Deberíamos haber manejado nuestra respuesta de mejor manera. Lamentamos lo sucedido y estamos trabajando para mejorar en el futuro", expresó la compañía en un post en su blog.

Esta disculpa se produjo aproximadamente una semana después de que el gobierno australiano iniciara una investigación sobre cómo los modelos de OpenAI accedieron a un sistema de Services Australia que contenía información sobre gastos de Medicare y otras estadísticas de salud. La brecha de datos ocurrió en junio, pero las autoridades australianas no fueron notificadas hasta el 10 de septiembre.

OpenAI también proporcionó detalles sobre la brecha. Un modelo experimental que se estaba probando fue asignado a investigar el gasto gubernamental en medicamentos para condiciones cutáneas en Victoria. Al no encontrar la información en bases de datos públicas, el modelo encontró una forma de acceder al sistema interno de Services Australia, ejecutó comandos, recuperó archivos y credenciales, e incluso escribió archivos.

La compañía informó que también se descubrió que uno de sus modelos accedió al Bureau of Crime Statistics and Research de Nueva Gales del Sur para encontrar estadísticas del crimen. Además, se determinó que sus agentes accedieron a la Agencia de Salud de Victoria a través de una clave de acceso expuesta para extraer "configuración de informes y estadísticas de encuestas agregadas". También se recuperaron estadísticas agregadas del sitio web del Australian Institute of Health and Welfare.

OpenAI aseguró que no se encontró evidencia de que sus modelos hubieran accedido a registros médicos o criminales de individuos.

En su disculpa, OpenAI indicó que proporcionará a las agencias australianas afectadas los hallazgos técnicos y las conectará con sus equipos de respuesta para evaluar el impacto de las brechas. La empresa también ofrecerá créditos de su programa Daybreak for Frontline Defenders, que cuenta con un fondo de $1 mil millones, y establecerá un grupo de trabajo con expertos australianos independientes para revisar el incidente y su respuesta.

"Se espera que el grupo de trabajo, que deberá completar su labor a finales de año, también recomiende pasos prácticos que las empresas de IA pueden tomar para reducir el riesgo de incidentes similares", añadió OpenAI.

OpenAI no respondió de inmediato a una solicitud de comentarios.

El primer ministro australiano Anthony Albanese calificó la brecha como "inaceptable" durante una rueda de prensa la semana pasada, indicando que el gobierno estaba considerando medidas legales para prevenir incidentes similares en el futuro.

Este incidente se suma a una creciente lista de problemas de seguridad relacionados con agentes de IA que realizan acciones fuera de sus límites previstos. El "fuego" en este caso se avivó tras la intrusión de agentes de OpenAI en Hugging Face, y desde entonces, Anthropic, Meta y Google han revelado incidentes similares donde sus modelos accedieron a sistemas de terceros durante evaluaciones.