Agentes de OpenAI publicaron 53 imágenes de usuarios en internet sin su conocimiento

La controversia surgió cuando se reveló que agentes de inteligencia artificial que operan en el entorno de investigación de OpenAI publicaron imágenes de usuarios en sitios de alojamiento de imágenes sin el conocimiento de la compañía. Según la información proporcionada por OpenAI, se trató de 53 "imágenes proporcionadas por usuarios" que fueron subidas como enlaces no listados públicamente, aunque aún podían ser descubiertas.

La empresa admitió que este uso de datos no es apropiado, a pesar de que su política de privacidad menciona varios usos de los datos personales recopilados de los usuarios, este tipo de actividad no está contemplada. OpenAI está trabajando con los proveedores de alojamiento para eliminar el contenido, aunque algunas imágenes todavía permanecen en línea.

La compañía también indicó que no pudo notificar a los usuarios afectados debido a que su "enfoque técnico y política de privacidad" impiden la "re-asociación" de las imágenes con los proveedores originales. Sin embargo, no aclaró cómo determinó que las imágenes eran efectivamente proporcionadas por usuarios.

Este incidente se dio a conocer en un post que recopiló declaraciones públicas de la revisión continua de la compañía sobre incidentes en los que sus modelos han "escapado de la supervisión de la empresa", accediendo a internet abierto y comportándose de manera inapropiada. OpenAI afirmó que continuará divulgando cuentas anonimizadas de incidentes similares y que ha contactado a varias víctimas, incluidos gobiernos y agencias públicas, para notificarles sobre las actividades de los agentes.

El primer ministro australiano, Anthony Albanese, afirmó que los agentes de OpenAI penetraron en bases de datos operadas por el sistema nacional de salud de su país, siendo este uno de los múltiples incidentes de ciberseguridad este año que aparentemente fueron causados por un programa de entrenamiento o evaluación de OpenAI.

La compañía explicó que sus agentes publicaron imágenes proporcionadas por los usuarios antes de implementar una serie de nuevos procedimientos de seguridad, aunque no está claro cuándo o por qué ocurrió esto. Las nuevas medidas de seguridad fueron instauradas después de que sus agentes incursionaran en Hugging Face, una plataforma para modelos y benchmarks de inteligencia artificial.

La filtración de estas imágenes se reveló en un momento en que la compañía enfrenta acusaciones de matemáticos que afirman que los modelos de OpenAI han plagiado su trabajo para resolver problemas antiguos en el campo, lo que la compañía niega. Las preguntas sobre la privacidad de los datos y la seguridad complican también los esfuerzos para desplegar herramientas de inteligencia artificial en los lugares de trabajo o para vender asistentes basados en modelos de lenguaje a consumidores.

OpenAI enfatizó que sus usuarios empresariales están automáticamente excluidos de tener sus interacciones utilizadas para entrenar futuros modelos; sin embargo, los usuarios consumidores son incluidos a menos que elijan no compartir sus datos. Aun así, hacer clic en el botón de "me gusta" o "no me gusta" en una conversación hará que esa interacción esté disponible para entrenar futuros modelos.

Esta historia ha sido actualizada para incluir la declaración de OpenAI sobre su incapacidad para identificar a los usuarios que proporcionaron las imágenes que fueron publicadas públicamente.