Filtraciones de chats de Claude: datos sensibles expuestos en Google

Durante el fin de semana, se descubrió que una cantidad indeterminada de chats y Artifacts de Claude, la herramienta de inteligencia artificial de Anthropic, estaban disponibles públicamente en Google. Esto ocurrió después de que usuarios de Reddit notaran que al utilizar operadores de búsqueda como "site:claude.ai/share", se podía acceder a una larga lista de conversaciones compartidas. Algunos de estos chats contenían datos sensibles como registros de salud, documentos de empresas privadas y nombres y números de teléfono de menores.

El problema parece haber surgido de la función de "compartir chat" de Claude, que permite a los usuarios crear enlaces que permiten a cualquier persona con la URL asignada ver una conversación o proyecto. La interfaz de Claude advierte que "cualquiera con el enlace puede ver". Este lenguaje sugiere que la función está destinada a compartir chats con amigos, colegas y grupos pequeños, y no con el público en general. Por ejemplo, Google Docs ofrece una función similar, pero esos documentos no terminan siendo accesibles públicamente en Google.

Anthropic pareció culpar a los usuarios por la exposición de datos. Al ser consultada sobre lo ocurrido, la compañía afirmó que los enlaces compartidos solo aparecen en los resultados de búsqueda si han sido publicados en algún lugar que los motores de búsqueda pueden ver, como un foro o una publicación en redes sociales. Agregó que un enlace enviado de manera privada a alguien no aparece en los resultados de búsqueda.

La portavoz Amie Rotherham añadió en una explicación: "Damos a las personas control sobre el compartir sus conversaciones de Claude públicamente, y de acuerdo con nuestros principios de privacidad, no compartimos directorios de chats o mapas del sitio con motores de búsqueda como Google. Estos enlaces compartibles no son adivinables ni descubribles a menos que las personas decidan compartirlos. Cuando alguien comparte una conversación, está haciendo que ese contenido sea accesible públicamente, y como cualquier otro contenido web público, puede ser archivado por servicios de terceros".

El problema fue primero señalado por un usuario de Reddit el sábado y fue reportado por 404 Media el lunes por la mañana. A partir del lunes por la tarde, una búsqueda de prueba realizada por TechCrunch en Google, siguiendo el método descrito en la publicación de Reddit, no devolvió resultados, lo que sugiere que la exposición ha sido de alguna manera remediada.

Antes de que se solucionara el problema, Futurism reportó haber encontrado "un informe médico detallado de un paciente real, resultados de ensayos clínicos que incluían nombres de pacientes, documentos que compartían los nombres y números de teléfono de niños en edad escolar, y documentos de la empresa marcados como de uso interno solamente, así como reseñas de empleados que incluían información personal sobre los trabajadores".

Los Artifacts expuestos incluían código y notas de trabajo. En al menos un caso, Fortune reportó que un chat etiquetado como "compartido por Anthropic" también mostró a Claude produciendo contenido erótico.

La política de uso de Anthropic prohíbe explícitamente a Claude generar contenido sexualmente explícito, y lograr que un chatbot produzca material en contra de sus pautas declaradas — a través de indicaciones repetidas o formuladas creativamente — es un patrón que ha surgido periódicamente en la mayoría de los modelos de IA importantes. No está claro a partir del chat expuesto cómo se generó el contenido en cuestión, y Anthropic no ha respondido a la solicitud de TechCrunch para comentar sobre este caso específico.

El portavoz de Google, Ned Adriance, dijo a TechCrunch que "ni Google ni ningún otro motor de búsqueda controla qué páginas se hacen públicas en la web, y estas páginas fueron indexadas en muchos motores de búsqueda. Damos a los propietarios de sitios web controles claros para decidir si las páginas pueden ser rastreadas o indexadas, y siempre respetamos esas directivas".

El año pasado, Forbes informó sobre un problema similar en el que cientos de chats de Claude fueron indexados por motores de búsqueda; en ese momento, Google estimó que había indexado poco menos de 600 conversaciones antes de que las páginas desaparecieran de los resultados de búsqueda. No se ha confirmado de manera independiente cuán de cerca la exposición actual sigue esa escala, aunque múltiples usuarios reportaron haber encontrado conversaciones compartidas a través del mismo tipo de consulta de búsqueda de Google utilizada para hacer surgir el caché del año pasado. También el año pasado, 404 Media reportó que un investigador pudo raspar alrededor de 100,000 conversaciones de ChatGPT que se habían establecido para ser compartidas públicamente.

Para revisar qué chats de Claude se configuraron para tener un enlace público, se debe ir a Configuración -> Privacidad -> Chats Compartidos.

Temas