Adolescentes demandan a xAI de Musk por creación de imágenes sexuales explícitas

NASHVILLE, Tennessee, EE.UU. — Tres adolescentes de Tennessee han interpuesto una demanda contra xAI, la empresa de inteligencia artificial de Elon Musk, al afirmar que las herramientas de generación de imágenes de la compañía fueron utilizadas para transformar fotos reales de ellas en imágenes de contenido sexual explícito.

Las estudiantes de secundaria, que han optado por utilizar seudónimos en el proceso legal, presentaron la demanda en California, donde se encuentra la sede de xAI. Buscan que el caso sea reconocido como una demanda colectiva, representando a lo que, según indican, son miles de víctimas similares que eran menores de edad cuando se crearon las imágenes.

En la demanda, se menciona que a una de las demandantes, conocida como Jane Doe 1, se le notificó de manera anónima en diciembre que alguien estaba distribuyendo imágenes sexualmente explícitas de ella en un sitio de redes sociales.

"Al menos cinco de estos archivos, un video y cuatro imágenes, mostraban su rostro y cuerpo reales en entornos familiares, pero transformados en poses sexualmente explícitas", se detalla en el documento judicial.

La demanda sostiene que la persona que compartía las imágenes conocía a Doe y utilizó las herramientas de generación de imágenes de xAI para convertir fotos auténticas de ella en imágenes abusivas. Entre las imágenes se encontraba una que se tomó de una fotografía del baile de bienvenida y otra de un anuario escolar.

Además, se revela que el responsable de la distribución también creó imágenes explícitas de al menos otras 18 menores, dos de las cuales son co-demandantes en esta causa. A finales de diciembre, la policía local detuvo al acusado y confiscó su teléfono, encontrando que había subido las imágenes a varias plataformas para intercambiarlas por contenido sexual de otras menores.

Otras empresas de inteligencia artificial han prohibido que sus generadores produzcan contenido sexualmente explícito, pero Musk ha promovido la capacidad de su chatbot Grok para crear contenido "picante", según la demanda.

Sin embargo, se argumenta que actualmente no hay forma de prevenir la generación de imágenes explícitas de adultos mientras se bloquea la creación de imágenes de menores. Se sostiene que xAI era consciente de que Grok podría producir imágenes sexualmente explícitas de menores, pero aun así decidió lanzarlo al mercado.

La demanda indica que la persona que distribuyó las imágenes de las demandantes utilizó una aplicación que tenía licencia de la tecnología de xAI o que de alguna manera adquirió acceso a Grok, actuando como intermediario.

xAI no respondió a un correo electrónico de la Associated Press solicitando comentarios. Sin embargo, en una publicación en X del 14 de enero, la empresa afirmaba que estaba comprometida con hacer de su plataforma un lugar seguro, manteniendo una política de tolerancia cero ante cualquier forma de explotación sexual infantil.

"Actuamos para eliminar contenido infractor de alta prioridad, incluyendo material de abuso sexual infantil (CSAM) y desnudez no consentida, tomando las medidas adecuadas contra las cuentas que violan nuestras reglas", se mencionó en el comunicado.

Las estudiantes demandantes expresaron su preocupación de que las imágenes generadas permanezcan en internet de manera indefinida, temiendo ser acosadas debido a que sus nombres y el de su escuela están ligados a los archivos. También les preocupa que sus amigos y compañeros hayan visto las fotos y videos, que parecen auténticos, y quién más podría verlos en el futuro.

Jane Doe 1 relató que ha padecido ansiedad, depresión y estrés, enfrentando dificultades para comer y dormir, además de sufrir pesadillas recurrentes. Por su parte, Jane Doe 2 ha comenzado a aislarse, evitando estar en el campus escolar y temiendo asistir a su graduación. Jane Doe 3 vive con un constante miedo y ansiedad de que alguien reconozca su rostro en las imágenes generadas.