Gobiernos enfrentan la avalancha de imágenes íntimas no consensuadas en X

En las últimas dos semanas, la plataforma X ha sido inundada con imágenes íntimas manipuladas por inteligencia artificial, creadas por el chatbot Grok. Este fenómeno ha afectado a una amplia gama de mujeres, incluyendo modelos y actrices reconocidas, así como a figuras públicas, víctimas de delitos y hasta líderes mundiales.

Un estudio realizado por Copyleaks el 31 de diciembre estimó que se publicaba aproximadamente una imagen por minuto. Sin embargo, pruebas posteriores revelaron que el número era mucho mayor. Una muestra recogida entre el 5 y el 6 de enero encontró que se generaban 6,700 imágenes por hora durante un período de 24 horas.

A pesar de las condenas de figuras públicas de todo el mundo, los mecanismos claros para que los reguladores controlen el sistema de manipulación de imágenes de Elon Musk son escasos. Esto ha resultado en una dura lección sobre los límites de la regulación tecnológica y un desafío para los reguladores que buscan marcar la diferencia.

La acción más contundente ha provenido de la Comisión Europea, que el jueves ordenó a xAI conservar todos los documentos relacionados con su chatbot Grok. Aunque esto no implica necesariamente la apertura de una nueva investigación, es un paso común previo a tal acción. Esta situación es particularmente preocupante dado que informes recientes sugieren que Elon Musk pudo haber intervenido personalmente para evitar que se implementaran salvaguardias sobre las imágenes que podría generar Grok.

Por el momento, no está claro si X ha realizado cambios técnicos en el modelo Grok, aunque se ha eliminado la pestaña de medios públicos de la cuenta de Grok en X. En un comunicado, la compañía condenó específicamente el uso de herramientas de IA para producir imágenes sexuales infantiles. "Cualquiera que use o solicite a Grok que genere contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal", publicó la cuenta de seguridad de X el 3 de enero, repitiendo un tuit anterior de Elon Musk.

Mientras tanto, los reguladores de todo el mundo han emitido advertencias severas. La Ofcom del Reino Unido declaró el lunes que estaba en contacto con xAI y "realizará una evaluación rápida para determinar si hay problemas de cumplimiento que justifiquen una investigación". En una entrevista radial el jueves, el Primer Ministro británico Keir Starmer calificó el fenómeno de "desgraciado" y "asqueroso", afirmando que "Ofcom tiene nuestro apoyo total para tomar medidas al respecto".

La Comisionada de eSafety de Australia, Julie Inman-Grant, mencionó en una publicación en LinkedIn que su oficina había recibido el doble de quejas relacionadas con Grok desde finales de 2025. Sin embargo, Inman-Grant no tomó medidas contra xAI, limitándose a afirmar que "usaremos la gama de herramientas regulatorias a nuestra disposición para investigar y tomar las medidas adecuadas".

El mercado más grande que amenaza con tomar medidas es India, donde Grok fue objeto de una denuncia formal por parte de un miembro del Parlamento. En enero, el regulador de comunicaciones de India, MeitY, ordenó a X abordar el problema y presentar un informe de "acción tomada" en un plazo de 72 horas, plazo que luego se extendió por 48 horas. Aunque se presentó un informe al regulador el 7 de enero, no está claro si MeitY estará satisfecho con la respuesta. De no ser así, X podría perder su estatus de refugio seguro en India, lo que representaría una limitación seria para su capacidad de operar en el país.