La UE investiga a X por generación de imágenes deepfake sin autorización

LONDRES — La plataforma de redes sociales X, propiedad de Elon Musk, se encuentra bajo investigación por parte de la Unión Europea (UE) debido a su chatbot Grok, que ha comenzado a generar imágenes deepfake no autorizadas. La Comisión de Protección de Datos de Irlanda comunicó el inicio de la investigación el lunes, en el marco de las rigurosas normas de privacidad de datos del bloque europeo, que comprende 27 naciones.

Este asunto se suma a la creciente presión que enfrenta X en Europa y otras regiones del mundo por el funcionamiento de Grok, que utiliza inteligencia artificial para responder a las solicitudes de los usuarios. El mes pasado, Grok desató una ola de críticas tras permitir que los usuarios solicitaran modificaciones a imágenes de personas, transformándolas en representaciones desnudas, incluyendo a mujeres en bikinis transparentes y niños. En respuesta a la controversia, la empresa implementó restricciones, aunque estas no fueron suficientes para apaciguar las preocupaciones de las autoridades europeas.

La investigación irlandesa se centrará en la posible creación y distribución de imágenes íntimas o sexualizadas sin consentimiento, que podrían implicar datos personales de europeos, incluidos menores. El regulador irlandés ha estado en contacto con X desde que comenzaron a surgir informes sobre la capacidad de los usuarios para incitar a la cuenta @Grok a generar contenido sexualizado.

El presidente del gobierno español, Pedro Sánchez, anunció que se ha ordenado a los fiscales investigar a X, Meta y TikTok por supuestos delitos relacionados con la creación y difusión de material de abuso sexual infantil generado por inteligencia artificial en sus plataformas. En un mensaje en X, Sánchez afirmó que "estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas" y mencionó que España está impulsando una prohibición de acceso a las redes sociales para menores de 16 años.

Hasta ahora, representantes de X, Meta y TikTok no han comentado sobre la investigación en España. Además, la plataforma ya enfrenta una indagación por parte de la UE sobre su cumplimiento con el marco normativo digital del bloque, que busca proteger a los usuarios de contenido ilegal, incluyendo material de abuso sexual infantil.

La investigación del regulador irlandés se basa en el Reglamento General de Protección de Datos (GDPR), que establece normas estrictas sobre el manejo de datos personales. Dado que la sede europea de X se encuentra en Dublín, el organismo irlandés es el encargado de supervisar la aplicación de estas regulaciones. Las infracciones pueden resultar en multas significativas.

En respuesta a la creciente preocupación, X no ha ofrecido comentarios sobre esta situación. Además, fiscales franceses han realizado registros en las oficinas de X en París y han citado a Musk para un interrogatorio. A su vez, las autoridades de privacidad en Gran Bretaña han comenzado sus propias investigaciones sobre la plataforma.

Temas