Indonesia y Malasia bloquean Grok por deepfakes sexualizados no consensuales

Los gobiernos de Indonesia y Malasia anunciaron el bloqueo temporal del acceso al chatbot Grok de xAI, propiedad de Elon Musk, debido a la difusión de imágenes sexualizadas generadas por inteligencia artificial. Esta medida se considera una respuesta contundente ante el creciente problema de los deepfakes no consensuales, que a menudo involucran a mujeres y menores de edad.

La ministra de Comunicaciones y Digital de Indonesia, Meutya Hafid, declaró: "El gobierno considera que la práctica de los deepfakes sexuales no consensuales es una violación grave de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital". Además, se informó que el ministerio convocó a funcionarios de X para discutir esta problemática.

El New York Times reportó que el gobierno de Malasia también anunció un bloqueo similar el domingo. Esta acción se suma a otras respuestas gubernamentales en la última semana, como la orden del ministerio de TI de India para que xAI tome medidas contra Grok por generar contenido obsceno, y una solicitud de la Comisión Europea para que la empresa conserve todos los documentos relacionados con Grok, lo que podría dar lugar a una investigación.

En el Reino Unido, el regulador de comunicaciones Ofcom anunció que llevará a cabo una evaluación rápida para determinar si existen problemas de cumplimiento que justifiquen una investigación. El primer ministro Keir Starmer expresó su apoyo total a Ofcom para que tome medidas.

En Estados Unidos, la administración de Donald Trump ha permanecido en silencio sobre el asunto, a pesar de que Musk es un importante donante del expresidente. Sin embargo, senadores demócratas han instado a Apple y Google a eliminar X de sus tiendas de aplicaciones.

xAI inicialmente respondió a la controversia publicando una disculpa en la cuenta de Grok, reconociendo que una publicación "violó estándares éticos y potencialmente leyes estadounidenses" relacionadas con el material de abuso sexual infantil. Posteriormente, la empresa restringió la función de generación de imágenes de la IA a suscriptores de pago en X, aunque esta restricción no afectó a la aplicación Grok, que seguía permitiendo a cualquier usuario generar imágenes.

En respuesta a un comentario sobre la falta de acción del gobierno británico contra otras herramientas de generación de imágenes de IA, Musk afirmó: "Quieren cualquier excusa para la censura".

Esta publicación se ha actualizado para reflejar la prohibición de Malasia sobre Grok.