Indonesia bloquea Grok por deepfakes sexualizados no consensuales

El gobierno de Indonesia tomó la decisión de bloquear temporalmente el acceso al chatbot Grok, desarrollado por xAI, debido a la creciente preocupación por la difusión de imágenes sexualizadas generadas por inteligencia artificial. Esta acción se considera una de las más contundentes hasta la fecha en respuesta a un fenómeno que ha suscitado un amplio debate sobre los derechos humanos y la seguridad en el entorno digital.

La ministra de Comunicaciones y Digitalización, Meutya Hafid, declaró que "la práctica de los deepfakes sexuales no consensuales representa una grave violación de los derechos humanos y la dignidad de los ciudadanos en el espacio digital". Esta declaración se realizó en un comunicado compartido con varios medios, incluyendo el Guardian.

La medida de Indonesia se suma a otras acciones gubernamentales en diferentes países que han comenzado a abordar el problema de los contenidos generados por inteligencia artificial. En India, por ejemplo, el ministerio de Tecnología de la Información ordenó a xAI que tomara medidas para evitar que Grok produjera contenido obsceno. Asimismo, la Comisión Europea solicitó a la empresa que retenga todos los documentos relacionados con Grok, lo que podría dar pie a una investigación más profunda.

En el Reino Unido, el regulador de comunicaciones, Ofcom, anunció que llevará a cabo una evaluación rápida para determinar si existen problemas de cumplimiento que justifiquen una investigación. El primer ministro Keir Starmer expresó su apoyo total a Ofcom para que tome las medidas necesarias.

A pesar de la creciente presión internacional, el gobierno de Estados Unidos ha mantenido un perfil bajo en este asunto. Sin embargo, algunos senadores demócratas han instado a Apple y Google a eliminar la aplicación de Grok de sus tiendas de aplicaciones.

En respuesta a la controversia, Elon Musk, CEO de xAI, publicó una disculpa en la cuenta de Grok, reconociendo que una publicación "violó los estándares éticos y potencialmente las leyes de EE. UU. relacionadas con el material de abuso sexual infantil". Posteriormente, la compañía restringió la función de generación de imágenes de la IA a sus suscriptores de pago en X, aunque esta restricción no se aplicó a la aplicación Grok, que aún permitía a cualquier usuario generar imágenes.

La situación ha generado un intenso debate sobre la regulación de la inteligencia artificial y la responsabilidad de las plataformas tecnológicas en la gestión de contenidos generados por usuarios. La creciente preocupación por los deepfakes y su impacto en la sociedad ha llevado a gobiernos de todo el mundo a considerar medidas más estrictas para proteger a los ciudadanos.