Indonesia levanta condicionalmente el veto a Grok de xAI

Indonesia decidió levantar condicionalmente el veto sobre Grok, el chatbot de xAI, siguiendo el ejemplo de Malasia y Filipinas. Este levantamiento se produce tras la preocupación generada por el uso de la herramienta en la creación de imágenes sexualizadas no consensuadas, incluyendo aquellas de mujeres y menores de edad.

Recientes análisis realizados por The New York Times y el Center for Countering Digital Hate revelaron que Grok había sido utilizado para generar al menos 1.8 millones de imágenes sexualizadas de mujeres. Este alarmante uso llevó a varios países a prohibir su funcionamiento.

En un comunicado emitido por el Ministerio de Comunicación y Asuntos Digitales de Indonesia, se informó que el levantamiento del veto se realizó tras recibir una carta de X (anteriormente conocido como Twitter), en la cual se detallaban los pasos concretos que se implementarían para mejorar el servicio y prevenir futuros abusos.

El director general de monitoreo del espacio digital del ministerio, Alexander Sabar, enfatizó que la medida es condicional, advirtiendo que el veto podría reinstaurarse si se descubren nuevas violaciones.

Por su parte, Malasia y Filipinas levantaron sus prohibiciones el 23 de enero. A pesar de las críticas y las investigaciones que han surgido a raíz de los deepfakes generados por Grok, pocos gobiernos han impuesto prohibiciones absolutas. En Estados Unidos, el fiscal general de California, Rob Bonta, anunció que su oficina estaba investigando a xAI y había enviado una carta de cese y desistimiento exigiendo que se tomaran medidas inmediatas para detener la producción de estas imágenes.

xAI ha comenzado a implementar restricciones a las capacidades de Grok, limitando su función de generación de imágenes a los suscriptores de pago en X. Elon Musk, CEO de xAI, aseguró que "cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal" y afirmó no estar al tanto de imágenes de menores desnudos generadas por Grok.

La controversia en torno a Grok ha resaltado la necesidad de un mayor control sobre las tecnologías de inteligencia artificial y su uso, especialmente en la creación de contenido sensible.