El chatbot de X desnuda mujeres y acusan a Elon Musk de acoso digital

Buenos Aires, 3 enero (NA) – Los usuarios de la red social X pidieron a Elon Musk que cambie el asistente de inteligencia artificial Grok, creado por xAI (también empresa del magnate sudafricano), debido a que modificó imágenes de menores de edad, lo cual constituye abuso sexual infantil y acoso sexual.

Los suscriptores de X Premium están utilizando la inteligencia artificial (IA) de la red social, Grok, para generar imágenes no consensuadas de mujeres en bikini o ropa interior, una inquietante "tendencia" que ha llevado a usuarias de todo el mundo a pedir una mayor restricción de la herramienta y la eliminación del contenido sexual generado por la IA sin consentimiento, de acuerdo con la información recogida por la Agencia Noticias Argentinas.

En lo que pareció ser una respuesta ante la ofensiva contra la creación de imágenes de personas en bikini o poca ropa, Musk tomó parte en la polémica con una foto suya en bikini.

El sudafricano le pidió para ello a Grok que modificara una imagen de alguien en bikini generada por IA para que se pareciera a él, petición que la herramienta ejecutó sin problemas.

El chatbot Grok responde a pedidos de usuarios que suben fotos de personas y piden que les quite la ropa.

Quitar la ropa

El chatbot de X vuelve a encontrarse en el centro de la polémica por responder a usuarios que piden quitarle la ropa a mujeres en distintas imágenes, a lo que el sistema de inteligencia artificial da curso representándolas con lencería, en bikini o desnudas, reveló el portal 20bits.

Los cuestionamientos que surgieron en las redes obedecen a que este tipo de imágenes podrían ser consideradas como una forma de acoso digital, ya que no fueron consentidas, aunque en ocasiones los rostros cambien, al tratarse de imágenes creadas a través de modelos de IA generativos.

Esta misma polémica ya estalló a comienzos de agosto pasado, tras el lanzamiento de Grok Imagine, herramienta que permite generar imágenes hiperrealistas y animaciones a partir de texto o de fotografías y que brindaba la posibilidad de crear contenido explícito, también llamado 'no apropiado para el trabajo' (NSFW, por sus siglas en inglés).

Incluso, Elon Musk resaltó la función 'Spicy' (Picante, en español) y compartió algunas de esas producciones en su cuenta de X, incluyendo desnudos femeninos parciales.

Clare McGlynn, profesora de leyes especializada en abusos en línea en la Universidad de Durham (Reino Unido), define este procedimiento de creación de imágenes como "misoginia por diseño" y critica a X por no prevenir la sexualización de las mujeres a pesar de las políticas que prohíben las representaciones pornográficas de personas reales.

Violación de la privacidad

Entre las muchas críticas que recibe este procedimiento de Grok figura la del actor y director español José Mellinas, quien cuestionó que el sistema de IA considere que "no ha incumplido ninguna norma" con estas creaciones. "¿De verdad este es el punto al que hemos llegado?", se preguntó.

#AgenciaNA

Temas