Grok limita generación de imágenes tras críticas por deepfakes sexualizados

LONDRES (AP) — Grok, el chatbot de IA de Elon Musk, ha comenzado a impedir que los usuarios gratuitos generen o editen imágenes tras la reacción global por los deepfakes sexualizados de personas, pero el cambio no ha satisfecho a las autoridades en Europa.

En las últimas semanas, el chatbot, al que se accede a través de la red social X de Musk, ha atendido una ola de solicitudes maliciosas de usuarios para modificar imágenes, como poner a mujeres en bikini o en posiciones sexualmente explícitas, señalan investigadores.

Los investigadores han advertido que, en algunos casos, algunas imágenes parecían representar a niños. Gobiernos de todo el mundo han condenado a la plataforma y han abierto investigaciones.

El viernes, Grok respondió a las solicitudes de alteración de imágenes con el mensaje: "La generación y edición de imágenes actualmente están limitadas a suscriptores de pago. Puedes suscribirte para desbloquear estas funciones."

Aunque las cifras de suscriptores de Grok no están disponibles públicamente, el viernes hubo una notable disminución en el número de deepfakes explícitos que Grok genera, en comparación con pocos días antes.

El chatbot seguía atendiendo solicitudes de imágenes, pero solo de usuarios de X con marcas de verificación azules otorgadas a suscriptores premium que pagan 8 dólares al mes por funciones que incluyen límites de uso más altos para el chatbot.

Hasta el momento, un portavoz de X no ha respondido a una solicitud de comentarios.

Las restricciones para los usuarios, salvo para los suscriptores de pago, no parecieron cambiar las opiniones de los líderes o reguladores en Europa.

"Esto no cambia nuestro problema fundamental. Suscripción de pago o no, no queremos ver tales imágenes. Es así de simple", dijo Thomas Regnier, portavoz de la Comisión Ejecutiva de la Unión Europea. La Comisión ya había criticado a Grok por un comportamiento "ilegal" y "espantoso".

El gobierno británico tampoco estaba satisfecho.

Los cambios de Grok "no son una solución", dijo Geraint Ellis, portavoz del primer ministro británico Keir Starmer, quien había amenazado el jueves con tomar medidas no especificadas contra X.

"De hecho, es insultante para las víctimas de misoginia y violencia sexual", afirmó, señalando que esto muestra que X "puede actuar rápidamente cuando quiere hacerlo".

"Esperamos una acción rápida", dijo, y agregó que "todas las opciones están sobre la mesa".

En declaraciones a la radiodifusora Greatest Hits, Starmer señaló que X necesita "ponerse las pilas y eliminar este material. Tomaremos medidas sobre esto porque simplemente no es tolerable."

Los reguladores de medios y privacidad del Reino Unido dijeron esta semana que han contactado a X y a xAI, la empresa de inteligencia artificial de Musk, para obtener información sobre las medidas tomadas para cumplir con las regulaciones británicas.

Francia, Malasia e India también han examinado la plataforma, y una legisladora brasileña ha pedido una investigación. La Comisión Europea ha ordenado a X que conserve todos los documentos internos y datos relacionados con Grok hasta finales de 2026, como parte de una investigación más amplia bajo la ley de seguridad digital de la UE.

Grok es de uso gratuito para los usuarios de X, quienes pueden hacerle preguntas en la red social. Pueden etiquetarlo en publicaciones que han creado directamente o en respuestas a publicaciones de otros usuarios.

Grok se lanzó en 2023. El verano pasado, la empresa agregó una función de generador de imágenes, Grok Imagine, que incluía un llamado "modo picante" que puede generar contenido para adultos.

El problema se amplifica por el hecho de que Musk presenta su chatbot como una alternativa más atrevida a los rivales con más salvaguardas, y porque las imágenes de Grok son públicamente visibles, por lo que pueden difundirse fácilmente.

___

Los periodistas de la AP Jill Lawless en Londres y Lorne Cook en Bruselas contribuyeron a este despacho.

___

Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.

Temas