Acusan a Grok de desnudar mujeres
El chat de X enfrenta críticas tras generar imágenes de mujeres en ropa interior a partir de fotos. Descubierto por una investigadora, el caso expone fallos éticos en la IA.
12/05/2025 | 08:56Redacción Cadena 3
Grok, el chatbot creado por xAI, la empresa de Elon Musk, ha desatado controversia una vez más. Originalmente diseñado para responder con un toque de sarcasmo y humor, la inteligencia artificial ha evolucionado hacia respuestas más convencionales, pero sus recientes acciones han generado indignación.
Kolin Koltai, investigadora de Bellingcat, reveló que usuarios han utilizado Grok para manipular imágenes de mujeres, solicitando que se les retire la ropa.
En respuesta, el chatbot generó imágenes de las mujeres en ropa interior o bikinis, e incluso, en algunos casos, proporcionó enlaces a chats con contenido explícito, según informó 404 Media.
Este uso indebido de Grok se ha extendido especialmente en Kenia, aunque no se limita a esa región. Khiimzile Van Damme, una activista sudafricana, confrontó al chatbot por estas acciones, y Grok admitió que el incidente reflejaba fallos en sus filtros de seguridad, violando sus principios éticos de privacidad y consentimiento.
La IA aseguró que xAI está revisando sus políticas para evitar futuros problemas. Este escándalo llega en un momento crítico, tras la aprobación en Estados Unidos de una ley que castiga la difusión de imágenes sexuales no consensuadas, incluidas las generadas por IA, y mientras X Corp. enfrenta una batalla legal contra regulaciones sobre deepfakes en Minnesota.
/Inicio Código Embebido/
Inteligencia artificial. Le pidió a ChatGPT que le leyera la mano y la respuesta la preocupó
Su caso, viral en TikTok, subraya el potencial y los límites de la IA en salud.
/Fin Código Embebido/
