Francia investigará al chatbot Grok de Musk por supuesta negación del Holocausto

PARÍS (AP) — El gobierno de Francia está tomando medidas contra el chatbot de inteligencia artificial Grok, propiedad del multimillonario Elon Musk, porque generó publicaciones en francés que cuestionaban el uso de cámaras de gas en Auschwitz, informaron las autoridades.

Grok, desarrollado por la empresa xAI de Musk e integrado en su red social X, escribió en una publicación ampliamente compartida en francés que las cámaras de gas en el campo de exterminio de Auschwitz-Birkenau fueron diseñadas para "desinfección con Zyklon B contra el tifus" en lugar de para asesinatos en masa, un lenguaje largamente asociado con la negación del Holocausto.

El Memorial de Auschwitz destacó el intercambio en X, afirmando que la respuesta distorsionaba los hechos históricos y violaba las normas de la plataforma.

En publicaciones posteriores en su cuenta de X, el chatbot reconoció que su respuesta anterior a un usuario de X era incorrecta, dijo que había sido eliminada y señaló evidencia histórica de que las cámaras de gas de Auschwitz que usaban Zyklon B fueron utilizadas para asesinar a más de 1 millón de personas. Las publicaciones de seguimiento no fueron acompañadas por ninguna aclaración de X.

En pruebas realizadas por The Associated Press el viernes, sus respuestas a preguntas sobre Auschwitz parecían proporcionar información históricamente precisa.

Grok tiene un historial de hacer comentarios antisemitas. A principios de este año, la empresa de Musk eliminó publicaciones del chatbot que parecían alabar a Adolf Hitler tras quejas sobre contenido antisemita.

La oficina del fiscal de París confirmó a The Associated Press el viernes que los comentarios de negación del Holocausto se han añadido a una investigación de ciberdelitos existente sobre X. El caso se abrió a principios de este año después de que las autoridades francesas expresaran su preocupación de que el algoritmo de la plataforma pudiera ser utilizado para interferencia extranjera.

Los fiscales dijeron que los comentarios de Grok ahora son parte de la investigación y que "se examinará el funcionamiento de la IA".

Francia tiene una de las leyes más estrictas de Europa contra la negación del Holocausto. Cuestionar la realidad o la naturaleza genocida de los crímenes nazis puede ser procesado como un delito, junto con otras formas de incitación al odio racial.

Varios ministros franceses, incluido el ministro de Industria, Roland Lescure, también han denunciado las publicaciones de Grok ante la fiscalía de París bajo una disposición que requiere que los funcionarios públicos informen sobre posibles delitos. En un comunicado del gobierno, describieron el contenido generado por la IA como "manifiestamente ilícito", diciendo que podría equivaler a difamación racialmente motivada y la negación de crímenes contra la humanidad.

Las autoridades francesas remitieron las publicaciones a una plataforma nacional de policía para contenido ilegal en línea y alertaron al regulador digital de Francia sobre posibles infracciones de la Ley de Servicios Digitales de la Unión Europea.

El caso se suma a la presión desde Bruselas. Esta semana, la Comisión Europea, el brazo ejecutivo de la UE, dijo que el bloque está en contacto con X sobre Grok y calificó parte del contenido del chatbot como "espantoso", afirmando que va en contra de los derechos y valores fundamentales de Europa.

Dos grupos de derechos franceses, la Ligue des droits de l’Homme y SOS Racisme, han presentado una denuncia penal acusando a Grok y X de cuestionar crímenes contra la humanidad.

X y su unidad de IA, xAI, no comentaron al respecto.

______

Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.