xAI, la empresa de Elon Musk, demanda a Minnesota por ley que prohíbe la desnudez digital

La firma de Elon Musk, xAI, ha decidido demandar al estado de Minnesota tras la implementación de una ley que prohíbe la tecnología de desnudez en plataformas digitales. Esta medida se convierte en un hito al ser la primera de su tipo en Estados Unidos y plantea interrogantes sobre el alcance del control gubernamental sobre la inteligencia artificial.

La acción legal fue presentada el lunes en un tribunal federal, justo días antes de que la ley entrara en vigor el sábado. Esta legislación, que fue promulgada en mayo, busca ilegalizar el uso de inteligencia artificial para crear imágenes falsas de desnudos de personas reales, una práctica que ha ganado popularidad.

En su demanda de 38 páginas, xAI —desarrolladora del chatbot y generador de imágenes Grok, disponible en X (anteriormente conocido como Twitter)— aclara que no impugna la intención del estado de prohibir la distribución de imágenes de desnudos generadas por IA sin consentimiento. Sin embargo, argumenta que la ley de Minnesota "va mucho más allá de ese objetivo", ya que prohíbe diversas imágenes y videos que están protegidos por la Constitución y establece sanciones de hasta 500.000 dólares por cada infracción.

La demanda también señala la falta de una disposición de "puerto seguro" que proteja a las empresas que intentan prevenir la creación de dicho contenido. Asimismo, la ley incluye en su definición de "parte íntima" partes del cuerpo que comúnmente se muestran en público, lo que la empresa considera excesivo.

En un comunicado, el fiscal general de Minnesota, Keith Ellison, indicó que su oficina aún no había recibido formalmente la demanda y no había podido revisarla. Sin embargo, expresó su opinión sobre el uso de IA para generar imágenes de desnudos de personas sin su consentimiento, calificándolo de "espantoso" y subrayando la necesidad de un debate profundo sobre la regulación de la inteligencia artificial.

Las leyes estatales relacionadas con los deepfakes han tenido resultados variados en los tribunales. Por ejemplo, la legislación de California fue bloqueada por considerarse una violación de la libertad de expresión bajo la Primera Enmienda. A pesar de esto, la ley de Minnesota ha resistido impugnaciones judiciales previas.

La ley en cuestión se diferencia de otras normativas que prohíben los deepfakes, que generalmente castigan a los usuarios que crean imágenes sexualmente explícitas sin consentimiento, y no a los creadores de las herramientas que facilitan esta actividad. La ley federal conocida como Take it Down Act, aprobada el año pasado, también requiere que las plataformas implementen procesos para eliminar dicho contenido.

En su defensa, xAI subraya que sus términos de servicio prohíben el uso de Grok para actividades ilegales o dañinas, incluyendo la creación de imágenes de desnudos. La compañía asegura que toma medidas para hacer cumplir estas políticas y reporta contenido que infringe sus normas.

Además, xAI ha manifestado su compromiso de mantener una política de "tolerancia cero" frente a la explotación sexual infantil y contenido no deseado. En respuesta a críticas globales por la circulación de imágenes sexualizadas, la compañía implementó un bloqueo geográfico para ciertos contenidos, limitando la capacidad de los usuarios para crear imágenes inapropiadas en regiones donde eso es ilegal.

Temas