Bloquean un sitio en Corrientes por generar imágenes íntimas falsas con IA de adolescentes

La jueza Marta Rut Legarreta dictó una resolución que establece el bloqueo de un sitio web en la provincia de Corrientes que generaba imágenes de desnudez falsas utilizando inteligencia artificial. Este sitio aprovechaba los rostros de adolescentes, los cuales fueron utilizados sin consentimiento para crear contenido sexual simulado. La decisión se tomó luego de que el Ministerio Público Fiscal provincial tomara conocimiento sobre el uso de esta herramienta tecnológica y su difusión a través de WhatsApp.

La jueza expresó que "el daño concreto se produjo por el funcionamiento de esta aplicación, que permite crear y compartir contenido sexual simulado sin verificar edad ni consentimiento". Legarreta fundamentó su decisión en los riesgos que conlleva el entorno digital, especialmente para niños y adolescentes, afirmando que "el entorno digital no garantiza barreras efectivas de edad ni consentimiento, lo que expone particularmente a los menores a formas modernas de violencia simbólica, digital y psicológica".

Consecuentemente, se solicitó con carácter urgente la intervención del ENACOM para llevar a cabo el bloqueo de acceso desde Argentina al mencionado sitio web y a sus servidores DNS. Además, se instruyó a la Unidad Fiscal Especializada en Ciberdelincuencia (UFECI) para que colabore en las investigaciones y promueva medidas que permitan identificar a los responsables de esta práctica delictiva.

La autoridad judicial indicó que "la medida regirá hasta tanto se acredite el cese del riesgo de daño, priorizando el interés superior de las adolescentes afectadas". Este caso tuvo origen en la denuncia realizada por un progenitor, quien aportó información sobre la aplicación utilizada para manipular imágenes de menores, generando contenido falso y comprometedor.

Según un informe del Área de Seguridad Informática del Poder Judicial, la herramienta digital en cuestión "emplea modelos avanzados de inteligencia artificial para eliminar digitalmente ropa en fotografías y simular imágenes íntimas". El contenido afectado habría sido difundido principalmente a través de WhatsApp.

El informe pericial detalla que se utilizaron modelos avanzados de inteligencia artificial para simular la eliminación digital de ropa en fotografías reales, generando imágenes manipuladas que violan la privacidad y dignidad de las personas. Se subrayó, además, que el sitio carecía de controles de edad, almacenamiento seguro y transparencia sobre sus desarrolladores, lo que intensifica los riesgos de abuso, acoso y difusión no consentida de contenido íntimo.

Temas