El profundo drama detrás de las fotos trucadas con IA para generar pornografía

Juan Federico

Cuando el chico desconocido que estaba sentado a varias mesas de distancia en el patio de comidas de un centro comercial la miró de refilón, ella sintió que una enorme sombra se le venía encima. ¿Acaso aquel joven tenía en su celular una foto trucada de una mujer desnuda con el rostro de ella?

Desde hace unos meses, su adolescencia tuvo un corte abrupto. No quiere salir de su casa. Siente que en la calle todos la reconocen por algo que no hizo. Mucho menos piensa en asistir a alguna fiesta de amigos. ¿Y si acaso los varones se piensan que ella es realmente esa joven que aparece en fotos manteniendo todo tipo de relaciones sexuales? ¿Cómo saber si se le acercan por un interés genuino o creyendo que van a encontrarse a una joven con la que podrían encamarse de manera veloz?

¿En cuántos más celulares estarán almacenadas esas imágenes porno creadas de manera artificial, pero que llevan su rostro? ¿Hasta dónde durará semejante pesadilla? ¿Cuántas veces más a lo largo de su vida se topará con alguna mirada o alguna pregunta a la que deberá responder que ella jamás protagonizó lo que esas escenas muestran?

En las últimas semanas, una cruel amenaza informática se hizo realidad en Córdoba y en distintos puntos del país. Mujeres adolescentes y más grandes comenzaron a advertir cómo personas de su entorno escolar o vecinal, y también desconocidos, robaron fotos de ellas en situaciones normales, vestidas, para recrear con inteligencia artificial imágenes y videos pornográficos. Los rostros de ellas son acompañados por cuerpos ficticios, desnudos, en relaciones sexuales, a través de un sistema informático que logra borronear a los bordes que separa la realidad de la ficción.

/Inicio Código Embebido/

Mirá también

Delitos digitales

"Es un brutal abuso", dijo la mamá de una víctima de imágenes editadas con IA

/Fin Código Embebido/

Por primera vez, la humanidad ya no puede tener la certeza de que aquello que está observando sea real de verdad. Un mundo paralelo, falso, pero con una atroz apariencia de realidad se está recreado, todos los días, sólo a través de cualquier aplicación de inteligencia artificial.

Un mundo virtual con consecuencias dramáticamente reales.

En San Jerónimo Sud, una comuna de poco menos de 3.000 habitantes ubicada a 35 kilómetros de Rosario, 80 vecinas no salen del estupor. A fines del año pasado descubrieron que un vecino había colocado cámaras en su verdulería para fotografiarlas cuando iban a comprar. Nada extraño, salvo que luego, con esas imágenes creaba fotos y videos pornográficos, en los que utilizaba los rostros de ellas y sus propias identidades. A través de Telegram, la red social encriptada que se utiliza para todo tipo de situaciones indecibles, comenzó a vender este contenido. Otros vecinos, habitantes de localidades cercanas y personas que viven a miles de kilómetros asoman entre los "clientes" de este negocio perverso.

Jóvenes, madres, abuelas, maestras, empleadas, jefas. Todas tuvieron que explicar lo que nunca habían hecho. Se sintieron (y se sienten) bajo una sospecha increíble. Parejas que pusieron en duda la fidelidad, hijos que preguntaron si su madre tenía algún pasado que jamás les había contado, alumnos que se ruborizaban al ver entrar a su seño en el aula. 

/Inicio Código Embebido/

Mirá también

Delitos digitales

El calvario de todo un pueblo a raíz de las imágenes trucadas de sus vecinas

/Fin Código Embebido/

El fiscal Aquiles Balbis por ahora no encontró el resquicio legal para avanzar en serio contra el perpetrador de semejante desquicio. El verdulero y su mujer fueron allanados, en sus dispositivos se les secuestraron miles de fotos, pero continúan en libertad, viviendo ahora en un pueblo vecino. A él hace unos años otra investigación lo tuvo en la mira luego de que llegara un reporte internacional que vinculaba su señal de internet con el consumo y distribución de material pedófilo.

En una escuela del partido bonaerense de San Martín, un grupo de chicas descubrió con espanto que un compañero de sólo 15 años había montado un impresionante negocio creando fotos y videos pornográficos. 

/Inicio Código Embebido/

/Fin Código Embebido/

El fiscal cordobés Franco Pilnik, especialista en ciberdelito, no duda en afirmar que urge un cambio de leyes. Que el poder legislativo se arremangue y logre aprobar cuanto antes una modificación del Código Penal para lograr encuadrar estos episodios en lo que realmente son: delitos graves.

Sucede que hoy los fiscales tienen a mano figuras como bullying o de delitos sexuales que no terminan de acomodarse a esta situación. ¿Es bullying si nunca les mandaron estas fotos a las víctimas? ¿Hay un ataque contra la intimidad si en realidad el cuerpo no es de ellas, sino que es pura ficción?

En las últimas horas, el fiscal de Violencia Familiar de Córdoba, Pablo Cuenca Tagle logró encontrar lo que se supone un sendero más seguro, por el momento. En un caso sucedido hace pocos meses y que tuvo como epicentro a un colegio preuniversitario de la ciudad, se imputó a un alumno de 18 años por lesiones graves en un contexto de violencia de género. ¿Qué clases de lesiones? Una afectación psicológica de las adolescentes que quedaron involucradas. El Código Penal establece un horizonte de prisión efectiva en caso de avanzar en esta dirección.

"Se dispuso el allanamiento a los domicilios del posible autor, arrojando resultados positivos, secuestrando gran cantidad de dispositivos electrónicos, a efecto de preservar la prueba y que el delito no siga produciendo consecuencias", indicó el fiscal.

/Inicio Código Embebido/

Mirá también

Violencia de género

Imputaron en Córdoba al alumno que subió fotos editadas con IA de sus compañeras

/Fin Código Embebido/

Pero todo se torna más difuso cuando el perpetrador en menor de 18 años. Inimputable. ¿Cómo puede ser que sus padres no se dieran cuenta de que estaban engordando sus billeteras virtuales de manera notable? ¿O acaso hay mayores por detrás de estos adolescentes? Por ahora, todo es incipiente en materia de investigaciones.

El impacto en las víctimas es significativo, explicó el abogado José D'Antona, que representa a varias familas afectadas en Cordoba por el uso perverso de la inteligencia artificial. "La vida no les ha quedado igual", dijo refiriéndose a las jóvenes afectadas que enfrentan un complejo proceso emocional. "No pudieron tener la tranquilidad que una criatura de 14, 15 y 16 años debe tener", sostuvo.

D'Antona también advirtió sobre la naturalización del problema en la sociedad. "Hay una tendencia despreciable de decir que esto es una travesura; acá no hay ninguna travesura", enfatizó, subrayando que se trata de un caso de lesiones graves, físicas y psicológicas.

Ya nadie duda de que esta realidad se vino encima en Argentina. Por la fuerza, habrá que aprender a convivir con esta clase de delitos. No hay una ningún joven, mujer o varón, de cualquier estrato social, que hoy pueda asegurar estar a salvo de un ataque de estas características. Que algún perverso robe cualquier foto de ellos para generar material pornográfico. 

O, escrito al revés: ¿cuántos serán hoy los jóvenes y adultos en el país que ignoran que su rostros ya fueron manipulados con inteligencia artificial para generar todo tipo de material pornográfico?

/Inicio Código Embebido/

Mirá también

La Mesa de Café

Cibercrimen con inteligencia artificial: sugerencias para evitar acoso digital

/Fin Código Embebido/

Urge encontrar un anticuerpo social en diferentes direcciones. Un marco legal adecuado e implacable. Y que también interpele a las herramientas que utilizan los perpetradores. ¿Hasta donde son responsables las aplicaciones de redes sociales? ¿Será el momento de replantearnos como sociedad si se pueden subir a la web fotos de menores de 18 años en cualquier contexto?

Trabajar, también, sobre los jóvenes que pueden llegar a incursionar en este tipo de delitos. Con ellos y con sus padres: no son travesura ni bromas, sino que se trata de delitos con consecuencias muy dañosas sobre la salud mental de las personas afectadas.

La escuela es hoy un centro en el que suele estallar este tipo de situaciones. Perpetradores y víctimas compartiendo el mismo recinto. Hasta ahora, el Ministerio de Educación de Córdoba no se ha expresado al respecto. Los directivos, por lo bajo, confiesan que tienen la orden no escrita de no suspender. 

Y preguntan, al mismo tiempo, por qué la institución también se debe responsabilizar por lo que los jóvenes realizan ya en su casa, con un celular y utilizando fotos que fueron tomadas en ámbitos ajenos al educativo.

A todo esto, los interrogantes vuelven a posarse sobre las personas afectadas. ¿Cómo se puede reducir esa sensación de vulnerabilidad y humillación que hoy persigue a las víctimas de esta situación, pese a que su real intimidad jamás fue avasallada? ¿Cómo lograr socialmente un manto protector para que esas imágenes virtuales, falsas, no terminen de imprimirles un rótulo real? 

El desafío es enorme y actual: ¿cuál es el antídoto social que necesitamos para proteger a los más vulnerables ante una posible humillación de este tipo?