Cibercrimen con inteligencia artificial: sugerencias para evitar acoso digital

Se conoció un nuevo caso de cibercrimen donde se acusa a un adolescente de 15 años de vender fotos de sus compañeras de colegio desnudas, creadas con inteligencia artificial, en San Martín, Buenos Aires. 

Al parecer, el acusado editó las imágenes que sus compañeras subían a las redes sociales, las desnudó mediante el uso de IA y luego las subió a la plataforma Discord para luego venderlas de manera privada.

En ese marco, Gabriel Zurdo, CEO de BTR Consulting y experto en ciberseguridad, explicó en Cadena 3 que estos casos no son aislados, y argumentó que comenzaron a darse cuando los chicos descubrieron herramientas como ChatGPT, y alarmó que "han virado hacia situaciones graves de acoso".

/Inicio Código Embebido/

Mirá también

Delitos digitales

Estudiantes usaron IA para editar videos pornográficos con rostros de compañeras

/Fin Código Embebido/

Zurdo enfatizó que existe un vacío legal en la legislación actual que dificulta la persecución de estos delitos. "La ley del delito informático es bastante laxa en términos de su aplicación para este tipo de situaciones", apuntó. Y destacó la necesidad urgente de actualizar las leyes y crear conciencia sobre el riesgo que enfrentan los menores en el entorno digital.

En efecto, mencionó que la remoción del contenido fraudulento es prácticamente imposible, lo que deja a las víctimas expuestas de forma indefinida.

A su vez, Zurdo manifestó que Discord, utilizada mucho en el ámbito gamer, es "un coto de caza para cooptar menores para distintos tipos de delito".

Para cuidar a los menores de la peligrosa exposición que enfrentan en las redes sociales, recomendó tener el perfil privado y no aceptar a extraños.

/Inicio Código Embebido/

Mirá también

La Mesa de Café

Alarmante: sólo el 10% de las víctimas de ciberacoso lo cuentan a sus padres

/Fin Código Embebido/

Escándalo en una escuela bonaerense

Un escándalo en una escuela de San Andrés, en el Partido Bonaerense de San Martín, desató un intenso debate sobre el uso de la inteligencia artificial en la manipulación de imágenes. Un alumno de 15 años es señalado por robar imágenes de sus compañeras, alterarlas con IA para desnudar sus cuerpos y venderlas. Este caso no solo involucra acoso escolar, sino que se ha convertido en un negocio ilegal que afecta la intimidad de las jóvenes.

Igor, padre de una de las víctimas, en diálogo con Cadena 3, relató: "Las chicas tienen miedo, se sienten apuntadas, violaron su intimidad". La situación salió a la luz cuando un compañero encubierto contactó al alumno vendedor, quien ofrecía una carpeta con 200 fotos por 20.000 pesos. "Las imágenes eran de sus redes sociales, modificadas por IA", explica Igor. Aunque su hija no fue afectada directamente, la experiencia dejó secuelas en muchas de las chicas, como la hija de Florencia, quien faltó 20 veces al colegio desde el incidente.

El colegio respondió con un comunicado, pero los padres de las víctimas sienten que no se ha hecho lo suficiente. Igor menciona: "No hemos recibido un llamado de los padres del chico, se jactan de que le robaron el celular, pero la cuenta estaba a su nombre". Mientras tanto, el alumno sigue asistiendo a clases, lo que genera un ambiente tenso para las víctimas.

El fiscal Franco Pilnick, especialista en ciberdelitos, señaló, en Cadena 3, que la situación es preocupante: "La generación de imágenes de desnudos con IA es cada vez más accesible y difícil de rastrear". La falta de legislación clara en Argentina sobre este tipo de delitos complica aún más la situación. "Hay un debate sobre si la creación de estas imágenes constituye material de abuso sexual infantil", indica Pilnick, quien destaca la necesidad urgente de actualizar las leyes para abordar los desafíos que presenta la tecnología actual.

Este caso subraya la importancia de una discusión legislativa sobre el uso de la inteligencia artificial y la protección de la integridad de los menores, así como la difusión no consentida de imágenes íntimas. La comunidad educativa y los padres esperan que se tomen medidas efectivas para prevenir futuros incidentes y garantizar la seguridad de las estudiantes.

Entrevista de Miguel Clariá y "Siempre Juntos" - Informe de Juan Federico y "Ahora País"