Investigadores de la UNC crean un filtro para reducir contenido dañino en redes

Investigadores de la Universidad Nacional de Córdoba (UNC) trabajan en un filtro inteligente para reducir el contenido dañino en redes sociales, particularmente en Instagram. 

Este proyecto busca intervenir en los feeds de los usuarios, permitiendo que el contenido hostil se desjerarquice y no tenga un impacto negativo en la salud mental, especialmente de los jóvenes.

La doctora Mila Francovich, integrante del CONICET y parte del equipo que desarrolla el proyecto, en diálogo con Cadena 3 explicó que "el filtro busca intervenir en el feed de las redes sociales" y que abordan el desafío de "definir cuál es el contenido dañino", que incluye violencia, acoso y comparaciones sociales que pueden provocar ansiedad y depresión en los usuarios jóvenes.

El equipo, que también incluye a Laura Alonso Alemany y Silvina Brussino, enfatiza que el filtro no censura el contenido, sino que lo organiza y desplaza hacia el final del feed. 

"Lo que buscamos no es como censurar o eliminar este contenido, sino que ese contenido está, pero aparece hacia el final", señaló Frankovich.

La creación de este filtro se enmarca en un contexto donde los impactos negativos de las redes sociales en la salud mental son cada vez más evidentes. 

La doctora destacó que “hay estudios que muestran el efecto que tiene el consumo de este tipo de contenido en la salud mental de las personas”.

El equipo se encuentra en la fase inicial del desarrollo del filtro, que se instalaría como una extensión para computadoras, permitiendo modular la exposición al contenido dañino. 

"Cuando la aplicación ya te muestra el feed, reorganiza esas imágenes, y al identificar por palabras o por imágenes cuál es el contenido hostil, lo manda hacia el final del feed", explicó Frankovich.

El proyecto no solo busca brindar una herramienta para los usuarios, sino que también pretende crear conciencia sobre la importancia de las ciencias sociales y la tecnología en la mejora de la calidad de vida. 

"Estamos en un momento coyuntural donde las ciencias sociales están siendo atacadas. Este filtro inteligente es una iniciativa necesaria", concluyó la investigadora.

Entrevista de "Viva la Radio"