La polémica por el 'Chat Control' y la privacidad digital en Europa

Buenos Aires, 18 septiembre (especial para NA) -- La conversación sobre la protección de la privacidad digital en Europa ha llegado a un punto crítico.

La normativa "Chat Control" tiene como objetivo implementar métodos, por ejemplo, para identificar contenido de explotación sexual infantil en las comunicaciones privadas, lo que genera un conflicto que afecta a toda la sociedad y que es cómo salvaguardar a los niños, sin comprometer los derechos básicos de millones de usuarios.

Actualmente, si una persona manda un mensaje a través de "WhatsApp o Signal", la protección del cifrado de "extremo a extremo" hace que la legislación europea no se aplique de la misma forma que en otras redes sociales.

Por otro lado, si eso mismo se envía a través de una aplicación que no utiliza cifrado, un sistema automático puede examinarla antes de que llegue a su destino.

Esta variación es el centro de la discusión hoy en el Parlamento Europeo, porque es una regulación temporal, que ha sido extendida (prorrogada) hasta 2028, y que permite a las plataformas identificar de manera voluntaria contenido de abuso sexual infantil en mensajes privados, imágenes y videos.

La propuesta a largo plazo, llamada "Chat Control 2.0", aún está en discusión y la pregunta principal es si finalmente incluirá también a los servicios cifrados.

Las herramientas para detectar contenido funcionan transformando cada archivo en una especie de huella digital que se verifica con bases de datos de material ilegal ya identificado, utilizando modelos de aprendizaje automático, que son capaces de reconocer contenido nuevo o modificado y examinan los textos en busca de patrones lingüísticos relacionados con el grooming o acoso sexual a menores.

La discusión conlleva el riesgo de malentendidos y un monitoreo extenso y extremo de millones de conversaciones privadas.

En las plataformas sin cifrado, la verificación se realiza en los servidores del proveedor.

Por el contrario, en los servicios que cuentan con cifrado de extremo a extremo, el proveedor no tiene la capacidad de leer un mensaje una vez que se ha cifrado, entonces cualquier sistema de detección tendría que funcionar antes de este proceso: en el dispositivo del usuario, antes de que se aplique el cifrado, o a través de una capa separada de hardware seguro diseñada para cumplir esta función de "client-side scanning", que examina el mensaje mientras aún es comprensible, "antes de que se cierre el escudo".

Precisamente por esto, el debate sobre el cifrado continúa: ¿es correcto revisar la comunicación en el mismo instante en que ocurre?

De acuerdo a empresas como Google, una coincidencia es enviada primero a revisores humanos expertos, quienes examinan el material antes de informarlo a las autoridades, pero qué va a pasar cuando esto lo haga una Inteligencia Artificial.

No obstante, críticos como Patrick Breyer -ex eurodiputado, jurista y activista alemán por los derechos digitales- argumentan que es en esa etapa de verificación donde el sistema comienza a fallar cuando se utiliza a gran escala.

Los empleados aplican criterios legales diversos, no siempre logran discernir la intención detrás del contenido compartido y, a menudo, confunden situaciones de "sexting consensuado" entre jóvenes o imágenes enviadas como bromas en un chat grupal.

Incluso muchos adolescentes involucrados nunca tuvieron la intención de enviar ni recibir material ilegal, simplemente reenvían un archivo dentro de una conversación diferente.

Breyer no se opone a la detección en sí, sino a su uso a gran escala. Argumenta que el escaneo debería ser permitido solo cuando un tribunal independiente confirme que hay motivos razonables para sospechar de una persona específica (la cuestión se torna similar a una orden judicial para revisar la correspondencia de un ciudadano).

Escanear las comunicaciones de toda la población "por si acaso", afirma, representa un tipo de intervención completamente diferente.

Por el momento, lo que sucede con un mensaje depende completamente de la aplicación que se use.

En servicios sin cifrado, el contenido puede recibir una identificación digital o ser examinado por algoritmos antes o justo después de ser enviado, revisado después por expertos y comunicado a las autoridades si se encuentra una coincidencia.

En resumen, el debate no es solo técnico hoy, sino político. Europa está ante una decisión que influirá en el futuro de la privacidad digital en los años venideros, pero hay que ver qué tanto está dispuesta la gente a renunciar a la privacidad por el bien de la seguridad.

La respuesta no solo impactará a los usuarios actuales de estas plataformas, sino también a las nuevas generaciones que crecen en un entorno donde la comunicación digital es fundamental en su identidad.

Agencia NA

Temas