Meta lanza nuevas herramientas de IA para detectar anuncios que dirigen a contenido de abuso infantil

Meta anunció el miércoles que tomó acción contra 33.2 millones de piezas de contenido de explotación infantil en Facebook e Instagram durante la primera mitad de 2026. Al mismo tiempo, la compañía lanzó nuevas herramientas de IA para encontrar anuncios y cuentas que podrían ser utilizadas para dirigir secretamente a los usuarios hacia contenido ilegal de abuso infantil.

Más del 97% del contenido que Meta actuó fue encontrado por sus sistemas antes de que los usuarios lo reportaran. En India, Meta tomó medidas sobre 5.3 millones de piezas de contenido de explotación infantil durante el mismo período, con más del 98% detectado antes de que los usuarios lo reportaran.

Meta indicó que sus últimas herramientas de IA están dirigidas a aquellos que utilizan anuncios que parecen inofensivos para enviar a los usuarios a contenido ilegal fuera de las plataformas de Meta.

La compañía introdujo un nuevo sistema de modelo de lenguaje grande (LLM) para detectar lo que llama "señalización". Esto se refiere a anuncios que pueden parecer normales pero que se sospecha que dirigen a los usuarios a contenido ilegal o a otras actividades dañinas en línea. Meta afirmó que esta es una táctica que ha visto recientemente utilizada por actores maliciosos que continúan cambiando sus métodos para evitar la detección. Aunque los anuncios en sí mismos pueden no contener material ilegal, pueden actuar como una puerta de entrada a sitios que albergan material de abuso infantil.

Debido a esto, Meta ahora está mirando a dónde envía un anuncio a los usuarios, y no solo a lo que contiene el anuncio. La compañía puede usar esta información para bloquear sitios web u otros destinos que infrinjan sus reglas y tomar medidas contra las cuentas detrás de ellos.

Además, Meta está utilizando escaneos impulsados por IA adicionales para encontrar contenido de explotación infantil que sistemas anteriores pueden haber pasado por alto. La compañía continuará agregando nuevas señales a medida que aprenda más sobre cómo operan estas redes.

Otra nueva herramienta es un "agente de IA de prueba" que evalúa las propias medidas de seguridad de Meta. Busca debilidades que los actores maliciosos podrían usar para eludir las protecciones de la compañía. Meta dijo que esto podría ayudar a encontrar nuevos métodos de abuso antes de que se vuelvan más comunes.

Además, la compañía está mejorando sus sistemas para encontrar personas que regresan a sus plataformas con nuevas cuentas después de que sus cuentas anteriores han sido eliminadas.

Las nuevas medidas llegan mientras Meta sigue enfrentando presión sobre la seguridad de los niños en sus plataformas. La compañía ha enfrentado demandas y críticas de legisladores sobre los riesgos que sus servicios de redes sociales pueden representar para los jóvenes usuarios. En agosto, Meta alcanzó un acuerdo para pagar hasta $18 mil millones para resolver una demanda de seguridad infantil que involucraba a 29 estados de EE.UU., abordando preocupaciones sobre la protección de los niños en línea.

Meta ha introducido varias características de seguridad infantil este año, incluyendo controles parentales para Meta AI, cuentas para preadolescentes en WhatsApp, y alertas para padres cuando los niños buscan contenido de autolesionismo en Instagram.

En septiembre, WhatsApp agregó más controles para padres. Pueden limitar cómo los adolescentes utilizan Channels, controlar quién puede ver sus actualizaciones de estado y decidir quién puede agregar a sus hijos a grupos. Los padres también pueden elegir recibir notificaciones sobre ciertas actividades de grupo.