Meta implementa sistemas de IA para mejorar la moderación de contenido

Meta anunció el lanzamiento de un nuevo sistema de inteligencia artificial (IA) diseñado para mejorar la moderación de contenido en sus plataformas, como Facebook e Instagram. Este movimiento busca reducir la dependencia de terceros en la revisión de contenido y aumentar la eficacia en la detección de violaciones, como la explotación infantil, el terrorismo y el fraude.

La compañía explicó que los nuevos sistemas de IA se implementarán una vez que demuestren un rendimiento superior al de los métodos actuales. A través de esta tecnología, Meta espera poder detectar más violaciones con mayor precisión y responder más rápidamente a situaciones críticas.

Según la empresa, los resultados iniciales de las pruebas han sido prometedores. Los nuevos sistemas de IA han logrado identificar el doble de contenido de solicitación sexual en comparación con los equipos de revisión humanos, además de reducir la tasa de error en más del 60%. También se ha informado que estos sistemas son capaces de identificar y prevenir más de 5,000 intentos de estafa al día, ayudando a proteger a los usuarios de intentos de fraude que buscan obtener datos de inicio de sesión.

"Aunque seguiremos teniendo personas que revisen el contenido, estos sistemas podrán asumir tareas más adecuadas para la tecnología, como la revisión repetitiva de contenido gráfico o áreas donde los actores malintencionados cambian constantemente sus tácticas", explicó Meta en un comunicado.

Además, la compañía lanzó un asistente de soporte de IA que brindará asistencia a los usuarios las 24 horas del día. Este asistente se implementará globalmente en las aplicaciones de Facebook e Instagram para dispositivos iOS y Android, así como en el Centro de Ayuda en versiones de escritorio.

Este anuncio llega en un momento en que Meta ha estado ajustando sus políticas de moderación de contenido, lo que incluye la finalización de programas de verificación de hechos de terceros y el fomento de un enfoque más personalizado para el contenido político. La empresa también enfrenta múltiples demandas que buscan responsabilizar a las redes sociales por el daño a menores y jóvenes usuarios.

Con estos avances, Meta busca no solo mejorar la seguridad en sus plataformas, sino también adaptarse a un entorno digital en constante evolución, donde la tecnología juega un papel crucial en la moderación y protección del contenido.

Temas