Moonbounce, la startup que revoluciona la moderación de contenido con IA

Moonbounce anunció recientemente que recaudó 12 millones de dólares en una ronda de financiamiento co-liderada por Amplify Partners y StepStone Group. Esta startup, creada por Brett Levenson, exdirector de integridad empresarial en Facebook, busca transformar la moderación de contenido mediante el uso de inteligencia artificial.

La idea surgió tras la experiencia de Levenson en Facebook, donde observó que los moderadores humanos debían memorizar un extenso documento de políticas y tomar decisiones en cuestión de segundos. Esta situación resultaba en una precisión de detección de solo "ligeramente mejor que el 50%", lo que planteaba serias preocupaciones sobre la efectividad del sistema de moderación de contenido.

Con el auge de los chatbots y la creciente presión legal sobre las empresas de tecnología, Moonbounce se propone implementar un enfoque más proactivo y efectivo. Su tecnología, conocida como "política como código", convierte las políticas de moderación en lógica ejecutable, permitiendo una respuesta más rápida y precisa ante el contenido problemático.

El sistema de Moonbounce ha sido diseñado para operar en tiempo real, evaluando el contenido y tomando decisiones en menos de 300 milisegundos. Esto incluye acciones como ralentizar la distribución del contenido mientras se espera una revisión humana o bloquear contenido de alto riesgo de inmediato.

Actualmente, la empresa atiende a más de 100 millones de usuarios activos diarios y ha sido adoptada por plataformas que manejan contenido generado por usuarios, empresas de IA que desarrollan personajes y generadores de imágenes y videos.

Levenson destacó que la seguridad en la moderación de contenido puede convertirse en una ventaja competitiva. "La seguridad puede ser un beneficio del producto", afirmó, señalando que sus clientes están encontrando formas innovadoras de utilizar su tecnología para hacer de la seguridad una parte integral de su propuesta de valor.

Con el objetivo de mejorar la seguridad en la interacción con chatbots, Moonbounce está desarrollando una capacidad llamada "steering iterativo", que permite redirigir conversaciones hacia respuestas más positivas y útiles, en lugar de simplemente rechazar temas perjudiciales.

La inversión en Moonbounce refleja la creciente necesidad de soluciones efectivas en un entorno digital donde la moderación de contenido es cada vez más crucial. El enfoque de la startup podría ser clave para abordar los desafíos que enfrentan las plataformas en la era de la IA.

Temas