Nuevas medidas de seguridad
16/07/2026 | 10:03
Redacción Cadena 3
La empresa Meta anunció el jueves que notificará a los padres si sus hijos adolescentes discuten sobre suicidio o autolesiones a través de su chatbot de inteligencia artificial. Este avance se produce en un contexto donde la compañía y otras empresas tecnológicas enfrentan un creciente escrutinio por parte de reguladores y padres sobre cómo los chatbots de IA responden a usuarios en crisis, especialmente a adolescentes.
Las alertas se activarán cuando el sistema de Meta identifique conversaciones que hagan referencia clara a autolesionarse. La empresa aseguró que todos los chats que sean señalados por su IA serán revisados manualmente antes de enviar una alerta a los padres. En caso de que la intención del adolescente sea ambigua, Meta optará por alertar a los padres, asegurando que, aunque esto podría generar notificaciones innecesarias, consideran que es un primer paso correcto.
Actualmente, estas alertas están disponibles para los padres que utilizan la función de Supervisión Parental en Instagram en Estados Unidos, Reino Unido, Australia y Canadá, y se espera que se implementen a nivel global a finales de este año. Esta actualización complementa las alertas que Meta ya envía a los padres cuando sus hijos realizan búsquedas repetidas de términos relacionados con el suicidio o autolesiones en Instagram.
Además, Meta anunció que su configuración de Contenido Limitado se aplicará también a Meta AI, lo que permitirá a los padres establecer un entorno más restrictivo para sus hijos en la plataforma. Este sistema de IA ya está entrenado para evitar conversaciones sobre temas sexuales, románticos o relacionados con el alcohol, y la configuración de Contenido Limitado ampliará esas salvaguardias al hacer que el chatbot rechace una gama más amplia de solicitudes. La compañía no especificó qué otros temas serán incluidos, pero se ha solicitado información adicional al respecto.
Finalmente, Meta comunicó que contactará a los servicios de emergencia si las conversaciones de un usuario, ya sea un adulto o un adolescente, sugieren que alguien está en riesgo de suicidio. Esta práctica ya se implementa cuando alguien publica contenido en Facebook o Instagram que indica riesgo, por lo que ahora se extenderá a las interacciones con su chatbot.
¿Qué anunció Meta?
Meta anunció que notificará a los padres si sus hijos adolescentes discuten sobre suicidio o autolesiones con su chatbot de IA.
¿Cuándo entrarán en vigor estas alertas?
Las alertas están disponibles en EE.UU., Reino Unido, Australia y Canadá, y se implementarán globalmente a finales de año.
¿Qué medidas adicionales implementará Meta?
Meta también contactará a los servicios de emergencia si detecta conversaciones que sugieren riesgo de suicidio.
¿Cómo se activan las alertas?
Las alertas se activan cuando la IA de Meta identifica conversaciones claras sobre autolesiones.
¿Qué es la configuración de Contenido Limitado?
Es una función que permite a los padres restringir el tipo de contenido que sus hijos pueden ver en la plataforma.
Te puede Interesar
Mad Cool Festival en Madrid
Durante el Mad Cool Festival, Lorde expresó su descontento con las gafas de IA de Meta, advirtiendo sobre los problemas de privacidad que conllevan. Su declaración se suma a un creciente debate sobre la tecnología y su impacto en la sociedad.
Declaraciones del líder de Instagram
El director de Instagram, Adam Mosseri, sugiere que pronto podría ser necesario establecer límites en el gasto de tokens de IA por parte de los ingenieros, equiparando su costo a los salarios.
Entrevista con Bloomberg
La presidenta de Signal, Meredith Whittaker, subrayó que los chatbots de IA, como ChatGPT, no son seres conscientes y plantean riesgos de privacidad. Su declaración surgió en una entrevista con Bloomberg.