Meta informa a padres si sus hijos adolescentes hablan sobre suicidio con su chatbot
Meta ha implementado un sistema que notifica a los padres si sus hijos adolescentes mencionan suicidio o autolesiones al interactuar con su chatbot. La medida responde a la creciente preocupación sobre el bienestar de los jóvenes.
FOTO: Meta AI Chatbot
La empresa Meta anunció el jueves que notificará a los padres si sus hijos adolescentes discuten sobre suicidio o autolesiones a través de su chatbot de inteligencia artificial. Este avance se produce en un contexto donde la compañía y otras empresas tecnológicas enfrentan un creciente escrutinio por parte de reguladores y padres sobre cómo los chatbots de IA responden a usuarios en crisis, especialmente a adolescentes.
Las alertas se activarán cuando el sistema de Meta identifique conversaciones que hagan referencia clara a autolesionarse. La empresa aseguró que todos los chats que sean señalados por su IA serán revisados manualmente antes de enviar una alerta a los padres. En caso de que la intención del adolescente sea ambigua, Meta optará por alertar a los padres, asegurando que, aunque esto podría generar notificaciones innecesarias, consideran que es un primer paso correcto.
Actualmente, estas alertas están disponibles para los padres que utilizan la función de Supervisión Parental en Instagram en Estados Unidos, Reino Unido, Australia y Canadá, y se espera que se implementen a nivel global a finales de este año. Esta actualización complementa las alertas que Meta ya envía a los padres cuando sus hijos realizan búsquedas repetidas de términos relacionados con el suicidio o autolesiones en Instagram.
Además, Meta anunció que su configuración de Contenido Limitado se aplicará también a Meta AI, lo que permitirá a los padres establecer un entorno más restrictivo para sus hijos en la plataforma. Este sistema de IA ya está entrenado para evitar conversaciones sobre temas sexuales, románticos o relacionados con el alcohol, y la configuración de Contenido Limitado ampliará esas salvaguardias al hacer que el chatbot rechace una gama más amplia de solicitudes. La compañía no especificó qué otros temas serán incluidos, pero se ha solicitado información adicional al respecto.
Finalmente, Meta comunicó que contactará a los servicios de emergencia si las conversaciones de un usuario, ya sea un adulto o un adolescente, sugieren que alguien está en riesgo de suicidio. Esta práctica ya se implementa cuando alguien publica contenido en Facebook o Instagram que indica riesgo, por lo que ahora se extenderá a las interacciones con su chatbot.
Lectura rápida
¿Qué anunció Meta?
Meta anunció que notificará a los padres si sus hijos adolescentes discuten sobre suicidio o autolesiones con su chatbot de IA.
¿Cuándo entrarán en vigor estas alertas?
Las alertas están disponibles en EE.UU., Reino Unido, Australia y Canadá, y se implementarán globalmente a finales de año.
¿Qué medidas adicionales implementará Meta?
Meta también contactará a los servicios de emergencia si detecta conversaciones que sugieren riesgo de suicidio.
¿Cómo se activan las alertas?
Las alertas se activan cuando la IA de Meta identifica conversaciones claras sobre autolesiones.
¿Qué es la configuración de Contenido Limitado?
Es una función que permite a los padres restringir el tipo de contenido que sus hijos pueden ver en la plataforma.
