Meta suspende acceso de adolescentes a personajes de IA mientras se actualizan

Meta decidió pausar el acceso de los adolescentes a sus personajes de inteligencia artificial (IA) en todas sus aplicaciones a nivel global. La compañía, que busca desarrollar una versión actualizada de estos personajes, aseguró que no abandonará sus esfuerzos en esta área.

La decisión se tomó días antes de que un caso judicial contra Meta comience en Nuevo México, donde se le acusa de no proteger adecuadamente a los niños de la explotación sexual en sus plataformas. Recientemente, se reportó que Meta intentó limitar la divulgación de información relacionada con el impacto de las redes sociales en la salud mental de los adolescentes.

En octubre, Meta había presentado controles parentales para sus personajes de IA, permitiendo a los padres monitorear los temas de conversación y bloquear el acceso a ciertos personajes. Estas características estaban programadas para lanzarse este año, pero ahora la empresa ha decidido suspender el acceso de los adolescentes a los personajes de IA mientras se trabaja en la actualización.

La compañía afirmó que ha recibido comentarios de padres que desean más información y control sobre las interacciones de sus hijos con los personajes de IA, lo que motivó esta pausa.

Además, Meta ha intensificado sus esfuerzos para limitar el acceso de los adolescentes a contenido de IA. En octubre, la empresa lanzó nuevas funciones de control parental en Instagram, que se enfocan en personalizar la experiencia de los adolescentes al interactuar con IA. Estas funciones, inspiradas en la clasificación de películas PG-13, restringieron el acceso a ciertos temas, como violencia extrema, desnudez y uso de drogas.

La empresa declaró: "A partir de las próximas semanas, los adolescentes ya no podrán acceder a los personajes de IA en nuestras aplicaciones hasta que la nueva experiencia esté lista. Esto se aplicará a cualquier persona que nos haya proporcionado una fecha de nacimiento de adolescente, así como a quienes afirman ser adultos pero que sospechamos son adolescentes según nuestra tecnología de predicción de edad".

Meta agregó que cuando se lance la nueva versión de los personajes de IA, estos contarán con controles parentales integrados. La compañía aseguró que los nuevos personajes ofrecerán respuestas apropiadas para la edad y se centrarán en temas como educación, deportes y pasatiempos.

Las empresas de redes sociales enfrentan un escrutinio considerable por parte de los reguladores. Además del caso mencionado en Nuevo México, Meta también está enfrentando un juicio la próxima semana, donde se le acusa de causar adicción a las redes sociales. Se espera que el CEO Mark Zuckerberg testifique en ese caso una vez que comience el juicio.

Además de las plataformas sociales, las empresas de IA han tenido que modificar sus experiencias para los adolescentes tras enfrentar demandas que alegan que contribuyen al autolesionismo. En octubre, Character.AI, una startup que permite a los usuarios chatear con varios avatares de IA, prohibió las conversaciones abiertas con chatbots para los usuarios menores de 18 años. En noviembre, la startup anunció que construiría historias interactivas para niños en lugar de chats abiertos. En los últimos meses, OpenAI implementó nuevas reglas de seguridad para adolescentes en ChatGPT y comenzó a predecir la edad de un usuario para aplicar restricciones de contenido.

Corrección: Esta publicación fue actualizada para aclarar que la nueva versión de los personajes de IA estará disponible para todos, no solo para adolescentes, cuando se lance. Incluirá controles parentales.