Defensores piden a YouTube proteger a los niños de contenido de IA de baja calidad

Organizaciones de defensa y expertos han manifestado su rechazo hacia YouTube por la difusión de videos de baja calidad generados con inteligencia artificial, un fenómeno conocido como "AI Slop", que afecta principalmente a su público más vulnerable: los niños.

Una carta dirigida a Neal Mohan, CEO de YouTube, y a Sundar Pichai, CEO de Google, la empresa matriz, expresa la "seria preocupación" del grupo de defensa de la niñez Fairplay sobre la proliferación de este tipo de contenido en YouTube y YouTube Kids. La misiva, enviada el miércoles, cuenta con la firma de más de 200 organizaciones y expertos, incluyendo psiquiatras infantiles y educadores.

En la carta se menciona: "El contenido AI Slop perjudica el desarrollo de los niños al distorsionar su sentido de la realidad, saturar sus procesos de aprendizaje y secuestrar su atención, extendiendo así el tiempo en línea y desplazando actividades fuera de línea necesarias para su desarrollo saludable". Este término, "Slop", se refiere a contenido de baja calidad que podría compararse con el spam en correos electrónicos.

Los firmantes solicitan a YouTube que etiquete claramente todo el contenido generado por IA y que prohíba este tipo de material en YouTube Kids. También piden que se impida la recomendación de videos generados por IA a usuarios menores de 18 años y que se implemente una opción para que los padres puedan desactivar dicho contenido incluso si sus hijos lo buscan.

La carta está respaldada por 135 organizaciones, entre ellas la Federación Estadounidense de Maestros y la Asociación Estadounidense de Consejería, así como alrededor de 100 expertos individuales, como Jonathan Haidt, autor de "The Anxious Generation". Esta iniciativa forma parte de una campaña más amplia de Fairplay, que también incluye una petición.

El contenido generado por IA se caracteriza por su ritmo acelerado, colores brillantes, música animada y títulos llamativos, diseñados para captar la atención de los jóvenes espectadores, como se detalla en la carta. Ha surgido un movimiento en línea que critica este tipo de contenido, especialmente cuando parece de baja calidad o se considera "brainrot" (contenido absurdo y repetitivo).

El portavoz Boot Bullwinkle comentó que YouTube tiene "altos estándares para el contenido en YouTube Kids, incluyendo la limitación del contenido generado por IA a un pequeño conjunto de canales de alta calidad".

Además, se ofrecen a los padres opciones para bloquear canales. En YouTube, se prioriza la transparencia respecto al contenido generado por IA, etiquetando aquel producido con herramientas propias y exigiendo a los creadores que revelen el uso de IA en sus videos. No obstante, esta política no se aplica a contenido claramente irreal, como animaciones o efectos especiales.

YouTube está trabajando en el desarrollo de etiquetas específicas para YouTube Kids. En su carta, Fairplay sostiene que la política de divulgación voluntaria y la definición "extremadamente limitada" de contenido alterado y sintético hacen que los niños sigan expuestos a una avalancha de videos generados por IA que no están debidamente etiquetados. Muchos niños que ven videos en YouTube aún no pueden leer o comprender una divulgación sobre IA, dejándolos "a su suerte o a sus padres jugando al golpea-al-topo", indica la carta.

Esta campaña se produce poco después de que el fondo AI Futures Fund de Google invirtiera 1 millón de dólares en Animaj, un estudio de animación basado en IA que produce videos para niños y ha logrado audiencias significativas, según Bloomberg.

La campaña también sigue a un veredicto histórico en un juicio por adicción a las redes sociales, donde un jurado en California determinó que YouTube diseñó su plataforma para enganchar a usuarios jóvenes sin preocuparse por su bienestar. Meta fue considerada responsable de los mismos cargos en el mismo caso.

Rachel Franz, directora del programa "Young Children Thrive Offline" de Fairplay, expresó: "Acercar basura de IA a niños pequeños es solo otra prueba de cómo YouTube y YouTube Kids están diseñados para maximizar el tiempo en línea de los niños, incluidos los bebés. La basura de IA hipnotiza a los niños pequeños, dificultando que se despeguen de sus pantallas y pasen a actividades esenciales como el juego, el sueño y la interacción social. Además, el algoritmo de YouTube hace imposible que los niños eviten la basura de IA".

A principios de este año, Mohan, jefe de YouTube, mencionó "gestionar la basura de IA" como una de las prioridades de la empresa para 2026. En una publicación de blog, comentó que la compañía está "desarrollando activamente sobre nuestros sistemas establecidos que han tenido éxito en combatir el spam y el clickbait, y en reducir la propagación de contenido repetitivo y de baja calidad".