Algoritmos personalizados pueden engañar al cerebro y distorsionar aprendizajes

Un reciente estudio de la Universidad Estatal de Ohio reveló que los sistemas de recomendación personalizados, como los que se utilizan en plataformas como YouTube, pueden interferir en la forma en que las personas aprenden. Los investigadores encontraron que cuando un algoritmo decide qué información se presenta durante una tarea de aprendizaje, los participantes sin conocimientos previos sobre el tema tienden a concentrarse solo en una pequeña parte de lo que se les muestra.

Debido a que exploraron menos del material disponible, estos participantes a menudo respondieron incorrectamente a preguntas en pruebas posteriores. A pesar de sus errores, mostraron una alta confianza en sus respuestas.

Estos resultados generan preocupación, según Giwon Bahg, quien llevó a cabo el trabajo como parte de su tesis doctoral en psicología. "Nuestro estudio muestra que incluso cuando no se sabe nada sobre un tema, estos algoritmos pueden comenzar a construir sesgos de inmediato y llevar a una visión distorsionada de la realidad", afirmó Bahg, ahora investigador postdoctoral en la Universidad Estatal de Pensilvania.

Los hallazgos fueron publicados en el Journal of Experimental Psychology: General.

Los algoritmos pueden crear sesgos sin conocimientos previos

La mayoría de la investigación existente sobre algoritmos personalizados examina cómo influyen en las opiniones sobre política o temas sociales que las personas ya conocen al menos algo. Sin embargo, Brandon Turner, coautor del estudio y profesor de psicología en la Universidad Estatal de Ohio, indicó que los resultados sugieren que las personas pueden tomar rápidamente la información limitada proporcionada por los algoritmos y sacar conclusiones amplias, a menudo infundadas.

Para ilustrar cómo podría surgir este sesgo, los investigadores describieron un escenario simple: una persona que nunca ha visto películas de un determinado país decide probar algunas. Un servicio de streaming ofrece recomendaciones. Si el espectador selecciona un thriller de acción porque aparece en la parte superior de la lista, el algoritmo luego promueve más thrillers de acción, que el espectador continúa eligiendo.

"Si el objetivo de esta persona, ya sea explícito o implícito, era entender el panorama general de las películas de este país, la recomendación algorítmica termina sesgando seriamente su comprensión", escribieron los autores.

Al ver solo un género, la persona puede pasar por alto películas destacadas en otras categorías y formar suposiciones inexactas y demasiado amplias sobre la cultura o sociedad representada en esas películas.

Probando los efectos algorítmicos con criaturas ficticias

Bahg y su equipo de investigación exploraron esta idea experimentalmente con 346 participantes en línea. Para asegurarse de que nadie tuviera conocimientos previos, los investigadores utilizaron una tarea de aprendizaje completamente ficticia. Los participantes estudiaron varios tipos de alienígenas similares a cristales, cada uno definido por seis características que variaban entre categorías.

El objetivo era aprender a identificar cada tipo de alienígena sin saber cuántos tipos existían. En el experimento, las características de los alienígenas estaban ocultas detrás de cajas grises. En una condición, los participantes debían hacer clic en todas las características para ver un conjunto completo de información para cada alienígena.

En otra condición, los participantes elegían qué características examinar, y un algoritmo de personalización seleccionaba qué elementos era probable que muestre más frecuentemente. Este algoritmo los guiaba hacia la revisión repetida de las mismas características a lo largo del tiempo. Aunque podían ver cualquier característica que quisieran, también podían omitir otras por completo.

Los resultados mostraron que aquellos guiados por el algoritmo personalizado vieron menos características en general y lo hicieron de manera selectiva. Cuando se les probó más tarde con nuevos ejemplos de alienígenas que nunca habían visto antes, frecuentemente los clasificaron incorrectamente. Sin embargo, los participantes se mantuvieron confiados en sus respuestas.

"Eran incluso más confiados cuando estaban incorrectos sobre sus elecciones que cuando estaban correctos, lo cual es preocupante porque tenían menos conocimiento", dijo Bahg.

Implicaciones para niños y el aprendizaje cotidiano

Turner destacó que estos hallazgos tienen una importancia real en el mundo. "Si tienes un niño pequeño que realmente intenta aprender sobre el mundo y está interactuando con algoritmos en línea que priorizan que los usuarios consuman más contenido, ¿qué va a pasar?", preguntó Turner. "Consumir contenido similar a menudo no se alinea con el aprendizaje. Esto puede causar problemas para los usuarios y, en última instancia, para la sociedad".

Vladimir Sloutsky, profesor de psicología en la Universidad Estatal de Ohio, también fue coautor del estudio.