Daniela Buján: “La IA agrega la deuda cognitiva al daño que causan las redes sociales en los chicos”

¿Cómo surgió la idea de crear la plataforma Auroria y cuál ha sido su trayectoria en el sector tecnológico? 

Trabajo en tecnología desde hace veinticinco años, de los cuales dediqué doce a la ciberseguridad, área donde nació mi interés por el uso responsable de la tecnología. Como madre, me preocupa el futuro de la sociedad y el impacto tecnológico en los niños y adolescentes, quienes atraviesan las etapas más vulnerables. Ya observamos las consecuencias negativas de las redes sociales en la salud mental de los jóvenes, como el incremento de la ansiedad y la depresión. Al irrumpir la inteligencia artificial, junto a mi socio comprendimos que no podíamos repetir esa historia.

¿Cuáles son los principales riesgos que presenta la inteligencia artificial en comparación con las tecnologías previas? 

Con las redes sociales tardamos dieciséis años en advertir sus efectos y comenzar a regular el acceso de determinados grupos etarios. Con la inteligencia artificial no podemos esperar tanto tiempo. Además de los riesgos emocionales como la adicción a la inmediatez o el establecimiento de vínculos inapropiados, la inteligencia artificial introduce un problema muy serio denominado "deuda cognitiva". Esto ocurre cuando delegamos en la tecnología tareas que requieren de nuestro pensamiento, como resolver un problema matemático o redactar una monografía, privando al cerebro de la oportunidad de aprender.

¿Existen estudios que demuestren el impacto del uso de la inteligencia artificial en la actividad cerebral? 

Sí. Un estudio realizado por profesionales del MIT en Estados Unidos midió la actividad cerebral de estudiantes mientras realizaban tareas con libros, búsquedas tradicionales e inteligencia artificial. La investigación reveló que quienes trabajaban con inteligencia artificial reducían el uso del lóbulo prefrontal hasta en un 55 %, lo que genera secuelas como falta de memoria y problemas de atención.

El buscador de Google ya había reducido la necesidad de memorizar datos acumulados, ¿de qué manera la inteligencia artificial profundiza esta transformación? 

El buscador de Google exigía revisar resultados, comparar y discernir. Hoy la inteligencia artificial entrega el proceso de análisis totalmente digerido. De hecho, en Estados Unidos el 69 % de las búsquedas en Google ya no generan clics en sitios web porque la herramienta responde directamente en la pantalla. Esto refleja una alta confianza en la inteligencia artificial, a pesar de que la información entregada no siempre proviene de fuentes válidas o bien argumentadas.

Además de la presencia de datos falsos, ¿por qué la inteligencia artificial tiende a inventar respuestas? 

La inteligencia artificial alucina e inventa citas o libros porque no es un ente pensante, sino un algoritmo predictivo diseñado para anticipar la palabra siguiente y satisfacer al usuario. Esto se vincula con el concepto de "psicofancia" o complacencia extrema: la herramienta tiende a validar y calificar como maravilloso todo lo que el usuario propone, lo cual resulta peligroso al manipular a los más jóvenes.

¿De qué forma están utilizando los estudiantes estas herramientas en el ámbito escolar? 

Las inteligencias artificiales abiertas exponen a los chicos a riesgos como contenidos inapropiados, dependencia y adicción, funcionando como una muleta para estudiar en lugar de una ayuda pedagógica. Datos de OpenAI confirman que durante los recesos escolares el uso de ChatGPT disminuye un 50 %, lo que demuestra su empleo intensivo para resolver tareas. Los docentes coinciden en que muchos alumnos entregan trabajos generados por la inteligencia artificial sin siquiera haberlos leído.

Ante esta problemática, ¿qué es Auroria y cómo se conforma el equipo detrás de su desarrollo? 

Auroria es una plataforma desarrollada para contrarrestar estos riesgos y alfabetizar a los chicos en el uso de la inteligencia artificial. Nuestro equipo está conformado por profesionales con amplia experiencia en tecnología, diseño, programación e historia del arte, además del aporte de una psicopedagoga. Nació a partir de mi preocupación como madre de una adolescente de trece años al no encontrar en el mercado una herramienta segura pensada específicamente para el aprendizaje de los chicos.

¿Cómo funciona el denominado "modo socrático" que implementa la plataforma? 

El modo socrático garantiza que la inteligencia artificial no realice la tarea por el estudiante. Si el alumno ingresa un problema o una consigna, Auroria le devuelve orientación, preguntas y sugerencias para guiarlo, pero exige que sea el propio estudiante quien razone y resuelva el ejercicio. Asimismo, la plataforma requiere estructurar previamente una consigna de búsqueda completa, enseñando a los alumnos el hábito de formular preguntas adecuadas según su nivel educativo.

¿Cómo se integra Auroria dentro de la comunidad educativa y en la relación entre la escuela y las familias? 

Auroria conecta cuatro perfiles: alumnos, docentes, directivos y familias. Aunque se preserva la privacidad de las conversaciones de los estudiantes, el sistema genera alertas ante dificultades de aprendizaje o situaciones preocupantes. Los docentes reciben métricas sobre los temas más consultados por materia y pueden crear o adaptar contenidos pedagógicos. Además, la plataforma se personaliza según el proyecto educativo y las pautas institucionales de cada colegio.

¿De qué manera la herramienta colabora en la atención a la diversidad en las aulas? 

Permite a los docentes generar con un solo clic adaptaciones de las actividades para alumnos con diversos desafíos de aprendizaje. Como madre de un niño con condición del espectro autista, conozco la necesidad de contar con este apoyo. Esta funcionalidad alivia la carga de trabajo docente, fortalece el vínculo pedagógico y facilita el acompañamiento familiar en el hogar.

Para finalizar, ¿qué libro, película o serie nos recomendaría? 

En series sugiero "Ted Lasso", una producción sobre fútbol que aborda profundamente el trabajo en equipo, la resiliencia y la capacidad de superación personal. En literatura, recomiendo el libro "The Mom Test" ("El test de la madre"), de Rob Fitzpatrick, que enseña a evaluar hipótesis e ideas de manera objetiva sin dejarse llevar por la complacencia de quienes nos rodean, un principio muy útil para contrastar la información en tiempos de inteligencia artificial.

Entrevista de Sergio Suppo.