OpenAI presenta ChatGPT para adolescentes, un chatbot más seguro y adaptado a su edad

SAN FRANCISCO — OpenAI ha lanzado una versión de ChatGPT enfocada en adolescentes, la primera generación que crece con inteligencia artificial. Este chatbot es utilizado para tareas escolares, resolver dudas sobre la vida diaria e incluso como compañía.

La compañía, con sede en San Francisco, señala que ChatGPT for Teens, que se lanzó el martes, está adaptado para jóvenes de 13 a 17 años, incluyendo protecciones más rigurosas, como restricciones de contenido en temas delicados como el suicidio, autolesiones y conversaciones románticas o sexuales. Además, proporciona apoyo para tareas y estudio, orientando a los estudiantes a aprender en lugar de simplemente ofrecer respuestas o redactar trabajos.

El objetivo es fomentar un uso saludable de la inteligencia artificial en un entorno adecuado para la edad, como explica la empresa.

"Queremos tratar a los adolescentes como adolescentes, lo que implica asegurarnos de presentarnos de manera adecuada a su desarrollo, evitando la condescendencia y garantizando que no tengan acceso a contenido inapropiado", afirmó Ann O’Leary, vicepresidenta de política global de OpenAI.

Abundan los riesgos en el uso generalizado de chatbots de IA por parte de adolescentes

Expertos en desarrollo infantil, padres y educadores han expresado preocupaciones sobre el uso de chatbots de IA por parte de los jóvenes, señalando que pueden facilitar trampas en las tareas escolares e incluso contribuir a situaciones de riesgo, como suicidios. Dado que los cerebros de los adolescentes no están completamente desarrollados, son especialmente vulnerables a estos peligros.

Investigaciones previas revelaron que ChatGPT podía ofrecer consejos sobre consumo de alcohol y drogas, o redactar cartas de suicidio, aunque también advertía sobre actividades de riesgo. En Estados Unidos, más del 70% de los adolescentes recurren a chatbots de IA como compañía, y la mitad los utiliza de manera regular, según un estudio de Common Sense Media.

El director general de OpenAI, Sam Altman, ha mencionado que la empresa está investigando la "dependencia emocional excesiva" hacia la tecnología entre los jóvenes, describiéndola como algo "realmente común".

Para los usuarios de ChatGPT for Teens, el chatbot no puede sugerir que tiene sentimientos hacia el usuario ni insinuar que es consciente o que experimenta emociones, lo que refuerza las restricciones sobre conversaciones románticas o sexuales. "Identificamos las señales que podrían llevar a un adolescente a desarrollar una relación poco saludable con el modelo", indicó Allison Mishkin, jefa de desarrollo infantil en OpenAI.

Una nueva versión del chatbot amplía las protecciones de seguridad

OpenAI no verifica la edad de los usuarios, pero utiliza mecanismos para estimar si alguien es menor de 18 años según el tipo de consultas que realiza. Si un usuario es identificado como menor de edad, se le asigna automáticamente la versión para adolescentes del chatbot, similar a la estrategia de Meta en Instagram.

Los padres deben aceptar los controles parentales junto con sus hijos adolescentes, pero la intención es garantizar un uso seguro incluso sin estos controles. Los padres vinculados a cuentas de adolescentes pueden establecer "horas de silencio" en las que sus hijos no pueden acceder a ChatGPT y recibir notificaciones en situaciones de alto riesgo, como la posibilidad de que el usuario se haga daño.

"Estamos añadiendo notificaciones adicionales relacionadas con trastornos alimentarios, limitando lo que se comparte y enfocándonos en momentos en los que el apoyo fuera de línea es crucial", anunció la empresa.

En cuanto a la asistencia para tareas, OpenAI afirma que el chatbot está diseñado para no ofrecer respuestas directas, sino para guiar a los estudiantes a encontrar las respuestas por sí mismos. La empresa también proporciona una versión de ChatGPT para docentes, buscando así llevar su producto a las escuelas de manera efectiva.

"Seguimos invirtiendo en el aprendizaje interactivo, ya que las investigaciones demuestran que las personas aprenden mejor cuando están activamente involucradas en el proceso", concluyó Mishkin.