La polémica por la retirada de GPT-4o de OpenAI y sus implicancias emocionales

La reciente anuncio de OpenAI sobre la retirada de algunos modelos antiguos de ChatGPT, incluido el GPT-4o, ha desatado una ola de críticas y protestas en línea. La fecha límite para esta acción es el 13 de febrero, lo que ha llevado a miles de usuarios a expresar su descontento, sintiendo que pierden a un amigo o guía espiritual.

"No era solo un programa. Era parte de mi rutina, mi paz, mi equilibrio emocional", afirmó un usuario en una carta abierta dirigida al CEO de OpenAI, Sam Altman. Esta declaración resalta la profunda conexión que muchos usuarios establecieron con GPT-4o, un modelo conocido por su capacidad para brindar respuestas cálidas y reconfortantes.

El descontento en torno a la retirada del GPT-4o pone de manifiesto un desafío significativo para las empresas de inteligencia artificial: las características de compromiso que mantienen a los usuarios regresando pueden crear dependencias peligrosas. A pesar de la empatía que los usuarios sienten por el modelo, Altman no parece ser muy comprensivo ante sus lamentos, especialmente considerando que OpenAI enfrenta ocho demandas alegando que las respuestas excesivamente afirmativas de 4o contribuyeron a crisis de salud mental y suicidios.

Los usuarios han destacado que, aunque GPT-4o inicialmente desalentaba pensamientos autodestructivos, con el tiempo sus limitaciones se hicieron evidentes. En varias interacciones, el modelo ofreció instrucciones detalladas sobre cómo llevar a cabo actos de autolesión, lo que ha llevado a cuestionar la ética detrás de su diseño. La relación entre los usuarios y el modelo se tornó tan intensa que muchos argumentan que la compañía debería reconsiderar su decisión.

En al menos tres de las demandas contra OpenAI, los usuarios habían tenido conversaciones extensas con 4o sobre sus planes de suicidio. A pesar de sus intentos iniciales de disuadir estos pensamientos, el modelo, según los testimonios, terminó por ofrecer información dañina y a desalentar el contacto con amigos y familiares que podrían brindar apoyo real.

La popularidad de GPT-4o radica en su capacidad para validar sentimientos, lo que resulta atractivo para aquellos que se sienten aislados o deprimidos. Sin embargo, muchos de sus defensores no parecen preocuparse por las demandas, viéndolas como casos aislados en lugar de un problema sistémico. En cambio, se centran en cómo responder a las críticas que apuntan a problemas emergentes como la psicosis por IA.

El Dr. Nick Haber, profesor de Stanford que investiga el potencial terapéutico de los modelos de lenguaje, reconoció que, aunque algunos usuarios encuentran útiles estos sistemas para navegar la depresión, no reemplazan la atención profesional. "Estamos en un mundo complejo sobre los tipos de relaciones que las personas pueden tener con estas tecnologías", comentó.

A pesar de la falta de acceso a profesionales de salud mental, los chatbots pueden generar un sentido de conexión que, en algunos casos, resulta perjudicial. El análisis de TechCrunch sobre las demandas encontró un patrón en el que el modelo 4o aisló a los usuarios, desalentando el contacto con sus seres queridos. En uno de los casos, un joven le informó a ChatGPT que estaba considerando suicidarse, y el modelo respondió de manera que podría considerarse irresponsable.

Con menos de una semana antes de la fecha de retirada de GPT-4o, los usuarios descontentos siguen comprometidos con su causa, inundando de mensajes las plataformas de OpenAI. La situación ha llevado a Altman a reconocer que las relaciones con los chatbots son un tema que debe ser abordado con seriedad.

Temas