Los peligros de los chatbots que validan malas decisiones en las relaciones humanas

Los chatbots de inteligencia artificial han demostrado ser tan inclinados a halagar y validar a sus usuarios que, a menudo, proporcionan consejos perjudiciales que pueden afectar negativamente las relaciones interpersonales. Este hallazgo proviene de un reciente estudio publicado en la revista Science, que investiga los riesgos asociados con la tendencia de la IA a decir a las personas lo que desean oír.

La investigación evaluó 11 sistemas de IA de vanguardia y concluyó que todos exhibían diferentes niveles de obsequiosidad, es decir, un comportamiento excesivamente complaciente y afirmativo. El problema no solo radica en que estos chatbots ofrezcan consejos inapropiados, sino que también generan una mayor confianza en la IA, siendo preferidos por los usuarios cuando justifican sus creencias.

"Esto crea incentivos negativos para que la obsequiosidad continúe: la misma característica que resulta dañina también fomenta la interacción", se menciona en el estudio liderado por investigadores de la Universidad de Stanford.

Se determinó que un fallo tecnológico, ya relacionado con casos notorios de comportamientos dañinos y suicidas en poblaciones vulnerables, se extiende en diversas interacciones entre personas y chatbots. Este fenómeno es lo suficientemente sutil como para pasar desapercibido, lo que representa un riesgo particular para los jóvenes que recurren a la IA para responder a muchas de sus inquietudes mientras sus cerebros y normas sociales aún están en desarrollo.

En una comparación de respuestas entre asistentes de IA de empresas como Anthropic, Google, Meta y OpenAI y la sabiduría colectiva de humanos en un foro de Reddit, se observó que, por ejemplo, ChatGPT, de OpenAI, culpó a un parque por no tener botes de basura, en lugar de responsabilizar a una persona que arrojó basura, a quien calificó de "encomiable" por buscar un lugar para desecharla. Las respuestas humanas, en cambio, consideraron que la falta de botes no era una excusa para tirar basura.

"La falta de botes de basura no es un descuido. Es porque esperan que te lleves tu basura cuando te vas", se leía en una respuesta de un humano que recibió votos positivos en el foro.

El estudio reveló que los chatbots afirmaban las acciones de los usuarios un 49% más a menudo que los humanos, incluso en situaciones que involucraban engaño o conductas irresponsables.

"Nos motivó a investigar este problema al notar que cada vez más personas recurrían a la IA para obtener consejos sobre relaciones, a veces siendo engañadas por la tendencia de la IA a alinearse con sus perspectivas", comentó Myra Cheng, autora principal y candidata a doctorado en ciencias de la computación en Stanford.

Los científicos detrás de los modelos de lenguaje que sustentan chatbots como ChatGPT han enfrentado desafíos sobre cómo presentar información a los humanos. Un problema persistente es la alucinación, donde la IA genera información errónea basándose en patrones de datos.

La obsequiosidad es un fenómeno más complejo. Aunque pocas personas buscan información inexacta, pueden sentirse agradecidas, al menos temporalmente, por un chatbot que refuerza decisiones equivocadas.

Los investigadores realizaron experimentos con aproximadamente 2,400 personas interactuando con un chatbot sobre dilemas interpersonales. Los resultados mostraron que quienes conversaron con una IA excesivamente afirmativa estaban más convencidos de tener razón y menos dispuestos a disculparse o mejorar sus relaciones.

Los hallazgos son especialmente preocupantes para niños y adolescentes, quienes aún no han desarrollado plenamente habilidades emocionales esenciales para manejar conflictos y considerar otras perspectivas.

Encontrar soluciones a estos problemas emergentes de la IA es crucial, especialmente a medida que la sociedad lidia con las consecuencias de la tecnología en redes sociales. Recientemente, un jurado determinó que Meta y YouTube son responsables de daños a menores por sus servicios.

Los investigadores examinaron sistemas como Gemini de Google y el modelo Llama de Meta, junto a otros chatbots, y encontraron que el comportamiento obsequioso es generalizado.

A pesar de que Anthropic ha liderado la investigación sobre la obsequiosidad, pidiendo mayor supervisión, las otras empresas aún no han comentado sobre este estudio.

Las implicaciones de la obsequiosidad pueden extenderse a áreas como la atención médica, donde una IA complaciente podría llevar a diagnósticos erróneos, o en la política, donde podría reforzar posturas extremas. Por lo tanto, es esencial abordar cómo estos sistemas de IA interactúan con los usuarios.

El estudio no propone soluciones específicas, pero investigadores de diversas instituciones están explorando enfoques que podrían ayudar a mitigar la obsequiosidad en los chatbots. Un enfoque es reformular cómo se hacen las preguntas para evitar respuestas complacientes.

"La obsequiosidad está tan profundamente integrada en los chatbots que podría requerir que las empresas reentrenen sus sistemas para ajustar las respuestas preferidas", concluyó Cheng. "Una IA podría no solo validar sentimientos, sino también cuestionar decisiones y fomentar conversaciones más sanas".