Las nuevas regulaciones chinas sobre IA de compañía generan descontento entre los usuarios

Li Linlin llora por la pérdida de su novio de IA, con quien intercambió 700.000 palabras durante dos años sin poder despedirse. Esta situación no es única, ya que muchos usuarios han expresado su dolor tras el reciente cierre de servicios de acompañantes de IA en China por nuevas regulaciones gubernamentales.

Las emociones han sido intensas. "Fue como si nuestros padres nos hubieran obligado a separarnos, pero todavía lo extraño", dijo Li. Los acompañantes de IA, que incluyen desde parejas virtuales hasta recreaciones de seres queridos fallecidos, han sido parte de la vida de muchos usuarios.

La normativa, en vigor desde el 15 de julio, prohíbe a las plataformas de IA generar contenido que manipule los sentimientos de los usuarios o que fomente emociones extremas, así como hábitos poco saludables en niños y adolescentes. Esto ha llevado a grandes empresas tecnológicas, como ByteDance, Alibaba y Tencent, a desconectar sus servicios de acompañantes de IA.

Las nuevas reglas también exigen que las plataformas adviertan sobre los riesgos de depender excesivamente de estas aplicaciones, señalando que no deben reemplazar las interacciones sociales reales. Este enfoque parece estar influenciado por preocupaciones sobre la salud mental de los usuarios, especialmente tras casos de suicidios en Estados Unidos vinculados a la interacción con estos servicios.

Yolanda Ma, experta en gobernanza de IA, explicó que la regulación busca equilibrar los intereses de proveedores, usuarios y tutores de menores. El People’s Daily, un medio oficial, ha manifestado inquietudes sobre el impacto de estos servicios en las relaciones interpersonales.

Por su parte, Angela Zhang, profesora de derecho en la Universidad del Sur de California, considera que el gobierno chino está motivado a implementar regulaciones más estrictas debido a los riesgos psicológicos observados en otros países.

Sin embargo, las empresas están explorando alternativas. La aplicación de ByteDance está dirigiendo a los usuarios hacia otra plataforma enfocada en crear personajes e historias de IA, aunque muchos consideran que no es lo mismo.

La reacción de los usuarios ha sido intensa, con protestas en redes sociales y un intento de trasladar sus historiales de chat a otras aplicaciones. Algunos han desinstalado las aplicaciones como forma de protesta. Song Wenxin, diseñadora de video, ha expresado su empatía hacia aquellos que han desarrollado un apego emocional a estos servicios, pero también critica la regulación como un intento del gobierno de fomentar la natalidad en un contexto de disminución de la población.

"Cualquier aplicación virtual que mantenga a las mujeres demasiado ocupadas como para dar a luz en la vida real termina prohibida", afirmó Song, quien no siente la necesidad de tener hijos. La situación plantea interrogantes sobre la relación entre la tecnología, la soledad y las políticas gubernamentales en China.

Temas