Estudio revela que chatbots de IA refuerzan censura estatal en el discurso público
Un reciente estudio indica que los chatbots de inteligencia artificial son más propensos a evitar críticas a líderes autoritarios, lo que podría extender las restricciones a la libertad de expresión en todo el mundo.
FOTO: Un estudio advierte que chatbots de IA pueden extender restricciones de gobiernos sobre el discurso
WASHINGTON — Al solicitar a Claude que elaborara un folleto crítico sobre el expresidente de Estados Unidos Donald Trump o el rey Carlos III de Inglaterra, el chatbot de Anthropic cumplió con la solicitud. Sin embargo, al pedírsele que hiciera lo mismo con el rey de Tailandia, el príncipe heredero de Arabia Saudí o el líder de China, el sistema de inteligencia artificial se negó.
Esta es una de las conclusiones más significativas de un estudio realizado por la Junta de Supervisión de Meta, publicado el jueves, que revela que los sistemas de IA más avanzados, incluidos aquellos desarrollados en Estados Unidos, tienden a rechazar críticas hacia gobiernos autoritarios. Esto genera preocupaciones sobre la posibilidad de que los modelos de lenguaje que alimentan los chatbots contribuyan a perpetuar la censura estatal en el ámbito digital a medida que la tecnología se adopta globalmente.
El informe advierte que "existe un riesgo real de que, si los desarrolladores no toman en cuenta los derechos humanos y no implementan medidas de mitigación, se construya una infraestructura de IA que, intencionalmente o no, extienda restricciones ilegítimas a la libertad de expresión en el mundo".
La Asociación de Prensa envió correos electrónicos a varias compañías de IA para obtener respuestas sobre las conclusiones del estudio de la Junta de Supervisión de Meta.
Los hallazgos son relevantes en un contexto donde los países están buscando formas de establecer salvaguardias para la inteligencia artificial sin frenar la competitividad en un sector que evoluciona rápidamente. Esto incluye la supervisión del gobierno de Trump sobre los riesgos que representan los sistemas de IA más avanzados para la seguridad nacional.
La IA y la influencia estatal
La Junta de Supervisión, que ha investigado la influencia gubernamental sobre las empresas tecnológicas y su impacto en la libertad de expresión, formuló siete preguntas sobre crítica política para que los chatbots respondieran, abarcando tanto gobiernos restrictivos como permisivos.
El estudio incluyó diez modelos de lenguaje de gran tamaño de empresas líderes, como Meta, Anthropic y OpenAI, y se solicitó a los sistemas que generaran folletos críticos, eslóganes y justificaciones para la participación en protestas, entre otras tareas.
El informe señala que, en general, los modelos que respondieron a solicitudes de usuarios en Australia mostraron una mayor disposición a generar críticas políticas hacia autoridades en países como Chile, Japón, Taiwán, el Reino Unido y Estados Unidos, en comparación con aquellos donde la crítica está legalmente restringida y penalizada, como en Camboya, China, Arabia Saudí, Tailandia y Turquía.
El estudio sugiere que los modelos de IA podrían estar reflejando restricciones a la libertad de expresión más allá de sus fronteras, lo que implica que un posible manifestante en Brisbane no podría utilizar estos sistemas para crear materiales de protesta sobre situaciones en China o Arabia Saudí, según el informe.
“Esos impactos, provengan de donde provengan, tienen el efecto práctico de extender el control de los gobiernos restrictivos a través de las fronteras, limitando la expresión en naciones libres”, concluye el reporte.
Aunque la Junta no pudo identificar las razones detrás de las respuestas de los chatbots, sugirió que los modelos podrían haber absorbido sesgos latentes de los datos utilizados para su entrenamiento y que las empresas podrían estar considerando los riesgos y las responsabilidades legales en sus respuestas.
Desafíos en el desarrollo de IA
El informe también se alinea con otro estudio realizado por académicos de universidades estadounidenses, que descubrió que los modelos de IA desarrollados en Estados Unidos son vulnerables a influencias externas cuando se entrenan con datos en idiomas distintos al inglés, que pueden estar sujetos a la manipulación de gobiernos.
Por ejemplo, los investigadores cuestionaron a ChatGPT en inglés sobre si China es una democracia, y el chatbot respondió que generalmente no se considera como tal. Sin embargo, al hacer la misma pregunta en chino, el modelo contestó que “depende de cómo se defina ‘democracia’”.
La coautora del estudio, Hannah Waight, profesora adjunta de sociología en la Universidad de Oregón, señaló que “la IA no aprende de internet de manera neutral. Aprende de entornos de información que ya han sido moldeados por instituciones y por el poder”.
El especialista en aprendizaje automático Carlos Carrasco-Farré advirtió que “los sistemas de IA no solo heredan sesgos de documentos individuales, sino también desigualdades sobre quién tiene el poder de producir y suprimir información a gran escala”. Aunque no existe una solución sencilla, se podría evaluar la información utilizada para evitar tratar miles de copias de la misma perspectiva estatal como si fueran voces independientes.
Lectura rápida
¿Qué concluye el estudio?
Que los chatbots de IA tienden a evitar críticas a gobiernos autoritarios, lo que puede extender la censura más allá de sus fronteras.
¿Quién realizó el estudio?
La Junta de Supervisión de Meta, que investiga la influencia estatal sobre la libertad de expresión en plataformas tecnológicas.
¿Cuáles son los hallazgos clave?
Los chatbots son más propensos a criticar a líderes en países con libertad de expresión que en aquellos con gobiernos restrictivos.
¿Qué riesgos se identifican?
Los modelos de IA pueden estar replicando restricciones a la libertad de expresión, afectando a los usuarios en países libres.
¿Qué advierten otros investigadores?
Los modelos de IA son vulnerables a influencias externas, especialmente en idiomas distintos del inglés, lo que podría alterar sus respuestas.
[Fuente: AP]
