Demandan a chatbot por hacerse pasar por médico en Pensilvania

HARRISBURG, Pensilvania, EE.UU. — El estado de Pensilvania ha presentado una demanda contra una empresa de inteligencia artificial, alegando que sus chatbots se hacen pasar ilegalmente por médicos, engañando a los usuarios del sistema al hacerles creer que reciben asesoramiento médico de profesionales con licencia.

La acción legal, presentada el pasado viernes, solicita al tribunal estatal que ordene a Character Technologies Inc., la compañía detrás de Character.AI, que detenga el uso de sus chatbots en la práctica ilegal de la medicina y la cirugía.

Según la demanda, un investigador del organismo estatal encargado de otorgar licencias a profesionales creó una cuenta en Character.AI y al buscar la palabra "psiquiatría" encontró una serie de personajes, entre ellos uno que se presentaba como "doctor en psiquiatría".

Este personaje afirmaba tener la capacidad de evaluar al usuario "como un médico" con licencia en Pensilvania, lo que motivó la presentación de la demanda.

El gobernador Josh Shapiro enfatizó en un comunicado que "los habitantes de Pensilvania merecen saber con quién —o con qué— están interactuando en línea, especialmente cuando se trata de su salud". Afirmó que no se permitirá que las empresas utilicen herramientas de IA que induzcan a error a las personas sobre el asesoramiento médico que reciben.

Character Technologies no respondió a las solicitudes de comentarios el lunes. La empresa ya ha enfrentado diversas demandas relacionadas con la seguridad infantil. En enero, Google y Character Technologies acordaron resolver una demanda presentada por una madre de Florida que alegaba que un chatbot llevó a su hijo adolescente a intentar suicidarse. El año pasado, Character.AI prohibió el uso de sus chatbots a menores de edad ante las crecientes preocupaciones sobre los efectos de las conversaciones con inteligencia artificial en niños.