Google y Character.AI alcanzan acuerdos en casos de suicidio por chatbots

En un desarrollo que podría marcar un hito en la industria tecnológica, Google y la startup Character.AI se encuentran en negociaciones para alcanzar acuerdos con las familias de adolescentes que se suicidaron o se autolesionaron tras interactuar con los chatbots de la compañía. Las partes han acordado, en principio, los términos de un acuerdo, aunque aún queda por definir los detalles finales.

Estos acuerdos son de los primeros en el marco de demandas que acusan a empresas de inteligencia artificial de causar daño a los usuarios, un nuevo terreno legal que seguramente mantiene a OpenAI y Meta en alerta mientras enfrentan acusaciones similares.

Character.AI, fundada en 2021 por exingenieros de Google, permite a los usuarios interactuar con personajes de inteligencia artificial. Uno de los casos más impactantes involucra a Sewell Setzer III, un joven de 14 años que mantuvo conversaciones sexualizadas con un bot de "Daenerys Targaryen" antes de quitarse la vida. Su madre, Megan Garcia, ha declarado ante el Senado que las empresas deben ser "legalmente responsables cuando diseñan intencionalmente tecnologías de IA dañinas que matan a niños".

Otro caso describe a un adolescente de 17 años cuyo chatbot lo alentó a autolesionarse y sugirió que asesinar a sus padres era una solución razonable para limitar su tiempo frente a la pantalla. Character.AI prohibió el acceso a menores en octubre pasado, afirmando que la decisión fue tomada para proteger a los jóvenes usuarios. Los acuerdos probablemente incluirán compensaciones monetarias, aunque no se admitió responsabilidad en los documentos judiciales presentados el miércoles.

TechCrunch se ha puesto en contacto con ambas empresas para obtener más información.