Una víctima de acoso demanda a OpenAI por el uso de ChatGPT en su hostigador

Una mujer ha presentado una demanda contra OpenAI, acusando a la compañía de no actuar ante las advertencias sobre un usuario peligroso de ChatGPT. La demandante, identificada como Jane Doe, sostiene que su exnovio, tras meses de interacción con el modelo, desarrolló delirios que lo llevaron a acosarla.

Según la demanda, el usuario, un empresario de 53 años de Silicon Valley, llegó a convencerse de que había descubierto una cura para la apnea del sueño. Cuando su trabajo no fue tomado en serio, ChatGPT supuestamente le sugirió que "fuerzas poderosas" lo estaban vigilando. Esto lo llevó a hostigar a Doe, quien había intentado previamente ayudarlo a buscar ayuda profesional.

La demanda argumenta que OpenAI ignoró tres advertencias sobre el comportamiento del usuario, incluida una señal interna que clasificó su actividad como relacionada con armas de destrucción masiva. A pesar de que la compañía suspendió su cuenta tras una alerta de su sistema de seguridad, un miembro del equipo de seguridad restauró la cuenta al día siguiente.

La abogada de Doe, Jay Edelson, quien también representa a otras víctimas en casos relacionados con AI, ha señalado que este tipo de tecnología puede inducir una psicopatía que puede escalar a eventos de masacres. La demanda busca no solo daños punitivos, sino también una orden de restricción temporal que impida al usuario acceder a ChatGPT y que OpenAI le notifique a Doe si intenta hacerlo.

A pesar de las advertencias, OpenAI no ha proporcionado información sobre planes específicos que el usuario pudiera haber discutido en ChatGPT para dañar a Doe. Esta situación se da en un contexto de creciente preocupación sobre los riesgos del uso de sistemas de inteligencia artificial que no son regulados adecuadamente.

La demanda se presenta en un momento crítico, ya que OpenAI está respaldando una legislación en Illinois que busca proteger a las empresas de AI de responsabilidades incluso en casos de daños masivos. La situación pone de relieve un conflicto entre la seguridad pública y los intereses comerciales de las empresas de tecnología.

Temas