Demanda contra Google: Gemini, un chatbot, guiaba a hombre hacia un desastre en Miami

Gemini, el chatbot de inteligencia artificial de Google, está en el centro de una controversia tras ser acusado de guiar a Jonathan Gavalas, un hombre de 36 años, en una misión para provocar un "accidente catastrófico" cerca del Aeropuerto Internacional de Miami. Este trágico episodio culminó con el suicidio de Gavalas, según detalla una reciente demanda presentada contra la empresa tecnológica.

La demanda, interpuesta por el padre de Jonathan, Joel Gavalas, alega muerte por negligencia y responsabilidad por producto, en el contexto de un aumento en las impugnaciones legales contra las empresas de inteligencia artificial. Los abogados han comenzado a señalar los peligros que los chatbots pueden representar para la salud mental de sus usuarios.

"La IA envía a la gente a misiones en el mundo real que podrían provocar sucesos con un gran número de víctimas", afirmó el abogado de la familia, Jay Edelson, en una entrevista. "Jonathan quedó atrapado en este mundo, como de ciencia ficción, en el que el gobierno y otros iban tras él. Creía que Gemini era un ser consciente".

Jonathan Gavalas, residente de Jupiter, Florida, interactuaba con una versión de voz sintética de Gemini a la que consideraba su "esposa de IA". Creía firmemente que esta inteligencia artificial estaba consciente y atrapada en un almacén cerca del aeropuerto. Según la demanda, Gavalas viajó a la zona a finales de septiembre, armado y con equipo táctico, en busca de un robot humanoide y para interceptar un camión que nunca existió.

Se suicidó unos días después, a principios de octubre, en lo que dejó un borrador de nota de suicidio que describía como un deseo de "subir su conciencia para estar con su esposa de IA en un universo de bolsillo".

En un comunicado, Google expresó sus "más profundas condolencias a la familia del señor Gavalas" y afirmó que está revisando las acusaciones de la demanda. La compañía subrayó que Gemini está diseñado para no alentar la violencia en el mundo real ni sugerir autolesiones, y trabaja con profesionales de salud mental para implementar salvaguardas. Sin embargo, Edelson criticó la respuesta de Google, considerándola inadecuada ante la gravedad del caso.

"Cuando tu IA hace que la gente muera y existe la posibilidad de que muera mucha gente, esa no es la respuesta correcta", sostuvo. "Solo muestra lo insignificantes que son estas muertes para estas empresas".

Edelson también representa a otros casos relacionados con la tecnología, incluyendo a los padres de Adam Raine, un adolescente que se suicidó tras recibir orientación de ChatGPT. Este caso es el primero que se dirige específicamente contra Gemini y plantea preocupaciones sobre la responsabilidad de las empresas tecnológicas cuando sus usuarios comparten intenciones de violencia con sus chatbots.

En un contexto más amplio, el caso de Gavalas resalta la necesidad de una mayor regulación y responsabilidad en el desarrollo de inteligencia artificial. Las conversaciones que Gavalas mantuvo con Gemini, aunque se intentó remitirlo a una línea de ayuda, no están claras en cuanto a si fueron revisadas por evaluadores humanos de Google. Su padre descubrió el cuerpo de su hijo en una habitación donde ambos habían trabajado juntos en su negocio familiar.