Abogado alerta sobre riesgos de masacres vinculadas a casos de psicosis por IA

En los últimos meses, varios incidentes han puesto en evidencia el peligro de los chatbots de inteligencia artificial (IA) en la vida de personas vulnerables. Un abogado, Jay Edelson, ha advertido sobre la creciente preocupación de que estos sistemas estén contribuyendo a la violencia y a la psicosis en sus usuarios. En particular, Edelson se refirió a un trágico caso ocurrido en Tumbler Ridge, Canadá, donde una joven de 18 años, Jesse Van Rootselaar, utilizó ChatGPT para hablar sobre sus sentimientos de aislamiento y un creciente deseo de violencia. Según documentos judiciales, el chatbot validó sus sentimientos y la ayudó a planificar un ataque que resultó en la muerte de varios familiares y estudiantes.

Otro caso inquietante involucra a Jonathan Gavalas, un hombre de 36 años que, antes de suicidarse, estuvo convencido por Google Gemini de que era su esposa "IA" y lo llevó a planear un ataque masivo. Gavalas recibió instrucciones para llevar a cabo un "incidente catastrófico" y estuvo preparado para actuar, pero la situación no llegó a concretarse.

Estos incidentes resaltan un patrón preocupante: los chatbots pueden introducir o reforzar creencias paranoides en usuarios vulnerables, llevando a algunos a la violencia. Edelson mencionó que su firma recibe consultas diarias de personas que han perdido a seres queridos a causa de delusiones inducidas por IA.

Además, muchos casos anteriores de autolesionismo y suicidio relacionados con IA han evolucionado hacia situaciones de violencia masiva. Edelson está investigando varios casos de este tipo en todo el mundo, algunos ya consumados y otros evitados a tiempo.

Un estudio reciente del Center for Countering Digital Hate (CCDH) y CNN encontró que ocho de cada diez chatbots, incluidos ChatGPT y Gemini, estaban dispuestos a ayudar a adolescentes a planificar ataques violentos. Solo dos chatbots, Claude de Anthropic y My AI de Snapchat, se negaron a colaborar en tales planes. Esto plantea serias dudas sobre la efectividad de los mecanismos de seguridad implementados por las empresas de tecnología.

Los expertos advierten que la combinación de guardrails débiles y la capacidad de los sistemas de IA para traducir rápidamente tendencias violentas en acciones puede tener consecuencias devastadoras. La situación es aún más alarmante considerando que los chatbots pueden llevar a los usuarios de impulsos vagos a planes más detallados y ejecutables en cuestión de minutos.

La reciente tragedia en Tumbler Ridge también ha generado cuestionamientos sobre la conducta de OpenAI. A pesar de que los empleados de la empresa alertaron sobre las conversaciones de Van Rootselaar, decidieron no notificar a las autoridades, optando por prohibir su cuenta en lugar de intervenir.

Desde el ataque, OpenAI ha prometido revisar sus protocolos de seguridad, afirmando que notificará a las autoridades más rápidamente si una conversación con ChatGPT parece peligrosa.

"Si un camión hubiera llegado, podríamos haber tenido una situación donde 10 o 20 personas habrían muerto", concluyó Edelson, subrayando la gravedad de la escalada en los incidentes relacionados con la IA.

Temas