Aumento de casos legales por el uso indebido de inteligencia artificial generativa

El Centro para el Futuro de la Profesión Legal (CFLP) de la Universidad de Nueva Gales del Sur (UNSW) presentó un nuevo informe sobre los impactos de la inteligencia artificial generativa (GenAI) en el ámbito legal titulado "GenAI, Fake Law & Fallout: A review of the misuse of generative artificial intelligence in legal proceedings".

El informe, que analizó casos legales reportados entre enero de 2023 y septiembre de 2025, identificó más de 520 casos donde se sospechó o confirmó el uso indebido de GenAI.

De la curiosidad a la preocupación

Lo que comenzó como un goteo de casos de GenAI se transformó en un flujo constante, liderado por casos en los tribunales de Estados Unidos, seguido por Australia. La base de datos de casos de GenAI del CFLP se compiló a partir de registros judiciales oficiales y bases de datos legales, abarcando diez jurisdicciones: Australia, Canadá, Hong Kong, India, Irlanda, Nueva Zelanda, Singapur, Sudáfrica, el Reino Unido y los Estados Unidos.

Las visualizaciones en el informe resaltan tendencias clave, incluyendo la predominancia de casos de GenAI que involucran a litigantes que se representan a sí mismos y la concentración de casos en comisiones, tribunales y juzgados inferiores, donde la auto-representación es común. Otros temas recurrentes o patrones de riesgo relacionados con el uso indebido de GenAI incluyen:

• Citas y resúmenes de casos falsos e incorrectos.
• Razonamiento legal defectuoso.
• Documentación incorrecta.
• Documentación prolija y "inundaciones".

Extractos de casos recientes de GenAI en Australia que involucran a profesionales legales y litigantes que se representan a sí mismos ilustran lo que puede salir mal cuando se abusa de GenAI, una variedad de respuestas judiciales y conclusiones clave.

Orientaciones sobre mejores prácticas

El informe ofrece consejos prácticos para profesionales legales y litigantes que se representan a sí mismos que buscan utilizar GenAI de manera responsable y segura al prepararse para tribunales. GenAI puede mejorar los servicios legales, pero realizar este potencial depende de comprender sus límites y riesgos, e implementar salvaguardias adecuadas.

El Profesor Michael Legg, Director del CFLP, comentó: "GenAI ofrece oportunidades reales para mejorar los servicios legales, pero también introduce riesgos que los tribunales, abogados y responsables de políticas deben entender y gestionar. La investigación del CFLP tiene como objetivo ayudar a la profesión legal a encontrar el equilibrio adecuado".

Puntos clave de datos de la base de datos de casos de GenAI del CFLP

• Período de revisión de la jurisprudencia: 1 de enero de 2023 a 30 de septiembre de 2025.
• Jurisdicciones revisadas: 10—Australia, Canadá, Hong Kong, India, Irlanda, Nueva Zelanda, Singapur, Sudáfrica, Reino Unido, EE. UU.
• Total de casos de GenAI en la base de datos: 520.
• Casos de GenAI en Australia en la base de datos: 87.
• Casos australianos por tipo de usuario: Profesionales legales—10; Litigantes que se representan a sí mismos (SRLs)—68; Otros—9 (=78% SRLs).
• Tribunales/comisiones/tribunales australianos representados: 23.

Temas