Entrenamiento de cinco minutos mejora la detección de rostros falsos generados por IA

Un reciente estudio demostró que solo cinco minutos de entrenamiento pueden mejorar significativamente la capacidad de las personas para identificar rostros falsos creados por inteligencia artificial. La investigación, realizada por científicos de las Universidades de Reading, Greenwich, Leeds y Lincoln, incluyó a 664 participantes que debían distinguir entre rostros humanos reales y aquellos generados por un software llamado StyleGAN3. Los resultados fueron publicados en la revista Royal Society Open Science.

Sin entrenamiento previo, los super-reconocedores, individuos que destacan en pruebas de reconocimiento facial, identificaron correctamente los rostros falsos en un 41% de los casos, mientras que los participantes con habilidades promedio lo hicieron en un 31%. Si hubieran adivinado, su rendimiento habría sido de aproximadamente 50%, que es el nivel de azar.

Un nuevo grupo de participantes que recibió un breve entrenamiento, que destacó errores comunes en la renderización de computadoras, como patrones de cabello inusuales o números incorrectos de dientes, mostró una mayor precisión. Los super-reconocedores lograron un 64% de precisión en la detección de rostros falsos, mientras que los participantes típicos alcanzaron un 51%.

La doctora Katie Gray, investigadora principal de la Universidad de Reading, comentó: "Los rostros generados por computadora representan riesgos de seguridad reales. Se han utilizado para crear perfiles falsos en redes sociales, eludir sistemas de verificación de identidad y crear documentos falsos. Las caras producidas por la última generación de software de inteligencia artificial son extremadamente realistas, y las personas a menudo juzgan que los rostros generados por IA son más realistas que los rostros humanos reales".

Gray añadió: "Nuestro procedimiento de entrenamiento es breve y fácil de implementar. Los resultados sugieren que combinar este entrenamiento con las habilidades naturales de los super-reconocedores podría ayudar a abordar problemas del mundo real, como la verificación de identidades en línea".

El avance del software plantea un desafío difícil

El entrenamiento tuvo un efecto similar en ambos grupos, lo que sugiere que los super-reconocedores pueden utilizar diferentes pistas visuales que los observadores típicos al identificar rostros sintéticos, en lugar de simplemente ser mejores para detectar errores de renderización.

La investigación se centró en rostros creados por StyleGAN3, el sistema más avanzado disponible en el momento de la realización del estudio. Esto representa un desafío significativo en comparación con investigaciones anteriores que utilizaron software más antiguo, ya que los participantes en este estudio tendieron a tener un rendimiento más bajo que aquellos en estudios previos.

Investigaciones futuras examinarán si los efectos del entrenamiento se mantienen a lo largo del tiempo y cómo las habilidades de los super-reconocedores podrían complementar las herramientas de detección de inteligencia artificial.

Temas