La IA genera imágenes tan reales que confunden a los humanos

Un nuevo estudio demostró que la inteligencia artificial puede generar imágenes de personas reales que son prácticamente indistinguibles de fotografías genuinas. Esta investigación, realizada por un equipo de Swansea University, la University of Lincoln y Ariel University en Israel, plantea serias preocupaciones sobre la confianza en los medios visuales.

Utilizando modelos de IA como ChatGPT y DALL·E, los investigadores crearon imágenes altamente realistas de rostros ficticios y de celebridades. Los participantes en el estudio no lograron distinguir de manera confiable entre las imágenes generadas por IA y las fotos auténticas, incluso cuando estaban familiarizados con la apariencia de las personas.

En cuatro experimentos separados, se observó que la inclusión de fotos de comparación o el conocimiento previo de los rostros ofrecieron solo una ayuda limitada. Los resultados fueron publicados en la revista Cognitive Research: Principles and Implications, donde el equipo destacó un nuevo nivel de "realismo de deepfake", indicando que la IA puede producir imágenes falsas convincentes de personas reales, lo que podría erosionar la confianza en los medios visuales.

El profesor Jeremy Tree, de la Escuela de Psicología, comentó: "Los estudios han demostrado que las imágenes de rostros de personas ficticias generadas por IA son indistinguibles de las fotografías reales. Pero en esta investigación, fuimos más allá al generar imágenes sintéticas de personas reales".

El profesor Tree agregó: "El hecho de que herramientas de IA cotidianas puedan hacer esto no solo plantea preocupaciones urgentes sobre la desinformación y la confianza en los medios visuales, sino también la necesidad de métodos de detección confiables como una cuestión de urgencia".

Uno de los experimentos involucró a participantes de EE. UU., Canadá, Reino Unido, Australia y Nueva Zelanda, quienes fueron mostrados una serie de imágenes faciales, tanto reales como generadas artificialmente, y se les pidió identificar cuáles eran cuáles. El hecho de que los participantes confundieran las caras generadas por IA con fotos reales indica cuán plausibles eran.

Otro experimento consistió en preguntar a los participantes si podían distinguir imágenes genuinas de estrellas de Hollywood como Paul Rudd y Olivia Wilde de versiones generadas por computadora. Nuevamente, los resultados del estudio mostraron cuán difícil es para las personas identificar la versión auténtica.

Los investigadores señalaron que la capacidad de la IA para producir imágenes sintéticas de personas reales abre numerosas avenidas para su uso y abuso. Por ejemplo, los creadores podrían generar imágenes de una celebridad apoyando un determinado producto o postura política, lo que podría influir en la opinión pública sobre la identidad y la marca u organización que se presenta como apoyando.

El profesor Tree concluyó: "Este estudio muestra que la IA puede crear imágenes sintéticas de rostros nuevos y conocidos que la mayoría de las personas no pueden distinguir de las fotos reales. La familiaridad con un rostro o tener imágenes de referencia no ayudó mucho a detectar las falsificaciones. Por eso, necesitamos urgentemente encontrar nuevas formas de detectarlas".

"Si bien los sistemas automatizados pueden eventualmente superar a los humanos en esta tarea, por ahora, depende de los espectadores juzgar qué es real".