Un nuevo sistema de IA impulsado por luz detecta deepfakes con casi un 98% de precisión

Investigadores de la Universidad de California, Los Ángeles (UCLA) desarrollaron un innovador procesador óptico-neuronal que utiliza luz para identificar videos deepfake de manera rápida y precisa. A diferencia de los sistemas convencionales que analizan videos uno por uno, esta tecnología puede examinar simultáneamente más de 15 flujos de video.

La clave de este avance radica en que parte del proceso de detección ocurre a través de la propagación física de la luz. Esto permite evaluar múltiples videos en un solo paso óptico, evitando la necesidad de que cada uno transite por un costoso procesamiento digital.

Los detalles de esta tecnología se publicaron en el estudio titulado "Arquitectura óptico-neuronal escalable y eficiente en energía para la detección multiplexada de videos deepfake" en la revista eLight. Los investigadores diseñaron este sistema de IA óptica como una primera línea de defensa de alto rendimiento y resistente a ataques, destinada a filtrar grandes volúmenes de videos manipulados y generados por IA.

El creciente desafío de la detección de deepfakes

Las rápidas mejoras en la IA generativa han hecho que los videos sintéticos sean cada vez más realistas, aumentando la necesidad de sistemas de detección precisos y capaces de operar a gran escala. Muchos detectores avanzados dependen de enormes cantidades de computación digital, donde un solo análisis puede requerir cientos de miles de millones de operaciones en punto flotante, procesando los videos de manera secuencial.

El sistema digital tradicional enfrenta un problema adicional: los atacantes pueden alterar los videos falsos de manera sutil para confundir al detector y hacer que el material manipulado parezca auténtico.

El profesor Aydogan Ozcan y su equipo de UCLA desarrollaron un sistema híbrido digital-óptico para abordar ambos desafíos. Un codificador digital liviano recopila información compacta sobre cada video, incluyendo características espaciales, espectrales y temporales. Esa información se transforma en un patrón de fase que se muestra en un modulador de luz espacial programable.

El frente de onda óptico resultante viaja a través de un decodificador óptico pasivo basado en espacio libre. Al final del proceso, detectores ópticos emparejados producen directamente un puntaje de autenticidad para cada video. Este sistema reemplaza la red de decodificación digital, que consume muchos recursos, por un proceso físico que puede manejar múltiples flujos en paralelo.

Casi un 98% de precisión al analizar 15 videos a la vez

En experimentos realizados con luz visible, el procesador examinó simultáneamente 15 videos de Celeb-DF durante cada paso óptico, logrando una precisión de detección promedio del 97.79%, con una sensibilidad del 99.86% y una especificidad del 95.72%. La sensibilidad mide cuán efectivamente el sistema identifica videos manipulados, siendo esta alta sensibilidad crucial para una herramienta de detección diseñada para evitar que contenido falso se filtre.

La sensibilidad del 99.86% se tradujo en una tasa de falsos negativos de aproximadamente 0.14%, lo que significa que solo una fracción muy pequeña de los videos manipulados fue clasificada incorrectamente como auténtica.

Los investigadores también ampliaron la capacidad del sistema a 18 videos en un solo paso óptico, manteniendo una precisión de detección promedio del 96.13% incluso a ese nivel.

Más capas ópticas mejoran el rendimiento

El equipo descubrió que el procesador podría volverse más capaz al aumentar la profundidad física de su decodificador óptico pasivo, sin aumentar significativamente el consumo de energía o la latencia de inferencia. Al agregar dos capas difractivas pasivas optimizadas mientras se probaban manipulaciones de deepfake más difíciles, la precisión de detección mejoró en aproximadamente un 6.8%.

Estas capas difractivas solo de fase pueden fabricarse como estructuras ópticas pasivas y estáticas, realizando cálculos adicionales a través de la difracción de la luz, lo que significa que no requieren energía eléctrica adicional mientras el sistema realiza una inferencia.

Poniendo a prueba el sistema contra videos de Google VEO-3

Los investigadores no limitaron sus experimentos a los deepfakes de intercambio de rostros convencionales, sino que también retaron al procesador con videos producidos utilizando el modelo VEO-3 de Google. Los sistemas de IA generativa más nuevos pueden crear material que carece de muchos de los artefactos obvios asociados con la tecnología de deepfake anterior, lo que los convierte en un objetivo más difícil para los detectores entrenados principalmente en formas más antiguas de manipulación.

Con solo un ajuste mínimo, el procesador óptico logró una precisión del 94.80% y una sensibilidad del 97.61% en videos VEO-3 previamente no vistos durante los experimentos.

Los resultados sugieren que este enfoque podría adaptarse a medida que la tecnología de IA generativa continúa evolucionando.

Un detector de deepfakes diseñado para ser más difícil de engañar

El sistema óptico también mostró resistencia a ataques adversariales de caja negra y proporciona protección inherente contra ataques de caja blanca. Parte de esa seguridad proviene de la forma en que el detector realiza físicamente sus cálculos. Dado que parte del proceso de inferencia ocurre a través de la difracción, los parámetros importantes del modelo óptico están efectivamente integrados dentro del hardware.

Estos parámetros pueden ser difíciles de medir, reproducir o invertir para un atacante, lo que complica considerablemente la reconstrucción del detector y el diseño de cambios adversariales cuidadosamente adaptados que puedan eludirlo.

El procesador continuó funcionando de manera confiable incluso cuando los videos se vieron afectados por ruido de imagen, desenfoque, compresión JPEG y desalineaciones experimentales. Según los investigadores, estos resultados ilustran cómo la computación óptica podría proporcionar una base más segura y confiable para algunos sistemas de inteligencia artificial.

Una primera línea de defensa contra los deepfakes

En lugar de reemplazar por completo a los detectores digitales sofisticados, el procesador de UCLA está diseñado para funcionar como una primera etapa altamente sensible de un sistema de detección más amplio. Volúmenes masivos de video podrían pasar inicialmente a través del procesador óptico paralelo. El contenido identificado como sospechoso podría luego enviarse a modelos digitales más exigentes para una evaluación final más detallada.

Dicha combinación podría unir las fortalezas de ambos enfoques. El procesamiento óptico podría ofrecer operación paralela, bajos requisitos energéticos de decodificación, alta sensibilidad, resistencia a ataques adversariales y la capacidad de adaptarse a nuevos generadores de videos de IA, mientras que los sistemas digitales convencionales podrían proporcionar análisis más profundos cuando sea necesario.

Los investigadores afirmaron que esta combinación podría ser útil eventualmente para la moderación de contenido a gran escala, la autenticación de medios, la vigilancia y otras aplicaciones críticas de seguridad relacionadas con la IA.

Los autores de este trabajo son Parnian Ghapandar Kashani y Dr. Shiqi Chen, quienes contribuyeron de manera equitativa, y Profesor Aydogan Ozcan. Los investigadores están afiliados al Departamento de Ingeniería Eléctrica y de Computación de UCLA, al Departamento de Bioingeniería de UCLA y al Instituto de NanoSistemas de California.

Temas