IA sin freno: "Ya es imposible distinguir qué es real y qué no"

La viralización de un video generado con inteligencia artificial que muestra una pelea hiperrealista entre Tom Cruise y Brad Pitt encendió alarmas en la industria audiovisual y en el mundo tecnológico. El clip, creado con Seedance 2.0 —un modelo desarrollado por ByteDance, la empresa dueña de TikTok—, dura apenas 15 segundos, pero abrió un debate global sobre derechos de imagen, regulación y el futuro del trabajo.

En diálogo con Siempre Juntos por Cadena 3 Rosario, el programador y especialista en ciberseguridad Maximiliano Firtman explicó que se trata de un modelo de IA enfocado en la generación de video con una calidad “muy superior” a lo visto hasta ahora. “Si está bien hecho, hoy es imposible para el ojo humano saber si es real o no”, advirtió. Según detalló, la herramienta permite incluso subir una foto propia y convertir a cualquier persona en protagonista de una escena cinematográfica.

Firtman remarcó que el problema no es solo técnico, sino legal y geopolítico. Seedance 2.0 es un desarrollo chino y, según señaló, en ese país las reglas sobre copyright y derechos de autor funcionan de manera diferente al mundo occidental. De hecho, productoras de Hollywood ya activaron a sus equipos legales. “La tecnología avanza a una velocidad que la justicia no puede seguir”, sostuvo.

Para el especialista, aunque una empresa sea obligada a limitar el uso de imágenes de actores, surgirán otras plataformas —incluso de código abierto y gratuitas— que harán lo mismo. “No es imposible de frenar, pero es extremadamente difícil. Estamos yendo hacia otro tipo de sociedad con otras reglas”, planteó, marcando que el verdadero desafío es cómo adaptar el marco normativo a esta nueva realidad.

Consultado sobre la posibilidad de incorporar marcas de agua o sellos que identifiquen contenidos creados con IA, Firtman fue claro: algunas compañías occidentales ya lo hacen, pero esas marcas pueden eliminarse y otros modelos directamente no las incluyen. “Tecnológicamente no hay forma de bloquearlo del todo”, explicó.

El especialista también señaló que, más allá del impacto en Hollywood, el cambio será transversal. “No es solo cine, no es solo locución o traducción. Va a ser todo”, afirmó. Y aunque reconoció que hay discursos optimistas —como el de empresarios tecnológicos que proyectan una era de abundancia gracias a la automatización—, advirtió que es imposible prever con certeza cómo será el escenario laboral en diez años.

En ese contexto, subrayó que la única herramienta confiable frente a la desinformación será el chequeo humano. “Ya no alcanza con mirar un video. La única manera de saber si algo es real es verificar la fuente”, sostuvo, en un mensaje que interpela especialmente al periodismo y a los medios de comunicación.

Sin embargo, Firtman dejó una puerta abierta a un factor muchas veces subestimado: la decisión social. “Aunque la tecnología exista, hay que ver si la sociedad la adopta completamente. Tal vez la gente siga queriendo escuchar a una persona real y no a una IA personalizada”, reflexionó.

Entrevista de Susana Manzelli.

Temas