La app Sora y sus videos hiperrealistas generan crisis de confianza online

La app Sora, lanzada por OpenAI, ha revolucionado el mundo de los videos cortos al permitir a los usuarios crear contenidos hiperrealistas generados por inteligencia artificial. En su primera semana, la aplicación superó el millón de descargas, superando el crecimiento inicial de ChatGPT y alcanzando el primer lugar en la App Store de EE. UU. Sin embargo, este éxito ha suscitado preocupaciones sobre la autenticidad de los contenidos y la posible erosión de la confianza pública.

Los videos generados en Sora incluyen situaciones absurdas y personajes icónicos, como Michael Jackson haciendo stand-up o un alienígena de las películas de "Predator" trabajando en un McDonald's. Esta mezcla de realidades improbables y futuros fantásticos ha llevado a los usuarios a cuestionar la veracidad de lo que ven, generando un nuevo tipo de escepticismo.

Según Sam Gregory, director ejecutivo de WITNESS, una organización de derechos humanos, "el mayor riesgo con Sora es que hace que la negación plausible sea imposible de superar, y erosiona la confianza en nuestra capacidad para discernir lo auténtico de lo sintético". Esta situación plantea un desafío significativo en un mundo donde la desinformación puede propagarse rápidamente.

Todos los videos en la app son completamente generados por inteligencia artificial, y no existe la opción de compartir material real. Sin embargo, desde su lanzamiento el 30 de septiembre, los usuarios comenzaron a compartir sus creaciones en diversas redes sociales, lo que ha contribuido a su rápida popularidad.

Para utilizar la app, los usuarios deben escanear su rostro y leer tres números en pantalla para capturar una firma de voz. Luego, pueden escribir un texto personalizado y crear videos hiperrealistas de diez segundos con sonido de fondo y diálogos.

A través de una función llamada "Cameos", los usuarios pueden superponer su rostro o el de un amigo en cualquier video existente. Aunque todos los videos generados llevan una marca de agua visible, existen numerosos sitios web que ofrecen servicios para eliminarla.

En su lanzamiento, OpenAI adoptó un enfoque laxo en la aplicación de restricciones de derechos de autor, permitiendo la recreación de material protegido por defecto, a menos que los propietarios optaran por excluirse. Esto llevó a la generación de videos que incluían personajes de programas como "SpongeBob SquarePants" y "Friends", así como recreaciones de celebridades fallecidas.

La hija del fallecido comediante Robin Williams, Zelda Williams, expresó su frustración en Instagram, diciendo: "Por favor, dejen de enviarme videos de IA de papá. No están creando arte, están haciendo salchichas sobreprocesadas de las vidas de seres humanos".

Las preocupaciones sobre el uso indebido de las imágenes de celebridades han llevado a agencias de talentos de Hollywood a acusar a OpenAI de uso inapropiado de las likenesses. En respuesta a las preocupaciones sobre derechos de autor, Sam Altman, CEO de OpenAI, prometió un mayor control para los titulares de derechos sobre cómo se pueden usar sus personajes en videos generados por IA.

A medida que la presión legal aumenta, Sora se ha vuelto más estricta sobre cuándo permitirá la recreación de personajes con derechos de autor, mostrando advertencias de violaciones de políticas de contenido. La creación de personajes de Disney ahora activa una advertencia de violación de políticas de contenido.

La creciente viralidad de lo que se ha denominado "AI slop" ha llevado a la creación de videos que son difíciles de ignorar, como grabaciones de cámaras de seguridad de abuelas persiguiendo cocodrilos. Sin embargo, los críticos advierten que la apropiación casual de la imagen de cualquier persona común podría llevar a confusión pública y erosionar la confianza en la información.

La situación actual plantea un dilema sobre el equilibrio entre la innovación tecnológica y la protección de los derechos de los individuos, especialmente en un contexto donde la desinformación puede tener consecuencias graves.

Temas