IE 11 is not supported. For an optimal experience visit our site on another browser.

Videos falsos de un famoso actor exponen el riesgo de una tecnología que puede hundir mercados o reputaciones

Obama hablando como Trump, o viceversa, o el hombre más rico del mundo diciendo que lo ha perdido todo. Estos videos pueden alterar el mundo. Y son falsos.
/ Source: Telemundo

Por Bianca Britton – NBC News

El creador de una serie de vídeos conocidos como deepfake (falsos pero increíblemente realistas) del actor Tom Cruise, que han conseguido millones de visitas en la red social TikTok, asegura que nunca quiso engañar a la gente.

Pero como sí lo ha hecho, ahora espera que la repentina atención hacia su trabajo pueda ayudar a sensibilizar sobre la continua evolución de la tecnología para crear estos vídeos falsos y muy peligrosos.

"Lo importante es que en ningún momento quisimos engañar a la gente", dijo Chris Ume, de 31 años, el artista belga de efectos visuales que está detrás de los deepfake virales. "Si puedo ayudar a crear conciencia, o incluso trabajar en la detección en el futuro, me encantaría", añadió.

Ume creó cuatro vídeos en los que parecía mostrar a la estrella de Hollywood jugando golf, haciendo un truco de magia con monedas y cayéndose mientras contaba una historia sobre el antiguo líder soviético Mijail Gorbachov. Tres de ellos se hicieron virales, atrayendo la atención en TikTok y en todo Internet.

[Un video de TikTok ofrece una clave para resolver el misterio de una adolescente desaparecida en Arkansas]

Y aunque la mayoría de la gente se dio cuenta rápidamente de que los vídeos eran falsos, incluso los expertos quedaron impresionados por su calidad.

"Lo primero que pensé fue que estaban increíblemente bien hechos", dijo el experto en análisis forense de imágenes digitales Hany Farid, quien es profesor de la Universidad de Berkeley, y se especializa en análisis de imágenes y desinformación. "Son divertidos, son inteligentes", agregó.

Para los videos se utilizó una combinación de efectos visuales y software de edición para hacer que Miles Fisher se viera casi idéntico a Tom Cruise.
Para los videos se utilizó una combinación de efectos visuales y software de edición para hacer que Miles Fisher se viera casi idéntico a Tom Cruise.NBC News/Chris Ume

Pero también ofrecen una advertencia: la tecnología deepfake, que ha surgido en los últimos años, sigue evolucionando y mejorando. Y aunque estos vídeos aún no se han utilizado de forma efectiva en muchas campañas de desinformación, el peligro es cada vez mayor.

Cruise no respondió a NBC News para hacer comentarios. Por su parte, su imitador, Miles Fisher, respondió a un correo electrónico, pero dijo que no deseaba hacer más comentarios.

[Tom Cruise arremete contra su equipo de 'Misión Imposible' por irrespetar las medidas por el COVID-19]

Los deepfakes pueden incluir cualquier cosa, desde una imagen o un vídeo en el que se manipula visual o auditivamente a una persona u objeto para que diga y haga algo fabricado.

Permiten, por ejemplo, mostrar al expresidente Barack Obama hablando como Donald Trump, o al revés. O crear videos pornográficos denigrantes de personas famosas que parecen reales. 

En el caso de la cuenta de TikTok @deeptomcruise, Ume utilizó una combinación de efectos visuales y software de edición para hacer que Fisher pareciera casi idéntico al actor.

Otros vídeos manipulados se han viralizado en los últimos años. Entre ellos uno producido por BuzzFeed en el que se advertía al público sobre la tecnología deepfake. Presentaba la suplantación de aspecto realista del expresidente Barack Obama por parte del actor Jordan Peele en 2018. Tuvo más de ocho millones de visitas en YouTube.

Más recientemente han surgido otros vídeos en los que parecían figurar el exgobernador de California Arnold Schwarzenegger y Mark Zuckerberg, de Facebook.

[Pokémon cumple un cuarto de siglo: estos fueron los primeros videojuegos]

Mientras analizaba los vídeos de TikTok de @deeptomcruise, Farid dijo que le resultó difícil detectar discrepancias comunes que se han detectado previamente en otros deepfake  -como los fallos alrededor de la cara, particularmente cuando ha sido parcialmente oscurecida por una mano en movimiento-.

Dijo que pudo identificar inconsistencias particularmente alrededor de los ojos, aunque "eran muy menores". "Estaba muy pulida", añadió Farid, "era larga y en alta resolución".           

Aunque Ume utilizó una sofisticada edición de efectos visuales, los avances en la edición digital a través de aplicaciones para teléfonos inteligentes como Reface, Facetune e incluso Snapchat han hecho más accesibles técnicas como el intercambio de rostros y la alteración de imágenes, lo que podría causar la posible militarización de los deepfake, dicen los expertos.

Sin embargo, Matt Groh, asistente de investigación del grupo de Computación Afectiva del MIT Media Lab, dijo que "todavía hay muchas limitaciones en lo que esto puede hacer."

"Nuestra imaginación puede desbordarse rápidamente y suponer que es realmente bueno en todos los frentes, y quizá algún día pueda serlo", dijo, "cuando tienes un montón de vídeos diferentes, en lugar de un único vídeo, empiezas a ver dónde están algunas de estas imperfecciones".

Para disipar los temores de expertos como Farid, Ume dijo que le gustaría que se establecieran normas que permitieran un uso responsable de la tecnología deepfake, y que las redes sociales crearan etiquetas para estos contenidos.

El software de detección no es lo suficientemente bueno en este momento, dijo, "es obvio porque estos tres vídeos no fueron detectados por los modelos".

[Este restaurante recurre a la inteligencia artificial para mejorar sus pedidos]

Desde que sus vídeos se hicieron virales en TikTok, Ume ha publicado un desglose de efectos visuales sobre cómo los creó, en un intento de ayudar a educar a la gente sobre cómo se hacen y lo difícil que puede ser producirlos.

"No es algo que se pueda hacer en casa", dijo Ume, que forma parte de un equipo de artistas de deepfake en Deep Voodoo, un estudio de efectos visuales montado por Trey Parker y Matt Stone, los creadores de la serie South Park.

Los vídeos de TikTok eran tan convincentes, dijo Ume, gracias a su experiencia, así como a la capacidad de trabajar con alguien como Fisher, que podía imitar a Cruise tan bien.

TikTok actualizó su política, después de publicar un comunicado en agosto de 2020, que prohíbe el contenido manipulado que "engaña a los usuarios distorsionando la verdad de los hechos y causando daño al sujeto del vídeo, a otras personas o a la sociedad".

Sin embargo, TikTok no tomó ninguna medida contra @deeptomcruise ni contra los vídeos que publicó porque no iban en contra de sus normativas. La red social rechazó hacer comentarios al respecto.

[¿Imaginas poder entender lo que siente tu perro cuando ladra? Este collar fue diseñado para hacerlo]

Aunque los vídeos deepfake de Cruise son entretenidos y "nunca pretendieron ser realmente engañosos", dijo Farid, hay "preocupaciones legítimas" sobre cómo esto podría inspirar a otros a crear contenido similar.

"Piensa en las implicaciones para la seguridad nacional", dijo Faird, "piensa en las implicaciones si creo un vídeo de Jeff Bezos diciendo que los beneficios de Amazon han bajado 20%: ¿Cuánto puedo mover los mercados? ¿Cuántos miles de millones de dólares antes de que alguien se dé cuenta de que es falso?".