Por Bianca Britton - NBC News
La pornografía generada por inteligencia artificial con rostros de mujeres que no consienten está cada vez más extendida en Internet, y el problema se está extendiendo al mundo de las personas influyentes y los streamers.
En enero, la streamer británica Sweet Anita, que tiene 1.9 millones de seguidores en Twitch, donde publica vídeos de sus juegos e interactúa con sus seguidores, recibió la notificación de que circulaba por internet un aluvión de vídeos falsos de contenido sexual explícito con los rostros de streamers de Twitch.
Lo primero que pensó fue: “Espera, ¿estoy en esto?”.
Rápidamente buscó su nombre en Google junto con el término deepfake, una palabra que se utiliza para describir un vídeo o una imagen manipulados digitalmente, muy realistas pero falsos, y una técnica que se utiliza cada vez más -normalmente sin consentimiento- con fines pornográficos. La búsqueda inicial de Anita mostró varios vídeos en los que aparecía su cara editada sobre el cuerpo de otra persona.
“Obviamente, esto ha estado ocurriendo durante bastante tiempo sin que yo lo supiera, no tenía ni idea. Por lo que sé, podrían haber pasado años”, declaró Anita, de 32 años, que no quiso compartir su nombre completo con NBC News, cadena hermana de Noticias Telemundo, por preocupación por su seguridad y privacidad fuera de internet.
Hany Farid, profesor de informática de la Universidad de California en Berkeley, afirma que los deepfakes son un fenómeno que “está empeorando absolutamente”, ya que cada vez es más fácil producir vídeos sofisticados y realistas a través de aplicaciones y páginas web automatizadas.
El número de videos pornográficos manipulados disponibles en línea ha experimentado un fuerte aumento, casi duplicándose cada año desde 2018, según una investigación realizada por Genevieve Oh, analista de contenido livestreaming. En 2018, solo se habían subido 1,897 vídeos a un conocido sitio de streaming de deepfakes, pero en 2022 este número aumentó a más de 13,000 con más de 16 millones de visualizaciones mensuales.
Antes, los famosos eran los principales objetivos de los deepfakes.
“Ahora, de repente, las personas vulnerables son las que tienen huellas muy pequeñas en Internet”, afirma Farid. “La tecnología se está volviendo tan buena que puede generar imágenes a partir de huellas de entrenamiento relativamente pequeñas, no esas horas y horas de vídeo que antes necesitábamos”.
[Twitter bloquea las etiquetas que promocionan la venta de material de abuso sexual infantil]
Cualquiera que esté interesado en crear deepfakes puede acceder rápidamente a una plétora de aplicaciones de intercambio de rostros, gratuitas y de pago, disponibles en las tiendas Google Play y Apple App, que facilitan a cualquiera subir una foto y editarla en una foto o vídeo en cuestión de segundos.
Algunas plataformas importantes como Reddit, Facebook, TikTok y Twitter han intentado hacer frente a la propagación del deepfake porn con cambios en sus políticas. Aunque cada una de las plataformas prohíbe específicamente el material, algunas han tenido problemas para moderarlo. Una búsqueda en Twitter, por ejemplo, encontró vídeos pornográficos manipulados en los que se afirmaba que aparecían estrellas de Twitch, junto con etiquetas que promocionaban este contenido.
En enero, la proliferación de la pornografía deepfake causó sensación en internet, cuando un popular streamer de Twitch con más de 300,000 seguidores admitió haber pagado por material explícito en el que aparecían versiones de sus compañeros generadas por una inteligencia artificial.
El 30 de enero, en un lacrimógeno vídeo de disculpa que se volvió a compartir en Twitter y obtuvo millones de visitas, Brandon Ewing -que utiliza el nombre de usuario Atrioc en Twitch- dijo que había hecho clic en un anuncio de pornografía deepfake mientras navegaba por una popular página web porno. Dijo que luego pasó a suscribirse y pagar por el contenido en un sitio web diferente que mostraba otras streamers femeninas después de convertirse en “curiosidad morbosa".
[Meta devuelve a Trump sus cuentas de Facebook e Instagram tras más de dos años suspendido]
En una declaración más larga publicada en Twitter el 1 de febrero, Ewing se dirigió directamente a las streamers de Twitch Maya Higa y Pokimane, cuya imagen apareció brevemente en una pestaña de una página web que aloja pornografía manipulada durante una de sus retransmisiones en directo.
“Vuestros nombres fueron arrastrados a ello y fuisteis sexualizados contra vuestra voluntad”, dijo. “Siento que mis acciones hayan llevado a una mayor explotación de vosotras y de vuestro cuerpo, y siento que vuestra experiencia no sea poco común”.
Ewing no respondió a la solicitud de comentarios.
Pokimane tampoco respondió a la petición de comentarios, pero en un tuit del 31 de enero escribió: “Dejad de sexualizar a la gente sin su consentimiento. Eso es, ese es el tuit”.
Higa dijo que no tenía más comentarios que hacer aparte de su declaración en Twitter del 31 de enero, en la que escribió, en parte, que la “situación me hace sentir repugnante, vulnerable, nauseabunda y violada, y todos estos sentimientos me son demasiado familiares”.
El incidente puso de relieve la creciente prevalencia de la pornografía no consentida generada por una inteligencia artificial y los problemas éticos que crea.
Ha habido un “repunte” de páginas web que “están dispuestas, ansiosas y monetizan el alojamiento de este material”, indicó Farid.
QTCinderella, otra streamer de Twitch que se enteró de que había aparecido en la web deepfake, dijo que le resultaba especialmente hiriente porque Ewing es un amigo íntimo.
“Creo que eso es lo más desafortunado: no me enteré por Atrioc. Me enteré porque se hablaba de ello en Internet”, dijo QTCinderella, de 28 años, que tampoco compartió su nombre completo con NBC News para proteger su privacidad y seguridad fuera de internet.
Dijo que localizó rápidamente el contenido del vídeo en una cuenta de una página web de suscripción y emitió un aviso de retirada, pero los vídeos siguen propagándose como “un reguero de pólvora”.
En Estados Unidos, aunque la mayoría de los estados tienen leyes que prohíben la pornografía vengativa, sólo Nueva York, Virginia, Georgia y California tienen leyes que abordan específicamente los deepfake, según la Cyber Civil Rights Initiative. Por su parte, el Reino Unido anunció en noviembre del año pasado que tenía previsto tipificar como delito este contenido explícito no consentido.
QTCinderella dijo que el marco legal actual es “descorazonador”.
“Todos los abogados con los que he hablado han llegado esencialmente a la conclusión de que no tenemos caso. No hay forma de demandar al tipo”, aseguró.
Aunque gran parte de la pornografía deepfake puede parecer amateur y de baja calidad, Farid dijo que ahora también está viendo cuentas que ofrecen crear sofisticadas manipulaciones personalizadas de cualquier mujer por un módico precio.
Después de ver los vídeos manipulados que se vendían de ella en internet, Anita dijo que se sentía entumecida, cansada y disociada.
“Me venden contra mi voluntad. No consentí que me sexualizaran”, afirmó.
QTCinderella dijo que experimentó “dismorfia corporal”.
“Cuando ves el cuerpo de una estrella porno tan perfectamente injertado donde debería estar el tuyo, es el juego de comparaciones más obvio que puedes tener en tu vida. Lloré y pensé: ‘mi cuerpo nunca será así”, contó.
[El 57% de las adolescentes de EE.UU. se sienten tristes y desesperanzadas, según los CDC]
Sophie Compton, que hace campaña contra el abuso de la imagen íntima con la organización My Image, My Choice (Mi imagen, mi elección), dijo que las mujeres que son objeto de estos abusos son “avergonzadas o silenciadas” y sienten que su experiencia se minimiza porque hay pocas opciones legales disponibles para las afectadas por los deepfakes.
“Tenemos que encontrar la manera de hacer que estos sitios y su modelo de negocio sean imposibles”, opinó Compton.
Las plataformas específicas que alojan imágenes sexuales no consentidas deben rendir cuentas, en lugar de cuentas y creadores individuales, según Farid. “Si realmente se quiere abordar este problema, hay que ir río arriba. Ahí es donde está todo el poder”, señaló.
Anita dijo que quiere que haya “consecuencias muy visibles”.
Lo que más le inquieta de cara al futuro es que es imposible saber quién compró los vídeos falsos.
“Cuando voy a un encuentro con seguidores podría terminar abrazando y firmando algo para alguien que me ha visto ser deepfaked ... y no tendría forma de saber que están consumiendo eso”, dijo. “Que compren mi cuerpo contra mi voluntad es muy, muy horrible”, lamentó.