Por Kat Tenbarge - NBC News
Xochitl Gomez, una estrella de Marvel de 17 años y participante del programa Dancing With the Stars (Bailando con las estrellas), habló sobre el hallazgo de deepfakes (imágenes digitales falsas) sexualmente explícitos con su cara en las redes sociales y la imposibilidad de que el material sea retirado.
Durante un episodio del 10 de enero de The Squeeze, un podcast presentado por el actor Taylor Lautner y su esposa, Taylor Lautner, Gomez dijo que vio deepfakes sexualmente explícitos de ella en la red social Twitter (ahora llamada X). Gomez, que interpreta a América Chávez en la película Doctor Strange in the Multiverse of Madness, dijo que le preguntó a su madre sobre el material y se enteró de que su equipo ya había intentado y fracasado en conseguir que lo eliminaran.
"Me hizo sentir rara, no me gustó y quise que lo quitaran. Ese era mi deseo: 'Fuera. Quiten eso, por favor'", relató Gomez durante la transmisión. "No fue porque sintiera que estaba invadiendo mi privacidad, sino porque no era una buena imagen para mí. Esto no tiene nada que ver conmigo. Y sin embargo está ahí con mi cara".
En una búsqueda el viernes, NBC News fue capaz de encontrar fácilmente varios deepfakes de Gomez en X. Un representante de X no respondió inmediatamente a una solicitud de comentarios.
NBC News informó en junio de 2023 que deepfakes sin permiso de jóvenes estrellas femeninas de los medios sociales estaban circulando en X a pesar de las reglas de la plataforma contra la desnudez sin autorización Tras contactar con X, parte del material fue retirado, pero no todo.
Gómez se une a un coro de niñas y mujeres, algunas famosas y otras no, que han hablado sobre la creciente crisis de los deepfakes de contenido sexual explícito sin permiso. Normalmente, estos deepfakes utilizan inteligencia artificial para insertar o alterar el rostro de la víctima en una imagen o video para que parezca que está haciendo o diciendo algo, en este caso un acto sexual.
Motores de búsqueda como Google y Bing de Microsoft alojan este tipo de material en los primeros resultados de búsqueda de imágenes con nombres de mujeres destacadas y la palabra deepfakes, mientras que los enlaces a sitios en internet que monetizan el material aparecen en los primeros resultados de las búsquedas en web.
Tanto Google como Bing de Microsoft disponen de formularios de solicitud de retirada de resultados de búsqueda para las víctimas de deepfakes sin permiso.
"Es extraño pensar que si alguien busca mi nombre, eso es también lo que aparece", comentó Gómez durante el podcast. "No se pueden quitar".
Actualmente no existe legislación federal en Estados Unidos que aborde los deepfakes de contenido sexualmente explícito sin permiso, y sólo existe un mosaico de leyes estatales relativas a los deepfakes. Un proyecto de ley federal que penalizaría el intercambio sin autorización del material está a la espera de nuevas medidas.
Un fragmento del episodio del podcast de Gomez fue publicado la semana pasada en X, donde la parte sobre deepfakes fue vista más de 7 millones de veces, según las métricas de X.
"¿Por qué es tan difícil retirarlo? Esa fue toda mi reflexión al respecto. ¿Por qué se permite esto?", dijo Gomez. "Sabía que no era yo, así que no me molestó ni nada por el estilo. Simplemente fue algo con lo que me sentí muy incómoda porque no podía quitarlo".
[Alerta por aumento de casos de extorsión sexual a menores. Así puede proteger a sus hijos]
"No hay nada bueno en pensar en ello", añadió. Para lograrlo, "dejo el teléfono [...] Me cuido la piel, salgo con mis amigos, algo que me ayude a olvidar lo que acabo de ver".