SAN FRANCISCO - Se ha convertido en un problema casi inevitable en Internet: si lo creas, lo trolearán.
Es decir, si una empresa construye una plataforma exitosa de juegos o redes sociales, los trolls, los extremistas y otros usuarios que emiten discursos nocivos hallarán el camino a esas ubicaciones online.
Esta semana, una usuaria de Twitter llamado @lululemew comenzó a encontrar referencias neonazis en Roblox, un popular juego online que tiene más de 100 millones de usuarios activos en todo el mundo y es popular entre los niños. Si bien los nombres de usuarios, los perfiles y el contenido perturbador en Roblox no son nuevos, los tweets de la mujer renovaron la atención sobre esto.
"Mi hijo juega a Roblox", escribió en un intento de alertar a la empresa. "¿Sabían que tiene miembros en su sitio que promueven los grupos #WhitePowerExtremist #DomesticTerrorism?"
Roblox, al igual que Minecraft, permite a los usuarios crear avatares y mundos virtuales para que esos personajes deambulen en ellos. Mientras que la mayoría de la gente usa la plataforma del juego para crear personajes divertidos e inocuos, algunos la han usado para tratar de difundir mensajes de odio.
El juego se ha convertido en otra frontera en la batalla por la moderación de contenido y las líneas de discurso apropiadas en plataformas privadas que ahora son a menudo espacios donde las personas confluyen.
Durante años, YouTube, Reddit, Instagram, Facebook y muchos otros sitios y servicios se han enfrentado a dificultades similares. "Hay tantos niños que juegan ese juego, y la compañía debería ser más cuidadosa y estar al tanto del contenido que está en su sitio", dijo en una entrevista telefónica con NBC News la mujer, que pidió que se ocultara su nombre por temor a sufrir acoso en el mundo real.
NBC News localizó e identificó rápidamente cuatro cuentas con perfiles de odio, una de las cuales incluía un claro lenguaje antisemita. Otra mostró un modelo de uniforme de la era nazi, y otras dos eran perfiles relacionados con Proud Boys e incluían un avatar de su fundador, Gavin McInnes. La organización Proud Boys ha sido identificada como un grupo de odio por el Southern Poverty Law Center.
Después de ser informado de la existencia de esas cuatro cuentas, Roblox las eliminó rápidamente en cuestión de horas. Sin embargo, NBC News, junto con la ayuda de otro usuario de Twitter, pudo encontrar más de 100 cuentas que presentaban contenido extremista y racista, incluyendo un viejo lenguaje codificado neonazi con frases como "¡Judíos al gas!" y nombres de usuario que incluyen "WhiteRaceBestRace" (La raza blanca es la mejor raza).
Roblox también eliminó esas cuentas después de que NBC News se las mostró a la compañía.
"Nos esforzamos por hacer todo lo posible para prevenir y detectar comportamientos que violen nuestros términos de servicio y tomamos medidas inmediatas para eliminar estos grupos", dijo la compañía en un comunicado enviado por correo electrónico por Teresa Brewer, vicepresidenta de comunicaciones.
El desafío también consiste en mantener la vigilancia casi constante que se requiere ahora para mantener a los extremistas fuera de las plataformas. Se han detectado extremistas en Roblox antes, lo que obliga a la compañía a emplear personal para moderar su mundo virtual. Las principales plataformas tecnológicas ahora emplean habitualmente a miles de moderadores para verificar lo que se publica.
La compañía dijo que las páginas de Proud Boys se utilizaron principalmente para dirigir a las personas a un canal relacionado en Discord, una plataforma de chat de voz popular entre los jugadores y también entre los extremistas.
"Empleamos a más de 800 moderadores humanos que revisan millones de piezas de contenido por mes, usan tecnología automatizada de aprendizaje automático para monitorear la comunicación entre los jugadores y capacitan a los jugadores en nuestra comunidad y los padres para informar sobre mal comportamiento o contenido", agregó el comunicado.
Los expertos que estudian el extremismo dicen que es particularmente preocupante que las plataformas de juegos populares entre los niños ahora sean vulnerables de nuevas maneras a ideas nocivas.
"Recién estamos comenzando a comprender las formas en que la interacción con el discurso de odio radicaliza a las personas", dijo en un correo electrónico Tamar Mitts, profesor que estudia el extremismo online en la Escuela de Asuntos Públicos Internacionales de la Universidad de Columbia.
"El riesgo de radicalización puede ser mayor para los niños, que no tienen las herramientas para distinguir entre información precisa o engañosa".
Brian Levin, jefe del Centro para el Estudio del Odio y el Extremismo en la Universidad Estatal de California, en San Bernardino, dijo que los extremistas han tratado de usar los videojuegos como un medio para difundir su mensaje durante años.
Señaló un videojuego de 2002 llamado "Limpieza étnica", un juego de disparos en el que el jugador asume el papel de un skinhead que busca atacar a miembros de minorías.
"En el pasado no tenías el tipo de interacción que tienes con la cultura del juego ahora en internet", dijo. "Así que antes, por ejemplo, tendrías estos lugares distintos pero fragmentados donde la gente podra ir. Ahora van a ti”.
La cuestión del extremismo en internet se ha convertido recientemente en un tema de acción internacional después de una serie de tiroteos masivos que parecían estar conectados a la radicalización basada en Internet.
Jason Blazakis, profesor del Instituto Middlebury de Estudios Internacionales, que sirvió durante una década como un alto funcionario antiterrorista en el Departamento de Estado, subrayó que el lenguaje de los extremistas puede ser utilizado para atraer a nuevos partidarios.
"Mi principal preocupación con plataformas como Roblox es que puede usarse para reclutar a una generación más joven que puede ser susceptible a los memes, el lenguaje del grupo y la jerga que prolifera de grupos como -pero no limitados a- los Proud Boys, dijo en un correo electrónico.
Blazakis comentó que después de ser contactado por NBC News, él y sus cuatro sobrinos jóvenes, que juegan Roblox regularmente, se tomaron muy en serio sus propias instrucciones. Se conectaron y reportaron algunos contenidos del juego.
"Esto habla de la mejor manera de contrarrestar el abuso de las plataformas de juego: la vigilancia de los propios usuarios", concluyó. "Se necesitarán soluciones de la sociedad civil para garantizar que el espacio de juego sea seguro, libre de odio y que no se utilice para fomentar el terrorismo".
Relacionado: Aumenta un 22% el número de grupos neonazis en EEUU en la era Trump