Cómo Facebook protege a los neonazis

Es bien conocido que plataformas como Facebook, Twitter y YouTube han servido como vehículo para difusión de contenidos de extrema derecha, y han contribuido a la radicalización de personas (en su mayoría, hombres jóvenes) en todo el mundo. 

Se trata de un fenómeno ampliamente estudiado: las redes sociales sirvieron hace algunos años para que grupos de terroristas islámicos (como ISIS) reclutaran jóvenes de origen musulmán en Occidente. Poco después, un proceso paralelo empezó a dejarse notar en Europa, Estados Unidos e incluso América Latina, donde grupos de extrema derecha, antaño condenados a los rincones más oscuros, se estaban volviendo mainstream gracias a que las redes sociales les daban acceso a hombres jóvenes, y se aprovechaban de sus frustraciones sociales, económicas y sentimentales, para jalarlos hacia el fanatismo. Éste es uno de los factores más importantes para explicar por qué estamos viviendo el inicio de un Invierno Fascista. Este artículo de CNN explica:

“La gente ya podía radicalizarse fácilmente antes de las redes sociales. Muchos todavía son radicalizados sin ellas. Pero las redes sociales, a menudo en combinación con otros factores, ha demostrado ser una vía de radicalización muy eficiente, en parte porque permite la fácil formación de comunidad y en parte porque sus algoritmos, usados para convencer a la gente de quedarse un ratito más, ver un video más, hacer click en una cosa más, sirven para obtener más fondos de la publicidad.

Se ha demostrado que las recomendaciones que YouTube ofrece, por ejemplo, empujan a los usuarios hacia contenido extremo. Alguien que entra al sitio a ver videos acerca de cualquier asunto que esté en las noticias, puede encontrarse rápidamente viendo contenidos sobre teorías conspiratorias, por ejemplo. Hace unos años, alguien que estuviera buscando información sobre el Islam podría encontrarse en poco tiempo escuchando a un predicador radical. Al combinar esos algoritmos con hombres que están desvinculados, que sienten que el mundo les debe más, tenemos un receta para crear extremistas de cualquier tipo.

‘Están buscando ideologías que les ayuden a justificar su ira, su insatisfacción, y éstas se encuentran disponibles’ dijo la investigadora Jessica Stern a CNN ‘El terrorismo se da como una moda. Notamos que personas que no eran musulmanes estaban comprando la ideología de ISIS, se estaban convirtiendo al Islam. La ideología de ISIS era atractiva para algunos de estos hombres que querían expresar su rabia y resentimiento. Era otra ideología que se estaba volviendo popular, poniendo de moda’”

En su momento, las tres grandes compañías actuaron contra la propaganda del islamismo radical, pero se han mostrado demasiado tibias contra el supremacismo blanco. Veamos esta entrevista hecha a un neonazi rehabilitado por The Atlantic:

Kathy Gilsinan: ¿Cuál es el rol de Internet? Hay mucha discusión acerca de la radicalización vía Internet de los miembros de ISIS… ¿Existe un proceso paralelo para los movimientos de blancos supremacistas, o existen diferencias?

Christian Picciolini: Es un proceso muy paralelo. La propaganda es muy similar. Internet es en sí mismo una plataforma. Hace treinta años, gente joven marginalizada, quebrada y resentida tenía que encontrarse cara a cara para ser reclutada en algún movimiento. Ahora estos millones y millones de jóvenes viven la mayor parte de sus vidas en línea, si les faltan vínculos en la vida real. Entonces encuentran comunidades en línea en vez del mundo real y tienen conversaciones sobre cómo promover la violencia.”

En una audiencia ante el Parlamento Británico, se discutió la influencia de las redes en la radicalización de diferentes colores y los representantes de las principales compañías fueron acusados de no hacer lo suficiente. The Independent informa:

“Representantes de Facebook, Twitter y YouTube dijeron que han incrementado sus esfuerzos contra todo tipo de extremismo, usando a la vez tecnología automática y moderadores humanos. Pero el grupo islamista que perpetró los bombardeos en iglesias y hoteles que dejaron más de 300 muertos en Sri Lanka todavía tiene una cuenta de Twitter y su canal de YouTube no fue borrado sino hasta dos días después de uno de sus ataques más mortíferos.

La parlamentaria Yvette Cooper reveló que, durante la noche, fue alertada de publicaciones que clamaban que ella y su familia debían ser fusilados como criminales. Éstas aparecieron en un grupo cerrado de Facebook con más de 30 mil miembros, y tenían ya más de dos semanas de antigüedad.

‘Mátenlos a todos, golpe militar Nacionalsocialista año uno… No me importa siempre que ellos sean erradicados’ rezaba otra publicación que permaneció en línea.

Cooper acusó a los gigantes de las redes sociales de ‘proveer a espacios seguros para esconder a individuos y organizaciones que difunden el odio’.

‘Hemos reunido evidencia de sus representantes a lo largo de los años, y sentimos que estamos abordando los mismos problemas una y otra vez’ dijo la ex secretaria ‘Reconocemos que han hecho un poco de trabajo adicional, pero nos encontramos una y otra vez con demasiados ejemplos de que ustedes están fracasando, de que los extremistas han encontrado la forma de burlarlos o de que ustedes están efectivamente proveyendo una plataforma para el extremismo… muy poco ha cambiado’”

Ya habíamos visto cómo las teorías conspiratorias, por más absurdas que suenen, alimentan las ideologías de extrema derecha. El problema es tan grave que el mismo FBI ya las considera un peligro. Pero el medio favorito para difundirlas son las redes sociales y no parece haber forma de detenerlas. Esto no es sólo en Estados Unidos, sino que también afecta a América Latina. En Brasil, las noticias falsas y videos conspiranoicos a través de YouTube contribuyeron al ascenso de la ultraderecha que llevó al poder a Jair Bolsonaro, como nos informa el New York Times:

“Los integrantes del movimiento de la extrema derecha en Brasil —desde organizadores comunitarios hasta legisladores federales— aseguran que su influencia no habría crecido tanto, ni tan rápido, sin el motor de recomendaciones de YouTube.

Investigaciones académicas le dan validez a esa opinión. El sistema de búsquedas y recomendaciones de YouTube parece haber desviado a usuarios, de manera sistemática, hacia los canales conspirativos y de extrema derecha en Brasil.

YouTube dice que su sistema de recomendaciones está diseñado para maximizar el tiempo que una persona pasa viendo videos, entre otros factores, aunque la empresa recalca que no se hace para favorecer a una ideología política en específico. El sistema sugiere qué ver después y, a menudo, reproduce videos de forma automática con el objetivo de mantenernos pegados a las pantallas

Sin embargo, las emociones que atraen a la gente a ciertos videos —como el miedo, la duda y la ira— suelen ser características centrales de las teorías conspirativas y especialmente, según los expertos, del extremismo de derecha.

Debido a que el sistema sugiere videos más provocativos para mantener a los usuarios en el sitio, puede que los dirija hacia contenido extremo que, de otra manera, tal vez nunca encontrarían. Además, está diseñado para guiar a los usuarios hacia nuevos temas a fin de despertar su interés: eso es un gran beneficio para los canales que, como el de Moura, usan la cultura popular como un punto de acceso para las ideas de la extrema derecha.”

Honk Honk = HH = Heil Hitler
(Juro que no es broma)

Todas estas plataformas anunciaron que tomarían medidas para combatir el contenido extremista, y ahí la llevan. Pero, aunque la derecha dice que no es justo censurar a los nazis, porque al hacerlo estarían censurando también a excelentes personas (que no son nazis descarados, sino de clóset), lo cierto es que los mecanismos de prevención de contenidos extremistas no funcionan de una forma muy eficiente.

El caso de Facebook, por ejemplo, es bastante caótico. En su afán de establecer un falso justo medio entre los radicales fascistas que están matando gente y los activistas que están tratando de combatirlos, Facebook está eliminando contenido antifascista cuando éste resulta demasiado escandaloso, al mismo tiempo que permite circular libremente contenido fascistoide cuando los extremistas encuentran la forma de esconderse en eufemismos o se cuidan de ser demasiado majaderos. Para ello han creado una colección de símbolos y expresiones cuasi-secretas sobre las que los vigilantes del odio tienen que estar constantemente actualizados.

ProPublica escribió un artículo demostrando cómo los algoritmos automatizados de Facebook terminan marcando como “discurso que incita al odio” a críticas a grupos privilegiados, por ejemplo, si se denuncian actitudes generalizadas de racismo por parte de blancos, o machismo por parte de hombres. Y Twitter tiene exactamente el mismo problema: publicaciones que denuncian el discurso de odio son borradas, mientras notorios supremacistas blancos siguen impunes. Si el lenguaje es tantito altisonante, un activista puede ser censurado en Facebook. Mientras, llamados de violencia contra grupos oprimidos o marginados son pasados por alto.

Lo cual nos lleva a hablar de mi triste historia. Al escribir esto, mi cuenta personal de Facebook ha estado bloqueada desde el lunes, y lo seguirá estando hasta que hayan pasado 30 días. En ocasiones anteriores me censuraron por 15 y 7 días. Esto no me había pasado en años, desde que solía publicar arte erótico más o menos explícito en mi fanpage (aprendí por las malas a no hacerlo). ¿Qué sucedió?

Desde que me he puesto a escribir y compartir contenidos sobre y contra la nueva ultraderecha, mi blog ha atraído la atención de muchos niños rana, pero en especial desde que hace unos meses empecé con un nuevo álbum, Momos antifachos para frikis de izquierda. Algunos de éstos han sido señalados por Facebook como imágenes que difunden el odio y retirados de inmediato. Cada vez que Facebook decide que posteo algo malo, me castiga por más tiempo. Ignoro si ha sido el algoritmo o han sido los niños rana los que me han estado denunciando en masa. Algunas veces Facebook me da la oportunidad de apelar y pedir una revisión del contenido que me ha censurado; a veces no, pero de cualquier forma nunca se ha retractado.

¿Qué contenidos han sido éstos?  Este simpático y bien intencionado momo:

Simplemente, una imagen del cadáver del tirano fascista y patiño de Hitler, Benito Mussolini, después de que el dictador fuese sido capturado ye ejcutado por los guerrilleros antifascistas, los heroicos partigiani.

Después, esta inocente caricaturita:

 

Admítanlo, me quedó bien chistoso

Todo este asunto me remite al intercambio que el actor canadiense Jim Carrey tuvo con la nieta de Mussolini, Alessandra. Ace Ventura publicó un dibujo de Mussolini colgado de cabeza con la advertencia de que “aquí es a donde conduce el fascismo” (también a suicidarte en un búnker apestoso, por cierto). Alessandra Mussolini se ofendió muchísimo por ello y le dijo a nuestro querido comediante que él es un bastardo. Al cabo, Twitter borró la conversación.

Aquí es donde se ve claramente el error de perspectiva de las empresas de redes sociales: hacen falsas equivalencias entre el fascismo y la resistencia contra el fascismo. Debemos ser libres de burlarnos de Mussolini, un dictador sanguinario y brutal, sin importarnos si eso ofende la sensibilidad de su nieta. De hecho, si ella fuera una persona decente, repudiaría la memoria de su abuelo y se burlaría del viejo cara de sapo junto con todos los demás. Pero ella no es una persona decente, sino una neofascista que reivindica el régimen del Duce, y con más razón debería darnos gusto si la estamos ofendiendo.

Pero para Twitter, como para Facebook y YouTube, no hay diferencia entre ser un puto nazi y burlarte, criticar o insultar a ese puto nazi. Vean lo que me pasó poco después. Hace poco tiempo, en mi cuenta personal, publiqué esto:

Un montón de fachitos llegó a comentar en ese post, afirmando que el “Gran Remplazo” es real y por eso los nazis tienen razón en usar la violencia para defender a la raza blanca. Como creo en quitarle plataforma a los nazis, fui borrando cada uno de esos comentarios y bloqueando a sus autores, pero no sin antes tomarles captura y guardarlos para mi colección personal de idiotas de ultraderecha:

Al día siguiente publiqué una selección de los más jocosos, y entonces una nueva legión de fachitos llegó a hacer los comentarios usuales. Por los perfiles de estos tristes individuos, con la imaginería neofascista usual (emblema strasserista, máscara de calaverita, Pepe the Frog, monas chinas, etc.), intuí que se trataban de la variante incel-otaco, a los que no se les ocurrió nada más creativo que decir que soy un cuck y que tomo soya (había hasta una furra trans, porque hay de todo en la viña del señor). La fauna me pareció tan divertida, que decidí hacer una nueva colección sólo con sus fotos de perfil. Aquí están:

Porfa, ayuden reportando estos perfiles

Poco después la publicación me fue borrada y fui desterrado de Facebook por 30 días (sólo mi cuenta personal; la fanpage de Ego sigue en pie). Aquí sí sospecho que fueron estos patéticos humanitos los que me denunciaron. Como dijo una amiga, no fue muy prudente dejar sus nombres. Dejando de lado que dudo mucho que estos chicuelos representen un peligro real para nadie, y que seguro hacen esto porque son muy lamentables y quieren sentirse malotes e importantes, creo que de toda esta experiencia podemos sacar una lección importante: en Facebook alguien puede decir con alegría “soy un puto nazi”, pero si señalas a esa misma persona y dices “hey, miren a ese puto nazi”, estás incitando al odio.

En lo personal, ni siquiera creo que Facebook, YouTube o Twitter estén tratando a propósito de favorecer a los extremistas (Zuckerberg, después de todo, es judío, y no querrá que el antisemitismo se le salga de control). Creo que sólo quieren hacer negocio, y para ello necesitan que más gente esté publicando y consumiendo en sus sitios. Les importa menos si algo es justo o no, sólo si ese algo causa escándalo y mala publicidad, si ese algo puede hacer que su modus vivendi se vea afectado. Para ellos no es diferente censurar un video pro-LGBTQ+, denunciado por decenas de homofóbicos (como le pasó al buen Quetzal) a censurar uno homofóbico denunciado por decenas de personas LGBTQ+. De hecho, este último más probabilidades de desaparecer.

Lo cual nos lleva al problema planteado en un inicio: las redes sociales están sirviendo para la radicalización de miles de jóvenes alrededor del mundo. A todos nos gustaría que los discursos de odio, teorías conspirativas y símbolos del neofascismo desaparecieran de estas redes. Pero otorgar el poder de censura a unas corporaciones que no obedecen a más lógica que el lucro no parece ser la solución, ya que hasta ahora han tenido problemas para distinguir entre el odio y la resistencia contra el odio. Y es que, no sólo las personas, hasta los algoritmos pueden estar sesgados.

Lol, claro que sí campeón.

Glen Greenwald, en The Intercept, ha advertido antes cómo las leyes contra el discurso de odio han sido utilizadas en Europa para reprimir a activistas y manifestantes de izquierda. La crítica hacia los políticos o las clases privilegiadas puede, muy tramposamente, ser redefinida como discurso de odio contra ellos. Esto hacen los gobiernos que, de una forma u otra, responden a un electorado.

Las corporaciones de redes sociales, por otro lado, no; los usuarios tenemos muy poco poder sobre ellas: no podemos elegir a su mesa directiva, ni podemos votar sus reglamentos. En teoría podríamos usar nuestro poder de consumidor y decidir no usarlas, pero esto resulta una mayor pérdida para nosotros que para ellas, porque se trata de monopolios sin competencia. Teniendo servicio de una compañía de telefonía A, puedes hablar con personas que tengan servicio de las compañías B y C. Teniendo un automóvil o vehículo de cualquier marca puedes circular por la misma calle que cualquier otra persona. Pero para dirigirte al gran público que está en Facebook sólo puedes hacerlo teniendo cuenta en Facebook y sometiéndote a sus reglas. Creo que he ahí el problema: entidades que son a la vez redes, foros, medios, canales y espacios culturales de enorme importancia e impacto social están en manos de corporaciones que no responden más que a su búsqueda de lucro. Quizá no debería ser así.

Al momento de escribir esto, el video de Southern sigue en línea

Toda sociedad se topa con la tensión inherente que existe entre la libertad y la seguridad: demasiado de una pone a la otra, y a sí misma, en peligro. No hay una fórmula definitiva para resolver esta tensión, y sólo podemos tener soluciones funcionales de acuerdo a las condiciones del momento. Se nos ha demostrado, una y otra vez, que el discurso de odio lleva, tarde o temprano, a la violencia, es decir, pone en peligro la seguridad de las personas, como explica Antonio Salgado Borge:

“Esto es aún más claro cuando se considera que los efectos materiales del discurso de los Nazis contra los judíos por motivos étnicos son sobradamente conocidos: censurar este discurso no hubiera implicado violar un derecho; permitirlo, claramente sí.”

Pero los mecanismos de censura pueden ser usados para suprimir otras cosas que deberían ser dichas, precisamente para combatir ese discurso.

Entonces, nos encontramos ante un dilema: ¿Dejamos correr libremente contenidos que, hemos visto, derivan en violencia muy real contra seres humanos y en la formación de colectivos intolerantes que ahora están ganando poder? ¿Otorgamos la facultad de controlar el discurso a unas entidades monopólicas antidemocráticas, sobre las cuales casi no tenemos ningún control, a riesgo de que usen ese poder discrecionalmente contra nosotros? La solución debe estar en alguna tercera vía, en algún pensar fuera de la caja. Hoy, por mi parte, no tengo una respuesta, pero plantearnos el problema es un inicio.

Mientras tanto, uno de los atarantados por los cuales fue bloqueado de Facebook, acaba de publicar esto en mi página:

Así las cosas.

EPÍLOGO: Como lo esperaba, esta publicación enardeció a los trolls de extrema derecha, que reportaron en masa mi cuenta personal y mi página. Mi cuenta personal fue dada de baja por varios meses, mientras que la fanpage quedó  "castigada" con poca visibilidad; así funciona Facebook. Aunque al cabo me recuperé, sí tengo que admitir que estos incels me cuasaron muchas molestias. Pueden ayudarme reportando los perfiles que aparecen aquí y dando laik a mi nueva página de la Alianza Friki Antifascista.

NOTA DE 2021: Tras el ataque de fanáticos de ultraderecha al Capitolio de los Estados Unidos en enero de este año, por fin plataformas como Twitter y Facebook empezaron a bloquear cuentas de figuras prominentes de los movimientos neofascistas y postfascistas (¡incluido el mismo Trump!). Es muy poco, es muy tarde, y sólo lo hicieron para no hundirse junto con el bando perdedor; mientras les fue redituable, mantuvieron esa deferencia tácita. Meses antes, Facebook por fin empezó a catalogar el negacionismo del Holocausto como discurso de odio, pero al mismo tiempo endureció medidas contra el discurso crítico del poder (no puedes decir "pinches blancos racistas", por ejemplo). Al final, quedamos en tablas.

NOTA DE 2022: Cuando Elon Musk compró y adquirió el control de Twitter, regresaron los neonazis a la red social. El magnate también le devolvió la cuenta a Trump y ha iniciado una purga de cuentas antifascistas. Es el más reciente ejemplo del peligro de dejar instituciones tan importantes socialmente en manos de billonarios y megacorporaciones, en especial los que, como Musk, simpatizan con las causas de la extrema derecha. Hay que arrancar las redes sociales de manos de millonarios y monopolios.

Gracias por leer. Este artículo es parte de la serie sobre el Invierno Fascista (y la Resistencia). Si te gusta mi trabajo, puedes ayudarme a combatir el fascismo en redes con una subscripción mensual en Patreon. O también puedes hacer una sola donación en Paypal. Otros textos sobre temas relacionados incluyen:

• La Tierra en llamas. ¿Por qué la derecha es tan ecocida?
• Cómo hacer fascismo sin que te funen por facho
• No era Trump, es el capitalismo
• ¿Por qué Internet está lleno de imbéciles?
• ¡Viva la libertad, carajo! Liberalismo, libertarianismo y fascismo