Apuntes | La lucha en internet contra la radicalización de extrema derecha
Desde el inicio de la pandemia de la COVID-19 el número de alemanes con actitudes de extrema derecha ha aumentado significativamente. El movimiento anticonfinamiento impulsó en Alemania un entorno en el que se difundían entreveradas ideas conspirativas y de extrema derecha, en especial a través de las redes sociales. Las redes sociales, e Internet en general, desempeñaron un importante papel, tanto en la radicalización de las personas como en su movilización en las manifestaciones. A este respecto, nuestra investigación ha podido constatar que las grandes plataformas en línea, así como las de tecnología alternativa más pequeñas (Alt-Tech) fueron utilizadas estratégicamente por la extrema derecha como herramientas políticas.
Entre 2021 y 2023, el Institute for Strategic Dialogue (ISD) realizó una investigación sobre el uso de las redes sociales por parte de la extrema derecha alemana, en el marco de un proyecto financiado por el Ministerio Federal de Justicia alemán, «Countering Radicalisation in Right-Wing Extremist Online Subcultures» («La lucha contra la radicalización en las subculturas de extrema derecha de Internet»). Durante los tres años de duración del proyecto hicimos un seguimiento de actores de extrema derecha, analizando qué plataformas utilizaban, cómo las utilizaban y por qué, y examinamos asimismo cómo el marco legal de la NetzDG (la ley alemana de redes sociales) y, más tarde, el Reglamento de servicios digitales de la Unión Europea (DSA, por su sigla en inglés) afectaron su comportamiento. En base a los datos de esta investigación elaboramos una serie de recomendaciones para la realización de políticas regulatorias al respecto, que enumeramos a continuación.
En la investigación constatábamos que Facebook, Instagram, YouTube y Twitter/X, todos ellos designados por la DSA como plataformas en línea de muy gran tamaño (VLOP, por su sigla en inglés), siguen siendo plataformas importantes para la extrema derecha alemana. Los actores de extrema derecha, a excepción de quienes han quedado fuera de estas plataformas, recurren todavía a ellas para crear sus redes, difundir propaganda y atacar a rivales políticos.
En paralelo a su actividad en estas plataformas principales, estos actores de extrema derecha han ido desarrollando su propia infraestructura de plataformas más pequeñas y marginales. Se suele conocer a estas otras plataformas, y al movimiento tecnológico más amplio al que han dado lugar sus creadores, con la denominación «Alt-Tech», abreviatura en inglés de tecnologías alternativas. Cabe distinguir tres tipos de plataformas Alt-Tech: las redes sociales creadas por miembros de movimientos extremistas; las plataformas reacias a regular los contenidos por razones ideológicas o empresariales; y plataformas secuestradas que simplemente carecen de la capacidad necesaria para poder moderar sus contenidos. Durante nuestro proyecto, investigamos plataformas Alt-Tech como el clon de Twitter Gettr, la plataforma de vídeo basada en tecnología blockchain Odysee y el software PeerTube, que permite a los usuarios configurar sus propias plataformas de vídeo a través de tecnología P2P.
En el caso de la plataforma Odysee, el elemento clave es, entre otros, que permite monetizar el contenido con la criptomoneda LBRY, así como el almacenamiento descentralizado de algunos elementos (como los títulos de vídeo) a través del blockchain de LBRY, algo que los usuarios entienden como una forma de protección contra la eliminación de contenidos. Durante nuestra investigación encontramos en esta plataforma vídeos negacionistas del Holocausto e imágenes de ataques terroristas de extrema derecha, como el tiroteo que tuvo lugar en 2022 en Buffalo (Nueva York), que dan una muestra del uso de la libertad de expresión y la política de escasa moderación de contenidos por parte de Odysee.
En lo que respecta a las plataformas creadas a través del software PeerTube, una de las ventajas que ofrecen es que, al detentar la propiedad de la plataforma, se puede asumir el control del contenido y su moderación. A diferencia de PeerTube y Odysee, Gettr no ofrece ninguna ventaja comparativa a nivel tecnológico y simplemente sacó partido a su imagen de plataforma con escasa moderación. Al estar sujeta al mismo marco jurídico que Twitter en Alemania y con poco tráfico orgánico en sus primeros meses, lo que ofrecía Gettr era, en gran medida, su orientación ideológica, con la esperanza de atraer usuarios por cuestiones políticas.
Telegram se ha convertido en la plataforma Alt-Tech más popular entre la extrema derecha alemana. Híbrido entre red social y servicio de mensajería, Telegram ofrece a los usuarios una novedad técnica e ideológica: de un lado, la compañía promete salvaguardar la privacidad del usuario y se opone a la moderación de contenido; y del otro, los canales y grupos permiten comunicar a la vez hasta un total de 200.000 usuarios. Como servicio de mensajería, Telegram también es popular entre la población alemana en general, pero su imagen de plataforma anticensura, su alta popularidad y las utilidades que ofrece para la comunicación de masas han hecho de ella la red social preferencial de la extrema derecha en este país. Esta tendencia se vio amplificada por la difusión de desinformación en relación con la pandemia de la COVID-19 y la dinamización del movimiento anticonfinamiento. Durante la pandemia, los activistas anticonfinamiento compartieron en los canales y grupos de Telegram desinformación, teorías conspirativas y planteamientos de extrema derecha. El movimiento decía luchar por la libertad y contra las restricciones de la COVID-19, al tiempo que difundía ideas autoritarias y teorías conspirativas.
En un estudio longitudinal realizado como parte del proyecto mencionado, analizamos los temas discutidos por la extrema derecha alemana en Telegram y descubrimos que la plataforma se usaba tanto para discusiones internas y aprendizaje ideológico como para la difusión de propaganda a un público más amplio, más allá del círculo de la extrema derecha. Los mensajes destinados a este público más general se formulaban a menudo de manera diferente y tenían un tono más moderado que los dirigidos a su propio grupo político. Los actores políticos que examinamos capturaban rápidamente las noticias de actualidad para darles un giro de extrema derecha. Para explicar los acontecimientos mundiales, a menudo recurrían a teorías conspirativas, que parecen ser su heurística central para comprender el mundo. Los canales de Telegram de estos grupos extremistas difundieron este tipo de teorías sobre la pandemia de la COVID-19 y la guerra rusa en Ucrania, a veces interpretando ambos eventos mundiales como partes interconectadas de una conspiración mayor.
El análisis de los enlaces externos compartidos en Facebook, Instagram, YouTube y X/Twitter desveló que las plataformas Alt-Tech desempeñan un papel clave en las estrategias de los agentes de extrema derecha para esquivar la moderación de contenidos o su percepción de la censura en Internet. Ejemplo de este fenómeno fue el aumento significativo de enlaces a plataformas más pequeñas justo después del inicio de la invasión a gran escala de Ucrania por parte de Rusia. En parte, esto se debió a que los usuarios compartieron contenido de medios estatales rusos, alojados en sitios de Alt-Tech, a pesar de las sanciones de la UE. Sin embargo, el estudio longitudinal también puso de manifiesto que los usuarios de extrema derecha no solo se movieron en un sentido –de VLOP a Alt-Tech– pues, cuando estimaban que el entorno era propicio nuevamente, los actores regresaban rápidamente a las plataformas principales de las que habían sido expulsados o que habían abandonado previamente. En el caso de X/Twitter, el número de seguidores de cuentas de extrema derecha en la muestra que investigamos aumentó significativamente durante los últimos tres meses de 2022. Esta afluencia podría explicarse, en parte, por las expectativas que los actores de extrema derecha tenían de que se introdujeran cambios en las políticas de moderación de la plataforma, como resultado del cambio de propietario. Además de estas tendencias observadas en la popularidad de las plataformas, pudimos constatar que la mayoría de los actores de extrema derecha investigados simultanean redes sociales convencionales y plataformas Alt-Tech, articulando sus mensajes de manera diferente según la plataforma que utilicen y la audiencia a la que quieren llegar.
La estrategia de la extrema derecha de combinar plataformas Alt-Tech y plataformas convencionales para radicalizar a las personas a través de Internet requiere una respuesta regulatoria que tome en consideración todo el ecosistema de la extrema derecha en Internet. Para contrarrestar esta radicalización de las subculturas de extrema derecha en la red, hemos desarrollado una serie de recomendaciones basadas en nuestra investigación. Proponemos el establecimiento y la imposición de la moderación de contenidos, incluida la adopción de un enfoque de seguridad y privacidad centrado en la víctima o sobreviviente, para ayudar a los destinatarios de las campañas de odio a través de las redes. También proponemos un mejor acceso a las API de la plataforma para que los investigadores puedan analizar sistemáticamente las amenazas existentes en Internet. Sugerimos asimismo garantizar el cumplimiento de la DSA por parte de Telegram, por ejemplo, evaluando si la plataforma puede designarse como VLOP, lo que ampliaría las obligaciones de gestión de riesgos y de informes de transparencia por parte de la empresa. Por último, proponemos que se garantice el cumplimiento por parte de las plataformas Alt-Tech de las obligaciones de la DSA que les son aplicables, aun cuando no superan el umbral de los 45 millones de usuarios. Entre otros requisitos, las plataformas en línea también están obligadas a establecer mecanismos de notificación y acción para que los usuarios les informen de los contenidos ilícitos y deben designar a un representante legal en uno de los estados miembros. Si se toman estas medidas, la difusión de propaganda de extrema derecha y de discursos de odio a través de Internet podría al menos volverse más difícil y, por lo tanto, inhibirse.