Apunts | La lluita a Internet contra la radicalització d’extrema dreta

Des de l’inici de la pandèmia de la COVID-19, el nombre d’alemanys amb actituds d’extrema dreta ha augmentat significativament. El moviment anticonfinament a Alemanya va generar un entorn en què es difonien diverses idees conspiratives i d’extrema dreta, sobretot a través de les xarxes socials. Aquestes, i Internet en general, van tenir un paper important tant en la radicalització de les persones, com en la seva mobilització en les manifestacions. La nostra investigació ha pogut constatar que les grans plataformes en línia, així com també les de tecnologia alternativa més petites (Alt-Tech) van ser utilitzades estratègicament per l’extrema dreta com a eines polítiques. 

De 2021 a 2023, l’Institute for Strategic Dialogue (ISD) va realitzar una investigació sobre l’ús de les xarxes socials per part de l’extrema dreta alemanya, en el marc d’un projecte finançat pel Ministeri Federal de Justícia alemany, «Countering Radicalisation in Right-Wing Extremist Online Subcultures» (La lluita contra la radicalització en les subcultures d’extrema dreta d’Internet). Durant els tres anys que va durar el projecte, vam fer un seguiment d’actors d’extrema dreta, analitzant quines plataformes utilitzaven, com les utilitzaven i per què, i vam examinar també el marc legal de la NetzDG (la llei alemanya de xarxes socials) i, més tard, el Reglament de serveis digitals de la Unió Europea (DSA, per les seves sigles en anglès) per tal de comprendre com van afectar el seu comportament. D’acord amb les dades d’aquesta investigació, vam redactar una sèrie de recomanacions ‒que enumerem tot seguit‒ per a l’elaboració d’una sèrie de polítiques regulatòries dedicades a aquest fenomen. 

De resultes de la nostra investigació, vam constatar que Facebook, Instagram, YouTube i Twitter/X, designats per la DSA com a plataformes en línia de gran dimensió (VLOP, per les seves sigles en anglès), continuen sent plataformes importants per a l’extrema dreta alemanya. Els actors d’extrema dreta, a excepció dels que han quedat fora d’aquestes plataformes, hi recorren encara per fer xarxes, difondre propaganda i atacar rivals polítics.

Paral·lelament a la seva activitat en aquestes plataformes principals, els actors d’extrema dreta han desenvolupat la seva pròpia infraestructura de plataformes més petites i marginals. Aquestes plataformes paral·leles, i el moviment tecnològic més ampli que engloba els seus creadors es coneix amb el nom «Alt-Tech», abreviatura en anglès de tecnologies alternatives. Cal distingir tres tipus de plataformes Alt-Tech: les xarxes socials creades per membres de moviments extremistes; les plataformes reticents a regular els continguts per raons ideològiques i empresarials; i finalment, les plataformes segrestades que manquen simplement de la capacitat necessària per poder moderar els seus continguts. Durant el nostre projecte, vam investigar plataformes Alt-Tech com Gettr ‒el clon de Twitter‒; Odysee, la plataforma de vídeo basada en tecnologia blockchain, i el software PeerTube, que permet que els usuaris configurin les seves pròpies plataformes de vídeo a través de tecnologia P2P.

En el cas de la plataforma Odysee, l’element clau és, entre d’altres, que permet monetitzar el contingut amb la criptomoneda LBRY, com també l’emmagatzematge descentralitzat d’alguns elements (com els títols de vídeo) a través del blockchain de LBRY, quelcom que els usuaris entenen com una forma de protecció contra l’eliminació de continguts. Durant la nostra investigació, vam trobar en aquesta plataforma vídeos negacionistes de l’Holocaust i imatges d’atacs terroristes d’extrema dreta, com el tiroteig que va tenir lloc el 2022 a Buffalo (Nova York), que són una mostra de l’ús de la llibertat d’expressió i la política d’escassa moderació de continguts per part d’Odysee. 

Pel que fa a les plataformes creades a través del software PeerTube, un dels avantatges que ofereixen és que, en tenir la propietat de la plataforma, es pot assumir el control del contingut i de la seva moderació. A diferència de PeerTube i Odysee, Gettr no ofereix cap avantatge comparatiu a escala tecnològica i simplement treu partit de la seva reputació de plataforma amb escassa moderació. En estar subjecta al mateix marc jurídic que Twitter a Alemanya i amb poc trànsit orgànic els seus primers mesos, el que oferia Gettr era, en gran manera, la seva orientació ideològica, amb l’esperança d’atreure usuaris per qüestions polítiques. 

Telegram s’ha convertit en la plataforma Alt-Tech més popular entre l’extrema dreta alemanya. Un híbrid entre xarxa social i servei de missatgeria, Telegram ofereix als usuaris una novetat tècnica i ideològica: d’una banda, la companyia promet salvaguardar la privacitat de l’usuari i s’oposa a la moderació de contingut; de l’altra, disposa de  canals i grups que permeten que fins a un total de 200.000 usuaris es puguin comunicar alhora. Com a servei de missatgeria, Telegram també és popular entre la població alemanya en general, però la seva imatge de plataforma anticensura, la seva alta popularitat i les utilitats que ofereix per a la comunicació de masses l’han convertit en la xarxa social preferida de l’extrema dreta en aquest país. Aquesta tendència es va veure amplificada per la difusió de desinformació en relació amb la pandèmia de la COVID-19 i la dinamització del moviment anticonfinament. Durant la pandèmia, els activistes anticonfinament van compartir als canals i grups de Telegram desinformació, teories conspiratives i plantejaments d’extrema dreta. El moviment deia lluitar per la llibertat i contra les restriccions de la COVID-19, al mateix temps que difonia idees autoritàries i teories conspiratives.

En un estudi longitudinal realitzat com a part del projecte esmentat, vam analitzar els temes que discutia l’extrema dreta alemanya a Telegram i vam descobrir que la plataforma s’usava tant per a discussions internes i aprenentatge ideològic com per a la difusió de propaganda a un públic més ampli, més enllà del cercle de l’extrema dreta. Els missatges destinats a aquest públic més general es formulaven sovint de manera diferent i tenien un to més moderat que els dirigits al seu propi grup polític. Els actors polítics que vam examinar capturaven ràpidament les notícies d’actualitat i els donaven un gir d’extrema dreta. Per explicar els esdeveniments mundials, sovint recorrien a teories conspiratives, que semblen ser la seva heurística central per comprendre el món. Els canals de Telegram d’aquests grups extremistes van difondre aquest tipus de teories sobre la pandèmia de la COVID-19 i la guerra russa a Ucraïna, de vegades interpretant ambdós esdeveniments mundials com a parts interconnectades d’una conspiració més gran.

L’anàlisi dels enllaços externs compartits a Facebook, Instagram, YouTube i X/Twitter va revelar que les plataformes Alt-Tech tenen un paper clau en les estratègies dels agents d’extrema dreta per esquivar la moderació de continguts o la seva percepció de censura a Internet. Un exemple d’aquest fenomen va ser l’augment significatiu d’enllaços a plataformes més petites tot just després de l’inici de la invasió d’Ucraïna per part de Rússia, a causa, en part, del fet que els usuaris van compartir contingut de mitjans estatals russos, allotjats a llocs d’Alt-Tech, malgrat les sancions de la UE. No obstant això, l’estudi longitudinal també va posar de manifest que els usuaris d’extrema dreta no es van moure només en un sentit ‒de VLOP a Alt-Tech‒ ja que, quan preveien que l’entorn era propici de nou, els actors tornaven ràpidament a les plataformes principals de les quals havien estat expulsats o que havien abandonat prèviament. En el cas de X/Twitter, el nombre de seguidors de comptes d’extrema dreta va augmentar significativament durant els últims tres mesos de 2022. Aquesta afluència es podria explicar, en certa manera, per les expectatives que els actors d’extrema dreta tenien que s’introduïssin canvis en les polítiques de moderació de la plataforma com a resultat del canvi de propietari. A més d’aquestes tendències observades en la popularitat de les plataformes, vam poder constatar que la majoria dels actors d’extrema dreta investigats simultaniejaven xarxes socials convencionals i plataformes Alt-Tech, articulant els seus missatges de manera diferent segons la plataforma que utilitzaven i l’audiència a la qual volien arribar. 

L’estratègia de l’extrema dreta de combinar plataformes Alt-Tech i plataformes convencionals per radicalitzar les persones a través d’Internet necessita una resposta regulatòria que prengui en consideració tot l’ecosistema de l’extrema dreta a Internet. Per contrarestar aquesta radicalització de les subcultures d’extrema dreta a la xarxa, hem desenvolupat una sèrie de recomanacions basades en la nostra investigació. Proposem l’establiment i la imposició de la moderació de continguts, inclosa l’adopció d’un enfocament de seguretat i privacitat centrat en la víctima o supervivent, per ajudar els destinataris de les campanyes d’odi a través de les xarxes. També proposem un accés millor a les API de la plataforma perquè els investigadors puguin analitzar sistemàticament les amenaces existents a Internet. Suggerim també garantir el compliment de la DSA per part de Telegram, per exemple, avaluant si la plataforma pot designar-se com a VLOP, fet que ampliaria les obligacions de gestió de riscos i d’informes de transparència per part de l’empresa. Finalment, proposem que es garanteixi el compliment per part de les plataformes Alt-Tech de les obligacions de la DSA que són aplicables, fins i tot quan no superen el llindar dels 45 milions d’usuaris. Les plataformes en línia també estan obligades, entre altres requisits, a establir mecanismes de notificació i acció perquè els usuaris els informin dels continguts il·lícits i han de designar un representant legal en un dels estats membres. Si es prenen aquestes mesures, la difusió de propaganda d’extrema dreta i de discursos d’odi a través d’Internet podria ser més difícil i, per tant, inhibir-se.