Covid-19 : la réponse des plateformes en ligne face à l'ultradroite

Tech Against Terrorism est un partenariat public-privé soutenu par la direction exécutive du Comité contre le terrorisme des Nations unies (UN CTED). Tech Against Terrorism a été lancé en avril 2017 au siège des Nations Unies, à New York, et a depuis été mis en œuvre par la Fondation Quantspark. Il s’agit d’une initiative public-privé financée à la fois par l’industrie technologique via le Global Internet Forum to Counter Terrorism (GIFCT) et par différents gouvernements. À ce jour, les gouvernements de l’Espagne, de la République de Corée, de la Suisse et du Canada ont apporté leur soutien financier à Tech Against Terrorism.

L’objectif principal de Tech Against Terrorism est de soutenir l’industrie technologique dans le renforcement de ses capacités à lutter contre l’utilisation d’Internet à des fins terroristes tout en respectant les droits humains. Tech Against Terrorism travaille avec tous les types d’entreprises technologiques, tels que les réseaux sociaux, les sites dit de pasting *, les plateformes de stockage de fichiers, les messageries en ligne ou encore les plateformes Fintech ** et les fournisseurs d’infrastructures Web. Notre mission principale consiste à fournir à l’industrie technologique mondiale les outils nécessaires pour lutter efficacement contre les activités terroristes sur leurs plateformes. Pour ce faire, nous travaillons sur trois axes :

1. L’analyse de la menace et la sensibilisation. Nous effectuons une analyse approfondie des renseignements open source (toute donnée publiquement accessible) afin d’identifier les plateformes à risque et d’établir des relations de travail constructives avec le secteur technologique, et de faciliter la coopération entre les secteurs public et privé ;

2. Le partage des connaissances et des meilleures pratiques. Nous facilitons les mécanismes de soutien intra-industriels et intersectoriels grâce à des outils en ligne, au partage de bonnes pratiques mises en place par les chefs de file du secteur, des manuels et à des formations pratiques pour soutenir les décisions de modération des politiques et à des contenus. Nous travaillons en étroite collaboration avec le GIFCT pour organiser des ateliers et des séminaires en ligne à l’échelle mondiale. Nous soutenons également les entreprises par le biais de nos programmes d’adhésion à l’initiative Tech Against Terrorism et de mentorat pour le GIFCT ;

3. Le développement technologique et le soutien opérationnel. Nous fournissons un soutien technique et des ressources aux entreprises technologiques afin d’améliorer leurs mécanismes de lutte contre le terrorisme, notamment par le biais de l’analyse de données et du soutien au développement de solutions technologiques. Parmi les exemples de précédents projets dans ce domaine, on peut citer notre travail avec Jihadology.net *** et notre travail actuel sur la plateforme d’analyse de contenu terroriste (Terrorist Content Analytics Platform, ou TCAP) ****.

Tech Against Terrorism se compose d’une équipe interdisciplinaire d’experts du contre-terrorisme, d’analystes de renseignements open source, de développeurs et d’analystes de données. La composition de notre équipe nous permet d’apporter un soutien complet à l’industrie technologique mondiale d’une manière efficace, précise et conforme aux droits humains.

Internet et les plateformes en ligne qui le composent constituent un élément crucial de notre tissu social depuis un certain temps déjà, mais ils sont devenus un élément encore plus central dans le cadre de la réponse mondiale à l’épidémie de Covid-19. Alors que le monde s’est refermé sur lui-même, nous avons vu des personnalités politiques et des organisations internationales communiquer avec le public par le biais des réseaux sociaux et des plateformes de messagerie. Nous avons vu des amis et des familles séparés s’appuyer davantage sur les communications en ligne pour rester connectés ¹. Nous avons également vu des étudiants et des travailleurs être supervisés et coordonnés par le biais de plateformes en ligne. Cependant, nous avons également constaté l’évolution et la fragmentation de notre environnement d’information, notamment une augmentation du contenu en ligne présentant des chevauchements évidents avec des messages portés par l’ultradroite ². Ainsi Internet, tout en connectant les gens dans une période de distanciation sociale, est devenu le reflet des divisions et des antagonismes de nos sociétés, les terroristes et les extrémistes l’utilisant pour propulser leurs idéologies.

D’une certaine manière, les terroristes et les extrémistes peuvent être considérés comme des manipulateurs, exploitant les griefs et les facteurs de stress préexistants dans les sociétés et chez les individus, tels que les lacunes gouvernementales ou les quêtes individuelles d’identité et de réponse. Dans ce contexte, il n’est pas surprenant que la pandémie de Covid-19, les mesures de confinement, les restrictions, l’instabilité économique et l’anxiété générale qui en ont découlé aient été des facteurs de stress idéaux à exploiter pour les terroristes et les extrémistes. Les failles en matière de crédibilité causées par la réaction hésitante de certains gouvernements face au virus et par le flux de mésinformation et de désinformation en ligne ont en outre constitué une brèche, à la fois dans les récits conventionnels et dans la confiance dans les gouvernements, dont les acteurs malveillants pouvaient tirer avantage. Les groupes terroristes islamistes avec une présence sur le terrain – tels que l’État islamique, Al-Qaida et Al-Shabaab ³ – tentent ainsi de tirer profit de la déstabilisation accrue des gouvernements locaux fragilisés par la crise (notamment en matière de santé et de sécurité) pour se présenter comme une solution viable et étendre leur contrôle sur le terrain ⁴.

Pendant ce temps, dans les pays occidentaux, les militants de l’ultradroite exploitent cette « infodémie Covid-19 ⁵ » pour pénétrer le discours public et distiller leurs idéologies à un public plus large.

Étant donné que l’exploitation de la crise de Covid-19 par l’ultradroite s’est faite principalement en ligne, contrairement aux terroristes islamistes, nous avons décidé de nous concentrer, pour cette étude, sur la manipulation en ligne de la pandémie par les militants violents de l’extrême droite. En effet, il y a eu une augmentation importante des idées et de la propagande de l’ultradroite autour du virus dans les discussions sur Internet ⁶, et ce même en dehors des cercles extrémistes. Cette pénétration dans les discussions publiques a été facilitée par un croisement entre les idéologies extrémistes et les discussions communes au grand public. Cette manipulation du contexte pandémique représente donc un exemple intéressant de la distorsion du paysage de l’information par les extrémistes violents et, ce faisant, de leur utilisation des plateformes en ligne.

Dans la présente note, nous analyserons tout d’abord la manipulation du discours sur la pandémie par les militants de l’ultradroite. Puis, dans un deuxième temps, nous évaluerons les implications pour l’avenir de la modération du contenu en ligne à travers le prisme des réponses actuelles du secteur technologique face à la vague de désinformation et de théories complotistes. Enfin, nous avons inclus le commentaire de Tech Against Terrorism sur la législation française de lutte contre la haine sur Internet (ou loi Avia). En effet, cette proposition de loi et sa censure par le Conseil constitutionnel français le 18 juin 2020 abordent certains des débats les plus importants concernant la réglementation en ligne dans le monde démocratique.

Alors que l’épidémie de Covid-19 a contraint le monde au confinement, l’espace virtuel a connu une recrudescence des théories du complot, de la mésinformation et de la désinformation ⁷ sur l’origine et la prolifération du virus ainsi que sur les réactions des gouvernements à ce sujet. Bien qu’en général les théories du complot existent le plus ouvertement et avec le plus de ferveur aux marges d’Internet, celles liées au Covid-19 ont rapidement trouvé leur place sur les plateformes classiques, en particulier les réseaux sociaux. Parmi les principales théories du complot liées au Covid-19, qui ne sont pas le monopole de l’extrême droite et que l’on voit également évoluer dans les réseaux d’extrême gauche, par exemple, on trouve un certain nombre de souches idéologiques ⁸.

La 5G et l’anti-gouvernement

Parmi les plus populaires, cette théorie est centrée sur l’idée selon laquelle la Chine aurait provoqué la pandémie par le biais de la 5G ⁹ et sur le fait que les mesures de confinement et les restrictions demandées par les gouvernements viseraient à restreindre la liberté des personnes ¹⁰. En France, des chercheurs ont observé une explosion du discours anti-5G sur les réseaux sociaux avec l’apparition du coronavirus et souligné une importante porosité entre les différentes théories du complot ¹¹.

Le contrôle social

L’idée directrice est ici que « l’objectif final [du virus] est d’imposer des restrictions sociales et de forcer les vaccinations ¹² » afin de pouvoir surveiller et suivre la population.

L’arme biologique

Il s’agit d’une croyance populaire au sein de l’extrême droite selon laquelle le Covid-19 serait un virus créé par l’être humain qui cible les personnes en fonction de leur race et qui a été libéré intentionnellement ou accidentellement.

QAnon et la théorie du Deep State (« État dans l’État »)

Apparus en 2017, QAnon et les théories connexes du Deep State ont été parmi les plus prolifiques pendant la pandémie de Covid-19 ¹³, gagnant de plus en plus de terrain sur les plateformes en ligne et attirant de nouveaux publics. Ces théories englobent des récits différents et changeants sur le virus, faisant de la pandémie tantôt un complot pour nuire à la réputation du président Trump, tantôt une dissimulation orchestrée pour que celui-ci puisse arrêter des agents du Deep State ou encore un « combat spirituel », tout en s’appuyant sur une rhétorique antigouvernementale et xénophobe ¹⁴. L’analyse de la présence de QAnon sur les réseaux sociaux souligne la capacité du mouvement à exploiter la pandémie, en particulier en utilisant des comptes publics sur les réseaux sociaux pour atteindre des publics plus larges et nouveaux. Les partisans de QAnon ont notamment utilisé des groupes publics discutant de la pandémie sur Facebook pour attirer de nouvelles audiences vers leurs propres sites Web. Ce faisant, ils ont réussi à rassembler 80 millions d’interactions sur Facebook, entre janvier et avril 2020, un volume alarmant par rapport aux 6,2 millions d’interactions pour les messages liés à l’Organisation mondiale de la santé (OMS) au cours de la même période ¹⁵. En seulement trois mois, le nombre de hashtags QAnon sur Twitter a augmenté de 21% ¹⁶.

Les théories du chaos

Théories comprenant l’idée que les instabilités créées par la pandémie devraient être renforcées pour provoquer un chaos et des changements sociétaux ; ces théories sont similaires à l’idée d’accélérationnisme ¹⁷ populaire parmi les militants de l’ultradroite. L’accélérationnisme fait référence à l’effondrement accéléré de la société telle que nous la connaissons par des moyens violents – comme le terrorisme et la guérilla – et par des moyens non violents comme la manipulation politique et médiatique pour accroître les tensions existantes du système et polariser davantage la société.

Ces théories du complot se sont rapidement retrouvées dans le discours dominant sur le virus, se propageant de manière virale sur les réseaux sociaux et les applications de messagerie, atteignant des individus cherchant des réponses à leurs questions sur la pandémie. Bien qu’elles ne soient pas créées par des extrémistes, ni spécifiques à l’un ou l’autre côté du spectre politique ¹⁸, ces théories du complot présentent toutefois d’importantes similitudes avec les discours de l’ultradroite et partagent des principes qui prolifèrent généralement dans ces milieux. En effet, souvent fondées sur l’idée d’un « complot mondial visant à assujettir l’humanité ¹⁹ » et sur une rhétorique antigouvernementale, ces théories conspirationnistes sont pour la plupart de nature raciste, xénophobe et antisémite. Lorsque le « virus créé à l’étranger » est devenu un sujet de discussion récurrent en ligne par le biais des théories du complot, les extrémistes y ont vu une occasion d’exploiter davantage les idées qui constituent la base de leur propre rhétorique.

Grâce aux idées présentées dans les théories conspirationnistes liées au Covid-19, ils ont trouvé un moyen d’instiller leurs messages dans le discours public. Cette convergence des idées est d’autant plus visible pour certaines théories du complot qui sont directement liées à l’extrême droite, notamment les théories du Deep State (QAnon), ou celles de nature apocalyptique prônant le chaos social. L’un des messages d’un partisan de l’extrême droite sur Telegram (une application de messagerie instantanée) illustre particulièrement comment la pandémie et l’instabilité qui en résulte profitent aux extrémistes : « Nous n’avons pas besoin de convaincre les masses de nos idées. La pandémie l’a déjà fait… Les Blancs paniqués ont acheté des armes, de la nourriture, de l’eau, et se préparent d’eux-mêmes à l’agitation sociale ²⁰. »

Pour les groupes violents, il s’agissait alors simplement de se fondre dans le débat général et de tirer profit de l’opportunité offerte par la pandémie. Les militants de l’ultradroite se sont donc massivement dirigés vers les plateformes en ligne pour propager de la désinformation et des théories du complot, ainsi que leurs propres messages haineux. Leur succès réside dans le fait qu’ils ne se présentent pas ouvertement comme étant des extrémistes, mais qu’ils infiltrent plutôt des discussions en ligne avec lesquelles ils partagent des éléments de rhétorique et en postant des liens vers des sites Web plus marginaux qu’ils administrent. Une étude a révélé que certains des groupes complotistes sur Telegram étaient gérés par « des utilisateurs extrémistes connus de Telegram qui déguisent [ces groupes] en sources d’information destinées aux internautes en quête de réponses ²¹ ».

Ainsi, les militants de l’ultradroite ont essayé d’élargir leur audience à de nouveaux publics et d’ancrer leurs idées dans le débat public. Dès les premières mesures de confinement, les gouvernements et les experts ont exprimé leurs inquiétudes sur le risque que la hausse des difficultés sociales et économiques, associée à une augmentation du temps passé en ligne, contribue à des processus de radicalisation, notamment chez les jeunes confinés chez eux et à qui on interdit les activités récréatives et culturelles à l’extérieur ²². Le fait que les interactions en ligne puissent jouer un rôle important dans la radicalisation d’un individu est reconnu par les experts en contre-terrorisme depuis un certain temps déjà. Toutefois, la particularité de la pandémie de Covid-19 à cet égard est qu’elle a entraîné une augmentation sans précédent de l’activité en ligne, en particulier chez les jeunes. Un phénomène résumé par la chercheuse Cynthia Miller-Idriss : « Cette dynamique crée les conditions parfaites pour le recrutement et la radicalisation extrémistes. L’isolement extrême et la présence accrue en ligne sur les plateformes de jeux vidéo, sur les réseaux sociaux et autres multiplient les possibilités d’exposition à des contenus extrémistes et les passerelles qui peuvent conduire à des formes de radicalisation ²³. »

Les terroristes et les extrémistes tirent profit des sentiments d’insécurité, d’injustice et de protestation en se posant comme la solution aux difficultés rencontrées dans la vie, par exemple les besoins économiques, le besoin d’appartenance, les sentiments d’anxiété ou de désillusion vis-à-vis de la société. Or la pandémie crée un terrain parfaitement propice à l’anxiété et au besoin d’explications qui se combinent avec l’augmentation du temps passé en ligne. Les extrémistes intensifient alors leurs efforts de propagande et se présentent comme la solution évidente à une période d’instabilité et d’insécurité sans précédent.

Les extrémistes tentent depuis longtemps d’exploiter les périodes d’instabilité et d’insécurité pour diffuser leurs idéologies. Une tendance de plus en plus présente au sein des extrémistes violents de droite depuis un an, et qui reflète particulièrement cette tentative de se nourrir de la polarisation et de l’instabilité est l’accélérationnisme, autrement dit la thèse d’un effondrement accéléré de la société telle que nous la connaissons par des moyens à la fois violents – le terrorisme et la guérilla – et non violents – les manipulations politiques et médiatiques – afin d’accroître les tensions existantes du système et de polariser davantage la société ²⁴.

Sur la base d’un suivi ciblé et d’une analyse du contenu de 100 channels de l’ultradroite, en particulier néonazies, sur l’application de messagerie cryptée Telegram ²⁵, Tech Against Terrorism a étudié comment les discours sur l’accélérationnisme ont fusionné avec les discussions sur la crise de Covid-19. Telegram a été choisie en raison de son importance croissante au sein des cercles de l’ultradroite en ligne, en particulier parmi les néonazis ²⁶. Tech Against Terrorism surveille les channels publics néonazis sur Telegram depuis 2019. Lorsque des rapports sont apparus sur des extrémistes violents utilisant le Covid-19 comme impulsion pour des discussions accélérationnistes en ligne, il a été décidé d’analyser comment cela s’exprimait sur Telegram. Pour ce faire, 100 channels ont été sélectionnés sur la base d’un échantillonnage construit selon la méthode dite « en boule de neige » : en commençant par un channel néonazi, nous avons tracé un réseau d’activité néonazie sur la plateforme grâce aux liens partagés sur le channel original et avons inclus les channels publics pertinents dans notre échantillon. Le canal initial a été localisé grâce à une simple recherche par mot-clé de termes néonazis traduisant une adoration d’Hitler, de l’Allemagne nazie ou une haine des communautés juives. Le caractère néonazi des canaux identifiés a ensuite été vérifié. L’analyse des channels échantillonnés et des données récupérées a permis de confirmer les relations existantes entre les différents canaux néonazis.

Les premières discussions concernant l’accélérationnisme sur les channels néonazis de Telegram remontent à 2019 et précèdent donc la pandémie de Covid-19. Les premières discussions autour d’une nouvelle maladie pulmonaire et les mentions de la Chine sur les channels d’extrémistes violents peuvent être situées, quant à elles, entre janvier et février 2020, à peu près au moment où le Covid-19 devient un sujet majeur d’actualité, puis apparaissent ensuite les channels spécifiquement consacrés au Covid-19. Vers mars 2020, l’association entre les discussions sur l’accélérationnisme et la crise du Covid-19 fait son apparition sur Telegram, peu après que l’association des deux commence à être mentionnée dans un certain nombre d’articles d’actualité ²⁷.

Depuis, les mentions de l’accélérationnisme sur Telegram n’ont cessé d’augmenter. Alors que la pandémie se propageait dans le monde entier, l’accélérationnisme est devenu un sujet central de discussion sur les channels d’extrémistes violents de Telegram. L’une des raisons de cette utilisation plus fréquente du terme au fil du temps est très probablement l’intensification de la couverture médiatique autour de la pandémie et des mesures qu’elle a entraînées. Cela a représenté une condition favorable pour les accélérationnistes, puisque le Covid-19 est devenu un sujet central de discussion publique, surtout au fur et à mesure que la pandémie et les mesures de confinement et autres restrictions créaient plus d’instabilité et de contestation.

Pour mieux comprendre le langage utilisé par les extrémistes violents discutant de la pandémie de Covid-19 sur Telegram, nous avons soumis un channel spécifique à une analyse plus approfondie, choisie parce qu’il est principalement consacré aux discours accélérationnistes et au Covid-19, et fait donc fortement référence à l’idéologie accélérationniste à la lumière de la pandémie mondiale actuelle.

D’autres chercheurs ont également montré une montée rapide de l’accélérationnisme dans ces canaux, en particulier dans des discussions concernant l’arsenalisation du virus, c’est-à-dire sa transformation en une arme ²⁸, l’accentuation de l’agitation sociale et l’accélération de l’effondrement de la société ²⁹. Cette menace a été reconnue par les forces de l’ordre aux États-Unis à l’échelle fédérale, qui ont fait état de militants violents de droite envisageant de faire du virus une arme à des fins terroristes ³⁰, et elle s’est déjà manifestée dans des événements réels comme nous le verrons dans la section suivante.

La désinformation et les propos tenus par l’ultradroite ne se sont pas limités aux plateformes en ligne. Ils se sont aussi manifestés à travers des activités et des événements du monde « réel » par le biais de manifestations anti-confinement dans le monde entier, d’attaques contre des infrastructures 5G, de harcèlement de travailleurs des télécommunications et d’attaques déjouées.

Des manifestations anti-confinement critiquant et demandant la fin de ces mesures au motif qu’elles restreignent la liberté ont eu lieu dans toute l’Europe (notamment en Allemagne, en Suisse, en Espagne et en Italie). Les manifestations aux États-Unis ont toutefois bénéficié d’une plus grande attention médiatique, probablement en raison de leur ampleur et de la militarisation dont certaines ont fait l’objet ³¹. Si les manifestations contre le confinement représentent un large éventail de convictions politiques, la plupart des participants n’ayant aucune affiliation avec l’ultradroite, de nombreux groupes violents de droite y ont vu une occasion idéale pour bénéficier de publicité et diffuser leur idéologie ³². Ainsi, si certains groupes d’ultradroite ont été parmi les premiers à organiser de tels rassemblements aux États-Unis, ils ont ensuite commencé à se fondre dans les manifestations classiques ³³. Les Boogaloo ³⁴, un mème Internet ³⁵ américain devenu mouvement extrémiste appelant à une seconde guerre civile, et les Proud Boys ³⁶, un gang néofasciste américain, ont été parmi les premiers militants d’ultradroite à être repérés lors de manifestations contre le confinement, affichant ouvertement des symboles associés à l’idéologie de l’ultradroite américaine ³⁷. Ces manifestations ont peu à peu vu croître la présence d’extrémistes en leur sein, à mesure que ceux-ci ont continué à tirer profit de la pandémie et des mesures de confinement et se sont rendu compte que les théories conspirationnistes et ce type de rassemblements étaient un excellent moyen de gagner en publicité et de communiquer leurs idées. Si le lien entre extrémistes et rassemblements anti-confinement a été le plus frappant aux États-Unis, la même combinaison de théories conspirationnistes, de sentiments antigouvernementaux et de motifs extrémistes peut être observée en Europe. En Allemagne, par exemple, les manifestations ont été soutenues par la droite populiste tout en étant le théâtre d’un mélange de partisans des théories conspirationnistes. Il est particulièrement important de rappeler ici le rôle de l’ultradroite et des éléments néonazis dans la diffusion des théories du complot ³⁸. D’une certaine manière, les rassemblements anti-confinement représentent la manifestation dans le monde physique du croisement entre les idéologies extrémistes et le débat public sur la pandémie.

Les théories conspirationnistes liées au Covid-19 se sont également matérialisées par des actes de violence physique. Les théories du complot liant le virus aux technologies 5G, en particulier, ont conduit à des attaques contre des infrastructures de télécommunication et des travailleurs au Royaume-Uni et aux Pays-Bas ³⁹. Ce phénomène a été encouragé par les accélérationnistes qui y ont vu une chance de provoquer davantage d’agitation sociale ⁴⁰. Au-delà de ces violences, physiques et psychologiques, contre les travailleurs du secteur des télécommunications, des plans d’attaques issus de militants violents d’extrême droite ont été déjoués aux États-Unis et en France depuis le début de la pandémie. Le 26 mai 2020, un homme a ainsi été arrêté en France pour avoir planifié une attaque contre la communauté juive ⁴¹. L’homme, dont le profil sur les réseaux sociaux témoignait de son implication dans la nébuleuse néonazie et sur lequel on pouvait trouver une traduction française du manifeste du tireur de Christchurch ⁴², serait devenu de plus en plus violent au cours des semaines précédant son arrestation ⁴³ et aurait manifesté un intérêt particulier pour la réouverture des lieux de culte en France une fois le confinement levé. À ce stade de l’enquête, nous ne pouvons que supposer un lien entre l’intérêt accru de cet homme pour l’ultradroite au cours des dernières semaines et la pandémie, qui aurait agi comme catalyseur de son action. Cependant, pour d’autres plans déjoués aux États-Unis, le rapport entre Covid-19 et accélérationnisme a été clairement établi. Au début de la pandémie, un suprémaciste blanc a notamment été tué lors de son arrestation par le FBI alors qu’il planifiait un attentat contre un hôpital accueillant des patients atteints du Covid-19. Bien que l’individu ait été un partisan du suprémacisme blanc et militant pour une « insurrection révolutionnaire » avant la pandémie, les détails d’une discussion qu’il a eue avec un agent des forces de l’ordre sous couverture révèlent que le Covid-19 a accéléré son passage à l’acte. L’individu a vu l’attention médiatique accrue accordée au secteur de la santé comme une occasion de capter l’attention du public et de promouvoir les idées extrémistes ⁴⁴. Ces plans d’attaque déjoués montrent à quel point l’opportunité que représente le virus pour les extrémistes, en particulier dans le cadre de discussions sur l’accélérationnisme, constitue une réelle menace pour la sécurité dans les démocraties occidentales. Cette menace ne doit en aucun cas être sous-estimée car les attaquants d’extrême droite de type « loups solitaires » ont démontré leur capacité à agir sur la base de leurs convictions haineuses au cours de ces dernières années – 2019 étant une année particulièrement tragique à cet égard, puisque le monde a été témoin de quatre grands attentats terroristes motivés par l’extrême droite, en Nouvelle-Zélande, aux États-Unis et en Allemagne, dont le tragique attentat contre les mosquées de Christchurch et la fusillade d’El Paso.

Les extrémistes violents de droite ont donc profité de la pandémie pour exploiter et déformer le paysage médiatique et informationnel, montrant une fois de plus leur capacité à mettre les plateformes en ligne au service de leurs propres agendas. Cependant, les plateformes en ligne – en particulier les réseaux sociaux et les applications de messagerie – ont rapidement réagi à la propagation des théories conspirationnistes, à la mésinformation et à la désinformation autour du Covid-19 sur leurs sites. Bien qu’elles n’aient pas nécessairement ciblé les extrémistes violents, les changements introduits dans leurs politiques de modération des contenus affectent aussi la capacité de ces derniers à tirer profit de la pandémie. Nous verrons plus loin ce que ces changements signifient pour l’avenir de la modération de contenu en ligne.

Dans le but de freiner la propagation des nuisances liées aux mauvaises informations propagées sur le Covid-19 en ligne, un certain nombre de plateformes Internet ont modifié leurs normes de contenu, élargissant la définition des contenus inacceptables afin d’interdire ou de ralentir la propagation des théories du complot, de la mésinformation et de la désinformation liées au virus. Parmi les exemples les plus marquants, on peut citer la décision de Youtube d’interdire les vidéos conspirationnistes reliant le coronavirus aux réseaux 5G (une mesure particulièrement bienvenue, selon certains experts, compte tenu des discussions existantes sur la possibilité qu’offre Youtube aux extrémistes pour atteindre de larges publics ⁴⁵), ainsi que la suppression par Twitter de toute information contraire aux directives sanitaires officielles et les nouvelles restrictions mises en place par WhatsApp sur le transfert de messages (« les messages identifiés comme “souvent transférés”, envoyés à travers une chaîne de cinq personnes ou plus, ne peuvent être transférés qu’à une seule personne ⁴⁶ », au lieu de cinq habituellement).

Des changements aussi rapides dans les politiques relatives aux plateformes en ligne soulèvent d’importantes questions concernant les stratégies de modération du contenu (Content Moderation, COMO), mais aussi quant aux défis inhérents à la lutte contre l’utilisation terroriste et extrémiste d’Internet et contre la désinformation dans le respect des droits fondamentaux.

La réaction rapide des plateformes en ligne, adaptant leurs politiques et leurs offres de services pour protéger les utilisateurs et la société dans son ensemble, a amené un certain nombre de personnes à se demander pourquoi une telle réaction n’est pas la norme. Plus que toute autre chose, la question devrait être : quels types de changements permettent une réponse aussi rapide et comment pouvons-nous évaluer ces mesures lorsque cette crise sera terminée ?

Une partie de la réponse tient dans le fait qu’en 2020 les plateformes en ligne ont la capacité de s’appuyer pleinement sur les systèmes, sur les stratégies et sur les partenariats qu’elles ont efficacement mis en place depuis 2017 et la création du GIFCT. Cela signifie que, pour faire face au risque accru d’utilisation abusive de leurs plateformes, ces entreprises ont pu capitaliser sur l’investissement précédemment réalisé sur la recherche de politiques, sur la mise en place de solutions efficaces pour la modération des contenus et sur la collaboration avec des chercheurs, des groupes issus de la société civile, des experts de terrain et des fact-checkers. En effet, ces dernières années, les plateformes en ligne ont fait de plus en plus d’efforts pour répondre efficacement à l’utilisation d’Internet par les terroristes. Cela passe par une attention accrue portée à la modération du contenu, notamment par la mise au point de solutions automatisées, à travers le machine-learning ⁴⁷, de projets visant à faire barrage aux discours extrémistes et terroristes, ainsi que par le Global Internet Forum to Counter Terrorism (GIFCT). Le consortium de partage de hash (une empreinte digitale unique à une image ou une vidéo en ligne permettant de l’identifier automatiquement, facilitant la détection de contenus illégaux, aussi bien avant qu’après la mise en ligne selon les systèmes en place) et le système de protocole de crise du GIFCT démontrent particulièrement cet engagement. La crise du Covid-19 a également souligné l’importance du bon fonctionnement et de la solidité des canaux public-privé entre les gouvernements et les entreprises du secteur technologique. Toutefois, la pandémie et les changements rapides de la part des plateformes en ligne présentent des risques d’empiétement sur les politiques de modération que celles-ci avaient progressivement mises en place ces dernières années, petit à petit et de manière transparente.

Ce phénomène est exacerbé par le fait que, durant cette période, l’humain est plus que d’habitude tenu à l’écart de tout ce qui touche à la modération, notamment parce que de nombreux employés doivent travailler depuis chez eux afin de respecter les mesures de distanciation sociale ⁴⁸. Bien qu’elle soit déjà largement utilisée par les grandes plateformes dans leurs efforts de modération du contenu à grande échelle, et pour contrer l’utilisation d’Internet par des terroristes, l’intelligence artificielle, plus particulièrement le machine-learning, en est encore à sa phase initiale. À l’heure actuelle, cette technologie ne permet pas de saisir suffisamment bien les nuances et le contexte d’une publication, éprouvant, par exemple, des difficultés à distinguer un contenu terroriste d’un contenu informatif de type journalistique sur le terrorisme. Si le développement de ces technologies doit être encouragé, la modération fondée sur l’intervention humaine reste essentielle, notamment pour éviter l’excès de censure et le retrait de contenus licites. En outre, ces technologies nécessitent la mobilisation de quantités importantes de données, ce qui reste une entrave à leur recours pour combattre l’utilisation d’Internet par des terroristes et des extrémistes – d’autant plus si l’on souhaite s’appuyer sur des technologies prédictives.

Dans ce contexte, le Center for Democracy and Technology (CDT) a publié un communiqué faisant état de préoccupations partagées par des acteurs de l’industrie et des ONG concernant le recours accéléré des plateformes en ligne à la modération automatisée pendant cette période – notamment l’utilisation du machine-learning plutôt que la modération humaine pour détecter, faire remonter et même statuer sur les contenus illicites sur leur site ⁴⁹.

Le recours accru à la modération automatisée augmente le risque de faux positifs dans le retrait de contenus licites et soulève des questions sur la responsabilité des décisions de retrait ⁵⁰. La situation se complique encore lorsque le contenu préjudiciable provient d’utilisateurs qui ne sont pas extrémistes eux-mêmes ou dont l’affiliation extrémiste est quelque peu floue, ou encore lorsque le contenu relève d’une « zone grise ». En effet, il convient de souligner qu’en raison de l’absence de désignation des terroristes et extrémistes violents de droite comme entités terroristes par les gouvernements, ces groupes existent bien souvent dans une « zone grise » en termes de légalité. Le risque le plus important demeure que des contenus dénonçant des violations des droits humains, y compris des contenus journalistiques pouvant servir de preuve de ces violations, soient automatiquement retirés ⁵¹. Ce risque est d’autant plus grave que dans certains pays les garanties constitutionnelles ont été affaiblies durant la crise du Covid-19.

De nombreux rapports issus de groupes de défense des droits fondamentaux indiquent que la crise de Covid-19 est utilisée par certains gouvernements dans le monde pour « établir ou renforcer leur contrôle sur les médias nationaux, et aggraver la censure d’État ⁵² ». Les inquiétudes au sujet des théories conspirationnistes, de la désinformation et des menaces émises par des acteurs violents cherchant à profiter d’une telle situation, peuvent ainsi devenir des prétextes à une politique de censure. Des gouvernements autoritaires ont déjà utilisé la menace à la sécurité nationale que peut représenter l’usage d’Internet par des réseaux terroristes et extrémistes pour tenter de forcer les plateformes en ligne à étouffer les voix dissidentes ou à restreindre l’accès à l’information. Il n’est peut-être pas surprenant qu’au plus fort de cette crise sanitaire, plusieurs gouvernements aient bloqué l’accès à Internet dans certaines parties de leur territoire ou l’aient limité à certains sites ⁵³. D’autres ont temporairement révoqué les garanties constitutionnelles, notamment en matière de liberté d’expression ⁵⁴. C’est en partie pour cette raison qu’il est si important d’établir des normes claires en matière de contenus : elles servent de critères à partir desquels les utilisateurs peuvent se défendre contre les suppressions illégales ou ponctuelles de contenus en ligne. Les tentatives de criminalisation des informations relatives à la pandémie peuvent susciter la méfiance à l’égard des institutions, retarder l’accès à des informations fiables et avoir un effet paralysant sur la liberté d’expression. Il s’agit de faire en sorte que les plateformes soient contrôlées selon des procédures respectueuses de l’État de droit, précisément parce qu’il s’agit d’une crise et de circonstances exceptionnelles.

Dans une déclaration conjointe, David Kaye, rapporteur spécial des Nations unies sur la promotion et la protection du droit à la liberté d’opinion et d’expression, Harlem Désir, représentant de l’Organisation pour la sécurité et la coopération en Europe (OSCE) pour la liberté des médias, et Edison Lanza, rapporteur spécial de la Commission interaméricaine des droits de l’homme (CIDH) pour la liberté d’expression, ont souligné l’importance pour les gouvernements et les entreprises technologiques de travailler ensemble pour fournir des informations fiables en réponse à des informations fausses sur la pandémie qui seraient capables « d’entraîner des problèmes sanitaires, des épisodes de panique et des troubles ⁵⁵ ». Mais ils ont également souligné que « le recours à d’autres mesures, telles que le retrait de contenus et la censure, peut avoir pour conséquence de limiter l’accès à des informations importantes pour la santé publique et ne devrait être entrepris que si elles répondent aux normes de nécessité et de proportionnalité ⁵⁶. »

Ces considérations sont encore plus importantes à la lumière des récents développements dans le monde de la réglementation du contenu en ligne : l’Union européenne est en train de rédiger sa nouvelle proposition de loi sur la régulation des contenus en ligne ⁵⁷. Elle pourrait conduire à l’imposition de filtrage au téléchargement ou upload filters, et donc à une plus grande dépendance à l’égard des outils automatisés ⁵⁸. Le filtrage au téléchargement s’appuie sur des programmes automatisés qui analysent les données selon certains critères et permettent ou empêchent le chargement d’un contenu sur une plateforme en ligne selon le résultat de l’analyse.

En parallèle, la France a récemment promulgué une nouvelle loi visant à lutter contre les contenus haineux sur Internet, dite « loi Avia » ⁵⁹, qui aurait obligé les plateformes en ligne à supprimer les contenus terroristes notifiés dans un délai d’une heure (le contenu de la loi a finalement été largement censuré par le Conseil constitutionnel avant son adoption par l’Assemblée nationale). De l’autre côté de l’Atlantique, le président américain a signé un décret qui, bien que contesté pour des raisons de constitutionnalité, pourrait supprimer l’actuelle protection juridique qui permet aux plateformes en ligne de ne pas être légalement responsable des contenus générés par leurs utilisateurs. Comme pour d’autres lois de régulation en ligne adoptées en Europe, notamment la loi allemande Netzwerkdurchsetzungsgesetz (NetzDG) de 2017 destinée à sanctionner les fake news et les contenus haineux sur les réseaux sociaux, les défenseurs des droits fondamentaux et des groupes issus de la société civile ont critiqué ces lois qui pourraient inciter à une modération trop zélée et conduire à la suppression de contenus licites. Néanmoins, beaucoup considèrent également ces lois comme des mesures nécessaires pour garantir que les plateformes en ligne disposent de procédures de responsabilité et de transparence à l’égard de leurs utilisateurs et de la société dans son ensemble. Ce qui est clair, cependant, c’est que les plateformes en lignes et les gouvernements doivent trouver un équilibre entre, d’une part, la lutte contre les dangers et les nouvelles menaces en constante évolution qui pèsent sur la société dans la sphère en ligne et, d’autre part, la protection des droits fondamentaux.

Le 24 juin 2020, la France a promulgué une nouvelle loi visant à contrer la diffusion en ligne de contenus à caractère haineux, discriminatoires ou terroristes, soit tous les contenus extrémistes dont il a été question jusqu’ici ⁶⁰.

La loi Avia, également appelée loi « contre la cyberhaine », adoptée par l’Assemblée nationale le 13 mai 2020, un an après sa première présentation au Parlement ⁶¹, présente plusieurs similitudes avec la NetzDG allemande et aurait dans sa version d’origine obligé les plateformes en ligne à retirer les contenus terroristes et les contenus pédopornographiques dans l’heure qui suit leur signalement par les autorités françaises, tandis que les autres contenus haineux et discriminatoires auraient dû être retirés dans les 24 heures après leur signalement par les autorités ou les utilisateurs. Les plateformes qui ne se seraient pas conformées à cette obligation auraient risqué une amende allant de 250.000 à 20 millions d’euros ou jusqu’à 4% de leur revenu annuel global. Cependant, le cœur de la loi Avia a été censuré par le Conseil constitutionnel français le 18 juin 2020 ⁶². La loi a ainsi été réduite à son volet de prévention et toute obligation pour les plateformes de retirer les contenus notifiés dans un délai d’une heure ou de 24 heures a été jugée inconstitutionnelle.

Bien que le terrorisme et ses manifestations en ligne constituent des menaces importantes, dont certaines ont été décrites dans la présente note, la loi contenait en effet quelques domaines importants à améliorer, principalement en ce qui concerne ses effets négatifs potentiels sur la liberté d’expression ⁶³. La lutte contre l’utilisation de l’Internet par les terroristes et les extrémistes ne doit pas être ignorée, surtout à une époque où l’instabilité et la désinformation s’intensifient, mais la réglementation en ligne ne doit pas se faire au prix de la responsabilité et de la liberté d’expression ⁶⁴.

Nous avons précédemment commenté les processus de modération de contenu adaptés par les entreprises technologiques pour répondre au Covid-19. Nous soulignons ci-dessous ce que nous considérons comme les principales caractéristiques problématiques de cette loi Avia, dont la majeure partie a été rejetée. Nous pensons que, malgré la censure du Conseil constitutionnel français, ce commentaire reste pertinent pour souligner les limites communes à un certain nombre de tentatives récentes de lutte contre la diffusion de contenus terroristes et extrémistes sur Internet, d’autant plus que la NetzDG allemande et le projet de règlement européen sur les contenus terroristes en ligne ⁶⁵ présentent d’importantes similitudes avec la loi Avia. De plus, certaines des critiques que nous avons adressées à la loi figurent dans la décision du Conseil constitutionnel.

• Un manque de considération pour la capacité des petites plateformes en ligne.  Le délai de 1 heure pour le retrait du contenu terroriste est irréaliste pour les micro- et petites plateformes. Elles ont peu d’employés (certaines de ces plateformes sont gérées par une seule personne) et manquent de ressources techniques et humaines nécessaires pour répondre aux notifications de contenu terroriste dans un délai aussi court. Un délai de 1 heure, et même de 24 heures, nécessiterait une surveillance constante de la part des plateformes en ligne pour garantir leur conformité à la loi. Il s’agit d’une entreprise difficile, voire impossible, pour la plupart des plateformes. Cette pression entraînerait le risque d’une concurrence réduite dans le secteur technologique si les plateformes plus petites n’étaient pas en mesure de rattraper leur retard ou se retrouvaient financièrement accablées par des amendes. De plus, les recherches menées par Tech Against Terrorism ont montré que les plus petites plateformes sont fortement investies par les réseaux terroristes ⁶⁶. Or les petites plateformes qui sont disposées à s’attaquer à ce problème mais qui ont le plus besoin d’assistance car les moyens leur manquent sont celles qui risquent de se retrouver à la traîne à cause de cette nouvelle législation.

Le délai très court donné aux opérateurs pour retirer un contenu illicite a été souligné par le Conseil constitutionnel au motif qu’il rendait particulièrement difficile le respect de cette règle par les plateformes et au motif qu’il est disproportionné compte tenu du risque qu’il faisait peser sur la liberté d’expression. Le Conseil constitutionnel a notamment souligné que la loi comportait des réglementations « impossibles à satisfaire » pour les plateformes technologiques, rompant ainsi le principe d’égalité en matière de réglementation publique.

• Des risques disproportionnés pour la liberté d’expression. En raison du délai de retrait trop court ainsi que du trop large champ d’application de la loi, il existe le risque d’une pratique trop zélée de retrait des contenus et les plateformes peuvent être amenées à retirer, sans prendre le temps du discernement, tous les contenus notifiés. Même pour les plateformes aussi puissantes que les Gafam (Google, Amazon, Facebook, Apple et Microsoft), le court délai pour retirer les contenus signalés nécessiterait une augmentation importante des ressources consacrées à la modération de contenus. Un moyen facile de le faire pour les plateformes qui disposent de ressources techniques serait de s’appuyer davantage sur les outils automatisés. Mais, comme nous l’avons vu, si la modération automatisée a ses avantages, les solutions actuelles ne sont pas suffisamment nuancées. Elles nécessitent une surveillance humaine pour éviter le retrait excessif de Il manque notamment la capacité de comprendre le contexte. Ainsi, le recours accru à de telles méthodes, en lieu et place de la modération humaine, présente des risques importants pour la liberté d’expression car la modération automatisée risque d’entraîner un retrait excessif des contenus licites.

Les risques pour la liberté d’expression ont également été soulignés par le Conseil constitutionnel, qui a estimé que les différentes exigences de la loi, en particulier la brièveté du délai, représentaient un risque qui n’est ni nécessaire, ni approprié et proportionné.

• Laisser les plateformes en ligne statuer sur l’illégalité. La loi elle-même ne crée pas un nouvel ensemble de préjudices, ni une nouvelle liste de contenus Du contenu haineux et discriminatoire au contenu terroriste et concernant des abus sexuels sur enfants, tout ce qui est dans la liste est déjà illégal en vertu du droit français (respectivement du point de vue des limites fixées à la liberté d’expression et du point de vue du code pénal). Cependant, les lois existantes sur lesquelles elle s’appuie sont elles-mêmes larges et peuvent couvrir un large éventail de contenus – c’est la raison pour laquelle les limitations actuelles à la liberté d’expression doivent être décidées par un organe judiciaire indépendant. La loi transfère donc la responsabilité de décider (rapidement) de ce qui est un contenu haineux ou discriminatoire aux entreprises technologiques privées, plutôt que de proposer aux plateformes en ligne des définitions et des exemples clairs de ce qui doit être supprimé. En effet, une telle disposition peut conduire en pratique à une situation où les entreprises technologiques se verraient chargées d’une trop grande influence sur la régulation des discours en ligne.

À cet égard, la décision du Conseil constitutionnel a rappelé avec force que le jugement de la légalité d’un contenu en ligne, notamment terroriste, est « soumis à la seule discrétion de l’administration [française] ». Or les délais de retrait requis ne permettent pas d’obtenir la décision de justice qui est nécessaire pour apprécier l’illégalité d’un contenu. Cette décision est un rappel important : la lutte contre les contenus terroristes en ligne ne peut que s’inscrire dans le cadre de l’État de droit.

Mais, si la loi Avia présentait des risques importants pour la liberté d’expression et ne tenait pas compte des capacités techniques et humaines des petites plateformes en ligne, elle comporte également des points louables. La plupart d’entre eux, qui touchent à l’idée d’empêcher la propagation de la haine en ligne et d’appeler à une plus grande coopération, n’ont pas été censurés par le Conseil constitutionnel. Ainsi, même si la loi a été dépouillée de ses exigences fondamentales, car présentant un risque trop important pour la liberté d’expression, elle a été adoptée et sera mise en œuvre selon ses principes plus « préventifs ». Nous commentons ci-dessous certaines de ses exigences positives.

• Un appel à une coopération accrue dans le secteur des technologies. La loi, de manière louable, promeut largement les outils de coopération et de partage d’informations entre les plateformes. Toutefois, elle le fait sans préciser quels seraient ces outils. Il sera nécessaire à l’avenir de pouvoir disposer d’informations quant à la façon dont le gouvernement français prévoit de soutenir cette coopération et sur la manière de tenir compte des petites plateformes à cet égard.
• Une transparence et une responsabilité accrues. La nouvelle législation prévoit également une transparence et une responsabilité accrues de la part des plateformes en ligne, ainsi que du gouvernement français, à travers le Conseil supérieur de l’audiovisuel qui supervisera l’application de la loi et publiera un rapport annuel à ce sujet. Toutefois, cet appel à la transparence ne tient pas compte de la taille et de la capacité des plateformes. Ce sont pourtant des facteurs importants à prendre en compte pour éviter des attentes irréalistes quant aux mesures à inclure dans les rapports de transparence demandés.

Les préoccupations quant au fait qu’une politique renforcée de modération de contenu comporte un risque de censure ne doivent être ni ignorées, ni oubliées une fois passée la crise du Covid-19. Nombre de ces problèmes ne se dissiperont pas avec la fin de la pandémie. Ils auront des implications durables sur les droits fondamentaux et le fonctionnement démocratique. Dans ce contexte, voici nos recommandations.