Yati Narsinghanand, prêtre en chef d’un puissant temple de l’Uttar Pradesh, l’État le plus peuplé de l’Inde, a pour la première fois fait la Une de l’actualité nationale en 2019 lorsqu’une chaîne de télévision locale a consacré un reportage à l’entraînement aux armes qu’il organisait à l’intention de la jeunesse hindoue à l’intérieur-même de l’enceinte du temple.

Son ascension fulgurante en tant que figure emblématique de l’« hindutva », l’idéologie politique antimusulmane qui règne actuellement en Inde, a été nourrie par les vidéos incendiaires qu’il a ensuite commencé à partager sur les réseaux sociaux, où elles ont recueilli des millions de vues. En décembre 2021, M. Narsinghanand était le principal organisateur d’une assemblée religieuse connue sous le nom de Dharam Sansad, à Haridwar, une ville de l’Uttar Pradesh, où, aux côtés d’autres grands prêtres, il a ouvertement appelé au génocide des musulmans.

Bien que Yati Narsinghanand soit l’un des semeurs de haine les plus notoires du pays, les prédicateurs religieux qui exploitent les réseaux sociaux pour attiser la haine contre les minorités sont légion en Inde. Les musulmans, principale minorité du pays, qui au recensement de 2011 représentaient 14,2 % de la population indienne, ont été particulièrement visés.

Entre temps, de l’autre côté de la frontière, au Pakistan, les discours de haine en ligne connaissent un essor tout aussi considérable. Ici, les hindous, qui ne représentent que 1,9 % de la population du pays, et les communautés musulmanes minoritaires telles que les chiites et les ahmadis, ont été les principales victimes des contenus extrémistes et incendiaires diffusés sur les réseaux sociaux.

Tehreek-e-Labbaik Pakistan, un parti politique d’extrême droite, a fait des réseaux sociaux son arme de choix pour mobiliser l’opinion publique autour des questions religieuses.

Selon un rapport de l’institut de recherche politique G5 Internet Observatory, basé à Islamabad, le parti dispose de la « plus grande puissance de feu » sur Twitter au Pakistan, ce qui signifie que ses messages sur les réseaux sociaux sont les plus susceptibles de devenir viraux et d’avoir des répercussions dans le monde réel.

Les vidéos incitant à la haine ont une forte tendance à devenir virales en Asie du Sud, récoltant des milliers de vues avant qu’elles ne soient identifiées et supprimées par les géants des réseaux sociaux comme Google et Meta. Ainsi, les vidéos de l’assemblée religieuse antimusulmane de 2021 à Haridwar ont fait le tour des réseaux sociaux pendant plusieurs jours avant d’être retirées. Même après leur suppression, des extraits de ces vidéos ont continué à être diffusés auprès d’un large public sur les chaînes d’information télévisées du pays.

La prolifération récente des discours de haine en ligne a aussi des répercussions hors ligne. Fin 2021, des centaines de personnes à Sialkot, ville de la province du Pendjab au Pakistan, ont pris part au lynchage de Priyantha Kumara, un directeur d’usine chrétien de nationalité sri-lankaise. Il a été pris pour cible parce qu’il aurait retiré des machines de l’usine des affiches du parti d’extrême droite Tehreek-e-Labbaik Pakistan sur lesquelles figuraient des versets coraniques. La rumeur du retrait des affiches s’est répandue comme une traînée de poudre. Très vite, une foule enragée s’est abattue sur l’usine, a traîné Kumara dehors, l’a battu à mort et a immolé son corps par le feu. Ces dernières années, l’Inde a été le théâtre d’une recrudescence d’attaques antimusulmanes violentes, parfois mortelles, perpétrées par des foules hindoues.

« Un tsunami de haine »

Sous le gouvernement d’extrême droite de Narendra Modi, les discours de haine en Inde ont pris un tour de plus en plus communautaire, visant le Pakistan, les musulmans indiens et ceux du Cachemire. Pendant ce temps, au Pakistan, il s’agit surtout d’un phénomène sectaire qui a visé principalement des minorités musulmanes comme les chiites et les ahmadis.

Alors qu’en Inde, la montée des discours de haine débridés à l’encontre des musulmans est généralement attribuée à l’arrivée au pouvoir en 2014 du parti nationaliste hindou BJP (Bharatiya Janata Party), actuellement au gouvernement, au Pakistan, une étude de 2014 associe le premier cas important de discours de haine en ligne au meurtre, en 2011, de Salman Taseer, alors gouverneur du Pendjab, par son garde du corps Mumtaz Qadiri. Ce meurtre aurait été motivé par l’opposition de Salman Taseer aux lois pakistanaises sur le blasphème.

Le South Asia Collective, qui regroupe des militants des droits humains et des organisations qui documentent la condition des minorités de la région, a récemment publié un rapport sur les tendances haineuses en Inde, au Pakistan, au Sri Lanka, au Népal, en Afghanistan et au Bangladesh.

Le rapport met en garde contre un « tsunami de haine », notamment en Inde. Le parti politique au pouvoir en Inde, le BJP, « continue de semer la discorde en cherchant à consolider sa majorité électorale et à réaliser son objectif nationaliste hindouiste de transformer l’Inde multireligieuse et multiethnique en une rashtra, ou “nation hindoue” », indique le rapport.

« À cette fin, il a assis son emprise sur la presse écrite, les médias audiovisuels et les réseaux sociaux, où un grand nombre d’acteurs alliés du BJP travaillent désormais en coordination pour diffuser des messages incitant à la haine contre les minorités », poursuit le rapport.

S’agissant du Pakistan, l’étude du South Asia Collective souligne que les minorités religieuses du pays font face à une recrudescence de la violence, de la discrimination et des discours haineux « qui détériorent leur qualité de vie et perpétuent une culture de la peur ». Contacté par Equal Times, le collectif a refusé de se prononcer sur le rapport.

Raza Rumi, analyste politique et journaliste pakistanais basé aux États-Unis, estime que la prolifération actuelle des discours de haine en ligne en Inde et au Pakistan est sans précédent. « Au fil des décennies, les discours de haine au Pakistan ont progressivement perdu de leur teneur anti-indienne et anti-hindoue pour prendre une tournure davantage intra-musulmane. La principale préoccupation des gouvernements successifs a été la recrudescence des discours de haine intolérants et sectaires, eux-mêmes alimentés par le projet de djihad en Afghanistan et, plus tard, par la poussée du mouvement taliban en Afghanistan et au Pakistan », explique M. Rumi.

« Les discours de haine sont également très présents dans l’arène politique pakistanaise, où les différentes formations politiques emploient un langage très virulent et antisémite à l’encontre de leurs rivaux – les politiciens sont fréquemment accusés d’être des ‘agents juifs’ – alors que les références à l’Inde et aux hindous ont quelque peu diminué au fil des ans », précise M. Rumi. « À vrai dire, l’Inde ne figure même pas dans les campagnes politiques. La seule référence faite à l’Inde concerne le traitement infligé aux Cachemiris par l’État indien. »

Les géants de la tech peinent à endiguer les discours haineux

Les réseaux sociaux ont dopé la prolifération des discours de haine en Asie du Sud. Chaque jour, des centaines de vidéos incitant à la haine contre les minorités sont téléchargées en différentes langues sur WhatsApp, YouTube, Facebook et Twitter. Les algorithmes dont sont dotés les réseaux sociaux, qui, selon de nombreux experts et critiques, amplifient les contenus clivants, permettent en outre à ces messages d’atteindre un public très large.

Selon le rapport sur les tendances en matière d’incitation à la haine en Asie du Sud, les principaux partis politiques indiens disposent désormais tous d’antennes dédiées aux réseaux sociaux. Cependant, la cellule « IT Cell » – réseau d’influenceurs et d’incitateurs à la haine en ligne – rattachée au parti au pouvoir, le BJP, et à d’autres groupes de droite gravitant dans sa sphère d’influence, semble beaucoup plus sophistiqué, mieux financé et mieux organisé.

Ces dernières années ont vu la haine sur Internet se transformer en un véritable « mode de vie », une tendance qui s’exacerbe lors d’événements tels que les élections. C’est ce qu’a expliqué à Equal Times un réviseur tiers de Google qui n’a pas été autorisé à s’exprimer devant les médias.

Dans un pays comme l’Inde, avec sa multiplicité de langues et de dialectes, l’identification des discours haineux et la lutte contre ce phénomène posent un défi inhérent aux géants des réseaux sociaux comme Meta et Google. En Asie du Sud comme dans de nombreuses autres régions du monde, Meta et Google ont externalisé les services d’identification des contenus nuisibles en faisant appel à des sous-traitants. Les modérateurs de contenu employés par ces sociétés tierces se sont plaints d’avoir reçu une formation inadéquate et d’avoir été traumatisés au travail, à force de devoir écumer à longueur de journée une succession sans fin de messages plus choquants les uns que les autres.

Les algorithmes des géants de la tech ont aussi de plus en plus de mal à identifier les publications haineuses, dans la mesure où les utilisateurs individuels et les groupes incitant à la haine ont appris à affiner leurs tournures pour se soustraire aux algorithmes.

Ainsi, « musulman » devient « muzulman », « islam » devient « izlam » et « djihadiste » devient « djih@diste ». De même, katua, un terme péjoratif désignant les musulmans, devient « K2A ».

Meta a déployé peu de ressources envers la lutte contre les discours haineux en dehors des États-Unis. Facebook, pour sa part, consacre 87 % de son budget total à l’identification et à la classification des fausses informations aux États-Unis, ce qui ne représente jamais que 10 % des utilisateurs actifs quotidiens du réseau social, selon des documents internes divulgués par la lanceuse d’alerte Frances Haugen en 2021.

Ces chiffres ne tiennent pas compte des partenaires tiers de Facebook chargés de vérifier les faits, dont la plupart se trouvent en dehors des États-Unis. Facebook collabore avec ces organismes de vérification des faits afin d’identifier, de noter et d’examiner les fausses informations virales sur Facebook, Instagram et WhatsApp et de réduire la diffusion de contenus problématiques à travers ces applications.

En Inde, Facebook a engagé dix partenaires chargés de vérifier les faits dans les 11 langues principales du pays, a indiqué dans un entretien avec Equal Times un employé de Facebook India. Ce dernier n’a pas souhaité être identifié, n’étant pas autorisé à s’adresser aux médias. « L’Inde est dotée de l’un des plus vastes réseaux de vérification des faits du monde au service de Meta », a confié cette personne. « Nous utilisons également l’apprentissage automatique pour effectuer une sorte de modération du contenu », dit-il, ajoutant que le seul recours à l’apprentissage automatique ne suffirait pas. « Une intervention humaine est aussi nécessaire. »

Outre l’apprentissage automatique et les tiers chargés de vérifier les faits, les GAFAM comme Meta s’appuient également sur les utilisateurs individuels pour identifier et signaler les messages haineux. « Nous prenons très au sérieux tous les rapports que nous recevons et nous y donnons suite », a souligné l’employé de Facebook India.

En Inde, Google a participé à diverses initiatives visant à apprendre aux internautes à évaluer de manière critique les informations partagées sur les réseaux sociaux. L’une de ces initiatives est Factshala, un programme de familiarisation aux actualités et à l’information lancé par Internews, une organisation internationale à but non lucratif spécialisée dans le développement des médias. Cette initiative est menée en collaboration avec DataLEADS, une ONG indienne spécialisée dans le domaine des médias et de l’information numériques, avec le concours de Google.org, la branche caritative de Google, et de Google News Initiative.

La prolifération en Asie du Sud des contenus en ligne incitant à la haine reste néanmoins un défi de taille pour Google, Meta et Twitter, alors que de nouvelles vidéos haineuses continuent d’être publiées quotidiennement sur les réseaux sociaux, et que des clips vidéo de Yati Narsinghanand appelant au génocide des musulmans circulent toujours en ligne près de sept mois après le rassemblement religieux de l’Uttar Pradesh en 2021.