Marché noir Meta et YouTube : menace pour l’intégrité en Inde

Le marché noir de Meta et YouTube : une menace pour l’intégrité en Inde

New Delhi, Inde — En 2019, le consultant politique Tushar Giri s’est retrouvé dans une pièce avec un leader vétéran en détresse du Bharatiya Janata Party (BJP) du Premier ministre indien Narendra Modi.

Le politicien était un législateur à cinq reprises et, jusqu’à quelques jours avant cette réunion, il avait été candidat au poste de ministre en chef d’un État. Mais il avait perdu lors des élections législatives de l’État. L’équipe du leader, se souvenant de Giri, « n’avait aucune idée » de comment il avait perdu. Alors qu’ils tramaient sa résurrection politique après la défaite, ils avaient une demande claire pour Giri, a-t-il dit. « La première chose qu’ils ont dite était : ‘Nous devons acheter quelques pages Facebook fantômes et nuire à la narration’. »

Des pages fantômes sur Facebook utilisées pour influencer le public

Giri a retiré exactement la page Facebook qu’ils cherchaient : créée et gérée par son entreprise, elle se concentrait sur le discours majoritariste hindou du BJP tout en se faisant passer pour une page d’actualité. La page a accumulé près de 800 000 abonnés avant de devenir obsolète après que le BJP a retiré le leader de la politique électorale de manière non cérémonieuse.

Puis est venue la campagne électorale de 2024, et Giri a trouvé l’acheteur parfait pour cette page : un transfuge politique dans l’État central du Madhya Pradesh qui avait rejoint le BJP depuis l’opposition et cherchait maintenant à trouver sa place parmi les électeurs d’extrême droite. Avec une nouvelle apparence, mais avec les anciens postes toujours en place, cette page est maintenant devenue un véhicule pour promouvoir le politicien du Madhya Pradesh, un ancien ministre fédéral.

Le marché noir des pages Facebook

Alors que l’énorme élection indienne en sept phases se termine avec le vote du 1er juin, une enquête d’Al Jazeera et des études récentes par des chercheurs d’organisations de surveillance et de plaidoyer des droits humains révèlent un marché noir élaboré de telles pages Facebook, achetées et vendues pour influencer les électeurs du pays en contournant la surveillance des publicités politiques par le géant technologique.

Les règles établies par Meta, la société mère de Facebook, interdisent aux utilisateurs toute « tentative ou réussie de vendre, acheter ou échanger » des comptes, ou d’opérer sous des identités fausses ou volées. Pourtant, l’enquête montre que ces normes communautaires ont été régulièrement violées tout au long de la campagne électorale de plusieurs mois en Inde. Ces violations ont, à leur tour, permis aux propriétaires de ces pages d’échapper à la surveillance de Meta sur les nouveaux annonceurs politiques tout en promouvant des postes ciblant les minorités religieuses, véhiculant des théories du complot et diffusant des informations fausses.

En Inde, le plus grand marché de Facebook avec plus de 314 millions d’utilisateurs, ces pages de substitution sur Facebook sont devenues des lignes de survie des campagnes politiques, notamment en période de crise de relations publiques, disent les initiés. « C’est un modèle économique parallèle pendant les élections », a déclaré Giri, « et nous connaissons tous des gens dans nos cercles qui ont élevé ces pages de zéro pour les acheteurs ».

L’entreprise de Giri gère près de 40 pages commerciales, prêtes à être vendues. Une récente étude par le groupe de surveillance américain Tech Transparency Project, qui suit les entreprises technologiques, a également confirmé le marché noir indien de Facebook.

Bien qu’il soit difficile de mettre un chiffre sur l’ampleur de cette entreprise, considérez ceci : près de la moitié des 20 plus grands dépensiers en publicités politiques au cours des 90 derniers jours sont des pages de substitution gérées par des organisations cachant leur identité, a révélé une revue de la bibliothèque d’annonces de Meta par Al Jazeera.

Modi : campagne ou spam?

Modi est souvent classé parmi les leaders les plus populaires au monde, avec les taux d’approbation les plus élevés parmi ses pairs des grands pays, selon les sondages mondiaux. Mais même sa campagne pour la réélection dans la ville de Varanasi, qui vote lors de la dernière phase de l’élection indienne le 1er juin, utilise des pages de substitution.

Shubham Mishra, un responsable régional du BJP chargé de la stratégie des médias sociaux dans la circonscription pour la campagne de Modi, estime que le contenu politique « dur » constant peut devenir monotone pour le public. Les pages Facebook qui se prétendent être des hubs d’actualités générales ou affaires courantes mais injectent régulièrement des messages pro-Modi entre d’autres contenus, aident. « Les publications consécutives sur [les activités de Modi] peuvent être vues comme du spam par les électeurs, mais les pages de substitution sont très efficaces », a déclaré Mishra.

Pour la campagne actuelle, Mishra a déclaré que l’équipe de Modi n’avait pas besoin d’acheter de nouvelles pages de substitution. Au lieu de cela, elle s’est appuyée sur des pages acquises précédemment. « Nous avons des pages tierces bien établies, gérées par des agences privées qui nous sont fidèles depuis plus de sept à huit ans maintenant », a-t-il déclaré.

 »Beaucoup de choses que nous ne pouvons pas dire, ou publier, depuis [les comptes du PM ou du parti], nous les diffusons par le biais de pages de substitution à Varanasi. »

Utiliser de telles pages fantômes aide également les campagnes à contourner les restrictions de financement de campagne, a déclaré Hamraj Singh, un consultant politique. « Une page de fans peut pousser n’importe quoi et le candidat peut toujours la désavouer, » a-t-il dit. « Et les coûts de promotion ne se reflètent pas dans les dépenses du candidat. »

Beaucoup de ces pages, comme dans le cas de celles que Mishra supervise pour Varanasi, ciblent des districts ou des circonscriptions spécifiques. Le tarif pour une page dépend de plusieurs facteurs, notamment la portée de la page, l’engagement et, surtout, la démographie des abonnés, disent les initiés. Par exemple, si la page — au moment de la vente — a des dizaines de milliers d’abonnés d’une géographie utile pour la campagne de l’acheteur, le vendeur peut facturer plus que si les abonnés existants sont d’une autre partie du pays.

En général, une page commerciale Facebook avec 100 000 abonnés peut rapporter entre 700 et 1 200 dollars au vendeur, démontre l’investigation d’Al Jazeera et les entretiens avec ceux derrière ces pages. Mais une page qui coche toutes les cases et qui compte un million d’abonnés pourrait rapporter jusqu’à 24 000 dollars. Les tarifs sont similaires pour les comptes Instagram.

À coup sûr, le BJP n’est pas le seul à utiliser de telles pages. Des pages favorisant les partis d’opposition, dont le Congrès, le Biju Janata Dal et All India Trinamool Congress, figurent également parmi les grands dépensiers sur Meta. Cependant, les pages alignées sur le BJP dominent les 20 premiers dépensiers.

Et ces derniers mois, des chercheurs indépendants disent qu’ils ont trouvé un effort particulièrement coordonné à l’extrême droite du spectre politique indien pour exploiter ce marché noir.

Un réseau d’extrême droite de plusieurs millions de dollars

Pendant l’élection de 2019, Facebook a annoncé publiquement qu’il fermait 687 pages qui s’engageaient dans ce qu’il appelait un « comportement inauthentique coordonné » (CIB), prétendument « lié à des individus associés à une cellule informatique du Congrès national indien ». Le Congrès est le principal parti d’opposition en Inde. En 2019, Facebook a également supprimé 15 pages, groupes et comptes qui, d’après lui, soutenaient le BJP au pouvoir.

Mais cinq ans plus tard, ce défi des comptes de substitution suspects n’a fait que croître. À l’approche des élections de 2024, une étude par l’India Civil Watch International (ICWI), Eko, une organisation de responsabilité d’entreprise, et The London Story, un groupe de la société civile dirigé par la diaspora indienne, a exposé des réseaux d’extrême droite de pages qui ont poussé du contenu favorisant le BJP.

Les réseaux de pages ont coordonné leurs actions, montrant une « cohérence de langage désobligeant, de tropes islamophobes et de la promotion de récits divisifs ciblant les leaders de l’opposition et les groupes minoritaires », indique l’étude.

Un de ces réseaux, Ulta Chasma, a accumulé 10 millions d’interactions en seulement 90 jours à l’approche des élections nationales, gagnant plus de 34 millions de vues sur ses vidéos. Les pages Ulta Chasma figurent souvent parmi les 20 premiers acheteurs de publicité sur Facebook. Au total, les chercheurs ont identifié 22 des 100 premiers dépensiers publicitaires comme étant des pages d’extrême droite soutenant Modi et le BJP, avec des dépenses totales de plus d’un million de dollars.

Al Jazeera a tenté de contacter les 20 premiers dépensiers publicitaires sur Facebook – tous partis confondus – sur les numéros de téléphone que les propriétaires de pages ont fournis à la plateforme sociale. Ils étaient tous inaccessibles. Et les sites web, dans de nombreux cas – comme Ulta Chasma – ne sont que des coquilles avec des frontends simples mais sans contenu.

Entre le 8 et le 13 mai, ICWI, Eko et The London Story ont tenté une expérience : au milieu des élections indiennes, ils ont créé une série de publicités manipulées par intelligence artificielle, contenant des fausses informations sur les élections et des appels au meurtre des musulmans et des leaders de l’opposition. Ils ont soumis celles-ci à la bibliothèque d’annonces de Meta pour tester ses mécanismes de détection et de blocage des contenus politiques, ciblant les districts sur le point de voter.

Meta a approuvé 14 des 22 annonces, malgré ses politiques contre les publications promouvant les discours de haine, la désinformation, la violence et l’incitation. Les groupes de la société civile derrière les annonces ont décidé de ne pas les diffuser après que Meta les a approuvées.

Dans une déclaration à Al Jazeera, Meta a déclaré que ses processus impliquent d’autres couches de contrôle que ces annonces auraient dû passer avant de pouvoir être publiées.

 »Dans le cadre de notre processus de révision des annonces – qui comprend des vérifications automatisées et humaines – nous avons plusieurs couches d’analyse et de détection, avant et après qu’une annonce soit mise en ligne », a déclaré un porte-parole de Meta dans une réponse par courriel aux questions. « Parce que les auteurs ont immédiatement supprimé les annonces en question, nous ne pouvons pas commenter les allégations formulées. »

Les problèmes de YouTube

Pendant ce temps, Henry Peck, un militant contre les menaces numériques chez Global Witness, une ONG internationale, a décidé de tester les préparatifs de YouTube pour les élections en Inde. Avec plus de 460 millions d’utilisateurs, YouTube est loin devant ses plateformes contemporaines – et l’Inde est son plus grand marché.

L’enquête – Access Now, une autre organisation à but non lucratif, a également participé – a soumis 48 annonces à YouTube en anglais, hindi et télougou, contenant du contenu destiné à supprimer la participation électorale des femmes et des jeunes par la désinformation et incitant à la violence contre les minorités. YouTube a approuvé chaque annonce pour publication. Avant que les annonces soient publiées, Global Witness et Access Now ont retiré les annonces.

 »YouTube a mis le profit avant les gens et cherché à augmenter ses revenus pendant les élections et à protéger ce marché très large [l’Inde] », a déclaré Peck. « Mais ils ne respectent pas leurs propres normes ou leur responsabilité envers les utilisateurs. Ils rendent un mauvais service. »

 »Nous parlons de désinformation flagrante et selon le budget, vous pouvez atteindre des millions d’électeurs », a ajouté Shruti Narayan, chercheuse en politiques de l’Asie-Pacifique chez Access Now.

Dans une déclaration envoyée par courriel, un porte-parole de Google – propriétaire de YouTube – a déclaré à Al Jazeera qu' »aucune de ces annonces n’a jamais été diffusée sur » YouTube et que les conclusions ne montrent pas un manque de protections contre la désinformation électorale en Inde. Cependant, le porte-parole a ajouté que la plateforme utiliserait le test pour voir « s’il existe d’autres moyens de renforcer nos protections. »

Le porte-parole a précisé qu’après l’approbation initiale, « les annonces sont toujours soumises à plusieurs couches d’examens, y compris des évaluations humaines si nécessaire, pour s’assurer que le contenu est conforme à nos politiques ».

 »L’annonceur a supprimé les annonces en question avant que l’une de nos révisions de routine n’ait pu avoir lieu », a déclaré le porte-parole de Google.

Pourtant, Peck a noté que lorsque Global Witness a testé la désinformation électorale en anglais et en espagnol avant les élections de mi-mandat américaines en 2022, YouTube a rejeté toutes les annonces au premier stade et a suspendu la chaîne hôte. En février de cette année, Meta et Google, ainsi que des entreprises technologiques majeures, ont signé un pacte s’engageant volontairement à adopter des « précautions raisonnables » pour empêcher les outils d’intelligence artificielle d’être utilisés pour perturber les élections démocratiques à travers le monde.

Ils n’en font pas assez pour tenir cet engagement, a suggéré Narayan d’Access Now.

 »Ce n’est ni leur ignorance ni l’ampleur du problème », a déclaré Narayan. « C’est juste une question de priorisation. »