Comment s’opère la radicalisation sur TikTok et YouTube

Est-ce que les réseaux sociaux vont nous radicaliser?

C’est la question à laquelle je devais répondre à l’émission Moteur de recherche. Et la réponse en quelques mots serait un peu déprimante : en fait, c’est possible, oui. En écumant TikTok et YouTube armée de mots-clés associés à des conflits, j’ai découvert de la haine, voire des incitations à la haine sur TikTok, un réseau en apparence anodin. Sur YouTube après avoir visionné bon nombre de vidéos d’extrème droite (où tous les protagonistes sont certains qu’ils sont tout juste un petit peu à droite), de nouvelles chaines québécoises conspirationnistes me sont apparues. Yep, plus on en voit et plus on en découvre!

Est-ce que l’on débat encore?

La polarisation des prises de position semble maintenant chose commune sur les réseaux sociaux., ce à chaque question de société soulevée. Débattre pour espérer que chaque partie voit les choses un peu différemment ne semble plus au programme. On « débat » pour marquer des points contre l’ennemi en restant chacun bien campé sur ses positions. Des réseaux comme Gab se disent même voués à une liberté d’expression totale… pour peu que vos idées soient alignées à droite. Mais pourtant, trop souvent, la radicalisation prend place sur des plateformes familières, voire de divertissement, comme YouTube, Tik Tok et cie !

Exacerber les sensibilités politiques et culturelles une vidéo à la fois…

Dans un rapport parut en mai dans le Journal of Complex Operation, de l’université de la Défense Nationale américaine intitulé, « Recruitment and Radicalization: The Role of Social Media and New Technology », l’experte anti-terrorisme Maeghin Alarid expliquait simplement que la radicalisation en ligne était avantageuse pour les différents groupes qui en font usage, parce que l’Internet permet aux groupes terroristes de rejoindre un plus large auditoire.

Dans un processus de radicalisation, des plateformes de diffusion rejoignant un large auditoire (donc des réseaux sociaux connus de tous) seront d’abord utilisées et ensuite, des plateformes cryptées comme Télégram ou Signal pourront être employées pour des conversations entre convaincus.

Si au Canada nous surveillons aussi la radicalisation en ligne, certains pays sont submergés par l’activité radicale de leurs citoyens en ligne… Et pas toujours sur les réseaux auxquels on s’attendrait.

Le cas de TikTok en Inde

Rappelons ce qu’est TikTok : un réseau où les usagers téléchargent de courtes vidéos, souvent enregistrées avec une trame musicale. Pour les connaisseurs, créé en 2016, TikTok a été fusionné avec Musical.ly. en 2017.

  • 150 M d’utilisateurs quotidiens, 500 M mensuels…
  • Si vous avez plus de 20 ans, c’est normal de ne pas connaitre TikTok…

En avril dernier, l’Inde a annoncé son intention de faire interdire TikTok en raison des contenus pornographiques qui y circuleraient. Mais, outre ce problème, en Inde les violences entre les castes semblent se déplacer de plus en plus sur le réseau.

En février dernier, Venkatamaran un jeune homme de 28 ans a été arrêté après avoir télécharger une vidéo où il appelait les Dalits, la caste inférieure en Inde, des chiens et les menaçait d’en achever plusieurs par dans une boucherie. Il avait créé la vidéo avec Vijay un ami et devant la vague de haine créée par la vidéo, Venkataraman s’est disputé avec son ami et l’a tué.

L’affaire c’est que les Dalits composent 17 % de la population indienne et un crime contre cette caste est commis toutes les 15 minutes en Inde.

Wired, 18 août 2019

Les autorités prennent donc très au sérieux les menaces en ligne envers cette caste pour éviter que la violence ne dégénère. En juin et juillet, le magazine Wired a pu compter quelque 500 vidéos de menaces envers les Dalits, enregistrées en langue tamoule. En réponse, les membres des castes dites intouchables, qui ont réussi professionnellement comme petits entrepreneurs, publient des vidéos menaçant les membres des castes supérieures de ripostes exemplaires si l’un deux était touché.

Avec les mots-clics #nadar #vanniyar #thevar et #paraiyar on peut voir des centaines de vidéos contenant des propos haineux, tout comme d’autres vidéos chantant les louanges des castes supérieures et la fierté d’en faire part. Et, ces mots-clics sont aussi en usage sur Twitter, sur YouTube etc. Il suffit de faire le test.

Sur TikTok, pour les mois de novembre 2018 à avril 2019, plus de 600k vidéos ont été signalés aux modérateurs du réseau.

Seulement en Inde, plus de 36 k vidéos ont été retirés parce qu’elles contrevenaient aux règles sur les discours haineux et religieux et plus de 12 k l’ont aussi été parce qu’elles contenaient de la violence ou des gestes discutables…

Chiffres tirés de Wired

De la politique là où ne croyait pas la trouver… Musique et radicalisation au Brésil

On parle beaucoup de la radicalisation par YouTube or, l’exemple de Matheus Dominguez est assez éloquent à ce propose. Alors qu’il avait 16 ans, il apprenait à jouer de la guitare par des vidéos tutoriels sur le réseau. L’IA de recommandation du réseau a alors proposé à Matheus la chaîne d’un prof de guitare, Nando Moura, très populaire sur YT pour ses vidéos sur la musique métal, les jeux vidéos et la politique.

Moura diffusait de la musique, des critiques de jeux etc. Or, dans une vidéo de « rant » ou de colère planifiée, M. Moura rage contre le socialisme, les enseignants, les féministes, etc.  Et de là, comme ça m’arrivera certainement, puisque j’ai écouté la vidéo de Moura, YouTube a recommandé plus de vidéos du même « type » à Matheus.

Il a ainsi connu une autre vedette de la droite brésilienne, un certain Jair Bolsonaro, alors un politicien peu connu, mais un des Youtubeurs chouchous de la communauté de l’extrême droite brésilienne. Faut-il le préciser, mais au Brésil, YouTube est plus écouté que la télévision locale.

Les vidéos d’influenceurs sont si populaires, que les professeurs se plaignent d’être interrompus par des étudiants qui croient plus aux théories de la conspiration qu’aux manuels scolaires. Dans ce contexte, les efforts des services de la santé publique pour contrer le virus Zika sont stoppés par des vidéos d’antivaccins

Et quant à Matheus Dominguez, un an plus tard, il est toujours accro aux vidéos de la droite et pense se lancer en politique dès sa majorité.

Pourquoi YouTube a-t-il ce pouvoir ?

D’abord son système de recommandations est conçu pour maximiser notre temps d’écoute sur la plateforme, quoique la compagnie assure qu’elle ne favorise aucune orientation politique. Mais, les émotions qui captent l’attention des auditeurs sont souvent la peur, le doute, la colère et ce sont précisément ces émotions fortes qui sont exploitées dans les théories conspirationnistes, surtout dans celles promues par la droite. Ainsi, le système recommande des vidéos plus provocantes pour garder son auditoire actif.

Or, d’un sujet comme l’apprentissage de la musique, on peut se retrouver à visionner des contenus plus extrêmes. C’est même une tactique reconnue de faire comme M. Moura et de mêler contenus de culture populaire avec des contenus véhiculant des idées de l’extrême droite.

D’où les entrevues plus « people » de certaines chaines de droite qui seront encore plus facilement « trouvée » quand elles sont identifiée par le nom d’un politicien connu ou d’une vedette de la chanson…

Le système de recommandation de YT est très profitable et est maintenant responsable de quelque 70 % du temps passé sur la plateforme.

Avec le nombre d’utilisateurs croissant et le temps passé en ligne aussi, on pense que YT engrange environ 1 milliard de dollars par mois.

New York Times, 11 août 2019

Au-delà des algorithmes et des bulles personnalisées, le phénomène du « RedPilling »

Parmi les activistes fascistes, le « redpilling » (Merci Jeff Yates pour le lien et Christiane Campagna pour le podcast Behind Bastards), signifie de convertir quelqu’un au fascisme, au racisme ou aux croyances antisémites.

Le terme provient du film La Matrice (1999), vous vous souvenez que le protagoniste devait choisir entre la pilule rouge qui lui ouvrira les yeux ou la bleue qui lui permettra de demeurer ignorant et à continuer de sentir en sécurité. Prendre la pilule rouge, c’est entrer dans un monde où tout est conspiration… Et une fois dedans, on plonge souvent de plus en plus profond.

Pourquoi les conservateurs ont-ils tant de difficulté à changer de point de vue ?

Dans une étude américaine (voir Bail, 2018, dans les sources), on l’explique ainsi : les républicains américains, du fait qu’ils s’identifient par leurs valeurs « traditionnelles » leur attachement au conservatisme, voient tout changement comme une menace à leur identité. Les armes, la viande, les gros moteurs font partie de « leurs traditions ».

En contrepartie, les démocrates en s’identifiant à des valeurs progressistes, d’ouverture à la différence, etc. sont plus ouverts au changement en société, donc ils peuvent envisager de modifier leur position sur un sujet.

Et parmi les mécanismes les plus efficaces de la polarisation, arrive en premier, l’absence d’exposition non menaçante à des idées différentes des siennes. La radicalisation va donc de pair avec la peur, le besoin de connaitre la vérité et une fois qu’on croit faire partie des privilégiés qui comprennent le système, difficile de changer de position…

Sources :

Bail, C. A., et al. (2018). Exposure to opposing views on social media can increase political polarization. Proceedings of the National Academy of Sciences, 115(37), 9216‑9221. https://doi.org/10.1073/pnas.1804840115

Christopher, N. (2019, août 12). TikTok is fuelling India’s deadly hate speech epidemic. Wired UK. Consulté à l’adresse https://www.wired.co.uk/article/tiktok-india-hate-speech-caste

Fisher, M., & Taub, A. (2019, août 11). How YouTube Radicalized Brazil. The New York Times. Consulté à l’adresse https://www.nytimes.com/2019/08/11/world/americas/youtube-brazil.html

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.