https://www.arcom.fr/actualites/troisieme-journee-detudes-de-larcom-presentation-des-travaux-des-chercheurs-sur-les-medias-audiovisuels-et-numeriques
Category
🗞
NewsTranscription
00:00Nous allons maintenant avoir justement un état sur un exemple qui porte sur ces acteurs
00:15qui propagent des stéréotypes qui peuvent être discriminants, racialisants.
00:20Et donc c'est une équipe de l'université Toulouse-Capitole qui a porté ses travaux
00:26avec Jérôme Ferret qui est maître de conférence en sociologie et Mario Laurent qui est postdoctorant
00:34dans la même équipe j'imagine. Et donc à vous la parole.
00:38Merci beaucoup. Merci Nicolas. Bonjour. Deux petites minutes ou peut-être un peu moins
00:45parce que sur mes cinq minutes ça va faire un ratio un peu compliqué. Merci pour l'organisation
00:50et de nous donner l'occasion de présenter nos travaux. Alors c'est pas gratuit, c'est
00:54pas simplement poli, c'est aussi important de rapprocher les institutions et les sciences
01:00sociales en ce qui nous concerne, au sens large, linguistique et sociologie, dans une
01:05période, un moment un peu particulier concernant en particulier les sciences sociales et la
01:11sociologie que je ne représente pas tout seul mais qui est quand même aussi l'objet
01:15d'attaques assez frontales actuellement. Donc c'est dans ce contexte-là que nous
01:21travaillons sur un sujet très difficile, très compliqué, assez coûteux émotionnellement
01:27depuis 2018 qu'on appelle la haine en ligne et qui, à titre d'information, est en train
01:39de se constituer un champ de recherche un peu autonome. Alors en France plutôt côté
01:46linguistique, sciences du langage, assez peu en sciences sociales et aux États-Unis et
01:52en Angleterre, bon, il y a des départements qui se créent de hate speech, notamment
01:58dans les sciences politiques et la criminologie. Donc c'est un peu dans ce contexte-là qu'on
02:03s'inscrit et qu'on voudrait vous présenter en 15 minutes maximum. Alors moi je vais être
02:11un peu entré par effraction dans cette présentation pour vous présenter quelque chose qui est
02:21un financement en fait de l'Institut de cybersécurité d'Occitanie. Donc c'est un groupement de
02:28laboratoire, quelque chose qui a été très souligné depuis ce matin, peut-être un peu
02:33trop en creux, c'est fondamentalement interdisciplinaire et je dirais au-delà inter-science parce
02:40que l'Institut de cyber est un gros labo, le LASC est un labo d'automation de robotique
02:45sociale. Donc il y a un enjeu aussi de langage. Ce sont des problèmes qui doivent passer
02:51par l'intra-disciplinarité mais surtout l'inter-science. Alors nous on est rentré là-dedans un peu
02:58par effraction comme tout représentant des sciences sociales. Alors il y a le côté acteur
03:04malveillant avec effectivement des attaques informatiques et des attaques matérielles
03:09et logicielles mais nous on a pordu un peu le sujet pour voir au niveau plutôt des acteurs
03:16malveillants qui vont déstabiliser l'espace démocratique. Alors ce que je vais dire en
03:22deux minutes me semble ne pas avoir été assez souligné. Alors ça c'est la parole d'un
03:28vieux sociologue formé au Collège de France par des vieux sociologues. Nous depuis qu'on
03:36est dans ce tunnel depuis 2018, puisqu'on a commencé à travailler sur l'islamophobie
03:42en ligne, sur un projet européen avec deux universités italiennes et anglaises, en étant
03:51dans le tunnel et en travaillant beaucoup sur les données, en travaillant sur la comptabilité,
03:57les algorithmes, on a oublié peut-être le contexte anthropologique général. Alors
04:03ce n'est pas pour faire l'intéressant et le prof de fac mais c'est vous dire quand même qu'on
04:07est dans un contexte anthropologique assez particulier dont les pratiques numériques
04:12seraient le reflet. Donc il y a quelque chose qui dépasse le simple univers et moi qui me
04:18sens poser un problème non pas méthodologique mais épistémologique, pour le dire de manière
04:23un peu pompeuse, de dire quand même que la radicalité des discours peut être considérée
04:31désormais comme une norme, voire une norme politique, puisque la radicalité est un mode
04:38d'expression politique assez fréquent quand on fait de l'histoire politique et me semble-t-il
04:44est devenu encore plus encore aujourd'hui une mode d'expression d'auto-promotion notamment des
04:50outsiders dans le champ politique. Donc il y a quand même une première ligne qui consiste à
04:56dire que la radicalité moi me trouble parce qu'on va dire radicalité, détection, lutte, or la
05:01radicalité elle est dans le champ social normal, dans le champ du quotidien mais aussi dans le
05:06champ politique institutionnel. Donc on ne peut pas penser la radicalité qui s'exprime en ligne
05:14sans penser la radicalité générale et notamment dans un rapport élite Jean Dubas. C'est un oubli
05:20assez fondamental sur lequel je pourrais revenir dans une autre dans un autre speech. Je rappelle
05:28ça parce que pour faire mon professeur encore une fois c'est sur ça que commence Pierre Bourdieu son
05:34cours au Collège de France en sociologie en 1982. Il se trouve que l'insulte, c'est ses premières
05:41pages de son cours, l'insulte constitue un des grands moteurs, la distinction, l'insulte constitue
05:49l'un des grands moteurs des échanges sociaux. C'est-à-dire que l'insulte est un positionnement
05:55à prendre très au sérieux quand on veut catégoriser quelqu'un dans un espace symbolique.
06:00C'est-à-dire que l'insulte est aussi une manière de gouverner, d'avoir le pouvoir. Il faut bien
06:06regarder comment s'échangent ces insultes, qui insulte, qui est insulté, qui se sent insulté.
06:12C'est dans ce rapport là qu'on comprendra l'usage stratégique de cette rhétorique puisque c'est ce
06:22que nous on va travailler par la suite. Le deuxième problème anthropologique,
06:28bon ça a été excellemment expliqué, c'est qu'il y a un flottement sémantique sur la
06:32mésinformation, la désinformation, les fake news. On va dire que là il y a un piège normatif qui
06:38moi me semble, parce que des tweets et des contenus on en a observé, moi il me semble qu'il peut y
06:45avoir un piège un peu cognitiviste en disant les gens pensent mal, il faut les rééduquer ou les
06:51gens pensent pas bien, il faut leur dire ce qu'il faut qu'ils pensent. Attention, texte de 1967 de
06:58Garfinkel, on en a un peu parlé, un ethnométhodologue, les gens ne sont pas des idéaux
07:04culturels, il peut y avoir des usages stratégiques de l'insulte, de la haine, qui ne correspondent pas
07:11forcément à un positionnement idéologique ancré, cohérent. Il y a des jeux d'insultes, il y a des
07:17jeux de langage et reste à nous à étudier ce qui est problématique ou ne l'est pas pour répondre à
07:23ta question, qu'est-ce qu'on modère en fait et qu'est-ce qu'on va considérer comme dangereux ou
07:28pas, sous peine de chasser à tort et à travers avec des outils quantitatifs, nous on vous donnera
07:36notre réponse. Autre thème c'est le système des croyances, c'est ce que je disais, on est
07:43quand même dans un contexte d'épuisement social, un contexte de racialisation des questions
07:49sociales et d'adhésion à des discours anti-système et ça c'est une catégorie que j'ai trouvé chez
07:55Michel Foucault qui est le burlesque et qui est très important aujourd'hui dans le politique où on
08:00s'aperçoit que dans le discours normal, ce que nous on va détecter comme anormal et pathologique,
08:05dans le normal le burlesque le discrédit, l'insulte, l'attaque anonyme devient un moteur pour
08:12justement dire je ne viens pas du système que je suis censé combattre. Donc dans ce contexte-là,
08:18avant de donner la parole à Mario pour vous dire nous sur quoi, sur quelles hypothèses on part,
08:24bon il se trouve que les représentations du monde dans les discours qu'on va considérer
08:29comme pathologiques en fait sortent du champ scientifique et sont assumées telles qu'elles
08:33en fait. Donc se crée un nouvel espace de représentation dans lequel être anti-système,
08:38anti-science, anti-establishment devient en fait une croyance extrêmement forte et plus vous allez
08:45l'attaquer, plus vous allez la renforcer en fait. Nous on l'a vu pour les contre-discours sur la
08:51question islamophobe qui ont produit beaucoup d'effets pervers parce que perçus comme très
08:55normatifs, très donneurs de leçons. Et puis une question c'est l'idéologisation du champ magnétique,
09:01du champ médiatique normal. La haine est instituée aujourd'hui dans le champ médiatique, je ne vais
09:08faire aucune citation de chaîne pour ne pas mettre l'art commun, mais il y a des chaînes dont
09:13l'économie est fondée sur la haine en tant que telle, sur la racialisation des questions sociales.
09:20Donc dans ce contexte là, effectivement la question est plutôt, et là je suis sur la thèse de Dominique
09:26Ardon, comment ces idées extrêmement minoritaires dans des bulles cognitives basculent dans le champ
09:32médiatique normal et par quel canal et comment on lutte contre ça. Donc les deux hypothèses, et je
09:40te laisse la parole Mario, c'est qu'on n'est nullement nous capables de dire quel est le
09:46niveau et quelle est l'influence de ces discours là. Scientifiquement on en est incapable. On en
09:52est incapable de, par contre, ce que nous on va étudier c'est des discours très précis, très
09:58cohérents, qui vont peut-être avoir une incidence politique. Merci, oui, donc je vais essayer d'aller
10:07assez vite sur ce qui reste du contexte, même s'il y aurait plein de points intéressants à aborder pour
10:12vous parler de points un peu plus précis qu'on a dans nos données. Donc d'abord juste on va rappeler
10:19que nous on est financés pour travailler sur la haine en ligne depuis plusieurs projets, on a fait
10:23deux projets européens avant ce projet, mais en réalité ce sur quoi on travaille vraiment c'est
10:28des groupes radicaux, racialisants. Alors qu'est-ce qu'on entend par là ? C'est des groupes sociaux avant
10:35d'être idéologiques, donc avec des acteurs qui ont besoin de se retrouver, qui ont un besoin
10:39d'appartenance, un besoin de validation, de reconnaissance des autres membres du groupe.
10:43Ils sont radicaux par la nécessité de reprendre en main leur expression et ils sont racialisants, on
10:49entend par là racialisants pour faire une petite nuance avec racisme parce que c'est plutôt du
10:53néo-racisme, c'est-à-dire que ça attaque plutôt une forme de racisme culturel et religieux et pas le
11:00racisme biologique. Et ça, les deux choses principales qu'il y a à comprendre dans cette dynamique-là de
11:05néo-racisme, c'est que ça repose sur d'abord la supposition d'une menace de la perte de son statut
11:13et de son mode de vie pour les groupes attaqués et ça suppose aussi une concurrence entre groupes
11:18sociaux pour des ressources limitées. Donc ça, c'est ce sur quoi repose ce discours et ce qui convainc
11:25les personnes à adhérer à ce discours. Donc je vais être obligé de passer sur toutes ces notions-là,
11:32juste un point qui est important qui n'a pas été dit par nos collègues, c'est l'audience de la
11:38plateforme X, c'est environ 30% des internautes, c'est une moyenne d'âge de 41 ans, c'est 60% d'hommes
11:44et en réalité quand on regarde à l'intérieur de ça, les plus grandes communautés, ça parle de
11:48foot et de mode et donc à l'intérieur de ça, il y a une toute petite partie du champ qui parle
11:53vraiment des débats politiques et c'est surtout des acteurs professionnels de la politique, des médias
11:58et des militants. Donc c'est fortement polarisé mais ça représente une toute petite partie de la
12:03population. L'accès, je ne vais pas en parler non plus, je vais vous parler un peu des résultats de
12:10nos réflexions depuis six ans sur ce thème. Donc les mécaniques principales de propagation de ces
12:16discours des groupes racistes. Donc d'abord en un, le combat sur le cadre idéologique appelé
12:23framing par Gamson mais c'est aussi dans le travaux de Goffman. Donc c'est de lutter en permanence sur
12:30le sens des mots, de les redéfinir, d'amener des néologismes et aussi d'assigner les autres
12:36groupes à des noms, des natures et des objectifs qui n'ont été pas déterminés par ces
12:41groupes. De manière à gagner la bataille de l'agenda politique et l'agenda médiatique aussi.
12:49C'est en deuxième point des tactiques de séduction et de normalisation. Donc notamment le recours à
12:55la dimension parasociale, ça c'est plutôt sur TikTok, c'est tout ce qui est des acteurs politiques
13:00qui vont se mettre en scène comme étant sympathiques ou dans des activités quotidiennes pour donner un
13:05sentiment de proximité à l'électorat. C'est l'usage aussi de tout ce qui est culture internet, donc même
13:11humour et aussi par ces mêmes et cet humour de promouvoir des traditions, une culture nationale, etc.
13:21Et enfin c'est ce dont je vais parler maintenant, la sophistication et la dissimulation du langage
13:28avec des codes qui sont repris par l'ensemble des militants qui appartiennent à ces groupes.
13:34Excusez-moi, il faudrait conclure dans trois minutes.
13:35Oui ?
13:37Il y en a deux principaux sur lesquels on a travaillé. Dans un projet précédent appelé
13:41projet Stereotypes, on a travaillé sur les stéréotypes, donc le partage des stéréotypes et
13:47on a tenté de détecter automatiquement les stéréotypes avec une équipe d'informaticiens de
13:53l'IRIT et des collègues italiens et espagnols. Ce que je veux juste dire là-dessus, c'est qu'on s'est
13:58rendu compte qu'en fait il y avait besoin d'énormément de travail qualitatif à la main pour
14:03arriver à détecter correctement les messages et que la plupart des papiers en informatique sur ces
14:09thèmes de détection de haine et de stéréotypes détectaient en fait plutôt des injures que
14:13détectaient vraiment des mécaniques de stéréotypes qui amènent les gens à adhérer à ces croyances
14:19racistes. Et donc dans ce cadre-là, il y a plein de techniques, de sous-techniques qui sont
14:25utilisées, dont le dog whistle. Vous avez dû entendre parler puisque depuis quelques années
14:30c'est un peu à la mode en France, mais en gros la dissimulation par un mot ou une expression
14:33codée d'une information qui est en fait raciste et ça permet de toucher une audience initiée sans
14:40être modérée. Ça permet aussi pour ceux qui l'utilisent de renforcer le sentiment d'appartenance
14:44à un groupe et la validation du groupe dont j'ai parlé. Je vais prendre vraiment que quelques
14:49exemples juste pour illustrer ces propos. Donc là, il y avait plusieurs dog whistles présentés.
14:54Donc par exemple, il y a le premier qu'on appelle ECHO qui est l'usage de triple parenthèse pour
14:59entourer le nom d'une personne ou d'une institution supposée juive. Dragon Céleste est aussi pour désigner
15:07des personnes juives. Une chance pour la France, encore un Suédois. C'est des choses pour désigner
15:12plutôt des migrants, donc différentes formes de racisme. Et Grand emplacement, c'est beaucoup plus
15:16connu maintenant, mais ça a été utilisé à une époque où ce n'était pas connu en tant que dog whistle
15:20aussi pour parler soit des migrants, soit des musulmans. Donc à chaque fois, il y a différentes
15:25formes, différentes origines, etc. J'ai regardé un peu statistiquement l'apparition de ces dog whistles
15:32sur un corpus qui s'appelle SoSweet qui a été collecté par des collègues linguistes des labos
15:37Icar, Lidilem et Almanac. Il y a environ 600 millions de tweets dans ce corpus et c'est environ 10% des tweets
15:44produits en français entre 2014 et 2018. Et donc, je ne vais pas avoir le temps de développer, mais j'avais mis
15:51quelques exemples pour montrer qu'il y a différents usages et que c'est quelque chose qu'il faut éduquer
15:58à la fois pour que les gens connaissent l'existence, mais il faut aussi aller faire du travail à la main
16:04quantitative, d'annotation, etc. pour pouvoir entraîner des algorithmes de modération parce que c'est
16:08impossible à détecter automatiquement, même avec un bon modèle de langage. Donc voilà, on a des exemples
16:16ici, donc des gens entourés de triple parenthèse qui sont désignés comme juifs, des choses, des notions,
16:21la république serait contrôlée par les juifs. On voit ces messages avec très peu de mots qui sous-entendent
16:26beaucoup de choses, donc différentes tactiques désignées à une personne sous-entendent un contrôle
16:29essentialisé. Et puis, autre exemple avec grand emplacement. Les exemples les plus typiques, c'est comme celui de gauche,
16:36simplement une photo avec écrit grand emplacement pour sous-entendre que parce que les personnes ne sont pas
16:42blanches, il y a un grand emplacement, ce n'est pas vraiment la France. Donc voilà, j'avais quelques statistiques,
16:48je vais passer là-dessus. Juste dire que ça, c'est des statistiques qu'on avait dans notre corpus.
16:56Très bien, je vais arrêter. Merci à tous.