Catégorie
🗞
NewsTranscription
00:00 [SILENCE]
00:05 Merci. Alors, on a la dernière présentation par Matthew Yeaton.
00:11 Matthew Yeaton est assistant professor of strategy à HEC Paris.
00:17 Hello everyone. Nice to meet you. Glad to be able to share some of my work with you today.
00:22 I believe I stand between you and lunch, so I'll try to keep it lively.
00:26 Je vais vous présenter ce travail sur l'idée de l'écho de la réseau,
00:30 et essayer de penser à comment on peut désigner et implémenter des interventions de réseau
00:35 qui pourraient être une façon de dépasser les chambres d'écho,
00:39 réduire le discours de haine, surtout en ligne.
00:42 Pour vous donner un peu de prévue de ce que je veux faire,
00:44 ces résultats contradisent cette connaissance conventionnelle
00:47 que dépasser les chambres d'écho simplement pousse les conversations vers d'autres endroits,
00:52 comme pousser votre nourriture autour de votre plat.
00:55 Les communautés en ligne sont un type important d'organisation.
00:58 Elles représentent ce grand partage de la grande pâte.
01:01 Plus et plus de gens viennent en ligne, plus et plus de gens parlent en ligne.
01:04 Une des questions clés qui s'est émergée de cette explosion
01:07 dans les records numériques de nos conversations est à quel point elles forment des chambres d'écho.
01:12 Une chambre d'écho est un type de mode de communication et de partage d'informations
01:17 qui insulte une communauté à l'extérieur.
01:20 À ce stade, il y a de l'évidence qui s'est développée
01:23 par plusieurs littératures et communautés sur l'existence des chambres d'écho.
01:28 Elles peuvent s'éloigner via la sélection de seules réseaux,
01:31 via la sélection de nouvelles sources,
01:34 via l'influence algorithmique sur ce à quoi les médias sont exposés.
01:37 Je veux juste mettre à côté ici
01:40 l'une des difficultés dans la pensée des chambres d'écho,
01:43 c'est qu'elles représentent un grand rang de mécanismes théoriques
01:47 qui conduisent à ce qui se passe.
01:50 C'est une façon de penser à ce sujet.
01:53 On peut penser à des bubbles de filtres.
01:56 C'est à propos de vous, en tant que personne,
01:59 vous n'êtes pas exposé à des nouvelles et des vues de l'autre côté.
02:02 C'est une façon de penser à ce sujet.
02:05 Une autre façon, sur laquelle je vais me concentrer plus,
02:08 on peut appeler ça des chambres d'écho sociales.
02:11 Ce sont des processus sociaux qui renforcent,
02:14 et qui permettent d'assurer que vous ne réclamez pas vos vues.
02:17 Les chambres d'écho ont fait l'explosion
02:20 de la parole idiosyncrate et de la parole de haine.
02:23 Il y a de la preuve de ce fait
02:26 qui est en train de se transformer en violence vraie
02:29 contre des groupes marginalisés.
02:32 Face à ce problème, les plateformes ont besoin de prendre de l'action.
02:35 Cette pression peut se transformer en scrutinage médiatique,
02:38 en évitant les advertisseurs et en déclinant les revenus,
02:41 par exemple.
02:44 Ce n'est pas nécessaire de les appeler, ça se passe à tous.
02:47 Des advertisseurs déclinés, pression régulière,
02:50 et tout ce genre de choses.
02:53 Face à cet environnement, les plateformes doivent prendre de l'action.
02:56 La tension centrale face aux plateformes,
02:59 c'est ce qui les rend apportables aux utilisateurs,
03:02 ce qui est la liberté et l'ouverture de poste,
03:05 qui les rendent effrayées aux advertisseurs, aux régulateurs, etc.
03:08 La manière la plus typique de réfléchir à ce sujet,
03:11 c'est de penser à la population des changements de communauté.
03:14 Ça peut être par intention, par exemple,
03:17 par la banque des utilisateurs, ou par la nature.
03:20 Comment l'ensemble évolue au fil du temps,
03:23 envers les utilisateurs.
03:26 Ce qui est nouveau dans cette perspective,
03:29 c'est de penser à la façon dont nous pouvons changer la culture des utilisateurs
03:32 et la langue sans cette tension.
03:35 Prenons un peu de repas.
03:38 Voici une communauté en ligne.
03:41 Elle a un problème, sa culture est toxique.
03:44 Que peut-on faire ? On peut tenter de changer la culture directement,
03:47 mais c'est un problème très délicat.
03:50 Les cultures sont intransigentes à tout ce que l'on peut penser à changer directement.
03:53 Mais ce que l'on peut faire ici,
03:56 c'est de penser à la façon dont nous pouvons changer la structure de la communauté,
03:59 changer les réseaux, et peut-être par cela,
04:02 et je pense que même si c'est la seule façon,
04:05 c'est probablement prometteur de la perspective des plateformes,
04:08 car les plateformes ont souvent beaucoup de contrôle direct
04:11 sur la structure des utilisateurs dans la communauté
04:14 qu'elles n'ont pas nécessairement sur la culture.
04:17 Si nous pouvons montrer que la structure, les réseaux, conduisent à la culture,
04:20 les plateformes peuvent plus directement changer la culture
04:23 et la langue des membres de leur communauté.
04:26 C'est aussi un pré-regard de la stratégie empirique
04:29 que nous allons prendre, qui est un expériment naturel
04:32 qui choque cette réseau d'utilisateurs alt-right sur Reddit,
04:35 et nous pouvons regarder la change de langue
04:38 en suivant cette choque de la réseau.
04:41 Pour un peu plus de théorique,
04:44 la langue est un aspect important de la culture,
04:47 les priorités culturelles sont révélées
04:50 par la langue que les gens utilisent.
04:53 Nous n'avons pas besoin de passer trop de temps sur cela,
04:56 mais il y a de la littérature qui s'étend dans plusieurs domaines.
04:59 La culture organisationnelle est accessible,
05:02 et des éléments de la culture sont encodés dans la langue,
05:05 que nous pouvons observer et mesurer.
05:08 Pour le moment, il y a une relation entre la culture et la langue.
05:11 La langue est un aspect important de la culture,
05:14 et nous pouvons apprendre des priorités culturelles de la langue.
05:17 Cette perspective de la culture et du feed-back linguistique
05:20 nous permet de penser à la façon de fonctionner les mécanismes sociaux
05:23 et notamment à la structure de la réseau.
05:26 Bien sûr, la littérature est énorme.
05:29 Je veux parler de l'aspect de diffusion,
05:32 qui est le but de cette discussion.
05:35 La structure de la réseau influence les résultats communs
05:38 et les contextes où les gens apprennent de l'un de l'autre.
05:41 C'est un problème très difficile à résoudre.
05:44 Il y a deux approches principales que les gens ont adoptées.
05:47 La première est la modélisation formelle,
05:50 comme nous l'avons vu, et les études de laboratoire
05:53 qui sont très connectées à la structure
05:56 qui se déroule dans la littérature théorique.
05:59 Le défi de l'implementation de ceci dans le contexte
06:02 de l'écho dans les réseaux est que ces gens
06:05 pensent typiquement à la personne comme une unité d'analyse,
06:08 mais nous voulons vraiment penser aux groupes,
06:11 aux relations et aux communications entre les groupes.
06:14 Nous allons faire cela avec l'idée de l'écho de la réseau,
06:17 et de la structure de la réseau.
06:20 Nous avons ici une réseau.
06:23 Nous sommes inquiets par rapport aux langues des utilisateurs rouges.
06:26 Ce que nous pouvons noter tout de suite,
06:29 si nous construisons cette structure,
06:32 c'est que ce groupe est trop insolite.
06:35 Ils discutent trop de soi-même par rapport au reste du groupe.
06:38 Nous voulons donc dissoudre ou enfoirer ces liens en groupe.
06:41 Si nous laissons la réseau se réunir,
06:44 nous n'aurons pas l'impression de ce qui se passe ici dans ce petit exemple,
06:47 mais nous voulons une façon de mesurer cette idée
06:50 en évaluant les groupes potentiellement très grands.
06:53 Nous avons perdu un peu l'animation dans le processus de transfert PDF,
06:56 mais l'idée ici est de prendre les liens en groupe
06:59 et de les comparer
07:02 à ceux qui sont entre les groupes.
07:05 Nous avons donc ce type d'écho,
07:08 une relation entre les interactions hors groupe
07:11 et les interactions en groupe.
07:14 Dans ce premier exemple, l'écho est très élevé.
07:17 Ils discutent trop de soi-même.
07:20 Si nous dissoudons ou enouevrer ces liens,
07:23 nous pourrons voir que les liens sont plus élevés
07:26 et nous aurons moins d'écho entre les groupes.
07:29 Il y a plus de communication en ce sens relative
07:32 entre les groupes que d'avant.
07:35 C'est ce type d'expérience que nous allons utiliser,
07:38 et nous allons réduire ceci en termes d'interactions hors groupe.
07:41 Prenons le cas de la communauté en ligne sur Reddit.
07:44 C'est le site le plus visité du monde,
07:47 le 7ème le plus visité du monde.
07:50 Beaucoup de conversations se déroulent ici,
07:53 beaucoup de discours de haine se déroulent ici.
07:56 Nous pouvons inférer les réseaux sociaux via ces arbres de réponse
07:59 qui se déroulent sur Reddit et qui sont les bases de nos mesures.
08:02 La stratégie empirique est, encore une fois,
08:05 cette expérience naturelle.
08:08 Nous allons banner une communauté /alt-right,
08:11 mais nous ne bannons pas les utilisateurs.
08:14 Nous allons voir comment leurs langues changent dans les autres endroits
08:17 où ils se posent avant et après ce ban de ces changements d'endroits.
08:20 C'est une comparaison entre les appels,
08:23 de changement de langue dans les endroits où ils participent.
08:26 Nous allons donc résoudre ces liens hors groupe.
08:29 Nous avons deux tests.
08:32 Le premier est de s'assurer que ce ban diminue l'écho
08:35 entre les groupes.
08:38 Le deuxième est de voir si leur langue change en réponse à ce choc.
08:41 Je vais donc passer à l'extrême,
08:44 mais pour les nerds de référence causale,
08:47 je suis heureux de parler plus de ces sujets.
08:50 Nous avons des concernes de référence causale.
08:53 La première n'est pas particulièrement intéressante
08:56 à cet environnement, car les implications politiques sont les mêmes.
08:59 Nous ne nous inquiétons pas forcément
09:02 de pourquoi les gens changent leur langue en réponse au choc,
09:05 si ce n'est que de la manière dont ils régulent ce genre de discours.
09:08 La deuxième chose que nous nous inquiétons,
09:11 même dans un contexte politique,
09:14 c'est de dire que, en retournant à la convention,
09:17 le ban de l'endroit est censé déplacer la conversation,
09:20 mais pas réduire l'ampleur que nous voyons.
09:23 Nous avons donc fortement retourné à ce sujet dans le contexte de ce studie,
09:26 avec une condition de scope qui est "entre ceux qui restent".
09:29 Nous voyons des gens qui ont posté avant,
09:32 et des gens qui en postent après.
09:35 Ces "restants" représentent la majorité des utilisateurs
09:38 et plus de 90% du contenu pré-ban.
09:41 Tous les utilisateurs actifs restent ici.
09:44 Ce n'est pas une condition restrictive,
09:47 mais nous devrions penser à ce que se passe avec ce 10% d'extrait,
09:50 est-ce qu'ils sont radicalisés à ce processus ?
09:53 C'est un peu comme si on ne connaissait pas le futur.
09:56 Le data ici est de la chaîne Reddit,
09:59 et les données associées sont de ces deux périodes.
10:02 Je vous montre les réseaux empiriques.
10:05 Comme je vous l'ai montré,
10:08 nous avons ce groupe insulaire en rouge.
10:11 Et puis, visuellement, dans la période post-ban,
10:14 ils sont absorbés dans ce cluster principal.
10:17 Trop vivants.
10:20 Ici, de côté à côté, encore.
10:23 Si nous regardons cette mesure de l'écho de la chaîne,
10:26 nous pouvons confirmer cette première hypothèse.
10:29 Nous avons diminué l'écho entre les utilisateurs et d'autres
10:32 grâce à ce choc.
10:35 Passons aux tests de changement de langue.
10:38 Ces tests auront la même forme générale,
10:41 mais ils seront en fonction de cette variable dépendante,
10:44 qui est la mesure de changement de langue.
10:47 Ces trois mesures sont ici.
10:50 Nous avons ce jargon de "tout est bien".
10:53 "Aide-nous à résoudre ce problème de la vérité de la terre".
10:56 Ce sont des mesures plus compliquées
10:59 qui captent ce dont nous sommes intéressés.
11:02 Nous avons une mesure de langue correcte.
11:05 Et une mesure de distance semantique capturée via l'embedding documentaire.
11:08 Nous sommes vraiment inquiets des cris de chien
11:11 et des chiboulots dans ce cadre.
11:14 La langue doit changer de façon à éviter la détection.
11:17 Nous devons donc être prudents
11:20 en mesurant le contenu semantique de ce qu'ils disent,
11:23 même si les marques changent.
11:26 Pour en arriver rapidement,
11:29 vous avez l'idée.
11:32 Nous avons une mesure de jargon "tout est bien".
11:35 Nous diminuons le nombre de jargons "tout est bien"
11:38 que ces utilisateurs importent dans les communautés après la banque.
11:41 Nous avons une mesure de distance semantique.
11:44 Nous diminuons encore.
11:47 Nous avons un nombre de résultats assez consistent.
11:50 Les mesures de distance semantique,
11:53 vous savez bien comment fonctionnent ces mesures d'embedding.
11:56 Mais pour vous rappeler,
11:59 ces mesures d'embedding mappent les mots et les textes
12:02 dans un espace qui est un peu similaire.
12:05 C'est un espace de distance semantique.
12:08 Les mots sont plus similaires à l'autre que à "choux".
12:11 Ils sont plus proches dans cet espace.
12:14 Nous pouvons donc voir le changement de distance semantique
12:17 entre ce que les gens disaient avant et après la banque.
12:20 Nous avons encore une diminution.
12:23 Ils sont plus similaires à ceux d'autres utilisateurs
12:26 après la banque.
12:29 Nous faisons cela de plusieurs façons.
12:32 Nous utilisons les mesures d'embedding traditionnels
12:35 et les architectures transformateurs.
12:38 C'est l'embedding modèle qui est sous-jacent avec le chatGPT.
12:41 Pour conclure,
12:44 les résultats,
12:47 nous avons essayé de désigner des interventions
12:50 qui interviennent dans les communautés en ligne.
12:53 Nous avons développé l'idée
12:56 de la priorité causale de la langue et de la structure de la réseau.
12:59 La stratégie de la plateforme
13:02 est une stratégie de polarisation et de politique.
13:05 Nous avons pensé à des façons de résoudre les échanges
13:08 dans les plateformes.
13:11 Si nous voulons faire tout ce que nous avons discuté ce matin,
13:14 que peut-on faire ?
13:17 Nous avons aussi une idée qui peut être utile
13:20 pour de nombreux types d'organisations.
13:23 Nous voyons la polarisation et la radicalisation
13:26 se développer dans les entreprises et autres organisations.
13:29 Avec tout cela,
13:32 merci beaucoup pour votre patience
13:35 et votre écoute avant le déjeuner.
13:38 Je m'attends à en parler plus.