Comment des discours d’Hitler se sont retrouvés sur TikTok ?- La chronique de Manon Mariani
Retrouvez la chronique "Veille Sanitaire" de Manon Mariani sur https://www.radiofrance.fr/franceinter/podcasts/veille-sanitaire
Category
😹
FunTranscript
00:00Manon, aujourd'hui, vous l'aurez noté, j'ai plus teasé votre sujet qu'une finale
00:03de Superbowl.
00:04Et pour cause, quel sujet ? C'est un tournant dans la veille sanitaire, une découverte
00:07ahurissante sur TikTok.
00:09Imaginez, vous êtes en train de scroller sur l'application de vidéo et vous entendez
00:12une chanson électro que vous aimez bien, ça ressemble à un remix puisque vous entendez
00:17une voix derrière, vous montez le son et vous reconnaissez la langue, c'est de l'allemand.
00:21Vu la manière de parler, ça semble être un discours politique et la voix vous dit
00:25vaguement quelque chose.
00:27Et après quelques recherches, vous vous rendez compte que c'est tout simplement la voix
00:30d'Adolf Hitler.
00:31Cette histoire, ce sont deux journalistes anglais de la chaîne Sky News qui l'ont
00:36vécu en se baladant sur TikTok.
00:38En deux jours seulement, ils ont découvert plus de 70 000 publications comportant des
00:42discours d'Hitler et de marches nazies.
00:44L'un des exemples plus frappants, c'est une vidéo avec une photo d'un des rassemblements
00:49nazis de Nuremberg et en fond sonore, un discours d'Hitler remixé avec de la musique électro,
00:55discours accusant le peuple juif d'être responsable de l'islamisation de l'Europe.
00:59Cette publication a été likée plus de 55 000 fois avec des milliers de commentaires
01:05très flippants.
01:06Je vous en lis certains.
01:07« Tu nous manques Hitler », « Notre société a besoin de lui », « L'aura qu'il avait ».
01:12En cliquant sur le son qui accompagne la vidéo, les journalistes se sont rendus compte qu'il
01:16avait été utilisé dans plus de 10 000 publications sur TikTok.
01:19Donc ce que vous nous dites, c'est que là, au moment où on se parle, il y a une musique
01:22avec un discours nazi qui est disponible sur TikTok ?
01:25Alors, elle ne l'est plus car évidemment, les deux journalistes chargés de l'enquête
01:28ont alerté l'entreprise qui a immédiatement supprimé les vidéos en question et elle
01:32a précisé qu'elle supprimait 91% de ce type de contenu avant qu'il ne leur soit
01:36signalé.
01:37Et puis, ça a aussi fait réagir le DJ Electro Pastel Gosse dont la musique a été utilisée
01:41à son insu pour produire certains de ses remixes pro-nazis.
01:45Mon équipe et moi-même explorons activement TikTok et d'autres plateformes pour éliminer
01:48tous les cas où mon travail est utilisé pour promouvoir une idéologie haineuse.
01:52On en est donc là, malgré les appels à plus de modération sur les plateformes et
01:56la mise en place de systèmes d'intelligence artificielle censées repérer les contenus
02:00problématiques, des discours d'Hitler sont likés par 20 millions de personnes sur TikTok
02:05en 2024 car oui, si on cumule les likes des 70 000 vidéos découvertes, on arrive à
02:1020 millions.
02:11Et comment c'est possible ?
02:12Et bien, grâce aux stratégies que mettent en place les extrémistes sur les réseaux,
02:15il ne faut pas sous-estimer leur force.
02:17Là par exemple, ils privilégient la musique au détriment de l'image.
02:21Alors que c'est justement l'image qui est au cœur du succès de TikTok.
02:24Ceux qui créent ces remixes à la gloire d'Hitler font très attention à ce que les
02:28images qui les accompagnent ne soient pas problématiques pour justement éviter de
02:32se faire repérer par les modérateurs de TikTok et par leurs intelligences artificielles.
02:35Par exemple, ils vont choisir des photos historiques qui sont autorisées plutôt que quelqu'un
02:40qui fait un salut nazi qui serait logiquement repéré et supprimé.
02:44Ça paraît logique.
02:45Et c'est comme ça qu'ils passent au travers.
02:46Exactement.
02:47En fait, les extrémistes derrière ces remixes maîtrisent les codes de l'application et
02:49ça se voit.
02:50Car ils ont aussi fait en sorte de renommer ces musiques pour qu'elles soient difficiles
02:52à trouver.
02:53Et puis le plus souvent, les discours sont même accélérés ou ralentis, histoire de
02:57compliquer encore plus la tâche des modérateurs.
02:59Je précise quand même que dans les politiques d'utilisation de TikTok, il est écrit que
03:03tous les types de contenu sont passés sous le radar de leur IA de modération.
03:07Et que s'il y a effraction, le contenu est supprimé.
03:10Donc les sons, les images, les hashtags, les photos, tout est normalement logé à la même
03:15enseigne.
03:16Sauf que manifestement, ça n'est pas le cas.
03:18Alors évidemment, je ne pense pas que TikTok laisse passer ce type de publication exprès,
03:21même si elles font du clic.
03:22Ça serait bien trop grave.
03:24Mais ça montre leur ingérence en termes de modération sur les contenus sonores.
03:28Peut-être qu'ils ont tellement redoublé de vigilance sur les images qu'ils en ont
03:31oublié les sons.
03:32Un jeu dangereux, car la preuve, il suffit de laisser une porte ouverte aux extrémistes
03:35pour qu'ils s'y enfoncent.
03:36Et le résultat n'est jamais beau à voir.