Quand l'IA fait parler les disparus sur les réseaux sociaux
Retrouvez la chronique "Veille Sanitaire" de Manon Mariani sur https://www.radiofrance.fr/franceinter/podcasts/veille-sanitaire
Retrouvez la chronique "Veille Sanitaire" de Manon Mariani sur https://www.radiofrance.fr/franceinter/podcasts/veille-sanitaire
Category
😹
AmusantTranscription
00:00 Je m'appelle Grégory Villemin, je suis né en 1980 dans un village des Vosges, une belle région montagneuse dans l'Est de la France.
00:07 1,4 millions de vues pour cette vidéo de 2 minutes où l'on voit le petit Grégory Villemin parler face caméra de son propre assassinat.
00:16 Une vidéo qui a évidemment été réalisée à l'aide de l'intelligence artificielle.
00:20 C'est tout à fait clair, quand on regarde les images, personne ne peut se faire tromper.
00:24 On a l'impression de voir un robot raconter un fait divers absolument horrible.
00:28 Et il y en a des dizaines d'autres dans le même style, Estelle Mouzin, Samuel Paty, Alexia Daval ou encore le petit Émile qui a disparu cet été.
00:35 Toutes faites sur le même concept, les disparus parlent eux-mêmes de leurs histoires.
00:40 Ce sont en fait des deepfakes, je vous en avais déjà parlé.
00:42 Il s'agit de cette technologie qui consiste à prendre l'image d'une personne pour lui faire faire ce que l'on veut grâce au numérique.
00:48 Ces vidéos sont absolument morbides et pourtant elles cartonnent sur TikTok comme le relève le Figaro.
00:53 Il y a même des comptes spécialisés dans ce genre de contenu.
00:56 Dans les commentaires, les gens débattent sur le fait divers en question.
00:59 Et certains vont même jusqu'à demander d'autres vidéos avec d'autres personnes disparues.
01:04 Est-ce que c'est simplement autorisé ce genre de vidéos ?
01:06 Sur le papier non, mais la réalité est autre.
01:08 Évidemment, vous imaginez bien que les familles des victimes n'ont pas donné leur autorisation pour que ce type de contenu soit créé.
01:14 En plus, ces vidéos font tout de même des vues.
01:16 Donc ça veut dire que leurs créateurs peuvent gagner de l'argent avec.
01:20 Tout ça donc sur le dos de personnes disparues ou assassinées, on en est là.
01:24 Mais selon le Figaro, à force d'avoir été signalé à TikTok depuis plusieurs mois,
01:27 ces vidéos commencent à être supprimées par l'application.
01:30 Il y aurait une vague de modération en cours.
01:33 En fait, cette situation est le symptôme d'un problème à plus grande échelle.
01:36 Comment les réseaux vont réussir à modérer des contenus générés par des IA ?
01:40 Car il y en a de plus en plus et tout le monde se demande comment faire.
01:43 Et bien, figurez-vous que c'est TikTok qui a été le premier réseau à les réguler.
01:46 Alors je sais, on ne dirait pas comme ça vu les exemples que je vous ai cités en début de chronique.
01:49 Et pourtant, depuis septembre, un label généré par IA est proposé au TikToker.
01:55 Il peut se présenter sous deux formes.
01:56 Soit c'est le créateur de contenu lui-même qui le précise quand il télécharge sa vidéo.
02:00 Soit il peut être appliqué automatiquement par TikTok quand l'application détecte une vidéo
02:04 générée par une IA via un outil spécifique.
02:06 Le but ? Informer ses utilisateurs évidemment et éviter la désinformation.
02:11 Je précise quand même que pour les vidéos des disparus,
02:13 quasiment aucune ne porte ce label en question.
02:15 Et sur les autres réseaux ?
02:16 Et bien la modération des IA commence aussi à prendre forme, en particulier du côté de YouTube.
02:20 La plateforme de vidéos a annoncé cette semaine une série de mesures concernant les intelligences artificielles.
02:26 YouTube va demander aux créateurs de préciser quand ils ont généré une vidéo grâce à l'IA.
02:30 Alors le message est passé.
02:32 Comme sur TikTok, ce sera via un label qui sera soit directement notifié dans le lecteur vidéo,
02:37 soit dans la description de la vidéo.
02:38 Et pour que ces règles soient respectées par les YouTubeurs, l'entreprise précise
02:42 qu'ils seront sanctionnés s'ils ne les appliquent pas.
02:44 Leurs vidéos pourront être retirées et leurs chaînes démonétisées.
02:48 Ces mesures seront mises en place dans les prochains mois et j'ai envie de dire,
02:50 le plus tôt sera le mieux.
02:52 Le week-end dernier, Squeezie a par exemple utilisé la technologie Deepfake dans sa dernière vidéo.
02:57 "Eh bien, cet exposé était fantastique et je le dis objectivement.
03:01 Il m'a donné quelques idées et il est vraiment en tête."
03:04 Vous l'entendez, la voix de Squeezie a été modifiée en celle d'Emmanuel Macron et son image aussi.
03:09 Alors évidemment, il est clair que c'est une blague.
03:11 YouTube a d'ailleurs précisé que les contenus satiriques générés par des IA seront autorisés.
03:15 Mais le signal est là.
03:17 Si le premier YouTubeur de France commence à utiliser cette technologie dans des vidéos
03:21 vues par des millions d'abonnés, c'est que tout le monde va s'y mettre dans les prochains mois.
03:25 Et les plateformes devront donc être prêtes et ne pas se laisser dépasser.
03:29 Et il y a du boulot.