https://www.arcom.fr/actualites/troisieme-journee-detudes-de-larcom-presentation-des-travaux-des-chercheurs-sur-les-medias-audiovisuels-et-numeriques
Catégorie
🗞
NewsTranscription
00:00On vient de voir, il y a des risques systémiques autour du processus électoral ou du discours
00:09civique, mais il y a évidemment beaucoup d'autres thématiques dans lesquelles ERRECHERCH
00:13et RSN peuvent s'articuler, donc d'autres risques systémiques, des questions de santé
00:17mentale par exemple, des questions de protection des mineurs, il peut y avoir des questions
00:20de dark patterns et il y a aussi des questions d'articulation du RSN avec d'autres textes
00:24et c'est un petit peu de tout ça dont on va parler dans la prochaine présentation.
00:27Donc j'invite sur scène Sabine Bernay-Mdevoe et Juliette Sénéchal.
00:31Donc Sabine, vous êtes professeure des universités à l'université d'Angers, visitoyenne de
00:36la faculté de droit, membre du centre Jean Baudin et spécialiste du droit de la consommation.
00:39Juliette, vous êtes professeure des universités à l'université de Lille, directrice adjointe
00:44de son école doctorale de sciences juridiques, politiques et de gestion.
00:47Vous êtes membre du CRDP, le centre de recherche droit et perspective du droit de l'université
00:51de Lille et du département de recherche en droit de l'immatériel de la Sorbonne.
00:54Vous avez toutes les deux coordonnées un cycle de recherche intitulé « Vers l'émergence
00:58d'un droit neuroéthique érigé en contrepoint des droits revisités par le numérique, réflexion
01:02à partir du droit de la consommation » dont vous présentez aujourd'hui une partie des
01:05résultats.
01:06La parole est à vous.
01:07Merci beaucoup.
01:08Permettez-moi tout d'abord de remercier infiniment l'ARCOM et les différents organisateurs
01:14pour l'organisation de cette journée, de nous avoir associés à cette belle journée
01:18d'études et nous sommes ravis de venir vous présenter quelques états de nos réflexions
01:22à propos de ce programme de recherche.
01:24Alors je me permettrai néanmoins avant d'entamer un peu plus précisément la thématique de
01:30faire quelques petits rappels contextuels.
01:33Le premier rappel c'est que l'influence voire la manipulation des citoyens au sens
01:41large mais plus précisément des consommateurs dans une acception économique est une pratique
01:47aussi banale qu'ancienne si l'on pense par exemple à la publicité qui existe depuis
01:51fort longtemps, aux réunions, aux meetings électoraux dont on vient peut-être de parler
01:56à l'instant qui sont susceptibles d'emporter la conviction du public ou encore au traditionnel
02:01bouche à oreille qui a toujours existé au sein des familles ou des cercles amicaux
02:05et qui conduit à consulter l'avis d'autrui avant de prendre une décision.
02:08Néanmoins, il nous a semblé que le numérique avait provoqué une véritable révolution.
02:13Le risque d'influence et de manipulation découle désormais d'algorithmes ou d'interfaces
02:19homme-machine qui soit induisent involontairement des comportements sous le seuil de conscience
02:25des usagers, soit sont intentionnellement conçus pour les induire.
02:29Or, ces techniques numériques présentent une réelle spécificité du fait de leur
02:35automatisation, de leur personnalisation, de leur échelle et du coût modique qu'elles
02:41nécessitent.
02:42Et elles sont en outre souvent mises en œuvre par des opérateurs économiques puissants
02:46qui usent de multiples canaux afin de récupérer de multiples données des consommateurs et
02:52qui disposent également d'une force de frappe sans précédent.
02:57Aussi, de nombreux textes récents français ou européens prennent en compte en droit
03:03du numérique le risque de manipulation de l'usager des services numériques et des
03:08systèmes d'intelligence.
03:10Cette prise en compte se traduit par une accumulation de nouvelles interdictions ou de
03:15nouvelles obligations de diligence à la charge des opérateurs du numérique dans le
03:20but de protéger l'usager.
03:23A cet égard, le droit de la consommation apparaît comme un observatoire particulièrement
03:28pertinent puisque se multiplient les règles visant à encadrer l'influence et la
03:33manipulation des consommateurs en ligne.
03:35Il peut être cité pour illustration, évidemment sans exhaustivité à ce stade, la
03:40prohibition de certaines catégories de publicité ciblées ainsi que l'interdiction
03:46des dark patterns dans le règlement sur le service numérique, le DSA.
03:50Il peut être également cité la prohibition de techniques déloyales de traitement des
03:55données dans le RGPD, encore la réglementation nationale des influenceurs qui
04:00exercent leur activité sur les plateformes en ligne ou encore l'interdiction de
04:05certaines pratiques subliminales et manipulatoires par des systèmes d'intelligence
04:09artificielle ainsi que l'encadrement des deepfakes dans le règlement sur
04:14l'intelligence artificielle.
04:17Ces nouveaux textes de droit du numérique ont pour point commun d'appréhender
04:21différentes techniques numériques d'influence et de manipulation.
04:26Néanmoins, ils doivent être articulés avec d'autres textes consuméristes plus
04:31généraux qui existaient déjà, soit pour réglementer certaines pratiques
04:35numériques, par exemple les contrats de fourniture de services ou de contenus
04:40numériques, soit pour réglementer des pratiques commerciales qui ne sont pas
04:46nécessairement des pratiques numériques.
04:48Je pense ici aux pratiques commerciales déloyales dans la directive de 2005.
04:53Les nouveaux textes sur le numérique doivent être également lus à la lumière
04:58d'autres textes qui ne sont pas des textes de droit de la consommation, mais par
05:01exemple des textes de droit de la concurrence.
05:03Je pense par exemple au DMA ou encore à la Charte des droits fondamentaux de
05:08l'Union européenne qui, évidemment, va imprégner la lecture de l'ensemble de
05:13ces textes. En résumé, trois strates de règles juridiques coexistent.
05:19Des réglementations qui visent spécialement certaines techniques numériques
05:23d'influence et de manipulation, des réglementations qui concernent certaines
05:28pratiques numériques mais qui ne sont pas nécessairement manipulatoires et
05:32enfin des réglementations qui s'appliquent généralement aux pratiques
05:36commerciales et qui peuvent par conséquence appliquer aussi aux pratiques
05:39numériques.
05:41Sur la base de ces constats et au regard évidemment des enjeux cruciaux que
05:48l'on perçoit en termes de préservation du libre arbitre de l'humain, Juliette
05:52Sénéchal et moi-même avons dirigé une recherche collective intitulée
05:56Vers un droit neuroéthique.
05:58Elle s'est donnée pour ambition d'établir une synthèse puis de mener
06:02une analyse prospective sur les techniques numériques d'influence et
06:05de manipulation des consommateurs.
06:08Elle a reposé sur la rencontre entre spécialistes universitaires mais
06:13également praticiens de différentes disciplines.
06:16Le droit évidemment n'aura pas échappé à la règle mais également en
06:20discipline informatique, neuroscientifique, sociologique, psychologique,
06:24économique et de sciences de gestion.
06:27Sous forme de huit ateliers ouverts et interactifs, la recherche s'est
06:31décomposée en trois étapes que vous voyez ici décrites sur la slide.
06:35D'abord comprendre, ensuite cartographier et enfin essayer de
06:39mener une analyse plus prospective.
06:42Vous pourrez retrouver tous les résultats de nos cycles de recherche
06:50à la fois sur le site Internet dédié que nous avons créé et qui
06:54comporte les podcasts des différents ateliers mais également dans
06:58l'ouvrage collectif qui est mentionné ici qui réunira tous les
07:01contributions écrites et une synthèse des propositions et qui
07:05paraîtra en mars 2025 aux éditions de l'IRGS.
07:11Quelques observations générales peuvent néanmoins être d'ores et
07:15déjà restituées avant que je cède la parole à Juliette Sénéchal
07:18pour quelques focus plus spécifiques sur le DSN.
07:22Quelques remarques générales.
07:24Tout d'abord la multiplication des textes que j'ai décrites tout à
07:28l'heure semble plutôt le signe de l'impuissance à appréhender
07:31efficacement ces techniques plus que la réponse juste et adaptée de
07:36l'ordre juridique à des techniques gravement préjudiciables ou qui
07:39peuvent l'être en tous les cas aux consommateurs.
07:42Chaque réglementation suscite ainsi son lot de questions et relatives
07:47soit à la définition des termes soit à son champ d'application.
07:50Je prendrai un seul exemple l'interdiction des dark patents qui
07:53figurent dans le DSA n'est applicable qu'aux opérateurs de
07:57plateformes numériques quid alors lorsque c'est un site Internet qui
08:02met en place des dark patents et qui les utilisent.
08:05Le texte n'est pas applicable en l'état.
08:08En outre la pluralité des réglementations s'accompagne de la
08:12multiplication des autorités internes et européennes de régulation et
08:15de contrôle ce qui peut nuire à l'effectivité des règles.
08:19Là encore à titre d'exemple les dark patents sont saisis par le
08:23DSA le RGPD la Directive sur les pratiques commerciales déloyales
08:27nécessitant alors de coordonner l'action de l'ARCOM qui a été
08:31désigné coordinateur des services numériques par la loi SREN.
08:34Le président nous l'a rappelé tout à l'heure et qui était habilité à
08:38contrôler les dark patents pour les places de les plateformes qui ne
08:42sont pas des places de marché en ligne.
08:44Mais il faudra coordonner cette action avec la DGCCRF qui est
08:47habilitée à contrôler les dark patents pour les places de marché
08:51en ligne l'action de la CNIL qui est compétente pour contrôler et
08:55sanctionner les atteintes au RGPD.
08:57Et enfin l'action de la Commission européenne qui est compétente pour
09:00mettre pour veiller au respect des nouvelles obligations ici du DSA
09:06pour les très grandes plateformes.
09:08En l'absence d'une taxonomie commune des dark patents s'il n'y a pas
09:13d'échanges suffisamment renforcés et constants entre les différentes
09:18autorités nationales et européennes l'effectivité de la lutte contre
09:22ces techniques pourrait être compromise.
09:25Ensuite certaines réglementations comportent des contradictions
09:29internes à titre d'exemple et je prendrai mon exemple cette fois ci
09:33dans le règlement sur les services numériques le règlement pardon sur
09:36les intelligences artificielles justement je sors du RSN.
09:39Il semble difficile de concilier l'interdiction totale des pratiques
09:43subliminales sous le seuil de conscience avec l'autorisation de
09:46principes des deepfake sous la seule réserve d'en avoir informé le
09:50consommateur.
09:52Enfin et je terminerai là dessus la reconnaissance de la spécificité
09:56des techniques numériques d'influence et de manipulation des consommateurs
10:00que j'ai rapidement mentionné en début d'intervention devrait sans
10:04doute s'accompagner de la reconnaissance de la spécificité de
10:08la vulnérabilité du consommateur en ligne.
10:12Sans doute est il alors nécessaire de s'écarter d'une conception trop
10:16libérale de droit subjectif qui repose sur l'homo economicus le
10:20consommateur rationnel qui a toujours la bonne réponse et la
10:25liberté de contracter dès qu'il est suffisamment informé afin de
10:29s'inscrire dans une autre logique peut être logique de droit objectif
10:34à l'autonomie décisionnelle du consommateur.
10:37A défaut on pourrait peut être assister à la disparition du libre
10:41arbitre des individus.
10:43Je cède immédiatement la parole à Juliette pour quelques points plus
10:47précis sur le DSA.
10:58Merci Sabine. Bonjour à tous.
11:00Merci à l'ARCOM et merci aux organisateurs pour cette très belle
11:05journée.
11:06Je vais continuer en illustrant finalement les apports du cycle de
11:11réflexion sur quelques sujets qui concernent les mineurs parce que
11:15c'est un sujet clé qui intéresse non seulement bien évidemment l'ARCOM
11:20mais qui finalement est aussi au cœur des préoccupations actuelles
11:24de la Commission européenne et donc en particulier parce que nous
11:28avons potentiellement un nouveau texte.
11:31On ne l'a pas cité celui-là mais nous avons potentiellement un nouveau
11:33texte à venir qui serait peut être le Digital Fairness Act qui est
11:38envisagé comme une manière de rajouter une couche supplémentaire
11:42de textes pour la protection des consommateurs spécifiquement
11:45parce que le constat finalement c'est que nous n'avons peut être pas
11:51encore complètement saisi les nouveaux enjeux de la protection
11:57du consommateur.
11:58Simplement avant de commencer à illustrer vraiment le sujet au
12:02travers de la question du ciblage publicitaire des mineurs et la
12:05notion de majorité numérique.
12:08Dans le rapport qui a été fait par la Commission européenne le 4
12:12octobre 2024 donc c'est quand même très récent sur justement ce
12:17digital fairness fitness check qu'elle a opéré ces derniers
12:21ces derniers mois.
12:22Eh bien le problème serait les dark patterns pour les consommateurs
12:27les conceptions addictives des services numériques le ciblage
12:32personnalisé des consommateurs qui exploitent leur vulnérabilité
12:36des difficultés de gestion des abonnements numériques et aussi
12:39les pratiques commerciales des influenceurs sur les médias
12:42sociaux.
12:43Donc quelque chose finalement dont on a déjà beaucoup entendu parler
12:47et il y a de fortes chances qu'on continue à en entendre parler avec
12:51de nouveaux textes potentiellement qui vont devoir à nouveau s'articuler
12:55avec avec le DSA.
12:57Alors comment ça marche.
12:59Donc non ça ne doit pas être ça.
13:01Comment je fais pour passer ?
13:03Il est où ?
13:04C'est ça ?
13:05Alors je fais comme ça simplement.
13:07Oui d'accord.
13:08Donc voilà je vais commencer maintenant à évoquer le ciblage
13:14publicitaire des mineurs sur base de publicité contextuelle parce
13:18qu'en réalité je ne vais pas dans le bon sens.
13:22Excusez moi.
13:23Alors le ciblage des mineurs sur base de publicité contextuelle
13:29c'est quelque chose qui n'est pas véritablement saisi aujourd'hui
13:33par le DSA puisque en fait qu'est ce qu'on a dans le DSA aujourd'hui.
13:39Donc dans le DSA aujourd'hui on a des règles juridiques qui
13:43potentiellement portent en elles un certain nombre de contradictions
13:47parce qu'en fait nous avons un principe de faveur concernant
13:51les systèmes de recommandations en ligne qui ont été consacrés
13:55par le DSA et à l'inverse un principe de défaveur à l'égard
14:00des publicités ciblées à l'égard des mineurs sur base de profilage.
14:05Donc voilà donc deux règles qui pourraient se comprendre.
14:09Donc on a deux concepts juridiques bien distincts les systèmes
14:12de recommandations d'un côté le ciblage publicitaire et les
14:15publicités ciblées de l'autre côté donc avec d'un côté plutôt
14:20un encouragement de l'autre côté plutôt avec contrôle bien sûr
14:23parce que ça peut aussi causer des risques systémiques les systèmes
14:26de recommandations mais quand même plutôt un principe de faveur
14:31et à l'inverse donc un pur principe de défaveur avec un principe
14:34d'interdiction des publicités ciblées.
14:37Mais la difficulté c'est que quand on procède à un travail
14:41interdisciplinaire c'est-à-dire que lorsque les juristes discutent
14:45avec les informaticiens et donc c'est en particulier ce qu'on a fait
14:49dans le cas du cycle de réflexion et tout particulièrement avec
14:51Oana Goga qui est directrice de recherche INRIA et qui viendra
14:55présenter cet après-midi sur un autre thème et bien on s'est rendu
14:59compte qu'en réalité on peut opérer non pas un ciblage sur base
15:06de profilage très fin mais aussi un ciblage sur base contextuelle
15:10très fin des mineurs.
15:12Alors comment est-ce qu'on va procéder donc le travail d'Oana Goga
15:18en particulier a permis de mettre en lumière que lorsqu'on est sur
15:23des publicités qui suivent des contenus numériques ce qui va être
15:29le cas lorsqu'on est par exemple sur une plateforme de partage de
15:33vidéos en ligne où la publicité vient s'ouvrir juste avant que le
15:38contenu ne puisse être regardé, le contenu qui aura été recommandé.
15:41Eh bien qu'est-ce qui va se passer ?
15:42C'est-à-dire qu'on peut maintenant sur les régies publicitaires de
15:47ces services de partage de vidéos cibler très spécifiquement un
15:51contenu pour que la publicité soit placée sous ce contenu.
15:54Or ce contenu ça peut être un contenu qui est spécifiquement pour
15:57les mineurs.
15:58Et donc comme le système de recommandation a identifié le mineur
16:03que lui il n'est pas par principe interdit eh bien donc vous avez
16:08la publicité qui va suivre le contenu recommandé.
16:13Et donc alors même qu'on n'est pas sur du profilage en tant que tel
16:17c'est-à-dire que la publicité ne va pas être ciblée eh bien on a
16:20néanmoins donc on a néanmoins une publicité qui va arriver très
16:24facilement devant le mineur en suivant le contenu.
16:27Donc voilà.
16:28Et donc ça c'est pas mis en lumière donc c'est pas mis en lumière par
16:31ce principe 1 de faveur pour les systèmes de recommandation et de
16:35défaveur pour le système des publicités ciblées uniquement sur
16:40base de profilage.
16:41Donc voilà.
16:42Désolé de vous interrompre mais je vais devoir vous couper pour vous
16:44demander de conclure.
16:45Alors on va faire une petite proposition quand même si vous
16:51voulez bien.
16:52Donc au titre de cette proposition donc en fait il y a plusieurs
16:57options qui pourraient arriver dans un DSA 2 ou dans un digital
17:02Fairness Act à venir.
17:04Donc la première option c'est saisir plus largement la question
17:08du ciblage publicitaire des mineurs en ne s'arrêtant pas à la
17:12publicité ciblée sur base de profilage.
17:14Et donc aussi potentiellement élargir vers l'interdiction de la
17:20publicité contextuelle à l'égard des mineurs parce qu'on peut les
17:24atteindre extrêmement facilement.
17:26La deuxième option parce qu'il y a plusieurs possibilités c'est
17:30accroître les exigences de manière générale à l'égard des
17:33fournisseurs de systèmes de recommandation qui donc systèmes
17:37de recommandation sont fondés sur le profilage des mineurs et tout
17:41particulièrement lorsque ces systèmes de recommandation sont
17:44articulés avec des publicités qui doivent nécessairement être
17:48visionnées préalablement au visionnage du contenu recommandé
17:51sur base de profilage.
17:53Donc là il faudrait accroître les exigences ou alternativement et
17:57c'est là toute la difficulté parce que nous avons une nouvelle
18:01ordonnance sur les influenceurs au niveau français.
18:05Comme je vous le disais la Commission européenne dans un futur
18:07digital Fairness Act voudrait aussi traiter la question des
18:11influenceurs.
18:12Alors regardez juste elle est là la dernière proposition c'est aussi
18:18donc d'accroître les exigences à l'égard des fournisseurs de systèmes
18:21de recommandation lorsque la publicité est incluse à l'intérieur
18:26même du contenu recommandé sur base de profilage.
18:29Je m'arrête là.
18:30Je vous remercie beaucoup pour cette invitation.
18:42Merci à vous.