Journée d'études 2023 de l'Arcom : Ilaria Buri et Rachel Griffin
Category
🤖
TechnologieTranscription
00:00 [SILENCE]
00:12 ...présentation. Donc on va continuer tout de suite avec Hilaria Burry, de l'Université d'Amsterdam,
00:19 et Rachel Griffin, de l'École de droit de Sciences Po, avec un papier qui fait une présentation,
00:28 qui fait un pas de côté, puisqu'on va continuer sur le DSA, mais en introduisant la question du climat,
00:38 ce qui me semble tout à fait intéressant. Merci à vous.
00:42 [SILENCE]
00:51 Merci beaucoup pour cette introduction.
00:54 On va aussi présenter en anglais, car on écrit en anglais.
00:59 On va présenter de l'ensemble de la recherche qui est à un stade évoluant,
01:04 donc on va être très heureux de voir vos commentaires et vos idées, maintenant ou pendant les pauses.
01:11 En gros, on essaie de trouver des liens entre l'urgence climatique et la politique climatique,
01:18 et le DSA, en même temps.
01:21 Ce ne sont pas deux sujets qui se parlent souvent en ce moment dans les débats sur le DSA,
01:28 même si, nominalement, les transitions numériques et vertes sont les deux priorités les plus importantes de la Commission.
01:34 Ce sont, bien sûr, des sujets énormes pour le gouvernement français,
01:37 et aussi pour les institutions de recherche, comme ma propre, Sciences Po.
01:40 On pense que c'est assez inquiétant qu'il y ait une manque de discussion
01:44 autour des impacts de la régulation de plateforme sur le climat.
01:47 Tout d'abord, bien sûr, à cause de la gravité extrême de la crise environnementale que nous vivons,
01:53 qui devrait vraiment demander une réponse de chaque aspect de la société, de chaque secteur économique.
01:59 Mais aussi parce que ces deux sujets sont plus proches de ce que ça pourrait apparaître.
02:05 Sur les tendances actuelles, par exemple, les centres d'information dans l'UE
02:10 vont utiliser plus d'énergie en 2030 que le pays entier de Belgique.
02:14 En France, le secteur technologique a été récemment estimé par l'ASSEP
02:18 à représenter environ 2,5 % des émissions nationales.
02:21 Et en 2030, cela pourrait avoir augmenté de 45 %.
02:25 Les choix que nous faisons maintenant sur la façon dont nous régulons les grandes plateformes
02:29 et les technologies qui développent rapidement, comme l'IA,
02:32 ont des implications significatives et longues pour l'environnement.
02:36 Et je pense que dans une certaine période, ici en France,
02:39 il y a eu un rapport publié en 2023 par le CNIL, le régulateur de protection des données,
02:43 qui a reconnu ces liens entre la transition verte et la politique numérique
02:47 et a commencé à décrire comment les préoccupations environnementales
02:50 pourraient être facturées dans le cadre de l'enforcement du GDPR.
02:53 Et Ilaria et moi, nous avons argué que, à ce moment-là,
02:55 cela devrait être la norme et l'expectation pour toutes les régulations dans le secteur technologique.
03:00 Nous soulignons en particulier trois sujets dont nous pensons qu'ils méritent plus d'attention,
03:05 en tant que régulateurs et policiers, et aussi en tant qu'académiques, comme nous.
03:10 Le premier, dont je vais parler, est le cadre de mitigation des risques du GDPR,
03:14 qui a déjà été mentionné, bien sûr, par Suzanne.
03:17 Et puis Ilaria va parler du discours climatique
03:20 et du fait que la parole en ligne est régulée dans le cadre du GDPR.
03:24 Et enfin, le potentiel pour les chercheurs d'accéder aux données sur ces deux sujets.
03:30 Notre argument basique dans la première partie du document sur la mitigation des risques
03:34 est que les émissions de carbone, en particulier, mais aussi d'autres impacts environnementaux,
03:39 peuvent et devraient être considérés pour tomber dans le cadre des provisions du GDPR sur la mitigation des risques.
03:44 Ce qui, positivement, signifie que ces provisions peuvent offrir des léviers régulatifs intéressants
03:50 pour empêcher les plateformes de réduire ces impacts.
03:53 Ce n'est pas un sujet qui a reçu beaucoup d'attention jusqu'à présent dans les débats autour du GDPR.
03:58 Je pense que la plupart des personnes ont l'impression que ces provisions
04:01 concernent des sujets comme le discours de la haine et la déinformation,
04:03 les sujets qui sont toujours abordés dans ce domaine,
04:05 et que les problèmes environnementaux ne sont pas vraiment dans le cadre.
04:08 Mais nous allons arguer que l'analyse plutôt simple du texte légal suggère que ce sont des sujets.
04:14 Les sujets qui sont expliqués dans l'article 34 du GDPR,
04:19 comme les risques systémiques que les plateformes devraient considérer,
04:21 sont plusieurs, qui sont très directs et très évidents, qui sont impactés par le changement climatique.
04:26 Le plus évident de ces sujets serait la santé publique,
04:29 vu que, aujourd'hui, pas dans le futur, mais cette année, l'année dernière,
04:33 nous avons eu des milliers de personnes mourir des éclosions de chaleur en Europe.
04:36 Mais, bien sûr, l'article 34 mentionne aussi la sécurité publique,
04:40 le bien-être physique et mentalitaire, ainsi que les droits fondamentaux,
04:43 tous ces droits qui sont très tangiblesment affectés par les crises environnementales
04:47 qui continuent et s'éclosent.
04:50 Une question qui peut peut-être être posée est-ce que les impacts spécifiques
04:54 que les plateformes ont dans ce domaine,
04:56 par exemple, leurs émissions de carbone, leur utilisation d'eau,
04:59 est-ce que cela pourrait vraiment qualifier de risques systémiques,
05:02 par rapport au changement climatique, comme un sujet de société plus grand?
05:06 Mais je pense que nous pouvons faire une comparaison avec un autre sujet de société
05:10 très complexe, un sujet que tout le monde est d'accord avec,
05:13 et qui est clairement dans le cadre de l'article 34,
05:15 qui est la désinformation.
05:17 Dans la littérature empirique,
05:19 le nombre et les façons dont les plateformes en ligne contribuent à la désinformation
05:23 et ses effets sur le discours politique sont très disputés.
05:27 Il est très clair qu'il n'y a pas de façon monocosale, simple ou linéaire
05:31 dans laquelle les plateformes font quelque chose et la désinformation augmente par 10%.
05:35 Mais il est quand même assez universel d'accepter que les plateformes
05:39 doivent évaluer et mitiger leurs activités
05:42 et comment elles peuvent contribuer à ces problèmes sociaux plus grands.
05:46 En suivant ce principe,
05:48 si nous pouvons considérer que les contributions des plateformes
05:51 aux émissions de carbone et aux autres impacts qualifient de risques systémiques,
05:55 quelles sont les conséquences légales de cela?
05:58 L'article 34 demande à les faire faire des examens de risque,
06:01 au moins une fois par an, mais aussi avant le déploiement de nouveaux produits,
06:04 qui analysent comment le design, la fonctionnement et l'utilisation de leurs services
06:08 contribuent aux risques liés.
06:10 Il est important de souligner ici que cela couvre la façon dont les services
06:13 sont utilisés dans leur contexte social plus grand,
06:16 ce qui signifie que le scope de cette provision est beaucoup plus grand
06:19 que, par exemple, les provisions de l'Acte de l'IA
06:21 sur la documentation des impacts environnementaux de systèmes de l'IA.
06:24 Ces examens de risque doivent aussi être basés sur
06:27 la littérature relative et scientifique,
06:30 et, comme l'a mentionné Suzanne, sur la société civile.
06:33 L'article 35 donne aussi que les entreprises doivent prendre
06:36 des mesures de mitigation raisonnables, proportionnelles et efficaces.
06:40 Comment cela pourrait-il se voir en pratique?
06:43 Nous considérons deux zones où nous pensons qu'il y a beaucoup de mesures
06:46 de mitigation possibles qui pourraient être très positives.
06:49 La première serait de réduire les impacts directs des opérations
06:52 de ces entreprises, comme l'utilisation de l'énergie,
06:55 la consommation d'eau de leurs centres de données, etc.
06:58 Bien sûr, dans la plupart des grandes entreprises,
07:01 il y a déjà des efforts en cours, par exemple,
07:04 pour utiliser plus d'énergie renouvelable grâce aux accords d'achat de puissance.
07:07 Ce sont des pas positifs, à un certain point,
07:10 mais il est important de souligner que l'éfficacité énergétique
07:13 et l'utilisation de l'énergie renouvelable ne sont pas suffisants en soi,
07:16 et cela peut être contre-productif, par exemple, à cause du rébound effect,
07:19 mais l'augmentation de l'efficacité et de l'utilisation d'une ressource
07:22 peut souvent augmenter la demande et l'utilisation de l'énergie renouvelable.
07:25 Il ne faut pas oublier, bien sûr, que l'énergie renouvelable
07:28 n'est pas une ressource libre et limitée, nous avons des capacités constraintes
07:31 et nous avons vraiment besoin de réduire la consommation d'énergie
07:34 à travers toute l'économie.
07:37 C'est pourquoi il y a une augmentation des demandes,
07:40 y compris des clients, pour que les systèmes de l'IA et les plateformes
07:43 soient conçus en lien avec le principe d'éco-conception,
07:46 et de les désigner dès le début pour réduire l'utilisation d'énergie
07:49 et d'autres ressources.
07:52 Il y a déjà beaucoup de recherche scientifique,
07:55 par exemple, sur la façon de réduire la consommation d'énergie dans le design du logiciel,
07:58 mais jusqu'ici nous n'avons pas eu de pression commerciale et régulière
08:01 pour mettre cela en pratique, et c'est ce que nous pensons que l'IA peut offrir.
08:04 Nous notons également que les stratégies et politiques
08:07 des plateformes et des entreprises ont de grands impacts environnementaux
08:10 indirects à travers leurs écosystèmes de plateforme plus large
08:13 et des clients et des entreprises de troisième partie
08:16 qui utilisent leur infrastructure.
08:19 Un exemple important est les boutiques d'applications,
08:22 qui sont des régulateurs de façade pour une grande partie de l'industrie du logiciel.
08:25 Des collègues de l'Ilaria et d'Ether ont déjà fait de l'effort important
08:28 pour montrer comment les boutiques d'applications régulent les politiques de privacité des designers,
08:31 par exemple, mais nous pouvons aussi envisager
08:34 les deux boutiques d'applications VLOP, Apple et Google Play,
08:37 qui sont poussées par les régulateurs pour imposer des requêtes de sustainabilité
08:40 par design sur les développeurs de troisième partie.
08:43 L'autre point important que nous soulignons est la plateforme de marketplace,
08:46 comme Amazon en particulier.
08:49 Bien sûr, elles régulent maintenant des millions de troisièmes
08:52 qui vendent sur leurs plateformes,
08:55 elles intermédiaient des millions d'euros de ventes consommées
08:58 ainsi que d'opérer une opération de logistique.
09:01 Cette position influentielle devrait être accompagnée par la responsabilité
09:04 de promouvoir des produits et des pratiques de business plus sustainables.
09:07 Nous devons donc considérer les différents moyens pour les faire.
09:10 Bien sûr, pour le moment, cela peut sembler hypothétique ou aspiratoire,
09:13 ce serait vraiment agréable si les plateformes faisaient cela,
09:16 mais les plateformes le feront-elles ?
09:19 Nous considérons donc les lèvres que l'ASDA offre pour empêcher les entreprises
09:22 de faire ces changements.
09:25 La première chose, c'est l'autorité pour enforcer ce chapitre de l'ASDA
09:28 avec les provisions de risque systémique, qui reste avec la commission.
09:31 C'est la commission qui peut décider si les mesures de mitigation et de risque
09:34 sont adéquates, ce qui leur donne un certain nombre de scopes
09:37 pour les inclure dans certaines zones ou certaines stratégies.
09:40 Mais les régulateurs nationaux, comme Arqum,
09:43 par le Bloc européen des services numériques,
09:46 auront aussi une rôle influentielle.
09:49 Par exemple, ils peuvent offrir une guidance interprétative,
09:52 promouvoir des codes et des standards de la loi,
09:55 commissionner et dénoncer la recherche.
09:58 Et enfin, comme nous l'avons déjà entendu,
10:01 les chercheurs et la société civile jouent aussi
10:04 une rôle très influentielle dans la mise en place des termes de débat
10:07 pour l'ASDA et dans la priorisation des questions.
10:10 Cela peut être par la recherche, par la politique,
10:13 par la contribution aux consultations, y compris par l'équipe d'experts.
10:16 Nous pensons que l'objet est vraiment sur eux maintenant
10:19 et aussi sur nous, pour donner plus d'attention aux questions environnementales
10:22 et aux réglementations de plateforme.
10:25 Et avec cela, je donne la parole à Elaria, qui en parlera plus.
10:28 Merci.
10:30 Un autre aspect est les rôles liés à la crise de la DSA.
10:35 Ce sont clairement directement liés à l'idée de la crise permafrance,
10:41 j'ai oublié de continuer avec les écrans,
10:44 et au contexte plus ample de la crise climatique
10:47 dans lequel la DSA s'appliquera.
10:50 Et ce sont les articles 36 sur le mécanisme de réponse à la crise
10:55 et les articles 48 sur les protocoles de crise,
10:58 qui n'ont pas reçu de l'attention jusqu'à présent.
11:03 La question cruciale est donc, quelle est la crise sous la DSA ?
11:08 En fonction des provisions de la crise de la DSA,
11:11 une situation de crise est considérée comme avoir eu lieu
11:15 et où des circonstances extraordinaires
11:18 conduisent à une menace sérieuse ou affectent en quelque sorte
11:21 la sécurité publique ou la santé publique
11:24 en Europe ou en une partie significative.
11:28 Sous le mécanisme de réponse à la crise, en particulier,
11:31 les très grandes plateformes en ligne peuvent être nécessaires
11:34 pour porter des assessements de risque supplémentaires
11:37 et appliquer des mesures de mitigation spécifiques,
11:40 y compris celles établies sous les protocoles de crise,
11:43 pour répondre à une situation de crise.
11:46 Et sous les protocoles de crise volontaires,
11:49 qui sont ouverts non seulement aux plus grandes plateformes,
11:52 mais aussi aux autres plateformes en ligne,
11:56 les plateformes devront présenter des informations sur la crise
11:59 et adopter des ressources supplémentaires
12:02 pour compliquer les obligations de responsabilité
12:04 liées au gouvernement des contenus illégaux et aux mesures de mitigation.
12:09 Alors, alors que ces règles sont des principes conçus
12:14 pour être appliqués exceptionnellement,
12:18 nous pouvons espérer que le pire de la crise climatique
12:21 va faciliter le mobilisateur de ces règles.
12:25 Par exemple, une sérieuse menace à la sécurité publique
12:29 ou à la santé publique peut être invoquée régulièrement,
12:34 où l'UE ou une partie importante de l'UE
12:37 est touchée par des catastrophes naturelles
12:41 à cause du climat, comme les nuages de chaleur exceptionnels,
12:44 les flammes, les inondations, les erreurs des croûts,
12:47 les nouvelles pandémies, les nouveaux conflits internationaux,
12:52 l'augmentation de la migration, ou par exemple,
12:55 la réaction à l'augmentation du risque social
12:59 au moment où l'impact du déclin climatique s'intensifie.
13:04 Et comme l'UE entre en force en février,
13:10 et que l'enforcement gagne de l'énergie,
13:13 je pense que l'awareness du contexte plus profond
13:17 de la crise climatique et de ses manifestations
13:21 devrait inspirer une réflexion, aussi pour les régulateurs,
13:26 sur l'impact possible des règles de crise sur les droits fondamentaux.
13:32 Cela devrait promouvoir une discussion sur une série de questions,
13:36 comme par exemple, comment imprimer en pratique
13:40 les manifestations sous les régimes de crise,
13:43 comment préserver les droits fondamentaux
13:46 et les principes démocratiques dans les temps de crise,
13:49 et comment limiter les recours à ce mécanisme de crise.
13:53 Et nous pensons que, en cherchant les bonnes contrôles et les bonnes balances,
13:57 il est essentiel de renforcer l'involvement
14:00 des organisations de la société civile,
14:03 y compris des organisations climatiques et environnementales
14:06 qui n'ont pas été des parties de ces conversations importantes.
14:10 Je n'ai pas besoin d'expliquer pourquoi ceci est si important
14:14 et comment y arriver, car Suzanne a déjà fait de merveilleux travaux sur ce sujet,
14:21 et son rapport détaille ces questions dans un sens très détaillé.
14:28 Un autre aspect est le discours climatique et l'activisme.
14:33 Nous savons que, en tant que la vitesse et la sévérité de la crise climatique
14:37 s'intensifient, et que les manifestations climatiques se sont aussi encore plus soumises,
14:42 les experts sur les droits humains nous préoccupent
14:46 que l'activisme climatique est de plus en plus frappé
14:50 en matière de sécurité publique.
14:52 Nous nous demandons donc, quelles sont les implications de ce changement,
14:55 d'un point de vue de l'ASSE?
14:58 En l'ambition de cette tendance, nous pensons, nous voyons,
15:03 que le contenu lié au climat peut être plus souvent qualifié d'illégal,
15:12 ou en violation des termes et conditions de la plateforme,
15:15 ou potentiellement aussi comme une menace à la sécurité publique,
15:19 et ainsi, cela devient réellement lié sous la plupart des règles de la DSA et du DILIGENCE.
15:25 Nous pensons donc que dans ce contexte, il est vraiment très important pour les régulateurs
15:31 de réaliser la centralité du débat sur le climat et les droits climatiques
15:37 pour tous les autres droits fondamentaux et les libertés démocratiques,
15:40 et de réaliser que les limitations du discours sur le climat,
15:45 à l'extent qu'elles contribuent aussi à la délai de l'action climatique,
15:48 peuvent aussi exacerber les autres risques systémiques
15:52 pour les droits fondamentaux, les processus démocratiques,
15:55 le discours civique ou la sécurité publique.
15:58 Donc, les mêmes risques que la DSA souhaite aussi mitiger
16:02 avec son approche basée sur les risques.
16:05 Et pour conclure, l'accès à la recherche et la scrutinerie publique
16:10 contre les considérations de la sécrétion des droits et la confidentialité,
16:15 qui est un autre domaine où nous nous concentrons dans notre enquête
16:19 et où nous pensons que c'est vraiment central pour tous les sujets
16:22 que nous avons touchés dans cette présentation.
16:25 Donc, l'un des éléments les plus innovants de la DSA,
16:30 qui a reçu de nombreuses attentions dans la communauté de recherche,
16:35 est qu'elle présente un régime d'accès aux données de plateformes pour les chercheurs.
16:40 Et spécifiquement sous l'article 40 de la DSA,
16:46 les très grandes plateformes en ligne doivent offrir accès aux données
16:51 aux chercheurs précédemment vêtus pour le but de faciliter
16:56 l'identification des risques systémiques et d'entendre
17:00 si les mesures de mitigation qui ont été adoptées
17:03 ont été efficaces dans leurs objectifs de mitigation des risques.
17:08 Donc, en regardant l'accès à la recherche dans le contexte de notre recherche,
17:14 il est clair que la recherche est vraiment cruciale pour connaître
17:18 une série d'importantes questions.
17:20 Tout d'abord, l'énergie consommée des systèmes de plateformes
17:24 et des opérations de processus de données,
17:26 mais aussi comment le discours sur le climat est géré par les plateformes,
17:30 combien de choses sont traitées comme illégales ou contraires aux termes et conditions
17:34 des plateformes, et comment, en général, les situations de crise
17:39 affectent le management des risques systémiques des plateformes.
17:44 Nous savons aussi que les plateformes, en recevant un appel d'accès,
17:51 peuvent demander l'amendement de l'appel d'accès,
17:56 parmi d'autres raisons, si elles croient que le don d'accès
18:00 pourrait mener à de significants vulnérabilités
18:03 pour la protection de l'information confidentielle,
18:07 comme les secrets des traités, en particulier.
18:10 Et, vu la sécurité et la confidentialité des traités
18:15 sont cruciaux dans l'économie des plateformes,
18:20 nous espérons que les plateformes vont déterminer
18:25 assez fortement le scope de ces appels,
18:28 en fonction des claims de confidentialité et de sécurité des traités.
18:31 Et cela a le potentiel, si ce conflit n'est pas résolu
18:36 de façon équilibrée, d'endommager le potentiel génératif
18:41 de l'accès à la recherche et de l'application significative
18:45 de ce régime d'accès.
18:46 Donc, la question cruciale qui se pose, c'est comment balancer
18:50 la sécurité des traités et la confidentialité avec l'intérêt public
18:53 pour accéder à l'assurance de l'accès et à l'accompagnement.
18:57 Voici quelques politiques.
19:00 C'est vraiment important que les régulateurs comprennent
19:05 la complexité de ce paysage et comprennent la façon
19:09 dont l'exclusivité des accusations et des informations
19:13 a été élargie au cours des dernières décennies,
19:15 comment la sécurité des traités se combine avec la sécurité factuelle,
19:19 et comprennent comment une solution équilibrée à cette tension
19:23 est vraiment cruciale pour le succès d'une initiative régulatrice
19:28 comme la DSA.
19:30 Et juste trois remarques conclues pour terminer
19:37 une présentation qui a couvert tellement d'endroits.
19:41 Les politiques et stratégies de la régulation des plateformes
19:44 doivent reconnaître que la crise climatique affectera
19:47 tous les aspects de la société, les droits fondamentaux
19:50 et les principes démocratiques.
19:52 Et ainsi, cela affectera le contexte dans lequel, concrètement,
19:56 l'implémentation et l'enforcement de la DSA s'envahiront.
20:00 Nous devons réaliser que l'adressement à la crise climatique
20:03 nécessite une réponse concerte de la société.
20:06 Les régulateurs, la société civile et les chercheurs
20:09 qui coopèrent à la DSA doivent reconnaître
20:12 la rélevance des problèmes environnementaux
20:15 et régulièrement intégrer les considérations environnementales
20:18 et les stratégies de gouvernance des plateformes.
20:21 Enfin, les structures institutionnelles et les processus multistakeholder
20:25 doivent inclure les organisations de la société civile
20:28 autant que possible, y compris, comme nous l'avons dit,
20:31 les organisations environnementales et climatiques
20:34 qui n'ont pas été, jusqu'à présent,
20:37 des parties de cette conversation très importante.
20:40 Merci beaucoup de votre attention et nous nous attendons
20:42 à en discuter plus tard.
20:44 [Applaudissements]