Le RGPD, célèbre règlement général sur la protection des données va bientôt souffler sa 9ème bougie ! Et il sera d’ailleurs le thème phare de la 19e édition de l’Université des DPO organisée par l’AFCDP. L’occasion d’évoquer les enjeux juridiques, éthiques et technologiques et les évolutions du métier de délégué à la protection des données.
Catégorie
🗞
NewsTranscription
00:00Dans le grand rendez-vous cyber aujourd'hui de Smartech, nous avons Garence Mathias,
00:08bonjour Garence.
00:09Bonjour Delphine.
00:10Avocate, fondatrice dirigeante de Mathias Avocat et Tatiana Larina, bonjour Tatiana.
00:14Bonjour.
00:15Vous êtes présidente co-fondatrice du cabinet de conseil en cybersécurité Opéra Cyber.
00:19Et puis nous sommes connectés aussi avec Paul-Olivier Gibert, président de l'AFCDP.
00:24AFCDP qui est à l'origine de ce qui va s'ouvrir très prochainement, la 19ème
00:29édition de l'université des DPO, tous ceux qui sont responsables de la protection
00:34des données personnelles dans les entreprises.
00:36Ce sera donc le 6 février la plus grande conférence organisée en France sur le thème
00:40de la conformité au règlement européen sur la protection des données, qui aura
00:45bientôt 9 ans, ça passe vite.
00:47Beaucoup de défis quand même qui restent encore à relever, puis des évolutions qui
00:51sont attendues.
00:52Paul-Olivier, je voulais qu'on commence déjà avec les problématiques que vous allez
00:56aborder lors de cette conférence en matière de conformité.
01:00Quels sont les défis aujourd'hui ?
01:01Alors, cette 19ème édition de l'université des DPO se tiendra le 6 et le 7 février,
01:08comme vous l'avez rappelé.
01:09A la maison de Chela Chimi, il y aura environ 1000 personnes qui participeront à cet événement
01:13autour d'un thème central qui est celui de la gouvernance des données avec les enjeux
01:19juridiques, éthiques et technologiques qui sont liés au RGPD.
01:23Et puis, autre point qui est important, l'excerpt de l'intelligence artificielle à travers
01:28deux volets.
01:29On va en parler, Paul-Olivier, mais je voulais qu'on commence sur la conformité, parce
01:31que je disais que le RGPD a 9 ans, donc on se dit, bon, ça y est, les DPO, ils ont compris
01:35comment on faisait pour être conforme au règlement européen.
01:38Pourtant, c'est encore un sujet aujourd'hui dans les entreprises.
01:42Alors, quels sont les défis ?
01:43Alors, les défis sont tout d'abord de caler la position et le rôle du DPO.
01:50Ça commence à être fait dans de nombreuses structures.
01:53La deuxième chose, c'est le fait que le RGPD est une réglementation qui est écrite
02:02de manière unique et qui s'applique à tous les secteurs dans leur diversité.
02:05Donc, il y a un gros travail de transposition et de compréhension pour adapter des règles,
02:12des méthodes qui permettent de garantir le respect de la protection des données à caractère
02:16personnel au niveau de chaque organisation, entreprise ou autre.
02:20Vous confirmez, Madame, en plateau, que ça reste un sujet, la conformité ?
02:25C'est un sujet, j'ai dit, c'est un sujet, mais plus que jamais d'actualité.
02:29Alors, l'université des DPO est là, mais la protection des données, vous l'avez rappelé,
02:34le RGPD, quelques années déjà, mais j'allais dire, plus de 40 ans en France.
02:39Donc, la réglementation sur la protection des données, elle est là, elle est ancienne.
02:44Et j'allais dire des défis et des opportunités.
02:46Conformité, un mot clé, conformité, ce mot va avec confiance.
02:51Les DPO sont des acteurs clés, sont des clés de voûte.
02:54Beaucoup de choses reposent sur eux.
02:56Des défis, des opportunités, une complexité réglementaire.
02:59Effectivement, le RGPD, tout le monde en a entendu parler.
03:02La sensibilisation est là.
03:04Les décisions de l'autorité de contrôle de l'ACNIL font avancer les choses.
03:09Mais il y a l'approche par l'IA, on va en parler, je suppose.
03:13Il y a l'approche aussi par l'évolution des cyberattaques, des menaces,
03:17une complexité géopolitique qui est là, une complexité réglementaire,
03:21des enjeux par rapport aux données.
03:22Donc, le DPO ne doit pas être seul.
03:25C'est une fonction aussi qui doit être transverse.
03:27Et ce rôle, effectivement, de gouvernance, conformité,
03:30je rajoute et j'ajoute le mot confiance.
03:33Sans confiance, rien ne va se faire.
03:36Tatiana, vous voulez rajouter quelque chose ?
03:37Oui, je vais bien rajouter quelque chose parce que, justement,
03:39Opéra Sibière accompagne des sociétés de taille modeste.
03:42Nous accompagnons les TPE, les PME.
03:45Et malgré ce qu'on peut entendre sur le plateau ou dans l'écosystème,
03:50l'GPD n'est pas connu par toutes les entreprises.
03:53Ils ont entendu parler, ils savent peut-être que ça existe,
03:56mais ce n'est pas pour autant qu'on a un DPO qui est nommé
03:59ou un DPO délégué qui prend en responsabilité cette partie au sein de l'entreprise.
04:06Et bien souvent, beaucoup bien souvent que j'aimerais que ce soit le cas,
04:10on est obligé, dans notre cadre de diagnostic Sibière et l'accompagnement Sibière,
04:15à aussi accompagner la société, comment être plus mature face aux questions.
04:20De leur rappeler encore ce RGPD.
04:22Par quel bout vous allez prendre ce sujet de l'intelligence artificielle,
04:25Paul-Olivier, lors de la conférence ?
04:28Alors, la conférence de l'intelligence artificielle,
04:31c'est la poursuite d'une évolution technologique qui a été engagée il y a 80 ans.
04:37Garance rappelait que la CNIL avait 45 ans, il est poussière,
04:43que le RGPD a été précédé par la loi Informatique et Libertés.
04:48La problématique, c'est qu'entre 1978 et aujourd'hui,
04:53la technologie, le monde, a totalement changé.
04:56C'est-à-dire qu'on n'a plus des traitements.
04:59Il y a deux choses qui ont disparu et qui existaient en 1978 et qui étaient au cœur de l'informatique.
05:05La première, c'était les opératrices de saisie.
05:07C'était les opérateurs de saisie, c'est-à-dire des gens qui prenaient un papier,
05:10lisaient ce qu'il y avait sur le papier, le tapaient pour que ce soit ensuite traité.
05:14Et la deuxième chose, c'est qu'en 1978,
05:18notre vie était matériellement une vie papier et des supports matériels.
05:24Or, maintenant, on est de plus en plus dans un environnement qui est dématérialisé.
05:28Donc les enjeux ont complètement changé et puis on a eu des vagues d'innovation.
05:33Et la dernière qui est en cours, que nous rencontrons, c'est celle de l'IA.
05:36Donc c'est des choses qui sont extrêmement puissantes,
05:39c'est-à-dire qu'on peut considérer que dans deux ans, plus personne n'écrira directement
05:44sans avoir recours à de l'intelligence artificielle.
05:48Mais c'est aussi quelque chose qui a eu une très grande instabilité.
05:53Dans quelques jours aura lieu le sommet de l'IA à Paris.
05:58Un sujet qui est intéressant et qui a longtemps été un sujet tête de file.
06:06Mais ensuite, Donald Trump est arrivé
06:09et il a annoncé un plan d'investissement de 500 milliards de dollars sur l'IA.
06:14Donc effectivement, on s'est demandé est-ce que l'Europe pourra suivre ?
06:17Uniquement sur la partie infrastructure, data center, je précise.
06:21C'est plus complexe que ça, il faut regarder les chiffres pour commencer.
06:25Il y en a d'autres qui sont annoncés par ailleurs pour les grands modèles de langage.
06:30Alors on a effectivement ce projet d'investissement sur 500 milliards,
06:34qui est un chiffre clé.
06:35Ensuite, il faut regarder comment il fonctionne, il y a des tranches qui sont prévues.
06:39Et on a aussi un problème qui est important aux États-Unis,
06:42qui est celui de la qualité des infrastructures
06:44et notamment de sa capacité à produire de l'électricité.
06:47Mais ce n'est pas directement le sujet sur lequel j'intervenais.
06:50Il y avait un point qui était pensé,
06:53est-ce qu'on va pouvoir, en Europe, avoir une capacité à traiter
06:58et à fournir des langages, des DLLM, d'autres outils d'IA ?
07:04Et entre autres est ensuite arrivé le petit dernier de Chine,
07:07qui a expliqué, nous on fait à peu près la même chose que Shajipeti,
07:10mais avec un coût inférieur divisé par 50.
07:15Donc ça, c'est une complexité qui est assez forte.
07:18Et puis la deuxième chose qui est importante,
07:20c'est qu'en Europe, on a mis en place une réglementation sur l'IA,
07:25qui est une réglementation spécifique qui traite de méthodologie de traitement
07:33qui n'est pas quelque chose qui se superpose ou qui remplace le RGPD,
07:37mais qui a des effets de bord qui sont non négligeables.
07:41En particulier, certains traitements, qui sont des traitements non sensibles,
07:45le deviennent lorsqu'ils sont recours à des outils d'IA.
07:48Donc c'est ça qui va modifier et qui crée cette instabilité
07:51et cette complexité avec laquelle les organisations doivent vivre
07:54et dans lesquelles les DPO sont un point de soutien
07:57pour obtenir de la confiance en passant par la conformité.
08:04J'ai répondu à votre question ?
08:05Absolument, merci.
08:07Et ça fait partie des défis, effectivement,
08:10de voir comment tout ça va s'imbriquer, les actes avec le RGPD.
08:14On vous souhaite une très bonne conférence, Paul-Élivier Gilbert.
08:17Merci d'avoir été avec nous.
08:19Je rappelle que vous êtes le président de l'AFCDP.
08:22Nous, on va continuer nos autres sujets du rendez-vous cyber.
08:26Évidemment, dedans, il y a l'intelligence articelle,
08:28ces intelligences articelles génératives, ces grands modèles de langage.
08:31Quels sont, selon vous, les risques qu'ils créent,
08:33les nouveaux risques qu'ils créent en entreprise ?
08:36Garance.
08:37Alors, effectivement, risques et opportunités, toujours pareil.
08:40Les balances.
08:41Déjà, il y a le règlement de l'IA qui est rentré en application.
08:44Peut-être une date à rappeler, pour qu'on l'ait en tête,
08:47de février prochain, interdiction des IA à haut risque.
08:51C'est-à-dire toutes les IA, donc les IA génératives,
08:54qui pourraient gérer nos émotions, deviner ce qu'on pense,
08:57donc faire des orientations, faire des biais sur les personnes vulnérables.
09:01Les personnes vulnérables, il faut rappeler aussi,
09:03c'est effectivement aussi des collaborateurs,
09:05des salariés avec le lien de subordination.
09:07Donc, tout un pan, effectivement, du texte,
09:10c'est un article très précis de l'IA Acte,
09:13qui décrit ces IA interdites.
09:15Et première date, interdiction d'utiliser ces IA de février.
09:20Donc, le IA Acte est un règlement, pareil, texte de compromis,
09:24comme le RGPD, approche par les riches, comme le RGPD.
09:27Les risques.
09:28Les risques, pardon, comme le RGPD.
09:30Transparence, bien entendu, mais transparence pour bien connaître
09:34quels sont les jeux des modèles entrants,
09:36quels sont les LLM utilisés, traçabilité.
09:39Ce ne sont pas que des mots-clés.
09:41Ce sont des mots-clés qu'on va devoir transposer dans la technique,
09:45dans l'organisation, dans la connaissance,
09:47donc, effectivement, dans les contrats.
09:49Ça appelle d'autres mots, la propriété intellectuelle.
09:52N'oublions pas, on parle de risque par rapport aux personnes.
09:55On parle de risque par rapport à l'intervention de cette IA,
09:58par rapport, je prenais l'exemple, de la gestion de nos émotions.
10:02Mais ça veut dire aussi quels sont les contrepoids,
10:05qu'est-ce que je mets en place pour connaître le fonctionnement de l'IA,
10:07pour connaître les jeux des données entrantes et sortantes.
10:11Donc, contrepoids veut dire aussi mesures techniques,
10:14traçabilité veut dire aussi contrat.
10:17Et par exemple, est-ce que vous voyez ça comme un risque aujourd'hui,
10:20le fait que des grands modèles de langage américains
10:24se diffusent dans les entreprises, et puis aussi chinois, comme dit Psychia ?
10:28Bien sûr, il y a des risques, mais ce sont les risques qui sont au-delà des risques cyber,
10:32autre conformité, c'est les risques étatiques,
10:35c'est les risques que la population, finalement,
10:37utilise les sources d'informations qui ne sont pas forcément fiables,
10:42ou non pas fiables à 100%,
10:43parce que déjà, les espèces critiques,
10:46il faut les développer de très jeune âge,
10:48et ensuite, s'ils sont corrompus par l'usage massif de solutions faciles à utiliser,
10:53donc on est face à un risque d'avoir des citoyens
10:59qui ne sont pas capables de prendre de bonnes décisions,
11:02donc des dirigeants par la suite, etc.
11:05Maintenant, si on parle de risque cyber, ce qui est mon métier,
11:07c'est très passionnant, et comme toutes les autres technologies innovantes,
11:14sur le plan cybersécurité,
11:17la question que je me poserais avant d'utiliser l'IA,
11:20c'est quel est mon bénéfice et quel est le sacrifice ?
11:23Donc finalement, parce qu'on développe une compétence
11:29qui est basée complètement sur un tabouret avec un seul pied,
11:34si demain cette compétence n'est pas de qualité,
11:39notre avantage compétitif ne sera pas là.
11:41Aujourd'hui, je ne pense pas qu'un avocat va utiliser l'IA
11:44pour accompagner ses dossiers.
11:46Moi, je ne vais pas accompagner une société...
11:48Je ne sais pas, on va poser la question à l'avocat.
11:49Moi, je ne vais pas accompagner mes clients
11:53en posant des questions quand je fais mes diagnostics cyber
11:56et d'autres types d'accompagnement.
11:57Qu'est-ce qu'il y a, tu penses ?
11:58Je vais réfléchir par moi-même, par mon expérience,
12:02et très souvent, quand je pose ces questions
12:05à la plateforme d'intelligence artificielle,
12:07les réponses ne sont pas pertinentes.
12:09Donc attention dans l'usage.
12:11Maintenant, ça peut nous aider à peut-être aller plus vite,
12:14mais ce qui a été dit à juste titre lors du forum de compétences,
12:18un forum organisé par le forum de compétences en décembre,
12:23les sujets où les questions nécessitent une réponse intelligente
12:32ne seront pas apportés par l'IA.
12:33En tout cas, aujourd'hui, ils ne le sont pas apportés.
12:35C'est ce que je voulais dire, pour l'instant,
12:36parce que tout ça va très vite.
12:37Je voulais quand même qu'on fasse un petit focus sur des lycéens
12:40qui vont se retrouver plongés dans un combat cyber.
12:42Passe ton hack d'abord, donc ça a commencé
12:45et ça va durer comme ça jusqu'au 7 février.
12:47Des lycéens, mais pas seulement,
12:49il y aura aussi des jeunes qui sont en BTS
12:52ou dans des classes préparatoires
12:54qui vont s'essayer à la cyber dans une grande enquête.
12:59Je voulais avoir votre sentiment là-dessus,
13:00parce qu'il y a quand même plus de 7000 élèves et étudiants qui participent.
13:04Aujourd'hui, c'est un sujet compliqué de parler de la cyber auprès des jeunes.
13:10On a besoin de ce genre d'événement ?
13:12C'est fondamental, ce genre d'événement.
13:14C'est essentiel pour développer l'esprit critique,
13:18pour maîtriser effectivement les choses.
13:20Et c'est essentiel, effectivement, peut-être de le faire,
13:22là on le fait pour le lycée,
13:24mais peut-être réfléchir aussi pour le faire avant même le lycée.
13:27Parce que déjà, les usages sont là.
13:31Donc pourquoi pas, on va dire, développer des initiatives
13:34pour les collégiens, pour le primaire,
13:36puisqu'on sait tous que ça passe par l'éducation.
13:39Et on sait tous aussi que l'esprit critique est nécessaire.
13:42Donc cette édition, il faut souligner aussi les organisateurs,
13:46il y a le Comcyber, il y a un développement extrêmement énorme.
13:49Des investissements énormes, une application très importante des autorités.
13:56Des lycéens, je crois que c'est la deuxième édition,
13:58qui vont pouvoir se plonger dans ce jeu.
14:01Mais dans ce jeu, il y a une partie ludique, effectivement.
14:04Et on sait effectivement qu'on apprend par cette partie ludique,
14:07qu'on apprend en jouant, qu'on apprend effectivement.
14:10Alors c'est un jeu, effectivement, avec un scénario très intéressant.
14:13Donc, initiative, on va dire, très riche pour former,
14:17on va dire, les citoyens que sont les jeunes lycéens BTS.
14:21Et peut-être une opportunité pour poursuivre et développer
14:24avant même le lycée.
14:26Et peut-être avoir ces nouveaux talents qui nous manquent aujourd'hui beaucoup dans la cyber.
14:31Merci beaucoup, on arrive déjà à la fin de notre grand rendez-vous ensemble.
14:35Garance Mathias était avec nous, de Mathias Avocat et Tatiana Larina d'Opéra Cyber.
14:39Merci à toutes les deux.
14:39Merci beaucoup.