Mardi 4 février 2025, SMART TECH reçoit Pierre-Olivier Gibert (président, AFCDP) , Flavien Chervet (expert en IA et auteur) , Garance Mathias (avocate et fondatrice dirigeante, Mathias Avocats) et Priscilla Zachée (ingénieure cartographe & responsable des partenariats, Tomtom)
Catégorie
🗞
NewsTranscription
00:00Bonjour à tous, le 6 février s'ouvrira la plus grande conférence en France sur le thème de la conformité au RGPD, ce règlement européen sur la protection des données personnelles, qui aura bientôt 9 ans.
00:19On va s'intéresser à ces nouveaux enjeux, aux défis posés par l'IA, aux évolutions aussi qui sont attendues.
00:24Ça fait partie des sujets que nous traiterons aujourd'hui dans ce grand rendez-vous cyber qui est à la une de Smartech.
00:30On parlera aussi des défis posés par les IA génératives en matière de cyber pour les entreprises, et puis d'un grand challenge qui attend des lycéens dans un combat cyber.
00:41Dans cette édition également, nous aurons une rencontre avec un auteur, l'auteur de HyperArm,
00:46anatomie d'une intranquillité planétaire parue aux éditions Nullius Inverba, qui développe cette idée d'une Europe qui pourrait s'imposer dans une industrie de la sécurisation des intelligences artificielles.
00:59Mais d'abord, trois questions sur les données du trafic urbain côté coulisses, c'est tout de suite en ouverture de Smartech.
01:07Bonjour Priscilla Zaché, bonjour, bonjour, sans erreur de ma part j'espère.
01:15Ingénieur en sciences de l'information géographique, vous travaillez depuis plus d'une dizaine d'années chez TomTom, qu'on connaît bien.
01:22Vous travaillez sur la mise à jour des cartes, vous collaborez aussi avec les collectivités locales et les entreprises sur les enjeux de mobilité à partir des données.
01:29Je vous ai invitée parce que TomTom a publié son trafic index, son baromètre.
01:35D'abord, quels sont les premiers enseignements ? Qu'est-ce qu'on apprend dans ce baromètre et à quoi sert-il ?
01:40Cette année, TomTom a publié en début d'année la quatorzième édition de son trafic index, qui est un classement mondial des villes en fonction du taux de congestion et du temps de parcours moyen.
01:54Dans l'édition 2024, on note une tendance à l'augmentation des temps de parcours dans la quasi-majorité des villes du monde et aussi de la congestion.
02:07On a 87% des villes de l'index au niveau mondial pour lesquelles on note une augmentation de cette congestion.
02:13Pour être très concret, la congestion représente le retard accumulé en moyenne sur nos trajets quotidiens.
02:23C'est un retard qui peut être dû aux embouteillages, mais aussi à des travaux, à des accidents et aussi aux conditions météorologiques.
02:32On roule de moins en moins vite. Je suis allée voir dans votre top mondial des villes où on roule moins vite.
02:38Pour les villes françaises, la première qui ressort, c'est Bordeaux, 24ème, avec une vitesse moyenne de 19,3 km heure.
02:46Ensuite, il y a Paris, encore loin, 45ème.
02:49Oui, tout à fait. Le trio de têtes en France, Bordeaux, Paris, Marseille, avec des indices de congestion moyenne en 2024 autour de 30%
02:59et des temps de parcours qui varient pour 10 km entre 31 minutes pour Bordeaux et 27 minutes pour Marseille.
03:10Là aussi, on est sur des villes pour lesquelles on note que ces temps de parcours et cette congestion ont augmenté en 2024.
03:15En particulier à Lyon, qui a connu la plus importante baisse de vitesse en 2024.
03:21On ne roule pas vite en ville.
03:24Pour cette édition, ce qui était intéressant de mon point de vue, c'est que vous avez utilisé une nouvelle forme de méthodologie
03:30faisant appel à l'intelligence artificielle, au machine learning. Expliquez-nous.
03:34Tout à fait. Cette année, on a incorporé une nouvelle méthode pour définir les territoires d'analyse.
03:42En fait, dans les éditions précédentes, c'était de manière assez simple.
03:47On traçait un cercle autour du centre-ville pour déterminer quel allait être notre périmètre d'étude.
03:53Cette année, on a fait appel à un outil qu'on appelle Origine Destination.
03:57Cet outil nous permet d'analyser les déplacements au sein d'un territoire.
04:02On a découpé chaque territoire, chaque ville en un maillage et on a analysé les interconnexions entre toutes ces mailles.
04:10Cela nous a donné une espèce de représentation des plus grands flux de déplacements au sein de ces villes.
04:21De là, on a déterminé que les centres où les déplacements étaient les plus denses allaient être les centres-villes.
04:29Tout cela s'est permis grâce aux données qu'on reçoit des capteurs et des véhicules connectés
04:37qui nous renvoient de manière anonyme des informations.
04:41Ce sont les véhicules qui utilisent un GPS TomTom qui remontent ces données ?
04:47Ou vous avez aussi des voitures spécifiques qui sillonnent les villes ?
04:51Dans le cadre de cet index, ce sont les véhicules de tout un chacun qui nous remontent de l'information.
04:57On appelle cela le FCD, Floating Car Data.
05:00Ce sont des données de déplacements qui sont totalement anonymisées.
05:04Ensuite, elles sont agrégées et analysées.
05:07Cela nous permet d'avoir des informations sur les vitesses moyennes de déplacements au sein d'un territoire.
05:14Cela représente combien d'automobilistes ?
05:16En termes de densité mondiale, on couvre environ 300 000 véhicules connectés qui nous remontent de l'information.
05:31A titre d'indication, sur 2024, l'analyse de l'index de trafic s'est faite sur plus de 747 millions de kilomètres parcourus par les utilisateurs de services TomTom.
05:44Vous avez énormément de données, vous avez un nouvel outil qui s'appelle l'IA
05:48qui vous permet d'avoir beaucoup plus de précision sur ce qui se passe à l'intérieur des villes.
05:53Et alors, derrière, quelles actions ? Vous travaillez avec les collectivités, qu'est-ce qui se met en place ?
05:59Ces outils, ou en tout cas ces analyses, sont très demandées par les décideurs et les pouvoirs publics pour observer les tendances de mobilité
06:10et ensuite prendre des mesures, notamment pour dévier le trafic, construire de nouvelles rocades et autres aménagements routiers.
06:19C'est sur la base de ces données qu'on peut faire des constats sur la mobilité, sur les tendances de mobilité.
06:24Pourtant, on roule de moins en moins vite, on a de plus en plus de congestion.
06:27A Lyon, on voit qu'il y a eu une chute importante.
06:30Ça veut dire quoi ? Qu'il n'y a pas d'action derrière ? Ça ne suit pas ?
06:33Ou parce que de toute façon, on a décidé que la voiture n'avait plus sa place en ville ?
06:36Tout à fait. Alors, ce n'est pas forcément le reflet d'inaction, ou même pas du tout le reflet d'inaction.
06:42C'est une tendance aussi qui peut être liée, comme je l'ai expliqué, à d'autres facteurs.
06:47Et justement, la mise en place d'actions, par exemple de faire des travaux pour réaménager, pour donner de la place aussi aux mobilités douces, etc.,
06:56ça va avoir à court terme une influence puisque les travaux vont induire des ralentissements.
07:00Ah, donc pour le meilleur à suivre, c'est ça que ça nous dit.
07:02Exactement, exactement.
07:03Soyons patients alors. Merci beaucoup Priscille Azaché.
07:06Vous êtes ingénieure cartographe et responsable des partenariats chez TomTom.
07:10Merci pour vos éclairages. À suivre, c'est notre grand rendez-vous cyber.
07:18Dans le grand rendez-vous cyber aujourd'hui de Smartech, nous avons Garance Mathias.
07:22Bonjour Garance.
07:23Bonjour Delphine.
07:24Avocate, fondatrice, dirigeante de Mathias Avocat et Tatiana Larina.
07:27Bonjour Tatiana.
07:28Bonjour.
07:29Vous êtes présidente cofondatrice du cabinet de conseil en cybersécurité Opéra Cyber.
07:33Et puis, nous sommes connectés aussi avec Paul-Olivier Gibert, président de l'AFCDP.
07:38AFCDP qui est à l'origine de ce qui va s'ouvrir très prochainement, la 19e édition de l'université des DPO.
07:45Tous ceux qui sont responsables de la protection des données personnelles dans les entreprises.
07:50Ce sera donc le 6 février la plus grande conférence organisée en France sur le thème de la conformité au règlement européen
07:57sur la protection des données qui aura bientôt 9 ans.
08:00Ça passe vite.
08:01Beaucoup de défis quand même qui restent encore à relever.
08:04Et puis des évolutions qui sont attendues.
08:06Paul-Olivier, je voulais qu'on commence déjà avec les problématiques que vous allez aborder lors de cette conférence
08:12en matière de conformité.
08:13Quels sont les défis aujourd'hui ?
08:14Alors, cette 19e édition de l'université des DPO se tiendra le 6 et le 7 février, comme vous l'avez rappelé.
08:22A la maison de chez la chimie, il y aura environ 1000 personnes qui participeront à cet événement
08:27autour d'un thème central qui est celui de la gouvernance des données
08:31avec les enjeux juridiques, éthiques et technologiques qui sont liés au RGPD.
08:37Et puis, autre point qui est important, l'excerpt de l'intelligence artificielle à travers deux volets.
08:42On va en parler, Paul-Olivier, mais je voulais qu'on commence sur la conformité.
08:45Parce que je disais que le RGPD a 9 ans.
08:47Donc on se dit, ça y est, les DPO, ils ont compris comment on faisait pour être conformes aux règlements européens.
08:52Pourtant, c'est encore un sujet aujourd'hui dans les entreprises.
08:56Alors, quels sont les défis ?
08:57Alors, les défis sont tout d'abord de caler la position et le rôle du DPO.
09:04Ça commence à être fait dans de nombreuses structures.
09:08La deuxième chose, c'est le fait que le RGPD est une réglementation
09:14qui est écrite de manière unique et qui s'applique à tous les secteurs dans leur diversité.
09:19Donc il y a un gros travail de transposition et de compréhension
09:23pour adapter des règles et des méthodes qui permettent de garantir
09:28le respect de la protection des données à caractère personnel
09:31au niveau de chaque organisation, entreprise ou autre.
09:35Vous confirmez, Madame, en plateau, que ça reste un sujet, la conformité ?
09:40C'est un sujet, mais plus que jamais d'actualité.
09:43Alors, l'université des DPO est là, mais la protection des données,
09:47vous l'avez rappelé, le RGPD, quelques années déjà.
09:51Mais j'allais dire plus de 40 ans en France.
09:53Donc la réglementation sur la protection des données, elle est là, elle est ancienne.
09:58Et j'allais dire des défis et des opportunités.
10:01Conformité, un mot clé, conformité, ce mot va avec confiance.
10:05Les DPO sont des acteurs clés, sont des clés de voûte.
10:08Beaucoup de choses reposent sur eux.
10:10Des défis, des opportunités, une complexité réglementaire.
10:14Effectivement, le RGPD, tout le monde en a entendu parler.
10:17La sensibilisation est là.
10:19Les décisions de l'autorité de contrôle de l'ACNIL font avancer les choses.
10:23Mais il y a l'approche par l'IA, on va en parler, je suppose.
10:27Il y a l'approche aussi par l'évolution des cyberattaques,
10:30des menaces, une complexité géopolitique qui est là,
10:33une complexité réglementaire, des enjeux par rapport aux données.
10:37Donc le DPO ne doit pas être seul.
10:39C'est une fonction aussi qui doit être transverse.
10:41Et ce rôle, effectivement, de gouvernance, conformité,
10:44je rajoute et j'ajoute le mot confiance.
10:47Sans confiance, rien ne va se faire.
10:50Tatiana, vous voulez rajouter quelque chose ?
10:52Oui, je vais bien rajouter quelque chose parce que justement,
10:54Opéra Sibière accompagne des sociétés de taille modeste.
10:57Nous accompagnons les TPO, les PMO.
10:59Et malgré ce qu'on peut entendre sur le plateau ou dans l'écosystème,
11:04l'GPD n'est pas connu par toutes les entreprises.
11:07Ils ont entendu parler, ils savent peut-être que ça existe,
11:10mais ce n'est pas pour autant qu'on a un DPO qui est nommé
11:13ou un DPO délégué qui prend en responsabilité cette partie au sein de l'entreprise.
11:19Et bien souvent, beaucoup bien souvent que j'aimerais que ce soit le cas,
11:25on est obligé dans notre cadre de diagnostics Sibière
11:28et l'accompagnement Sibière à aussi accompagner la société,
11:31comment être plus mature face aux questions.
11:34De leur rappeler encore ce RGPD.
11:36Par quel bout vous allez prendre ce sujet de l'intelligence artificielle,
11:39Paul-Olivier, lors de la conférence ?
11:42Alors, la conférence de l'intelligence artificielle,
11:45c'est la poursuite d'une évolution technologique qui a été engagée il y a 80 ans.
11:51Garance rappelait que la CNIL avait 45 ans et des poussières,
11:57que le RGPD a été précédé par la loi Informatique et Libertés.
12:02La problématique, c'est qu'entre 1978 et aujourd'hui,
12:07la technologie, le monde a totalement changé.
12:10C'est-à-dire qu'on n'a plus des traitements.
12:13Il y a deux choses qui ont disparu et qui existaient en 1978
12:16et qui étaient au cœur de l'informatique.
12:19La première, c'était les opératrices de saisie, les opérateurs de saisie.
12:22C'est-à-dire des gens qui prenaient un papier,
12:24lisaient ce qu'il y avait sur le papier, le tapaient pour que ce soit ensuite traité.
12:28Et la deuxième chose, c'est qu'en 1978,
12:32notre vie était matériellement une vie papier et des supports matériels.
12:38Or, maintenant, on est de plus en plus dans un environnement qui est dématérialisé.
12:42Donc les enjeux ont complètement changé.
12:44Et puis, on a eu des vagues d'innovation.
12:47Et la dernière qui est en cours, que nous rencontrons, c'est celle de l'IA.
12:50Donc c'est des choses qui sont extrêmement puissantes.
12:53C'est-à-dire qu'on peut considérer que dans deux ans,
12:56plus personne n'écrira directement sans avoir recours à de l'intelligence artificielle.
13:02Mais c'est aussi quelque chose qui est d'une très grande instabilité.
13:07Dans quelques jours aura lieu le sommet de l'IA à Paris.
13:13Un sujet qui est intéressant et qui a longtemps été un sujet tête de file.
13:20Mais ensuite, Donald Trump est arrivé.
13:23Et il a annoncé un plan d'investissement de 500 milliards de dollars sur l'IA.
13:28Donc effectivement, on s'est demandé ce que l'Europe pourra suivre.
13:31Uniquement sur la partie infrastructure, data center, je précise.
13:35C'est plus complexe que ça. Il faut regarder les chiffres.
13:39Il y en a d'autres qui sont annoncés par ailleurs pour les grands modèles de langage.
13:43Alors, on a effectivement ce projet d'investissement sur 500 milliards,
13:48qui est un chiffre clé. Ensuite, il faut regarder comment il fonctionne.
13:51Il y a des tranches qui sont prévues.
13:53Et on a aussi un problème qui est important aux États-Unis,
13:56qui est celui de la qualité des infrastructures,
13:58et notamment de sa capacité à produire de l'électricité.
14:01Mais ce n'est pas directement le sujet sur lequel j'intervenais.
14:04C'est-à-dire qu'il y avait un point qui était pensé.
14:07Est-ce qu'on va pouvoir, en Europe, avoir une capacité à traiter
14:12et à fournir des langages, des DLLM, d'autres outils d'IA ?
14:17Et entre autres, est arrivé le petit dernier de Chine,
14:21qui a expliqué que nous, on fait à peu près la même chose que Shajipeti,
14:24mais avec un coût inférieur divisé par 50.
14:29Donc ça, c'est une complexité qui est assez forte.
14:32Et puis la deuxième chose qui est importante,
14:34c'est qu'en Europe, on a mis en place une réglementation sur l'IA,
14:39qui est une réglementation spécifique qui traite de méthodologie de traitement
14:46qui n'est pas quelque chose qui se superpose ou qui remplace le RGPD,
14:51mais qui a des effets de bord qui sont non négligeables.
14:55En particulier, certains traitements, qui sont des traitements non sensibles,
14:59le deviennent lorsqu'ils sont recours à des outils d'IA.
15:02Donc c'est ça qui va modifier et qui crée cette instabilité
15:05et cette complexité avec laquelle les organisations doivent vivre
15:08et dans lesquelles les DPO sont un point de soutien
15:11pour obtenir de la confiance en passant par la conformité.
15:18J'ai répondu à votre question ?
15:19Absolument, merci.
15:21Et ça fait partie des défis, effectivement,
15:24de voir comment tout ça va s'imbriquer, les actes avec le RGPD.
15:28On vous souhaite une très bonne conférence, Paul-Élivier Gilbert.
15:31Merci d'avoir été avec nous.
15:33Je rappelle que vous êtes le président de l'AFCDP.
15:36Nous, on va continuer nos autres sujets du rendez-vous cyber.
15:40Évidemment, dedans, il y a l'intelligence artificielle,
15:42ces intelligences artificielles génératives, ces grands modèles de langage.
15:45Quels sont, selon vous, les risques qu'ils créent,
15:48les nouveaux risques qu'ils créent en entreprise ?
15:50Garance.
15:51Alors, effectivement, risque et opportunité, toujours pareil.
15:54Les balances.
15:55Déjà, il y a le règlement de l'IA qui est rentré en application.
15:58Peut-être une date à rappeler, pour qu'on l'ait en tête,
16:01de février prochain, interdiction des IA à haut risque.
16:05C'est-à-dire toutes les IA, donc les IA génératives,
16:08qui pourraient gérer nos émotions.
16:10Deviner ce qu'on pense, donc faire des orientations,
16:13faire des biais sur les personnes vulnérables.
16:15Les personnes vulnérables, il faut rappeler aussi,
16:17c'est effectivement aussi des collaborateurs,
16:19des salariés avec le lien de subordination.
16:21Donc, tout un pan, effectivement, du texte,
16:24c'est un article très précis de l'IA Act,
16:26qui décrit ces IA interdites.
16:29Et première date, interdiction d'utiliser ces IA de février.
16:34Donc, l'IA Act est un règlement, pareil,
16:37texte de compromis, comme le RGPD.
16:39Approche par les riches, comme le RGPD.
16:41Les risques.
16:42Les risques, pardon, comme le RGPD.
16:44Transparence, bien entendu.
16:46Mais transparence pour bien connaître
16:48quels sont les jeux des modèles entrants.
16:50Quels sont les LLM utilisés.
16:52Traçabilité.
16:53Ce ne sont pas que des mots-clés.
16:55Ce sont des mots-clés qu'on va devoir transposer
16:57dans la technique, dans l'organisation,
17:00dans la connaissance.
17:01Donc, effectivement, dans les contrats.
17:03Ça appelle d'autres mots.
17:05La propriété intellectuelle.
17:06N'oublions pas.
17:07On parle de risque par rapport aux personnes.
17:09On parle de risque par rapport à l'intervention de cette IA,
17:12par rapport, je prenais l'exemple,
17:14de la gestion de nos émotions.
17:15Mais ça veut dire aussi quels sont les contrepoids.
17:18Qu'est-ce que je mets en place
17:19pour connaître le fonctionnement de l'IA,
17:21pour connaître les jeux des données entrantes et sortantes.
17:24Donc, contrepoids veut dire aussi mesure technique.
17:28Traçabilité veut dire aussi contrat.
17:30Et par exemple, est-ce que vous voyez ça comme un risque aujourd'hui,
17:34le fait que des grands modèles de langage américains
17:38se diffusent dans les entreprises,
17:40et puis aussi chinois, comme dit Psych.
17:42Bien sûr, il y a des risques.
17:43Mais ce sont les risques qui sont au-delà des risques cyber
17:46et autres conformités.
17:47C'est les risques étatiques.
17:49C'est les risques que la population, finalement,
17:51utilise les sources d'informations qui ne sont pas forcément fiables
17:55ou non pas fiables à 100%.
17:57Parce que déjà, les aspects critiques,
17:59il faut les développer de très jeune âge.
18:02Et ensuite, s'ils sont corrompus par l'usage massif
18:05des solutions faciles à utiliser,
18:07donc on est face à un risque d'avoir des citoyens
18:12qui ne sont pas capables de prendre de bonnes décisions,
18:15donc des dirigeants par la suite, etc.
18:19Maintenant, si on parle de risque cyber,
18:21ce qui est mon métier, c'est très passionnant.
18:23Comme toutes les autres technologies innovantes,
18:28sur le plan cybersécurité,
18:31la question que je me poserais avant d'utiliser l'IA,
18:34c'est quel est mon bénéfice et quel est le sacrifice ?
18:37Parce qu'il y a un sacrifice ?
18:39Parce que finalement, on développe une compétence
18:43qui est basée sur un tabouret avec un seul pied.
18:48Si demain, cette compétence n'est pas de qualité,
18:52notre avantage compétitif ne sera pas là.
18:55Aujourd'hui, je ne pense pas qu'un avocat
18:57va utiliser l'IA pour accompagner ses dossiers.
19:00Moi, je ne vais pas accompagner une société...
19:02Je ne sais pas, on posera la question à l'avocat.
19:04Moi, je ne vais pas accompagner mes clients
19:07en posant des questions quand je fais mes diagnostics cyber
19:10ou d'autres types d'accompagnement.
19:12Là, tu penses, je vais réfléchir par moi-même,
19:15par mon expérience, et très souvent,
19:17quand je pose ces questions à la plateforme
19:20d'intelligence artificielle, les réponses ne sont pas pertinentes.
19:23Donc, attention dans l'usage.
19:25Maintenant, ça peut nous aider à peut-être aller plus vite,
19:28mais ce qui a été dit à juste titre lors du forum de compétences,
19:32organisé par le forum de compétences en décembre,
19:37les sujets où les questions nécessitent une réponse intelligente
19:45ne seront pas apportés par l'IA.
19:47En tout cas, aujourd'hui, ils ne le sont pas apportés.
19:49C'est ce que je voulais dire, pour l'instant,
19:50parce que tout ça va très vite.
19:51Alors, je voulais quand même qu'on fasse un petit focus
19:53sur des lycéens qui vont se retrouver plongés
19:55dans un combat cyber.
19:56Passe ton hack d'abord.
19:58Donc, ça a commencé et ça va durer comme ça
20:00jusqu'au 7 février.
20:01Des lycéens, mais pas seulement.
20:03Il y aura aussi des jeunes qui sont en BTS
20:06ou dans des classes préparatoires
20:08qui vont s'essayer à la cyber dans une grande enquête.
20:12Je voulais avoir votre sentiment là-dessus,
20:14parce qu'il y a quand même plus de 7 000 élèves et étudiants
20:16qui y participent.
20:18Aujourd'hui, c'est un sujet compliqué
20:21de parler de la cyber auprès des jeunes.
20:24On a besoin de ce genre d'événement.
20:26Alors, c'est fondamental, ce genre d'événement.
20:29C'est essentiel pour développer l'esprit critique,
20:32pour maîtriser effectivement les choses.
20:34Et c'est essentiel, effectivement, peut-être de le faire,
20:36là, on le fait pour le lycée,
20:38mais peut-être réfléchir aussi pour le faire
20:40avant même le lycée.
20:41Parce que déjà, les usages sont là.
20:44Donc, pourquoi pas, on va dire,
20:47développer des initiatives pour les collégiens,
20:49pour le primaire, puisqu'on sait tous
20:51que ça passe par l'éducation.
20:53Et on sait tous aussi que l'esprit critique est nécessaire.
20:56Donc, cette édition, il faut souligner aussi
20:59les organisateurs, il y a le com cyber,
21:01il y a un développement extrêmement énorme.
21:03Des investissements énormes,
21:05une application très importante des autorités.
21:09Des lycéens, je crois que c'est la deuxième édition,
21:12qui vont pouvoir se plonger dans ce jeu.
21:15Mais dans ce jeu...
21:16Il y a une partie ludique.
21:17Oui, effectivement.
21:18Et on sait effectivement qu'on apprend
21:20par cette partie ludique, qu'on apprend en jouant,
21:23qu'on apprend effectivement.
21:24Alors, c'est un jeu, effectivement,
21:25avec un scénario très intéressant.
21:27Donc, initiatives, on va dire, très riches
21:30pour former, on va dire, les citoyens
21:32que sont les jeunes lycéens BTS.
21:35Et peut-être une opportunité pour poursuivre
21:37et développer avant même le lycée.
21:40Peut-être avoir ces nouveaux talents
21:42qui nous manquent aujourd'hui beaucoup dans la cyber.
21:45Merci beaucoup.
21:46On arrive déjà à la fin de notre grand rendez-vous ensemble.
21:49Garance Mathias était avec nous,
21:50deux Mathias Avocat et Tatiana Larina d'Opéra Cyber.
21:53Merci à toutes les autres.
21:54Merci beaucoup.
21:56On termine cette édition avec une rencontre,
21:58celle de l'auteur d'HyperArme,
22:00Anatomie d'une intranquillité planétaire
22:02parue aux éditions Nullius in Verba.
22:05Et bien, dans HyperArme, on oppose
22:07notamment ces hyper-armes numériques
22:09et l'intelligence artificielle à l'hyper-humain.
22:11Et son auteur, Flavien Chervet,
22:13développe cette idée de création
22:15d'une industrie de la sécurisation des IA en Europe.
22:19On l'écoute.
22:20Flavien Chervet,
22:21bonjour.
22:22Vous venez de présenter votre nouvel ouvrage
22:24qui parle d'intelligence artificielle.
22:26Mais d'ailleurs, ce n'est pas dans le titre.
22:28Ça m'a frappé.
22:29Votre titre, c'est HyperArme,
22:31un titre très guerrier, finalement.
22:33En effet, c'est le point de départ du livre.
22:35C'est de parler des enjeux militaires de l'IA
22:37qui sont en train de bouillonner actuellement.
22:39Mais l'enjeu global du livre,
22:40c'est quand même d'apporter une analyse géopolitique,
22:42un regard bien plus large que l'aspect militaire,
22:44même si je prends comme point d'entrée le sujet militaire.
22:47On démarre avec l'exemple de l'Ukraine,
22:49la guerre en Ukraine.
22:50Mais on termine avec un espoir, finalement.
22:53Il faut que l'Europe ose.
22:54On doit oser quoi ?
22:56Ça, c'est mon écriture.
22:57J'ai un optimisme moral.
22:59Je veux apporter des regards positifs,
23:01même quand il y a, en effet, un contexte
23:03qui ne l'invite pas forcément à ça.
23:05Après, pour répondre à la question de l'Europe,
23:07je crois qu'on a des cartes à jouer
23:09qui ne sont pas nécessairement d'essayer
23:11de faire compétitiviser l'Europe.
23:13Je crois qu'on a des cartes à jouer
23:15qui ne sont pas nécessairement d'essayer
23:17de faire compétition aux Etats-Unis
23:19et aux énormes systèmes d'IA très performants,
23:21mais potentiellement de se positionner
23:23sur une industrie de ce qu'on appelle l'alignement,
23:25qui est un des domaines de la sécurisation de l'IA,
23:27pour faire en sorte qu'on sache contrôler
23:29des systèmes d'IA beaucoup plus performants.
23:31Là-dessus, c'est une industrie qui est naissante.
23:33L'Europe a, je crois, un coup à jouer
23:35sans avoir un besoin capitalistique énorme
23:37pour lancer cette industrie
23:39et être parmi les leaders.
23:41Peut-être pas le leader, mais parmi les leaders.
23:43Il y a une opportunité en ce moment.
23:45Finalement, ce serait faire un pont
23:47entre cette capacité qu'est l'Europe
23:49à réglementer le champ du numérique,
23:51en tout cas ces dernières années,
23:53et là, en l'occurrence avec l'IACT,
23:55c'est faire de l'IACT, finalement,
23:57un tremplin vers la création
23:59d'une véritable industrie
24:01pour sécuriser l'IA.
24:03C'est à ça que vous pensez ?
24:05C'est à peu près à ça. En effet,
24:07plutôt qu'en faire un tremplin,
24:09ça permet de compléter l'IACT
24:11et de la rendre crédible.
24:13Faire du réglementaire, c'est bien,
24:15je ne suis pas du tout contre,
24:17mais s'il n'y a pas une dimension industrielle
24:19qui permet de rendre crédible
24:21la puissance d'une Europe ou d'une France
24:23sur le sujet, la dimension réglementaire
24:25sera juste moquée.
24:27Donc, on a besoin de cette industrie à côté
24:29et je pense qu'en effet, construire une industrie
24:31de la sécurisation et de l'alignement
24:33des systèmes d'IA, ça permet d'être cohérent
24:35avec les valeurs humanistes
24:37universalistes de l'Europe
24:39et pour ça, il faut évidemment
24:41qu'il y ait une volonté politique
24:43de s'impliquer vers ce chemin
24:45de l'alignement et de la sécurisation des IA.
24:47Est-ce que vous avez l'impression qu'aujourd'hui,
24:49en Europe, on a cette véritable conscience,
24:51cette motivation politique d'avancer
24:53sur le chemin de l'IA ?
24:55L'Angleterre a déjà fait des déclarations
24:57par la bouche de son ancien Premier ministre
24:59dans ce sens-là, donc il commence à y avoir
25:01une conscience. Aux Pays-Bas, il y a pas mal
25:03d'études sur le sujet qui commencent à être sérieuses.
25:05En France, on a encore, je pense,
25:07au niveau de l'Europe, un peu de retard là-dessus.
25:09Pourquoi ? Parce qu'on est dans un pays
25:11qui a beaucoup de mal à assumer,
25:13il y a une espèce de pudeur, on a beaucoup de mal
25:15à assumer qu'il y ait un gros sujet.
25:17On a l'impression que parler de systèmes d'intelligence artificielle
25:19très puissants, plus intelligents que l'humain,
25:21de super-intelligence, c'est des sujets
25:23de science-fiction, on a l'impression que ça fait peur
25:25donc il ne faut pas en parler, etc. Alors que c'est devant nous
25:27et que c'est des sujets qu'il faut prendre à bras-le-corps
25:29aujourd'hui. Et sécuriser les systèmes d'IA,
25:31souvent, on le ramène à la science-fiction,
25:33c'est les lois d'Asimov, on va mettre
25:35des lois dans un robot pour qu'il évite de tuer tout le monde.
25:37Alors, c'est la version très simpliste,
25:39mais aujourd'hui, c'est des vrais sujets, des systèmes d'IA
25:41dont on perd le contrôle dans les labos,
25:43ou en tout cas qui font des choses auxquelles on ne s'attendait pas.
25:45Et donc, on a besoin de construire un savoir-faire
25:47scientifique et technologique,
25:49industriel, très rapidement là-dessus.
25:51Donc, la France
25:53n'a pas encore vraiment avancé,
25:55mais on voit bouillonner des signaux
25:57et je pense que cette année, le politique peut prendre ça en compte.
25:59Quelles sont les conditions ?
26:01Alors, il y a la volonté politique,
26:03il y a évidemment le capital, la capacité d'investissement
26:05aujourd'hui en Europe.
26:07Quelle autre condition, selon vous, est nécessaire
26:09pour que l'Europe ait quelque chose à dire
26:11dans le domaine de l'IA ?
26:13Alors, la priorité, pour moi, elle est capitalistique
26:15pour qu'on ait quelque chose à dire, c'est qu'on arrive à structurer
26:17une force capitalistique qui ne sera pas
26:19du niveau des Américains, mais qui soit bien supérieure
26:21à celle qu'on a aujourd'hui. Donc, il y a plein de leviers
26:23pour faire ça, mais le problème, ça va être qu'il faut aller vite.
26:25Après, un
26:27élément supplémentaire, c'est de
26:29structurer un écosystème de recherche.
26:31Aujourd'hui, on a un super écosystème de recherche mathématique
26:33et mathématique appliquée sur l'IA,
26:35mais on a encore assez peu, par exemple,
26:37de chaires de recherche dédiées à la question de l'alignement,
26:39de la sécurisation des systèmes d'IA.
26:41Là, aux Etats-Unis, il commence à y avoir une recherche
26:43qui se développe, aux Pays-Bas aussi.
26:45Donc, je pense qu'il y a des chaires à créer
26:47et ça va être le troisième pilier, capitalistique,
26:49politique, et puis
26:51au niveau de la recherche fondamentale.
26:53Alors, au départ, quand on commence la lecture
26:55de votre ouvrage, on se dit que vous êtes plutôt
26:57technocritique. À la fin,
26:59on s'interroge, finalement, si vous êtes un
27:01technosolutionniste. Vous vous situez où ?
27:03Évidemment, aucun des deux, sinon ça serait trop
27:05facile. Je pense que la technologie
27:07est un phénomène monde.
27:09C'est une part de l'humain.
27:11Penser l'humain sans la technologie, ça n'existe pas.
27:13Bergson disait qu'on est
27:15homo faber, l'homme qui fabrique.
27:17C'est les deux faces d'une même
27:19pièce, l'humain et la technique.
27:21Pour moi, ça serait ridicule d'être technocritique
27:23au sens où on voudrait enlever de la technologie.
27:25Notre avenir, c'est plus de technologie.
27:27Je ne crois pas l'inverse. Par contre,
27:29le technosolutionniste ne me va pas
27:31parce qu'il supposerait que la technologie
27:33est tout, notre avenir. Alors que
27:35il y a des voies à prendre, en effet.
27:37Ma position est technopoétique.
27:39C'est d'essayer
27:41d'apporter un regard sur la technologie
27:43qui soit plus sensible.
27:45Ça veut dire ne pas mettre
27:47au rebut la dimension capitalistique,
27:49industrielle, pour être concret
27:51et prendre le sujet à bras-le-corps.
27:53Mais ça veut dire garder cette part d'idéalisme
27:55qui permet de construire des visions d'avenir qui soient belles.
27:57Merci beaucoup.
27:59C'était Flavien Chervet, l'auteur de Hyper-Âme
28:01que vous pouvez d'ores et déjà commander
28:03sur le site Nullius Inverba,
28:05son éditeur. Merci à tous
28:07de nous suivre. C'était Smartech,
28:09que vous suivez sur la chaîne BISMARCK FOR TECH, mais aussi
28:11en podcast. A très bientôt pour de nouvelles
28:13discussions sur la tech.