Jeudi 19 décembre 2024, SMART TECH reçoit Margarita Zlatkova (Head of Data & Programmatic EMEA, Weborama) , Jérôme Malzac (directeur de l'innovation et expert en IA générative, Micropole) , Henri d'Agrain (Délégué général, Cigref) et Vincent Balouet (Dirigeant, Maitrisedescrises.com)
Category
🗞
NewsTranscription
00:00Bonjour à tous, c'est jour de grand débrief aujourd'hui dans Smartech, on est ensemble pour une demi-heure, vous allez découvrir les sujets et mes invités juste après.
00:16C'est parti pour le grand débrief de Smartech, aujourd'hui autour de la table pour commenter l'actualité dans la tech, Margarita Zlatkova, bonjour.
00:28Bonjour.
00:29Vous êtes Directrice Data et Programmatique chez Weborama, je le rappelle, mais vous êtes maintenant un habitué de ce plateau, également très habitué Henri Dagrin, bonjour.
00:37Bonjour Elphine.
00:38Déléguée Générale du SIGREF et Jérôme Malzat qui commence à être un habitué finalement de cette émission, Directeur de l'Innovation et Expert en IA Génératif du cabinet de Conseil en Transformation, Micropole, bonjour également.
00:51Alors on va confronter nos points de vue aujourd'hui sur l'immunité du cloud avec cette question, est-ce que la France serait prête à céder sur ce sujet ?
01:00Et oui parce qu'on est à la veille finalement d'une échéance importante dans le domaine de la sécurité du cloud et de la protection des données des Européens contre les lois extraterritoriales qui permettent à certains pays d'avoir accès aux données envers et contre nos propres législations finalement.
01:18Donc on va rappeler les enjeux, on va aussi s'intéresser à pourquoi la France pourrait plier sur ce dossier alors qu'elle y est totalement opposée et quelles seraient les conséquences.
01:28Voilà pour ce grand sujet. On va aussi parler de Groc, de Sora, de Veo et on va voir si c'est génial ou alors si ça va vraiment trop loin toutes ces IA Génératives qui sont de plus en plus impressionnantes.
01:40Et puis on parlera microciblage avec l'Union Européenne, enfin la Commission Européenne plus précisément qui a été prise la main dans le sac.
01:48Mais d'abord risque-t-on un bug de l'an 2025 ? Et oui en faisant écho à ce bug de l'an 2000, va-t-on se retrouver face au même problème pour en parler ?
01:58J'ai convié le spécialiste des crises Vincent Balouet de maîtrise des crises et qui a piloté finalement les cellules de crise au moment du bug de l'an 2000.
02:08Alors Vincent bonjour, est-ce qu'on risque ce bug de 2025 ?
02:13En principe ça devrait passer comme une lettre à la pause si je puis dire. Néanmoins on a un petit doute, alors il faut l'expliquer techniquement et très vite pour qu'on comprenne.
02:23A l'époque, j'ai eu le plaisir de piloter tout ça de 92 à 2000 en transitant par le Sigref d'ailleurs au passage.
02:29Et donc les entreprises qui s'y sont prises un peu tard, c'est-à-dire en gros les administrations et là où c'est compliqué d'acheter, ont fait ce qu'on appelle du fenêtrage.
02:39En simplifiant, on a gardé les dates sur deux, dans le monde entier ça s'est passé comme ça et on a fait un petit algorithme pour repousser le problème.
02:47C'est-à-dire dit autrement, en 99 on a dit que ça vaut 1999, 00 on dit que ça vaut 2000, 01 etc.
02:56Mais à un moment donné il faut bien revenir et c'est ce qu'on appelle la borne de fenêtrage.
03:00Et il y a beaucoup d'entreprises qui ont fenêtré en 07 et le chef de projet en 2000 a été envoyé à la retraite et ça s'est planté en 2007.
03:09Donc c'est les allocations familiales qui ont envoyé des lettres de félicitations au centenaire mais au nouveau-né, donc c'était en France.
03:15En 2010, les cartes bancaires allemandes se sont toutes arrêtées et ont été avalées par les distributeurs parce que c'était fenêtré en 010 et tout le monde avait oublié de le dire.
03:24En 2020, c'est les parkings new-yorkais qui ont empêché les voitures de payer les parkings.
03:29Alors vous allez me dire c'est bien mais enfin bon, parce que c'était fenêtré en 020 et là on est en fenêtrage 025,
03:35c'est-à-dire que dans une petite dizaine de jours maintenant, on saura si oui ou non il y a ce qu'on appelle des résidus,
03:41c'est-à-dire des bouts de code qui traînent, des vieux machins pour dire les choses clairement,
03:45qui ont été fenêtrés en 025 et dont le chef de projet est parti à la retraite sans le dire, enfin sans expliquer ce qu'il fallait faire.
03:51Donc il ne reste qu'une petite dizaine de jours maintenant.
03:53Donc tout le monde a été alerté bien sûr, en principe le nécessaire a été fait, mais enfin on n'exclut pas,
03:58avec les autres anciens responsables en 2000 pays avec lesquels j'ai pu échanger,
04:03on n'exclut pas un petit peu de pagaille au 1er janvier prochain.
04:06C'est rapide ce correctif là ? Je ne sais pas, certains DSI nous écoutent en ce moment même ?
04:13Oui, alors là maintenant c'est un petit peu tard parce qu'on a quand même prévenu il y a pas mal de temps.
04:18Alors il y a deux façons de faire, la première c'est de chercher tout de suite les dates dans les vieux codes,
04:22mais ça ne se fait pas en 15 minutes parce qu'il faut les chercher, les trouver, l'algorithme de date, le modifier,
04:29et le plus simple sans tout redévelopper à zéro, c'est de repousser l'échéance encore de 5 ou 10 ans
04:34et en espérant que tout ceci soit mis à la poubelle d'ici là.
04:37L'autre façon de faire c'est d'attendre le 1er janvier, de regarder là où ça plante,
04:41et du coup on voit où ça plante, et de faire les corrections.
04:45Le petit problème c'est qu'on met la pagaille dans les données au passage,
04:48donc dans un cas comme dans l'autre il ne faut pas trop traîner,
04:50parce que si on ne fait rien on va se retrouver avec la pagaille.
04:53Alors s'il y a une pagaille que c'est dans une seule entreprise française,
04:56on arrivera à surmonter la difficulté et le PIB va très bien, même s'il va très mal,
05:02et par contre si tout est planté là ça va devenir très méchant,
05:06mais franchement je n'y crois pas, je crois peut-être quelques incidents et c'est tout.
05:09Niveau de risque a priori assez faible.
05:13Le risque existe chez les uns et les autres,
05:19mais ça m'étonnerait qu'il soit systémique,
05:22c'est-à-dire que ça soit tellement le foutoir partout que ça fasse tomber les uns et les autres en même temps.
05:26Ça j'y crois pas du tout.
05:27En revanche, qu'il y en ait un qui soit bien bloqué, ça c'est très possible.
05:30C'est ce que je voulais dire, pardon, je n'ai pas été très précise.
05:33Vous avez monté une cellule de crise aussi grève pour l'an 2025 ?
05:37Non, on n'a pas monté de cellule de crise.
05:40Et par ailleurs, après avoir consulté quelques adhérents,
05:45notamment ceux qui ont des systèmes qui peuvent être de l'héritage,
05:50un peu anciens, sur des systèmes qu'il est difficile de migrer,
05:54en fait il y a eu une séparation qui a été faite entre les systèmes cœur,
06:00donc le système d'information, et les systèmes d'information dits référentiels.
06:06Et ce sont ces systèmes d'information dits référentiels qui portent des éléments de date.
06:11Et ça a été imposé par les régulateurs,
06:14et qui sont très attentifs au traitement de ce type d'obsolescence.
06:17C'est vrai pour les activités très régulées comme la banque, l'assurance.
06:21Alors dans les administrations publiques, c'est plus compliqué à dire.
06:25Mais dès que vous avez une activité qui est très régulée,
06:27ce type de sujet est particulièrement bien monitoré.
06:30Donc il ne faut pas dire qu'il ne va rien se passer, moi j'en sais rien.
06:35Mais manifestement pour les activités un peu critiques,
06:39ce sujet est particulièrement sous contrôle.
06:44Bon et puis le bug de l'an 2000 finalement,
06:47beaucoup ne l'ont pas vu passer.
06:49Et c'est tant mieux qu'il y ait eu la mobilisation.
06:51Alors Vincent, vous êtes spécialiste des crises,
06:56avec maîtrise des crises.
06:59Est-ce que vous êtes mobilisé en ce moment sur Mayotte,
07:02qui est en plein drame.
07:03L'urgence c'est évidemment de sauver des vies,
07:05mais il y a aussi ces énormes besoins de communication.
07:09On sait que les técoms sont complètement tombés.
07:12Tout est tombé à Mayotte.
07:14Il doit rester juste une poignée de pylônes encore debout.
07:19Donc c'est évidemment trop tôt pour parler de reconstruction.
07:22Mais le sujet c'est peut-être cette question de la résilience aujourd'hui
07:26des infrastructures face à ces crises climatiques
07:30qui sont peut-être pas plus fréquentes, mais plus importantes.
07:36Alors sur Mayotte, très vite, oui c'est important.
07:40Le sujet tout de suite c'est le secours aux personnes.
07:42Nous on a trois grandes entreprises très connues
07:45dans le secteur banque, assurances et grandes distributions
07:47qui ont des activités sur place.
07:49Et pour l'instant ils ont des effectifs qui manquent à l'appel.
07:51Donc le sujet c'est de trouver les gens
07:53et de vérifier que tout le monde va bien.
07:54Et les équipes et les familles,
07:55parce que ce sont des salariés des entreprises comme tout le monde.
07:58C'est un département français.
07:59Et donc il faut s'en occuper.
08:00Alors après, le temps de la reconstruction,
08:02c'est vraiment pas le sujet tout de suite.
08:04Tout est par terre comme vous l'avez dit.
08:05Et avec le temps, ça va se reconstruire.
08:08Le Président de la République est sur place.
08:10Donc des annonces vont être faites en matière de plans de reconstruction
08:12d'infrastructures et de ponts logistiques
08:15pour renvoyer du matériel et des équipements.
08:18Mais là c'est encore vraiment trop tôt
08:20pour donner un horizon de retour à une vie acceptable.
08:23C'est plusieurs semestres avant que les choses redeviennent debout.
08:27Alors l'autre partie de votre question,
08:29c'est est-ce qu'avec le temps, tout ceci,
08:31et le réchauffement climatique,
08:33est-ce que les infrastructures des systèmes d'information doivent se durcir ?
08:35Évidemment oui.
08:37Et donc il y a du point de vue des DSI,
08:39deux opérations que nous on a lancées de notre côté.
08:41La première, c'est d'être prêt à réagir
08:43le jour où on se prend une tempête sur soi.
08:45C'est-à-dire qu'il y a une catastrophe
08:47qui arrive sur un datacenter dans une grande entreprise
08:49et tout est par terre.
08:50Et donc il faut s'habituer à avoir des choses assez violentes
08:53et à se remettre debout rapidement.
08:55Donc c'est un peu la gestion de crise express
08:57pour des DSI touchés par une tempête,
09:00pour dire les choses avec un titre court.
09:02Et l'autre chose, c'est de durcir avec le temps
09:05les infrastructures informatiques
09:07pour les rendre plus robustes et assurables au passage.
09:11À l'évidence, les assureurs aujourd'hui
09:13ont annoncé qu'ils allaient mettre un grand plan
09:16pour prendre en compte le risque climatique qui dérive.
09:18Et donc très concrètement,
09:20ils vont serrer la vis à la fois tarifaire
09:22et à la fois en termes de plancher,
09:24de prévention.
09:25C'est-à-dire qu'ils vont exiger, comme en cyber,
09:28qu'un certain nombre de mesures soient prises
09:30pour protéger les infrastructures informatiques.
09:32Sinon, ça ne sera plus assurable.
09:34Donc ça, de toute façon, on y va.
09:35La question, c'est à quelle vitesse.
09:37Et nous, on a mis un plan avec nous,
09:38tous les gens qu'on accompagne,
09:40pour durcir dans le temps
09:42les infrastructures informatiques
09:44et les rendre à la fois plus solides et assurables.
09:46C'est encore un sujet financier,
09:48mais c'est un sujet important, bien sûr.
09:50Quelqu'un veut réagir ?
09:51Une des stratégies à laquelle on peut également penser,
09:53c'est la stratégie de gouvernance multicloud.
09:55Ce n'est pas mettre tous les gens dans le même panier,
09:57avoir la possibilité de changer,
09:59alors pour les applications stratégiques,
10:01j'entends évidemment pas dupliquer
10:02tout l'ensemble des données d'une entreprise,
10:04mais pour des États,
10:05sur des applications bien stratégiques,
10:06avoir cette capacité à utiliser
10:08de la redondance multirégionale
10:11avec plusieurs cloud providers.
10:13Ça, c'est une solution qui peut être intéressante à anticiper.
10:16Justement, on va continuer à parler du cloud.
10:18Je vais vous libérer, Vincent.
10:19Merci beaucoup d'avoir été avec nous,
10:21Vincent Balouette de Maîtrise des crises.
10:23Ce cloud, c'est un sujet de préoccupation
10:27aujourd'hui au niveau européen.
10:29Vous allez nous résumer la situation, Henri,
10:31parce que vous avez publié avec le SIGREF
10:34une tribune assez alarmante
10:38sur des décisions qui pourraient être prises
10:40au niveau européen
10:41et avoir un impact assez conséquent.
10:43En résumé, si le groupe européen de certification Cyber
10:47donne un avis favorable à la version actuelle
10:50du schéma européen de certification
10:52de sécurité des services de cloud,
10:54alors ça voudrait dire que la Commission européenne
10:56pourrait promulguer un acte d'exécution.
10:59Et le problème, c'est que ce schéma,
11:01aujourd'hui, est expurgé de tout critère d'immunité
11:05aux lois extraterritoriales,
11:07alors que c'est une exigence que la France s'était fixée
11:10avec son propre schéma, le CECNUMCLA.
11:13Henri, rappelez-nous les enjeux, s'il vous plaît.
11:16Tous ces schémas européens de certification de sécurité
11:19sont prescrits par le Cyber Security Act de 2019
11:24et notamment dans son article 51,
11:27le Cyber Security Act impose des obligations minimales
11:31pour les schémas de certification de sécurité.
11:36Et à l'évidence, la version actuelle
11:40de ce qu'on appelle le UCS,
11:43de ce schéma européen de certification de sécurité
11:45des services cloud,
11:47n'est pas conforme à ces obligations minimales
11:50du Cyber Security Act.
11:53Pour une raison assez simple,
11:55c'est que la jurisprudence ouverte...
11:59Ce que vous dites, c'est que ce n'est pas conforme
12:01à l'exigence de la France avec son CECNUMCLA.
12:04Ce n'est même pas conforme au Cyber Security Act de 2019.
12:10Parce que, à la lumière de la jurisprudence ouverte
12:14par la Cour de justice de l'Union européenne
12:16dans son arrêt du 16 juillet 2020
12:18ayant invalidé le Privacy Shield
12:20qui portait sur les données à caractère personnel,
12:22cet arrêt de la Cour de justice de l'Union européenne
12:26est basé sur les effets produits
12:28par la section 702 du Foreign Intelligence Surveillance Act
12:31qui est le texte de loi américain
12:34qui régule l'activité des agences de renseignement américaines
12:37et qui porte sur des données personnelles ou non personnelles
12:40et qui permet à ces agences de renseignement
12:43de faire de la collecte massive, a priori sans mandat judiciaire
12:46des données des non US persons
12:48que ce soit des personnes physiques ou morales
12:52et sur leurs données personnelles ou non personnelles.
12:54Et ça a des effets importants
12:56sur la capacité de ces agences de renseignement
12:58d'accéder à des données européennes
13:01notamment des données non personnelles stratégiques
13:04des données sensibles
13:06dès lors qu'elles sont portées par des cloud providers américains
13:09dans un contexte où plus de 70% du marché européen du cloud
13:14ce sont trois hyper scalers américains
13:16qui le préemptent en Europe.
13:18Et donc, vu des exigences de l'article 51 du Cyber Security Act
13:24qui impose de, en permanence, être capable de dire
13:27qui a accès à quelles données et dans quelles conditions
13:30et de tracer tous les accès.
13:32Or, la législation américaine interdit aux cloud providers américains
13:38de tracer les accès aux données des non US persons
13:42dès lors que ce sont des agences de renseignement qui le font.
13:45Donc ça, de ce point de vue là, nous trouvons que...
13:47Donc ça veut dire qu'il pourrait y avoir un recours, finalement, juridique
13:51si jamais le texte était adopté en l'état ?
13:53C'est une question que beaucoup d'entreprises
13:56et d'organisations professionnelles comme le CYF se posent aujourd'hui, bien sûr.
14:00Et donc, la France est finalement assez isolée dans cette position
14:06parmi les Etats européens, pour une raison simple.
14:09C'est qu'il y a eu des pressions américaines extrêmement fortes.
14:13Notamment, en septembre 2023, Anthony Blinken s'est adressé
14:17à adresser une note diplomatique à la présidente de la Commission européenne
14:21en lui disant que si vous adoptez le UCS en l'état,
14:25ce schéma de certification en l'état,
14:27qui contenait des critères d'immunité,
14:29il dit explicitement que ça ne sera pas sans conséquence
14:32sur les relations sécuritaires et économiques
14:34entre les Etats-Unis et l'Union européenne.
14:36À partir de là, le schéma de certification a été expurgé
14:40dans sa nouvelle version de mars 2024 de tous critères d'immunité.
14:44Et nous, on dit que ce n'est pas convenable
14:47parce que ça ne correspond pas par ailleurs
14:49aux besoins exprimés par les bénéficiaires
14:51de ces schémas de certification,
14:53c'est-à-dire de très nombreuses et milliers d'entreprises en Europe
14:55qui disent que nous avons besoin de ces critères d'immunité
14:59pour pouvoir héberger dans le cloud
15:01nos données sensibles et stratégiques.
15:03Mais là, cette pression américaine que vous citez
15:06vraiment très précisément,
15:08elle montre à quel point c'est un sujet politique.
15:10C'est un sujet politique.
15:12Ce n'est pas un sujet technique,
15:14ce n'est pas un sujet de droit.
15:15C'est un sujet politique.
15:17Qui veut réagir là-dessus ?
15:19Les entreprises sont sensibilisées à cette question aujourd'hui
15:22parce que vous avez évoqué la nécessité
15:24de passer au multicloud pour sécuriser,
15:26pas maintenant ces ennemis paniers,
15:27mais il y a aussi la question du multicloud
15:29qui permet justement de mettre certaines données,
15:32de faire des choix en fait,
15:34protégés de toute loi extraterritoriale.
15:36Les entreprises qu'on accompagne sur le sujet multicloud en particulier
15:39le font de façon cohérente et raisonnée
15:42en utilisant des clouds souverains européens
15:45sur les données les plus sensibles
15:46et en hébergeant le reste des données
15:48sur des cloud providers internationaux.
15:51Moi, le risque que je vois derrière ça,
15:53alors le côté exigence qu'on doit conserver sur le sujet
15:58est incontournable.
16:00Le risque, c'est de voir
16:02si les cloud providers internationaux
16:05ne veulent pas se conformer à ces normes-là.
16:07Certains services qu'ils nous offrent aujourd'hui
16:10disparaissent demain pour les entreprises européennes
16:12et ça peut être un vrai sujet de compétitivité économique
16:16de ne plus avoir accès à certains services.
16:18Pourquoi ces services disparaîtraient si...
16:22Attention, le schéma européen, l'EUCS,
16:25n'est pas un schéma obligatoire.
16:27Ça a bien été confirmé par la Commission européenne.
16:29C'est un schéma d'adhésion volontaire
16:32pour les entreprises ou les administrations publiques
16:35qui expriment un besoin particulier
16:37de protection de leurs données sensibles
16:39et stratégiques non personnelles.
16:41Par ailleurs, il faut bien comprendre
16:43qu'aujourd'hui, si on n'a pas un EUCS
16:46avec ces critères d'immunité à l'échelle européenne,
16:48il va y avoir une fragmentation réglementaire en Europe
16:52des schémas de certification de sécurité résiduelle
16:55comme CECNUM-CLAD en France
16:57qui pourraient rester avec des garanties assez faibles.
16:59Et puis on aura la même chose en Allemagne,
17:01en Espagne, en Italie...
17:03Moi, ce que je crains davantage, c'est ça,
17:05c'est qu'aujourd'hui, en France...
17:06Ça provoque une fragmentation réglementaire
17:08qui est délétère pour le marché unique européen
17:12et le marché du CLAD en Europe.
17:13Et ça peut mettre quand même en difficulté
17:15les entreprises qui ont lourdement investi
17:17dans le CECNUM-CLAD
17:20qui ne serviraient plus à grand-chose, finalement.
17:22Tout à fait.
17:23Et moi, je me pose la question aussi sur
17:25notamment l'hébergement de ces données sensibles
17:27dont vous parliez.
17:28Les administrations qui sont un peu moins, je pense,
17:31éduquées sur tous ces sujets-là
17:34que les entreprises privées
17:35et qui ne soient pas obligées à un moment
17:37à démultiplier le stockage des données sensibles
17:41sur des serveurs qui répondent aux exigences qu'on demande
17:44et d'autres données sur d'autres
17:45et donc créer une fragmentation encore plus grande
17:47pour ces entreprises-là
17:49qui sont quand même moins réactives, je trouve,
17:51que les privées.
17:52Oui.
17:53C'est pour ça que nous avons adressé hier
17:55un courrier à Ursula von der Leyen
17:57et à Ena Verkunen
17:58qui est la nouvelle vice-présidente exécutive
18:00en charge notamment des technologies dites souveraines
18:04en lui rappelant quelles sont nos exigences
18:06en lui rappelant pourquoi nous avons besoin d'un EUCS
18:09avec, dans son niveau le plus élevé,
18:11des critères d'immunité
18:13et en lui disant que nous trouvons
18:15qu'aujourd'hui, ce schéma de certification
18:18dans sa version actuelle
18:19n'est pas conforme à l'article 51 du Cyber Security Act.
18:24Et au niveau politique,
18:25qui se bat aujourd'hui sur ce sujet-là en France ?
18:28C'est Clara Chappaz
18:30qui est sur les sujets de cybersécurité.
18:32Oui, mais aujourd'hui...
18:34On a un gouvernement démissionnaire, je vous l'accorde.
18:36Vous comprenez bien qu'aujourd'hui
18:37le portage politique est assez faible
18:39et la parole de la France auprès des instances politiques en Europe
18:45est particulièrement dégradée.
18:48Et là, il faut le reconnaître.
18:50Et donc aujourd'hui, la capacité de la France...
18:54Alors attention, on n'est pas des fêtistes
18:56et on fait confiance au pouvoir public
19:00pour porter ce sujet.
19:02Mais enfin, il ne faudrait pas
19:04qu'à la faveur de ces faiblesses politiques françaises,
19:07il y ait des décisions rapides
19:09prises par la Commission européenne
19:11qui contreviendraient aux exigences
19:14portées par des milliers, je le répète,
19:16d'entreprises en Europe.
19:18Allez, on passe à notre autre sujet.
19:20Je ne suis pas sûre que ce soit beaucoup plus léger.
19:21Au début, quand on essaie de l'utiliser,
19:24c'est assez fun, je dois dire.
19:26C'est l'IA générative Groc de Délon Musk
19:29et sa capacité spectaculaire
19:31à créer des fausses photos
19:33avec des visages de vraies personnalités,
19:35notamment politiques.
19:37Est-ce que vous vous dites
19:39que c'est absolument bluffant ce qu'on peut faire
19:41ou là, vraiment, ça va trop loin ?
19:43Margarita ?
19:45D'un point de vue technologique, c'est bluffant.
19:47Effectivement, je pense que vous avez
19:49toutes les photos qui ont circulé
19:51qui donnent quand même une illusion
19:53de vraies photographies.
19:55Je pense que c'est ça, le Gorolago
19:57serait aussi le fameux modèle Aurora
19:59qui est sorti justement à début décembre.
20:01C'est une illusion d'avoir des vraies photos en face.
20:03Après, est-ce qu'on va trop loin ?
20:05Je pense que oui.
20:07On a encore un exemple, et on en parlait juste avant
20:09l'émission, de la capacité
20:11d'Élon Musk de respecter
20:13les règles éthiques et morales
20:15mais aussi réglementaires.
20:17Parce qu'on a plusieurs sujets
20:19qui se posent derrière, entre des sujets juridiques
20:21comme le droit à l'image,
20:23ou le droit à la protection des marques
20:25puisqu'on a des personnages aussi de fiction,
20:27notamment Mickey, qu'on a vu affibuler
20:29de manière très différente.
20:31Mais on a aussi
20:33le droit à la protection de la personnalité
20:35pour toutes les personnalités qui sont exploitées.
20:37On a aussi beaucoup d'autres
20:39sujets qui se posent d'un point de vue légal.
20:41Mais aussi, ça sert
20:43énormément les problèmes
20:45qu'on a déjà détectés sur X, qui sont
20:47la diffamation, les fake news,
20:49le fait de mettre ces personnalités dans des situations
20:51qui peuvent porter préjudice
20:53à eux, mais aussi à des
20:55populations vulnérables. On en a parlé
20:57à plusieurs reprises, l'esprit critique
20:59chez les mineurs, chez des gens exposés
21:01beaucoup aux écrans, exposés à des situations
21:03conflictuelles, complexes,
21:05à quel point
21:07ce type de personnes-là sont capables
21:09de comprendre ces montages-là
21:11et d'avoir l'esprit critique
21:13pour concrètement analyser la situation.
21:15Et puis aujourd'hui, c'est un outil qui est entre les mains
21:17de tout le monde, parce que ce groupe-là, il est gratuit,
21:19accessible à tous les utilisateurs de X,
21:21de la plateforme X.
21:23Je ne sais pas s'il va le rester avec l'IACT,
21:25ça va peut-être changer les choses,
21:27mais dans tous les cas, vous avez d'autres modèles.
21:29Vous avez des modèles chinois, je pense à Kling
21:31AI, qui offrent les mêmes capacités,
21:33même plus loin, à mon sens, que ce qu'offre
21:35Sora, en termes de qualité. Par exemple,
21:37vous avez Flux, qui est un modèle d'IA générative
21:39d'image, qui est open source, que vous installez
21:41en quelques clics sur votre PC.
21:43Aujourd'hui, la vraie difficulté, comme vous le disiez,
21:45c'est qu'on n'a plus de frontières,
21:47il n'y a plus de limites entre ce qui est généré
21:49par de l'IA générative et ce qui est la réalité.
21:51Et cette absence de limites,
21:53malheureusement, oblige
21:55à une chose, et une seule,
21:57c'est l'éducation. L'éducation du grand public,
21:59l'éducation de nos enfants, pour leur
22:01expliquer que, justement, tout ce qu'on peut voir,
22:03lire, entendre, ce n'est pas forcément
22:05la réalité, et qu'il faut faire cet effort
22:07de vérification, cet effort
22:09de contradiction.
22:11Par essence,
22:13l'humain est feignant, on ne le fera peut-être
22:15pas pour tout, mais il y a des sujets sur lesquels ça va devenir
22:17indispensable. Ces outils
22:19sont devenus tellement accessibles, faciles
22:21à utiliser, que de toute façon, il y aura
22:23des mauvaises utilisations, comme tous les outils,
22:25et vous aurez des organisations
22:27qui l'utiliseront pour faire de la fake news,
22:29pour faire du complotisme.
22:31On aurait pu attendre quand même une réaction sur la modération
22:33sur la plateforme X.
22:35C'est à l'image de ce que fait Ewen Lennon, parce qu'il veut
22:37un outil d'expression
22:39et de liberté d'expression, comme les X.
22:41La différence, effectivement, de OpenAI
22:43ou d'autres, notamment au mid-journey,
22:45qui ont mis quand même un certain nombre de limites,
22:47dont le fait de ne pas pouvoir utiliser
22:49des visages de personnalité
22:51ou de mettre des personnalités dans des situations
22:53dégradantes, plus
22:55beaucoup d'autres limites qui n'existent absolument pas du tout
22:57sur XAI aujourd'hui.
22:59Et pour l'instant, on n'est pas encore à l'échelle vidéo. Je disais qu'on allait aussi
23:01parler de Sora.
23:03Mais on voit que ça arrive
23:05très très vite. Alors ça coûte
23:07encore un petit peu cher. Ça, c'est déjà un frein
23:09sur l'utilisation. Même pas.
23:11KlingAI, le modèle chinois dont je parlais, est
23:13gratuit. Il n'y a pas encore
23:15un peu de truc, mais il est gratuit. Vous pouvez
23:17utiliser avec des photos de personnages
23:19publics et animer une photo
23:21en vidéo en 3 clics.
23:23Ça va être un des enjeux du
23:25sommet pour l'action sur l'intelligence
23:27artificielle du 11 et 12 février
23:29prochain.
23:31Comment est-ce qu'on a su le faire
23:33sur plein de sujets différents ?
23:35Comment est-ce que
23:37la communauté internationale,
23:39dont les membres,
23:41il faut le rappeler quand même, ce sont les États,
23:43vont s'entendre pour éventuellement
23:45mettre en place des régulations.
23:47Alors on a su le faire sur plein de sujets.
23:49C'est compliqué, c'est long, mais
23:51je ne crois pas qu'on ait le choix.
23:53À un moment, il faudra qu'il y ait une capacité
23:55régulatoire mondiale
23:57pour dire quelles sont les limites
23:59à ne pas franchir. Et voilà comment on identifie,
24:01on oblige l'identification
24:03des produits générés
24:05par des outils d'intelligence artificielle.
24:07Après, c'est vrai qu'il y a beaucoup de choses maintenant hybrides.
24:09Il y a un bout qui a été généré
24:11de manière artificielle, un autre pas.
24:13Ça rend les choses beaucoup plus complexes.
24:15Juste pour terminer, les GAFIM travaillent.
24:17Vous avez Meta qui a annoncé
24:19que dorénavant sur Instagram, sur
24:21Facebook, ils identifieraient les contenus
24:23créés par les IA. Vous avez Google qui travaille
24:25sur une norme de watermarking de contenus.
24:27Mais encore une fois, à partir du moment
24:29où l'outil technologique est à cette
24:31simplicité d'usage, on sera
24:33forcément confronté à des organisations
24:35qui l'utiliseront de façon malveillante.
24:37C'est pour ça que l'éducation est un élément, je pense, prioritaire.
24:39On est d'accord. Il ne nous reste pas beaucoup de temps
24:41pour parler de la Commission européenne qui a été condamnée
24:43pour avoir recouru à du micro-ciblage politique
24:45pour influencer l'opinion aux Pays-Bas.
24:47En l'occurrence, très précisément sur un sujet
24:49sensible, le projet de règlement
24:51sur le contrôle des messageries privées qu'on appelle
24:53pour ceux qui ne l'aiment pas ce règlement,
24:55chat contrôle.
24:57Je voulais juste, Margarita, parce que vous connaissez
24:59bien ce sujet du micro-targeting
25:01si on le dit en anglais. Quelles sont les règles
25:03aujourd'hui à respecter ?
25:05Aujourd'hui, on a le règlement pour la protection des données
25:07personnelles en Europe qui est celui qui encadre
25:09justement ce type
25:11de micro-ciblage dans lequel
25:13effectivement on a les croyances
25:15religieuses et les
25:17opinions politiques qui font partie de ce qu'on appelle
25:19les données sensibles.
25:21Donc on n'a pas le droit aujourd'hui de les utiliser.
25:23Tout à fait. Pour cibler les gens utilisant ce type
25:25de données-là, aujourd'hui, est totalement illégal.
25:27Ce qui est intéressant, je ne sais pas si vous
25:29avez vu, c'est qu'en fait, ils n'ont pas demandé
25:31aux plateformes d'utiliser
25:33le ciblage politique. Ils ont été
25:35plus malins que ça. En fait, ils ont exclu
25:37des mots-clés qui leur permettaient
25:39d'identifier les populations.
25:41Le RGPD est plutôt
25:43bien fait sur ce domaine-là parce qu'il
25:45effectivement protège les citoyens
25:47contre le ciblage direct, c'est-à-dire
25:49je vais cibler quelqu'un qui est
25:51intéressé par Marine Le Pen, donc forcément je connais
25:53ses opinions politiques,
25:55mais ça exclut aussi la façon indirecte
25:57de détecter des opinions
25:59et c'est exactement ce qu'ils ont fait. En fait, ils ont fait cette
26:01manière détournée parce qu'ils ont
26:03cherché des personnes qui ne sont pas
26:05intéressées par un certain nombre de sujets
26:07Marine Le Pen, Georgia Meloni, etc.
26:09Ce qui indiquait des personnes de gauche et
26:11plutôt avec des comportements libéraux
26:13versus des personnes de droite qui auraient
26:15été identifiées directement. Et donc
26:17c'est une manière détournée que beaucoup
26:19d'autres utilisent. Il y a d'autres organisations
26:21politiques qui ont recours à ce type de
26:23ciblage et c'est bien d'avoir
26:25ce message fort de la CEDP
26:27qui est le contrôleur justement
26:29de l'Union Européenne, de ces comportements-là
26:31parce que ça va donner le ton, même si pour l'instant
26:33il n'y a pas eu d'amende. On s'est
26:35arrêtés avec un blâme en disant que les comportements
26:37se sont arrêtés, les pratiques aussi, mais on
26:39veut quand même donner un signal fort. Mais
26:41effectivement c'est quand même dommage de se faire attraper
26:43la main dans le sac alors qu'on édite justement
26:45ces normes-là et on est les premiers
26:47à devoir les respecter. Ils ont été malins mais pas
26:49autant que Max Schrems qui est vraiment un
26:51veilleur parce que c'est grâce à son organisation
26:53Gnieube que cette affaire a sorti.
26:55Mais ce n'est pas la première fois que
26:57la CEDP qui est la CNIL
26:59de l'Europe, de la
27:01Commission Européenne,
27:03entre en conflit avec la Commission Européenne.
27:05Il y a quelques mois,
27:07pour l'usage
27:09des produits Microsoft sur Azure,
27:11la CEDP a condamné la
27:13Commission Européenne en lui disant que son usage
27:15n'était pas conforme au RGPD
27:17et la Commission
27:19Européenne a attaqué sa
27:21propre CNIL.
27:23La décision de sa propre CNIL.
27:25Et aujourd'hui, je ne sais pas où en est
27:27le contentieux.
27:29On est dans des états démocratiques en même temps que ça.
27:33Un dernier point intéressant,
27:35c'est que
27:37ce ciblage-là
27:39s'est encore passé sur Aix.
27:41Alors on revient sur lequel
27:43la politique de confidentialité
27:45interdit formellement le fait d'utiliser ce type
27:47de données-là. Or, la campagne
27:49a tourné pendant un certain temps. Elle n'a pas été
27:51arrêtée, elle n'a pas été détectée.
27:53Il n'y a pas eu de monitoring du tout.
27:55Les règles n'ont pas été respectées.
27:57C'est Neub, en fait.
27:59N-O-Y-B.
28:01Exactement.
28:03On va attendre avec impatience
28:05de savoir ce que cette action-là
28:07va donner. Merci beaucoup,
28:09Margarita Zlatkova de Weborama,
28:11Henri Dagrin du CIGREF
28:13et Jérôme Malzac de Micropole.
28:15Merci à tous de nous suivre sur la chaîne
28:17Bismarck for Change. C'était Smartech. A très bientôt.
28:19Et puis très belle fête si on ne se revoit pas
28:21avant 2025.