Jeudi 6 février 2025, SMART TECH reçoit Matthieu Bourgeois (Avocat, Vice-président, Cercle de la donnée) , Arno Amabile (conseiller de l’Envoyée spéciale du président pour le sommet pour l’action sur l’IA) et Candice Dauge (Directrice du business unit « identité numérique et services », Docaposte)
Catégorie
🗞
NewsTranscription
00:00Bonjour à tous, Arnaud Amabil, le conseiller de l'Envoyé Spécial du Président pour le Sommet pour l'Action sur l'IA est dans la grande interview aujourd'hui dans Smartech.
00:18Dans cette édition également, on parlera du champ d'application du règlement européen relatif à l'intelligence artificielle.
00:24Mais d'abord, je propose qu'on commence avec trois questions sur la vérification de l'âge en double anonymat. Comment ça marche ? On vous explique tout de suite dans Smartech.
00:38Depuis le 11 janvier de cette année, l'ARCOM, le grand régulateur des contenus audiovisuels et d'Internet, exige des sites pornographiques.
00:48Ils appliquent le nouveau référentiel technique de vérification de l'âge. Les sites ont quand même jusqu'au 11 avril pour se mettre en conformité avec la loi.
00:56Je propose qu'on fasse un focus avec une de ces solutions, 18 Connect, qui permet de démontrer son identité, son âge à destination de ces sites réservés aux adultes sur le principe du double anonymat.
01:10On va voir ce que ça veut dire avec Candice Doge. Bonjour. Vous êtes directrice de la business unit Identité numérique et services de Docapost, filiale numérique de La Poste pour faire vite.
01:20Comment ça marche cette solution technique en double anonymat ?
01:24C'est assez simple. C'est une plateforme qui permet de se connecter à des contenus pour adultes et principalement pornographiques en vérifiant son âge.
01:32L'idée, c'est qu'on va pouvoir utiliser des preuves d'âge, soit avec son identité numérique de La Poste, par exemple, quand on en a une, ou alors avec sa pièce d'identité ou avec un selfie par reconnaissance faciale.
01:44On va pouvoir accéder au site si on a plus de 18 ans. En revanche, si on a moins de 18 ans, on sera bloqué à l'entrée.
01:50Ce que vous me décrivez n'est pas du tout anonyme. Je montre une preuve de mon identité à la plateforme. Je dis qui je suis.
01:57Je le montre à l'entrée de la plateforme et la plateforme ne garde pas les informations. Il faut se dire que c'est comme dans un SAS.
02:03Pour entrer dans une banque, par exemple, vous avez toujours ce système de double porte.
02:07Vous laissez votre identité à la première porte, vous rentrez dans le SAS et là, vous êtes complètement anonyme pour accéder au site pour adultes.
02:15Ce que vous voulez dire, c'est que cette plateforme n'est pas liée au site Internet. Est-ce que cette plateforme sait sur quel site je vais me connecter ?
02:22La plateforme sait sur quel site vous vous connectez, mais ce n'est pas qui vous êtes, puisque c'est une autre solution de vérification d'âge qui aura vérifié votre âge
02:32et qui aura gardé toutes les informations et qui passera juste cette information-là. C'est vraiment un système de tunnel de SAS.
02:39Pour bien qu'on comprenne, parce que quand on parle de plateforme, on ne sait plus exactement ce qu'on parle.
02:43D'un côté, on a le site sur lequel on souhaite se connecter. De l'autre côté, on va se connecter en premier à une plateforme pour décliner notre identité.
02:53Mais à ce moment-là, on ne sait pas pour quel usage.
02:57On ne sait pas pour quel usage. En fait, la plateforme ne vous connaît pas et va juste pousser une information plus de 18 au site Internet qui ne vous connaîtra pas non plus.
03:07Finalement, on a vraiment ce système de double anonymat, c'est-à-dire que personne à aucun moment ne va savoir soit votre identité, soit votre usage.
03:17On n'aura qu'une des deux informations.
03:19Comment est-ce qu'on est sûr ? Comment vous apportez les garanties de ce double anonymat ?
03:25Les garanties, c'est en séparant les applications et les plateformes. Ce ne sont jamais les mêmes personnes qui vont faire ces vérifications et les connexions.
03:33C'est principalement par cet intermédiaire-là qu'on le garantit.
03:36Les mêmes personnes, les mêmes outils ?
03:38Exactement les mêmes outils, oui.
03:39D'accord. Quels sont les premiers retours d'expérience ? Les sites ont un petit peu de temps pour se mettre en conformité, je l'ai dit en introduction.
03:46Mais enfin, ce n'est pas d'aujourd'hui qu'on demande aux sites pornographiques de vérifier l'âge. Est-ce que vous, vous avez déjà des premiers retours d'expérience ?
03:54Alors, on y travaille avec les sites. Ce qui est sûr, c'est que jusqu'ici, il suffisait juste de cliquer sur « j'ai plus de 18 ».
04:01Il suffisait de savoir lire, en fait, pour aller sur un site pornographique. Donc là, les sites sont en train d'implémenter, de tester ces solutions.
04:09Et tout ce qu'on peut dire, c'est que pendant très longtemps, les sites ont objecté le fait qu'il n'y avait pas de solution technologique.
04:14Aujourd'hui, elles existent. Elles sont déployées et faciles à utiliser.
04:18Alors, c'est ça, un retour d'expérience. C'est facile à utiliser ?
04:21C'est facile à utiliser, absolument. C'est très rapide. C'est quelques secondes pour vérifier son âge.
04:26Combien de sites ont adopté cette solution ?
04:28Alors, aujourd'hui, on est en discussion commerciale avec plusieurs sites.
04:32Maintenant, il y a les sites extra-européens ou européens qui ne vont pas forcément se conformer à la réglementation tout de suite.
04:40Et on parle des grands tubes pornographiques qui mettent un peu de temps pour s'y conformer.
04:47Et les sites français et payants, principalement, sont en train de tester ces solutions et ça fonctionne.
04:53Oui, les premiers concernés, en fait, ça va être les sites français.
04:55Oui.
04:56Parce qu'en revanche, dans l'Union européenne, c'est un petit peu plus compliqué pour l'application du texte. Il faut que chaque Etat membre, en fait…
05:02Alors, ça peut être comme ça. En revanche, l'ARCOM vient d'avoir l'information comme quoi ils pourront agir sur les sites qui sont hébergés en Europe également et qui distribuent en France.
05:12Donc, solution technique, vous nous dites simple, mais application juridique un petit peu plus…
05:17Un peu plus compliquée.
05:18Un petit peu plus complexe. La solution, c'est une solution 100% française. L'identité est gardée sur des serveurs hébergés en France.
05:25Alors, on ne garde pas l'identité. On ne garde aucune information. Donc, c'est aussi pour ça qu'on fait vraiment de la protection de la donnée personnelle.
05:31On va juste vérifier l'âge et on garde juste cette information de l'âge. Donc, on ne saura pas si vous êtes une femme ou un homme et quel âge vous avez. Ce sera juste plus de 18.
05:41Et puis, tout est fait en France, en effet, sur les hébergements de DocaPost.
05:44Et comment est-ce que vous masquez les autres informations ? Si je communique, par exemple, ma pièce d'identité ?
05:50Ah bon, on ne les garde pas. Juste, on scanne, on prend la date de naissance, on déduit juste plus de 18 ou moins de 18 et ensuite, on écrase tout le reste.
05:59D'accord. Donc, aucune sauvegarde d'aucune donnée personnelle.
06:02Aucune, absolument.
06:03Merci beaucoup pour vos explications. C'était très clair Candice Do. Je rappelle que vous êtes la directrice de la business unit Identité Numérique et Services de DocaPost. Merci pour vos explications.
06:12Merci.
06:19Mon grand invité aujourd'hui est le conseiller de l'envoyé spécial du président pour le sommet pour l'action sur l'intelligence artificielle, sur l'IA. Bonjour Arnaud Amabil.
06:29Bonjour.
06:30Merci beaucoup d'avoir accepté notre invitation. Vous êtes directeur du cabinet de Anne Bouvreau, donc notre grand invité, alors que le sommet est en train, là, de s'ouvrir, ce sommet international qui se passe à Paris. Est-ce que vous avez le track ?
06:43Pas tant que ça. Le stress a été plutôt plus important il y a deux semaines, je dirais. Mais maintenant, les choses, là, commencent vraiment à être toutes en place. Et donc, non, non, ça commence déjà aujourd'hui à s'accler avec les journées scientifiques et plutôt très fort. Donc, on est très content à la fois de l'attention et du succès qu'on a.
06:57Alors oui, parce qu'on a donc ces deux grandes journées, les 10 et 11 février au Grand Palais. Mais en amont de cela, dès aujourd'hui, donc ce jeudi, commencent les journées scientifiques. Il y a beaucoup d'autres événements.
07:10Est-ce qu'on peut faire peut-être un petit panorama sur ces événements qui s'organisent ? Labelliser un sommet.
07:16Bien sûr. Alors, le sommet, on l'a voulu, dès le début, être sous le signe de l'ouverture. Et donc, on a les journées qui sont vraiment les journées du sommet au sens un peu diplomatique du terme. C'est le 10 février et le 11 février matin au Grand Palais.
07:27Mais on a voulu que différentes communautés aient la place d'avoir à la fois de participer aux discussions et puis d'avoir un moment aussi pour elles. Et donc, la semaine de l'IA, puisque finalement, c'est vraiment une semaine de l'IA, c'est des journées scientifiques aujourd'hui et demain à s'accler, organisées par la communauté académique française mais avec plein de chercheurs internationaux, des journées culturelles, un week-end culturel qui a lieu à la Conciergerie et à la Bibliothèque nationale de France ce week-end.
07:49D'ailleurs, c'est ouvert au public. Donc, j'insiste tout le monde à y aller. Puis donc le Grand Palais le 10 février pour le coup. Et le 11 février, là, on a à la fois le moment des chefs d'État et de gouvernement au Grand Palais mais en parallèle, un business day avec plusieurs milliers à Station F et vraiment des dizaines, quasiment 100 événements. Donc, je rappelle des side events, des événements qui sont partenaires du sommet, qui sont organisés par d'autres et qui vont être sur à peu près tous les thèmes possibles.
08:15Vous en avez comptabilisé combien comme ça des événements ?
08:17Alors, il y en a plusieurs. Il y en a quasiment une centaine, je vous dis, sur la journée du 11 pour le coup quand on regarde absolument tous ceux qui ont été labellisés. Et ça, c'est sans compter tous ceux qui ont été labellisés sur la route vers le sommet puisque depuis juin, il y a eu des événements qui ont été labellisés et qui sont venus nourrir la réflexion et les travaux du sommet.
08:33Combien de participants vous attendez sur les 10 et 11 février ?
08:36Sur les 10 et 11 février. Alors, le 11 février est un peu plus restreint puisque c'est vraiment les chefs d'État et de gouvernement. Mais le 10 février, on a 1200 participants de la société civile, donc au sens entreprise, monde académique et puis associations, think tank. Et on a ensuite les délégations officielles qui représentent quasiment plus de 80 pays. Donc, voilà, en tout, 1700 personnes, quelque chose comme ça.
08:56Quels sont les États qui sont absents que vous attendiez mais qui ne viendront pas ?
08:59Aucun des États qu'on espérait avoir n'est absent. Ils ne sont pas tous au même niveau de représentation pour des raisons de calendrier ou autre. Mais on n'a pas de grand manque et on est très très contents de ça.
09:09Quelle personnalité on va croiser ?
09:11Alors ça, on en a déjà donné un certain nombre dans la presse. Mais dans le monde politique, le Premier ministre indien Narendra Modi sera là, le vice-président américain J.G. Vance, un grand nombre de chefs d'État et de gouvernement européens aussi.
09:25Dans les entreprises, le CEO de Google, Sundar Pichai, d'Open AI, Sam Altman seront là, mais également d'autres entreprises. Celui de Sakana AI, par exemple, qui est une entreprise japonaise qui est très à la pointe de l'IA.
09:36Ou la CEO de Naver, qui est une entreprise coréenne également. Puis bien sûr, plein d'entreprises françaises dont on est très contents qu'elles soient là aussi.
09:43Alors dans le programme, il y a des priorités. Il a fallu faire des choix, évidemment. Est-ce que vous avez des regrets ? Parce qu'on a entendu, par exemple, un regret sur l'absence de l'éducation au programme de ce sommet ou encore peut-être de la partie défense, militaire.
09:59Alors je pense qu'il faut pour ça se remettre un peu sur qu'est-ce que c'est un sommet comme ça international. Le sommet international ne vise pas à résoudre absolument tous les problèmes qui entrent à l'IA ou toutes les questions autour de l'IA.
10:09Il vise à faire ce qui est du niveau de l'action ou de la coopération internationale. L'éducation, nous, on pense qu'elle a besoin de deux choses.
10:15Elle a besoin d'avoir des systèmes d'IA qui sont facilement reconfigurables et que les gens peuvent adapter à leurs valeurs, à leurs envies dans leur système.
10:23Et donc on ne va pas à un niveau international dire voilà l'IA que vous allez tous les pays, l'Inde, les Etats-Unis, la Chine, je pense qu'on aurait un peu de mal, utiliser dans votre système d'éducation.
10:31On a des systèmes d'éducation qui sont très différents. Donc ça, on ne peut pas le faire à un niveau international, ça n'a pas vraiment de sens.
10:36Par contre, dans le cadre d'un sommet international, œuvrer à ce qu'on ait un écosystème de l'IA qui soit plus ouvert, plus divers, où du coup des innovateurs locaux puissent reprendre ça en main, y compris dans les systèmes éducatifs, ça c'est quelque chose qu'on fait complètement.
10:48Justement, c'est un sommet international organisé à Paris dont doivent ressortir certaines choses.
10:56Une coopération est attendue sur la manière dont on va gérer finalement les opportunités mais les risques aussi autour de l'IA.
11:05Est-ce que vous êtes optimiste quant à la naissance de cette coopération internationale post-sommet au vu du contexte politique, géopolitique même actuel ?
11:14C'est certain que ça vient à un moment particulier, je ne vous le cache pas. Nous, ce qu'on voit, c'est qu'il y a une grande appétence de beaucoup de pays dans le monde pour travailler ensemble sur l'écosystème de l'IA.
11:25Donc à la fois sur la gouvernance des risques, ça c'est ce qui a été commencé à Bletchley Park il y a un an et demi, continué à Séoul, donc qui sont les deux sommets qui ont précédé celui de Paris en juin.
11:33Et donc ça, on continue à avoir une volonté de coopérer là-dessus, y compris sur des sujets un peu spécifiques et importants.
11:40Pas forcément du côté des États-Unis.
11:42Et donc du côté des États-Unis, ils ont décidé en effet de défaire leur IA Institute, mais il y a plein d'autres, pour le coup, pays qui ont envie.
11:48Par ailleurs, l'IA Institute des Américains, c'était surtout un réseau d'experts qui était centré autour du NIST, qui est une agence nationale là-bas, et elle ne disparaît pas.
11:57Donc l'expertise américaine sur la sécurité de l'IA ne disparaît pas, et puis vu l'écosystème…
12:02Non mais on a vu Donald Trump défaire quand même le décret de Joe Biden sur la sécurisation de l'IA, estimant que c'était un frein à l'innovation.
12:09C'est vrai, mais c'est aussi vrai que la même administration…
12:11Et les grandes IAs sont aux États-Unis.
12:13Tout à fait. Mais la même administration, ou l'administration Trump, pour le coup, la première administration de Donald Trump, avait également endossé un certain nombre de principes sur l'IA responsable, y compris dans la sécurité de l'IA au sens vraiment cybersécurité.
12:26Donc il y a toute une partie de ces sujets-là de risque qui sont importants pour eux, pour le déploiement, y compris, on a beau être très pro-américain peut-être, ils ont besoin d'avoir une IA qui fonctionne correctement, et donc ces sujets sont importants pour eux aussi.
12:37Qu'est-ce qui reste encore à ficeler là ?
12:41À quelques heures du temps fort de l'événement.
12:44Je vais découvrir en s'entendant d'ici, si on découvre des choses.
12:46Non, honnêtement, plus grand-chose, puisque nos panels et nos programmes sont ficelés avec des panélistes de grand niveau.
12:53On sait ce qui va se passer le 11 matin aussi.
12:55On est très contents de là où atterrissent les livrables internationaux du sommet, et puis il reste ensuite à exécuter tout ça.
13:01C'est un peu comme à la veille des Jeux Olympiques.
13:03Tout est prêt, et puis ensuite il reste à faire, et ce n'est pas forcément le moins difficile.
13:06Comment on se retrouve à la tête de l'organisation d'un tel événement, Arnaud ?
13:10Je suis humblement auprès d'Anne Bouvreau, qui est l'envoyée spéciale du président de la République.
13:16C'est vraiment avec elle que cela s'est fait.
13:18J'ai rencontré Anne Bouvreau il y a quelques années, quand j'étais encore étudiant.
13:21Il y a un an et demi, j'ai appris qu'elle allait avec Philippe Aguillon co-présider une commission sur l'intelligence artificielle.
13:28Je lui ai donc réécrit, puisqu'on avait travaillé un petit peu ensemble.
13:30Je lui ai proposé de travailler avec elle, y compris parce que j'avais des élèves.
13:33Je trouvais cela intéressant de trouver des synergies.
13:36Elle m'a demandé de l'aider dans la commission IA.
13:38Vous avez participé au rapport qui a été rendu récemment ?
13:42Oui, j'étais l'un des deux rapporteurs généraux de ce rapport.
13:45A la suite de cela, cela s'est bien passé.
13:47Elle m'a demandé de continuer.
13:49Une partie de ce sommet vient mettre en œuvre des recommandations du rapport de la commission,
13:54des 15 personnalités qui étaient dans cette commission-là,
13:57qui avaient proposé des choses à un niveau international.
13:59Ce sommet vient en partie les mettre en œuvre.
14:01Vous avez une expérience internationale aussi.
14:04J'ai noté un diplôme en économie de l'école normale supérieure de Paris,
14:08mais vous êtes aussi titulaire de diplôme de l'université de New York en informatique urbaine,
14:12l'école d'économie de Paris en politique et analyse économique.
14:15Vous avez aussi travaillé en Allemagne, je crois.
14:19Comment est-ce que vous percevez aujourd'hui la France dans cet écosystème de l'IA ?
14:24Ce qui nous a beaucoup frappé avec Anne Bouvreux,
14:26quand on est allé à San Francisco en juin, qui était le premier déplacement qu'on a fait,
14:30c'est à quel point est-ce que les gens qu'on rencontrait là-bas,
14:33qu'ils soient américains ou d'autres entreprises américaines,
14:35admiraient l'écosystème français.
14:37On a souvent dit, finalement, ce qu'on construit, on ne peut le construire
14:40que parce qu'on a derrière nous la force de l'écosystème français
14:43et des Français à l'étranger, qui donne une légitimité
14:46à ce que la France essaye de faire dans le domaine de l'IA.
14:48Ce serait plus compliqué probablement si on n'avait pas cette base-là.
14:51En Europe, la France reste la première destination des investissements capital-risques dans l'IA.
15:00Le nombre de Français qui ont contribué à de très grands développements,
15:04notamment aux États-Unis, est vraiment impressionnant.
15:07Est-ce qu'il y a des choses qui ont changé en cours de route ?
15:09Si vous nous racontez un peu les coulisses de l'organisation du sommet.
15:12Je pense qu'une des choses, la principale chose qui a changé par rapport
15:15quand on a lancé vraiment la préparation du sommet en début d'année,
15:19c'est la question de l'énergie et de l'environnement.
15:22Il y a un an, un an et demi, même encore un an,
15:25quand on a écrit le rapport de la commission sur l'IA,
15:27la question de la consommation énergétique de l'IA générative, notamment,
15:30commençait à être un sujet, mais tout le monde était assez optimiste
15:32sur le fait que les gains d'efficience permettraient de ne pas avoir à se poser la question.
15:35L'histoire du numérique, c'est ça.
15:37Si on augmente l'efficience des technologies telles,
15:39qu'on n'a pas trop à se poser la question.
15:41Cet été, on a commencé à avoir des problèmes, y compris de la part des développeurs d'IA eux-mêmes
15:45qui disaient « je crains de ne pas avoir assez d'énergie pour entraîner mon prochain niveau de modèle ».
15:50Donc, on a travaillé avec la communauté internationale, les entreprises,
15:54à ce qu'on appelle la coalition pour l'IA durable,
15:56qui vise vraiment à partager de la science, des solutions, à créer des standards,
16:00pour arriver à y voir un peu plus clair dans cette question.
16:02C'est-à-dire, quels sont les leviers qu'on peut actionner,
16:04comment est-ce qu'on alloue un peu l'impact carbone entre différents sujets.
16:07Et ça, pour donner à la fois aux politiques publiques, mais aussi aux consommateurs,
16:11les entreprises ou les consommateurs individuels, de la visibilité là-dessus.
16:14Donc, ce n'est pas contraignant.
16:15C'est vraiment des gens qui disent ensemble « on veut comprendre un peu mieux ce qui se passe aujourd'hui ».
16:18Et il y a plein de choses qu'on ne sait pas très bien encore évaluer.
16:20Et donc, ça, c'est vraiment ce qu'on a construit.
16:22Et tout en disant à chaque fois, nous, notre idéal, c'est bien sûr que ce problème disparaisse de lui-même.
16:26Dipsic est un exemple très intéressant.
16:28J'allais vous en parler.
16:29Dipsic, c'est un exemple très intéressant à notre sens,
16:31qui montre qu'il existe des voies, il y a plein de gains d'efficience à faire.
16:36Et cette coalition, nous, elle vise à accélérer tous ces gains d'efficience, pour le coup,
16:39et qui permettrait de réduire complètement la pression
16:41que représente aujourd'hui le développement de l'IA sur les systèmes énergétiques.
16:44Avec un postulat très important, et je pense que c'est pour ça que plusieurs pays ont décidé de soutenir cette coalition,
16:48qui est que si vous êtes un petit pays qui n'a pas une quantité d'énergie infinie,
16:52vous devez vous poser la question, est-ce que j'attribue cette énergie à telle activité ou à un data center ?
16:57Je suis Singapour, est-ce que je veux importer de l'énergie de la Malaisie ?
17:00Est-ce que je veux importer de la puissance de calcul ?
17:02C'est une question de politique publique très, très simple, pour le coup,
17:05et qui nécessite un peu d'information, un peu de discussion et de data.
17:10Et donc, ça, c'est vraiment ce que cette coalition essaye de faire.
17:12Et on est très contents du succès qu'elle a pour le coup.
17:15Comment vous vous êtes organisé aussi sur la préparation avec la secrétaire d'État au Numérique et à l'IA, Clara Chappaz ?
17:21Alors, ça s'est très bien passé, notamment parce que ce sommet, il a toujours eu, depuis le début, différentes facettes,
17:27et qui se retrouvent, je pense, dans la semaine de l'IA,
17:29notamment une facette diplomatique, vraiment incarnée par le Président de la République et Anne Bouvreau pour elle,
17:35et en même temps, toute une dimension économique et nationale importante.
17:39Et ça, on ne peut pas le faire sans la secrétaire d'État au Numérique et à l'IA.
17:42Donc, on était très contents que Clara Chappaz soit nommée à ce poste.
17:45On a très bien travaillé avec elle, notamment pour arriver à ce que ce sommet soit une occasion pour l'écosystème français européen
17:50et qui permette, en plus, de franchir de nouvelles étapes dans la stratégie nationale.
17:53On en attend quoi, alors, de ce sommet ?
17:55Alors, de ce sommet, nous, on en attend trois objectifs différents.
17:58On a toujours dit un objectif qui est un objectif de narratif qu'on a gagné,
18:02mais c'est plutôt l'écosystème entier qui l'a gagné aussi avec nous,
18:05c'est-à-dire de dire, attention, l'IA, ça n'est pas que des très grands modèles qui sont peut-être très dangereux
18:09et qui devraient être dans les mains de seulement quelques personnes.
18:11L'IA, c'est plein de choses très différentes où on a besoin d'avoir de la coopération et où les risques existent,
18:17mais ils peuvent être gérés à condition qu'on ait de la coopération qui fonctionne bien.
18:20Ensuite, il y a un objectif qui est, à notre sens, un objectif diplomatique,
18:23qui est donc d'établir de la coopération sur certains sujets,
18:26donc notamment sur l'ouverture de l'IA et sur les questions de durabilité.
18:30L'ouverture de l'IA, c'est-à-dire l'ouverture des modèles ?
18:33En gros, ce dont on se rend compte, c'est que si vous voulez que l'IA se diffuse très profondément dans nos usages,
18:39vous avez besoin, comme je le disais dans le cas de l'éducation,
18:41d'avoir plein d'innovateurs qui vont inventer les produits, les interfaces, à quoi ça ressemble.
18:45L'IA ne va pas rester juste un chatbot avec lequel on va essayer de faire absolument tout.
18:48Je pense qu'on commence à le voir, toutes les entreprises de l'IA essayent d'introduire ça dans des produits.
18:52Et ça, c'est beaucoup plus simple à faire si vous avez un écosystème de l'IA qui est un peu ouvert,
18:56au sens où il y a un certain nombre de fournisseurs qui existent,
19:00et ensuite vous pouvez avoir des modèles plus ou moins propriétaires,
19:02comme dans les systèmes d'opération où vous avez Android, vous avez Apple,
19:05ils n'ont pas les mêmes caractéristiques et ils permettent de faire des choses différentes.
19:08C'est la même chose dans l'écosystème de l'IA.
19:10– C'est-à-dire créer des communs autour de l'IA.
19:12– Exactement, l'un des grands livrables, je vous ai parlé de la coalition,
19:15le deuxième autre, ou peut-être même le premier grand livrable de ce sommet,
19:19livrable diplomatique, donc pas national mais diplomatique de ce sommet,
19:22c'est cette fondation qu'on essaie de créer pour l'IA,
19:26qui vise, elle, à soutenir des communs numériques, en effet,
19:29notamment des bases de données, par exemple, ou alors des outils
19:32qui permettraient de s'assurer que les IA ouvertes sont aussi sûres, aussi performantes,
19:36ou en tout cas autant que possible, et donc peuvent être utilisées par plein de monde.
19:39– Et vous allez chercher où, alors, les 2,5 milliards sur 5 ans pour la fondation ?
19:43– Donc on fait, comme un fonds de capital risque,
19:45on fait une première levée de fonds à l'occasion de ce sommet,
19:47et on est honnêtement très proche de la cible qu'on s'était donnée,
19:52donc on est très content de ça, et ça vient à la fois des gouvernements,
19:56des philanthropies et des entreprises.
19:58Ce dont on se rend compte, c'est qu'il y a un grand nombre d'acteurs
20:00qui ont une envie de soutenir ces communs numériques,
20:03y compris pour leurs propres intérêts, tout ça n'est pas du caritatif,
20:05et on est très content par ailleurs d'avoir recruté un certain nombre de fondateurs
20:09et de fondatrices de start-up de l'IA, qui eux aussi considèrent que cette fondation
20:13sera utile pour eux pour arriver à développer leurs outils, et leurs outils commerciaux,
20:17donc on pense que c'est aussi un outil de compétitivité.
20:19– Mais donc c'est une fondation pour l'international ?
20:22– C'est une fondation pour l'international, tout à fait.
20:24– Avec des fonds internationaux ?
20:25– Avec des fonds internationaux qui viennent du monde entier,
20:27donc de l'Europe, des États-Unis, et également un petit peu d'Asie,
20:32et ensuite on a des pays qui sont des soutiens de cette fondation,
20:35mais qui donnent un peu moins d'argent puisqu'ils ont moins de capacités financières,
20:38mais qui vont soutenir d'autres manières, donc des pays notamment d'Afrique également.
20:42– Vous en attendez aussi des retombées économiques de ce sommet ?
20:45– Nous on espère, on la construit ainsi, donc à la fois le 10 février,
20:48vous avez pour les entreprises françaises qui ont la chance de pouvoir être au Grand Palais,
20:51des capacités bilatérales avec les grandes entreprises utilisatrices d'IA aussi,
20:55qui sont là, donc des potentiels clients,
20:57ou avec des gouvernements quand elles vendent aux gouvernements,
20:59et puis Station F, c'est pour nous un moment de rayonnement important,
21:02le business day de l'écosystème de l'IA,
21:04on a voulu mettre à chaque fois à l'honneur les cas d'usage de l'IA,
21:07donc il y a des démonstrations, il y a des pitchs,
21:09à la fois au Grand Palais et à Station F, qui vise à montrer ce savoir-faire-là,
21:13à chaque fois qu'on voit des investisseurs aux États-Unis par exemple,
21:16qu'on les voyait, ils nous disaient toujours,
21:17les français vous êtes très forts, très forts techniquement,
21:19mais on a besoin de comprendre que vous avez de l'ambition,
21:21donc je vous quitte ce sommet, c'est de montrer qu'on a de l'ambition,
21:24on a de l'ambition, y compris de l'ambition mondiale,
21:26et que du coup c'est important d'investir chez nous.
21:28Ah non mamie, je voulais qu'on termine avec l'interview express,
21:30c'est des questions binaires.
21:31Très bien.
21:32Oui ou non, nous aurons Donald Trump et Elon Musk à ce sommet à Paris ?
21:37Ah, ça je ne peux pas vous dire.
21:40Et si c'est oui ou si c'est non, bonne ou mauvaise nouvelle, raté ?
21:44Je pense que bonne nouvelle dans les deux cas.
21:46Ok.
21:47Alors, j'y crois ou j'y crois pas qu'on va trouver des accords justement
21:50au niveau international sur l'IA ?
21:52J'y crois, c'est ce qu'on est en train de faire.
21:54Vrai ou faux, l'Europe peut être pénalisée par le règlement sur l'IA ?
21:59Compliqué.
22:02C'est mieux ou moins bien depuis que vous avez travaillé sur le rapport,
22:05justement, de la commission IA remis au Président de la République,
22:07qui s'appelait « Notre ambition pour la France ».
22:09Comment les choses ont évolué selon vous ?
22:12Il faut que je réponde.
22:13Alors, très rapidement.
22:14Mieux ou moins bien ?
22:15Mieux ou moins bien ?
22:16Plutôt mieux, parce que notamment les évolutions récentes de la technologie
22:19montrent que la France a toute une carte à jouer.
22:22Rêve ou cauchemar, dit PSIC, selon vous ?
22:25Le grand modèle chinois.
22:27Rêve technologique.
22:28En termes d'usage, je pense que c'est à chacun de juger.
22:31Pour ou contre une utilisation beaucoup plus massive de l'IA
22:34au sein de l'État et des services publics ?
22:36De façon raisonnée, plutôt pour.
22:38Il y a énormément de gains à avoir, y compris pour le bien-être des agents
22:41sur des tâches répétitives et pour améliorer la qualité de service.
22:45Merci beaucoup.
22:46C'était Arnaud Hammabil.
22:47Vous avez joué le jeu de l'interview jusqu'au bout.
22:50Je rappelle que vous êtes le conseiller de l'envoyé spécial du président
22:53pour le sommet pour l'action sur l'IA.
22:55Merci beaucoup pour cette interview.
22:57À suivre, on va parler justement du champ d'application de l'EIA Act.
23:00Merci.
23:07On termine cette édition avec Mathieu Bourgeois.
23:09Bonjour, Mathieu.
23:10Je rappelle que vous êtes avocat associé, vice-président du Cercle de la Donnée.
23:14Aujourd'hui, on va parler de l'EIA Act, ou alors en français, le RIA,
23:18le règlement sur l'intelligence artificielle.
23:21Il a été publié au journal officiel de l'Union européenne le 12 juillet 2024.
23:26Est-ce que vous pouvez revenir brièvement sur la raison d'existence de ce nouveau texte ?
23:31Bonjour Delphine, bonjour à tous.
23:33Le but de ce nouveau texte, c'est de conjurer les risques importants
23:36que font courir les IA trop nuisibles à la société,
23:39des risques de discrimination,
23:41des risques de prolifération de contenus manipulatoires ou erronés,
23:44mais des risques aussi pour la santé et pour l'environnement.
23:47On s'en est déjà exprimé dans cette tribune.
23:50Le moyen qui a été employé, c'est un moyen classique,
23:53c'est-à-dire dans la droite ligne de la doctrine suivie par la Commission,
23:57c'est-à-dire c'est une logique d'autodiscipline.
24:00En fait, l'Europe fait le pari que les organisations, les entreprises
24:04vont s'autodiscipliner parce que la conformité sera gage de confiance
24:08et que donc l'IA non conforme ne sera pas adoptée.
24:12C'est une logique qui est discutable, de mon point de vue,
24:15parce qu'elle a montré ses limites tout simplement
24:18parce que les entreprises n'ont pas toujours les moyens,
24:21ça a un véritable coût, et les pouvoirs publics ne mettent pas
24:24toujours les moyens de polyjustice pour contrôler.
24:27On aurait pu avoir une logique différente du type autorisation
24:30de mise sur le marché, mais ce n'est pas la logique qui a été suivie.
24:33C'est la logique que vous auriez appréciée, d'ailleurs,
24:36qu'on en a déjà parlé, une logique plus contraignante.
24:39Avant d'entrer dans le fond du texte, est-ce que vous pouvez nous rappeler
24:42le type d'IA ?
24:45Une intelligence artificielle, il y a une définition très large
24:48qui la définit comme un ensemble de théories et de techniques
24:51mis en œuvre pour simuler l'intelligence humaine.
24:55C'est très large. En fait, il y a deux grands types sur le plan technique
24:58d'intelligence artificielle. Tout d'abord, il y a l'IA dite symbolique
25:01ou cognitive, c'est une IA qui s'appuie sur un moteur d'inférence
25:05qui utilise des règles préalablement définies par des experts.
25:09On appelle ça aussi les systèmes experts. Donc cette IA-là,
25:12elle est très simple, elle déduit, c'est-à-dire qu'elle part des règles
25:15et elle va conclure sur des faits. Elle n'a pas de capacité
25:19de généralisation, autrement dit, on lui apprend le monde
25:22et face au monde, elle raisonne, mais elle n'évolue pas.
25:25Ça, c'est l'IA cognitive ou symbolique. Et puis, il y a l'IA
25:28connexionniste qui, à l'inverse, n'a pas de raisonnement déductif
25:32comme la précédente, mais un raisonnement inductif,
25:35c'est-à-dire que face à des faits, autrement dit face à des données,
25:38elle va tirer des conclusions générales. C'est cette IA-là
25:41qui a eu un succès fulgurant ces dernières années,
25:44tout simplement parce qu'il y a l'apparition du big data et que donc
25:47les données sont massivement disponibles. Un des algorithmes
25:50de cette IA qui a eu beaucoup de succès, c'est l'algorithme
25:53de rétropropagation du gradient, qui est le résultat notamment
25:56des travaux du chercheur Geoffrey Hinton,
25:59et aussi en collaboration avec Yann Lequin et Yosha Bengio
26:03qui ont eu le Prix Turing en 2019, dont on a déjà parlé
26:06dans cette tribune. Et cette IA-là, elle fonctionne
26:09de la manière suivante. Elle est constituée d'un réseau
26:12de neurones artificiels, alors en fait ce sont des microcalculateurs,
26:15les neurones artificiels, qui sont confrontés à des stimuli,
26:19c'est-à-dire à des données étiquetées.
26:22C'est ce qu'on appelle les données d'apprentissage.
26:25Et à ce moment-là, avec un moteur d'optimisation,
26:28un algorithme d'optimisation, elle va se corriger au fur et à mesure
26:31dans cette base d'apprentissage, de sorte à généraliser
26:34et à créer un modèle. Un modèle, c'est-à-dire en fait
26:37un ensemble de principes qu'elle va avoir en elle.
26:41Et ensuite, face à un environnement réel, c'est-à-dire face à des données
26:44non étiquetées, elle va apporter des réponses cohérentes
26:47dans un contexte inconnu. Cette IA connexionniste,
26:50vous avez compris Delphine, ne fonctionne pas sur la base
26:53d'une programmation explicite. C'est un mécanisme d'optimisation.
26:56La connaissance est déportée dans les données,
26:59d'où l'importance d'avoir des bonnes données.
27:01Alors, au sens de ce nouveau règlement,
27:04qu'est-ce qu'on entend par système d'IA ?
27:06C'est très important parce que nous, les juristes, on va se demander
27:09si les entreprises, quand elles nous soumettent à un projet numérique
27:13et qu'elles prétendent qu'il s'agit d'une IA,
27:15est-ce que c'est véritablement une IA ?
27:17Le règlement définit cela de la manière suivante.
27:19C'est l'article 3. Une IA est un système automatisé,
27:22ensemble de logiciels et de matériel autrement dit,
27:24qui fonctionne à différents niveaux d'autonomie,
27:27pas de difficultés, et peut faire preuve d'une capacité d'adaptation.
27:31Le « peut » est déterminant parce qu'elle peut ou ne peut pas.
27:34C'est ce qui permet d'inclure dans cette définition les IAs connexionnistes
27:37qui font preuve d'une capacité d'adaptation,
27:39mais aussi les IAs symboliques qui n'ont pas de capacité d'adaptation
27:42puisque le « peut » n'est qu'une faculté et pas une nécessité.
27:45La définition poursuit en disant « et » qui, pour des objectifs explicites
27:48ou implicites, déduit. Là, c'est une maladresse de plume.
27:51Le texte aurait dû dire « déduit ou induit ».
27:55Donc, il faut entendre « déduit ou induit », même si le texte ne le dit pas.
27:58Sinon, on exclut les IAs connexionnistes, ce qui n'est évidemment pas possible.
28:02La manière de générer des sorties telles que des prédictions,
28:05des contenus, des recommandations, des décisions.
28:07Il y a deux maladresses dans cette définition.
28:10La première, je l'ai relevée, c'est qu'il aurait fallu rajouter « induit ».
28:13Et la deuxième, c'est qu'on nous dit que l'IA peut générer des contenus.
28:17Or, le problème, c'est qu'avec cette définition,
28:19on se demande si Excel n'est pas une IA,
28:21puisque finalement, Excel a bien des principes et déduit des contenus.
28:25En fait, l'IA, a priori, sort des connaissances et pas simplement des contenus.
28:29La définition aurait dû être un peu mieux rédigée.
28:31Et bien, il y a encore beaucoup de travail sur ce texte.
28:33Heureusement qu'on a un petit peu de temps pour l'appliquer.
28:35Merci beaucoup, Mathieu Bourgeois.
28:37Je rappelle que vous êtes avocat associé vice-président du Cercle de la Donnée.
28:41Merci à vous de nous suivre.
28:42C'était Smartech, vous nous regardez sur la chaîne Le Smart for Change.
28:44Je vous dis à très bientôt.
28:51Sous-titrage Société Radio-Canada