Lundi 14 octobre 2024, SMART TECH reçoit Arno Pons (Directeur Général délégué, Digital New Deal) , Xavier Carbasse (avocat associé & fondateur, BG2V avocat) , Viktor Arvidsson (directeur de la stratégie, Ericsson France) et Hervé Le Jouan (fondateur, Advisory)
Category
🗞
NewsTranscription
00:00Bonjour à tous, le secteur européen des télécommunications attend avec une certaine impatience sa loi sur les réseaux.
00:16Alors on verra pourquoi, on verra ce que propose le texte, un premier texte sur le Digital Network Act, ce sera aujourd'hui notre sujet à la une.
00:24Et puis on parlera aussi de privacy avec les grands modèles de langage et les données personnelles.
00:29Voilà un nouveau paradigme que nous allons décrypter.
00:32Mais d'abord, trois questions sur l'intelligence artificielle, révolution ou évolution pour les juristes.
00:37C'est tout de suite, trois questions dans Smartech.
00:44Alors, évolution ou révolution cette intelligence artificielle pour les juristes, on va voir ça ensemble.
00:49Bonjour Xavier Carbas, vous êtes avocat au barreau de Paris, associé fondateur de BG2V Avocat, qui a lancé d'ailleurs cet été un think tank dédié aux directions juridiques.
00:59Vous êtes également membre de l'AIGA, l'Association Internationale des Avocats.
01:03Comment cette intelligence artificielle générative, comment ce chat GPT d'abord, a été accueilli par les avocats ?
01:11Eh bien avec beaucoup d'intérêt, beaucoup d'inquiétude aussi évidemment.
01:16Nous, nous sommes chez BG2V très intéressés par tous ces sujets de technologie depuis toujours.
01:23Et nous avons bien évidemment, il y a deux ans, lorsque le buzz a commencé à se faire au sujet de ces sujets d'intelligence artificielle générative.
01:32Nous sommes intéressés à ces sujets parce qu'il est question que les juristes ne soient pas très loin derrière dans la liste,
01:38après les scénaristes d'Hollywood et les traducteurs, des professions en danger par rapport à l'intelligence artificielle.
01:46Puisqu'on considère que finalement la loi, le droit, c'est une immense base de données, de textes.
01:52Et que finalement il suffit d'y mettre les outils qui conviennent pour sortir des solutions juridiques et processer tout ça de manière automatique.
02:00Vous allez me dire évidemment que ce n'est pas ça. En tout cas on n'en est pas là.
02:03Qu'est-ce qu'elle sait faire l'IA aujourd'hui ?
02:05Alors l'IA elle sait faire certaines choses, ça tâtonne.
02:09On nous fait beaucoup de promesses, on a beaucoup d'éditeurs, de gros éditeurs ou de petits acteurs qui arrivent sur le marché,
02:15qui nous sollicitent, nous avocats mais aussi dans les directions juridiques des entreprises.
02:20Et nous proposent soit des révolutions totalement, soit quasiment de nous remplacer, pour certains transhumanistes californiens par exemple.
02:32Mais aussi certains nous proposent plus modestement des outils pour rédiger des contrats, analyser des décisions de jurisprudence,
02:41ou nous aider à carrément rédiger des notes juridiques, des mémos juridiques, des consultations.
02:50Donc on se dirait que c'est une évolution ou une révolution ça pour l'instant ?
02:53Alors ça peut être une révolution, ça peut être une évolution.
02:56Pour l'instant c'est nous attendons l'évolution et c'est toute la question, c'est tout le sujet de la raison pour laquelle nous avons voulu mettre en place ce groupe de travail
03:06qui est le fruit d'une réflexion avec nos amis du réseau Fleet Networks qui est un réseau de juristes, d'entreprises de la tech français.
03:16Mais aussi Calam qui est un legal operator externalisé.
03:21Et nous avons eu aussi des échanges avec nos clients qui sont les directeurs juridiques qui nous parlent de tout ça.
03:27Et qui nous disent nous on a une pression en interne de la part de nos CIO qui nous demandent de mettre en place l'intelligence artificielle dans les directions juridiques.
03:34Avec une idée évidemment derrière la tête c'est de réduire les coûts.
03:37Et tout ça on se dit nous qu'est-ce qu'on va faire de tout ça ?
03:40Et on ne sait pas parce qu'on n'a pas les outils encore vraiment au point pour nous lancer.
03:47Ma troisième question justement c'est quels sont les sujets qui vous semblent nécessaires d'anticiper là à ce stade ?
03:54Alors ce qui nous semble nécessaire d'anticiper c'est déjà de faire une veille très précise de ce qui existe, de ce qu'on peut faire, de ce qu'on doit faire.
04:03Et de mettre en place des bonnes pratiques aussi entre nous avec l'intelligence artificielle.
04:08Donc c'est l'objet de ce groupe de travail où nous réunissons deux fois par an des directeurs juridiques d'entreprise.
04:14Qui eux sont concernés pour l'organisation de leurs équipes juridiques.
04:17Et qui doivent se tenir informés des outils qui existent et qui vont arriver sur le marché pour être prêts le moment venu.
04:23Et on voit que ces outils sont là.
04:25Vous identifiez déjà des risques peut-être ?
04:28Alors tous les enjeux de l'intelligence artificielle.
04:31Donc c'est évidemment les enjeux de coût, les enjeux de choisir les bons outils et les enjeux de risque évidemment.
04:37Le risque parce que les risques ne peuvent pas avoir des solutions comme celles qui peuvent être rendues par des êtres humains.
04:45Vous avez une intelligence artificielle qui vous fait une consultation juridique.
04:49Vous avez quand même des raisons de douter de la fiabilité de ces résultats.
04:56D'autant que nous savons qu'aujourd'hui ce n'est pas au point.
04:59Vous avez des études de Stanford notamment qui ont montré que les deux plus grands outils d'intelligence artificielle dédiés aux avocats et aux juristes.
05:07Créés par les deux plus grands éditeurs américains Reuters et LexisNexis.
05:12N'ont pas forcément passé le cap du test de la fiabilité avec beaucoup de ce qu'on appelle des hallucinations.
05:19Et ça pose la question de la responsabilité aussi de celui qui va l'utiliser, du juriste.
05:23Évidemment la question de la responsabilité.
05:25Donc ce qu'on sait, ce qu'on peut envisager aujourd'hui c'est que l'intelligence artificielle à court ou moyen terme va avoir un intérêt certain pour tout ce qui est tâche à faible valeur ajoutée.
05:35Et que le rôle du juriste va se reporter sur des questions de stratégie, de conseil à plus forte valeur ajoutée.
05:43Mais l'intelligence artificielle aura toujours en elle-même cette problématique de fiabilité.
05:49Et qu'il va falloir traiter également en interne dans les entreprises, aussi dans les cabines d'avocats.
05:55Pour former nos collaborateurs à l'usage de l'intelligence artificielle.
06:02Merci beaucoup Xavier Carvas, ça fait pas mal de travail en vue avocat associé je le rappelle et fondateur de BG2V Avocat.
06:12C'est l'heure de notre débat, on va parler de la loi sur les réseaux qui est très attendue dans l'Union Européenne.
06:22Ericsson, Nokia, Vodafone, trois grands acteurs des télécoms en Europe ont signé ensemble une lettre publiée dans Politico Europe pour des mesures urgentes sur la compétitivité.
06:34Leurs demandes d'action sont conformes, nous disent-ils, aux ambitions de la loi européenne sur les réseaux numériques que l'on attend, le Digital Networks Act.
06:42Alors que propose justement ce règlement sur lequel doit se positionner la Commission Européenne ?
06:47Quelle est l'urgence pour le secteur des télécommunications en Europe ?
06:51Faut-il par exemple faire payer les Big Tech pour financer la montée en débit sur les réseaux ?
06:56Ça va faire partie des questions que je poserai à Victor Hardisson.
07:00Merci beaucoup d'être avec nous.
07:02Vous êtes directeur des relations gouvernementales, industrielles et de l'innovation de la stratégie pour Ericsson France.
07:08Ericsson, juste un mot, principal équipementier aujourd'hui et fournisseur d'infrastructures en Europe.
07:16Principal équipementier sur les déploiements 4G et 5G en France, donc partenaire des grands acteurs de ce marché.
07:24Et Arnaud Pont, c'est à côté de vous, directeur général du SYNC et du Tank Digital New Deal.
07:30Vous enseignez également à Sciences Po, à l'école du management et de l'innovation sur les enjeux de souveraineté numérique
07:36qui sont liés à cette centralisation des pouvoirs politiques et économiques des Big Tech.
07:41Vous êtes également l'auteur de plusieurs ouvrages, des livres blancs pour le gouvernement.
07:46On peut citer Cloud de confiance par exemple pour Bercy.
07:49Ma première question, c'est que contient à ce stade, puisque pour l'instant on est au stade du livre blanc si j'ai bien suivi,
07:56le Digital Network Act dans cette version qui avait été présentée par Thierry Breton à l'occasion du Mobile World Congress au printemps dernier.
08:09Mon autre question est un peu liée. Est-ce que le départ de Thierry Breton de la Commission européenne est la raison pour laquelle vous avez signé cette lettre ouverte ?
08:19Bonjour, merci. Dans l'ordre que contient ce livre blanc, je pense qu'il contient d'abord un constat.
08:27Il y a un minimum trois volets.
08:31D'abord un premier constat qui est que le déploiement des réseaux, en particulier mobiles en Europe, est en retard par rapport à d'autres pays,
08:39par rapport à d'autres zones géographiques en Amérique du Nord ou en Asie.
08:43Un deuxième constat qui est que les opérateurs européens en général ne gagnent pas assez d'argent,
08:49c'est-à-dire que leur coût du capital est supérieur à leur retour sur investissement.
08:54Donc ils sont dans une situation compliquée pour pérenniser leur activité pour investir.
09:00Et le troisième constat est un peu plus général, c'est-à-dire qu'en Amérique du Nord en particulier,
09:05l'industrie de la tech, les géants de la tech se sont beaucoup plus développés qu'en Europe,
09:10où finalement on reste encore pour les principales capitalisations sur la deuxième révolution industrielle et pas sur la dernière.
09:16Donc ça c'est un petit peu le constat.
09:18Et après le rapport dresse un certain nombre de remèdes qui vont effectivement chercher à accroître la qualité de la couverture,
09:27harmoniser un petit peu la réglementation pour créer un peu des économies d'échelle pour les acteurs, pour les opérateurs.
09:34Et puis votre troisième question, est-ce que le départ de Thierry Breton va changer quelque chose ?
09:39On espère que non, mais effectivement on veut aussi être présent pour que ça reste au cœur des enjeux.
09:45Qu'est-ce qui récupère d'ailleurs aujourd'hui ce dossier à la Commission européenne ?
09:50Alors on peut imaginer, même si effectivement il y a encore des auditions,
09:55peut-être que les attributions des différentes directions en général ne sont pas totalement calées,
10:00mais on peut imaginer que c'est le commissaire finlandais effectivement qui va être en charge du numérique,
10:04qui pourrait récupérer une grande partie.
10:06Donc la commissaire.
10:08La commissaire en l'occurrence.
10:10Et Stéphane Zéjourné pourrait aussi avoir son mot à dire sur la compétitivité.
10:14Donc je pense que ces deux commissaires-là sont clairement importants sur ce sujet.
10:19Et on se fait entendre justement pour que ce sujet-là demeure et soit encore plus en haut de la pile.
10:25Que ce ne soit pas oublié.
10:27Arnaud Ponce, sur la question du déséquilibre aujourd'hui des forces entre les big tech et nos grands acteurs européens,
10:34on a quand même l'impression que dans le secteur des télécoms, c'est solide en Europe.
10:38Oui, c'est un secteur très solide, mais on est quand même face au plus grand monopole de l'histoire.
10:43C'est-à-dire que l'asymétrie est grandissante parce que les big tech sont sur toute la chaîne de la valeur.
10:49En fait, c'est le problème, c'est que quand vous posez la question du départ de Thierry Breton,
10:53c'est quand même une question parce qu'il avait une vision d'ensemble sur la question des monopoles de ces big tech.
11:00Et donc il y a toute la régulation du mandat précédent est à voir d'un bloc quelque part.
11:06Donc le DSA, le DMA, le DGA, le DA, les AIC, je ne vais pas faire la liste.
11:10Et ce dont on parle, le DNA, il est en complément et il est dans ce dispositif-là.
11:16Donc si on l'isole seul et qu'on se pose toutes les questions qu'on commence déjà à se poser autour de la table,
11:21cette régulation potentielle ne pourra pas répondre à tous ces enjeux-là.
11:25L'asymétrie qu'il existe entre les opérateurs...
11:28En un seul mot, l'asymétrie, j'imagine.
11:30Oui, l'asymétrie en un seul mot.
11:32Et oui, malheureusement.
11:33Parce qu'il y a un problème.
11:35Déjà, la question sur laquelle on est confronté, c'est qu'il y a un enjeu majeur sur lequel il est intangible,
11:40qui est la neutralité d'Internet.
11:42Et en même temps, on voit bien que c'est une neutralité un peu à sens unique.
11:45C'est-à-dire qu'elle est portée par les opérateurs télécoms,
11:48qui en portent vraiment la responsabilité juridique et financière dans les coûts de développement.
11:54Alors que derrière, on voit bien que les acteurs qui sont derrière les principaux fournisseurs de contenu,
11:59eux sont surtout la chaîne de valeur.
12:01C'est-à-dire qu'ils sont jusqu'au terminal.
12:04Et donc, ils ont une co-responsabilité dans ces contenus.
12:08Donc, c'est une vraie question.
12:10On va peut-être réexpliquer de quoi on parle quand on parle de neutralité du Net.
12:14Parce que là, justement, on en vient à cette question.
12:17Faut-il faire payer les big tech pour les débits qu'elles exigent ?
12:23Et donc, l'accroissement des infrastructures et les financements nécessaires.
12:28Faut-il qu'ils participent davantage aux financements de ces grandes autoroutes ou pas ?
12:35Ça, c'est un premier point.
12:37Et ensuite, qu'est-ce qui va se passer au bout de la chaîne ?
12:39Est-ce que ça veut dire qu'on va voir apparaître, finalement, des offres différenciées chez les utilisateurs ?
12:46Donc, quand ils voudront consulter des vidéos YouTube à très haut débit, par exemple,
12:51peut-être qu'ils devront payer un abonnement plus onéreux,
12:54parce qu'on n'aura pas tous, finalement, accès au même contenu, au même Internet.
12:58C'est là où on remettrait en cause la neutralité du Net.
13:02Alors, on va d'abord adresser la première question.
13:04Faut-il faire payer les big tech, selon vous, aujourd'hui, pour les réseaux de demain en Europe ?
13:09Même si, quand je dis faut-il faire payer, ils participent déjà.
13:13Ils participent déjà. Le financement des réseaux, c'est un point important.
13:17Honnêtement, pour moi, je pense que le point essentiel, c'est effectivement la capacité pour les opérateurs
13:25de monétiser leurs services et de monétiser leur réseau.
13:29Effectivement, monétiser leurs services, ça passe par, par exemple, des offres de slicing, donc de différenciation.
13:36Et c'est vrai qu'un vrai sujet, c'est d'arriver à être compatible avec la neutralité du Net
13:41et de proposer des offres différenciées en plus, qui vont au-delà.
13:45L'ARCEP, le régulateur, en tout cas, il demande les deux, à la fois le respect de la neutralité du Net
13:51et il a mis dans la feuille de route des opérateurs de déployer du slicing.
13:55Donc, on pense clairement qu'il y a un chemin là-dessus.
13:58Et l'autre tendance assez forte maintenant, c'est l'exposition du réseau vers l'extérieur,
14:04c'est-à-dire d'ouvrir des interfaces pour que les opérateurs puissent commencer à monétiser,
14:09finalement, un certain nombre de caractéristiques et d'actifs du réseau,
14:12que ce soit, par exemple, pour la sécurisation des transactions bancaires
14:16ou on peut, par exemple, informer de la localisation d'un utilisateur
14:20pour s'assurer que la transaction est bien légale et pas frauduleuse, etc.
14:24Donc, nous, on croit beaucoup, effectivement, à la capacité pour les opérateurs
14:28de monétiser leur service et, finalement, leur réseau.
14:32Et ce slicing, il est possible depuis la 5G ?
14:36Ce slicing, enfin, théoriquement, il était possible avant,
14:39mais c'est effectivement avec la 5G qu'il s'industrialise et qu'il devient beaucoup plus facile.
14:44Donc, effectivement, il va être encore plus facile avec le déploiement de la 5G standalone
14:50qui va arriver dans les mois et les années qui viennent.
14:53Donc, on pense réellement que ça, ça peut être un élément de différenciation.
14:57Donc, pour nous, voilà, c'est plus important qu'ils arrivent à monétiser.
15:00Après, effectivement, il y a aussi un débat sur le financement des réseaux.
15:04Mais l'important pour nous, c'est quand même qu'ils arrivent à créer de la valeur,
15:08à créer des revenus, à se mettre dans une démarche positive de génération de valeur.
15:13Et donc, comment est-ce qu'on peut respecter cet équilibre entre la nécessité
15:18que l'ensemble des citoyens européens aient accès à Internet, c'est-à-dire sans différenciation,
15:24et en même temps permettre de générer des nouveaux revenus aux opérateurs
15:29via une offre de services différenciés ? C'est possible, ça ? On peut marier les deux ?
15:34Je pense que le fantasme de la taxe net fixe, il faut l'oublier.
15:39Même les Américains sont revenus en arrière. Il n'y a qu'en Corée que ça existe.
15:43Je pense que l'intentionnalité est la bonne, c'est-à-dire que comment est-ce qu'on arrive
15:46à faire participer au Big Tech, au financement des infrastructures ?
15:49C'est la question clé, parce qu'il nous manque 200 milliards d'euros par an
15:53pour avoir les infrastructures au niveau des Américains et des Chinois.
15:55Donc, il faut adresser ce problème. Taxer les Big Tech, oui.
15:59Taxer par ce chemin-là, je n'y crois pas trop, parce que ça attaque la neutralité.
16:03La neutralité, c'est un principe intangible. Si on commence à mettre le doigt dedans,
16:07ça va être très compliqué derrière. Donc, comment est-ce qu'on les taxe ?
16:11On les taxe d'abord en les faisant payer ce qu'ils doivent payer, déjà.
16:15C'est-à-dire qu'il y a des abus de droit sur la fiscalité.
16:17Déjà, qu'ils payent ça, ça financerait les infrastructures.
16:21Appliquer le DSA, le DMA, parce qu'en fait, il y a beaucoup de choses qui sont prévues pour le faire.
16:27Et à la limite, si on devait créer une nouvelle taxe, moi, je préférais qu'on fasse une taxe carbone.
16:31C'est-à-dire qu'on imagine qu'on a tenté dans d'autres sujets, ça n'a pas réussi, mais là, ça s'y prête assez bien.
16:37C'est-à-dire qu'aujourd'hui, il y a une surconsommation de ces grands acteurs.
16:42Alors, on parle de qui ? On parle de Netflix, YouTube, qui représentent un tiers de la bande passante mondiale.
16:48Donc, aujourd'hui, il y a des principes assez simples de compression, ça s'appelle Codec, de ces contenus vidéo.
16:56Si on les poussait à utiliser ces principes de compression, on diminuerait de moitié leur part.
17:02Donc, vous voyez un peu l'impact que ça a sur l'environnement.
17:05Donc, si on faisait une taxe carbone en disant, voilà...
17:07Les inciter, en fait, à faire un effort sur la compression.
17:10Exactement. Ça reviendrait à les faire participer à l'effort des infrastructures, leur financement.
17:16Ça aurait un impact environnemental important et on ne viendrait pas attaquer le principe de neutralité.
17:21Enfin, moi, c'est plutôt dans ce genre d'axe-là que je me réfléchis.
17:24Qu'est-ce que tu trouves là-dessus dans le texte aujourd'hui, tel qu'il est, sur le Digital Networks Act ?
17:29Est-ce qu'il y a cette notion de faire payer, de taxer les big tech ?
17:35De toute façon, c'est un sujet qui est en débat, effectivement.
17:39C'est un sujet qui est en débat, qui est mentionné.
17:41Comme vous le dites, il y a un débat parce qu'il y a des gens qui pensent que c'est une bonne ou une mauvaise idée.
17:49Et il y a des gens qui pensent que c'est une bonne idée, mais assez irréaliste aussi.
17:53Pour l'instant, on en est au stade de plusieurs pistes envisagées.
17:58Et sur l'urgence, parce que là, quand vous publiez cette lettre, vous nous dites qu'il y a urgence.
18:05Il y a urgence pour quoi ?
18:07Il y a urgence pour plusieurs raisons.
18:10Parce que quand on regarde les ARPU, on se dit que ça va, les revenus par abonné.
18:14Pour l'instant, les opérateurs ne sont quand même pas à la rue.
18:17Alors certes, les revenus sont moins importants que peut-être d'autres contrées, mais ils sont quand même positifs.
18:25Effectivement, le jour où on a des chiffres d'affaires négatifs, là, ça devient très dur.
18:30Mais effectivement, les revenus sont positifs.
18:32Néanmoins, c'est vrai que c'est un peu un trompe-l'œil.
18:34Parce qu'ils ont un retour, et c'est assez marrant, ça sort de manière vraiment systématique dans plusieurs rapports d'analystes financiers.
18:42Le retour sur leur investissement est inférieur au coût de leur capital.
18:47Donc finalement, ça a tendance à faire fuir les investisseurs.
18:50Ça réduit sur la durée leur capacité à investir.
18:53Ça réduit la confiance que les uns et les autres, les investisseurs, peuvent avoir dans leur capacité à être rentable.
18:59Ça réduit un petit peu mécaniquement leur capacité à déployer des réseaux.
19:03D'autant plus que si en plus ils ont du mal à vraiment monétiser ce qu'ils déploient derrière,
19:09on est dans une spirale un petit peu négative où le déploiement des réseaux en Europe prend du retard
19:15par rapport à l'Amérique du Nord, par rapport à certains pays d'Asie.
19:19Du coup, la capacité des réseaux qu'ils peuvent avoir pour la transformation numérique,
19:24pour gagner en compétitivité, pour déployer la 5G industrielle,
19:28voire le numérique pour être un outil de transformation environnementale,
19:32parce que certes il y a des travers, mais il y a aussi un formidable potentiel du numérique pour accompagner cette transformation.
19:39Du coup, on prend du retard par rapport à d'autres continents.
19:42C'est vraiment sur le court terme maintenant où il faudrait avoir une impulsion,
19:48changer de braquet pour avoir cet outil de compétitivité plutôt que quelque chose d'un peu plus mou.
19:56Et puis les deux conséquences à moyen et à long terme, c'est que ce qu'on voit,
20:00c'est qu'aux Etats-Unis, l'écosystème de la tech s'est aussi développé sur des infrastructures viables.
20:08Je ne sais pas si la métaphore est la bonne, mais pour inventer la meilleure voiture, il faut quand même avoir des bonnes routes.
20:14Donc pour inventer les meilleures solutions tech, autant avoir des bons réseaux.
20:18Et après, on est aujourd'hui, même si ça peut paraître un peu contre-intuitif,
20:22on est aujourd'hui dans la préparation de la 6G qui se prépare dix ans avant.
20:26C'est un enjeu de souveraineté majeur pour l'Europe par rapport aux autres continents.
20:30Et si on n'est pas dans une dynamique positive sur la 5G, c'est difficile de se projeter sur la 6G.
20:35Donc on a des problèmes de court terme et de long terme.
20:37Quelle est la mesure phare de compétitivité que vous attendez aujourd'hui ?
20:41Alors effectivement, il y a des mesures, un peu de patch de court terme,
20:47qui sont d'accompagner le déploiement de la couverture et d'améliorer le niveau de connectivité.
20:53Ça peut être par différentes formes d'accompagnement public, soit des aides au déploiement,
20:58soit des montages comme ce qui a été fait en France avec le New Deal Mobile,
21:02où quelque part c'est un accord extension de licence contre engagement de déploiement.
21:06Donc finalement, on arrête, et c'est aussi un des éléments qui a été ressorti dans ce livre blanc,
21:12on arrête de voir les enchères uniquement comme un moyen de récupérer des fonds,
21:17mais plutôt comme un co-investissement dans les infrastructures.
21:20Donc ça, je pense que ce changement de perception, la couverture numérique,
21:25les engagements des opérateurs, c'est bénéfique pour tous.
21:28Ça, c'est une première chose de court terme.
21:30Et après, sur le moyen et le long terme, c'est d'avoir un cadre réglementaire plus harmonisé
21:36pour permettre aux opérateurs d'avoir quelques économies d'échelle et d'être dans une dynamique plus positive.
21:43Et donc on a un enjeu de souveraineté aujourd'hui, vraiment, sur cette question des infrastructures ?
21:48Ah oui, c'est un enjeu de souveraineté.
21:50On parle de choses concrètement, on voit bien qu'il y a une partie de ces infrastructures,
21:54je parle sur le cap sous-marin, qui sont aujourd'hui détenues par ces big tech.
21:58Et d'ailleurs, à la réponse que vous avez formulée sur la compétitivité,
22:03on arrive assez rapidement sur l'intervention de l'État.
22:05Parce qu'en fait, on parle de quoi ? On parle d'infrastructures d'intérêt général.
22:09Donc se pose la question de l'intervention et du financement du secteur public.
22:18Parce qu'on est sur des infrastructures, on parle d'urbanisation du numérique.
22:22C'est-à-dire que si on n'arrive pas, vous preniez la métaphore de la route,
22:27et c'est vrai que ça s'y prête assez bien, mais n'importe quelle infrastructure, les égouts, l'électricité,
22:31il y a bien des infrastructures qui sont mises en place par l'État
22:34pour que par-dessus puissent se créer des services et une économie.
22:39Donc aujourd'hui, on est un peu entre les deux, c'est-à-dire que sur ces infrastructures numériques,
22:44parce qu'elles sont immatérielles, on a du mal à se positionner de manière claire.
22:49Est-ce que ça doit être financé totalement par l'État ?
22:51Je sais que l'État y prend sa part, je pense à la Banque des Territoires, etc.
22:55– Sur le plan français, très haut débit, par exemple.
22:57– Exactement, mais est-ce qu'on doit aller plus loin ?
22:59D'ailleurs, c'est le sujet d'un rapport qu'on vient de publier, c'est une vraie question.
23:02Et entre les acteurs privés qui voudraient prendre la main sur les infrastructures,
23:06et l'Europe qui a plutôt une approche plus intérêt général,
23:11ça pose la question du coup de si le rapport Draghi peut nous inviter à ça,
23:15à faire des investissements européens plus importants.
23:17– Merci beaucoup Arnaud Ponce, Digital New Deal, et Victor Harvidsson,
23:21j'ai mal prononcé votre nom en introduction, pour Ericsson France.
23:25Merci à tous les deux pour vos éclairages.
23:27Tout de suite, on va s'intéresser à nos données personnelles
23:30face aux grands modèles de langage d'intelligence artificielle.
23:40On termine cette édition avec Hervé Lejouan, Advisor.
23:43Bonjour Hervé.
23:45Alors aujourd'hui, notre sujet, c'est ces LLM, ces grands modèles de langage
23:49et les données personnelles, voilà un nouveau paradigme, vous nous dites.
23:52Alors, pourquoi est-ce un nouveau paradigme ?
23:55– Jusqu'à l'avènement de Chad GPT, quasiment toutes les données,
23:58et certainement les données personnelles, étaient sauvegardées dans des bases de données,
24:02et elles le sont encore aujourd'hui d'ailleurs,
24:04pour la majorité des services que nous utilisons,
24:06que ce soit lorsqu'on est sur des sites e-commerce,
24:09que ce soit des réseaux sociaux, des banques ou autres organisations.
24:13Et ces bases, la plupart du temps, sont des bases relationnelles,
24:17comme Oracle, SQL Server, MySQL pour ne citer qu'elle,
24:20ou des bases non-relationnelles, ce qu'on appelle de type NoSQL,
24:23comme MongoDB.
24:25Mais elles sont accessibles, ces bases, via des langages,
24:27qui sont des langages certains, structurés, comme SQL ou d'autres langages,
24:31et donc qui ont un caractère déterministe et persistant.
24:35Et donc l'accès à ces données, il est certain,
24:38et on peut ainsi en rajouter, les modifier ou les supprimer,
24:41et c'est d'ailleurs sur ce type de modèles de données et des traitements associés
24:45que s'est appuyé le RGPD pour définir des droits à la fois pour les citoyens
24:50et des devoirs pour les entreprises.
24:52Aussi, l'intelligence artificielle, qui est déjà largement utilisée
24:56dans le monde industriel, de la santé, de la finance,
24:59mais aussi par des moteurs de recherche ou lorsqu'ils nous ciblent sur Internet,
25:03elle s'appuyait et s'appuie encore sur ces bases de données persistantes
25:06pour la sauvegarde de données.
25:08Et là où, effectivement, avec l'émergence de LLM à partir de fin 2022,
25:12comme CHAT, GPT, Gmini ou Mistral ou d'autres,
25:15nous sommes entrés dans une nouvelle ère ou un nouveau paradigme
25:18où la notion de base de données n'existe plus.
25:20Car chaque réponse à votre question, à votre prompt, ce qu'on appelle,
25:23est générée et créée en temps réel et littéralement mot après mot,
25:27pixel après pixel, image après image dans une image
25:31et par des algorithmes de prédiction et de classification,
25:34si je peux simplifier, basés sur ce qu'on appelle des transformers
25:37qui sont des ensembles de réseaux neuronaux.
25:39Et pour finalement arriver à vous délivrer une réponse,
25:43que ce soit un texte, du code informatique ou une image ou une vidéo,
25:46ces algorithmes ont été entraînés à partir de centaines de millions,
25:49de milliards de mots, de symboles, d'images ou de vidéos collectées sur Internet.
25:54Et ces données ont servi à l'entraînement de ces modèles
25:59qui contiennent des données personnelles aussi,
26:01qui peuvent être correctes, mais aussi pas à jour ou erronées
26:04ou tout simplement mal interprétées par ces algorithmes.
26:07Oui. Est-ce que vous avez des exemples ?
26:10Je vais oser, je vais en prendre le vôtre et le mien.
26:13En fait, j'ai demandé à CHAT-GPT de me dire qui était Delphine Sabatier.
26:17Vous avez la réponse en impression, je crois, sur l'écran.
26:20Et la réponse a été formulée comme si vous lisiez un article de Wikipédia,
26:24c'est-à-dire dans un très bon français, clair, précis,
26:27avec une présentation de vos compétences qui est, de façon générale, juste.
26:30Cependant, le contenu n'est pas à jour et en partie erroné.
26:33C'est-à-dire qu'aucune mention de Bismarck n'est faite,
26:36alors que j'ai interrogé la base très récemment.
26:39Et vous collaborez toujours, selon la réponse de CHAT-GPT, avec BFM Business.
26:43Me concernant, je me suis dit, je vais poser la même question pour moi-même.
26:48Et si mon profil général est tout à fait correct,
26:50des informations complètement erronées m'ont été répandues.
26:53En effet, CHAT-GPT m'a présenté comme ayant été CEO d'Excelet Europe,
26:59ce qui est factuellement faux.
27:01Et qui sait et qui peut me dire d'où cette information a été extraite ?
27:04Personne.
27:05Les développeurs de ces algorithmes ne travaillent pas à partir de bases de données,
27:08encore une fois, mais sur des modèles qui s'appuient sur des probabilités
27:11par rapport à un contexte, des mots ou des idées.
27:14Donc personne ne pourra me dire pourquoi je ne suis pas CEO d'Excelet ou je suis CEO d'Excelet.
27:20Est-ce que ça veut dire que le RGPD, le règlement sur la protection des données personnelles,
27:25toutes les réglementations européennes, ne sont pas respectées par les LLM ?
27:29Ce n'est pas si évident que ça.
27:32C'est une très bonne question, mais ce n'est pas si évident que ça.
27:34Parce que d'un côté, les LLM ne sauvegardent aucune information dans des bases.
27:38Donc il n'y a pas de process au sens de l'article 4.2 du RGPD.
27:42Donc ça, c'est déjà un point important.
27:44Mais si vous et moi faisions une demande de rectification par rapport à ces données, René, à nos égards,
27:50celle-ci demeurera sans réponse.
27:53De leur part, ils ne peuvent pas les modifier.
27:55Il n'y a pas de base, encore une fois.
27:57Donc en ce sens-là, ils ne respectent pas le RGPD qui nous offre le droit à la rectification.
28:01Alors aussi, pour éviter ces enjeux, si vous allez dans leurs conditions générales,
28:05les conditions d'utilisation, ces services vous disent qu'ils suppriment l'apprentissage.
28:10Dans l'apprentissage, ils suppriment toutes données personnelles.
28:12Mais que cela veut-il dire ? Personne ne sait.
28:15Et personne ne peut le contrôler, surtout.
28:17Et c'est même un immense enjeu pour eux, et donc pour nous.
28:20Et pour aller un peu plus loin, vous savez que les données que vous entrez,
28:23même en temps réel, quand vous dialoguez avec ces outils,
28:27elles sont réutilisées avant d'entraîner les modèles elles-mêmes.
28:31Alors, sauf mention explicite de votre part,
28:33ce qui peut amener à de la désinformation, à des données personnelles fausses sur des personnes,
28:38si cela est fait à une échelle importante,
28:40sans qu'il soit possible de le modifier ou de le stopper rapidement.
28:44Merci beaucoup Hervé, on arrive à la fin de l'émission.
28:46Merci, on a bien compris les nouveaux enjeux, en tout cas grâce à vous.
28:50Merci aussi à tous nos téléspectateurs de nous suivre.
28:53C'était Smartech, on se retrouve très bientôt sur la chaîne Bsmart4Challenge.
28:56Vous pouvez nous suivre également en podcast.
28:58On se retrouve bientôt pour une nouvelle discussion sur la tech.