Table-ronde sur le thème « L’IA générative : nouvelle porte d’entrée pour accéder aux contenus sur internet »
• Célia Zolynski, Professeure de droit, coordinatrice de l’observatoire IA de l’Université Paris 1
• Jean Cattan, Secrétaire général du Conseil national du numérique
• Frédéric Alexandre, Directeur de Recherche, responsable de l’équipe Mnemosyne à l’Inria
Modération : Sandrine Elmi Hersi, cheffe de l’unité « Internet ouvert » à l’Arcep.
• Célia Zolynski, Professeure de droit, coordinatrice de l’observatoire IA de l’Université Paris 1
• Jean Cattan, Secrétaire général du Conseil national du numérique
• Frédéric Alexandre, Directeur de Recherche, responsable de l’équipe Mnemosyne à l’Inria
Modération : Sandrine Elmi Hersi, cheffe de l’unité « Internet ouvert » à l’Arcep.
Category
🤖
TechnologieTranscription
00:00:00Bonjour à tous, nous allons passer effectivement à la table ronde
00:00:03l'IA Générative, nouvelle porte d'entrée pour accéder au contenu sur internet.
00:00:08Et donc j'invite nos intervenants à s'installer.
00:00:13Mais avant de les présenter, nous souhaitions vous partager quelques
00:00:17éléments de contexte sur l'organisation de cet événement.
00:00:21Donc cette année, l'ARCEP a décidé pour la première fois d'inclure dans son rapport
00:00:28sur l'état de l'internet un chapitre dédié aux enjeux de l'arrivée de l'IA Générative sur le
00:00:35net, donc du point de vue du réseau, des contenus et des utilisateurs.
00:00:39Donc comme vous le savez, l'IA Générative est une innovation majeure aux potentialités
00:00:46multiples pour de multiples, pour plusieurs secteurs, pour de nombreux secteurs et bien
00:00:51sûr pour l'économie et la société au sens large.
00:00:54Et le développement de l'IA Générative soulève également un certain nombre d'interrogations,
00:01:00voire de risques.
00:01:01Et donc face à ces potentiels bénéfices, mais également enjeux liés à l'IA Générative,
00:01:08la puissance publique investit de plus en plus le sujet de l'IA Générative.
00:01:14Pour citer quelques exemples récents, on peut évoquer le rapport rendu en mars 2024
00:01:22au Président de la République, produit par la Commission de l'intelligence artificielle et
00:01:29qui met en avant un certain nombre d'analyses et de recommandations pour s'assurer que
00:01:36l'intelligence artificielle bénéficie à la France, par exemple, pour citer quelques leviers,
00:01:42en investissant dans la formation, l'investissement et dans l'établissement d'une IA de confiance.
00:01:49Au niveau européen, comme vous le savez, le règlement relatif à l'intelligence
00:01:54artificielle a récemment été adopté et donc il est en cours de publication au journal officiel
00:02:02de l'Union Européenne.
00:02:03Et grâce à ce cadre, des systèmes d'intelligence artificielle seront donc régulés, encadrés en
00:02:11fonction du niveau de risque défini et donc les obligations devraient entrer progressivement
00:02:17en œuvre d'ici donc 2026.
00:02:21On peut aussi citer dans ce règlement des obligations de transparence associées
00:02:26donc aux modèles de fondation et donc pertinentes notamment pour les systèmes d'IA génératives.
00:02:32Enfin, sur les enjeux économiques et concurrentiels, comme vous avez peut-être vu passer,
00:02:39l'autorité de la concurrence a publié il y a quelques jours un avis qui souligne notamment
00:02:47les stratégies mises en place par les grands acteurs du numérique visant donc à consolider
00:02:52leurs pouvoirs de marché en amont de la chaîne de valeurs de l'IA générative.
00:02:57Et quelques mois plus tôt, la Commission européenne avait donc ouvert une consultation
00:03:02publique sur ces enjeux économiques et concurrentiels et l'ARCEP avait donc apporté
00:03:08sa contribution forte de son expertise sur les enjeux du numérique et également ses
00:03:14nouvelles compétences en matière de cloud et sur les services d'intermédiation de données.
00:03:17Donc dans sa contribution, l'ARCEP soulève plusieurs enjeux, des enjeux économiques en amont
00:03:25de la chaîne de valeurs de l'IA générative, des enjeux évidemment également environnementaux.
00:03:31Voilà, c'est un sujet qui a été particulièrement visibilisé avec les résultats des bilans
00:03:39environnementaux de certains grands acteurs du numérique qui soulignaient une augmentation des
00:03:45émissions de gaz à effet de serre du fait du développement de l'IA générative, notamment
00:03:49de Microsoft et de Google. Un autre exemple, plusieurs études mettent en avant la hausse de
00:03:57la consommation énergétique des centres de données au sens large tirée notamment par le développement
00:04:02de l'IA générative. Donc je vous invite par exemple à consulter les données de l'ARCEP
00:04:07produites dans le cadre de l'enquête pour un numérique soutenable, publiées il y a quelques
00:04:12mois, qui met en avant une augmentation de 4 plus 14% des émissions de gaz à effet de serre des
00:04:18centres de données tirées par la consommation énergétique en particulier. Et il y a aussi eu
00:04:24un rapport récent de l'agence internationale de l'énergie qui soulignait donc un possible
00:04:29double de la consommation énergétique des centres de données horizon 2026 du fait du
00:04:35développement de l'IA générative mais aussi donc des crypto monnaies. Donc dans cette
00:04:40contribution l'ARCEP met également en avant un enjeu plus nouveau lié donc à l'impact du
00:04:49développement de l'IA générative sur internet vis-à-vis donc de l'ouverture d'internet et de
00:04:55la possibilité des utilisateurs d'accéder mais aussi de mettre à disposition le contenu de leur
00:05:01choix sur internet et donc ça va être l'objet de la discussion de ce jour et c'est également
00:05:07l'objet du chapitre dédié à l'IA générative dans le rapport sur l'état d'internet. Pour vous
00:05:14donner quelques éléments sur cette grille d'analyse mise en avant par l'ARCEP, les IA
00:05:22génératives deviennent une nouvelle passerelle qui s'affirme et se consolide entre l'utilisateur
00:05:29et son contenu. D'une part on peut voir que les chatbots ou autres outils de synthèse donc basés
00:05:35sur l'IA générative se développent en remplaçant parfois des services numériques plus traditionnels
00:05:41qui étaient donc nos portes d'accès au contenu sur internet classique comme par exemple les moteurs
00:05:49de recherche mais aussi certains sites web et réseaux sociaux. Pour illustrer cette tendance
00:05:57par exemple une récente étude de l'institut Gartner soulignait une baisse potentielle de 25%
00:06:05du volume de requêtes des moteurs de recherche horizon 2026 du fait du développement des
00:06:11chatbots fondés sur une IA générative. D'autre part on peut également voir que les acteurs du
00:06:19numérique y compris les plus grands acteurs du numérique intègrent progressivement des
00:06:24briques d'IA générative dans les services que nous utilisons au quotidien. Pour citer un
00:06:30exemple bien sûr vous avez sûrement entendu parler du projet Gemini pour le moteur de recherche de
00:06:36Google. On peut aussi citer plus récemment les annonces d'Apple sur les fonctionnalités Apple
00:06:42Intelligence qui illustrent l'arrivée de l'IA générative dans des services numériques
00:06:48traditionnels mais aussi dans les OS et donc dans nos terminaux. Face à ce développement et donc à
00:06:56l'arrivée de l'IA générative potentielle dans la plupart de nos usages numériques, on peut se
00:07:04demander si l'IA générative ne pourrait pas devenir une porte d'entrée que les utilisateurs
00:07:09devront dans la plupart des cas emprunter pour accéder au contenu et à l'information en ligne.
00:07:16Quand on pose donc ce potentiel diagnostique, cette hypothèse, il faut aussi souligner que les
00:07:21fournisseurs d'IA générative ne sont pas des fournisseurs numériques comme les autres
00:07:25puisque contrairement aux moteurs de recherche réseaux sociaux, sites d'information, il ne
00:07:30s'agit pas de proposer aux utilisateurs un contenu tiers qui serait donc ordonné avec
00:07:35un algorithme, non il s'agit de produire un contenu, de générer un contenu ad hoc donc
00:07:43souvent présenté comme une réponse unique à l'utilisateur sans nécessaire transparence sur
00:07:49les sources ou les potentiels biais que pourraient contenir les choix opérés par le fournisseur
00:07:59d'IA générative. Face à ce diagnostic et à ces enjeux, en dehors bien sûr des problématiques de
00:08:06propriété intellectuelle et droit d'auteur qu'on ne va pas détailler aujourd'hui, les conséquences
00:08:12de cette nouvelle forme d'intermédiation et d'agentification en matière de liberté des
00:08:18utilisateurs et d'internet ouvert sont à évaluer et à bien sûr maîtriser. En l'occurrence on va
00:08:24se demander aujourd'hui comment assurer la liberté des utilisateurs d'accéder et de
00:08:30partager le contenu de leur choix sur internet y compris via des outils intégrants ou fondés
00:08:36sur l'IA générative. On se demandera également quelles responsabilités les générateurs de
00:08:42contenus qui structureront notre accès à l'information demain doivent-ils garantir en
00:08:48termes de pluralité et de neutralité des contenus qu'ils génèrent et donc proposés aux utilisateurs.
00:08:54On se demandera également comment rendre plus ouverts les outils d'IA générative et aussi
00:09:02promouvoir une certaine forme de transparence pour s'assurer que les citoyens comprennent bien
00:09:06les bénéfices mais aussi les limites de ces outils voire puissent être en mesure de les
00:09:12configurer, de les paramétrer. J'ai le plaisir de vous présenter nos trois intervenants avec
00:09:19qui nous allons discuter la question. Merci à Frédéric Alexandre de nous avoir rejoint de
00:09:45Bordeaux. Vous êtes directeur de recherche, responsable de l'équipe Memosyn, une équipe
00:09:54travaillant sur les neurosciences et les techniques computationnelles pour mieux
00:09:59comprendre le fonctionnement du cerveau humain. Vous êtes donc spécialiste comme j'ai dit
00:10:13de l'intelligence humaine et par analogie de l'intelligence artificielle, des systèmes
00:10:18d'intelligence artificielle et donc de leurs potentiels bénéfices et limites et vous êtes
00:10:24particulièrement engagé en faveur de l'acculturation à l'IA du grand public. Je vous laisserai en
00:10:33parler en détail mais pour citer un exemple vous êtes par exemple intervenu dans les locaux
00:10:37de l'ARCEP pour présenter aux agents les sous-jacents techniques du fonctionnement des
00:10:44IA génératives. Merci d'avoir fait le déplacement pour venir discuter avec nous. Nous avons également
00:10:51plaisir d'accueillir Jean Catan, secrétaire général du CNUM depuis 2021. Vous êtes docteur en droits
00:10:58publics et en droits des télécoms. Vous connaissez bien la maison puisque vous étiez conseiller du
00:11:03président de l'ARCEP pendant trois ans après avoir occupé des fonctions d'affaires européennes
00:11:10également dans l'autorité. Vous êtes un acteur du débat public sur le numérique et vous avez par
00:11:16exemple publié récemment un ouvrage « Nous sommes les réseaux sociaux » avec Serge Habitboul chez
00:11:24Odile Jacob. Merci à Célia Zolinski de nous avoir également rejoint. Vous êtes donc professeur de
00:11:31droits privés et coordinatrice de l'observatoire intelligence artificielle à l'université Paris 1
00:11:38La Sorbonne. Vous êtes également directrice du département de recherche Brédrys de l'IRJS et
00:11:44membre du comité national d'éthique du numérique. Vous avez publié un nombre important de travaux
00:11:50sur la régulation du numérique, sur l'intelligence artificielle, y compris en matière de lutte
00:11:57contre la désinformation, de responsabilité des fournisseurs d'IA et surtout du respect des droits
00:12:03des utilisateurs et des citoyens. Merci de nous avoir rejoints. Je voulais vous poser pour commencer
00:12:11une question relative à le titre de la table ronde et le diagnostic que nous dessinions sur
00:12:20l'arrivée de l'IA générative sur internet et dans l'accès au contenu et à l'information en ligne.
00:12:26J'aimerais savoir si vous partagez ce diagnostic et en termes plus prospectifs,
00:12:31est-ce que vous pensez que l'IA générative devient ou deviendra donc une nouvelle porte
00:12:37d'entrée que les utilisateurs devront emprunter pour accéder à leurs services numériques et
00:12:44au contenu sur internet et aussi est-ce que vous pouvez nous dire un peu plus sur le cas
00:12:49échéant les conséquences potentielles d'une telle évolution ? On va commencer par Frédéric
00:12:56Alexandre, si vous pouvez nous partager votre point de vue sur la question. En quoi l'IA
00:13:02générative est-elle en plein boom et sa spécificité d'un point de vue technique ?
00:13:09D'accord, volontiers. Après je pense que ma voix est assez forte, peut-être de toute façon.
00:13:16Est-ce que vous entendez ? Oui, alors peut-être juste un ou deux mots pour commencer de remise
00:13:31en contexte. Donc de quoi on parle ? Donc l'IA générative c'est la nouvelle génération de l'IA
00:13:36qui vient de sortir, donc ChatGPT, MeetJourney, ce genre de techniques. Donc qui à la différence
00:13:42des techniques plus anciennes qui en général proposaient des réponses vraiment très simples,
00:13:48simplices, oui non, droite gauche, des choses élémentaires, là vont générer des informations
00:13:52plus élaborées comme du texte dans le cas de ChatGPT ou des images dans le cas de MeetJourney
00:14:00par exemple. Alors ce qui explique aussi bien sûr leur succès parce que c'est des choses très
00:14:07conviviales, très simples à utiliser, très intuitives et c'est justement là où est peut-être
00:14:14le premier paradoxe pour commencer à répondre à votre question. Le premier paradoxe c'est d'une
00:14:20part ces systèmes qui sont extrêmement complexes, donc vraiment gagner un niveau de complexité par
00:14:24rapport aux systèmes plus anciens d'IA. Quand on parle de ChatGPT, on parle, ça se compte en
00:14:30milliards de paramètres. Selon les versions dont on parle, voilà en général le niveau de mesure c'est
00:14:35des milliards de paramètres ou même des milliers de milliards de paramètres. Donc c'est vraiment des
00:14:40choses extrêmement complexes, en plus qui fonctionnent par apprentissage. Autrement dit c'est
00:14:46plus les techniques comme il y avait avant où c'était une approche par programmation, donc on
00:14:50faisait un algorithme et donc en faisant l'algorithme on savait ce qu'il y a dedans. Aujourd'hui c'est
00:14:54quand même des techniques massivement qui utilisent des données, donc qui vont s'instruire à partir
00:14:58des données, à partir d'exemples par apprentissage. Donc ce qui fait que du coup on est beaucoup moins
00:15:03maître finalement vers quoi ça évolue, vers quoi l'apprentissage évolue etc. Et a fortiori quand
00:15:10vous avez des systèmes avec des milliards de paramètres pour expliquer ce qui se passe, pour
00:15:14comprendre ce qui se passe, voilà le problème c'est qu'aujourd'hui, peut-être le paradoxe aussi,
00:15:18c'est qu'aujourd'hui même les créateurs, les ingénieurs de ces techniques là parfois ont des
00:15:23comportements qu'ils ne comprennent pas, des comportements émergents où ils se
00:15:26rendent compte de certaines propriétés qui n'étaient pas attendues. Des fois c'est des
00:15:30heureuses surprises même, mais ils se demandent pourquoi. Donc quelque part c'est un peu inquiétant
00:15:34quand l'ingénieur créateur d'un système ne comprend pas ce qui se passe et ce qui est aussi
00:15:40éventuellement, je sais pas si c'est inquiétant mais en tout cas c'est révélateur, c'est qu'ils
00:15:45en viennent maintenant à demander des conseils à des collègues de psychologie cognitive pour
00:15:50leur expliquer ce qui se passe comme si je regardais un être humain en train de fonctionner
00:15:54et comme si j'utilisais les techniques classiques de la psychologie, de la psychométrie pour essayer
00:16:00de calibrer et de comprendre ce qui se passe. Alors ce qui explique, pour revenir à votre
00:16:05introduction tout à l'heure, ce qui explique effectivement que dans mon équipe on essaye de
00:16:08se placer entre ce qu'on appelle l'intelligence naturelle si vous voulez et l'intelligence
00:16:13artificielle, c'est de comprendre comment est-ce que les deux fonctionnent, sont compatibles,
00:16:17peuvent communiquer parce qu'aujourd'hui ça devient effectivement avec ces techniques,
00:16:21ça devient un enjeu, on n'arrive plus à maîtriser techniquement donc on doit plutôt essayer de
00:16:26comprendre et de communiquer avec. Donc d'une part, premier élément c'est ces systèmes très
00:16:32complexes et puis d'autre part ça nous parle, autrement dit comme vous et moi ça cause et en
00:16:40plus c'est même convivial, ça parle bien en plus, du vocabulaire etc. Et donc là on arrive,
00:16:46on assiste à un autre phénomène qui est un phénomène de projection, c'est-à-dire qu'on
00:16:50parle comme si on parlait à un de nos congénères et on discute ensemble et on oublie donc qu'on est
00:16:58en train d'interagir avec un agent conversationnel qui n'est jamais qu'un système électronique et
00:17:04qui en plus si on regarde la manière qu'il a d'apprendre, c'est des manières qui sont
00:17:07impressionnantes et qui fonctionnent bien, mais sur plusieurs points de vue elles sont
00:17:10quand même sensiblement différentes de notre manière à nous de fonctionner. Donc ce qui fait
00:17:14que ce n'est pas complètement compatible si vous voulez la manière de se comprendre et donc
00:17:20quand on se projette, comme je me projette en parlant avec un autre être humain, il y a vraiment
00:17:24beaucoup de risques que cette projection soit faussée. Donc ça c'est un problème qui est
00:17:31quand même relativement fort. Par exemple, deux êtres humains qui discutent ensemble vont
00:17:36co-construire le sens de ce qu'ils sont en train de se raconter. Quand vous parlez à un chat GPT,
00:17:42lui il rend compte d'une étude statistique, ce qui fait qu'il n'a aucune relation avec la vérité.
00:17:47Ce qu'il vous dit, ce n'est pas la vérité. Ce qu'il vous dit, c'est la prédiction la plus
00:17:52probable du prochain mot qu'il devrait dire pour réussir à construire la phrase que vous lui
00:17:57demandez de construire. Et donc il y a effectivement un malentendu. Dans la discussion, il y a un
00:18:03malentendu. Je parle comme si c'était un congénère avec qui je partageais des choses, de concepts,
00:18:10de cultures par exemple, alors qu'en fait c'est une machine qui ne sert qu'à me sortir des choses
00:18:18statistiques. Et après, pourquoi ça marche ? Pourquoi ça marche si bien ? C'est parce que
00:18:25c'est convivial, mais aussi c'est parce que ça marche tout le temps et partout, et en particulier
00:18:30grâce à internet. Et donc ça veut dire qu'à tout moment, si vous avez besoin d'un avis médical,
00:18:36si vous avez besoin même d'un système juste pour discuter avec, si vous avez besoin de créer des
00:18:42systèmes, vous pouvez à tout moment. Donc les deux éléments qui sont mis en avant par ces sociétés
00:18:48pour vanter leur intérêt, c'est la productivité et c'est l'objectivité. Donc justement, il n'y aura
00:18:56pas les biais classiques de l'être humain. Alors peut-être pour terminer, je vais peut-être juste
00:19:01résumer une étude qui montre bien ce que ça veut dire aussi. C'est un groupe qui s'appelle le
00:19:11Boston Consulting Group qui a sorti au mois de septembre dernier une étude pour essayer de
00:19:17quantifier l'impact, de mieux comprendre l'impact de chaque GPT sur des professionnels, qui en
00:19:22l'occurrence étaient des professionnels de l'immobilier, donc qui se servaient de chaque GPT sur internet
00:19:27pour aider à déployer leur activité professionnelle. Et en gros, ce que dit principalement cette étude
00:19:34et ce qui a retenu beaucoup de professionnels, c'est qu'un professionnel qui utilise chaque GPT est
00:19:4025% plus rapide et 40% plus créatif. Donc les gens s'arrêtent là, enfin les professionnels s'arrêtent là
00:19:46et puis voilà, c'est super. Et effectivement, il y a tellement de ressources, j'imagine
00:19:51toutes et tous utiliser une chaîne GPT, ça parle bien et des fois ça nous permet d'aller plus vite
00:19:56pour rédiger ou synthétiser des textes compliqués, ça je pense que la plupart on ne peut pas, en dehors des
00:20:01accidents qui peuvent arriver, la plupart on ne peut pas nier ça. Donc si on s'arrête juste à
00:20:06cette étude du Boston Consulting Group, voilà c'est vraiment de dire c'est des systèmes qui nous
00:20:10permettent de gagner en productivité et en objectivité parce qu'il n'y aura pas des biais, des biais
00:20:14émotionnels ou des a priori qu'un humain pourrait avoir. Donc ça c'est le slogan, c'est pas moi qui
00:20:21dis ça, c'est le slogan de ces entreprises, alors que si on regarde un peu plus en détail les
00:20:26résultats précis de leurs études, en fait ils montrent aussi deux choses qui sont à mon avis
00:20:31plutôt inquiétantes, c'est que par contre quand chaque GPT fait une erreur, la personne se trompe
00:20:37plus que les autres. Pourquoi ? Parce qu'il y a des études de sciences sociales qui montrent
00:20:41qu'en fait quand vous êtes habitué à interagir avec un spécialiste, quelqu'un qui est performant,
00:20:46alors vous lui faites confiance et vous arrêtez de vérifier ce qu'il vous dit et vous lui faites
00:20:50confiance aveuglément. Et donc quand il se trompe, vous vous trompez forcément beaucoup plus.
00:20:56Donc ça d'une part, et puis d'autre part ce que montre aussi cette étude du Boston Consulting
00:21:03Group, c'est que certes en moyenne c'est plus créatif, un professionnel avec chaque GPT est
00:21:09plus créatif que sans, mais le problème c'est qu'ils sont tous créatifs pareil. Donc il y a
00:21:15beaucoup moins de diversité. Et ça aussi c'est inquiétant, là aujourd'hui on commence à parler
00:21:21d'appauvrissement, de conséquences que pourrait amener à notre culture, pour amener l'usage
00:21:26démesuré de ce genre de techniques, l'appauvrissement parce que c'est un peu toujours les mêmes
00:21:32réponses, les mêmes types de réponses qui sont produits. En plus ces mêmes types de réponses
00:21:37qui sont faits par des corpus qui ont été proposés de façon un peu obscure, au sens où on n'a pas
00:21:42de visibilité sur les corpus, par des sociétés qui sont plutôt de la Silicon Valley, donc qui ont
00:21:50aussi une approche culturelle bien spécifique et qui n'est pas aussi forcément la même que la
00:21:55nôtre. Et aussi dernier élément inquiétant, c'est que pour l'instant chaque GPT a appris sur les
00:22:01corpus qu'on lui a proposés, que ces sociétés-là lui ont proposés, mais maintenant chaque GPT contribue
00:22:07beaucoup à enrichir internet, et donc va dans le futur apprendre à partir de ses propres productions
00:22:12qui elles-mêmes sont des appauvrissements de la diversité des productions humaines. Et là aussi
00:22:17la psychologie sociale nous dit que pour qu'un groupe fonctionne bien, c'est mieux
00:22:22s'il y a vraiment beaucoup de diversité, de genre, d'ethnie, etc. Donc être uniquement monoculture sur
00:22:28toujours les mêmes sources, c'est en plus ce qui va s'accumuler, donc il y aura cette espèce de cercle
00:22:34vicieux qui risque d'apparaître aussi, et donc là aussi qui fait apparaître un risque d'appauvrissement
00:22:40qui semble assez important. Donc voilà, après je vais me taire, mais pour revenir à ce que vous disiez
00:22:46sur l'activité forte qu'on avait sur la partie acculturation et éducation, comme j'ai dit, comprendre
00:22:54un système de milliards de paramètres c'est impossible pour les spécialistes, donc c'est
00:22:58même pas la peine d'essayer de penser à expliquer ça à tous, donc par contre il faut expliquer les
00:23:03principes derrière, il faut expliquer les techniques, expliquer les risques, etc. Et c'est vraiment
00:23:09d'une importance majeure, je pense, de l'expliquer aussi bien à l'école que dans la société.
00:23:16Merci beaucoup, donc oui c'était très intéressant, donc je comprends que vous expliquez le boom de
00:23:23l'IA générative par bien évidemment la puissance de ces systèmes, mais aussi et surtout leur
00:23:28caractère didactique, et voilà vous avez commencé aussi à dessiner certaines limites concernant
00:23:36le manque d'informations des utilisateurs quant à la multiplicité des paramètres et la non-maîtrise
00:23:46en fait des biais potentiels des réponses présentées, donc merci beaucoup pour cette
00:23:52première intervention, et peut-être Jean Catan, est-ce que vous pourriez nous dire votre point
00:23:58de vue sur la question, et aussi en termes de la situation actuelle d'état des lieux, mais qu'est-ce
00:24:04que vous prévoyez un peu pour la suite, et selon vous quels bénéfices ou conséquences cela pourrait
00:24:10amener vis-à-vis de la richesse du contenu sur internet, et plus généralement de l'utilisateur ?
00:24:17Merci beaucoup, déjà c'est un très grand honneur pour moi d'être là ici, ça a beaucoup de sens en
00:24:23effet, pour moi en tous les cas, et donc merci infiniment, et aussi pour avoir posé cette
00:24:28question puisque c'est une question en fait qui nous permet de prolonger des réflexions qu'on a
00:24:32eu depuis plus de 15 ans, c'est à dire qu'à chaque fois que l'on a une modalité d'accès
00:24:39à internet, d'abord traditionnellement avec le fournisseur d'accès à internet, on se pose la
00:24:43question de son rôle en termes de ce que l'on appelle maintenant de contrôleur d'accès, et donc
00:24:48ici en 2010, grand événement sur la neutralité du net, et cinq ans après le règlement sur la
00:24:55neutralité du net, et un an après les lignes directrices, et aujourd'hui on voit que l'on est
00:25:00une zone protégée en termes d'internet ouvert et que c'est grâce au travail du régulateur et des
00:25:03régulateurs européens. Et ensuite on se pose la même question finalement quand le smartphone
00:25:09débarque et que l'internet ouvert est déjà posé comme principe, et donc là nouvelle interface en
00:25:14effet pour accéder à internet, et on voit bien qu'internet, pour reprendre les formules utilisées
00:25:17à l'époque, rétrécit quand il rentre dans notre poche, et donc de se dire en fait que, et de se
00:25:24rendre compte surtout, qu'à travers cette facilité d'usage, si on se rappelle de ce film même sur
00:25:30Steve Jobs où vraiment on voit le test ultime du produit Apple, c'est si un enfant arrive à s'en
00:25:34servir de manière intuitive, et bien en fait en faisant ça, internet se réduit considérablement
00:25:39et en fait se cache de plus en plus derrière des petites icônes, et c'est exactement en fait ce
00:25:44que l'on cherchait à éviter, c'est à dire que internet soit réduit à des portails, des micro
00:25:50portails, des micro capsules, et que finalement internet disparaisse derrière cet écran qui est
00:25:56dans notre poche, et se réduise, et donc là je trouve ça particulièrement intéressant de se
00:26:00poser maintenant cette question, maintenant précisément que le DMA a acté de la nécessité
00:26:05d'assurer une forme d'ouverture aussi dans l'écosystème applicatif, dans l'écosystème du
00:26:10smartphone, et donc à la manière dont ça a été fait il y a quelques années, c'est particulièrement
00:26:14intéressant de se poser la question maintenant pour les IA génératives, puisque on peut prédire
00:26:19désormais, puisque c'est la troisième étape finalement de l'adressement, de la façon d'adresser
00:26:23la possible fermeture d'internet, en fait que dans six ans à peu près, on va acter finalement
00:26:29d'un principe d'ouverture aussi des IA génératives, comme ça a été fait auparavant, et il faut
00:26:34s'en souvenir six ans pour à chaque fois arriver à un résultat, au minimum, et ça ne veut pas dire
00:26:39que c'est une défaillance de l'état, une défaillance du régulateur ou quoi, non c'est le temps que
00:26:42prend la démocratie, c'est le temps que prend le processus de construction de la régulation pour
00:26:47affirmer des principes forts qui sont ensuite là pour des années et des années, et donc on peut
00:26:52se dire que, et oui d'ailleurs j'étais particulièrement, quand on voit par exemple ce qui a été fait
00:26:57sur l'interopérabilité des messageries, c'est à dire que les premières discussions qu'il y a eu
00:27:01au BEREC là dessus quand même, et Olivier Delclos pourra s'en souvenir aussi, c'était en 2015, donc
00:27:07on voit que ça prend du temps mais que ça arrive en fait, et donc aujourd'hui je pense que c'est le
00:27:11bon moment pour poser en fait ce principe d'ouverture d'internet aussi aux IA génératives, et on va
00:27:18voir je crois dans une deuxième partie de la conversation peut-être sur les solutions, ce que
00:27:21ça peut entraîner. Mais pourquoi est-ce que c'est particulièrement important ? Parce qu'en réalité
00:27:25aujourd'hui en effet on voit bien qu'il y a des usages qui sont massifs, et donc en fait la
00:27:30question de savoir si les IA génératives sont là pour rester ou pas en fait elle ne nous appartient
00:27:35pas. A partir du moment où on a cette adoption dans une forme de simplicité, en fait la question
00:27:40ne nous appartient même plus, et donc il nous faut négocier, décider, s'orienter en fonction de cette
00:27:47adoption massive qui nous dépasse d'une certaine manière, et il faut le considérer et le respecter
00:27:51aussi d'une certaine manière, puisque c'est une expression peut-être d'une volonté collective
00:27:55aussi, d'avoir des outils plus simples, plus didactiques, etc. Et donc ça veut peut-être dire
00:28:00quelque chose, ça nous interroge, et ça nous interroge parce que en effet si on se souvient
00:28:05par exemple de certaines études qui portaient sur YouTube, par exemple l'une des premières
00:28:08recherches qui est faite sur YouTube c'est comment faire ceci ? Donc il y a des sociologues comme
00:28:13Dominique Pasquier qui travaillent sur l'apprentissage par la bande en fait, comment est-ce qu'on
00:28:17apprend par des biais qui ne sont pas forcément l'école, etc. Donc on peut se dire que peut-être
00:28:21il y a des choses intéressantes qui se disent en fait à travers ces usages. Peut-être un autre
00:28:26accès au savoir, peut-être, on peut l'imaginer, on voit des organismes comme make.org par exemple
00:28:33qui développent des outils comme le panoramique qui permet en fait de prendre toutes les données
00:28:37de la convention citoyenne sur la fin de vie, de les mettre dans un agent conversationnel et
00:28:42finalement de rendre l'ensemble accessible et sous contrôle en fait, accessible à n'importe
00:28:47quel citoyen là où n'importe quel citoyen ne serait pas forcément allé dans le texte lui-même.
00:28:51Donc oui il y a l'usage statistique pur mais il y a aussi ces usages là qui peuvent servir au
00:28:58fonctionnement de certaines collectivités, de certains collectifs, de certaines structures à
00:29:03partir des données avec lesquelles elles les alimentent. Mais enfin il y a cet usage qui
00:29:07revient à cette question là, qui est quand même l'interconnexion entre ces agents
00:29:11conversationnels et le reste de la toile en fait, et du contenu qui est en ligne. Et donc c'est là
00:29:17où on est dans autre chose je pense, pour être peut-être un petit peu provoquant et ouvrir la
00:29:23discussion, mais on est dans autre chose que la pure production même si le fondement reste ça,
00:29:29statistique. On est dans la synthèse d'éléments qui résident aussi sur internet et donc il faut
00:29:36se rendre compte pour moi que oui en effet ce sont probablement de nouvelles pertes d'entrée vers
00:29:41le contenu qui est en ligne comme le sont les moteurs de recherche. Au début Google déniait
00:29:45peut-être un petit peu vouloir faire évoluer son moteur de recherche dans ce sens, on voit
00:29:50bien que c'est quand même le sens de l'histoire. On voit bien que l'enjeu se situe là en fait et
00:29:54il rejoint très grandement ce qui a été même présenté tout à l'heure, c'est à dire comment
00:30:00est-ce que l'on s'assure d'une interconnection généralisée entre l'ensemble des contenus qui
00:30:06sont sur internet et ces IA génératives ? Non pas pour forcer la chose mais pour rendre compte du
00:30:11fait que si on n'opère pas l'encadrement de cette interconnection, en réalité oui là on a un énorme
00:30:18problème parce qu'on a un usage d'outils qui sont mal interconnectés avec une série limitée de
00:30:25contenus qui sont choisis un petit peu comme ça au fil d'accords souvent exclusifs, souvent
00:30:29confidentiels et qui favorisent potentiellement les numéros 1 des marchés, aussi bien sur le
00:30:36les fournisseurs de contenus et d'applications que sur les IA génératives et donc là on a un énorme
00:30:41problème non seulement pour l'ouverture d'internet mais aussi pour l'accès à la connaissance et pour
00:30:47la rétribution des créateurs de contenus et donc ce qu'il nous faut penser et donc cette idée qui est
00:30:52peut-être pour les six dernières années que je propose ici, c'est de penser l'interconnexion
00:30:57généralisée entre IA génératives et contenus qui sont en ligne, ce qui exige et on y reviendra,
00:31:03je ne dis pas que ça doit se faire dans un cadre complètement dénué de principes et de règles,
00:31:07au contraire ce qui doit se faire dans un cadre de régulation bien déterminé. Merci beaucoup pour
00:31:14cette intervention, j'entends un point commun assez fort avec l'intervention de Frédéric
00:31:19Alexandre sur le risque d'appauvrissement lié aux IA génératives donc d'un côté lié aux intrants
00:31:28de la base d'entraînement et de l'autre aux contraintes potentielles en aval et la limitation
00:31:35des accords possibles entre fournisseurs de contenus traditionnels et les fournisseurs
00:31:41d'IA génératives ou générateurs de contenus structurants et donc Célia Zolinski, évidemment
00:31:49voilà je vous invite à nous dire un peu plus ce que vous pensez de ce diagnostic et de cette
00:31:53hypothèse d'une IA comme nouvelle porte d'entrée vers l'internet et aussi plus spécifiquement,
00:31:59donc j'en parlais de l'évolution potentielle du mode d'accès à l'information qui pourrait se
00:32:06faire via des IA génératives donc des outils de synthèse, donc est-ce que ça change du point
00:32:12de vue du citoyen ces nouvelles formes d'accès à la connaissance et à l'information de votre
00:32:17point de vue ? Merci beaucoup, ici encore je vous remercie vivement pour l'invitation, c'est un
00:32:23plaisir de pouvoir échanger avec vous sur finalement des projections et déjà une analyse du passé
00:32:30puisque on retrouve peut-être ici les grandes promesses et possiblement les craintes que nous
00:32:36avons pu avoir au travers les différentes étapes d'évolution du réseau qu'évoquait Jean Catan et
00:32:42de nouvelles possibilités d'accès aux contenus et services numériques aujourd'hui, donc en ce qui
00:32:51me concerne je travaille plutôt sur les droits des utilisateurs et le rôle que l'on peut leur
00:32:57confier pour étudier finalement comment grâce à la demande on va pouvoir réguler un certain
00:33:06nombre de ces contenus et services et cela rejoint je crois la doctrine de l'ARCEP de confier ce rôle
00:33:13finalement d'agent de la régulation à l'utilisateur final. Dans ce contexte là, avec l'essor des
00:33:21assistants vocaux, des agents conversationnels et des IA génératives, on voit là ici encore
00:33:27une promesse et également un questionnement qui émerge. Une promesse dans ces nouvelles formes
00:33:35d'interactions humains-machines, des interactions, cela a été extrêmement bien dit, fluides, des
00:33:41interactions qui pourraient sembler plus humaines parce qu'elles sont conçues finalement ainsi par
00:33:47l'interaction vocale que l'on voit avec les assistants vocaux, par la conception même du
00:33:54traitement automatique du langage ou des systèmes d'IA génératives, y compris dans ces petites
00:33:59modifications qui ne sont pas que des hallucinations mais qui font finalement s'approcher les réponses
00:34:06que nous donne parfois chat GPT par rapport à celles que pourrait nous donner un humain. Tout
00:34:11ça parfois même pas uniquement pour nous troubler dans nos échanges mais aussi pour nous susciter
00:34:16plus d'engagement et favoriser donc une interaction soutenue. En tout cas c'est ce qu'en disent mes
00:34:22collègues, je ne suis pas spécialiste d'intelligence artificielle sur le plan technique mais c'est ce
00:34:26que je comprends de l'analyse de mes collègues chercheurs en IA. Finalement cela va susciter de
00:34:34l'engagement, de la conversation et peut-être aussi une richesse de cette nouvelle calculatrice du
00:34:40langage, si on prend chat GPT, c'est des points qu'on étudie beaucoup à l'université, particulièrement
00:34:47vous citiez les travaux de l'Observatoire de l'intelligence artificielle de Paris 1, de voir
00:34:50aussi comment finalement nos disciplines de recherche, y compris l'histoire, la géographie,
00:34:57les arts, le droit, peuvent être mises, bousculées mais aussi enrichies par l'utilisation de ces outils
00:35:05et comment former nos étudiants à l'utilisation de ces outils. La difficulté c'est qu'on peut
00:35:11aussi projeter un certain nombre de problématiques, on a vu de longue date avec l'évolution du web,
00:35:17avec l'évolution des réseaux sociaux et peut-être parce qu'aussi je suis juriste, j'ai cette approche
00:35:22aussi de projection peut-être parfois pour interroger ces évolutions et comme le rappelait
00:35:29Jean Catan, c'est aussi l'intérêt de ce type de rencontre de nous projeter dans le futur pour
00:35:33anticiper des évolutions que l'on pourrait juger non souhaitables. S'agissant du rôle de l'utilisateur,
00:35:39lorsque j'ai eu la possibilité de réaliser un rapport pour le conseil supérieur de la propriété
00:35:46littéraire artistique sur les assistants vocaux, les agents conversationnels avec mes collègues
00:35:50Karine Favreau et Serena Villata, qui est spécialiste de traitement automatique du
00:35:55langage et Karine Favreau spécialiste de droit de l'audiovisuel, professeure de droit public,
00:36:01nous avions ici constaté finalement un risque du déploiement des assistants vocaux mais qu'on
00:36:10pourrait projeter sur les agents conversationnels et peut-être même sur les IA génératifs plus
00:36:14généralement, un risque de réduction de l'accès au pluralisme des contenus culturels et puis au
00:36:22pluralisme aussi des contenus de médias et donc un impact potentiel sur le processus démocratique
00:36:28puisqu'on sait l'enjeu ici. On l'avait examiné par rapport aux mécanismes potentiels d'auto
00:36:37préférence qui pouvaient être à l'oeuvre et qui sont aujourd'hui saisis par le DMA, on l'avait
00:36:42aussi projeté par rapport à l'accès aux données qui aussi est un point essentiel aujourd'hui
00:36:49saisi par le DMA et puis nos travaux s'étaient arrêtés en novembre en novembre 2022 juste à
00:36:55la veille de la grande démocratisation de chat GPT mais on peut finalement avoir le même type
00:37:03d'interrogation s'agissant des agents conversationnels comme les IA génératifs de texte
00:37:11en particulier et d'images également quant à finalement l'appauvrissement, c'est ce que disait
00:37:19Jean Catan de l'espace informationnel, ce que disait le premier intervenant également. Donc là
00:37:25je vous rejoins de cette possibilité d'avoir une nouvelle passerelle, une nouvelle passerelle pour
00:37:29l'utilisateur vers le contenu mais aussi finalement un nouvel gatekeeper, un contrôleur d'accès.
00:37:37Donc il est temps aujourd'hui, je crois que beaucoup d'autorités s'y emploient, l'ARCEP,
00:37:42l'autorité de la concurrence et d'autres, d'aller se projeter vers les impacts nécessaires et
00:37:48potentiellement, en tout cas c'est ce que nous essayons de faire, de voir quelles pourraient
00:37:52être les possibilités pour conserver à l'utilisateur ce rôle d'agent de la régulation,
00:37:58peut-être même d'agent du système, on pourra peut-être y revenir dans la deuxième partie de
00:38:02la discussion. Merci, merci beaucoup. Effectivement je vous propose maintenant de discuter des
00:38:10potentielles solutions face aux enjeux que vous avez tous les trois soulevés dans vos
00:38:16interventions concernant le risque d'appauvrissement, le besoin de travailler à une pluralité,
00:38:26un certain pluralisme, y compris culturel que vous souleviez. Et pour rebondir sur votre
00:38:32intervention, vous parliez de la nécessité de travailler aussi à préserver la gentilité des
00:38:39utilisateurs sur internet, donc à l'ARCEP c'est un principe qui nous intéresse puisque lorsqu'on
00:38:45parle d'internet ouvert, on fait référence non seulement au droit des utilisateurs d'accéder
00:38:49au contenu de leur choix sur internet, mais aussi de partager le contenu de leur choix,
00:38:53et donc d'être des agents d'internet, donc ça sera intéressant de revenir sur les voies
00:39:00d'action pour travailler sur cet enjeu. Et donc peut-être pour commencer, donc si ça vous dérange
00:39:10pas Célia Zoetchie, je vais vous redonner tout de suite la parole, est-ce que vous parliez des
00:39:15outils de régulation existants, donc vous avez mentionné le DMA, et bien sûr il y a aussi le
00:39:20règlement relatif à l'IA qui peut aussi apporter certains outils, y compris en matière de
00:39:25transparence. Donc selon vous, à ce stade, est-ce que les outils existants, réglementaires sont
00:39:32suffisants ? Qu'est-ce qu'on peut apprendre aussi des réglementations numériques existantes,
00:39:38pour du coup traiter les potentiels enjeux à venir de l'IA générative et de son développement sur
00:39:46internet ? Et plus largement, quelles solutions vous identifiez pour garantir le développement de
00:39:53l'IA générative comme un bien commun et participant à la richesse du contenu en ligne, et à la
00:40:00liberté des utilisateurs sur internet ? Je ne sais pas si j'arriverai à répondre à l'ensemble,
00:40:06parce que c'est un programme pour l'avenir, mais voilà quelques pistes en tout cas que je m'emploie
00:40:11à appréhender avec notre équipe de recherche interdisciplinaire à Paris 1, et puis au sein de
00:40:17différents travaux qu'on a pu mener, notamment pour le CSPLA, mais aussi pour la Commission
00:40:23Nationale Consultative des Droits de l'Homme. On avait rendu un avis sur les impacts de
00:40:29l'intelligence artificielle sur les droits fondamentaux, et donc dans ces différents
00:40:34cadres, on peut observer aujourd'hui que les outils qui existent, et en particulier le règlement sur
00:40:40les marchés numériques, le DMA, voire peut-être dans une certaine mesure la logique du DSA qui est
00:40:47reprise dans le règlement IA à travers l'analyse des risques systémiques, sont déjà des jalons
00:40:53qu'il faut exploiter, explorer, challenger si je puis dire, s'agissant du développement des IA
00:41:00génératives, et en particulier évidemment, tout cela vous le savez fort bien, l'accès aux données,
00:41:06peut-être même l'interopérabilité, la portabilité, tous ces outils de circulation,
00:41:13d'ouverture du marché, d'incitation à une innovation au service du plus grand nombre.
00:41:20En ce qui concerne les points que j'évoquais précédemment, en ce qui concerne le rôle de
00:41:26l'utilisateur, c'est peut-être un manque, puisque l'utilisateur est pris en compte par ces différents
00:41:32textes, soit pour le protéger, en particulier pour le DSA, soit pour en faire tout de même un
00:41:38acteur économique, c'est plutôt la logique du DMA avec ce droit de la contestabilité qu'on retrouve
00:41:43en droit, finalement une émanation de la logique du droit de la concurrence. Peut-être qu'il faudrait
00:41:50aller jusqu'au bout, jusqu'au bout et un peu plus fort si je puis dire, puisqu'on en voit déjà les
00:41:55traces avec le droit à la portabilité des données, jusqu'au bout et plus fort en allant, et c'est ce
00:42:01qu'on essaye de promouvoir, consacrer ce qu'on peut appeler un droit au paramétrage du système.
00:42:07Donc on a vu les enjeux avec les IA génératives et qu'on voyait déjà avec les assistants vocaux,
00:42:12c'est que finalement vous êtes là face à, ça a été très bien dit, face à un système complexe
00:42:17qui génère une réponse, généralement une réponse unique à la requête, surtout lorsqu'elle est vocale,
00:42:23et dans ces cas-là, l'utilisateur qui est encouragé, engagé dans la conversation ne va
00:42:30pas nécessairement, surtout quand elles ne sont pas sourcées, ce qui est possible maintenant mais
00:42:33pas pour toutes, comprendre comment la réponse est conçue. Et donc finalement, il ne va plus
00:42:40même avoir un choix qu'on pouvait lui offrir avec un moteur de recherche, s'agissant de ce moteur de
00:42:46réponse. Donc ici, l'on pourrait avoir le besoin de mieux être informé sur les mécaniques qu'elle
00:42:56oeuvre, le fonctionnement et finalement le dérouler, au moins les critères qui permettent
00:43:03de réaliser cette réponse, de proposer cette réponse. Et puis, on va ici potentiellement
00:43:11pouvoir considérer que l'utilisateur qui a accès aux services, qui a accès au contenu,
00:43:16qui veut favoriser ces interactions et qui est un élément majeur de cet écosystème,
00:43:23puisse avoir un rôle d'acteur de la régulation. Et pour cela, depuis un petit moment, on essaye de
00:43:31proposer l'idée de voir l'utilisateur comme un acteur du système, au sens informatique du terme,
00:43:37si vous me le permettez, qui puisse agir aussi sur l'architecture du système. Et là,
00:43:43le paramétrage permettrait à l'utilisateur finalement de faire varier ses interactions,
00:43:48ses productions de contenus selon ses propres intérêts et non pas uniquement, on l'a vu avec
00:43:55les réseaux sociaux, l'intérêt des grands services qui peut être plus d'engagement,
00:44:02de développer une économie de l'attention avec des modèles algorithmiques qui encouragent la
00:44:09production et l'accès à un certain nombre de contenus avec potentiellement des effets délétères.
00:44:14Permettre ce paramétrage, c'est ce qu'on essaie d'impulser s'agissant des réseaux sociaux,
00:44:20pour modifier les critères d'exposition à des contenus, de réception de contenus,
00:44:26c'est ce qu'on avait proposé au sein de la CNCDH, notamment pour lutter contre les mécaniques de
00:44:32lutte contre la haine en ligne ou de désinformation. On peut le projeter aussi pour mieux protéger les
00:44:40enfants, c'est ce qu'on avait pu évoquer dans le cadre de la mission enfant écran qu'on avait
00:44:46réalisé pour le Président de la République il y a quelques semaines. Et puis si on se projette
00:44:51sur les agents conversationnels et les IA génératives, on peut se dire qu'aujourd'hui,
00:44:56s'il s'agit des nouvelles passerelles d'accès aux contenus et que l'on est au début finalement,
00:45:02si on considère les réseaux sociaux, on est au début du déploiement de ces systèmes,
00:45:07il est peut-être maintenant la belle opportunité d'aller conférer toute cette possibilité à
00:45:14l'utilisateur, d'aller déterminer ces nouvelles interactions avec la machine,
00:45:18de ne pas se retrouver dans des mécaniques d'appauvrissement de ces relations, d'appauvrissement
00:45:25de l'espace informationnel, d'appauvrissement de l'accès à l'ensemble des contenus et services
00:45:30numériques, et donc parce que je crois que l'ARCEP est le lieu premier d'aller promouvoir ce
00:45:37rôle de l'utilisateur, d'aller penser celui-ci, notamment au travers de ce droit au paramétrage.
00:45:42Donc on a eu l'occasion avec Jean Catan de publier une petite tribune dans AOC pour dire
00:45:48finalement qu'il est peut-être le temps d'avoir le choix, pas uniquement d'accéder à une boîte
00:45:55noire, mais à un outil favorisant cette liberté de l'utilisateur. Merci beaucoup,
00:46:04oui Jean si vous voulez nous en dire un peu plus sur le rôle de l'utilisateur,
00:46:09cette proposition intéressante de droit au paramétrage, mais également si vous pouvez
00:46:15aussi revenir sur ce que vous mettiez en avant sur les accords et la notion d'interconnexion
00:46:22en matière d'IA générative. Oui et puis aussi voir une tribune signée par madame la présidente
00:46:28évoquant le droit au paramétrage, évoquant justement tous ces principes, c'est un signal
00:46:33très fort et c'est très important de se dire que depuis une autorité comme l'ARCEP on arrive
00:46:40à se projeter dans l'avenir de cette manière, c'est quelque chose d'infiniment précieux parce
00:46:43qu'il y a beaucoup de moments où en effet dans ces conversations on peut se sentir un petit peu
00:46:47seul et donc c'est vraiment très très riche et très important, surtout que j'avais prévu tout un
00:46:54truc mais je suis retombé sur une page du rapport de l'état de l'internet évidemment qui est toujours
00:46:58magnifiquement faite et qui dit en fait tout ce qu'on peut faire et tout ce que vous savez faire
00:47:03ici en fait donc c'est pour ça que cette expression elle a énormément d'importance parce que en fait
00:47:07ici on a toute la boîte comme on dit, la boîte à outils, la toolbox pour en fait réguler les
00:47:12IA génératifs comme il le faut et en haut à gauche dans le sens de lecture on a bien, et je
00:47:17l'ai pas évoqué tout à l'heure mais c'est une évidence, on a bien le prérequis environnemental
00:47:21et les chiffres qui étaient évoqués tout à l'heure donc sont fondamentaux, c'est à dire
00:47:27quand Google publie 48% de hausse de CO2 je crois, là on a un vrai sujet et on a un vrai
00:47:35sujet et je pense que mettre au service du bien commun donc les outils de régulation environnementale
00:47:41qui sont ceux de l'ARCEP, moi j'ai toujours en tête ce tableau Excel qui est envoyé en fait
00:47:46aux acteurs du monde de l'internet, des fabricants de terminaux où il leur est demandé vraiment de
00:47:50remplir la quantité de minéraux je crois, la quantité de CO2, la quantité d'eau qui est
00:47:56nécessaire pour fabriquer ou produire ou fournir les services, je pense que là en fait ça s'impose
00:48:01très clairement, on a un exercice de transparence qui est fait aujourd'hui mais enfin on a les
00:48:05outils et on sait faire et à chaque fois la question qui nous est posée oui mais c'est des
00:48:10acteurs américains, comment on fait, non on fait, il n'y a aucun problème et ceux qui étaient à la
00:48:15DLC dès 2010 etc savent très bien qu'il y avait des décisions qui étaient prises contre Google à
00:48:19l'époque et ceux qui étaient à la CNIL en 2012 le savent très bien aussi, on n'a aucun problème à
00:48:24ça et il faut le faire aujourd'hui. Donc voilà toute la toolbox en fait pour moi elle est là,
00:48:28on retrouve le terme d'interconnexion évidemment, il y a l'exercice de collecte de données,
00:48:33l'exercice de qualité de service évidemment ça va pas être le même, ça va pas être exactement le
00:48:37même mais ce qui est intéressant de voir c'est ce que fait le par exemple le ministère de la
00:48:40culture pour comparer les agents conversationnels entre eux, ça c'est assez intéressant, on voit
00:48:44qu'il y a des initiatives privées sur la comparaison de ce que l'on appelle, je pense assez
00:48:50mal nommé mais les hallucinations des IA génératives et les comparer, je pense que là il
00:48:54y a un travail qu'on pourrait associer à une idée de la qualité de service finalement fournie etc
00:48:59etc donc je pense qu'en fait tous ces chapitres de la régulation d'un internet ouvert méritent
00:49:04très largement je pense d'être déclinés à l'avenir et donc c'est un appel fort à un nouveau
00:49:09programme de régulation qui n'est pas, qui n'est pas j'insiste, ce qu'il y a dans le règlement IA,
00:49:13ce n'est pas un programme de régulation qu'il y a dans le règlement IA donc d'une certaine manière
00:49:18tout reste à faire, tout reste à faire, il y a quelques leviers dans le règlement IA pour impulser
00:49:24une dynamique vis-à-vis de quelques entités au niveau européen, c'est très bien qu'il y ait un
00:49:28forum des chercheurs, qu'il y ait un forum de la société civile etc qui doit impulser un agenda
00:49:32mais cet agenda il est à construire et je pense que vous avez tous les outils pour le porter et
00:49:36que encore une fois c'est pas pour faire cocorico mais quand même que la France et ses autorités
00:49:41publiques et notamment administratives indépendantes soient en tête de pont de ce combat et c'est des
00:49:46combats qu'on gagne en fait et ça je pense qu'il est important de se le rappeler et c'est pas parce
00:49:50que ces entreprises gagnent en puissance à chaque génération de services qu'en fait on doit avoir
00:49:54peur d'avancer, non on a tous les outils pour le faire et de toute manière on va le faire,
00:49:57on va le faire sinon je pense qu'il n'y a pas de voie de développement raisonnable en fait pour ces
00:50:03outils là, ça n'existe pas, par contre ça veut dire aussi qu'on doit être capable de repenser
00:50:07certaines choses, c'est à dire on est capable aujourd'hui en effet de voir si dans quelle
00:50:11mesure est-ce que sont équilibrées les relations tarifaires par exemple entre fournisseurs de
00:50:16contenu et d'applications et fournisseurs d'accès internet, je pense que là aussi il y a des choses
00:50:20peut-être qui sont à décliner dans l'esprit mais peut-être qu'il y a une nécessité à aller un
00:50:25petit peu plus avant et à faire bien comprendre à tout le monde qu'un marché ouvert exige une
00:50:29régulation tarifaire en fait des interconnexions entre acteurs et ça il faut le comprendre parce
00:50:34que c'est très paradoxal, on a l'impression qu'on est stalinien quand on dit régulation tarifaire
00:50:38mais en fait on régule pour un marché ouvert en fait, c'est le libéralisme même qui exige la
00:50:43régulation tarifaire et aujourd'hui il faut la penser mais ça veut dire aussi qu'il nous faudra
00:50:47aller un petit peu plus loin que certains outils existants, je pense au droit d'auteur par exemple,
00:50:51le droit d'auteur oui il a une logique de représentation collective, oui certainement
00:50:55mais pour reprendre les propos de certaines personnes qui pouvaient s'exprimer sur certains
00:50:59plateaux, c'est vrai qu'il est assez difficile d'attribuer un droit d'auteur à un mot dans une
00:51:03phrase par exemple, là on est face à une dynamique qui est nécessairement collective et donc je
00:51:08pense qu'il nous faut aussi aborder cette question de la rétribution collective en fait des créateurs
00:51:15aussi et de cette incitation au collectif et le rôle que peut avoir des autorités notamment dans
00:51:20l'impulsion et l'accompagnement des intermédiaires de données par exemple est intéressant mais
00:51:27comment est-ce qu'on passe d'une logique qui est peut-être un petit peu contraignante sur
00:51:30ces intermédiaires de données à une logique d'encouragement des intermédiaires de données
00:51:33en fait et de la constitution de communs de la connaissance et de rétribution en fait de ces
00:51:38communs de la connaissance sur une logique collective, c'est très important en fait de
00:51:43penser la rétribution à l'échelle collective pour tous les producteurs de communs qui ont besoin
00:51:48de l'autorité publique pour exister et pour se constituer et ça pourquoi est-ce que j'insiste
00:51:54absolument là dessus parce qu'en fait sinon les usages que l'on évoquait tout à l'heure en fait
00:51:58vont se déployer mais dans un environnement qui va être complètement chaotique et peut-être on
00:52:03peut interdire peut-être on peut se dire oui ça n'aura pas lieu etc je ne sais pas si c'est la
00:52:07tendance du moment donc j'aurais tendance à dire que là encore la régulation est un outil fabuleux
00:52:12nous offre toute la boîte à outils encore une fois pour réguler proprement ces outils donc que
00:52:19sont les intelligences artificielles génératives et assurer l'ouverture de l'internet demain.
00:52:23Merci beaucoup Jean, donc on a pu aborder le rôle du droit, le rôle de la régulation et le potentiel rôle
00:52:31de la collecte de données pour répondre aux enjeux soulevés par l'IA générative et j'aimerais
00:52:37revenir sur un point plutôt approfondi par Célia Zolinski sur le rôle de l'utilisateur,
00:52:42donc de votre point de vue Frédéric, Alexandre, comment on peut donc avant de parler de la
00:52:51possibilité de paramétrer une IA générative par les utilisateurs, comment on les met en capacité
00:52:58de pouvoir déjà comprendre leur IA et techniquement que pensez-vous de cette
00:53:04perspective de pouvoir configurer, paramétrer son IA générative demain et bien sûr au-delà
00:53:11de ces enjeux techniques si vous pouvez aussi me dire ce que vous pensez en matière de
00:53:18l'approche des régulateurs et des pouvoirs publics des enjeux soulevés par l'IA, est-ce que ça vous
00:53:23semble pertinent, cohérent avec le développement technique aussi des modèles de fondation et d'IA générative ?
00:53:29D'accord merci, alors normalement puisque je vais vous parler de régulation je devrais
00:53:36commencer par vous dire attention je suis un compétent c'est pas mon domaine d'expertise
00:53:39mais c'est un peu moins vrai dernièrement justement parce que on sent qu'il se passe des choses et qu'il
00:53:45faut quand même commencer à s'intéresser aux sujets et à se poser des questions donc typiquement
00:53:48effectivement on essaie de collaborer donc on dit la communauté informatique et IA par exemple
00:53:56dans mon université on crée une collaboration avec des juristes pour essayer de réfléchir
00:54:01ensemble donc chacun avec son niveau de connaissance et d'expertise à l'impact potentiel sur la
00:54:07démocratie, ce genre de sujet en fait c'est des sujets aujourd'hui tellement complexes que finalement
00:54:11on se rend compte que c'est plus une seule discipline qui peut aborder ça donc il faut
00:54:15vraiment essayer de mélanger les compétences et de la même manière cette semaine
00:54:20justement il y a la conférence annuelle, la conférence principale en intelligence artificielle
00:54:25française qui se passe à La Rochelle donc j'en viens et on a invité des juristes, plusieurs
00:54:34juristes pour venir nous parler de l'AI Act donc le RIA, la réglementation sur l'IA et donc
00:54:42voilà l'idée aussi étant de ne pas juste rester à côté acteur de construire des systèmes mais
00:54:48aussi effectivement de comprendre un peu l'impact juridique potentiel et du coup et peut-être avec
00:54:59mes mots aussi de technicien mais j'ai quand même essayé de vous expliquer ce que j'ai compris
00:55:03quand même sur ce qui est en train d'arriver donc avec ce règlement là qui sort parce que je
00:55:08crois qu'il va être publié le 12 juillet et il va être mis en oeuvre progressivement dans les
00:55:12mois et les années à venir donc c'est vraiment maintenant que c'est en train de se de se passer
00:55:18alors moi ce que j'ai compris mais non éventuellement vous pourrez me corriger c'est que
00:55:24effectivement ici la démarche principale c'est une démarche de classification et de déclaration
00:55:31autrement dit le but c'est de classer les outils en fonction de leur niveau de risque leur
00:55:36dangerosité potentielle d'une part et puis d'autre part l'idée c'est en particulier pour
00:55:44les pour celles qui sont plus risquées de faire des déclarations pour plus ou moins précises selon
00:55:51le niveau de risque pour expliquer un peu la nature du danger mais donc finalement ici dans
00:55:57ce texte là on introduit pas de droits fondamentaux de l'utilisateur tout à l'heure on parlait du
00:56:03rgpd qui mélange un petit peu les deux aspects mais on rappelle quand même certains droits
00:56:08fondamentaux en fait ici c'est pas ça qui est demandé dans le ré RIA on demande pas
00:56:13aux fournisseurs de systèmes on leur demande pas de respecter des droits fondamentaux de
00:56:21l'utilisateur autre que ceux qui sont déjà prévus par d'autres textes on leur demande juste de se
00:56:26classer dans un niveau de dangerosité ou un niveau de risque et en fonction de ce niveau là de
00:56:31d'expliquer enfin de montrer pas de blanche et d'expliquer ce qu'ils vont faire et donc du coup
00:56:36moi mon intuition quand même c'est que ça laisse un peu moins de facilité disons pour l'utilisateur
00:56:42de se défendre et en tout cas d'être sûr en particulier s'il comprend mal le sujet d'être
00:56:48sûr que certains de ces droits fondamentaux vont être respectés on peut supposer que il y aura
00:56:54mais ce sera peut-être souvent écrit en petit quelque part quand vous accéderez un outil d'IA
00:57:02générative sur internet une déclaration pour vous dire à quoi exactement est ce que vous avez à
00:57:06faire mais finalement après si vous acceptez ce risque là et si le fournisseur a fait les démarches
00:57:14qu'il faut et ben vous allez vous exposer à ce risque là et donc moi ce que j'ai pas vu ou peut
00:57:18être pas vu assez c'est des limitations claires autres que cette définition de niveau de risque
00:57:24donc de limitation qui permettrait de vraiment faire attention à certains droits de l'utilisateur
00:57:30donc ça c'est une première chose dont je voulais parler et puis la deuxième chose aussi et ça on
00:57:36s'en est bien rendu compte aussi là quand on avait fait parler des spécialistes de droit en fait ce
00:57:45qu'ils nous ont parlé aussi dont ils nous ont parlé aussi c'est donc le règlement d'IA va sortir
00:57:50mais en parallèle il y a encore des travaux de standardisation pourquoi parce que ce texte est
00:57:55plein de termes un peu obscurs ou en tout cas de termes mal définis et on sait que dans le droit
00:58:03souvent le diable se cache dans les termes mal définis et donc ils demandent à des assemblées
00:58:11de standardisation de travailler ensemble pour définir certains termes et ils disent si c'est
00:58:17pas fait c'est la commission européenne qui le fera etc et donc là aussi ce qui ressort c'est
00:58:23que c'est aussi une démarche qui est relativement obscure et où on sent quand on sent quand même
00:58:27beaucoup de lobby présent dans cette activité de standardisation des termes ou typiquement pour les
00:58:34chercheurs dans ce qui est ce qui ressort de notre communauté c'est que pour nous l'accès est payant
00:58:38et en plus nous on n'a pas ça ne va pas notre présence dans ce genre de d'assemblées n'est
00:58:47pas très valorisé en plus c'est très long ça prend vraiment une grosse un gros investissement
00:58:53en fait ce qu'on voit c'est quand même beaucoup de grandes entreprises qui font du lobbying et
00:58:58qui envoient leurs experts et ils passent des fois des semaines et des semaines aussi c'est
00:59:04par consensus on dit faut tout le monde soit d'accord pour avancer sur un terme donc des fois
00:59:08juste sur un terme ils mettent des mois et des mois pour se mettre d'accord etc voilà et donc
00:59:13là aussi on retombe un peu sur le côté un peu obscur et un peu brouillardeux disons de ce genre de
00:59:21techniques et on se dit que le simple utilisateur finalement risque un peu de faire le faire les
00:59:28frais de ça donc ça c'est probablement une vision très négative en tout cas c'est la vision peut-être
00:59:36du spécialiste de l'IA qui essaye de comprendre ce qui se passe côté droit et qui voit quand
00:59:43même certains signaux qui semblent assez alarmant et qui du coup reste sur son ressort
00:59:48son autre son autre approche que vous mentionnez aussi effectivement qui est de dire il faut éduquer
00:59:56il faut transmettre l'information il faut réguler quand c'est possible mais donc là il faudra faire
01:00:03attention à ces risques dont je parlais et sinon il faut il faut informer parce que finalement
01:00:09celui qui peut aussi agir c'est et peut-être collectivement c'est le le citoyen merci un grand
01:00:16merci pour ces interventions