Protéger les enfants face aux abus sexuels : c’est l’enjeu d’un projet législatif européen introduit en 2022 et qui inquiète l’écosystème tech. L’objet des discordes ? La mesure surnommée “Chat Control” par ses opposants qui imposerait notamment aux messageries électroniques de faire disparaître le chiffrement de bout en bout. Quel avenir pour ce texte ? Pourrait-il réellement être appliqué ? C’est un des sujets du grand débrief de SMART TECH avec Julien Pillot, économiste et enseignant-chercheur à l’INSEEC, Christian Poyau, PDG de Micropole et Alain Staron, président d’Artifeel.
Category
🗞
NewsTranscription
00:00Mes débatteurs aujourd'hui pour ce grand débrief de l'attaque, Alain Staron, président d'Artifil,
00:08bonjour Alain, Christian Poyot, cofondateur PDG de Micropole, bonjour Christian, et Julien
00:14Pillot, consultant enseignant-chercheur en économie à l'INSEC, bonjour Julien.
00:18On commence avec chat contrôle, comment nos messageries, y compris les plus chiffrées,
00:24de bout en bout pourraient être mises à mal, mises à mal dans leur sécurité, confidentialité,
00:30puisqu'un règlement est en discussion au niveau européen pour prévoir de surveiller
00:36ce qui transite dans les messages personnels.
00:39En l'occurrence c'est un règlement qui s'intéresse à la lutte contre les abus sexuels sur les
00:47enfants, ce texte s'appelle le CSAR, Child Sexual Abuse Regulation, pourrait tout à
00:54fait préciser, alors ce texte devait être débattu fin juin finalement, les choses
00:59sont un peu repoussées vu l'actualité politique et puis en plus il y a une polémique
01:04qui est montée quand même très très forte autour de ce dispositif particulier qui s'appelle
01:09chat contrôle, c'est un petit nom pas très amical qu'on donne à ce dispositif mais qui
01:13en fait va exiger aux messageries, quelles qu'elles soient, de surveiller en amont les
01:20liens et les contenus images et vidéos qui transitent, j'allais dire non mais même c'est
01:27en amont donc avant qu'elles ne soient envoyées au destinataire pour vérifier si à l'intérieur
01:32il n'y a pas de contenus ou de liens vers des contenus pédopornographiques, alors une
01:37réaction sur ce texte, est-ce que vous faites partie des gens qui s'insurgent contre ce
01:43chat contrôle, qui s'inquiètent pour le chiffrement, l'avenir du chiffrement, oui
01:48Oui parce que la pédopornographie est un sujet évidemment dramatique, abject, tout le monde sera en phase avec ça bien
01:55évidemment, donc il faut lutter de la manière la plus forte possible, maintenant je pense que la
02:01réponse qui est apportée n'est pas la bonne parce qu'effectivement elle aurait des impacts
02:04extrêmement forts sur les libertés individuelles, la possibilité de rentrer dans les messageries
02:09de tout le monde par des individus ou des états plus ou moins bienveillants, des choses comme ça,
02:13donc comme souvent malheureusement avec la réglementation européenne, on part d'une idée
02:17qui est bonne, qui est luttée contre quelque chose qui est absolument horrible évidemment, et ça
02:23débouche sur la réglementation qui, déjà est-ce que ça réglerait le problème, je ne pense pas, enfin je
02:29suis pas un spécialiste, mais je ne pense pas normalement que ça réglerait le problème, et surtout ça aurait des tas d'effets pervers
02:33c'est le cas de le dire, malheureusement sur ce sujet, donc on ne peut que prendre
02:38évidemment en partie pour les défenseurs de cette cause tout à fait noble, mais c'est pas la bonne
02:43réponse, c'est pas la bonne réponse, encore une fois les effets parallèles seraient tout à fait
02:49mauvais, donc j'insiste. On dit que ça va affaiblir le chiffrement, pourquoi ? Parce qu'en fait même une
02:55messagerie censée être chiffrée de bout en bout devra finalement créer une sorte de faille
03:00informatique, une bac d'or en fait, pour pouvoir accéder au monde. Il n'y aura plus de chiffrement, plutôt le
03:06chiffrement sera possible, on pourra l'attaquer, ou l'ouvrir, ou le consulter par un cerme de perchaude,
03:12on va dire que c'est réservé à la police, à la gendarmerie, etc. Mais après, dès que le chiffrement tombe, on peut
03:19imaginer des choses beaucoup plus larges, par encore une fois, des états ou des individus plus ou moins
03:24mal intentionnés, donc malheureusement encore une fois, la cause étant, j'insiste à nouveau, d'une noblesse
03:29totale, non c'est pas la bonne réponse, et c'est vraiment la marque de fabrique, malheureusement, des
03:34textes européens, il y a la CSRD, il y en a plein d'autres à côté, où à chaque fois, on veut lutter avec, pas les
03:42bonnes armes, mais en tout cas avec des choses qui vont au final être pénalisantes pour la liberté des
03:46Européens de manière globale, donc non, c'est pas une bonne réponse.
03:48Mais pourtant, on entend même du côté des services de police défendre le chiffrement, et on se dit, mais comment
03:54peut-on arriver à un texte comme celui-ci, quoi ?
03:57Je ne sais pas comment on peut arriver à un texte comme celui-ci, mais ce dont je suis à peu près certain, c'est que
04:03Christian a dit en peu de mots tout ce qu'il y a à dire, je crois même qu'on est là face à l'une des pires idées de la longue
04:10et triste histoire des mauvaises idées, en fait, parce que pour régler un vrai problème, on crée un remède bien pire que le mal.
04:17D'une certaine façon, on ouvre une boîte de Pandore, pourquoi s'arrêter uniquement à la pédopornographie ?
04:23Pourquoi ne pas dire qu'on va utiliser ce type d'outils pour pouvoir espionner d'autres types, et couvrir d'autres types de
04:31conversations ? Jusqu'où s'arrêterons-nous ? Et est-ce qu'on veut une société de surveillance de masse généralisée qui est bien éloignée, à mon sens, de l'idéal démocratique ?
04:40Et puis une dernière chose qui m'est importante, qui m'importe beaucoup, et j'en parle très souvent, ici comme ailleurs, c'est pourquoi, encore une fois,
04:50faire un régime d'exception sur le numérique par rapport à la sphère physique ?
04:55Le secret de la correspondance, c'est quelque chose qui est inscrit dans le marbre de nos principes constitutionnels, dans le droit civil.
05:03Il ne peut être dérogé que dans des conditions extrêmement strictes. Pourquoi déroger à cela, au titre que la correspondance ne serait pas par voie postale,
05:12mais par voie numérique ? Moi, ça me pose un vrai, vrai problème.
05:14Oui, parce qu'il faut quand même préciser que là, on ne parle pas de cas d'enquête spécifique. Ce serait vraiment un scan qui serait fait de manière automatique sur l'ensemble des messageries.
05:24Ah non.
05:25Ben non.
05:26Moi, j'ai un enfant de 8 ans, donc je suis très content de ça. Après, je ne pense pas que ce soit une bague d'or, si c'est bien fait.
05:32En gros, un truc qui est à l'edge, embarqué, qui ne fait que scanner, comme au niveau du clavier, c'est écrit sur un clavier.
05:37Donc moi, je suis Apple, je scanne le clavier, je sais tout ce qui se passe.
05:40C'est évident. Sur l'iPhone, Apple peut savoir tout ce qui se passe. D'ailleurs, Siri peut écouter tout ce qui se passe.
05:47Donc aujourd'hui...
05:47Enfin, Siri, moi, je peux le désactiver si j'ai pas envie de m'écouter.
05:50J'entends bien, mais le clavier, t'en as besoin pour écrire. Et le clavier, c'est une fonction de base de quoi ? De l'iPhone.
05:56Donc Apple a accès à ça.
05:58Mais ils n'ont pas le droit, normalement, de le faire.
05:59Alors, ils ne peuvent pas exploiter tout ce que tu mets sur ton clavier.
06:06Evidemment. On embarque un truc dans le téléphone. Ça veut dire qu'il est inaccessible du reste.
06:12En plus, c'est du deuxième ordre. C'est-à-dire qu'il lit pas ce qui se passe, il regarde si ce qui se passe est compatible avec les modèles qu'il a, lui.
06:18Il y a plein de choses qui se font comme ça, aujourd'hui.
06:20Aujourd'hui, on sait exécuter des algos sur des données chiffrées sans déchiffrer les données.
06:25On sait le faire.
06:27Les données sont intégrées. Et en fait, que fait l'algo ? Il comprend, en gros, ce qui se passe.
06:32Donc on ne porte pas atteinte à ce qu'il y a dedans. On s'assure que ce qu'il y a dedans est plus ou moins conforme à telle ou telle chose.
06:37Donc, un, moi, je pense qu'il faut le faire absolument. Moi, j'ai un fils de 8 ans...
06:40— Enfin, pour aller vérifier si un lien mène vers un contenu pédopornographique, excuse-moi, mais je pense qu'il faut aller accéder aux liens.
06:47— Oui. Oui, mais le lien... Oui, d'accord. OK. Mais le lien, le lien, c'est... Oui, c'est vrai. C'est vrai.
06:53— Pas un détail, hein. — C'est vrai. C'est vrai. C'est vrai.
06:55Oui, accéder... Oui, d'accord. Mais on pourra encore tourner autour de ça.
07:00— Non, mais le problème, c'est... — Accéder aux liens en local, scanner les contenus de ce qui se trouve sur le lien
07:07et avoir un algo qui dit qu'il va y avoir des erreurs, forcément, parce que les algos sont pas...
07:10— De toute façon, je pense que ça va être des algorithmes. Enfin ça va être géré de manière automatique, oui.
07:14— De manière automatique. Et donc forcément, il y aura des erreurs. Mais il y aura un... On va peut-être choper 50%.
07:19Mais 50%, c'est déjà tel bénéfice. — D'accord. Et ça, il y a 50 autres % en revanche.
07:25— Mais oui, oui, oui, oui. — Le problème, c'est qu'on en gagne 100%. On en gagne 50.
07:28— Le problème qui se pose, c'est qu'on a toujours une espèce de myopie qui a été démontrée par tout un tas, d'ailleurs,
07:33de travaux empiriques en sciences économiques, qui est de dire qu'à partir du moment où on mettrait sous contrôle
07:40certains canaux sur lesquels se diffusent des contenus ou des pratiques jugées illicites ou déviantes,
07:46on va faire disparaître, ipso facto, le contenu ou la pratique déviante ou illicite. En vrai, c'est jamais comme ça que ça se passe.
07:53— Bien sûr. — C'est-à-dire qu'on est bien d'accord avec ça. C'est pas ça, le sujet. C'est d'éviter ça.
07:57— Moi, mon sujet, c'est plutôt de faire la chasse aux pédos criminels plutôt que de les empêcher d'utiliser une messagerie scriptée.
08:04— L'un n'empêche pas l'autre. L'un n'empêche pas l'autre. Mettre des bâtons dans les roues des canaux utilisés par ces gens-là
08:08les retardent dans leur expansion. C'est tout. Et de toute façon...
08:11— Mais tu pénalises l'ensemble de la population. La première réaction de Signal... Quelle a été la réaction de la patronne de Signal ?
08:19Elle a dit que nous, on va arrêter en fait de se soumettre aux règles européennes. On part de ce marché. Bon, il y a d'autres moyens
08:27pour faire transiter ces contenus. — Moi, j'ai aussi 3 enfants. Ils sont plus âgés. Mais je suis aussi sensible à cette cause
08:33qui est absolument horrible. On est bien d'accord. Bon. Après, moi, j'ai été auditeur à l'IHEDN. Donc on a vu tous ces sujets de sécurité, etc.
08:41Et tous ces sujets de pédo – ils appellent ça pédo, enfin c'est le cas –, ils sont principalement sur le dark web, quoi, si je veux dire.
08:47C'est là où il y a des choses innombrables. Mais ça, ça va pas régler le problème du dark web, encore une fois.
08:55Et après, moi, je reviens sur ce qui a été dit. On se dit OK, on va lutter contre la pédopornographie normale, enfin etc.
09:01Mais après, pourquoi on lutterait pas aussi contre – je sais pas – la drogue ? Enfin les gens qui consomment de la drogue, c'est illicite.
09:07Et moi, je trouve que c'est bien de lutter contre ça. Enfin on peut tirer le fil autant qu'on veut, si je veux dire.
09:13Et encore, si c'est fait par un régime démocratique comme en France, enfin etc., etc., si c'est fait par des régimes...
09:20Enfin j'ai vu que Viktor Orban était plus ou moins partant. Pourquoi pas après les opinions politiques ? Enfin on tire un fil qui est infernal, si je veux dire.
09:27D'ailleurs, Viktor Orban va prendre...
09:29C'est comme si on mettait toutes les communications téléphoniques sur écoute. Pourquoi pas mettre toutes les communications téléphoniques sur écoute ?
09:33La Hongrie va prendre la présidence de l'Union Européenne. Ce texte sera évidemment à l'ordre du jour.
09:39Et il sera évidemment rejeté parce qu'il n'y aura jamais eu d'unanimité.
09:43On peut craindre en tout cas que ce sujet continue d'avancer.
09:46Et puis encore une fois, un État continue-t-il d'être démocratique lorsque il prend des dispositions pour pouvoir assurer la surveillance de masse de sa population ?
09:55Un État qui est défiant vis-à-vis de sa population, pour moi, ne rentre plus dans le champ de la démocratie, c'est autre chose.
10:00C'est-à-dire qu'on sort du champ judiciaire, on sort du champ de l'enquête.
10:05Et on a tellement aujourd'hui de choses à faire dans ce registre pour lutter contre la pédocriminalité
10:12que déjà travaillons sur les outils qu'on a, qui sont inopérants, qui sont mal coordonnés,
10:18avant d'employer des textes. Encore une fois, là, on passe par le plus simple, finalement.
10:23— C'est la solution la plus simple, à l'inverse. — Évidemment.
10:27— Pourquoi on n'écouterait pas toutes les conversations, dans ce cas, sur téléphone aussi ? Enfin il y a l'écrit. Mais voilà, on devrait écouter tout le monde.
10:34— En fait, quand on revient sur la communication privée, il y a quand même une différence entre j'envoie une lettre, je téléphone,
10:39et je communique sur des messageries où je peux faire venir des gens que je ne connais pas.
10:44Un enfant, on peut l'atteindre beaucoup plus facilement sur WhatsApp qu'en lui envoyant un courrier ou qu'en l'appelant sur son téléphone.
10:51Alors j'ai pas le nom en tête, mais j'entendais ça. Il y a une messagerie qui a été fermée, là, il y a quelques jours,
10:55qui était aussi un repère, pareil, de gens pas du tout sympathiques, dans lequel ils attiraient les enfants avec des messages, etc.
11:03Le nom m'échappe, là, dans la seconde. Mais il a été fermé il y a quelques jours. Donc il y a aussi d'autres moyens.
11:07Il n'y a pas uniquement de dire on va suivre toutes les conversations sur WhatsApp ou sur Signal.
11:11— C'est peut-être les moyens d'enquête. Ouais. — Donc encore une fois, la cause est hyper noble. Mais je pense que là,
11:17on prendrait une option qui serait vraiment péjorative pour tout un tas de choses et qui pourrait être utilisée,
11:23étendue à des fins beaucoup moins sympathiques. — Non, non, mais l'extension, c'est l'extension d'ici le Parlement.
11:30— Oui. — Pourquoi on interdit l'alcool aux moins de 18 ans à la vente ? — Ah bah ça, c'est...
11:35— Parce qu'il y a des députés qui l'ont dit. Moi, je trouve ça scandaleux. À 15 ans, on devrait pouvoir boire.
11:38— Oui, c'est parce qu'il y a des députés qui sont élus et qui votent... — Non, mais on est bien d'accord.
11:43— Et donc c'est eux qui décideront qu'on peut étendre ce truc. Et si on ne fait que la pédopornographie, faisons que ça.
11:49Et puis si le Parlement décide de faire la drogue, il décidera, ou la vente d'arbres, ou j'en sais rien.
11:53— Oui, mais encore une fois, parce qu'on est en France et qu'on est dans un régime démocratique, quid dans autre chose ?
11:58— Et puis non, mais au-delà de ça... Moi, je suis contente en fait d'avoir Alain, parce que je me disais
12:03qu'il faut que je trouve quelqu'un qui puisse m'expliquer, justifier ce texte, parce que ça me semble complètement aberrant.
12:08Mais Alain, le problème que ça pose, c'est aussi un problème de sécurité. C'est-à-dire qu'on fragilise les messageries
12:18en permettant un moyen d'accès de surveillance. — Non, non, non. Tu dis... Chacun fait ses messages.
12:24Un algo tourne en parallèle sur les messages avant qu'ils ne soient cryptés. Et c'est un algo qui...
12:29— Non, mais comment cet algo, il fait ? Il a bien une porte d'entrée. — Non, il est embarqué.
12:35Aujourd'hui, qu'est-ce qu'une messagerie sécurisée ? C'est une messagerie chiffrée de bout en bout, à laquelle personne
12:41ne peut avoir accès, y compris le fournisseur. — Ça reste chiffré de bout en bout. Personne n'y a accès.
12:46Jusqu'à la définition reste bonne. C'est chiffré de bout en bout. Personne n'y a accès. Simplement, le clavier est devenu
12:51un clavier un peu intelligent qui reconnaît... — Mais pourquoi tu parles de clavier ? Parce que tu peux parler
12:56à ta messagerie. — OK. D'interface. Peu importe. Donc le téléphone, le moyen de communication qu'est le téléphone
13:03avant qu'il ne soit chiffré est analysé non pas bout en bout de manière béjective. Il est analysé par analogie pour essayer
13:11de repérer des schémas avec toutes les erreurs qu'on peut en trouver. Donc on sera probablement pas totalement efficaces,
13:16mais bon. Et cet algo qui ne sait pas ce qui se passe, qui a juste compris s'il y a des choses dangereuses,
13:23lui, il remonte de manière totalement séparée, pas par la messagerie. — Oui, mais là... Non, mais là, là, t'es en train de dire...
13:27— Oui, voilà. — Non, parce que tu le connais bien. — T'es en train de dire que c'est un truc un peu anthropomorphique qui va vérifier
13:31si t'as des comportements de pédocriminels. — Non, c'est pas ça que je dis. C'est... — C'est pas ça qui est dans le texte.
13:37— Je pense que la NSA serait très prudente dans ce genre de choses, quoi, globalement. D'une manière ou d'une autre,
13:41elle pourrait mettre la main sur tous les messages qui sont échangés. — Peut-être que Alain, d'ici là, aura inventé
13:45une technologie qui permet... — Elle existe déjà. — ...d'assurer cette surveillance sans créer de bac d'or.
13:52— Exactement. Ça existe déjà. Les algos qui tournent des données encryptées non déchiffrées. Et donc les données...
13:58— Oui, mais enfin, au final, ils récupèrent bien de l'information qui est analysée. Donc ça revient au même.
14:01— Oui. Ah, pas du tout. Mais non. Tu connais pas le message. Tu récouvres juste la photo, le machin.
14:05— Oui, mais enfin, tu dis pas que le message n'est pas le bon, parce qu'après, le but, c'est quoi ? C'est arrêter la personne.
14:10— Le vérifier. — Non, mais après, ça devient une enquête. — Oui, mais enfin... — Une enquête sur l'ensemble des messages.
14:16— Bon. Allez. — Non, sur les messages dans lesquels on a repéré un problème. — Demain, tu supprimes toutes les voitures des routes.
14:20T'as plus d'accidents routiers. C'est super. C'est génial. Mais je suis pas sûr que l'économie s'en relève.
14:25— On n'est pas d'accord. Honnêtement, on n'est pas d'accord. — Allez. On passe à l'autre sujet. On n'arrivera pas à se mettre d'accord.
14:30Peut-être plus tard. La musique. Alors sujet d'Alain, d'ailleurs, que tu suggérais. Avec ses majors de la musique, ça y est,
14:37il s'attaque aux services qui créent de la musique avec des intelligences artificielles.
14:42— Et donc c'est extrêmement perturbant, puisqu'en fait, on est à la limite du plagiat. Donc on n'a pas le droit de plagier. Normal.
14:51— On est vraiment à la limite. C'est même un peu plus que la limite. Enfin bon...
14:55— Ah non, non. Le plagiat, je prends... Non, non. Donc c'est des algos. Donc c'est pas... C'est à la limite... Ils analysent un paquet...
15:01— C'est de la génération de musique. — C'est de la génération de musique, mais évidemment...
15:05— On parle de services de génération de musique par intelligence artificielle.
15:08— Il s'appuie sur des modèles. Tu as du Zouk. Eh ben t'apprends 12 000 machins de Zouk. Et honnêtement, qu'est-ce qui ressemble le plus à du Zouk ?
15:15Du Zouk. Donc c'est pas très compliqué de refaire du Zouk. Après... Non mais... — C'est vrai.
15:20— D'accord. Moi, j'ai un fils qui fait du piano. Et il a un truc. Il veut faire de la musique machin. Il fait de la musique machin.
15:25Et très très bien. C'est pas une IA, mais il le fait très bien. Alors il la commercialise pas. C'est la limite.
15:31Donc là, en l'occurrence, ces générateurs de musique, ils sont gratuits. Si j'ai ma mémoire bonne... J'en connais pas un qui soit payant.
15:39Donc c'est un service gratuit. Donc ils font pas d'argent dessus. Et qui permet à n'importe qui de s'exprimer à date, sous ton contrôle à la bite.
15:48Donc il permet à tout un chacun de s'exprimer de manière un peu plus agréable. Moi, je sais pas chanter.
15:55Non mais ce truc me plaît beaucoup, parce que je peux me mettre à chanter. Bon. Et la vraie difficulté, c'est comment on protège la création.
16:01Et je l'irai un cran plus loin. Que doit devenir la création humaine ? C'est ça, le vrai sujet. C'est pour ça que je mets ça à table.
16:07— Et en fait, il faut mettre à jour aussi la question du droit d'auteur et la manière dont il est protégé. — Exactement.
16:12— Ou ne pas le mettre à jour, d'ailleurs. Et peut-être adapter les comportements des entreprises pour qu'ils soient conformes à notre conception du droit d'auteur.
16:19— En tout cas, il y a une question qui va se poser... Je sais pas si mettre à jour le droit d'auteur, mais il y a une question qui va se poser sur la rémunération des artistes.
16:25— Justement, parce que cette histoire est intéressante, parce qu'elle a 3 niveaux de lecture. Il y a un niveau économique, un niveau juridique et un niveau éthique.
16:31Sur le niveau économique, on comprend pourquoi les majors sont au vent debout. Parce qu'en fait, ça attaque à la fois leur capacité à pouvoir amortir leur coût,
16:41parce que c'est eux, finalement, qui ont produit les musiques, les chansons, les samples, etc., sur lesquels ces intelligences officielles ont été entraînées et se basent pour faire leur output.
16:52Et puis ça attaque leur rente, parce que la rente du milieu créatif, qu'il soit musical ou d'autres types de création comme le cinéma ou l'littérature, c'est ça.
17:01C'est un amortissement sur le très long terme sur la base des exploitations, des licences, des copyrights et des droits d'auteur.
17:06Donc, il y a une histoire de gros sous, quand même, derrière ça.
17:09Comme à l'époque du téléchargement.
17:11Absolument. Il y a un problème juridique, finalement. Est-ce que la production artificielle, par le biais de ces outils-là, appartient aux développeurs de l'intelligence artificielle ?
17:24Ou est-ce que, finalement, c'est une copropriété de l'ensemble des samples, si tenté qu'on soit capable de l'identifier, ce qui n'est pas sûr sur le plan technique,
17:32de l'ensemble des créateurs qui sont en amont, à la fois des créateurs, mais également des gens qui les ont financés, ces créations-là.
17:37Et puis, sur le plan éthique, oui, est-ce que c'est de la création, en fait ?
17:40Est-ce que c'est de la création ou est-ce que c'est quelque chose de complètement artificiel, qui n'a d'originalité que parce que c'est complètement synthétique,
17:48mais qui est dénué de toute forme d'intelligence et d'émotion ?
17:52Ça, c'est des vraies questions qu'on va pouvoir se poser dans les prochaines années.
17:55Christian ?
17:56C'est le même problème que celui qu'on connaît toujours sur la presse.
18:00Alors, j'hésite entre le New York Times et le Washington Post, mais il y a un des deux qui a porté plainte contre Chad Gipity pour violation des données.
18:07Et ça a été prouvé qu'en fait, ils ont attaqué des supports de presse, et pas des américains.
18:12Alors, ils ont fini par passer des accords, en fait.
18:14Pas avec tout le monde, pas avec tout le monde.
18:16Mais en tout cas, quand ils l'ont fait, ils l'ont fait de manière totalement illicite et sans prévenir.
18:20Oui, il y a eu un coup de pression, tout à fait.
18:21Moi, je ne peux pas les citer, mais il y a des médias français qui ont été piratés, il faut dire la même chose.
18:26C'est-à-dire qu'on rentre dedans, on prend l'information et on s'en sert pour l'utiliser à d'autres fins ou en tirer soi-même profit.
18:31Moi, je ne suis pas juriste, mais globalement, ce n'est pas légal.
18:34Ça pose deux, trois problèmes.
18:36Donc, ce qu'on voit là, c'est la même chose.
18:39Alors, un, ça prouve quand même qu'on dit toujours « intelligence artificielle ».
18:43C'est toujours important de rappeler que c'est un mot américain et que « intelligence », ce n'est pas vraiment « intelligence » au sens français.
18:48Donc, ça ne crée pas vraiment quelque chose.
18:50Ça prend des bouts et puis ça les assemble de manière effectivement assez puissante, mais ça ne crée pas de nouvelles choses.
18:56Je ne sais pas. Est-ce que c'est capable de créer un nouveau mode musical ?
18:59Est-ce qu'il serait recréé Mozart au 17e ? Enfin, je n'en sais rien.
19:03Donc, je pense qu'il faut effectivement...
19:06Alors, c'est normal, c'est le début.
19:07Tout le monde... Enfin, l'IA, telle qu'on la connaît aujourd'hui, générative, est quelque chose de très récent.
19:12Mais il faut arriver à trouver effectivement des...
19:14Je ne vais pas dire des barrières, parce que barrières, c'est négatif, on a l'impression qu'on freine les choses, etc.
19:17Mais des règles et bloquer les choses.
19:19Et la manière dont ces modèles, effectivement, utilisent aujourd'hui des données qui ne sont pas les leurs est tout à fait anormale et doit être, comment dire, régulée.
19:27On va dire ça comme ça.
19:28Moi, je pense que vraiment, on est à nouveau dans la même situation que l'arrivée du téléchargement.
19:34Oui, bien sûr.
19:35Ça repose la question de la rémunération et de la redistribution jusqu'au... Voilà.
19:41Toute la chaîne... Parce que c'est une longue chaîne d'intervenants dans l'industrie artistique.
19:46C'est une question de rémunération, en fait. Voilà.
19:49Parce qu'aujourd'hui, en Europe, on est en train de réguler en se disant qu'il va falloir qu'il y ait de la transparence sur les jeux de données qui sont utilisés.
19:56Bon courage.
19:57Bon courage.
19:58Et des jeux de données à 100% exactes.
20:00Mais en fait, on n'a pas adressé cette question de la rémunération.
20:02Et là, je pense que ce n'est que le début, avec cette double plainte.
20:06C'est une double plainte qui a été portée par la RIA, donc qui rassemble l'ensemble... Enfin, la plupart des démédiores musicales.
20:13Une cité supplémentaire, si tu me permets Delphine, parce qu'autant sur le téléchargement, d'ailleurs qu'on appelle ça téléchargement, on m'annonce streaming live.
20:19On arrive à identifier finalement toute la chaîne de valeur, tous les intervenants de la chaîne de valeur.
20:24Depuis le producteur qui a engagé ses fonds personnels, jusqu'à l'interprète, le créateur, les équipes techniques, etc.
20:31Donc, quand vous êtes Spotify, vous êtes Deezer, vous êtes Apple Music, en gros, c'est assez facile d'identifier l'ensemble de l'amont de la chaîne de valeur
20:39et puis de mettre en place une politique commerciale qui permette de rétribuer les maisons de disques, les interprètes et l'ensemble des intervenants, finalement, de la chaîne de valeur.
20:47Dans le cas d'intelligence officielle, on en est très très loin parce qu'en vérité, non seulement il y a une opacité absolument totale des données qui ont été utilisées pour pouvoir entraîner l'intelligence officielle,
20:58mais surtout l'output, qui est un espèce d'amalgame de tout ça, sur les intelligences artificielles génératives, puisque c'est de celles dont on parle actuellement,
21:07la plupart des techniciens, des ingénieurs, des data scientists qui interviennent dans ce monde-là, vous disent qu'ils sont incapables de savoir comment est-ce qu'on est arrivé, par quel processus technique on est arrivé à l'output.
21:21Donc comment il faut identifier la chaîne de valeur ?
21:23Le comment n'est pas un problème. Le problème, c'est, dans le téléchargement, je sais quel est le contenu que je cherche à protéger, là, c'est tous les contenus.
21:31Il va falloir rémunérer tout le monde, y compris celui qui publie la musique sur YouTube.
21:36J'ai plusieurs vies, et donc j'interroge plein d'autres gens régulièrement, et une des solutions qui est proposée déjà en France, ça circule dans les cerveaux du côté de l'ASSEM et tout ça, c'est la copie privée.
21:50Tout le monde est taxé. C'est reversé à tout le monde.
21:54On verra si on en arrive là. En tout cas, c'est un sujet qui a pris au moins 15 ans à être résolu, et c'est vrai qu'avec l'IA, c'est encore plus complexe.
22:02C'est un côté entonnoir et pas un côté linéaire.
22:04Et ça sera la même chose sur les images aussi.
22:08Absolument.
22:10On essaie de passer au prochain sujet.
22:12Antitrust, donc aussi on va parler d'intelligence artificielle.
22:16Alors là, c'est Julien qui a répondu à Atlantico à la suite d'un entretien du Financial Times avec un avocat antitrust américain.
22:26Jonathan Cantor.
22:28Il estime qu'un examen urgent est nécessaire sur le contrôle de l'intelligence artificielle.
22:32Donc c'est en train de bouger aux États-Unis.
22:34Ça bouge. Ça bouge même très vite et très fortement.
22:38Et ça s'inscrit dans un contexte un peu plus global de revitalisation de l'antitrust au niveau américain.
22:43On le voit avec la nomination de Lina Khan à la Federal Trade Commission.
22:49Ou justement des personnes comme Jonathan Cantor aujourd'hui qui ont des postes stratégiques au niveau du département de justice américain.
22:55Donc qui sont les deux grandes chambres, les grandes autorités de concurrence au niveau américain.
23:00Et là, ce qui les inquiète, et là où c'est assez intéressant parce que c'est très en avance de phase finalement sur une industrie qui est en train de se construire sous nos yeux qui est celle d'intelligence artificielle.
23:10C'est que dès à présent, en fait, ils ont identifié que sur différents maillons de la chaîne de valeur d'intelligence artificielle,
23:14il commence à y avoir des pratiques qui posent question et des concentrations de pouvoir de marché qui posent réellement question.
23:21Que ce soit au niveau de la puissance de calcul, où un acteur comme NVIDIA aujourd'hui semble en capacité de pouvoir peut-être avoir une influence décisive sur les prix qui sont pratiqués.
23:29Mais également les volumes qui sont adressés au marché, peut-être aussi de façon assez discriminatoire en fonction de la puissance de leur client.
23:35Oui, à qui il fournit en priorité.
23:37Exactement. Le cloud, au niveau du cloud, on a des hyperscalers aujourd'hui qui prennent des parts de marché qui semblent assez décisives et difficilement contestables.
23:45Et qui étouffent un petit peu des opérateurs cloud plus décentralisés et peut-être un peu moins puissants sur la partie financière.
23:53Et donc ils prennent du retard sur la génération d'infrastructures qui sont compétitives.
23:57Je pense évidemment à Microsoft ou Amazon pour ne citer qu'eux.
24:01Puis sur la partie applicative, là pareil, sur certaines formes d'intelligence artificielle, certaines applications,
24:07des acteurs qui semblent entrer en capacité de pouvoir folklore, essayer de phagocyter un petit peu l'entrée sur le marché.
24:15Ou de pouvoir favoriser leur propre service de façon décisive dans un avenir extrêmement proche.
24:21Et ce d'ailleurs avec des pratiques assez différentes.
24:23Prenez Microsoft par exemple qui prend juste 49% de OpenAI.
24:29Donc OpenAI c'est JGPT.
24:31Donc juste assez pour ne pas être considéré comme le propriétaire légal de JGPT.
24:35Mais en gros qui lui donne à peu près la plénitude de pouvoir exercer son droit sur la propriété intellectuelle d'OpenAI.
24:42Et qui lui donne évidemment la capacité de pouvoir décider à peu près de tout et n'importe quoi sur le conseil d'administration.
24:47Et puis de temps en temps, des startups extrêmement prometteuses.
24:51Qui plutôt que d'être rachetées et de peut-être réalertées de façon automatique les autorités de concurrence
24:57sur un contrôle de concentration qui serait accessible de pouvoir de marché.
25:01En fait on va décider plutôt de récupérer les individus les plus talentueux pour les faire travailler pour soi.
25:08Plutôt que de racheter la startup dans laquelle ils travaillaient.
25:10Ce qui est une forme de...
25:11Mais est-ce qu'on peut imaginer Julien que les Etats-Unis décident de s'affaiblir eux-mêmes finalement ?
25:16Non.
25:17Dans le monde numérique ?
25:18Alors oui et non.
25:19Mais je vais laisser Christian.
25:20Mais je pense que je rebondirai.
25:24Parce qu'on peut se dire ah c'est super ils vont nous aider sur l'antitrust.
25:27On fait toujours la comparaison soit avec ATT en je ne sais plus quelle année dans les années 80.
25:31Ou alors Standard Oil en 1912 ou 13 je ne sais plus etc.
25:35Mais ce n'est pas comparable.
25:36Aujourd'hui c'est toutes ces technologies.
25:38Et là on cite l'IA mais il y a tout le reste.
25:40Il y a la tech d'une manière générale.
25:42On représente une arme géostratégique extrêmement importante face notamment à la Chine.
25:48Mais qui est quand même en retard sur ces sujets-là.
25:50Donc je n'imagine pas un seul instant que les Américains en tout cas prennent des mesures extrêmement dures pour bloquer ça.
25:56Dans la chaîne de la valeur c'est vrai et ce n'est pas complètement vrai.
25:59Nvidia ne fait que la conception des puces.
26:02Ils ne les produisent pas.
26:03C'est là que se situe la valeur ajoutée.
26:05Et d'ailleurs dans la production il y a ceux qui font les wafer.
26:07Il y a ceux qui font les machines qui font les wafer.
26:09La fameuse boîte hollandaise.
26:11C'est-à-dire là on a un Européen champion.
26:13Exactement.
26:14Donc quand on regarde vraiment du début jusqu'à la fin sans partir des minerais ou des choses comme ça.
26:17Bon il y a quand même un tas d'acteurs tout à fait différents dans la chaîne de la valeur.
26:21Après est-ce que les hyperscalers américains ont un poids qui est très sensible ?
26:26Trop sensible ?
26:27Je suis assez d'accord avec ce point-là.
26:29Maintenant il y a un dernier élément auquel moi je suis toujours sensible.
26:32Tout ça, qu'est-ce qui est important ?
26:33C'est la data qu'on met dedans.
26:34Vous pouvez avoir tout le moteur que vous voulez.
26:36La puissance des calculs.
26:37Tout ce que vous voudrez encore une fois.
26:38Et on a parlé finalement avec les données soit de presse soit de musique etc.
26:43C'est la data que vous mettez dedans.
26:44Et ça là-dessus les Européens, la France, on a des choses à dire et à faire.
26:48Donc je pense qu'il faut choisir son combat.
26:51On ne va pas de toute façon refaire...
26:53Après il y aura des successeurs à Chajipiti.
26:55Mais aujourd'hui ils ont pris de l'avance effectivement.
26:57Ça servira pour le grand public.
26:58Par contre la data, là on a un poids et des choses à dire pour défendre nos intérêts d'Européens.
27:0430 secondes pour nous parler du Japon.
27:06Notre voie possible.
27:08Oui en fait au Japon, la commission qu'ils ont créée sur l'IA est la commission la plus large,
27:14la plus friendly, laxiste qui soit.
27:18Avec un objectif très clair pour le Japon, c'est d'attirer tous les développeurs qui sont coincés,
27:21qui en ont marre d'être coincés que ce soit par les Américains qui vont peut-être faire quelque chose,
27:24par les Européens qui font déjà des choses.
27:26Les Japonais disent venez chez nous, sentez-vous libre.
27:29Et à juste titre, les Japonais sont le peuple le plus vieillissant de la Terre.
27:33Et clairement eux sans l'IA, ils ne vont pas y arriver.
27:36Merci Alain Staron, Artifil, Julien Piyot de l'INSEC et Christian Poyot de Micropole.
27:41C'était Smartech, merci à vous de nous suivre très régulièrement.
27:48Sous-titrage ST' 501