Face à la montée de contenus nuisibles, les réseaux sociaux ont très rapidement intégré des systèmes, capables de détecter les contenus inappropriés et de réduire la charge des modérateurs humains. Mais alors que Mark Zuckerberg annonce un recul majeur sur son programme de fact-checking, quelles sont les limites de ces algorithmes ? Quels défis restent-ils à relever pour la modération en ligne ?
Catégorie
🗞
NewsTranscription
00:00Pour ce grand rendez-vous de l'IA aujourd'hui, j'ai convié Guylain de Pierrefeu, bonjour.
00:08Vous êtes partenaire au sein du cabinet de conseil WaveStone, en charge des activités
00:12intelligence artificielle et valorisation des données, et avec vous Jean-Baptiste Bousige,
00:17bonjour.
00:18Bonjour.
00:19Vous êtes président fondateur d'Equimetrix, grand spécialiste français de la data science
00:23et des solutions.
00:24Merci beaucoup.
00:25On va commenter trois principales actualités que nous avons retenues.
00:29La première, c'est une question, est-ce que l'IA est en échec, est mise en échec
00:33sur ces sujets de modération de contenu sur les réseaux sociaux ? Je propose qu'on réécoute
00:39Mark Zuckerberg à ce propos.
00:59Complètement fluente en anglais, le principal qu'il faut retenir de cette toute petite
01:15partie de la déclaration de l'arrêt du fact-checking et des nouvelles règles de
01:18modération chez Meta, aux Etats-Unis, c'est qu'il commence par nous expliquer que pour
01:23lutter contre les contenus illicites, ils ont mis en place des algorithmes, des systèmes
01:27complexes et que ces systèmes complexes font des erreurs et que même si c'est un
01:32pourcentage, un seul pourcent des publications qui est affecté, ce sont des milliers, des
01:37millions même d'utilisateurs que cela concerne et il nous dit qu'on a atteint un point où
01:42il y a trop d'erreurs, trop de censures avec ces algorithmes.
01:46Alors, est-ce que vous êtes de cet avis-là ? Aujourd'hui, on a une mise en échec de
01:50l'IA ou pour vous, c'est un petit prétexte balancé par Mark Zuckerberg pour changer
01:54de politique ?
01:56Option 2 ! Globalement, en fait, l'IA a permis des gains énormes sur le fact-checking,
02:05sur le contrôle des contenus d'une façon générale et que ce soit avec la computer
02:09vision, avec le NLP, les LLM, etc., il y a aujourd'hui une capacité à analyser les
02:14contenus qui est phénoménale et qu'on ne pourrait absolument pas faire avec des humains.
02:17Donc aujourd'hui, on ne peut pas dire que l'IA est en échec.
02:21Voilà, pour un premier filtre, ça filtre, je crois que c'est 94% chez Meta qui est
02:25filtré par des IA aujourd'hui.
02:27Donc c'est absolument énorme et on se doute bien que si on devait mettre un homme derrière
02:30chaque image ou chaque texte, un homme ou une femme, pour contrôler le contenu, on
02:35ne pourrait pas le faire.
02:36Donc aujourd'hui, ça apporte énormément.
02:39Après, comme tout, l'IA a des biais, a des insuffisances et n'est pas capable de tout
02:45voir.
02:46Donc effectivement, il y a des trous dans la raquette.
02:48Je pense que sans l'IA, il y en aura encore plus.
02:51Mais ce n'est pas la première fois qu'on entend, avant ce revirement politique de Zuckerberg,
02:57ce n'est pas la première fois qu'on entend qu'il semblait déjà, Meta, dépasser par
03:01les couches et les surcouches algorithmiques pour la modération des contenus.
03:05Mais en fait, je pense que plus qu'une question technique, c'est une question économique,
03:09voire politique et qui renvoie au péché originel des réseaux sociaux.
03:15C'est qu'ils n'ont pas été considérés comme des éditeurs de contenu.
03:18Et donc, ils n'ont pas internalisé le coût de gestion et de modération des contenus.
03:24Donc, c'est un coût absolument énorme pour eux.
03:26Et c'est ça ce qu'il y a derrière.
03:28En fait, ils cherchent à externaliser ce coût, mais le coût aujourd'hui, il est social.
03:33Vous ne voulez pas du tout remettre en question l'utilisation de la technologie pour la modération.
03:41C'est quand même un questionnement aussi sur le problème de transparence des algorithmes.
03:45Quand je vous dis qu'ils nous avaient déjà annoncé qu'il y avait trop de couches d'algorithmes,
03:49en fait, on ne comprenait plus pourquoi le logiciel pouvait bannir telle image et pas telle autre.
03:55Parce que, en fait, ce que ça montre aussi, c'est que c'est extrêmement difficile,
03:59et notamment à cette échelle, de déployer des algorithmes hyper précis.
04:04Donc, la question, elle est plutôt sur comment les architectures, quel est leur purpose.
04:10Et en fait, ce qui est très dur pour les algorithmes, c'est de prendre en compte,
04:13notamment les différences culturelles.
04:15On a notamment beaucoup cité, à une époque, les œuvres d'art qui étaient censurées pour cause de nudité,
04:20alors qu'il y avait des contenus d'apologie du terrorisme qui passaient.
04:24C'est extrêmement difficile d'avoir des outils qui, seuls, vont être capables de s'adapter,
04:31de comprendre l'ironie, de comprendre les différences culturelles, etc.
04:35Et donc...
04:36— Même si on a dû, j'imagine, faire énormément de progrès, justement.
04:39— Non, c'est pour ça que la technique, si on la laisse à sa place, elle est extraordinaire.
04:45Il y a maintenant, sur le multimodal, c'est-à-dire la capacité à traiter du texte, de l'image, du son, etc.
04:51On fait des trucs incroyables et bluffants. Mais c'est se mentir que de dire que ça va résoudre les problèmes tout seul.
04:58Donc forcément, ça va être en échec. Et forcément, ça a un coût d'architecture, de technologie autour pour bien le contrôler.
05:06Et humain pour le piloter, ajuster... C'est comme en cybersécurité. En gros, c'est ce qu'on appelle des managed services,
05:14parce que constamment, il faut s'adapter à la menace, au changement, etc. Et ça, c'est un coût énorme humain.
05:19Et en fait, quand même, moi, je vois dans les propos de Mark Zuckerberg une façon d'externaliser ce coût humain.
05:25Si personne s'en charge, ce sera un coût social, qu'on voit déjà. Et si quelqu'un s'en charge, qui ? Le régulateur.
05:32Enfin ça pose plein de questions d'économie politique.
05:35Les utilisateurs, il y a répondu, qui vont eux-mêmes modérer.
05:39Avec les community notes, oui. Mais c'est vrai que cette question économique, elle est intéressante,
05:44parce qu'on entend aussi beaucoup dans les discours d'appropriation de l'intelligence artificielle en entreprise,
05:49ça va permettre de faire des économies. Finalement, ce n'est pas si évident.
05:53Tout dépend de ce qu'on veut faire. Quand on parle de complexité des algorithmes, de complexité de l'architecture de ces algorithmes,
05:59ça ne lui pose pas de problème pour faire du marketing et du ciblage.
06:03Donc il a des algorithmes beaucoup plus complexes pour faire ça que...
06:05Ciblage pour des publicités politiques, par exemple.
06:07Oui, par exemple, au hasard. Donc on sait faire des choses importantes.
06:12Encore une fois, sur le fact-checking, l'IA leur a permis effectivement de ne pas voir exploser les coûts de contrôle humain.
06:19Donc ça dépend d'où on part. Quand on parle de cybersécurité, aujourd'hui, il y a beaucoup de choses qui sont faites par des humains.
06:25Et on voit que l'IA apporte énormément pour réduire la charge humaine et surtout concentrer les humains sur les trucs les plus complexes.
06:31Et donc ça, on le voit concrètement dans les entreprises.
06:34Les équipes cybersécurité utilisent de plus en plus ces outils pour regarder les fuites de données, etc.
06:39Et honnêtement, c'est un gain énorme opérationnel.
06:42Donc après, souvent, les gens sont occupés à d'autres choses parce qu'il y a encore des choses plus complexes à investiguer, etc.
06:47Ça ne fait pas forcément des économies, entre guillemets, de masse salariale.
06:49Ça peut le faire si on le souhaite, mais souvent, c'est réfléchi vers autre chose.
06:53Mais ce n'est pas aussi simple.
06:53Non, et puis la question de voir l'IA comme un outil pour faire de la productivité, c'est probablement le mauvais combat.
06:59Il faut penser valeur ajoutée.
07:01Sinon, on s'enferme dans un système qui ne tiendra pas sa promesse.
07:06On va soit couper des coûts humains, mais du coup dégrader la qualité.
07:11Donc en fait, il faut bien se rendre compte que l'IA magique plug and play, ce n'est qu'une partie du coût.
07:17Il y a un coût de passage à l'échelle qui est important.
07:20Et il y a un coût aussi de ce que j'appelais « manage services », de manager les modèles,
07:25d'être sûr qu'on va toujours se dire où est-ce qu'il y a de la valeur ajoutée à créer, comment on apporte plus de valeur, etc.
07:31Si on ne se concentre que sur la productivité, on n'aura pas le héroïne de l'IA.
07:34Oui, on va dans le mur.
07:36Bon, je vous propose qu'on adresse notre deuxième sujet.
07:39Ce sont des restrictions américaines sur les puces d'IA.
07:43Alors, j'ai mis un point d'interrogation parce qu'aujourd'hui, c'est un texte qui est porté par l'administration Biden
07:50et que, bon, 20 janvier, on change d'administration.
07:53Que va-t-il se passer ?
07:54Bon, ça, on n'aura pas la réponse.
07:56J'imagine que vous ne l'avez pas non plus.
07:58En tout cas, dans sa dernière ligne droite, l'administration Biden a présenté un texte qui impose des restrictions sur l'exportation de technologies
08:04qui sont capables d'accélérer les traitements d'intelligence artificielle.
08:08Première concernée, ce sont les puces, les GPU de Nvidia.
08:12Nvidia, c'est 90% du marché, je crois, sur l'accélération IA.
08:16La raison invoquée par les Etats-Unis, c'est la sécurité nationale.
08:22On aurait pu penser que c'était la Chine qui était visée, mais finalement, c'est le monde entier.
08:25C'est-à-dire que dans ce texte, on a vraiment le monde entier qui est adressé sur ces restrictions.
08:30Alors, il y a vraiment les pays amis sur lesquels il n'y a pas de limite à l'exportation,
08:37mais il y a quand même un contrôle qui sera fait et la France est dans cette catégorie de pays amis.
08:43Il y a évidemment les pays ennemis qui, eux, n'ont rien du tout et puis ceux qui sont entre deux.
08:48Et là-dedans, on a des pays, notamment de l'Union Européenne,
08:53qui vont voir les exportations être pas seulement contrôlées, mais limitées.
08:58Comment, pour vous, est-ce que c'est une véritable menace sur la compétitivité mondiale dans le domaine de l'IA ?
09:06J'irais en premier lieu, pour l'instant, c'est une menace pour Nvidia.
09:09En tout cas, c'est comme ça qu'ils l'expriment parce qu'effectivement, ils exportent beaucoup
09:14et c'est une part importante des exportations, même pour les États-Unis.
09:17Donc, c'est un choix compliqué et c'est un choix compliqué parce que la chaîne de valeur de l'IA est beaucoup plus complexe que ça.
09:24On l'a déjà vu post-Covid.
09:26Les Chinois avaient arrêté ou en tout cas baissé les approvisionnements en terres rares et en métaux rares qui servent aussi à construire les puces, etc.
09:33Donc, cette chaîne de valeur, elle est hyper imbriquée.
09:36La fabrication dans les fonderies, c'est surtout à Taïwan et en Chine.
09:41Donc, on voit qu'il peut y avoir un retour de bâton.
09:43Donc, toute la question, ça va être la réaction des pays asiatiques, chinois, qui ont une place très importante aussi dans cette chaîne de valeur
09:50et qui peuvent aussi contraindre pas mal de monde.
09:53Donc, on a effectivement la guerre États-Unis-Chine.
09:56C'est toujours ce rapport de force.
09:59Je ne sais pas ce que fera Trump.
10:00Il ne s'est pas encore prononcé à ma connaissance sur le sujet, peut-être à ton avis.
10:05Mais en tout cas, c'est dans la ligne de ce qu'il veut faire sur le protectionnisme et sur le fait de protéger des choses.
10:10Tous ces pays ne pourront pas utiliser les puces.
10:12Alors, c'est effectivement sa ligne sur le protectionnisme.
10:15D'un autre côté, sa ligne, c'est aussi de favoriser ces grandes entreprises américaines, ces big tech dont fait partie Nvidia aujourd'hui.
10:24Oui, mais c'est aussi une façon.
10:25Il y a les utilisateurs des puces ensuite et donner accès à la puissance de calcul prioritairement aux entreprises américaines.
10:33Clairement, aujourd'hui, le sujet de l'IA est perçu comme un sujet géopolitique, y compris pour les acteurs économiques.
10:40Le CEO de Palantir disait que les États-Unis n'avaient pas eu un tel avantage stratégique depuis la bombe atomique.
10:46Donc, mettre ça dans une même phrase, c'est dire la façon dont, y compris les acteurs économiques, le percevaient en disant
10:52« On a une chance. C'est la première révolution depuis la bombe atomique où les États-Unis sont seuls au monde à être dotés d'une technologie ».
10:59Je pense que ça doit nous amener plutôt à repenser à cette question de l'impact et de se dire que tout n'est pas sur la pleine puissance.
11:08« Bigger is not better ».
11:10Ça, c'est démontré par plein de papiers super intéressants.
11:13Il ne faut pas se laisser entraîner par le narratif de la Silicon Valley qui dirait toujours plus investissement, toujours plus de processeurs, etc.
11:21et se dire « Qu'est-ce qu'on a à jouer quand on voit ce qu'on doit déployer dans les entreprises ? ».
11:25La frugalité, par exemple, c'est un sujet extrêmement important.
11:29Donc, bien sûr qu'il faut que l'Europe travaille sur sa souveraineté sur le haut de la chaîne de valeurs parce que, quand même, il faut se préparer à ça.
11:38On peut changer de catégorie de pays assez rapidement, visiblement.
11:41Oui, oui. Et puis, il faut savoir quelles sont nos solutions de repli.
11:45Mais en même temps, sur l'aval, il y a des questions de leadership à prendre sur les applications d'IA
11:51et avec une singularité européenne qui peut être une IA plus frugale, plus responsable et donc moins dépendante de l'accès au GPU
12:00ou d'un accès linéaire, voire même exponentiel au GPU.
12:05Vous n'êtes pas inquiet face à ce texte aujourd'hui ?
12:09Parce que ça va limiter aussi la manière dont nos entreprises, finalement, exportent leurs propres technologies.
12:15En fait, ça pose quand même des questions.
12:17Leurs propres services à base de technologies américaines, pour être plus précis.
12:21En fait, il y a une chose qu'on ne dit pas, c'est que ces restrictions sont vraies si vous achetez directement les GPU.
12:26Si vous passez par AWS, GCP ou Microsoft dans les data centers qu'ils ont en Europe,
12:32ils ont le droit d'avoir autant de GPU qu'ils veulent et vous pouvez les utiliser.
12:35Donc, c'est aussi quelque part un geste qui favorise ces gros acteurs technologiques aux Etats-Unis,
12:42aux dépenses, c'est vrai, de Nvidia en l'occurrence.
12:45Mais du coup, on pourra continuer à l'utiliser.
12:47Pour moi, ça pose une question plus globalement.
12:49Je suis complètement d'accord avec ce qui vient d'être dit sur la frugalité.
12:51On doit se différencier là-dessus et on doit aller vers quelque chose d'un peu plus intelligent que la course au gigantisme.
12:58Pour autant, on voit qu'on est hyper dépendant d'une chaîne de valeurs qu'on ne maîtrise absolument pas.
13:03Donc, il y a une guerre Chine-Etats-Unis, ils maîtrisent tous des composants.
13:06Nous, on maîtrise, et c'est déjà pas mal, le haut, avec notamment les large language model,
13:11sur lequel on a des trucs très bien en France, etc.
13:15Mais du coup, on n'a pas tout le reste.
13:19Et ça pose des questions sur comment, quand même, même si on fait des data centers un peu plus petits,
13:23si on a besoin d'un peu moins de puces, etc.
13:25Comment on devient un tout petit peu souverain sur cette partie-là, au niveau européen ?
13:30À quel moment on se réveille ?
13:31Et là, ça pose des questions assez lourdes.
13:33Et pour l'instant, on n'est pas prêt.
13:35Bon, on n'a plus beaucoup de temps, mais on a quand même un troisième sujet.
13:37Je voulais vous faire réagir sur l'investissement dans les data centers.
13:40On s'estime que la demande en data centers va augmenter de 20% par an d'ici à 2030.
13:45Et puis, on voit les milliards qui pleuvent, que ce soit justement du côté d'AWS avec Amazon,
13:52du côté de Microsoft, qui a annoncé 80 milliards de dollars consacrés aux data centers pour l'IA,
13:56dont la moitié investi aux Etats-Unis.
13:59Donald Trump aussi a été très clair là-dessus.
14:03Il a annoncé notamment un investissement de 20 milliards de dollars
14:06de la part du milliardaire Emirati Hussein Sawani.
14:09Aujourd'hui, on est dans la course au gigantisme.
14:12Les installations, elles ont changé totalement de dimension.
14:17C'est évidemment un gouffre énergétique.
14:20Comment on va faire pour absorber toute cette consommation ?
14:24Je pense que c'est un sujet grave et pas assez documenté,
14:27qui est justement dans la lignée du bigger is better.
14:30Je pense qu'on marche sur la tête.
14:33Si je prends l'exemple d'Equimetrix, nous, on est un des acteurs principaux
14:40sur le déploiement en modèle d'IA pour les entreprises en France.
14:43L'année dernière, on a grossi de 45% et on a réduit notre empreinte carbone.
14:49C'est possible de déployer des modèles d'IA frugales.
14:52Ça fait partie de notre job.
14:54Et encore une fois, le scientifique, il ne finit pas son job
14:57quand il a trouvé la solution superpuissante.
14:59Il prend le temps de voir comment on l'affine pour qu'elle soit la plus efficace possible.
15:03Et d'ailleurs, c'est une condition nécessaire pour les entreprises
15:06pour être capable de les déployer à l'échelle.
15:08Et donc, ce boulot-là, si le haut de la chaîne de valeur
15:14et les producteurs de LLM disent que ce n'est pas leur job,
15:16nous, on va financer des centrales nucléaires, etc.,
15:20on va impacter la planète.
15:22Et en fait, ils ne font pas leur job.
15:24Ils considèrent que les externalités négatives de leur activité,
15:26ce n'est pas leur job.
15:28Faire société, c'est s'occuper aussi des externalités négatives de son boulot.
15:33Et là, je pense que le régulateur devrait jeter un oeil à ce sujet de l'énergie.
15:37Donc on a Luc Julia qui nous prédit que les IA génératives, d'ailleurs,
15:40c'est bientôt terminé parce que de toute façon,
15:42on n'aura pas suffisamment de ressources.
15:44Si on imagine autant de requêtes sur ChatGPT que dans Google aujourd'hui,
15:47ce n'est pas possible.
15:49Alors, c'est techniquement possible.
15:51On va être limité par l'énergie.
15:52C'est vrai qu'aujourd'hui, il y a déjà plein de datacenters
15:54qui sont obligés de se mettre à l'arrêt
15:55parce que les fournisseurs d'énergie ne sont pas capables de produire.
15:57L'eau, je n'en parle pas.
15:58On en a parlé beaucoup avec la Californie et les incendies.
16:00Donc ça pose beaucoup de questions sur l'environnement de ces datacenters.
16:04Et oui, il y a des limites planétaires,
16:06mais aussi il y a des limites locales,
16:08des limites des producteurs d'énergie.
16:10Relancer une centrale nucléaire, c'est bien,
16:12mais on ne peut pas le faire tous les quatre matins.
16:14Et donc, il va y avoir des vraies questions de se dire
16:16comment on limite ça et comment on est capable de faire la même chose avec moins.
16:21Mais pas gagné.
16:23Merci beaucoup à tous les deux.
16:25Mylène Bièrefeux, expert IA chez WaveStone,
16:27et Jean-Baptiste Bouziche, président et fondateur d'Equimetrix.
16:29Merci beaucoup.
16:31Tout de suite, c'est l'actu des cryptos.