Mardi 22 avril 2025, retrouvez Thomas Breuzard (Directeur permaentreprise, norsys & Coprésident, B Lab France), Nadège Lespagnol (Directrice du département Climate Data Analytics, EcoAct), Morad Attik (co-fondateur et directeur général, EVOLUKID) et Noel Bauza (fondateur, Zei) dans 4GOOD, une émission présentée par Alix Nguyen.
Catégorie
🗞
NewsTranscription
00:00L'IA générative fascine ou inquiète, mais pendant ce temps-là, d'autres intelligences artificielles moins visibles
00:12travaillent à des enjeux beaucoup plus concrets comme le climat, l'inclusion ou l'éducation.
00:16Alors aujourd'hui, on pose la question, l'IA peut-elle faire de l'impact une norme ?
00:22Nadej, vous analysez des données climatiques, en quoi l'IA a-t-elle changé concrètement votre façon de travailler ?
00:29Il y a plusieurs sujets. Nous, on travaille pour accompagner les entreprises dans leur stratégie de décarbonation.
00:38Un enjeu, c'est d'aller vite. On n'a pas le temps. L'IA nous permet, avec le digital, d'aller plus vite et de permettre à nos consultants d'être beaucoup plus efficaces.
00:51Un sujet qui nous tient beaucoup à cœur, je vais peut-être parler du Scope 3, je vais expliquer rapidement.
00:57Donc en fait, quand on accompagne les entreprises, on va mesurer leur empreinte carbone sur ce qu'elles produisent et leurs émissions liées à leurs activités internes.
01:12Il y a toute la chaîne de valeur de l'entreprise, notamment les fournisseurs, qui viennent ajouter effectivement dans cette empreinte.
01:21Et aujourd'hui, il y a très peu de moyens de pouvoir mesurer concrètement la globalité de l'empreinte carbone
01:26et donc de permettre de mettre en œuvre des stratégies de décarbonation si on ne sait pas mesurer ce Scope 3.
01:32Et l'IA générative et l'IA au sens large nous permet d'avancer énormément, de collecter de la data,
01:39de pouvoir effectuer des estimations de ce Scope 3 et de pouvoir justement mieux conseiller nos clients sur l'ensemble de leur chaîne de valeur.
01:49Donc ça, c'est, on va dire, un très fort enjeu sur lequel l'IA générative peut largement contribuer.
01:56Noël, quant à vous, vous travaillez avec des centaines d'entreprises. Est-ce qu'il y a une vraie demande de leur part pour de l'IA utile ?
02:02Alors, ils n'ont pas forcément comme demande d'utiliser l'IA par défaut, ils ont des demandes plutôt de simplifier certains de leurs process.
02:09Donc nous, dans le logiciel, le SGRSE, donc notre savoir-faire et l'usage de la plateforme, c'est d'aider les entreprises à passer moins de temps
02:16à compléter des excels et des données dans tous les sens, entre les investisseurs, les clients, la CSRD, l'ébidon carbone,
02:23et dans l'idée, allouer ce temps à ce qui compte vraiment, qui est l'amélioration de l'impact.
02:26Donc, par rapport à ça, il y a plein d'usages potentiels d'algorithmies, de matrices et ou d'IA.
02:31Et nous, on se pose pas mal la question, est-ce que ça, on peut le faire sans IA ?
02:35Ce sera plus sobre, ça va coûter moins cher, ça conseille moins d'énergie.
02:38Et qu'est-ce qui pourrait être vraiment utile pour aider les entreprises et les équipers RSE à améliorer leur impact,
02:42et du temps, avec de l'IA ?
02:4480% des fonctionnalités qu'on propose n'ont pas besoin d'IA, elles fonctionnent très bien sans avoir ce type de technologie.
02:52Il y a quelques usages qu'on a développés, où là, l'IA est assez utile,
02:58notamment identifier quels sont les enjeux principaux pour chaque entreprise,
03:01et proposer des plans d'action pour les aider à structurer leur démarche,
03:04un peu comme une mission de conseil dont tu parlais.
03:06On a également utilisé l'IA pour pouvoir capter toutes les données d'une entreprise,
03:11pour pouvoir alimenter des rapports, comme le rapport CSRD,
03:14en se basant sur tout ce qu'ils auraient produit pendant des années sur des PDF, des accès dans tous les sens.
03:18Là, c'est un gain de temps qui est assez énorme.
03:20Et il y a également une nouvelle réglementation européenne qui s'appelle la CSRD,
03:25je ne sais pas si ça vous parle,
03:26qui impose aux entreprises de produire des rapports énormes
03:29avec des centaines de données narratives, donc descriptives.
03:32Et ça, c'est une perte de temps pour beaucoup d'équipes.
03:34Et donc, on utilise l'IA pour utiliser quelques éléments de langage,
03:38pour que la rédaction de ce narratif, et donc du rapport final,
03:42utilise l'IA pour éviter de le faire à la main.
03:45Mais encore une fois, tout ça, c'est pour libérer du temps et de l'argent
03:48aux équipes RSE pour qui la loue à si contrairement.
03:51Et pour l'instant, on n'a pas identifié d'autres usages qui étaient indispensables pour l'IA.
03:56Tu en parlais tout à l'heure sur les rapports.
03:59Dans les rapports RSE, on n'aura pas besoin avec la CSRD d'avoir d'IA.
04:02Parce que dans la CSRD, les données de toutes les entreprises européennes
04:05vont être partagées en open source, une forme XML, donc un Excel,
04:10et on pourrait aller les chercher de manière structurée.
04:11Ce qui veut dire que quand les UCA, les RSE demain vont apparaître,
04:15ils vont aller taper dans ces bases de données avec des API,
04:17il n'y aura pas besoin de prendre des PDF, de les traiter avec de l'IA,
04:20de consommer beaucoup des ressources.
04:21Donc encore une fois, on pourra faire très simple et très sobre,
04:24sans IA pour ce cas d'usage.
04:26Morad, qu'est-ce qu'il y a en forme des jeunes de quartier,
04:28à la data et à l'IA ?
04:31Est-ce qu'il s'en sert vraiment pour faire avancer des projets concrets,
04:34ou est-ce qu'on reste au niveau de la formation ?
04:37On a deux objectifs.
04:38Du coup, moi j'ai deux structures, j'ai le programme qu'est-ce qu'il y a,
04:41c'est un projet national, voire international,
04:44parce que la finalité du programme, c'est de présenter les meilleures innovations
04:48Made in France, ici, aux Etats-Unis, à la Silicon Valley.
04:53C'est en quelque sorte aussi montrer que là-bas, on est compétitif,
04:56et on arrive à sortir des vraies solutions d'IA.
05:00Et le deuxième aspect, c'est déployer des expérimentations IA de terrain.
05:06Encore une fois, on a une boîte noire qui est l'IA,
05:09qui est un peu un entre-soi des entreprises, des grandes boîtes, des moyennes boîtes.
05:13Et puis en fait, c'est amener tout le monde à regarder dans cette boîte,
05:20débattre et voir ce que c'est concrètement l'IA.
05:23Comment on fait ça ?
05:24On utilise effectivement, on implique des étudiants issus des quartiers populaires principalement,
05:30mais ils sont déjà dans une dynamique croissante, ascendante.
05:35Ils sont en école d'ingénieurs, ils sont en master de big data.
05:38Et le problème qu'ils ont, et je fais une parenthèse sur l'impact,
05:41quand on parle d'impact ou de RSE, tout de suite, on s'intéresse aux E,
05:45écologie, environnement.
05:46Et on oublie un peu le S de social.
05:48Vraiment social, résoudre des problématiques de discrimination.
05:53Quand je suis un jeune, de Grigny, de Trappes, des quartiers nord de Marseille,
05:57j'ai beau être issu d'une école d'ingénieurs, en master de big data,
06:01et quelle résilience il faut pour arriver à ce niveau-là,
06:03je galère pour trouver un stage, une alternance.
06:06Ce n'est pas normal.
06:08Et j'ai l'impression que technologiquement, on peut atteindre la lune.
06:12Et ces questions-là qui durent depuis que moi, je suis gamin,
06:16et peut-être que mes parents ont connu, ce n'est toujours pas résolu.
06:18Alors que certaines autres questions avancent.
06:21L'écologie, l'environnement, ça n'avance peut-être pas assez vite, ça avance.
06:25La question du handicap, elle avance.
06:26La question du genre, elle avance.
06:28Et donc, le programme qu'est-ce qu'il y a ?
06:30Il fait briller ces pépites issus des quartiers populaires
06:33en développant des innovations comme réduire le gaspillage alimentaire
06:37dans les cantines scolaires, détecter les encombrants
06:39à l'aide des caméras de la ville.
06:42Donc, repérer les mythes poules, lutter contre le cyberharcèlement, etc.
06:47Donc, que de l'IA éthique avec des outils, pas forcément de l'IA générative,
06:51mais plutôt de l'IA traditionnel, couplé avec de l'IA générative.
06:54Et du coup, voilà, le bien commun avec l'impact social.
06:59Je prends la balle sur ce que vient de dire Mourad
07:01parce que tout à l'heure, on a évoqué la dimension marketing.
07:05Là, tu disais faire briller les pépites.
07:07Alors, faire briller les pépites, ça peut être des individus,
07:09des jeunes, des moins jeunes, issus de quelques endroits que ce soit d'ailleurs,
07:13mais qui ont des envies d'entreprendre pour l'intérêt général.
07:16Mais les pépites, ça peut être aussi des organisations, des structures
07:18qu'on essaie d'inviter, de faire briller ici dans cette émission,
07:21de leur offrir un espace de parole.
07:23Aujourd'hui, un des grands problèmes que je vois,
07:25qui est très transverse à tout l'écosystème de l'impact,
07:28que ce soit dans l'économie sociale et solidaire
07:29ou des entreprises qui ont de très forts niveaux d'engagement,
07:32c'est qu'en général, elles mettent plus de moyens sur l'action
07:34que sur le marketing de ces actions.
07:37Et c'est d'ailleurs les agences de relations,
07:39presse, de com dédiées à ces acteurs-là,
07:42elles feraient plusieurs milliers de salariés par quelques dizaines seulement
07:44s'ils avaient beaucoup plus de moyens.
07:46Et là où je pense que l'IA peut apporter quelque chose de très nouveau
07:49et de très utile à tous ces acteurs,
07:52c'est leur permettre de développer de la communication et des campagnes
07:55avec des moyens qu'ils n'ont jamais eus
07:57pour faire savoir ce qu'ils font,
07:59pour trouver des nouveaux clients,
08:00des nouveaux segments, des nouveaux secteurs,
08:01diffuser beaucoup plus largement l'information,
08:04là où avant, ils n'avaient pas du tout les moyens de le faire.
08:06Donc même dans, je dirais, le marketing, la communication,
08:09les relations presse, publiques, etc.,
08:11je pense que l'IA peut avoir une vertu,
08:12c'est d'augmenter, d'empuissancer,
08:15c'est le mot français qui n'est pas très joli pour le empowerment,
08:17les messages clés des acteurs de l'impact
08:19qui œuvrent vraiment pour l'intérêt général.
08:22Sur la question du cadre, des limites,
08:25est-ce qu'il ne faudrait pas un label utile
08:29pour trier le bon grain de l'IA futile ?
08:34Est-ce qu'on pourrait faire le yucca de l'IA ?
08:38Oui.
08:40Alors, les IA utilisés, il y en a tout le temps qui arrivent.
08:43En fait, il n'y a pas besoin d'un label
08:44parce que dans les usages de l'IA,
08:47il y en a certains qui sont par nature bons,
08:48d'autres qui sont par nature inutiles.
08:50Les trois exemples que tu as pris sur les IA
08:52qui sont développés justement par la communauté,
08:55en fait, les trois ont la même approche,
08:57c'est d'utiliser un grand volume de data
08:59pour faire plus sobre.
09:00Éviter de mettre des voitures
09:02qui sionnent les routes pour trouver les nids de poules
09:05ou mettre des capteurs sur les poubelles
09:08pour savoir quand est-ce qu'il faut vraiment
09:10faire passer le camion, Ben, pour aller les vider.
09:13En fait, tout ça, c'est un usage de l'IA
09:14qui va bien sûr consommer un peu d'énergie
09:15mais qui va permettre plus de sobriété.
09:17Ou alors du big data
09:20qui va nous permettre d'avoir une information pertinente
09:22qui va nous servir, notamment, à plus de sobriété.
09:25Donc, si on veut le faire très simple,
09:27l'IA, enfin, des labels, ça ne va jamais arriver,
09:30mais les usages de l'IA qui permettent de la sobriété utile,
09:34ça, c'est top.
09:35Et l'usage de l'IA qui n'ont pas comme conséquence
09:37d'utiliser la data pour faire de la sobriété,
09:40là, ça ne sert à rien.
09:41Et en fait, avec cette simple approche,
09:43on prend toutes les IA hors science
09:46et on peut les mettre dans deux catégories.
09:48Il y a bien sûr les IA utiles pour la science
09:51où là, ce n'est pas une question de sobriété,
09:53mais les IA scientifiques, en général,
09:55elles sont toujours plus ou moins utiles.
09:57Une des plus, pour moi, performante,
09:59c'est celle qui est capable de tester
10:01la création d'une nouvelle protéine
10:03pour remplacer des molécules
10:05qui peuvent être des polluants éternels
10:06par des alternatives qui ont les mêmes propriétés
10:08et donc inventer des nouvelles molécules
10:10grâce à l'IA.
10:12Mais là, on est sur des applications scientifiques
10:13très techniques.
10:14On n'a pas forcément besoin de gros marketing
10:16et elles sont quasiment toujours utiles
10:19pour la société.
10:20Sans parler de la belle de l'IA,
10:23il y a peut-être quand même
10:24une notion intéressante
10:25qui est en train de se mettre en place
10:27dans les communautés de développeurs.
10:29C'est justement, il y a des techniques
10:31comme la quantisation,
10:32pour utiliser un terme un peu technique,
10:36mais qui permettent justement
10:37de maîtriser effectivement
10:39la façon dont on va coder l'IA
10:41pour justement réduire son impact,
10:44que ce soit au travers d'un paramétrage,
10:49de la réduction de l'échantillon de données
10:52qui est utilisé pour entraîner le modèle, etc.
10:55Il y a pas mal d'étapes aujourd'hui
10:58qui commencent à être utilisées,
11:00démocratisées au sein de ces communautés de développeurs
11:03qui, je pense, vont induire d'une certaine manière
11:07une meilleure façon, une meilleure approche.
11:11L'exemple de Dipsy qui a expliqué
11:13qu'effectivement, ils avaient mis beaucoup moins d'énergie
11:17pour développer un modèle équivalent
11:19à ceux des Américains.
11:21Il y a peut-être une polémique autour,
11:23mais en tous les cas,
11:25ça montre quand même qu'il y a une volonté
11:26d'aller vers une IA plus responsable.
11:29Il faut bien distinguer deux choses, par contre.
11:31Il y a la consommation de l'IA
11:33et son impact via son fonctionnement
11:34et à quoi elle sert.
11:35Le problème de la sombriété du fonctionnement,
11:36c'est qu'on arrive très vite dans des effets rebonds
11:38ou parce que ça consomme moins d'énergie,
11:40on l'utilise pour faire beaucoup plus de trucs
11:42qui peuvent être potentiellement inutiles,
11:43comme du ciblage marketing.
11:45Donc, il y a la consommation de l'IA
11:47et il y a à quoi elle sert.
11:48Et je pense que c'est surtout sur le débat
11:49de à quoi elle sert qu'il faut se concentrer
11:51parce que bien sûr qu'on va la rendre plus sobre,
11:53mais comme toutes les technologies,
11:54quand elles sont plus sobres,
11:55on en consomme plus.
11:56Dans certaines écoles,
11:58il y a des acteurs, notamment associatifs,
12:00qui commencent à former,
12:01à former, t'as un grand mot,
12:03mais au moins sensibiliser,
12:04les futurs ingénieurs des entreprises du numérique
12:06au risque éthique, par exemple,
12:08de l'intelligence artificielle,
12:09notamment générative, mais pas que,
12:11à ses conséquences environnementales
12:13pour que demain, lorsqu'ils arriveront
12:14dans des entreprises du numérique
12:15qui sont prêtes à aller chercher le business
12:16là où il est,
12:18pourront dire, mais attendez,
12:18est-ce qu'on est sûr qu'on veut vraiment faire ça
12:20au regard des conséquences que ça a ?
12:22Peut-être une question plutôt pour Morad,
12:23du coup, c'est au-delà des écoles d'ingénieurs
12:25qui, de par l'état actuel de notre société,
12:28n'offre pas aujourd'hui autant de chance
12:30à des jeunes issus, par exemple,
12:32de certaines zones du pays
12:33qu'aux autres,
12:35d'accéder à des niveaux d'éducation supérieurs,
12:38etc.
12:38Qu'est-ce qui existe aujourd'hui ?
12:39Est-ce que tu as des actions que tu mènes
12:41pour faire en sorte que toute la jeunesse
12:43puisse avoir davantage accès
12:45à cette connaissance minimum
12:46sur ce que sont les risques inhérents
12:49aux usages tels que ceux qu'on décrit aujourd'hui ?
12:52Je pense qu'il y a deux éléments.
12:55Il y a l'accès à la connaissance,
12:57où avant, effectivement,
12:58ça ne se faisait que sur les bancs de l'école
13:00et on était tributaires
13:01et on était conditionnés à suivre un seul parcours
13:06pour acquérir cette connaissance,
13:09émanciper et puis avoir le travail.
13:12Maintenant, on peut avoir accès
13:13à la connaissance différemment.
13:15Ça, c'est une première chose
13:15parce qu'il faut d'abord être sachant.
13:17Il faut quand même comprendre le monde
13:19qui nous entoure, notre environnement.
13:20Une deuxième chose, je pense que aussi
13:23les recruteurs ont compris
13:25que ce n'était pas qu'une question de diplôme
13:28pour avoir ces fameux talents
13:29et qu'il y avait aussi tout ce qu'il y a autour
13:31les soft skills et la réalisation de projets.
13:36C'est pourquoi, nous, dans nos programmes,
13:38on pousse les jeunes et les moins jeunes à faire.
13:42Faites des projets.
13:43Ne vous pointez pas juste avec un CV.
13:45Je pense que si on suit un petit peu
13:47le taux de bacheliers,
13:50le taux de licenciés,
13:52on dit comme ça ?
13:52Ceux qui ont...
13:54Oui.
13:54De licenciés.
13:54De diplômés.
13:55De diplômés, mais les Bac plus 3,
13:57Bac plus 5,
13:58dans le temps, ça a explosé.
14:01Je crois que là,
14:01c'est près de 90% des lycéens qui ont le Bac.
14:05Qui l'obtiennent, tu veux dire ?
14:06Oui, qui ont le Bac, qui l'obtiennent.
14:09Ce que je ne veux dire par là,
14:09c'est que maintenant,
14:10avoir un diplôme, un bout de papier,
14:12ce n'est pas représentatif
14:13d'être performant dans le travail.
14:15Du coup, là,
14:16ce qui est intéressant pour les recruteurs,
14:18et on le voit de plus en plus,
14:20c'est ses soft skills,
14:21ce qu'il sait faire
14:22et surtout ce qu'il a fait
14:23à côté de ses études.
14:24Et moi, je pousse beaucoup
14:26cette jeunesse à faire des choses,
14:28s'engager dans des assos,
14:30réaliser des projets.
14:32On peut maintenant,
14:32avec son PC,
14:34réaliser des projets,
14:35savoir faire du montage vidéo, etc.
14:37Et ça, c'est très valorisable
14:38dans le marché du travail.
14:40Et sur la question de l'IA
14:42et des biais algorithmiques,
14:43est-ce que vous les formez
14:45à les identifier
14:46et à les corriger, ces biais-là ?
14:48J'ai même envie de dire
14:49le fait d'être partie prenante,
14:51d'être partie prenante
14:52dans la création d'IA.
14:53Si on ne met que des hommes,
14:54on exclut des femmes
14:55et forcément, il y aura des biais.
14:56Si on ne met que des personnes,
14:57je ne sais pas moi, invalides,
14:58on exclut des personnes
14:59en situation de handicap, etc.
15:01Donc, moi, je parle
15:03de ce que je connais,
15:05ce que même j'ai vécu.
15:06Il y a une différence
15:06entre être sensible à
15:07et avoir vécu.
15:08Donc, tout ce qui est discrimination,
15:10jeunes issus de quartiers,
15:11ça ne veut pas dire
15:12que j'exclus d'autres populations.
15:14D'ailleurs, le programme
15:15qu'est-ce qu'il y a,
15:15il s'est déployé
15:16dans plein de collectivités
15:18dont l'ANCE,
15:20et là, j'ai vu vraiment
15:21la ruralité
15:23et je me suis aperçu
15:24que dans la ruralité en France,
15:27on était peut-être plus exclus
15:29que quand on habite
15:29en région parisienne
15:30dans une banlieue.
15:31où ici, les infrastructures,
15:33il y a tout ce qu'il faut.
15:34Bref.
15:35Et tout ça pour dire
15:35qu'il faut réunir
15:39toutes les parties prenantes
15:40pour construire
15:41la société de demain.
15:42Donc, que ce soit
15:43des jeunes issus de quartiers
15:44ou des gens.
15:45On pose la question,
15:46comment on est venus
15:47à l'émission ?
15:50En off, oui.
15:50En off.
15:51Quand on faisait
15:51préparer cette émission.
15:54Je suis le seul
15:54qui est venu en voiture.
15:55Pourquoi je suis venu en voiture ?
15:56Parce que je viens de banlieue.
15:57Et c'est la galère
15:58pour prendre les transports.
15:59Et j'avais peur de rater.
16:00Et j'ai déjà raté
16:01des rendez-vous
16:01hyper importants
16:02à cause du RRD.
16:04Donc, on pourrait se dire
16:05« Attends, il est venu en voiture.
16:06Ce n'est pas bien.
16:06Tout, écologie. »
16:07Mais voilà,
16:08il faut prendre
16:09toutes les parties prenantes.
16:10Je voudrais prolonger
16:11sur les biais algorithmiques
16:12parce qu'il se trouve
16:13qu'au nom de l'accélération
16:15vraiment massive
16:16qu'on vit depuis deux ans
16:17à la vitesse
16:18à laquelle les technologies
16:19arrivent,
16:20sont appropriées
16:21et utilisées.
16:22Nous, on a vu par exemple
16:23au niveau de Norcise,
16:24donc l'entreprise
16:25de services numériques
16:26où je suis,
16:27que parfois,
16:28les demandes
16:29des clients
16:29étaient raccourcées
16:30dans les délais
16:30parce qu'ils considéraient
16:31qu'on allait pouvoir
16:32s'appuyer sur des IA
16:32pour répondre aux besoins.
16:34Et on a eu,
16:35il n'y a pas si longtemps que ça,
16:36un cas qui nous a beaucoup marqué
16:37parce qu'en fait,
16:38le client était prêt
16:39à ce qu'on favorise
16:41des biais algorithmiques
16:42dans le développement
16:43d'une solution
16:44au nom des délais de livraison
16:46qu'il fallait tenir
16:46parce qu'il y avait des enjeux
16:48d'assemblée générale.
16:49Enfin voilà,
16:49il fallait livrer quoi.
16:51Et ça nous a pas mal marqué
16:52parce que du coup,
16:53on a essayé de trouver
16:53une solution
16:54pour quand même le faire
16:55mais en garantissant
16:57qu'on éviterait
16:58les biais algorithmiques.
16:59C'était le développement
16:59d'un chatbot en fait
17:00où on voulait générer
17:03les scénarios
17:03et les réponses par IA
17:04et donc puisque les IA
17:05sont biaisées,
17:05alors les scénarios
17:06et les réponses
17:06le seraient aussi.
17:07Et ça,
17:08on s'y refusait.
17:10Et du coup,
17:10ça nous a amené
17:11à créer un produit,
17:13enfin ce qu'on pourrait appeler
17:14un produit immatériel
17:15en l'occurrence
17:15qui est en fait
17:16une méthode
17:17pour mettre en place
17:18des chatbots
17:19qui se basent
17:19sur l'usage des IA
17:20pour gagner du temps
17:21sur les scénarios
17:22qu'on veut créer
17:23et les réponses
17:23qu'on y apporte
17:24mais avec tous les points
17:25de contrôle humain
17:25à mettre dedans
17:26pour éviter et garantir
17:28qu'on pose des questions
17:28essentielles
17:29qui font qu'il n'y aura pas
17:30par exemple
17:31de personnes
17:32qui sont destinées
17:33à cet usage
17:33issues de minorités
17:35qui ne sont pas considérées
17:36par l'algo
17:36et donc qui se retrouveraient
17:37sans service
17:38associé à la demande.
17:40Voilà le genre de choses
17:41auxquelles on risque
17:42de faire face
17:43de plus en plus
17:43si on n'accepte pas
17:45de lutter
17:46contre l'accélération
17:47frénétique du temps
17:48que provoquent
17:49les IA génératives
17:49en particulier.
17:51Et pour aller encore plus loin
17:52après la question du label
17:54d'un éventuel label
17:55j'ai compris que non
17:56mais est-ce qu'il faudrait
17:58interdire certaines IA
18:01comme on interdit
18:02certains produits toxiques ?
18:05Je pense que oui
18:05il y a certaines IA
18:07qui sont inutiles
18:09qui devraient être interdites
18:11notamment celles
18:12qui permettent
18:13de faire du deepfake
18:15ou de générer
18:18des cas de fraude
18:20qui s'accentuent
18:21justement
18:22grâce à l'IA générative
18:24donc il y a effectivement
18:25une partie
18:26de l'IA générative
18:27qui va falloir
18:29réguler
18:30voire interdire
18:31pour justement
18:32éviter
18:33que l'impact
18:34se multiplie
18:35et qu'on développe
18:37une économie
18:37de plus en plus
18:38carbonée
18:39et qu'on ait
18:40de plus en plus
18:41d'impact
18:41en termes d'émissions
18:43parce que justement
18:44il y a un usage
18:45qui est complètement inutile
18:46et voire malfaisant
18:48en fait
18:49pour notre société
18:50Et c'est ce qu'on se demandait
18:51en préparant cette émission
18:52avec Thomas
18:52qui est-ce qui devra
18:53fixer ses limites
18:55les développeurs
18:56l'Etat
18:57les citoyens
18:57Ce sera plutôt
19:00aux Etats
19:01de manière générale
19:02et idéalement
19:03une organisation
19:04qui est supra-etatique
19:05parce que si
19:06la Chine
19:07le gouvernement chinois
19:08fait sa propre gouvernance
19:09que les Européens
19:10leur propre gouvernance
19:10il va y avoir une guerre
19:11à qui c'est
19:12qui est le plus
19:14laxiste là-dessus
19:15et ça va créer
19:16une fuite
19:17des start-up
19:19et des technologies
19:20vers les pays
19:20qui les sont
19:20les plus laxistes
19:21un peu comme on l'a
19:22aujourd'hui
19:22avec la fiscalité
19:23par exemple
19:24Et donc comme
19:25l'IA a un potentiel
19:27de dégâts
19:27qui est aussi important
19:28qu'à grande échelle
19:30sociétalement
19:31qu'une bombe nucléaire
19:32si jamais on laisse
19:33l'Elysia faire n'importe quoi
19:34à la Russe
19:36avec la désinformation
19:37qui va avec
19:37ça va être quand même
19:39important qu'on ait
19:40une gouvernance mondiale
19:42des IA
19:43qui implique une transparence
19:44sinon
19:45ça va être mal parti
19:48pour les prochaines décennies
19:50Je suis désolé Noël
19:53mais encore une fois
19:54moi
19:54il y a
19:55comme on dirait
19:56toujours cité
19:57les mêmes
19:58les chinois
19:59les russes
19:59tout ça
20:00ça sous-entend
20:01qu'ici en France
20:02et puis en Europe
20:03nous on fait les choses bien
20:05on a la bonne pensée
20:06moi ça me dérange un petit peu
20:07parce que ça
20:08ça polarise à chaque fois
20:10et ça polarise
20:11en ciblant
20:13plus ou moins
20:15toujours les mêmes
20:15il faudrait aussi regarder
20:18nous ce qu'on fait
20:19ou ce qu'on fait pas
20:19Je dis pas que ça doit être
20:21gouverné par l'Europe
20:21je dis pas que l'Europe est bien
20:23mais justement
20:23il faut qu'on ait
20:25un niveau d'exigence
20:26qui soit commun
20:27à tous les pays
20:28pour pas qu'on ait
20:29si on prend pas la Russie
20:30comme exemple
20:30et qu'on ait le Panama
20:32et la Mongolie
20:33qui est deux réglementations
20:35un peu différentes
20:36qui peut créer
20:36la concurrence
20:38également vers le bas
20:38ça je suis tout à fait d'accord
20:40mais
20:41en sous
20:43ouais
20:44comment dirais-je
20:44en piquant un petit peu
20:45les russes
20:45les chinois etc
20:46il y a un peu
20:48comment dirais-je
20:49un peu un sous-entendu
20:50qu'ici en France
20:52et on parle
20:52si on parle de démocratie
20:54je pense qu'il faut parler d'IA
20:54et de démocratie aussi
20:55même si t'enlèves l'IA
20:57la démocratie
20:57de plus en plus
20:58on le voit là
20:59ça commence un peu
21:00comment dirais-je
21:01un petit peu
21:02un peu bancal
21:03moi ça me fait aussi
21:04un petit peu peur
21:04par le modèle qu'on propose ici
21:06l'éthique
21:06qu'on a
21:07chez nous
21:08en France
21:09en Europe
21:10et voilà
21:11il ne faut pas avoir
21:12cette surconfiance
21:14si on nous confiait
21:16les rênes
21:17la suprématie
21:17qu'on ferait
21:18beaucoup mieux
21:19que tout le monde
21:20c'est ça
21:20je ne dis pas que tu l'as dit
21:22en termes d'éthique
21:23mais franchement
21:24ça se sent un petit peu
21:25dans tous les débats
21:26auxquels j'assiste
21:26cette table ronde
21:27on dirait que
21:28si on nous confiait
21:29les rênes
21:30la suprématie
21:31nous on ferait les choses
21:32bien de manière
21:32hyper éthique
21:33démocratique etc
21:34et ça tend bien un petit peu
21:35disons qu'à ce stade
21:36je crois que l'Europe
21:37est le seul territoire
21:40à avoir autant
21:41mis sur pied
21:42avec l'IA Act
21:43un cadre
21:43qui voudrait réglementer
21:45un minimum
21:45cette frénésie
21:47autour des IA
21:47par contre
21:48elle est loin
21:49d'être mise en oeuvre
21:49ça ne veut pas dire
21:50qu'elle est respectée
21:51pour l'instant
21:51c'est une promesse
21:52donc tu as raison
21:53bon voilà
21:54il est acté
21:55que la donnée
21:55est le nouvel or noir
21:57du 21ème siècle
21:58donc c'est un sujet
21:59géopolitique
22:00et il se passe des choses
22:02extrêmement intéressantes
22:03à analyser
22:03quand les US
22:05mettent des centaines
22:05de milliards
22:06pour gagner la bataille
22:07de la donnée
22:07et collecter les données
22:09du monde entier
22:10et que la Chine
22:11sort une IA
22:12gratuite
22:13pour couper l'herbe
22:15sous le pied des Etats-Unis
22:16et récupérer
22:16toutes les datas
22:17je pense que c'était
22:17avec DeepSic
22:18c'est une guerre
22:21autour de la donnée
22:22qui est lancée
22:23l'Europe essaie
22:24de rattraper un petit peu
22:25aussi le retard
22:26on investit avec Mistral
22:27on pense que c'est
22:28le bon poulain
22:28parce qu'on veut gratter
22:30la donnée aussi
22:30et nous on est
22:32dans ce jeu
22:33de concurrence
22:34et cette espèce
22:35de guerre immatérielle
22:36qui est très particulière
22:38moi je ne sais pas bien
22:40où ça va nous mener
22:41je suis à peu près sûr
22:42que dans l'absolu
22:43on va rester sur 95%
22:44d'usages qui ne servent
22:45pas à grand chose
22:45histoire de collecter
22:47de la donnée
22:47j'ai bon espoir
22:48que voilà
22:49avec ce qu'on est en train
22:50de poser ici
22:50comme cadre
22:51ou voilà
22:52avec peut-être demain
22:53des certifications
22:54des labels
22:54qui vont émerger
22:55et des entreprises
22:56qui ne devront monter
22:56pas de blanche
22:57sur ce qu'elles en font
22:58qu'on arrivera
22:59à des usages
23:00qui seront plus respectueux
23:01de la vie privée
23:02d'un certain nombre
23:03de dimensions
23:04qui peuvent être
23:04vite bafouées
23:05et si on en revient
23:07au sujet de l'Europe
23:09aussi pourquoi est-ce
23:09qu'on a du mal
23:10à faire avancer
23:10ce sujet en Europe
23:11en termes de gouvernance
23:12c'est parce qu'il y a
23:12la concurrence
23:13dans d'autres pays
23:13et en fait c'est un sujet
23:14qui est lié
23:15à tous les enjeux
23:16technologiques
23:17ou climatiques
23:17c'est qu'on ne peut pas
23:18mettre des taxes carbone
23:19très fortes
23:20si dans d'autres pays
23:20ils ne le font pas
23:21on ne peut pas mettre
23:21des lois très fortes
23:22sur l'IA
23:22si dans le pays
23:23ils ne le font pas
23:23et c'est pour ça
23:24que pour résoudre
23:25ces enjeux
23:25il faut une gouvernance
23:26et un équilibre mondial
23:28dans leur application
23:29et ça ça nécessite
23:31d'avoir une humanité
23:32et des pays
23:32qui sont unifiés
23:33et là en ce moment
23:34avec Europe
23:35c'est pas ce qui se passe
23:36donc je ne suis pas
23:37très confiant
23:38dans le fait
23:38qu'on va y arriver
23:39comme toi
23:39tu as bien vu
23:39WhatsApp est là
23:40pour dominer le monde
23:41donc on va essayer
23:42de faire avec
23:43après il faut faire confiance
23:44aussi peut-être
23:45à des mouvements citoyens
23:46on citait tout à l'heure
23:48Data for Good
23:49qui communique beaucoup
23:51aussi sur
23:52la désinformation
23:54puisque l'IA
23:55elle s'alimente de quoi
23:56de la data
23:57si la data
23:58elle est biaisée
23:59à la base
24:00il y a peut-être
24:01des actions citoyennes
24:02à mener aussi
24:03de front
24:05de manière globale
24:06pas uniquement en France
24:07pour justement
24:08éviter d'aller mettre
24:10sa data
24:10là où
24:11elle est utilisée
24:13aujourd'hui
24:13par les grands géants
24:15de la tech
24:15pour construire les IA
24:17donc il y a peut-être
24:17aussi ce type
24:19de mouvement citoyen
24:20qui pourrait éventuellement
24:21nous aider
24:21à améliorer
24:23la situation
24:24dans laquelle on va
24:24gageons que
24:25la pénurie de ressources
24:26malheureusement
24:27qui surviendra de plus en plus
24:28notamment sur la ressource
24:29en eau
24:29et qui se produit déjà
24:30dans certaines zones du monde
24:31je pense que la France
24:32va pas y échapper bientôt
24:33éveillera
24:34et réveillera
24:35les populations
24:35les citoyens
24:36les citoyennes
24:37qui diront en fait
24:38moi je veux pas
24:39me retrouver privé
24:40de l'eau dont j'ai besoin
24:41pour que
24:42à l'autre bout du pays
24:43il y ait trois gus
24:44qui fassent des images
24:45virtuelles
24:46dont on n'avait pas besoin
24:47en fait
24:47plus ça va se tendre
24:50plus il y aura potentiellement
24:51un contre-pouvoir citoyen
24:52pour dire en fait
24:52on veut pas tout et n'importe
24:53quand en termes d'IA
24:54oui
24:54mais si quand tu tâtes
24:55dans Google
24:55pourquoi est-ce qu'il y a plus d'eau
24:56et que le résultat
24:57c'est la faute aux voisins
24:58et que tu cherches pas la source
25:00voilà
25:01ça arrange pas le problème
25:02voilà donc trouvons la source en eau
25:03l'éducation va permettre aussi
25:05et à l'échelle du pays
25:07est-ce qu'on peut imaginer
25:08un service public de l'IA
25:09avec un socle sobre
25:12utile
25:12accessible
25:13l'état a essayé de sortir
25:15une IA pendant le sommet
25:17malheureusement
25:18je pense qu'ils avaient
25:18certainement pas mis
25:19les moyens nécessaires en face
25:20c'était quoi Lucie ?
25:22c'était pas l'état
25:23c'était un centre de recherche
25:24enfin c'était des scientifiques
25:26oui mais c'était censé
25:27que l'IA française
25:28sortit en grande pompe
25:29pour le sommet
25:30je pense que ça avait été créé
25:31par deux personnes
25:31dans un labo
25:32les serveurs étaient pas au rendez-vous
25:34donc ça a pas fait long feu
25:35mais il est évident
25:37que l'état ne peut pas
25:40ne pas se saisir du sujet
25:41il y a quelques bonnes initiatives
25:44le gouvernement français
25:45a lancé un équivalent
25:46à l'environnement Google
25:48le workplace
25:48avec les vidéos et tout
25:49j'ai plus le nom en tête précis
25:51je sais pas si quelqu'un l'a
25:52mais c'est en gros
25:53un concurrent à Google
25:54mais fait par l'état français
25:55qui garantit la sécurité
25:56qui est beaucoup plus sobre
25:57et donc en effet
25:58on peut envisager que l'IA
25:59dont tu parles
26:00n'a pas été abandonné
26:01ils continuent à développer
26:03mais ils n'ont pas beaucoup
26:04de marketing
26:05ils n'ont pas les milliards
26:06de mistral
26:07mais on peut très bien envisager
26:08en effet que le gouvernement français
26:09puisse développer
26:10un usage de l'IA
26:11qui soit transparent
26:13qui soit local
26:14avec une garantie
26:16de la protection de la donnée
26:17et si on se projette un peu
26:19elle ressemblerait à quoi
26:20cette IA sobre
26:21sobre et responsable ?
26:23un mini-tel
26:24il y a sobre
26:27et il y a responsable
26:28sobriété c'est qu'en effet
26:29elle soit sobre dans sa consommation
26:30d'énergie et de ressources
26:31et responsable
26:32c'est d'avoir encore une fois
26:34une bonne gouvernance
26:35sur qu'est-ce qu'on en fait
26:36pour pas que ça serve
26:37à tout et n'importe quoi
26:38et qu'on s'en serve
26:39pour faire de l'impact positif
26:40et selon vous
26:41Anadège et Morad ?
26:42non mais je suis complètement d'accord
26:43enfin moi je vais toujours
26:45prêcher pour ma gouverne
26:46effectivement
26:47dès lors qu'on utilise l'IA
26:48pour sauver la planète
26:49entre guillemets
26:50ben on va considérer
26:52qu'il faut l'utiliser
26:53parce que c'est un accélérateur
26:55puissant
26:56et ben on n'a pas
26:58beaucoup de temps
26:58donc justement
26:59enfin je pense que là-dessus
27:00on ne va pas réfléchir
27:02trop longtemps
27:03mais bon après
27:04il y a plein d'initiatives
27:06qui sont aussi organisées
27:10par les entreprises
27:11pour créer des
27:12des IA en open source
27:14ou des
27:15ou partager
27:16du code en open source
27:18justement pour
27:18permettre
27:20la construction d'IA
27:22moins consommatrice d'énergie
27:23moins impactante
27:25je salue
27:26notamment l'initiative
27:27du crédit agricole
27:28qui a réuni
27:31un nombre assez conséquent
27:32de développeurs
27:33pour un challenge
27:35éco-code
27:35pour justement
27:36améliorer ce NARCUB
27:37qui est aujourd'hui
27:38un framework
27:39qui est très utilisé
27:40par les développeurs
27:40et typiquement
27:42enfin voilà
27:42ce type d'initiative
27:43va aussi nous permettre
27:44de nous
27:45Oui parce que vous travaillez
27:46en banque
27:46enfin en assurance
27:47vous avez travaillé
27:49en banque
27:49et en assurance
27:49pardon
27:50est-ce que c'est des secteurs
27:52qui peuvent devenir
27:53des accélérateurs
27:54de l'IA utile ?
27:55Je pense
27:56enfin voilà
27:56en tout cas
27:57il y a des acteurs
27:57qui s'impliquent
28:00dans ce type de sujet
28:01l'IA est très présente
28:02dans la sphère bancaire
28:04ou dans la sphère assurancielle
28:05qui s'inquiète beaucoup
28:07voilà
28:07de l'impact du climat
28:09et typiquement
28:10il y a besoin
28:11effectivement
28:12d'utiliser ces modèles-là
28:13au sein de ces institutions
28:15donc oui
28:17ils sont assez précurseurs
28:18enfin
28:18je pense qu'ils sont
28:19assez précurseurs
28:20dans l'intégration
28:22de l'IA
28:22voilà
28:23j'ai commencé
28:23il y a 25 ans
28:25en développant
28:27des modèles
28:27justement pour
28:28l'octroi de crédit
28:30responsable
28:31ou la détection
28:33des fraudes
28:34enfin voilà
28:34c'est des choses
28:35qui existent
28:35depuis des décades
28:36dans ces secteurs
28:37et aujourd'hui
28:38enfin voilà
28:39ils l'utilisent
28:40pour plein d'autres usages
28:42au quotidien
28:44j'allais réagir
28:45parce qu'en fait
28:46on entend parfois dire
28:47qu'un monde à 4 degrés
28:48de plus
28:49de température moyenne
28:50que l'air pré-industriel
28:51est inassurable
28:52et c'est des grands assureurs
28:54qui l'ont dit
28:54en fait la réalité
28:55c'est que là
28:56on est près de 1,5 degré
28:57d'augmentation moyenne
28:58de la température
28:58aujourd'hui
28:59et il est déjà
29:00en train d'être désassuré
29:01on a des acteurs agricoles
29:03qui se font désassurer
29:04parce que les risques climatiques
29:05sur leur production
29:06sont trop importants
29:07vous voyez la situation
29:08des agriculteurs
29:09ils ont même plus d'assurance
29:10pour couvrir
29:10on parle de logements
29:12où il y a des effondrements
29:13etc
29:13en fait
29:14je pense que les assureurs
29:16sont très en avant-garde
29:17aussi parce que
29:18leur modèle économique
29:19est en train de tanguer
29:19très fort
29:20ils ont en partie compensé
29:22en utilisant les marchés financiers
29:23pour trouver du rendement économique
29:24notamment sur le fossile
29:26c'est le serpent
29:26qui se mord la queue
29:27parce qu'ils financent
29:27les énergies fossiles
29:28qui provoquent le dérèglement
29:29qui rend le monde inassurable
29:30là les IA
29:31vont être absolument essentiels
29:33pour aider à l'adaptation
29:34et à la planification
29:35de ce monde
29:36où le climat
29:37devenant instable
29:37prévoir devient
29:39extrêmement difficile
29:39complètement lié
29:40l'intelligence humaine
29:41n'a pas réussi
29:42pour l'instant
29:42à résoudre des problèmes
29:43sociétaux
29:43et environnementaux
29:44donc j'ai envie de dire
29:46l'IA est peut-être aussi
29:47notre dernière chance
29:49pour essayer de
29:50corriger le tir
29:51justement
29:52ce sera le mot de la fin
29:53pour que l'IA utile
29:55devienne un standard
29:57qu'est-ce qui doit bouger
29:58en premier rapidement
29:59qu'est-ce qui doit bouger
30:00alors faire des choix
30:01sur comment on s'en sert
30:03si on mettait
30:05toute la puissance
30:05de calcul
30:06les IA génératives
30:07qui sert à faire
30:07des sites internet
30:08qui ne servent à rien
30:08pour l'utiliser
30:10dans la science
30:11pour traiter de la data
30:12pour sortir des scénarios
30:14et des trajectoires
30:16d'adaptation
30:17d'atténuation
30:17je pense qu'on aurait fait
30:19un bond en avant
30:20en termes sociaux
30:21qui serait énorme
30:23le problème
30:23c'est que comme c'est pas
30:24là où il y a de l'argent
30:25les capitaux
30:27donc les usages
30:28vont vers des usages
30:29inutiles
30:30et là malheureusement
30:31sans une gouvernance
30:32et sans la réglementation
30:33je vois pas comment
30:34le marché va tout seul
30:35par sa main magique
30:36dirigeait tout ça
30:37vers les usages
30:38je mettrais ma pièce
30:39sur Morad
30:40et sur l'éducation
30:41c'est ce qui m'a retiré
30:42de la bouche
30:43c'est incroyable
30:44souvenons-nous
30:45moi j'étais encore jeune
30:47mais de l'émergence
30:48d'internet
30:48où les plus enthousiastes
30:50qui ont vécu cette époque
30:52pensaient que ça allait
30:53rendre l'humanité
30:53plus intelligente
30:54parce qu'on allait avoir
30:55un accès à la formation
30:56complètement débridé
30:57bon 20 ans plus tard
30:5925 ans plus tard
30:59malheureusement
31:00l'humanité semble pas
31:01bien plus intelligente
31:02vu ce qu'elle est en train
31:03de mettre en place
31:03et de faire
31:04donc j'ai bien peur
31:06qu'avec l'IA
31:07ça accélère encore plus ça
31:08donc en fait
31:09il faut absolument
31:09qu'on fasse en sorte
31:10que le maximum de gens
31:11sur cette planète
31:12et autour de nous
31:13ça serait déjà bien
31:13comprennent les enjeux
31:15les conséquences
31:16et soient éduqués
31:17à tout ça
31:17soient informés
31:19mais dans l'éducation
31:20il n'y a pas que
31:20l'accès à la connaissance
31:21là je pense qu'aussi
31:22il faut revoir le mot éduquer
31:24éduquer à la bienveillance
31:25ça fait un peu bisounours
31:27je suis désolé
31:27mais penser à son prochain
31:29des bases
31:30de l'humanisme
31:32qu'on perd
31:34plus on avance
31:34dans la technologie
31:35plus regarder son voisin
31:37plus tu prends le métro
31:38quelqu'un il tombe
31:39tout le monde le regarde
31:39et imaginez-vous
31:41ce mindset un peu développé
31:43et en plus
31:44vous perdez la démocratie
31:46donc vous confiez un peu
31:47la stratégie nationale
31:49ou mondiale
31:49à une poignée de personnes
31:51qui n'ont pas cette éthique
31:51qui n'ont pas cette éducation
31:52là c'est chaud quand même
31:54donc il faut éduquer en masse
31:56mais éduquer pas à la connaissance
31:57pas savoir
31:58à quoi sert
31:59tel outil
31:59aussi
32:00au vivre ensemble
32:01qu'il disait
32:02je sais plus
32:03c'est Noël
32:03ou toi Thomas
32:04si
32:05c'est Noël
32:06qui disait
32:07si Lya te dit
32:08en fait
32:08les réserves d'eau
32:12qui baissent
32:12à cause de ton voisin
32:14si Lya t'apprends ça
32:15et puis toi derrière
32:16t'es pas éduqué
32:17à échanger avec lui
32:18à vivre ensemble
32:19on va tous pointer du doigt
32:20et c'est ce qui arrive
32:21c'est ce qui arrive
32:22de temps en temps
32:22hashtag
32:23la pénurie d'œuf
32:25le mois dernier
32:27ça parlera à certains
32:29qui regardent
32:30moi je l'ai
32:31je l'ai
32:31non t'as pas
32:32ok
32:32on en reparlera
32:33pour moi il a compris
32:35pour moi ça résonne aussi
32:38parce que
32:39ce que je vois
32:39arriver dans l'entreprise
32:41avec ces agents autonomes
32:42qui vont remplacer
32:43certains employés
32:44de toutes les grandes entreprises
32:47qui existent aujourd'hui
32:48quelque part
32:50c'est effectivement
32:51développer ses compétences humaines
32:53l'intelligence émotionnelle
32:55la capacité à utiliser
32:57ces IA
32:58génératives
32:59ou autonomes
33:01pour justement
33:02développer
33:04des business
33:05plus vertueux
33:06et enfin voilà
33:07moi je suis assez optimiste
33:09l'IA ne remplacera pas
33:11les êtres humains
33:12elle remplacera ceux
33:13qui ne veulent pas
33:13saisir
33:14de l'IA
33:15voilà c'est ça
33:16et ce sera
33:17le mot de la fin
33:18pour ce débat
33:19c'est l'heure
33:20de notre dernière séquence
33:21c'est le goût de tout nous
33:22c'est le goût