Alors que l’IA générative se limite à des tâches spécifiques, l’intelligence artificielle générale marque un tournant majeur. Avec une autonomie et une flexibilité proches de celles des humains, elle promet de bouleverser nos industries. Toutefois, son développement pose de nouvelles questions éthiques, juridiques et sociétales majeures.
Catégorie
🗞
NewsTranscription
00:00Ce grand rendez-vous sur l'intelligence artificielle va être quand même pas mal consacré à l'IA
00:09générale parce qu'on a plein de questions autour de ça et je suis ravie d'avoir avec
00:13moi aujourd'hui en plateau deux grands experts.
00:15Jean-Gabriel Ganassia, bonjour.
00:17Bonjour.
00:18Vous êtes professeur d'informatique à la Sorbonne Université, vous menez des recherches
00:22sur l'IA au LIPSIS, au laboratoire le LIPSIS, vous avez présidé le comité d'éthique
00:27du CNRS, publié de nombreux ouvrages, je vais en citer un, le dernier, l'IA expliqué
00:32aux humains qui est paru aux éditions Le Seuil en 2024.
00:35A côté de vous Véronique Ventos, bonjour Véronique, cofondatrice, chef de recherche
00:41chez Nuka, il y a une société qui est pionnière dans le domaine des agents IA et de cette
00:45intelligence artificielle centrée sur l'humain.
00:48Ma première question c'est l'intelligence artificielle générale qui est une forme
00:53de promesse ultime que nous font tous les géants de l'IA aujourd'hui, qu'est-ce
00:59que ça veut dire exactement ? Que recouvre cette notion ? Jean-Gabriel.
01:03Très bonne question, point d'interrogation.
01:07C'est une notion qui a été introduite à peu près au tournant du millénaire et qui
01:12avait pour but de nous expliquer que l'intelligence artificielle était partout, qu'elle allait
01:17être introduite dans toutes les technologies, je pense que ça relève d'un malentendu.
01:22L'intelligence artificielle c'est une discipline scientifique qui a pour but de modéliser
01:29les différentes facultés mentales.
01:30L'idée d'intelligence artificielle générale c'est qu'il y a une généralité de l'intelligence
01:38et donc qu'on va pouvoir avec une machine tout simuler.
01:41Parce qu'on a l'impression, excusez-moi professeur, on a l'impression que ces IA
01:47génératives d'un seul coup elles sont justement très générales, on peut leur parler de
01:50tout et n'importe quoi.
01:51Justement, je crois que c'est bien là où est le malentendu.
01:54On confond intelligence artificielle, intelligence artificielle générale, c'est-à-dire appliquée
01:59à tous les domaines, intelligence artificielle générative, c'est-à-dire une forme particulière
02:04d'intelligence artificielle qui repose sur la notion de modèle de langage.
02:11Alors l'intelligence artificielle par essence n'est pas générale, pourquoi ? Parce que
02:16je l'ai dit tout à l'heure, l'intelligence artificielle c'est une discipline scientifique
02:20qui a pour but de modéliser les différentes facultés cognitives, or notre intelligence
02:25n'est pas générale.
02:26Il y a ceux qui sont meilleurs en conceptualisation, dans l'abstraction, ceux qui manient mieux
02:32les mots, ceux qui sont plus imaginatifs.
02:35Vous savez, au cours de ma carrière, j'ai encadré au moins 50 thèses, donc on suit
02:40des jeunes gens pendant plus de 3 ans et je peux vous dire qu'il n'y a pas deux intelligences
02:45semblables.
02:46C'est un peu une fable qui a été racontée, alors qui fait très peur, parce qu'on se
02:51dit, comme l'intelligence artificielle est forte, tout d'un coup l'intelligence est
02:55une espèce de substance, elle va être générale, on va pouvoir l'accumuler, puis bien sûr
03:00les plus gros, ceux qui ont la plus grande capacité d'investissement, qui vont avoir
03:05le plus de processeurs possibles, vont pouvoir en accumuler beaucoup et vont se substituer
03:10à tous.
03:11Je crois qu'il faut être très précis sur le sens des termes, l'intelligence artificielle
03:19générale, ça n'existe pas, ça ne peut pas exister, c'est un concept qui en tant
03:23que tel est problématique.
03:24L'intelligence générale, c'est autre chose, c'est effectivement cette capacité
03:29qu'ont des modèles de langage à générer du texte, générer de la musique, générer
03:34des interfaces, ordinateurs, etc., mais ça n'est pas toute l'intelligence justement,
03:39parce qu'il y a d'autres types d'intelligence artificielle qui ne reposent pas sur les
03:43principes d'intelligence artificielle générative, et de même, je crois qu'il faudrait insister
03:47sur le fait que l'intelligence artificielle générative est relativement ancienne, c'est
03:50qu'on a utilisé, dès les années 50, des outils pour faire de la musique avec de l'intelligence
03:56artificielle, faire de la peinture, etc., et ça ne s'appelait pas intelligence artificielle
04:00générative, mais c'était déjà de la génération de textes, de musiques, de productions
04:06humaines avec des outils d'intelligence artificielle.
04:09Alors, vous avez raison de le rappeler, ce n'est pas du tout nouveau, ce qui est nouveau
04:11en fait ce sont des nouvelles interfaces hyper simplifiées qui ont permis au grand public
04:16de toucher du doigt en fait ce que c'était cette IA générative, on entend aussi, alors
04:21on entend le discours de la fable de l'IA générale, mais on entend aussi des discours
04:26qui nous disent, l'IA générative c'est bientôt fini, elles sont aujourd'hui limitées.
04:31Véronique.
04:33Je ne m'avancerai pas là-dessus, alors je suis entièrement d'accord avec Jean-Gabriel
04:40pour des chercheurs en intelligence artificielle, l'IA générale c'est vraiment un terme
04:47plutôt de marketing et en ce moment en fait je pense que ce terme est extrêmement déformé.
04:54Alors, en étant naïf on peut penser que c'est juste une méconnaissance, mais en
05:00étant un petit peu plus cynique on va dire que c'est une volonté en fait des gens qui
05:05ont la puissance de calcul, les datas, de duper l'utilisateur qui peut être extrêmement
05:13intelligent mais qui ne sait pas ce qui se cache derrière et en fait je pense que, et
05:18c'est tout à fait normal, l'humain va câbler l'intelligence avec quelque chose qui parle.
05:25Donc là il y a une IA qui lui parle, qui produit des phrases bien construites, qui
05:32lui permet de chercher sur le web et c'est en ça que l'humain par exemple va dire que
05:38les animaux ne sont pas intelligents parce qu'ils n'ont pas le langage.
05:41Et en fait, moi j'aime beaucoup les IA génératives, pourquoi ? Parce qu'on s'en sert.
05:46J'aime beaucoup, je n'aurais pas aimé en construire parce qu'effectivement il faut
05:51quand même des infrastructures etc. on reviendra là-dessus.
05:53Je ne dirais pas du tout que c'est la fin mais je dirais qu'il serait temps de les
05:57utiliser intelligemment pour les intégrer dans un processus où des modules les aideraient
06:04et où l'humain resterait maître de ce qu'il veut.
06:08Moi j'ai une question, je ne sais pas si ça fait partie peut-être des limites, mais
06:12est-ce qu'on a besoin d'autant de grands modèles de langage ? Parce qu'on a vu là
06:17par exemple avec la sortie du modèle chinois, on a vu que ça avait permis de créer mille
06:23nouveaux LLM ouverts, je voulais faire référence à DeepSea.
06:28Très bien, mais on a besoin de tous ces LLM, de tous ces modèles de langage, jusqu'à
06:33combien on en a besoin ?
06:34C'est la mode, il faut être à la mode.
06:36D'un point de vue là, on en a besoin, mais plus sérieusement, effectivement, l'intelligence
06:41comme on l'a dit tout à l'heure, c'est une multiplicité de choses, les modèles
06:44de langage aujourd'hui parlent, ça peut être utile, ça peut être amusant, les perroquets
06:48stockaient, mais bien sûr, il y a d'autres tâches qui peuvent être automatisées avec
06:55des outils d'intelligence artificielle qui sont totalement différents de l'intelligence
06:59artificielle générale.
07:00Alors est-ce qu'on en a besoin ? Oui, il y a tout un tas de tâches qu'on pourrait
07:03essayer d'automatiser, ça peut aider, ça peut transformer un certain nombre de métiers,
07:07mais bien sûr, il n'y a pas que ça, et puis aujourd'hui, les intelligences artificielles
07:12génératives reposent sur l'axiome selon lequel big is beautiful, c'est-à-dire que
07:16plus il y a de processeurs, plus on va pouvoir entraîner sur de gros porpus, meilleurs seront
07:21les résultats, et donc ça conduit à une espèce d'opéra des grands acteurs du numérique
07:26qui ont beaucoup d'investissement sur les processeurs, on va assécher le marché des
07:29processeurs, on va être les plus gros, les plus puissants, et donc on va être les maîtres
07:32du monde.
07:33Puisque les Chinois nous apprennent avec des psyches, c'est qu'on peut le faire avec
07:37beaucoup moins de processeurs, et on ne sait pas très bien ce qui va se passer dans le
07:40futur, car on n'a pas assez de recul pour avoir des preuves là-dessus, mais je crois
07:44que le futur est ouvert, et vous avez tout à fait raison, il n'est pas certain qu'on
07:48ait besoin que de l'IA génératif, l'IA génératif sera certainement important dans
07:53le futur, mais il n'y aura pas que ça, et je crois que c'est vraiment important, il
07:56faut savoir que ces machines marchent très bien pour parler, mais ce qu'elles disent,
08:00c'est parfois totalement faux, et il y a des tâches de raisonnement qu'elles font
08:05extrêmement mal, et ça donne d'ailleurs des choses tout à fait cocasses, mais on
08:09n'a pas le temps de rentrer dans le détail.
08:11Non, malheureusement, mais je voulais aussi vous faire réagir sur ce retard qu'on constate
08:15du côté d'Apple, parce qu'Apple, ils ont énormément de données, enfin depuis toutes
08:19ces années, ils en collectent énormément de données sur leurs utilisateurs dans le
08:22monde, ils sont numéro 1 sur les smartphones, donc ils ont les données, ils ont les compétences,
08:28ils ont les moyens, les budgets, et pourtant, là, on découvre Apple Intelligence hyper
08:33en retard.
08:34Comment vous expliquez aujourd'hui cette découverte, cette catastrophe finalement
08:39pour Apple ?
08:40Absolument pas pour moi, parce qu'en fait, ce qu'on appelle retard en intelligence artificielle,
08:46encore une fois, c'est retard sur un type d'intelligence artificielle, qui sont les
08:51IA génératifs.
08:52La première raison pour laquelle, soi-disant, on peut dire qu'Apple n'a pas investi là-dessus,
08:58c'est qu'ils n'ont pas misé sur les infrastructures.
09:00Ils n'ont pas des énormes clouds, etc.
09:04Et donc, ça serait assez maladroit de mener un combat où on n'a pas misé là-dessus
09:12d'un point de vue stratégique.
09:13Le deuxième point très important, c'est qu'il y a une notion de confidentialité,
09:21qui est complètement à l'inverse de ce qu'il faut pour entraîner des gros modèles.
09:27Donc moi, je suis extrêmement rassurée qu'il y ait au moins un des grands, qui effectivement
09:31a de l'argent, se positionne certainement en attente, et à titre personnel, je pense
09:38que les méthodes qu'on est en train de développer, qu'on appelle EGO, parce que c'est des méthodes
09:42qui permettent justement de fournir des assistants personnalisés ou des applications personnalisées.
09:47EGO comme EGO Moi, je…
09:49Voilà.
09:50Ah oui.
09:51Donc, pour être franche, c'est vraiment quelque chose qu'on fait dans la partie recherche
09:56Donc, j'en parle ici parce que c'est absolument pas des produits, c'est vraiment quelque
10:02chose en recherche pour montrer comment on peut utiliser les LLM, les guider, et assembler
10:11des modules de raisonnement, et surtout gagner la confiance de l'utilisateur.
10:15Lui dire voilà, on va discuter avec toi, on utilise les LLM parce qu'ils savent parler.
10:20Chez Nukai, on n'est pas des spécialistes de langage naturel, mais on rajoute, comme
10:25ce qu'on a fait précédemment, des modules pour déjà établir un vrai dialogue et faire
10:32en sorte qu'on lui dise, ok, utilisateur, tu nous as donné tes goûts pour le cinéma,
10:37voilà la vision qu'on a de toi, est-ce que tu es d'accord ?
10:39Oui.
10:40Et pareil, voilà ce qu'on a compris de toi en tant que consommateur.
10:43Mais ça veut dire qu'il faut un game changer, parce que moi, si j'arrive en disant voilà,
10:47où on a la méthode pour faire ça ? La première chose, les gens vont dire, ça ne va pas marcher,
10:52les utilisateurs ne vont pas répondre, et bien si, ça veut dire que si on leur montre
10:57qu'on ne s'en sert pas pour faire de l'argent ou pour leur balancer des tas de publicités
11:01un peu à l'Apple, et bien ils verront que plus ils répondent, plus l'IA s'adapte
11:06à eux, et ce n'est pas de la science-fiction.
11:07Ça fait le lien avec la question que je voulais vous poser, de la responsabilité éthique
11:16autour du développement des IA, et de cette fable de l'IA générale en particulier.
11:21Aujourd'hui, il n'y a pas de tromperie, mais on n'est pas forcément hyper transparent
11:26quand on met ces outils nouveaux entre les mains de tout un chacun.
11:30Alors bien sûr, il y a d'innombrables questions qui se posent aujourd'hui, et qui sont relatives
11:34à la transformation de la société liée à l'intelligence artificielle.
11:38Si vous prenez une décision à l'aide d'une machine qui est responsable, est-ce que c'est
11:41vous ou est-ce que c'est la machine ? On va dire c'est nous, mais quelques fois bien
11:44sûr, c'est la machine qui vous a induit à prendre cette décision.
11:49On s'inquiète aussi de la surveillance, du traçage, on en a parlé tout à l'heure
11:53avec Apple.
11:54Donc ça risque de rentrer dans une société autoritaire, et le fait que le pouvoir soit
12:01capable d'instrumentaliser ces différentes technologies.
12:04Mais je crois que l'une des choses les plus importantes, c'est le fait qu'avec l'IA
12:11nous allons avoir des messages de tous ordres, des infox, ce qu'on appelle les deepfakes,
12:16ou les hyper-trucages, qui font qu'on ne sait plus sur quoi se fonder.
12:20Et ces infox, non seulement sont produites de façon industrielle, n'importe qui de
12:25sa cuisine est capable de les produire, qu'on soit des vidéos d'un chef d'Etat qui vous
12:32tient des propos qu'il n'a absolument jamais tenus, ce qui peut être déstabilisant.
12:36Mais ça peut être pas seulement un chef d'Etat, ça peut être un chef d'entreprise, que ses
12:39concurrents vont présenter et qu'il fait des annonces qui ne correspondent à rien du tout
12:44pour essayer de le décrédibiliser.
12:45Puis la deuxième chose, c'est encore plus problématique, c'est l'utilisation de l'intelligence
12:50artificielle, non pas générative mais des techniques d'apprentissage pour faire du profilage
12:54et pour cibler.
12:55Ça veut dire que chaque personne reçoit de l'information, elle a l'impression que tout
12:59le monde a la même information, mais en fait elles sont destinées à lui, et donc on atteint
13:03une société de plus en plus fragmentée.
13:05Et donc l'exercice de la citoyenneté aujourd'hui, qui est de pouvoir débattre ensemble sur les
13:11mêmes informations, ne pas être d'accord, il va devenir impossible car nous n'aurons
13:15pas les mêmes informations dans le futur, nous n'avons déjà plus les mêmes informations.
13:20Je pense que c'est un enjeu politique majeur et ça, ça fait partie des questions que je
13:24crois qu'il faut essayer de résoudre pour le futur.
13:28Ça passerait par une transparence des algorithmes ?
13:31Ça passerait par une transparence qui est très difficile parce que vous voyez que les
13:35réseaux sociaux ont un pouvoir de plus en plus conséquent et qu'ils refusent.
13:39Nous avons une législation européenne, le DSA, qui en principe doit permettre d'éliminer
13:44les fausses nouvelles, mais vous voyez bien qu'en même temps, les réseaux sociaux comme
13:47Facebook décident d'arrêter toute forme de modération sur ce qu'on appelle le fact-checking,
13:54c'est-à-dire éliminer les informations fausses.
13:56C'est ça, je crois, qui est le plus inquiétant pour le futur et il me semble que pour les
14:02futures générations, ce sera un enjeu majeur d'être capable de pouvoir réinsituer ce
14:07débat public, cette délibération collective sur les informations que nous partageons tous.
14:13Et ça veut dire peut-être inventer de nouveaux modèles d'intelligence artificielle qui
14:18sont plus éthiques ou plus transparents ou plus en collaboration avec nous, by design
14:24comme on dit.
14:25C'est exactement ça, en fait.
14:29Vous vous souvenez, il y a trois ans, on a fêté la victoire de nous qui a battu des
14:37joueurs de bridge, vous m'avez interviewée, et à l'époque, on a dit voilà, on ne fait
14:43pas ça pour l'argent, on fait ça pour montrer que sans grande puissance de calcul, en intégrant
14:48des modules de raisonnement, on pouvait, nous Français, avec une dizaine de personnes,
14:55faire vraiment un exploit d'un point de vue recherche.
14:59Et là, l'idée, c'est ce que je racontais, en fait, c'était de construire une boîte
15:05à outils pour pouvoir créer ce qu'on avait dit, garder l'homme dans la boucle, parce
15:09que l'homme sait encore faire des tas de choses, et en fait, ne pas le garder, c'est
15:13vouloir le remplacer, c'est vouloir enlever des emplois, et c'est surtout très stupide
15:18parce que l'homme va pouvoir, en quelques phrases, vous apporter beaucoup plus parce
15:23que c'est un expert du domaine.
15:25Donc effectivement, là, ce qu'on est en train de créer pour la recherche, c'est
15:32de montrer sur, par exemple, la recommandation, comment on peut faire une recommandation avec
15:41de la transparence, un dialogue avec l'utilisateur, en utilisant des LLM, mais surtout pas en
15:49créant de nouveaux, et montrer ce que ça peut faire au niveau de recommandations personnalisées
15:56avec pour but que vous gagnez du temps, que vous vous sentiez accompagnés et pas espionnés
16:02pour qu'il y ait de la pub.
16:03Merci Véronique Mentos, merci beaucoup pour vos éclairages, merci aussi à Jean-Gabriel
16:08et merci à Professeur d'avoir été avec nous pour nous éclairer sur ces nouveaux enjeux.
16:12Merci de votre invitation.
16:13Avec grand plaisir, autour de l'intelligence artificielle.
16:17Allez, on enchaîne, on va partir dans l'univers du mobile.