Le pionnier de l'intelligence artificielle et cofondateur de DeepMind Mustafa Suleyman publie "La Déferlante" (Fayard). Plus d'info : https://www.radiofrance.fr/franceinter/podcasts/l-invite-de-7h50/l-invite-de-7h50-du-mercredi-25-octobre-2023-4652557
Category
🗞
NewsTranscription
00:00 Bonjour Mustapha Suleiman !
00:02 Bonjour, c'est super de vous rejoindre, merci de m'avoir invité.
00:04 Avec vous, merci de m'avoir invité.
00:06 Vous êtes le bienvenu sur France Inter.
00:08 Est-ce que, Mustapha Suleiman,
00:10 est-ce que vous pourriez expliquer à ma grand-mère
00:12 ce que c'est qu'une intelligence artificielle ?
00:14 Absolument.
00:16 L'intelligence artificielle
00:18 c'est la science et l'ingénierie
00:20 qui consiste à apprendre aux machines
00:22 à faire des prédictions
00:24 qui nous permettent ensuite
00:26 de nous de prendre des décisions
00:28 et d'agir dans le monde réel.
00:30 Alors, quand vous avez créé DeepMind
00:32 avec deux amis en 2010,
00:34 personne ne parlait d'intelligence artificielle.
00:36 Est-ce que vous pourriez nous raconter
00:38 comment vous avez entraîné
00:40 DeepMind à jouer à des jeux
00:42 et comment vous l'avez vu progresser,
00:44 DeepMind ?
00:46 Ça a été assez étrange pour nous
00:48 de travailler sur l'intelligence artificielle.
00:50 Il y a 14-15 ans,
00:52 c'est vrai qu'à l'époque,
00:54 personne ne travaillait sur l'intelligence artificielle.
00:56 Il y avait vraiment très peu de gens
00:58 dans le métier qui s'occupaient de cela.
01:00 Et on s'est dit que si on pouvait utiliser
01:02 tout l'environnement du jeu
01:04 pour essayer de réduire
01:06 un peu la complexité du monde réel,
01:08 à ce moment-là,
01:10 on pourrait probablement progresser
01:12 petit à petit
01:14 et aller vers des choses plus complexes.
01:16 Donc, on a commencé
01:18 par des choses très simples,
01:20 des jeux Atari en 2013,
01:22 des jeux comme Space Invaders.
01:24 Et au fil du temps,
01:26 on a commencé à progresser,
01:28 on est passé peu à peu
01:30 à des choses plus compliquées.
01:32 On est même allé jusqu'à faire
01:34 jouer la machine aux jeux de Go,
01:36 ce jeu chinois.
01:38 Et ensuite, on est passé à la vraie vie.
01:40 Et c'est à ce moment-là qu'on a déployé
01:42 les premiers algorithmes
01:44 d'intelligence artificielle
01:46 à des fins de radiologie.
01:48 Et on a atteint vraiment un niveau expert.
01:50 On a réussi à identifier
01:52 sur des scanners,
01:54 notamment des différents types de scanners.
01:56 On a aussi pu faire
01:58 tout un travail sur la chirurgie oculaire.
02:00 Donc, ça a été des moments
02:02 extrêmement importants.
02:04 Et c'était
02:06 une trajectoire de progression
02:08 qui a été assez constante.
02:10 Alors, ça n'est pas vraiment surprenant.
02:12 Aujourd'hui, maintenant qu'on sait
02:14 qu'effectivement, depuis quelques années,
02:16 l'intelligence artificielle marche très bien.
02:18 C'est ça qui est intéressant,
02:20 c'est qu'une grande partie de votre travail,
02:22 elle a consisté à transposer
02:24 les plus récentes techniques
02:26 d'intelligence artificielle dans des outils pratiques.
02:28 Est-ce que vous pourriez donner
02:30 à nos auditeurs un aperçu
02:32 des progrès concrets
02:34 que l'intelligence artificielle
02:36 va leur apporter ?
02:38 Je me suis beaucoup concentré
02:40 sur la santé ces dernières années.
02:42 Il y a eu d'autres sujets aussi.
02:44 Mais une percée importante,
02:46 c'est qu'on a réussi à concevoir
02:48 une intelligence artificielle
02:50 qui pouvait détecter
02:52 des insuffisances rénales
02:54 à l'hôpital,
02:56 ce qui permettait donc
02:58 de travailler.
03:00 Et ça, ça a été publié
03:02 dans la revue académique
03:04 la plus prestigieuse, Nature.
03:06 Et on a aussi réussi
03:08 à détecter
03:10 des maladies qui causent la cécité,
03:12 donc des maladies oculaires.
03:14 50 de ces maladies,
03:16 ça a été publié dans Nature aussi.
03:18 Et ces techniques, aujourd'hui,
03:20 elles sont en production pour la plupart.
03:22 L'intelligence artificielle est présente
03:24 dans le vrai monde,
03:26 dans le monde de la clinique,
03:28 dans celui de la radiologie également.
03:30 Et les collègues, récemment,
03:32 ont réussi à utiliser des scanners
03:34 en 3D qui permettent
03:36 de dépister le diabète,
03:38 tout un tas de maladies,
03:40 des risques de maladies de Parkinson,
03:42 par exemple. Et vraiment,
03:44 l'intelligence artificielle, c'est ce qu'ils disent,
03:46 elle permet de voir ce qui se passe dans le cerveau
03:48 et elle permet donc de dépister
03:50 aussi beaucoup de maladies
03:52 qu'on ne verrait pas autrement. Donc c'est une perspective
03:54 réjouissante. - Moustapha Suleiman,
03:56 il y a eu le lancement de ChatGPT
03:58 en novembre 2022.
04:00 Pourquoi parlez-vous d'un bouleversement
04:02 majeur ?
04:04 - C'est la première fois
04:10 qu'on a vu en public
04:12 des algorithmes
04:14 qui sont capables de générer un texte
04:16 assez semblable à ce que peut faire
04:18 un être humain. Je travaillais
04:20 à l'époque sur une intelligence
04:22 artificielle qui s'appelait Lambda
04:24 qui est une avant-barde,
04:26 c'était son précurseur, et chez
04:28 Google, à ce moment-là,
04:30 on a eu vraiment une
04:32 conversation qui était
04:34 quasiment aussi fluide et aussi bonne que celle
04:36 de ChatGPT. Donc c'était quasiment
04:38 une année avant le lancement
04:40 de ChatGPT. Autant vous dire que c'est
04:42 quelque chose que j'ai vu arriver depuis longtemps.
04:44 C'est pour ça d'ailleurs que j'ai lancé
04:46 Inflection, une nouvelle entreprise,
04:48 et on a lancé
04:50 PAI,
04:52 c'est l'intelligence artificielle
04:54 que nous avons lancée
04:56 de notre côté, et cet outil
04:58 est là pour être à la fois
05:00 convivial et qui permet
05:02 d'avoir une bonne
05:04 conversation.
05:06 Quand vous prenez
05:08 le type
05:10 ChatGPT, c'est surtout poser des questions
05:12 et donner des réponses. Nous, c'était vraiment un mode
05:14 de conversation qu'on souhaite développer.
05:16 Moustapha Souleiman, est-ce que vous pensez
05:18 qu'il restera un élément
05:20 de l'intelligence humaine que
05:22 l'intelligence artificielle ne pourra
05:24 jamais atteindre ?
05:26 Ça vous fait sourire comme question !
05:28 Vous savez,
05:30 il y a 4 ans,
05:32 les gens disaient
05:34 que la créativité, c'est la seule chose
05:36 que la machine n'aura jamais,
05:38 et l'être humain gardera toujours
05:40 quelque chose qu'il protège,
05:42 parce qu'il a cette capacité
05:44 à la créativité. Jusqu'au moment
05:46 où on a vu arriver ces modèles d'images
05:48 génératives qui ont produit
05:50 des images tout à fait créatives
05:52 qu'on n'avait jamais vues avant.
05:54 C'est ce qu'on voit aussi avec le texte aujourd'hui.
05:56 Puis il y a 2-3 ans, les gens disaient
05:58 que l'empathie,
06:00 la gentillesse, c'est quand même
06:02 une caractéristique
06:04 de l'être humain.
06:06 Or, si vous jouez avec PIE,
06:08 vous pouvez d'ailleurs le télécharger
06:10 sur l'App Store,
06:12 vous verrez que
06:14 c'est un outil très respectueux,
06:16 qui est là
06:18 pour essayer
06:20 de vous respecter,
06:22 qui ne va pas essayer de vous pousser
06:24 à dire quelque chose qui n'est pas approprié
06:26 ou qui est homophobe.
06:28 À la différence des êtres humains,
06:30 vous n'allez pas réussir
06:32 à le coincer, vous n'allez pas réussir
06:34 à le mettre en colère non plus.
06:36 Donc, l'empathie,
06:38 elle est possible aussi chez l'intelligence artificielle.
06:40 Je ne sais pas si ça répond
06:42 à votre question.
06:44 Oui, d'accord pour la création artistique,
06:46 d'accord pour l'empathie,
06:48 mais la conscience,
06:50 c'est le propre de l'homme.
06:52 Mais c'est quoi la conscience ?
06:54 Elle n'est pas définie,
06:56 personne ne l'a définie, on ne sait pas ce que c'est.
06:58 Pour moi,
07:00 la conscience, c'est un peu
07:02 une gueule de bois religieuse.
07:04 Si vous me passez l'expression,
07:06 je suis athée, convaincu pour ma part,
07:08 et je
07:10 tends à donner du sens
07:12 aux choses que j'observe.
07:14 Alors si on me donne une définition
07:16 convaincante
07:18 de la conscience,
07:20 et qu'on peut me la prouver
07:22 au plan scientifique,
07:24 pourquoi pas ? Mais alors d'ici là,
07:26 je dois vous dire que
07:28 je reste sur mon idée.
07:30 Qu'est-ce qu'on appelle le problème du gorille ?
07:32 Le problème du gorille,
07:34 c'est assez gênant.
07:36 Pour vous expliquer,
07:38 si l'intelligence artificielle
07:40 gagne trop de puissance,
07:42 on ne pourrait plus l'endiguer,
07:44 qu'on n'arrive pas à garder
07:46 la bête dans la cage.
07:48 Et bien, c'est une idée
07:50 que je soutiens complètement.
07:52 Moi aussi, je suis préoccupé,
07:54 peut-être pas à très court terme,
07:56 mais à un horizon de 20-30 ans,
07:58 il faut faire attention
08:00 parce qu'il y a
08:02 cette capacité d'autonomie
08:04 et d'auto-apprentissage illimité.
08:06 Il ne faut quand même pas
08:08 d'autonomie trop
08:10 pour cette intelligence. Donc ce sont des décisions
08:12 de conception qui requièrent
08:14 une réglementation,
08:16 une régulation, notamment par
08:18 les acteurs publics. C'est d'ailleurs ce que je demande
08:20 dans mon ouvrage, la déferlante.
08:22 Absolument, absolument. La grande
08:24 question, Moustapha Souleiman, c'est combien
08:26 de temps les humains vont-ils garder le contrôle
08:28 sur l'intelligence
08:30 artificielle ?
08:32 Pourquoi dites-vous dans ce
08:34 livre que
08:36 beaucoup des acteurs de la
08:38 technologie dont vous faites partie
08:40 et que vous côtoyez
08:42 régulièrement, souhaitent
08:44 la mort des États ?
08:46 Parce qu'ils sont fous.
08:48 Pourquoi d'autre vous en voulez-vous ?
08:50 Il faut être fou
08:52 pour vouloir ce genre de choses.
08:54 Je crois qu'il y a une tendance libertarienne
08:56 techno qui est un petit peu
08:58 trop présente à Silicon Valley.
09:00 Je pense quand même que l'État
09:02 a été le moteur de la paix
09:04 et du progrès. Et l'objet
09:06 de ce livre, justement, c'est
09:08 de vouloir défendre l'État-nation.
09:10 C'est une lettre d'amour à l'État-nation.
09:12 Nous en avons besoin plus que jamais.
09:14 Il a ses faiblesses, il a ses problèmes,
09:16 certes, l'État-nation,
09:18 mais il faut simplement améliorer
09:20 son fonctionnement.
09:22 Pourquoi est-ce que la régulation ne suffit pas ?
09:24 Pourquoi est-ce qu'il faut aller jusqu'à ce que vous appelez
09:26 l'endigment ?
09:28 Parce que
09:30 la régulation ne va pas s'imposer
09:34 au plan international.
09:36 Donc la possibilité de mettre en oeuvre
09:40 des normes internationales,
09:42 ça ne va pas assez vite.
09:44 Voyez les négociations aux Nations Unies
09:46 sur par exemple la convention
09:48 des armes autonomes.
09:50 Ça fait 17 ans qu'on négocie
09:52 et on n'est toujours même pas d'accord
09:54 sur la définition de l'autonomie.
09:56 Ça date de quelques années seulement.
09:58 Donc si on se contente de dire
10:00 "on va réglementer", les gens vont dire
10:02 "bon, tout va bien, quelqu'un s'en occupe".
10:04 En fait,
10:06 lorsqu'on parle de cette culture
10:08 de l'endigment,
10:10 c'est qu'en fait, on se rend compte
10:12 qu'on est tous responsables, qu'on travaille
10:14 dans ce métier ou ailleurs. Tout le monde
10:16 doit prendre sa part
10:18 à cette mise en place de la sécurité.
10:20 - Parce que s'il n'y a pas d'endigment,
10:22 dans ce livre, Moustapha Souleiman,
10:24 vous racontez l'apocalypse à venir ?
10:27 - Non, c'est pas l'apocalypse non plus,
10:31 mais je pense que l'État-nation
10:34 va vraiment se trouver très mal.
10:36 Alors on peut dire "pourquoi pas, c'est peut-être la fin du monde".
10:38 Mais nous croyons
10:40 au système de l'État-nation.
10:42 Il est là pour maintenir l'ordre,
10:44 pour assurer la redistribution
10:46 et pour faire en sorte
10:48 que la vie que l'on mène
10:50 soit équitable. Et c'est l'objectif
10:52 de la civilisation, après tout.
10:54 Et de plus en plus,
10:56 on se rend compte que si c'est facile
10:58 d'utiliser le pouvoir, on va s'en servir
11:00 pour perturber le fonctionnement de l'État.
11:02 - Mais qui détient la technologie
11:04 à l'avenir, concentrera les richesses
11:06 et concentrera le pouvoir
11:08 et donc sera plus fort que les États ?
11:10 - Oui.
11:12 Mais en même temps,
11:14 la concentration du pouvoir
11:16 est de plus en plus transférable.
11:18 Elle est plus restreinte.
11:20 C'est-à-dire que les grandes entreprises
11:22 vont avoir l'intelligence artificielle,
11:24 mais les entreprises en open source
11:26 aussi. Et d'ailleurs, la France
11:28 est un des champions de l'open source.
11:30 Donc il faut réfléchir à cela
11:32 honnêtement, aux conséquences de ça
11:34 à l'horizon de 15-20 ans.
11:36 Je m'explique.
11:38 Il y a des avantages
11:40 bien sûr à l'open source.
11:42 Entendez bien ce que je veux dire.
11:44 Simplement, on ne va pas ralentir
11:46 dans les 5 ans, mais on peut
11:48 imaginer à plus long terme que ces unités
11:50 de puissance et de pouvoir vont devenir
11:52 de plus en plus petites au fil des années.
11:54 Et ça, c'est une tendance
11:56 qu'il va falloir surveiller.
11:58 - Voilà. L'open source, c'est la mise
12:00 à disposition du grand public
12:02 de manière gratuite et libre
12:04 justement de ses progrès
12:06 technologiques. Est-ce que vous pensez
12:08 comme Vladimir Poutine, que le leader
12:10 de l'intelligence artificielle
12:12 à l'avenir sera le maître du monde ?
12:16 - Je ne pense pas qu'il y aura
12:18 un maître du monde.
12:20 Je pense que ce n'est pas comme ça
12:22 que ça va se passer.
12:24 Notamment,
12:26 bien sûr,
12:28 quand il y a des régimes autoritaires,
12:30 ils souhaiteraient être les seuls.
12:32 Mais en fait, il y aura beaucoup
12:34 d'entreprises, beaucoup
12:36 de milieux universitaires,
12:38 beaucoup de startups.
12:40 Tout le monde va avoir du pouvoir
12:42 au même moment.
12:44 Ce qui, en soi, d'ailleurs,
12:46 est quelque chose de beaucoup plus
12:48 complexe que quand on a un seul
12:50 despot isolé.
12:52 - Vous restez
12:54 d'un optimisme
12:56 invétéré,
12:58 Moustapha Assolemane.
13:00 Et vous le dites dans ce livre,
13:02 c'est-à-dire que vous condamnez
13:04 toute une élite qui refuse
13:06 de céder au pessimisme
13:08 parce que vous pensez qu'il faut être conscient,
13:10 qu'il faut être pessimiste, qu'il faut regarder
13:12 le pessimisme en face, mais qu'il faut l'accepter.
13:14 Vous restez un optimiste.
13:16 - Oui.
13:18 C'est vrai qu'au XXIème siècle,
13:20 la sagesse consiste à être honnête
13:22 en disant
13:24 qu'il y a deux aspects
13:26 à la chose, c'est-à-dire qu'il y a
13:28 à la fois des risques et des bénéfices.
13:30 Il faut que ça ne se fasse pas.
13:32 Dans l'excès,
13:34 il ne faut pas faire en sorte
13:36 qu'il n'y ait que des choses
13:38 négatives. Il faut être conscient
13:40 des dangers possibles.
13:42 - Vous vous sentez très isolé dans la Silicon Valley ?
13:44 Ou vous êtes nombreux
13:46 à penser comme vous ?
13:48 - Non, je ne me sens pas isolé.
13:50 Il y a de plus en plus de gens
13:52 qui sont conscients des risques,
13:54 qui en parlent. Beaucoup de gens dans le métier
13:56 ont dit qu'on avait un vrai besoin
13:58 de régulation.
14:00 Il y a une nouvelle génération
14:02 de gens qui arrivent dans la Silicon Valley.
14:04 Je suis très optimiste
14:06 à constater
14:08 que les gens sont prêts
14:10 à aborder les problèmes compliqués.
14:12 - Ma dernière question,
14:14 Moustapha Souleiman. Vous refusez
14:16 de penser que DeepMind
14:18 a été l'équivalent du projet Manhattan.
14:20 Est-ce que vous pouvez réexpliquer
14:22 ce que c'est que le projet Manhattan ?
14:24 - Le projet Manhattan
14:26 a consisté
14:28 à développer la bombe
14:30 en temps de guerre.
14:32 C'était une manière
14:34 de lutter contre l'adversaire
14:36 pour assurer la survie.
14:38 Or, ce n'est pas du tout
14:40 l'esprit de DeepMind.
14:42 On a créé DeepMind
14:44 pour mettre en place
14:46 une intelligence artificielle
14:48 qui serait au service de tout
14:50 qui pourrait être utilisé
14:52 dans des apéritifs tels que santé,
14:54 lutte contre le changement climatique,
14:56 par exemple.
14:58 C'est d'ailleurs ce que l'on fait
15:00 encore aujourd'hui.
15:02 - Donc, vous n'avez pas l'impression
15:04 d'avoir créé un monstre ?
15:06 - Assurément pas, non.
15:08 - Merci beaucoup
15:10 de vous être adressé
15:12 aux auditeurs de France Inter
15:14 depuis la Californie.
15:16 Merci, Moustapha.
15:18 - Merci beaucoup.