Lundi 11 novembre 2024, SMART TECH reçoit Laurence Devillers (professeure en intelligence artificielle, LISN-CNRS)
Category
🗞
NewsTranscription
00:00Une pièce de théâtre sur notre rapport à l'intelligence artificielle fait sa tournée
00:08à Paris, regardez.
00:09J'arrive à faire des choses que les autres bottes ne peuvent pas faire.
00:13C'est Torbjörn qui t'a hacké, Garutia.
00:15Non, c'est interdit par les lois de la robotique.
00:17J'ai des lambeaux de souvenirs de mes identités passées.
00:20Je ne peux pas.
00:39Bonjour Laurence de Villers, vous êtes professeure en IA à Sorbonne Université et vous êtes
00:48la co-autrice surtout de cette pièce dont on va parler tout de suite qui a hacké Garutia.
00:52C'est une tragique comédie policière en quatre actes qui raconte les vies successives
00:58d'un chatbot.
00:59Un chatbot qui pour le coup est devenu très très très intelligent.
01:02Alors je dois dire que j'ai vu la pièce là il y a deux jours à peine, on rigole
01:06beaucoup et ça m'a interpellée parce que finalement vous nous éveillez sans cesse
01:11à ces questions d'éthique, de rapport à l'intelligence artificielle.
01:15Vous n'avez pas eu envie de nous faire peur pour autant avec cette pièce ?
01:18Non, je crois que la peur ferme l'esprit avant tout.
01:23Donc on a fait un pas de côté avec Serge Abilboul et Gilles Deweck puisqu'on a écrit
01:27cette pièce.
01:28On est trois chercheurs à l'avoir écrite et c'est l'idée en fait de parler de l'intelligence
01:33artificielle autrement.
01:34On voit beaucoup de choses qui sont anxiogènes.
01:36Le personnage qui joue, qui est un humain, qui joue le chatbot, évidemment pas de chargé
01:42PT.
01:43C'est plutôt Moshi, si vous avez suivi les actualités, c'est un nouveau chatbot de
01:46Kyotai qui pourrait déjà détecter un certain type d'émotion et répondre de façon émotionnelle
01:52à nos propos.
01:54Donc demain va arriver très vite avec ce genre de robot capable donc de peut-être s'adapter
01:59et d'apprendre de nous en interaction avec nous et c'est ce genre de chatbot un peu futuriste
02:04mais pas tant que ça, qui est dans la pièce.
02:06Oui, c'est vrai que vous avez raison de le signaler.
02:08C'est une pièce qui est hyper incarnée, ce sont des acteurs qu'on voit sur scène.
02:13Alors l'actrice en l'occurrence qui joue Garudzia, donc cette chatbot, est absolument
02:18merveilleuse.
02:19Elle fait passer énormément d'émotions et elle a un rapport à la mémoire qui est
02:25très intéressant.
02:26D'ailleurs toute la pièce étudie cette question de la mémoire puisque ça commence par une
02:30histoire d'une femme atteinte d'Alzheimer et puis c'est son chatbot finalement qui
02:35va l'aider à conserver sa mémoire et ensuite c'est toute cette question de que peut garder
02:42en mémoire un chatbot avec, vous faites des références par exemple au RGPD dans une
02:47version que vous imaginez, 159 je crois, qui interdit en fait aujourd'hui au logiciel
02:53d'IA de garder, de conserver les données trop longtemps.
02:56Il y a toute cette question de la mémoire, de la perception de notre rapport à l'IA
03:01par rapport à notre mémoire mais aussi par rapport aux données qu'on accepte qu'elle
03:05conserve et puis demain, qu'est-ce qui fait qu'une IA sera humaine ? C'est peut-être
03:10la mémoire qu'elle a d'elle-même.
03:11Oui et puis vous avez raison, c'est le principe, c'est le fil rouge, c'est la mémoire et
03:16nous avons envie de rester longtemps auprès de nos proches.
03:22On a envie de survivre à sa mort et quelque part, cette immortalité numérique qui est
03:27offerte par le chatbot qui est en scène, on le voit d'un seul coup arriver comme ça
03:33au théâtre et je pense que ça y branle beaucoup.
03:35C'est-à-dire qu'on a évacué la peur, on est vraiment sur l'objet même de désirs
03:41à travers ces machines et qu'est-ce qu'on va en faire demain et comment on va s'attacher
03:45à elle et comment finalement elles vont manipuler nos décisions très certainement.
03:50Cette incarnation de l'IA par le chatbot qui est dans sa cage, qui représente ce que pourrait
03:58être une voix dans les réseaux, une voix dans les nuages comme on le dit, est expliquée
04:03de façon très simple et on en parle d'apprentissage de la machine et de ses capacités de perception.
04:10Effectivement, la machine agrège les données de tous ses propriétaires, elle a été hackée
04:15donc en plus, elle a des capacités de raisonnement sur ce qu'elle a enregistré, donc de conscience
04:21et donc on voit arriver une espèce de machine qui d'un seul coup a des capacités surhumaines
04:26et dans la pièce, elle est plutôt bienveillante mais qu'est-ce que ça veut dire sur demain
04:31avec ces machines qui pourraient nous parler avec un ton humain, des émotions et qui seraient
04:37pour autant que des machines ?
04:39Oui c'est ça, il y a la question de limitation de l'émotion aussi, parce qu'on lui trouve
04:44beaucoup de sensibilité à cette botte sur scène mais à quel point est-ce fin, est-ce
04:51de limitation, est-ce vrai ? Elle s'interroge elle-même d'ailleurs sur ce qui lui manque,
04:55finalement ce qui lui manque c'est un corps, est-ce que c'est ça qui fait qu'on est humain
04:58jusqu'au bout ?
04:59Alors là je vais vous laisser aller voir la pièce pour essayer d'imaginer ce qui
05:04pourrait nous manquer par rapport au futur des IA, évidemment le corps, elle n'a pas
05:08de corps qui ressent, c'est vraiment cet aspect-là et elle n'a pas non plus d'intention
05:14par elle-même, elle apprend au contact des autres, donc ça peut être négatif comme
05:19positif, on l'imagine dans plein de situations de la vie de tous les jours, là elle va être
05:23avec une propriétaire qui est une dame âgée, elle va d'ailleurs lui diagnostiquer Alzheimer
05:29avec une probabilité, donc toutes ces questions-là, en fait on a énormément de questions d'éthique,
05:35de conséquences sociétales à travers toute cette pièce, et qui est amenée finalement
05:39au cours d'une histoire un peu triculante, une comédie, une vraie comédie.
05:43Non mais c'est vraiment une vraie comédie, c'est parfaitement bien écrit d'ailleurs,
05:48je voulais vous le signaler, il y a aussi des choses qui se passent, qui nous interpellent
05:52comme au moment où la société qui vend ce chatbot finalement décide de le débrancher
05:56parce qu'il a soi-disant un dysfonctionnement, et là d'un seul coup on se rend compte de
06:00la perte que ça représente pour un humain qui s'y attacherait, et puis il y a cette
06:04question aussi du hack, du bot qui finalement devient une porte de sortie, est-ce que c'est
06:09ça la clé aussi ? Plutôt que d'en avoir peur, savoir comment ça fonctionne et savoir
06:14se servir de ces nouveaux outils pour éventuellement les pirater d'ailleurs.
06:18Tout à fait, on a abordé en fait toutes ces questions, les règles de la robotique,
06:2342, quand la machine ne répond pas parce qu'elle ne sait pas répondre, cette fameuse
06:26réponse qui vient de la science-fiction, on a un doux mélange entre des rapports philosophiques,
06:32intellectuels, à cet objet qui vient autour de nous et qui nous parle avec une voix humaine,
06:39pour lesquels on va risquer effectivement de s'attacher, d'avoir une intimité réelle,
06:45et d'en souffrir si la machine ne marchait plus d'un seul coup, et là la fin montre
06:51à ce point comment nous allons être dépendants des machines, qui est je crois votre sujet
06:55aujourd'hui.
06:56Donc le montrer dans le théâtre comme au cinéma, sur un avenir proche qui n'est pas
07:01vraiment la science-fiction, avec toutes les codes de la comédie qui nous permettent
07:04de regarder ça avec un oeil plus conscient et moins d'anxiété, c'est que nous devrions
07:12tous penser en fait dans la société ces objets, ce qu'ils vont faire autour de nous,
07:17et comment on peut mieux agréger leur arrivée et être moins dépendants, je pense que c'est
07:22une réflexion ici sociétale sur ces conséquences qu'il est temps de mener en Europe comme
07:29aux Etats-Unis.
07:30On a la pièce qui tourne à Paris, et puis il y a aussi le texte qui est édité, voilà
07:35je vous le conseille, qui a été écrit par Laurence De Villers qui était avec nous dans
07:40Smartech ce matin, également Serge Abitboul et Gilles Deweck, merci encore !