Exposition CYBERSCULPTURE 2024
(16 janvier - 10 février 2024)
Collège des Bernardins, Paris 5e
Conférence du mardi 23 janvier 2024
La machine au service de l'Art: vieille histoire, perspectives nouvelles
> "Ganesh Yourself. Dieux et robots en Inde et en Asie". Par Emmanuel GRIMAUD, anthropologue, cinéaste, Directeur de Recherche au CNRS.
(16 janvier - 10 février 2024)
Collège des Bernardins, Paris 5e
Conférence du mardi 23 janvier 2024
La machine au service de l'Art: vieille histoire, perspectives nouvelles
> "Ganesh Yourself. Dieux et robots en Inde et en Asie". Par Emmanuel GRIMAUD, anthropologue, cinéaste, Directeur de Recherche au CNRS.
Category
📚
ÉducationTranscription
00:00 Alors en vrai je vais prendre un angle qui est complètement décalé parce que je n'ai
00:16 pas du tout la culture générale de mes collègues sur l'histoire des techniques et des machines
00:23 et je suis ravi d'être là. L'invitation de Christian, j'ai découvert l'exposition
00:30 tout à l'heure et j'ai trouvé ça formidable. Pour moi c'est vraiment le reflet d'une
00:39 bande, l'expérimentation dans laquelle nous sommes aujourd'hui qui est prolifique dans
00:47 ce qui relève de nos relations avec les machines. Et l'anthropologue que je suis, qui travaille
00:54 en Inde beaucoup mais j'ai aussi un peu travaillé au Japon avec des roboticiens japonais, je
01:01 suis passionné pour les questions d'intelligence artificielle et robotique. Et puis la question
01:08 qui m'intéressait dans tout ça c'était plutôt quel changement ça opère au niveau
01:19 profond de notre mode cognitif de pensée, de façon de faire, de concevoir des choses
01:29 que de coopérer avec des machines. Et avec la cyberculture j'ai découvert aujourd'hui
01:39 à quel point ça donnait lieu à une sorte de bestiaire de forme qui me rappelle un peu...
01:46 Alors on avait fait une exposition avec des collègues il y a quelques années au musée
01:50 du Quai Branly qui s'appelait Persona, étrangement humain, et qui était une sorte de réflexion
02:00 sur... c'est de répondre à une question qui était de savoir pourquoi est-ce qu'au fond
02:07 on avait donné des formes humaines à des objets. Parce que dans le répertoire des
02:14 formes possibles, quand on parle d'entités très diverses, d'esprits, de divinités,
02:21 etc., il y a en fait énormément de choix possibles. Et comme Christian l'a montré,
02:28 on peut partir sur des formes abstraites, etc. Et dans l'histoire, toutes les cultures
02:36 ont inventé leurs formes de prédilection et beaucoup n'ont pas une forme humaine.
02:42 Et donc on s'était interrogé sur cette exception qui consiste à créer de la forme humaine
02:49 à un moment dans l'histoire. Pourquoi est-ce que même à certaines époques, il y avait
02:55 une sorte de... presque de pulsion, comme ça, qui consiste à fabriquer, je dirais
03:05 à vouloir reproduire absolument des figures avec des formes humaines, ou alors, enfin
03:10 anthropomorphes ou même zoomorphes, enfin voilà, donner des formes aux objets qui
03:16 nous entourent, et puis surtout aux entités qui peuplent, je dirais, l'environnement
03:21 auquel on donne des formes. Et on s'est aperçu qu'il y avait beaucoup de cultures,
03:26 notamment en Mélanésie et en Amazonie aussi, où en fait on avait maintenu de manière
03:32 très délibérée des formes dans des états de non-ressemblance, enfin de dissemblance
03:40 avec l'humain. Tout ce qui était esprit et divinité était maintenu dans un... enfin
03:47 on ne voulait absolument pas que ça ressemble à l'humain, si vous voulez. Et puis on s'était
03:52 retrouvé avec Zaid Paré, qui est un copain artiste, au Japon à faire un terrain dans
03:58 un laboratoire de robotique, il travaillait avec des roboticiens japonais, dans le laboratoire
04:03 d'un roboticien japonais qui s'appelait Ishimuro, dont vous avez peut-être entendu parler,
04:07 parce qu'il a fait une copie de lui-même en robot, qui s'appelle le Géminoïde. Et
04:14 alors c'était très étrange pour moi, comme pour Zawen, de voir, enfin de rentrer dans
04:19 ce laboratoire avec ce robot qui ressemblait comme très étrangement à son concepteur,
04:27 à un humain. Alors c'était un robot téléopéré par ordinateur, donc il y avait quelqu'un
04:33 dans une salle avec un logiciel de reconnaissance faciale, et le robot imitait ses mouvements
04:41 si vous voulez, et on interagissait avec le robot qui était une espèce de... voilà,
04:48 de pantin, enfin de machine, je ne sais pas comment appeler ça, moi je n'ai pas de...
04:53 je ne sais pas trop la différence entre outils, machine et tout, surtout aujourd'hui j'ai
04:57 un peu tendance à me laisser troubler, et presque délibérément, je trouve que c'est
05:02 agréable de se laisser troubler par ces machines dont on ne sait pas trop quel est le statut
05:09 exactement, qu'on cherche des fois à faire sortir du raid des machines pour leur faire
05:16 adopter des formes humaines, animales, etc. Alors dans le laboratoire d'Ishibo, la question,
05:23 c'était une question qui nous a beaucoup inspiré après pour l'Expo Persona, c'était
05:30 une question qui avait été très bien formulée par un roboticien japonais qui s'appelait
05:36 Masahiro Mori, qui avait inventé une théorie qui s'appelait la vallée de l'étrange.
05:41 Masahiro Mori avait publié un espèce de schéma dans un article en 1970, c'était vraiment
05:52 un article à la japonaise, concentré de tomates, c'était une petite deux pages, mais
05:57 ça a fait beaucoup de bruit dans le monde de la robotique, presque autant que je dirais
06:02 les textes de Turing dans les années 50, qui ont vraiment initié les affaires d'intelligence
06:10 artificielle et tout ça. Là le texte de Mori, ça va être l'étrange, il y a beaucoup
06:15 beaucoup de roboticiens qui se sont emparés de cette problématique. Et l'idée de Mori
06:20 a été toute simple, c'était de dire qu'a priori plus vous faites un objet qui a une
06:25 forme humaine, plus vous créez de l'empathie chez l'utilisateur. Et il y avait deux paramètres,
06:34 la familiarité et la ressemblance. Et donc vous voyez sur le schéma, la courbe en pointillé
06:42 c'est la familiarité, qui va augmenter en fonction de la ressemblance. Et puis il y
06:51 a un moment où quand on se rapproche trop de l'humain, on crée l'effet inverse, qui
06:58 est un effet de répulsion. Il prenait l'exemple de quelqu'un qui a une prothèse de main
07:02 sans le savoir. Vous avez la familiarité et la ressemblance qui augmentent au fur et à
07:17 mesure que vous créez une forme qui a une apparence humaine. Et puis il y a un moment
07:21 où quand on se rapproche trop de l'humain, on tombe dans quelque chose qui est ce qu'il
07:25 appelait la vallée de l'étrange. Et il prenait l'exemple de quelqu'un qui a une
07:29 prothèse de main. Si vous serrez la main de quelqu'un qui a une prothèse de main sans
07:33 le savoir, vous risquez d'être un peu effrayé parce que ça n'a pas une consistance de
07:37 main naturelle, c'est froid. Et donc vous tombez dans ce qu'il appelait la vallée de
07:42 l'étrange. Ce qui est intéressant c'est qu'il mettait en garde les roboticiens en
07:47 leur disant "si vous êtes un peu comme ça, obsédé par l'idée de fabriquer une forme
07:58 humaine, une forme humanoïde, vous risquez à un moment ou à un autre de vous confronter
08:03 à ce problème et de tomber dans la vallée de l'étrange. Et la question de ça, c'est
08:06 comment en sortir. Et il disait aux roboticiens, parce qu'il était bouddhiste, donc il leur
08:15 faisait faire du zazen, de la méditation zazen, tous les matins, des roboticiens dans
08:22 son labo. Il leur disait "donc si vous regardez par exemple une poupée de Bunraku, donc dans
08:31 le théâtre japonais les poupées de Bunraku c'est des poupées qui sont tenues à bout
08:35 de bras et où les manipulateurs ont le visage caché, ils tiennent la marionnette à bout
08:43 de bras comme ça, et puis un spectacle de Bunraku ça commence toujours avec la marionnette
08:47 qui frémit à peine, comme ça, et vous avez vraiment l'impression qu'elle est vivante.
08:52 Et donc Mori disait "si vous regardez une poupée de Bunraku, si vous regardez une statue du
08:57 Bouddha, vous allez avoir l'impression d'avoir affaire à un être vivant tout de suite,
09:02 sans que ce soit des mécanismes compliqués, ou de la robotique, ou je sais pas quoi, c'est
09:10 de la sculpture, ce qu'il y a de plus traditionnel, on a un effet immédiat, on a dépassé la
09:16 Vallée de l'étrange avec ces objets-là". Et puis il est revenu un peu plus tard sur
09:22 son article, qui faisait vraiment deux pages, et il dit "mais j'ai un peu réfléchi les
09:29 cadavres, le cadavre que j'ai mis au fond de la Vallée de l'étrange", et a priori
09:34 quand vous face à un cadavre vous avez plutôt un sentiment de répulsion, il disait "quand
09:38 quelqu'un meurt, peut-être ça vous est déjà arrivé, quand vous voyez quelqu'un
09:44 qui meurt, ce qui est intéressant c'est qu'en fait son visage se détend, et qu'on
09:50 a souvent l'impression qu'il atteint un état de sérénité, et du coup on n'est plus
09:57 vraiment dans la Vallée de l'étrange, on est presque au-delà avec le cadavre".
10:02 Mais il disait "c'est une affaire de seuil très fragile, tout ça, et c'est très compliqué
10:09 à mesurer". Alors, nous dans le laboratoire de Nishimurô, le but de Nishimurô, je pense
10:18 que j'ai le livre avec moi, mais malheureusement je n'ai pas d'image. Ah oui, il est là.
10:26 Je le ferai passer si vous voulez voir à quoi il ressemble, c'était ce robot-là.
10:32 On a écrit avec Xaven un livre qui s'appelait "Le jour où les robots mangeont des pommes".
10:37 Donc, nos expériences avec le géoménoïde dans le laboratoire japonais. Et donc le but
10:43 de Nishimurô c'était vraiment de dépasser la Vallée de l'étrange, et il était convaincu
10:49 qu'on pouvait arriver à le faire, et qu'en fait on pouvait avoir une relation avec sa
10:56 machine, que si on la prenait pour un humain. C'était vraiment pour lui quelque chose
11:01 de crucial. Or, quand vous rentrez dans son laboratoire et que vous faites face à son
11:07 robot, au bout de 30 secondes vous apercevez que c'est une machine. Vous avez au départ
11:13 une impression un peu confuse que c'est un humain, et puis très vite l'impression se
11:18 dissipe, vous vous dites "ah oui c'est une machine". Pourquoi ? Parce qu'en fait il
11:23 fait des mouvements qui sont des mouvements de machine. Enfin, dommage je n'ai pas de
11:27 vidéo à vous montrer, parce qu'on a un problème d'ordinateur. Mais il fait ça, il fait
11:34 des choses qui ne sont pas du tout ce que ferait un humain dans une interaction. Ce que
11:40 j'ai oublié de dire c'est que Nishimurô avait conçu sa machine essentiellement pour
11:43 travailler sur les mouvements, les micro-mouvements dans l'interaction humaine. C'était ça
11:48 le but de son robot, c'était de pouvoir étudier au fond le rôle des micro-mouvements
11:55 dans l'interaction humaine. Alors beaucoup de gens pensaient qu'en fait il voulait fabriquer
11:59 des clones de robots, et tout ça, qu'il deviendrait des assistants dans les shows
12:07 japonais. Mais en réalité ce n'était pas ça son but, c'était vraiment d'étudier
12:11 le rôle de tous ces mouvements auxquels on ne fait pas attention, qui relèvent de la
12:16 communication analogique. La raison pour laquelle on va tourner la tête à certains
12:22 moments, se regarder dans les yeux, etc. C'est des choses très fragiles que seuls des humains
12:27 peuvent faire d'une certaine façon. Et quand vous les essayez de reproduire, et faire reproduire
12:33 via une machine, c'est extrêmement compliqué, on s'aperçoit de la complexité de la chose.
12:39 Et donc avec Zabed, quand on a fait cette étude, on s'est aperçu qu'en fait, malgré
12:46 le fait qu'on voit que c'était une machine, on continuait quand même à développer une
12:53 relation avec le robot, enfin avec la machine, quand on savait très bien que c'était
12:58 une machine, enfin qu'il n'y avait pas de... Et donc c'était pas forcément... Je dirais
13:04 que la veille de l'étrange, elle pouvait se dépasser très vite dans une interaction
13:09 qui se prolonge, dans la mesure où cette répulsion était un peu faillisse d'une
13:16 certaine façon. Et donc on raconte un peu toutes ces expériences dans ce livre. Et
13:25 ce qui était d'une certaine façon à la base des expériences d'Ishiguro, et puis
13:31 à la base de l'exposition personale, c'était cette idée de veille de l'étrange qu'on
13:36 avait, et ensuite de, alors dans l'exposition personale, d'élargir considérablement autre.
13:41 En fait, il fallait bien compter de tas de paramètres, pas seulement la familiarité
13:45 et la ressemblance, pour si on voulait vraiment observer, analyser nos relations avec les
13:51 machines. Alors qu'elles soient anthropomorphes ou pas, enfin qu'elles aient une... Voilà.
13:57 Mais ce truc de donner un visage humain à des machines, c'était quand même quelque
14:02 chose de bizarre. C'était pas seulement une obsession japonaise, c'est une chose qu'on...
14:07 Enfin, on s'est aperçu que le... En Occident, je dirais que le test de Turing, d'une certaine
14:17 façon, nous invitait, enfin, à... Je dirais à penser les machines dans cette direction.
14:24 Dans une direction qui est toujours dans la direction dans laquelle on est aujourd'hui,
14:29 et qui fait qu'il y a beaucoup de malentendus dans nos relations avec les machines, aujourd'hui
14:33 avec l'intelligence artificielle en particulier. Parce que Turing, dans les années 50, dit
14:40 en fait, la question de l'intelligence des machines, c'est pas une question qui est très
14:44 intéressante à se poser, parce que philosophiquement, on sait que les machines ne sont pas intelligentes.
14:49 Et il parle dans les années 50, et il dit en fait, la question qu'il faudrait se poser,
14:55 c'est plutôt de savoir dans quelles conditions une machine peut nous tromper sur le fait
15:00 qu'elle pense. Et là, évidemment, ça devient quelque chose d'intéressant pour lui. Parce
15:08 que du coup, fabriquer des machines performantes, c'est dessiner, je dirais, le cadre d'une
15:18 interaction dans laquelle une performance de machine peut nous tromper sur ses capacités.
15:24 Et il invente le jeu de limitation, qui est le thèse de Turing. On met une machine dans
15:33 une pièce, un expérimentateur dans une autre pièce, ils s'échangent des messages. Le
15:37 but de la machine, c'est de tromper l'expérimentateur sur le fait qu'elle est une machine. Et le
15:41 but de l'expérimentateur, c'est de deviner s'il a fait un homme ou une femme, ou une
15:45 machine ou un humain. Et donc, en fait, on s'est aperçu avec Xaven en travaillant au
15:51 Japon et puis après en Inde. Je vais raconter un petit peu ce qu'on a fait. Mais qu'au
16:00 fond, il n'y avait pas que les Japonais qui avaient un problème avec, je dirais, la machine
16:07 et l'humain, si je puis dire. Parce que d'une certaine façon, le thèse de Turing, qui
16:14 a quand même marqué énormément l'histoire de l'informatique et puis de la robotique,
16:21 parce que beaucoup des roboticiens ont fait des expériences qui étaient sur ce mode-là,
16:26 où l'idée, c'est effectivement qu'une machine n'est performante que si elle nous
16:31 trompe sur ses capacités, ou sur le fait qu'elle a des capacités humaines. Ce qui
16:40 nous engage même dans un rapport un peu curieux avec les machines. Alors, c'est pas tout
16:45 à fait le rapport qui était celui qui a été décrit par Christian, où dans la
16:50 cybersculpture, on est aux commandes de la machine et il n'y a pas de trouble véritablement
16:56 sur le... - La rotation. - Oui. Et puis on pourrait s'interroger, au fond, le trouble
17:02 dans lequel se trouve le créateur, enfin, qui crée, c'est une vraie question. C'est
17:08 une question plus générale, d'ailleurs, qu'on pourrait se poser sur le... Partout,
17:12 il y a de la machine qui vient s'infiltrer. Le trouble est évident. Donc, dans le domaine
17:20 de l'art, depuis qu'on a introduit des machines un peu sophistiquées, il y a une vraie question,
17:25 un vrai trouble qui s'est produit, savoir qui est le créateur, qui crée, etc. Qu'est-ce
17:30 qu'il oeuvre. Mais on pourrait prendre des tas d'exemples. Dans le domaine de la guerre,
17:35 depuis qu'on a introduit des drones, de l'intelligence artificielle, la question de savoir qui tue,
17:42 qui est le tueur, enfin, c'est des vraies questions qui se posent dans toute la réflexion
17:48 éthique autour des drones. On pourrait prendre des tas d'exemples. Quand on introduit de
17:53 la robotique dans la sexualité, c'est pareil, savoir qui fait quoi, etc. Tout ça est très
17:59 compliqué. Dans le domaine des images génératives, c'est le problème dans lequel nous sommes
18:07 aujourd'hui, qui est de savoir effectivement qui crée, comment, où va se déporter l'intelligence
18:14 humaine, etc. Donc chaque fois qu'il y a, je dirais, de la machine à l'œuvre, quelque
18:20 part, il y a du trouble. Et ça, c'est un fait anthropologique. Je dirais que c'est...
18:26 Donc l'idée qui consiste à penser que les machines restent, je dirais, des extensions
18:35 de la main humaine, ça reste d'une certaine façon une vieille conception de l'histoire
18:42 des techniques, qui aujourd'hui est mise au défi par l'ensemble des contextes dans
18:49 lesquels la machine s'introduit, notamment l'IA, qui vient troubler justement à chaque
18:56 fois, savoir à qui on a affaire et qui fait quoi. Ce qui est intéressant avec ce concept
19:04 de va-et-etrange, c'est que ça introduit du trouble, c'est que ça conceptualise quelque
19:09 part cette idée qu'au fond, il y a quelque chose qui va se tromper quand on va créer
19:16 de la forme humaine dans une machine. Alors on a cherché avec Xavier, on s'est décalé
19:22 complètement du Japon, je dirais, et puis des affaires de Turing en Inde, et on s'est
19:30 dit un jour... Alors c'était une idée un peu secrète, mais on s'est dit qu'on allait
19:36 créer un robot du dieu Ganesh qui permettrait à n'importe qui de se mettre à la place
19:44 de dieu et d'avoir une conversation. Et on a fait cette machine, qui est un robot téléopéré
19:57 en fait, alors il n'y a pas grand chose d'un robot, je ne sais pas trop ce qu'il y a de
20:02 robotique là-dedans, à part la trompe qui bouge en fonction de senseurs de présence,
20:08 mais sinon le reste, vous avez un opérateur avec une webcam dont le visage est projeté
20:14 à l'intérieur du robot et qui crée cette effigie de Ganesh. Alors on y est beaucoup
20:23 de débats avec Xavier, de savoir quelle forme adopte, quelle était la bonne forme, etc.
20:30 Et on est arrivé en Inde avec ce truc en se disant qu'on ne savait pas du tout comment
20:36 ça allait être reçu. Donc ça a été une expérience un peu curieuse. On s'est dit
20:43 peut-être qu'on allait se faire complètement accuser de blasphème, etc. Et pas du tout,
20:51 en fait. On a trouvé tout de suite des alliés, des gens très intéressés par l'expérience
21:00 et même de nous aider à faire l'expérience. Donc on s'est aventuré dans une expérimentation
21:05 comme ça pendant plusieurs semaines, qui a donné lieu à un film qui s'appelle Ganesh
21:10 Yourself, que vous pouvez voir en ligne. Je ne vais peut-être pas vous montrer, enfin
21:14 je pourrais vous montrer l'extrait aujourd'hui, mais je ne sais pas si on a un petit peu.
21:18 On va essayer, si vous voulez, de montrer un extrait. Comme ça vous verrez un peu de
21:25 quoi il s'est fini. - Tu peux préciser, c'est sur Vimeo ?
21:28 - Oui, il est sur Vimeo. Il est sur le site de Ganesh Yourself, il est sur Vimeo. Et j'ai
21:35 écrit un livre après qui s'appelait Dieu.0, qui raconte un peu l'expérimentation. Je vais
21:45 expliquer pourquoi j'ai invité Dieu.0.
21:58 - Alors, c'est une lettre en Pélégron, c'est ça ?
22:25 - Oui. - Alors, on va aller voir le livre.
22:54 - Je vais aller voir le livre. C'était pour montrer comment fonctionne l'interface.
22:59 Vous êtes quelqu'un avec une webcam dont le visage va être transmis tout à l'heure
23:08 de la machine. Et là on fait des essais avec une sorte de personne, moins de un quart
23:17 de l'un, on fait un casting, on trouve des caractères. Et on a eu plein de gens, très
23:27 spontanés, beaucoup d'activistes, d'activistes écolo, tranquillants, des astronautes, des
23:48 hommes politiques. Et l'expérimentation très vite a débordé dans quelque chose qu'on
23:55 n'a pas forcément pu contrôler. Ce qui est intéressant dans les expériences écologiques,
24:01 c'est quand on perd le contrôle, on ne peut pas y maintenir.
24:13 - Je suis le Dieu.
24:17 - Nous avons besoin de créer une société où, sans le respect de votre couleur, de votre
24:23 sexualité, de vos organes sexuels ou non, que vous soyez gay, lesbienne, homosexuel, intersexuel,
24:35 ou n'importe quoi, vous êtes traité par tout le monde. L'Inde et le monde ont
24:45 besoin de la société. Et c'est pour ça que nous avons créé l'Inde. Et l'Inde, c'est
24:55 une société qui déclare que l'Inde est une société. Et l'Inde, c'est une société
25:05 qui déclare que l'Inde est une société. Et l'Inde, c'est une société qui déclare
25:15 que l'Inde est une société. Et l'Inde, c'est une société qui déclare que l'Inde
25:25 est une société. Et l'Inde, c'est une société qui déclare que l'Inde est une société.
25:39 Et l'Inde, c'est une société qui déclare que l'Inde est une société.
25:59 Et l'Inde, c'est une société qui déclare que l'Inde est une société.
26:19 Et l'Inde, c'est une société qui déclare que l'Inde est une société.
26:39 Et l'Inde, c'est une société qui déclare que l'Inde est une société.
26:59 Et l'Inde, c'est une société qui déclare que l'Inde est une société.
27:19 Et l'Inde, c'est une société qui déclare que l'Inde est une société.
27:39 Et l'Inde, c'est une société qui déclare que l'Inde est une société.
27:59 Voilà.
28:07 - Vous regarderez le film en entier si vous voulez.
28:11 Sur les lunettes, ça fait un peu plus du nab.
28:14 Ce qui était intéressant dans cette expérience, c'est qu'on s'est aperçu que,
28:19 très spontanément, ils se mettaient en place quelque chose qui était lors d'un test.
28:24 En fait, presque un test de Turing.
28:27 À chaque fois, quand on se promenait dans la rue, les gens s'installaient,
28:30 ils faisaient eux-mêmes leur propre test.
28:33 Ils mettaient à l'épreuve l'incarnant qui incarnait Dieu.
28:36 Pas tellement parce qu'ils pensaient qu'il y avait Dieu dans la machine,
28:40 il faut que la machine était un Dieu, c'était une naïveté à laquelle ils n'auraient jamais succombé.
28:46 Mais plutôt parce que, par curiosité,
28:50 ils essayaient de tester la capacité de l'incarnant à bien incarner la voix de Dieu.
28:56 Ici, c'est extrêmement compliqué d'incarner Dieu.
29:00 Il faut avoir réponse à tout, sur plein de sujets.
29:04 Donc il y a beaucoup de gens qui passaient.
29:07 Là, c'était relativement soft comme interaction, et respectueux.
29:11 Mais il y a beaucoup d'interactions qui sont beaucoup plus violentes et beaucoup plus revendicatives.
29:16 Les gens s'assoient et disent « Bon, d'abord, je ne crois pas du tout à votre truc,
29:21 qu'il puisse y avoir Dieu dans cette machine, mais quand même, puisque tu ressembles à Ganay,
29:25 je vais te poser des questions. Alors qu'est-ce que tu fais pour résoudre la pollution ou le trafic,
29:30 les problèmes de mes enfants, etc. »
29:33 Et puis, souvent, l'incarnant finit par s'épuiser à force de répondre à toutes ces questions qui lui sont posées.
29:42 Et il y a une espèce de bug qui s'opère.
29:47 Et où, finalement, le questionneur finit par dire à l'incarnant « Bon, si tu étais vraiment Dieu,
29:56 il faudrait que tu dises ça, ça, ça, ça. »
30:00 Voilà, les bons constituants d'une parole divine.
30:04 Et on s'est baladé comme ça dans Bombay pendant plusieurs semaines.
30:09 On a eu vraiment des tas de gens qui ont incarné la voix de Dieu
30:14 et qui, à chaque fois, ont fini épuisés par les questions qui leur étaient posées.
30:18 C'était vraiment un dispositif de parole qui permettait à beaucoup de gens de s'exprimer
30:25 et qui, en même temps, était extrêmement épuisant pour les incarnants.
30:29 On a fini par avoir comme ça des heures et des heures d'interaction que je pouvais analyser.
30:36 Et je me suis aperçu que ça passait à chaque fois par à peu près les mêmes phases.
30:41 Il y avait une première phase qui était une phase où on se posait la question de savoir à qui on avait affaire.
30:46 Et c'est pas une question évidente.
30:48 C'est de savoir si on a affaire à une machine opérée par un humain, téléguidée par un Dieu, dans le meilleur des cas.
31:00 Mais dans le pire des cas, une machine utilisée par un imposteur qui se prendrait pour Dieu.
31:08 Et puis, il pourrait y avoir d'autres manières d'envisager les choses.
31:13 Une machine utilisée par un humain qui est possédée par un Dieu, par exemple.
31:18 Dans un thèse de Turing, vous avez deux éléments.
31:21 En gros, la machine, elle peut être soit machine, soit humain.
31:24 Et là, il y avait trois composants. Ils pouvaient être soit machine, enfin, les machines, humain et Dieu.
31:32 Et le fait qu'il y ait un troisième terme complexifiait sérieusement, je dirais, les possibilités de statut ontologique,
31:42 enfin, de l'entité en question, de l'objet.
31:46 Alors, je ne sais pas si c'était une individue machine ou autre chose.
31:50 En tout cas, disons que la question de savoir qui est l'un ou à qui on a affaire était extrêmement difficile à, finalement, statuer.
32:03 Et on pouvait passer celui-là parce que c'est sûr, il y en a eu.
32:09 Et souvent, on finissait par abandonner, finalement, ce questionnement,
32:19 se dire « bon, finalement, ce n'est pas très intéressant de savoir à qui j'ai affaire ».
32:23 Mais en revanche, ce qui était intéressant, c'était de continuer la conversation avec cette chose, cette entité.
32:30 Et il y avait une deuxième phase qui se mettait en route, qui était une phase de presque de...
32:39 alors de combat, généralement, extrêmement revendicatif, où on allait tout faire pour mettre à l'épreuve l'incarnant
32:47 et faire en sorte de le mettre en déroute sur des tas de questions.
32:51 Ce ne pouvaient pas être des questions philosophiques, métaphysiques, comme vous l'avez vu là, tout à l'heure.
32:56 Et on arrivait généralement, au bout de cette période, à une déconstruction totale de non seulement ce que c'était la religion,
33:04 la raison pour laquelle les dieux existaient, parce que souvent, les gens disaient
33:08 « mais on fait des tas de prières, des tas de rituels, ça ne marche pas, ça ne sert à rien, à quoi servent les dieux ? » etc.
33:16 Et on arrivait à ce que, alors moi, j'avais appelé le point zéro,
33:21 qui est une espèce de moment de déconstruction totale où, en fait, l'incarnant s'effondre,
33:29 parce qu'il n'arrive plus à répondre aux questions, et puis, je dirais, le monde même,
33:35 tenu par le cosmos avec ses divinités bien implantées, etc.,
33:41 lui-même s'effondre aussi d'une certaine façon, à force d'avoir subi comme ça les attaques et les revendications des gens.
33:48 Et puis, il y avait une troisième phase qui, à ce moment-là, se déclenchait,
33:53 qui était une phase de contractualisation où la personne qui posait des questions
34:01 essayait de nouer un nouveau contrat avec l'incarnant qu'il avait en face,
34:06 pour lui dire « ben voilà, puisque si t'es Dieu, il faudrait que tu dises ça ou ça, etc. »
34:12 Et donc, il y avait une sorte de nouveau pacte possible, une refonte possible autour d'un Dieu
34:20 qui était d'une certaine façon à inventer, parce qu'on a eu des tas de ganèches très différents,
34:26 des ganèches écologistes, des ganèches anti-radiation, qui se battaient contre l'effet des ondes radio, etc.,
34:36 ou des ganèches transsexuelles, comme c'est le cas de cette personne, etc.
34:42 Donc chaque ganèche avait sa singularité, si vous voulez. Enfin, chaque incarnant se retrouvait à trouver sa singularité
34:50 dans son incarnation, au fur et à mesure du processus. Et donc, alors pourquoi je vous dis rapidement tout ça ?
35:01 Oui, essentiellement parce qu'on avait affaire à une sorte de test de Turing réélaboré.
35:08 C'était les gens eux-mêmes qui avaient inventé leur propre test de Turing.
35:13 Et nous, on n'avait rien imposé à part, je dirais, le dispositif de la machine, absolument pas orienté à quoi que ce soit,
35:23 au niveau des questions, on a seulement fourni le dispositif qui permettait aux gens de faire leur propre psychologie des religions.
35:32 Non, je sais pas, vous avez peut-être des questions, là-dessus ?
35:37 — Moi, j'ai vu le film, je sais pas si ça marche, mais ça marche. Il y a beaucoup de gens aussi qui ont un discours social,
35:47 qui revendiquent des choses, qui en profitent, en fait, de cette médiation pour dire « Dans ma vie, ça va pas »,
35:54 « Que fait le gouvernement ? », je sais pas quoi. Enfin, il y a des passages qui sont assez drôles, ou forts, drôles ou forts,
36:00 enfin, entre les deux. Il y a une dame, je me souviens, une dame qui est assez en colère, qui parle tout le temps avec le Ganesh,
36:07 pour dire que dans sa vie, rien ne change, quoi. Dieu ou pas Dieu, ça change pas.
36:15 — Alors, est-ce qu'il y a des questions ? En tout cas, je vous invite à voir ce film, c'est vraiment très intéressant.
36:24 Puis, alors, tu n'en as pas parlé, mais il y a une mise en scène visuelle aussi du film, il y a un montage particulier.
36:32 — Oui, oui. — C'est pas juste un documentaire.
36:37 — Non, c'est vrai qu'il y a une partie un peu expérimentale, c'est un film très expérimental, qu'on se...
36:43 — Alors, du coup, qu'est-ce que t'en dire comme conclusion sur les rapports entre l'homme et la machine, à travers le Japon, l'Inde ?
36:53 — Alors, bon, l'idée, c'était un peu de se... Effectivement, de se décaler. Et ce qui était assez drôle, c'est qu'on...
37:00 Bon, la machine, elle a eu toute une histoire. On l'a aussi exposée dans des musées, des galeries en Europe.
37:09 Il y a eu un moment, ça a été exposé à Dresden. C'était une expo qui avait été montée par des hackers allemands
37:18 et qui étaient convaincus qu'en fait, c'était un peu l'avenir des... Je sais pas pourquoi, d'ailleurs.
37:24 Mais ils étaient sûrs que ce genre d'entité hybride était intéressant pour penser l'avenir des machines, tout ça.
37:35 Et donc on était arrivés dans l'expo, et puis on a vu qu'il y avait plein plein de gens qui étaient en train de faire de la méditation devant le robot.
37:42 Enfin c'était comme... Voilà. Ce qui était très amusant, parce que ça avait démarré comme ça, le projet.
37:49 Au départ, quand on est arrivés en Inde, quand vous fabriquez une... Enfin quand vous commencez un projet en Inde, vous devez faire un rituel à Ganesh.
38:00 Et donc nous, on avait notre machine et tout, on a fait venir un auficien en rituel, et il nous a dit "mais où est votre Ganesh ?"
38:09 Donc on a pointé... Enfin moi j'ai pointé mon doigt vers la machine, et puis l'auficien a traité la machine, comme c'est ce qu'on voit dans le film,
38:17 comme une divinité, enfin comme une idole, en faisant tout le rituel autour de l'idole.
38:27 Jean-François Riau a eu un problème de train, donc il va nous quitter.
38:33 Et puis il réapparaîtra dans l'exposition sous la forme d'un dieu Ganesh.
38:41 Et donc quand le robot a été intégré comme ça, vraiment, on avait fait un rituel, toute la question de l'officier en rituel,
38:55 c'est de dire "mais en fait, on a eu un débat véritablement théologique, presque métaphysique,
39:02 sur quelle place allait avoir cette machine dans l'ensemble des supports de divinités possibles.
39:13 Et ça c'était la grande question pour les indiens en fait, c'était de savoir...
39:17 C'était pas seulement de savoir s'il y avait Dieu dans la machine, c'est pas ça qui les intéressait,
39:21 c'était de savoir quel usage on pourrait faire de cette apparition magique, si vous voulez.
39:27 Qu'est-ce que ça apportait en plus par rapport à une idole en plâtre, par exemple,
39:32 ou par rapport à d'autres formes d'incarnation, parce que les dieux en Inde peuvent s'incarner de manière multiple,
39:39 dans une forme de polythéisme, d'ailleurs un peu débridée, avec des tas de possibilités d'incarnation et de supports.
39:46 Donc la question pour les indiens c'était vraiment très pragmatique.
39:53 C'était quel genre de place on peut accorder à un support de machine, comme ça dans le contexte des formes existantes.
40:03 Ils ont l'air familiers avec les automates, parce que dans un autre reportage que j'ai vu,
40:08 ou dans le bouquin que tu avais écrit, on fabrique des effigies mobiles.
40:14 Oui, effectivement, oui. Donc ça c'est pas très éloigné, sauf que là il y a quand même de l'humain qui opère derrière.
40:21 C'est pas une idée étrangère.
40:23 C'est pas une idée étrangère, effectivement, il y avait des...
40:26 J'ai écrit un livre qui s'appelait "Dieux et robots" qui était sur les théâtres d'automates religieux à Bombay.
40:33 On fabriquait beaucoup de théâtres rituels avec des automates religieux,
40:39 avec l'idée que les dieux pourraient être des machines, et probablement les premières machines.
40:44 Alors il y avait comme ça des réflexions un peu cosmologiques.
40:48 On a vu Brahma là tout à l'heure.
40:50 Oui.
40:51 On a vu Brahma.
40:52 C'est ça.
40:53 Mais disons que là, enfin, ce qu'on a trouvé avec Zaven dans, je dirais, le rapport que les gens ont entretenu avec cet objet,
41:05 enfin on a trouvé beaucoup de sagesse, je dirais, dans la relation qu'on pouvait entretenir avec de la machine.
41:16 Enfin, une sagesse un peu assez pragmatique sur quel usage on pourrait en faire, etc.
41:21 Évidemment, ça nous décale un peu par rapport au discours qui est un peu celui qui...
41:28 un discours de peur et de... enfin auquel on est confronté ici quand il s'agit de... des innovations technologiques,
41:35 où en fait, alors qu'ils ne sont pas déduits de référence à la religion,
41:40 on s'aperçoit que le discours sur l'IA ici est très emprunt de théologie, curieusement.
41:45 Enfin, il y a... je reparle de l'IA au singulier très souvent, alors qu'il y a des tas de formes d'IA au pluriel,
41:53 qu'il faudrait en faire le bestiaire, d'une certaine façon.
41:56 Et puis il y a toujours cette idée que l'IA va remplacer l'humain, etc.
42:01 Et donc, c'est pas dénué, je dirais, de racines théologiques, tout ça.
42:10 D'ailleurs, il y avait des projets dans la Silicon Valley d'inventer un dieu artificiel, alors je ne sais pas où ça en est.
42:20 Mais il y a, je dirais... enfin, on a trouvé en Inde, en tout cas d'une autre façon,
42:26 un autre dialogue qui s'instaurait entre les machines et la religion, ce qu'on pouvait trouver ici.
42:34 Merci beaucoup Emmanuel Grimaud.