L'hybridation de l'homme et de la machine est en marche, elle est certes aujourd'hui spectaculaire du fait des manipulations bio-technologiques, notamment sur le cerveau, de la révolution numérique avec une intelligence artificielle omniprésente et quasi omnisciente et des progrès considérables dans les neurosciences. Mais cette hybridation vient de loin, elle est concomitante des avancées de l'humanité pour affranchir Homo-sapiens d'un état de nature pour en faire un sujet sachant et faisant, réfléchissant et s'autonomisant des contraintes naturelles par la science, les techniques, l'IA mais aussi par la lecture, l'écriture et l'esprit de raison.
Seulement, si cela a permis une transition de la préhistoire à l'histoire, est-ce que nous ne sommes pas en train de brouiller cette histoire pour un post-humanisme, une post-modernité où le réel et le virtuel deviennent indistincts ? Autrement dit, en nous hybridant à la machine, serons-nous des sujets augmentés, des sujets réparés, des sujets transformés voire robotisés ? Nous essaierons dans un premier temps d'évaluer les progrès enregistrés sur le cerveau comme pour les mobilités améliorées, avant d'en évaluer certains risques qui se profilent et d'établir in fine une grille de protection pour éviter que les progrès de la science ne viennent passer alliance avec une robotisation déshumanisante.
Émile Malet reçoit :
- Raphaël Gaillard, psychiatre et chef de service au centre hospitalier Sainte-Anne, membre de l'Académie française, écrivain,
- Laurent Alexandre, médecin, entrepreneur, écrivain, chroniqueur,
- Patrick Guyomard, philosophe, psychanalyste à la SPF, professeur des Universités,
- Catherine Pelachaud, informaticienne, directrice de recherches au CNRS,
- Jean-Michel Besnier, philosophe, professeur des Universités.
Présenté par Emile MALET
L'actualité dévoile chaque jour un monde qui s'agite, se déchire, s'attire, se confronte... Loin de l'enchevêtrement de ces images en continu, Emile Malet invite à regarder l'actualité autrement... avec le concours d´esprits éclectiques, sans ornières idéologiques pour mieux appréhender ces idées qui gouvernent le monde.
Abonnez-vous à la chaîne YouTube LCP - Assemblée nationale : https://bit.ly/2XGSAH5
Suivez-nous sur les réseaux !
X (ex-Twitter) : https://x.com/lcp
Facebook : https://fr-fr.facebook.com/LCP
Threads : https://www.threads.net/@lcp_an
Instagram : https://www.instagram.com/lcp_an/
TikTok : https://www.tiktok.com/@LCP_an
Newsletter : https://lcp.fr/newsletter
Retrouvez-nous sur notre site : https://www.lcp.fr/
#LCP #assembleenationale #Politique
Seulement, si cela a permis une transition de la préhistoire à l'histoire, est-ce que nous ne sommes pas en train de brouiller cette histoire pour un post-humanisme, une post-modernité où le réel et le virtuel deviennent indistincts ? Autrement dit, en nous hybridant à la machine, serons-nous des sujets augmentés, des sujets réparés, des sujets transformés voire robotisés ? Nous essaierons dans un premier temps d'évaluer les progrès enregistrés sur le cerveau comme pour les mobilités améliorées, avant d'en évaluer certains risques qui se profilent et d'établir in fine une grille de protection pour éviter que les progrès de la science ne viennent passer alliance avec une robotisation déshumanisante.
Émile Malet reçoit :
- Raphaël Gaillard, psychiatre et chef de service au centre hospitalier Sainte-Anne, membre de l'Académie française, écrivain,
- Laurent Alexandre, médecin, entrepreneur, écrivain, chroniqueur,
- Patrick Guyomard, philosophe, psychanalyste à la SPF, professeur des Universités,
- Catherine Pelachaud, informaticienne, directrice de recherches au CNRS,
- Jean-Michel Besnier, philosophe, professeur des Universités.
Présenté par Emile MALET
L'actualité dévoile chaque jour un monde qui s'agite, se déchire, s'attire, se confronte... Loin de l'enchevêtrement de ces images en continu, Emile Malet invite à regarder l'actualité autrement... avec le concours d´esprits éclectiques, sans ornières idéologiques pour mieux appréhender ces idées qui gouvernent le monde.
Abonnez-vous à la chaîne YouTube LCP - Assemblée nationale : https://bit.ly/2XGSAH5
Suivez-nous sur les réseaux !
X (ex-Twitter) : https://x.com/lcp
Facebook : https://fr-fr.facebook.com/LCP
Threads : https://www.threads.net/@lcp_an
Instagram : https://www.instagram.com/lcp_an/
TikTok : https://www.tiktok.com/@LCP_an
Newsletter : https://lcp.fr/newsletter
Retrouvez-nous sur notre site : https://www.lcp.fr/
#LCP #assembleenationale #Politique
Category
🗞
NewsTranscription
00:00Générique
00:02...
00:23Bienvenue dans ces idées qui gouvernent le monde.
00:26L'homme-machine.
00:28L'hybridation de l'homme et de la machine est en marche.
00:32Elle est certes aujourd'hui spectaculaire
00:34du fait des manipulations biotechnologiques,
00:37notamment sur le cerveau,
00:39de la révolution numérique avec une intelligence artificielle
00:43omniprésente et quasi omnisciente,
00:46et des progrès considérables dans les neurosciences.
00:50Mais cette hybridation vient de loin.
00:52Elle est concomitante des avancées de l'humanité
00:55pour rafranchir Homo sapiens
00:58d'un état de nature
01:00pour en faire un sujet sachant et faisant,
01:03réfléchissant et cherchant à s'autonomiser
01:07des contraintes naturelles par la science,
01:10les techniques, l'intelligence artificielle,
01:13mais aussi par l'écriture, la lecture et l'esprit de raison.
01:18Seulement, si cela a permis une transition
01:21de la préhistoire à l'histoire,
01:23est-ce que nous ne sommes pas en train de brouiller cette histoire
01:27par un post-humanisme, une post-modernité
01:30où le réel et le virtuel deviennent indistincts ?
01:34Autrement dit, en nous hybridant à la machine,
01:38serons-nous des sujets augmentés,
01:40des sujets réparés, des sujets transformés,
01:44voire des sujets robotisés ?
01:47Nous essaierons dans un premier temps
01:49d'évaluer les progrès enregistrés sur le cerveau,
01:52comme au niveau des mobilités améliorées,
01:55avant d'en évaluer certains risques
01:58qui se profilent et d'établir, in fine, une grille de protection
02:02pour éviter que les progrès de la science
02:05ne viennent passer alliance
02:07avec une robotisation déshumanisante.
02:10Avec mes invités que je vous présente,
02:13nous allons chercher à trier le bon grain de l'ivraie.
02:17Raphaël Gaillard, vous êtes psychiatre,
02:19chef de service au Centre hospitalier Saint-Anne.
02:23Vous êtes également membre de l'Académie française et écrivain.
02:27Laurent Alexandre, que nous avons en visioconférence,
02:31vous êtes médecin, entrepreneur, écrivain, chroniqueur.
02:36Merci d'être en visioconférence avec nous.
02:38Patrick Guyomart, vous êtes philosophe,
02:41psychanalyste à la SPF et professeur des universités.
02:45Catherine Pellachot, vous êtes informaticienne,
02:49directrice de recherche au CNRS.
02:52Jean-Michel Beignet, vous êtes philosophe
02:55et professeur des universités.
02:58Avant de commencer ce débat,
03:00nous allons voir un échange
03:02entre Cédric Villani, député,
03:06et le docteur Nordlinger.
03:08C'était une table ronde à l'Assemblée nationale
03:10le 21 février 2019.
03:14Nous allons aller un peu plus dans le coeur du sujet
03:19avec les allers-retours
03:21entre usage et finalité médicale,
03:25diagnostique, thérapeutique
03:28de la collègue des données de santé, Bernard Nordlinger,
03:31chirurgien oncologue à l'hôpital Ambroise-Paret,
03:35membre de l'Académie nationale de médecine.
03:37La santé est de toute évidence
03:40un des principaux domaines d'application
03:41de l'intelligence artificielle et des données,
03:43que c'est absolument irréversible
03:46et qu'il va donc falloir faire avec.
03:48Et avant d'aborder un sujet
03:51ou d'insister sur une question qui a déjà été abordée,
03:54c'est que ça pose avant tout un défi de la confiance.
03:57Il ne suffit pas d'avoir des réalisations techniques.
03:59Il faut que nos concitoyens aient la confiance
04:02et que c'est un problème qui se pose
04:03avec un certain nombre de fantasmes
04:06qui s'expriment dans les médias,
04:09que l'intelligence artificielle ferait courir le risque
04:14que les ordinateurs ou les algorithmes
04:16prennent la main et réduisent en esclavage le cerveau humain.
04:21Alors, Raphaël Gaillat,
04:22au nom d'écouter cet échange au Parlement,
04:26L'homme augmenté, c'est d'ailleurs le titre
04:29de votre dernier ouvrage,
04:31abordant, pour commencer, l'ex-croissance
04:34des compétences de cet homme augmenté.
04:37Oui ou non ?
04:39Est-ce qu'on peut accroître dans l'absolu
04:42les capacités de mémoire ?
04:44Et est-ce qu'on peut remédier à cette détérioration de la mémoire
04:49qui vient avec l'âge ?
04:51Avec, évidemment, tous les moyens informatiques.
04:54Commençons par la deuxième partie de votre question,
04:57qui est celle du remède et donc de la réparation.
05:00Je crois qu'il faut d'abord dire
05:01que ces technologies sont développées pour soigner
05:04et c'est leur première intention, c'est leur premier but.
05:07D'ailleurs, il faut dire que l'invention
05:10des techniques de stimulation cérébrale profonde
05:12est une invention française,
05:14on la doit à un neurochirurgien grenoblois,
05:16et c'est un traitement aujourd'hui qui a bénéficié
05:19à quelques 200 000 patients dans le monde
05:21dans la maladie de Parkinson.
05:23Donc c'est avant tout des techniques de soins
05:25qui permettent de soigner, nous pourrions dire réparer.
05:28La difficulté tient au fait que la frontière
05:31entre réparation et augmentation, elle est difficile à établir
05:35et que pour certains, l'objectif n'est clairement pas
05:38la réparation, mais l'augmentation.
05:40Elon Musk, lorsqu'il crée Neuralink,
05:43évidemment aujourd'hui, implante des patients,
05:46qu'il appelle d'ailleurs des users, donc des utilisateurs,
05:49qui sont étraplégiques pour leur permettre
05:51de récupérer une forme de motricité,
05:53mais son objectif, c'est bien l'augmentation.
05:55Est-il possible d'augmenter des facultés ?
05:58Oui, il est possible d'augmenter des facultés,
06:00mais précisons d'emblée que cette augmentation,
06:03elle est élective, c'est-à-dire que vous pouvez augmenter
06:07les facultés correspondant au site de l'implantation.
06:10Votre implant permettra d'augmenter l'activité cérébrale,
06:16les fonctions cérébrales qui sont voisines de cet implant.
06:19Et pas ce qui se passe à 10 cm, notre cerveau,
06:21c'est 85 milliards de neurones
06:23qui chacun échangent de façon extrêmement complexe
06:26et il n'y a pas un port USB dans le cerveau
06:28qui fait que quand vous êtes dans le cerveau,
06:30vous accédez à l'ensemble du cerveau.
06:32Donc l'augmentation par un implant cérébral,
06:35elle n'est pas globale, elle est élective.
06:37C'est intéressant, puisque ça signifie
06:39que si demain nous augmentons l'homme par des implants cérébraux,
06:42eh bien ce sera au travers d'ultra-compétences
06:45et non pas d'une augmentation globale de l'homme,
06:48alors que notre vision de l'homme,
06:50celle de la Renaissance, c'est celle d'une forme d'équilibre,
06:53l'homme de Vitruve dans un cercle, dans un carré,
06:56quelque chose qui est équilibré de notre vocation
06:58quand nous nous enseignons, quand nous éduquons nos enfants,
07:02c'est de créer une forme d'harmonie.
07:03Cette augmentation est une rupture de l'harmonie de l'homme.
07:07Merci.
07:08Laurent-Alexandre, sur ce plateau,
07:10nous avions un biologiste à l'improchéance,
07:13pour ne pas le citer,
07:14qui disait que la capacité de mémorisation du cerveau
07:18resterait limitée.
07:20Est-ce que vous pensez, vous, qu'on peut l'augmenter ?
07:25Nous n'avons pas de technologie aujourd'hui
07:27pour augmenter nos capacités de mémorisation
07:30ni nos capacités intellectuelles.
07:32Donc, les travaux menés par Elon Musk,
07:35pour l'instant, comme le disait le professeur Gaillard,
07:37s'appliquent à la réparation
07:39et non pas à l'augmentation du cerveau.
07:43Est-ce qu'Elon Musk peut,
07:45en investissant beaucoup de milliards de dollars,
07:48trouver des technologies d'augmentation électronique ?
07:51Moi, je n'en suis pas persuadé.
07:52Il faut bien comprendre qu'il y a une deuxième voie
07:55qui est envisagée pour augmenter les cerveaux,
07:58c'est la sélection embryonnaire
08:00et la manipulation génétique des embryons,
08:03et qui est une technologie, je trouve,
08:05encore plus bouleversante
08:06que l'augmentation cérébrale envisagée par Elon Musk
08:10avec ses implants Neuralink.
08:12Il faut savoir qu'un sondage
08:14réalisé par la grande revue scientifique américaine Science
08:18a montré que 38 % des Américains
08:20souhaitaient utiliser la sélection embryonnaire des embryons
08:24pour avoir un bébé plus intelligent
08:25de manière à ce qu'il soit compétitif
08:28à l'ère de l'intelligence artificielle.
08:29Et dans le même sondage,
08:3128 % des Américains souhaitent manipuler l'ADN de leur bébé
08:35pour ce faire.
08:36D'ailleurs, une entreprise américaine
08:38a lancé le mois dernier un kit de séquençage ADN
08:42assez cher, à 50 000 dollars,
08:45et pour ce prix-là, on vous fabrique
08:47quelques dizaines d'embryons
08:48à partir de vos spermatozoïdes et de vos ovules.
08:52On séquence l'ADN en éprouvette
08:55de tous les futurs bébés, de tous les embryons.
08:58On analyse le quotient intellectuel probable futur
09:02de ces embryons,
09:04et on vous laisse choisir le bébé que vous souhaitez implanter
09:09et qui deviendra le plus intelligent
09:11ou l'un des plus intelligents de l'ensemble des bébés
09:14que vous avez fabriqués en éprouvette pour 50 000 dollars.
09:17Ces technologies, de mon point de vue,
09:19sont encore plus bouleversantes
09:21que les technologies envisagées par Neuralink.
09:23Patrick Guillaumard, qu'en pense-t-il ?
09:25Le psychanalyste...
09:27Parce que quand vous avez un patient sur un divan,
09:31vous faites travailler sa mémoire.
09:33Oui, le psychanalyste est évidemment très intéressé par tout ça.
09:36Freud disait, au début de son travail, de sa pratique,
09:40que la mémoire enregistrait tout,
09:43que nous nous souvenions de tout.
09:44Il a même pensé que la guérison,
09:47c'était la capacité de retrouver la totalité de ses souvenirs.
09:51L'accessibilité, évidemment,
09:53de ne pas être envahi comme par un raz-de-marée
09:55de la totalité de la mémoire,
09:57mais de la retrouver.
09:59Cette idée s'est un peu perdue ou s'est un peu éloignée.
10:04Comme clinicien, je dois dire à ma grande surprise,
10:08je constate, dans bien des cas,
10:10que cette capacité de mémoire existe.
10:12Je retrouve des patients de 50, de 60 ans
10:15retrouver des souvenirs d'enfance ou des souvenirs traumatiques
10:19qui étaient inaccessibles, séparés, éloignés.
10:22Donc, avant de penser à une augmentation artificielle,
10:27il faut aussi réfléchir à ce qui est inscrit, ce qui se conserve,
10:30même si c'est refoulé, écarté, etc.
10:32Ce que je trouve intéressant dans ce débat
10:36et dans ces questions, c'est que ça nous oblige
10:39à repenser l'humain dans son ensemble,
10:42mais, au fond, à partir d'idées assez familières.
10:45L'homme a toujours été augmenté.
10:48L'homme a toujours été hybride.
10:50Guérir n'a jamais été réparé.
10:53Ça a toujours été augmenté.
10:54Freud pensait que la guérison, c'était ce souvenir.
10:58Mais la pratique montre absolument le contraire.
11:01On ne peut pas intégrer un traumatisme sans y faire face,
11:04sans être profondément transformé.
11:07Donc, nous sommes obligés de réfléchir
11:10aux liens entre tous ces éléments,
11:12guérir, réparer, augmenter, modifier, hybrider, changer.
11:17Et ça, je trouve ça absolument passionnant.
11:19Mais ça nous oblige à repenser ce qu'est l'humain,
11:23c'est-à-dire l'humanisation.
11:25Et dans ces éléments,
11:27il y a quand même quelque chose d'essentiel.
11:30C'est le référent,
11:32mais le référent au sens de la personne qui parle,
11:35qui peut expliquer ce qui se passe,
11:37qui peut rendre compte avec qui on peut dialoguer.
11:40Donc, la question de l'intelligence artificielle,
11:42je vais un peu trop vite,
11:44c'est la question de la possibilité ou de l'impossibilité du dialogue.
11:48C'est-à-dire quelqu'un qui dit pourquoi vous faites ça,
11:51qu'elle sent ça, qu'est-ce que vous voulez,
11:53à quoi ça sert, ces éléments fondamentaux.
11:55Oui, Jean-Michel Beignet, qu'est-ce que vous en pensez ?
11:58Écoutez, que vous posiez la question de la mémoire d'emblée
12:02me semble intéressant et en même temps symptomatique,
12:08parce que les techniques, d'une manière générale,
12:11c'est McLuhan qui disait ça autrefois,
12:13les techniques ont toujours eu,
12:17pour ambition, d'externaliser l'humain.
12:20Et il ajoutait, mais finalement, dans leur devenir,
12:23on s'aperçoit que c'est pas externaliser l'humain qu'elles veulent,
12:29mais c'est finalement l'expulser.
12:31Expulser l'humain.
12:32Toutes les technologies
12:34sont des entreprises d'externalisation de la mémoire.
12:38L'écriture est le premier grand exemple
12:43que Platon avait commenté
12:48en invoquant le fameux mythe de Teut,
12:52avec cette idée que l'écriture allait décharger l'homme,
12:58l'humain, de ce souvenir
13:01et allait lui faire perdre son âme,
13:03puisque l'âme est associée étroitement à la mémoire.
13:07Mais quand on parle aujourd'hui d'intelligence artificielle,
13:12on suppose finalement que cette mémoire proprement humaine,
13:18elle soit finalement superflue.
13:22Si la singularité projetée par Hayek-Wurzweil avait lieu,
13:27elle consacrerait effectivement une espèce de présentisme
13:31chez les humains,
13:33qui seraient seulement préoccupés du présent.
13:36Et nous n'aurions plus que faire du passé
13:41et nous pourrions finalement nous débarrasser également
13:45de la préoccupation du futur.
13:47Donc si nous parlons en termes d'utopie,
13:51l'homme-machine, c'est la défaite de la mémoire,
13:54c'est la défaite de tout ce qui relève
13:57de la fonction symbolique de l'humain.
13:59La vie intérieure n'a pas de sens
14:02si l'intelligence artificielle prédomine.
14:06Et sans vie intérieure, que ferions-nous de la mémoire ?
14:10Donc je crois que si nous inscrivons notre discussion
14:16sous le signe de la mémoire,
14:18eh bien finalement,
14:21nous allons très vite tomber sur cette aporie.
14:26Des machines qui développent des automatismes
14:30sont par définition des machines
14:33pour lesquelles le passé n'a aucun intérêt, n'a pas de sens.
14:37Et si nous nous hybridons avec ces machines,
14:40eh bien nous...
14:44nous liquidons purement et simplement cette question de la mémoire.
14:47Et nous reviendrons tout à l'heure sur la question du dialogue,
14:49parce qu'elle est effectivement également...
14:52Vous êtes sceptique, Raphaël, là-dessus ?
14:55Oui, parce que je pense que la...
15:01Ce qui est fascinant avec l'intelligence artificielle
15:05et la façon dont émerge une forme d'intelligence,
15:08parce que je pense qu'il est question d'une forme d'intelligence
15:11émergeant d'un réseau de neurones,
15:13c'est justement qu'il existe une histoire.
15:16Un réseau de neurones, c'est une imitation de notre cerveau.
15:21Ça a été pensé dès les années 1950,
15:23mais il fallait la puissance de calcul que nous avons aujourd'hui.
15:26Et donc ça procède un peu de la même façon que nos neurones fonctionnent,
15:30en renforçant leurs connexions, les affaiblissant, etc.
15:33Les couches superficielles de notre cerveau.
15:34Encore faut-il l'éduquer, c'est-à-dire qu'il est une histoire.
15:38Et ce que consacre l'intelligence artificielle,
15:41surtout les derniers modèles,
15:42ceux qui sont devenus intelligents par la rencontre du langage,
15:47et notamment de la lecture,
15:49c'est justement que, traversée par l'histoire,
15:53celle des hommes,
15:54celle de ce que tous les hommes ont écrit
15:57ou tout ce qui témoigne de l'écriture par les hommes,
16:03ou des hommes par l'écriture, plus exactement,
16:06il en reste quelque chose, c'est un réseau de neurones
16:09qui a une conformation particulière,
16:11qui est le témoin de cette histoire et qui a une forme d'intelligence.
16:14Et j'ajoute un point, c'est que, précisément,
16:17la grande particularité de cette intelligence artificielle,
16:20les dernières en datent,
16:21non seulement elles ont été rendues intelligentes par le langage
16:26et pas par la reconnaissance des formes,
16:28comme dans mon champ, par exemple,
16:30reconnaître un névus versus un mélanome,
16:33c'était ça avant en médecine, l'intelligence artificielle,
16:36pour les dermatologues, là, c'est vraiment le langage,
16:38mais justement, notre échange avec cette intelligence artificielle,
16:42il est de l'ordre du dialogue.
16:44Donc c'est une rencontre par le dialogue.
16:47Et donc, il y a une histoire et il y a un dialogue.
16:49Catherine Pellachaud, sur ce sujet, qu'est-ce que vous en pensez ?
16:53Donc moi, je suis informaticienne,
16:55c'est vrai que je vais prendre ce point de vue-là.
16:57Donc, il y a des modèles pour faire un modèle de mémoire,
17:01maintenant, avec les dernières avancées de l'IA,
17:06mais je pense que la mémoire,
17:09ce n'est pas simplement un amas de connaissances.
17:13Il y a nos émotions qui influent sur notre mémoire,
17:20sur la sélection de ce qu'on va retenir.
17:23L'intelligence aussi, c'est aussi l'intelligence sociale.
17:26Donc, gérer les autres, gérer les dialogues, etc.
17:30Et là, il me semble que l'IA a encore énormément de pas à faire.
17:34L'IA sait emmagasiner des connaissances,
17:36c'est absolument incroyable.
17:38Il sait aussi les sortir.
17:41Parfois, il fait encore beaucoup d'erreurs,
17:43mais il commence de plus en plus à être étonnant
17:48de ce qu'il peut promettre.
17:51Par contre, il y a tous les autres aspects
17:53qui sont absolument...
17:55Notre voix intérieure,
17:57je ne suis pas sûre du tout que ce soit intéressant de le modéliser.
18:01L'IA est un outil, et je pense qu'il faut le voir aussi comme cela.
18:06Oui, alors, Patrick Guillaumard,
18:07vous avez vu, il y a là une nuance dans les propos
18:12de Raphaël Gaillard et de Jean-Michel Besnier.
18:16Est-ce qu'à votre avis, on peut entretenir un dialogue
18:20avec l'intelligence artificielle ?
18:22Sûrement, puisque c'est comme ça qu'on nous la présente.
18:26Simplement, il faut se demander ce qu'on appelle dialogue.
18:31Le mot d'altérité, c'est le même mot qu'altération.
18:37Donc, toute rencontre avec une altérité,
18:43quelle qu'elle soit,
18:45pose la question de l'altération dans le meilleur et dans le pire,
18:49c'est-à-dire de la transformation, de l'amélioration,
18:52mais en même temps, de la dégradation, de la folie, de la dissociation.
18:55Donc, on voit bien que si on a une attitude,
18:58je ne dirais pas ouverte, mais disons accueillante,
19:02à ce type de progrès,
19:04si on réfléchit, on pense automatiquement
19:06l'essentiel de l'humain dans son rapport à l'altérité,
19:11dont, comme vous le disiez, le premier élément, c'est la parole.
19:14Un enfant à qui on ne parle pas, il ne parlera jamais.
19:17C'est une vieille question humaine
19:19qui a été posée de façon aussi dramatique.
19:22Au XVIIIe, on a essayé d'isoler des enfants,
19:24de ne pas leur parler.
19:26Et s'ils ne parlent pas, ils finissent par mourir ?
19:30Pas forcément, mais il y a leur humanité
19:33qui se défait, qui se dégrade, qui se décompose.
19:36Leur humanité, c'est-à-dire leur capacité de dialogue,
19:39de réception avec les autres.
19:41Et donc, ce que je trouve paradoxal,
19:43c'est que ni l'intelligence ni la mémoire ne sont des facultés.
19:49Ce sont des composantes de l'humain.
19:51On ne peut pas dire qu'on veut augmenter la mémoire
19:53comme on achète un outil.
19:55On ne peut pas dire qu'on veut augmenter l'intelligence
19:58en faisant ça. L'intelligence peut s'altérer,
20:00elle peut rendre fou parce qu'on pense trop.
20:02La mémoire, il y a une hypermésie, on se souvient de trop.
20:05Ce ne sont pas des facultés qu'on peut augmenter, soustraire.
20:09Ca conduit automatiquement à la question
20:13des conditions du dialogue dans lesquelles ça a été transmis
20:17et ça se développe.
20:18Donc, je pense qu'il faut prendre
20:21la question de l'intelligence artificielle
20:25comme un élément supplémentaire
20:27dans ce qui se présente comme l'environnement humain,
20:31mais pas comme un élément qui transformerait
20:33à jamais irréductiblement cet environnement.
20:37Sinon, on tombe dans une impasse. Il est bien clair
20:40qu'il y a des personnes, des régimes politiques, des mouvements
20:43qui veulent que l'intelligence artificielle
20:45transforme définitivement l'environnement humain.
20:47Il y a des éléments de pouvoir, des éléments financiers, etc.
20:51C'est pas comme ça que ça se passe.
20:52J'ai vu que vous n'étiez pas tout à fait d'accord
20:55sur le dialogue avec l'intelligence artificielle.
20:58Mais est-ce que vous croyez qu'aujourd'hui,
21:01tout le monde a un outil informatique
21:04et c'est une forme de dialogue avec lui ?
21:06C'est un abus de langage extraordinaire
21:09que de parler de dialogue avec une machine.
21:12C'est confondre deux concepts qui sont, à mon avis, fondamentaux.
21:17C'est confondre le signe et le signal.
21:20Dans un dialogue, nous échangeons des signes.
21:24J'aimais un message à votre direction
21:27et vous restituez un autre message,
21:31porteur de signe.
21:34Si j'aimais un signal, par contre,
21:38je ne m'attends pas forcément à ce que vous répondiez
21:42par un signal, mais par un comportement.
21:45Le signal, c'est un élément
21:48qui appelle une réaction comportementale.
21:51Un signe, c'est un message qui appelle un autre signe.
21:56Nous dialoguerons lorsque nous échangerons des signes.
21:59L'intelligence artificielle veut que nous confondions les deux,
22:03traitement du signal et échange de signes.
22:07C'est une imposture.
22:08C'est une imposture complète qui témoigne bien
22:10d'une espèce de choix
22:14en faveur d'une mécanisation de l'humain.
22:17Plus nous mécaniserons l'humain,
22:20moins nous aurons besoin qu'il requière des signes
22:25et les signaux lui suffiront amplement.
22:29Nous ne dialoguerons pas avec Siri
22:33ou avec Alexa ou avec Elisa.
22:36Nous ne dialoguerons pas.
22:38Nous sommes dans une farce, dans un simulacre.
22:42Mais un simulacre qui est efficace.
22:45Et c'est son efficacité qui nous le fait retenir.
22:50Mais cette efficacité, elle est au prix, encore une fois,
22:53de cette élimination de l'humain,
22:56telle que Patrick Guillemard l'évoquait tout à l'heure
22:59en disant que non, nous ne sommes pas une entité
23:02qui supporte des facultés susceptibles d'être abstraites,
23:07susceptibles d'être manipulées.
23:09Nous sommes un tout, un tout indissociable.
23:14Ce qui nous caractérise en tant qu'humains,
23:17c'est que nous ne sommes pas univoques.
23:19Nous sommes ambivalents, nous sommes équivoques, par définition.
23:23Nous fonctionnons avec de l'approximation,
23:28ce qui, évidemment, répugne à l'approche techniciste de l'humain,
23:34qui, encore une fois, nous voue, de plus en plus,
23:39à éliminer le fondamental en nous,
23:43c'est-à-dire le symbolique, et ce qui relève de...
23:46Alors, Laurent Alexandre, je vais vous donner la parole.
23:50Je prends juste une réaction de Raphaël Gaillard sur le sujet
23:53et on prolongera la discussion avec vous.
23:56Je suis heureux d'avoir la réponse de Laurent Alexandre,
23:59mais moi, ça me semble un peu abstrait.
24:01Alors, d'abord, si vous me permettez,
24:04Siri, Alexa, ça date un petit peu.
24:06Et ensuite, je voudrais ajouter un point,
24:09enfin, deux points, pour les cliniciens que nous sommes.
24:12Nos patients nous prêtent beaucoup plus que ce que nous avons.
24:15Ça, c'est l'exercice de la psychiatrie, de la psychanalyse.
24:20Ils nous prêtent beaucoup plus que ce que nous avons
24:22et nous prêtent un savoir que nous n'avons pas.
24:24C'est exactement ce que nous observons dans les échanges,
24:27non pas avec Alexa, mais avec la GPT.
24:29J'ai raconté un jour l'histoire de cette patiente
24:32qui vient me voir comme ayant eu une sorte d'épiphanie,
24:36me disant, je discutais hier avec mon chat
24:39et j'ai enfin compris pourquoi, dans cette famille,
24:41les femmes n'ont pas leur place.
24:43C'est toute l'histoire du protestantisme,
24:45le problème de la Vierge Marie.
24:47Je lui ai tout de suite dit, j'ai rien compris,
24:50je n'avais pas compris qu'elle délirait, qu'elle est psychotique.
24:53Non, pas du tout. Mon chat, c'était le chat de GPT.
24:56Elle avait discuté toute la soirée avec le chat de GPT
24:59et il y avait eu une forme de maïeutique,
25:01celle qu'évoque Patrick Guillaumard.
25:03Il y avait eu quelque chose qui s'était passé en elle,
25:06une hybridation, une altération,
25:08et elle avait compris les choses.
25:10Évidemment, nous l'avons repris différemment,
25:13mais vous voyez bien que l'altérité y était
25:15et on n'est pas dans le signe, on est dans le symbole,
25:18on est dans quelque chose qui change chez une patiente.
25:21On est dans, en fait, l'hybridation
25:23qui caractérise les êtres humains.
25:25Je ne crois pas que l'humain s'appauvrisse.
25:28Il s'étoffe de toutes sortes de choses,
25:30au point, peut-être, vous avez raison,
25:32de devenir fou, parfois.
25:34Laurent Alexandre, je vais vous demander
25:36votre avis sur ce débat sur la mémoire,
25:39mais je voudrais prolonger le débat
25:42avec une question
25:44que je me suis personnellement posée.
25:50En matière de mobilité,
25:52les Jeux olympiques ont été suivis
25:54par les Jeux para-olympiques.
25:57Et on a vu des performances considérables
26:00d'athlètes qui étaient fortement amputés.
26:04Comment s'opère l'ajustement techno-psychique ?
26:08Autrement dit, comment ça fonctionne
26:11entre l'exosquelette d'un côté et le cerveau ?
26:16Je vais répondre à cette première question.
26:18C'est un sujet passionnant.
26:20D'ailleurs, certains pensent que l'homme augmenté,
26:23l'homme bionique de demain, finalement,
26:25il va débuter chez les athlètes paralympiques
26:29qui, dans certains domaines,
26:31peuvent avoir des performances supérieures
26:33aux hommes non amputés.
26:36Donc, effectivement,
26:38c'est un sujet philosophique passionnant.
26:40Est-ce que l'homme handicapé,
26:42mais augmenté par la technologie,
26:44n'est pas finalement le prototype
26:46du transhumain augmenté demain ?
26:50Pour donner mon avis sur le petit débat
26:53qui a opposé Raphaël et Jean-Michel,
26:56je suis d'accord avec Raphaël.
26:58Les exemples, et on en a débattu, Jean-Michel,
27:02il n'y a pas très longtemps, au Figaro,
27:04les exemples que tu prends sont de la dernière guerre.
27:07Syrie-Alexa,
27:08ce n'est pas raisonnable de prendre ça comme exemple.
27:12Aujourd'hui, à l'ère de GPT-4 ou Unpreview.
27:16Donc, il faut que tu changes de référence.
27:18Je t'avais conseillé d'utiliser les dernières versions de chaque GPT
27:21lors de notre débat au Figaro.
27:23Et là, je vais dire la même chose que Raphaël.
27:26Ne prends pas des exemples comme Elisa, qui sont de 1970,
27:29parce que le sujet n'est plus là.
27:32L'IA a profondément changé.
27:34Son rapport au temps est très différent
27:36de ce que pouvait être Elisa,
27:37qui était un chat de botte absolument merdique.
27:41Donc, aujourd'hui, notre rapport à l'IA, il change.
27:44Et il est important que les auditeurs travaillent
27:47et réfléchissent avec les nouvelles versions des IA
27:51et pas avec les antiquités du tout début de l'histoire
27:55de l'intelligence artificielle,
27:56de la vieille intelligence artificielle symbolique.
28:00Parce que là, on parle de mémoire,
28:03mais le problème n'est pas la mémoire.
28:04Des mémoires synthétiques, on en a toujours eu.
28:07Nos disques durs sont des mémoires,
28:10et cela depuis longtemps.
28:11Notre problème, c'est l'intelligence.
28:13Notre problème, c'est que le costume intellectuel de l'IA
28:16augmente de deux points chaque mois
28:18et que nous sommes en phase de dépassement.
28:21Mais, Laurent-Alexandre, pardon de vous interrompre,
28:25mais est-ce que vous pensez qu'on arrivera un jour
28:28à avoir un cerveau humain neuronal, complètement ?
28:33Artificiel, vous voulez dire ?
28:35Oui, artificiel, bien sûr.
28:37Pour le moment, on arrive à découvrir
28:41certains réseaux neuronaux,
28:43mais on n'a pas encore ce cerveau neuronal artificiel.
28:47D'avoir un cerveau humain artificialisé,
28:51ce n'est pas pour demain matin.
28:53Nous allons être dépassés par l'intelligence artificielle
28:56bien avant d'être capables de bidouiller notre cerveau.
28:59Notre cerveau est une boîte noire qu'on comprend pas mal,
29:02pas très bien et qui ne progresse pas.
29:04Alors que l'intelligence artificielle galope,
29:05et je me permets de reciter le chiffre que je donnais
29:09avant votre question,
29:10l'IA gagne 2 points de QI par mois.
29:13L'intelligence humaine ne progresse pas.
29:16Donc notre problème aujourd'hui,
29:19et c'est pour ça que certains, comme Elon Musk,
29:21souhaitent mettre des microprocesseurs
29:22dans le cerveau de nos enfants,
29:24notre problème, c'est la compétition
29:26entre le cerveau humain et le cerveau biologique,
29:29et ça pose des questions bouleversantes
29:31que le professeur Gaillard a parfaitement décrites
29:34dans son dernier livre.
29:35Merci, Catherine Pellachaud.
29:37Oui, je voulais...
29:38Déjà, il y a quelques travaux de recherche,
29:40on parle vraiment de travaux de recherche,
29:42qui essayent de modéliser, justement, le cerveau
29:44par, déjà, l'apprentissage du langage.
29:46Mais j'avoue que c'est vrai qu'on en est encore très loin.
29:49Ce sont des travaux de recherche
29:51qui sont absolument passionnants,
29:52qui peuvent servir à comprendre.
29:54Donc c'est vraiment là.
29:56Mais ça, c'est vraiment des travaux de recherche,
29:58je pense qu'il va falloir encore quelques années.
30:00Mais je voulais intervenir aussi par rapport à la notion de dialogue.
30:04Parce que là, pour l'instant, les exemples qu'on a donnés,
30:06c'est des exemples textuels ou bien, maintenant,
30:09avec l'HGPT, vocale.
30:10Mais lorsque l'on parle,
30:12il y a tout le comportement non verbal qui intervient.
30:14Et maintenant, il y a tout de même, de plus en plus,
30:16des robots humanoïdes qui simulent.
30:20On parle bien de simulation.
30:21Et là, je pense que c'est un amplificateur incroyable
30:25pour l'interaction des humains avec les IA.
30:28Oui, mais j'aimerais bien que vous nous disiez
30:31ce que vous pensez des interactions et du fonctionnement
30:35entre un exosquelette et le cerveau.
30:38Qui c'est qui dirige l'autre ?
30:40Là, j'avoue que je n'ai pas assez de compétences.
30:42Je ne suis pas la personne.
30:44Vous avez un mot à dire là-dessus, Raphaël Gaillard ?
30:46Comment ça fonctionne ?
30:47Moi, ce que je pourrais dire, c'est que notre cerveau
30:50a la faculté de recalculer en permanence ses repères.
30:55De sorte que si vous rajoutez une prothèse à un être humain,
31:02eh bien, assez rapidement, il va considérer
31:04que cette prothèse fait partie de lui.
31:07Il y a une expérience très amusante qui s'appelle la Rubber Hand Illusion
31:11qui consiste à mettre une main en plastique sur la table
31:14alors que la main du sujet est sous la table
31:18et on frotte avec un pinceau la main en plastique.
31:21Vous pouvez trouver ça sur YouTube ou n'importe quelle chaîne.
31:24Et en même temps, la main de celui qui fait l'objet de l'expérience,
31:29en même temps, c'est ça qui est très important.
31:31Et le fait que la personne puisse ressentir le pinceau
31:35en même temps qu'elle voit le pinceau passer,
31:37eh bien, elle va considérer que cette main en plastique, c'est la sienne.
31:40Et d'ailleurs, si l'expérimentateur, qui parfois fait des mauvais coups,
31:44vient avec un marteau et tape d'un coup sur cette main en plastique,
31:48eh bien, celui qui faisait l'objet de l'expérience part en courant
31:50parce qu'il a l'impression qu'on allait lui taper dessus.
31:53Au reste, si on conduit une voiture,
31:55ce qui arrive encore de temps en temps, peut-être pas à Paris,
31:57eh bien, on s'aperçoit très vite que, de fait,
32:00on a l'impression que cette voiture fait presque partie de votre corps,
32:03à tel point, d'ailleurs, que vous pouvez être curieusement vexé
32:06et violent si on traite mal votre voiture.
32:09Donc, vous voyez que le rapport à une prothèse,
32:12c'est pas quelque chose qui est extérieur,
32:14c'est très rapidement quelque chose qui est incorporé,
32:17reprenons ce mot,
32:18parce que notre cerveau fonctionne ainsi
32:20en recalculant constamment les repères,
32:24les coordonnées de ce corps.
32:26Merci. On va écouter maintenant
32:28un échange entre le député Hervé Soulignac,
32:33Parti socialiste,
32:35et le ministre Jean-Noël Barraud,
32:37à l'époque ministre du Numérique,
32:40c'était à l'Assemblée nationale, le 4 octobre 2023.
32:45M. le ministre, je voudrais vous interroger
32:47sur la montée en puissance de l'intelligence artificielle.
32:50Les évolutions des dernières semaines sont particulièrement impressionnantes.
32:54Une équipe de chercheurs de Stanford a récemment annoncé
32:57être en mesure d'entraîner un modèle équivalent
32:59au célèbre chat GPT-3,
33:01avec un budget de seulement 600 dollars.
33:03Plusieurs publications laissent penser
33:05que nous approchons d'une intelligence artificielle
33:07dite forte, c'est-à-dire capable de comprendre
33:09toutes tâches intellectuelles qu'un être humain peut accomplir.
33:13Ces développements soulignent l'importance
33:15de se doter d'une stratégie nationale,
33:17j'insiste là-dessus, pour assurer notre souveraineté
33:20et garantir que la France soit compétitive
33:22sur la scène internationale.
33:23M. le ministre, ma question est la suivante.
33:25Existe-t-il une stratégie gouvernementale
33:28pour faire face à ces défis, notamment en matière
33:29d'investissement, de recherche et de formation ?
33:32Mesdames et messieurs les députés,
33:34M. le député, vous avez raison de dire
33:36qu'il y a dans l'intelligence artificielle
33:38de grandes promesses et de grands progrès.
33:41Je pense en particulier au progrès de la recherche scientifique
33:44avec l'intelligence artificielle, qui sauve d'ores et déjà des vies,
33:48en permettant de détecter des cancers très précocement
33:50et donc de les soigner, ou encore de découvrir
33:52de manière beaucoup plus accélérée des traitements
33:54ou des vaccins, comme ça a été le cas pendant la Covid-19.
33:57Mais pour que cette technologie reste au service de l'humain
34:00et au service des Français, il faut en avoir la maîtrise
34:02plutôt que de la subir.
34:03Il faut créer un cadre de confiance
34:05dans lequel ces innovations peuvent se développer.
34:09Pour en avoir la maîtrise, le président de la République
34:12a lancé en 2018 une stratégie nationale
34:14pour l'intelligence artificielle, éclairée par le rapport
34:17de Cédric Villani, dotée de 1,5 milliard d'euros,
34:20qui a permis notamment la création de quatre instituts interdisciplinaires
34:24pour l'intelligence artificielle, à Nice, à Toulouse, à Grenoble
34:28et à Paris, qui produisent aujourd'hui des résultats.
34:31Nous avons 500 doctorants de plus qu'auparavant,
34:34190 chairs consacrés à l'intelligence artificielle.
34:37Nous avons doublé le nombre de diplômés
34:39en intelligence artificielle, et nous avons à peu près
34:41600 entreprises innovantes spécialistes
34:44de l'intelligence artificielle.
34:45Cette stratégie a été renouvelée en 2021
34:48dans le cadre de France 2030, et nous veillons
34:49avec Bruno Le Maire et Sylvie Retailleau
34:51à ce qu'elles tiennent compte des dernières évolutions
34:53en matière d'intelligence artificielle.
34:55Vous le voyez, monsieur le député,
34:56sous l'autorité de la Première ministre,
34:58le gouvernement est pleinement mobilisé
34:59pour que, en matière d'intelligence artificielle,
35:01la France reste souveraine.
35:03Merci, monsieur le ministre.
35:05Vous venez de répondre à cet instant
35:06au 578e député, puisque la question que je viens de vous poser
35:09a été entièrement rédigée par Tchad GPT.
35:12Vous noterez que le robot qui vient de vous interroger
35:16n'a pas soulevé les questions de sécurité, de liberté,
35:19de démocratie ou de menace pour notre civilisation.
35:22Or, les vrais sujets sont précisément
35:24ceux que le robot contourne.
35:26Ne contournez pas les réponses, monsieur le ministre.
35:28C'est d'ailleurs ce qui fait la différence
35:29entre vous et le robot, parce qu'il y a urgence.
35:32La recherche est aux mains de groupes privés
35:33qui n'ont aucun intérêt à ralentir leur course folle,
35:37et la pose réclamée par certains leaders de la tech
35:39est absolument illusoire.
35:41L'Union européenne a initié un processus législatif
35:44trop long, trop lent.
35:45La France doit exhorter les grandes démocraties
35:47à ouvrir le débat sur les transformations économiques
35:49et sociales qu'on peut redouter,
35:52et à construire très vite une autorité de régulation.
35:55La France doit dire qu'elle ne placera jamais
35:57son destin technologique au-dessus de considérations
36:00vitales et universelles, et que la société n'a d'avenir
36:03que dans l'humanisme, la liberté
36:05et la protection de sa vulnérabilité.
36:08Merci beaucoup, mon cher collègue.
36:10Alors, on n'épuisera pas ce sujet des progrès,
36:14des transformations, etc.,
36:16mais on va quand même aborder un peu la question des risques.
36:22Geoffrey Hinton vient d'obtenir le prix Nobel de physique 2024
36:27pour son travail sur les réseaux de neurones artificiels,
36:32et sa déclaration a été
36:34« Je suis inquiet que les modèles deviennent plus intelligents
36:38que nous et prennent le contrôle ».
36:42Est-ce que vous partagez cette inquiétude ?
36:45Raphaël Gaillard.
36:47L'inquiétude existe,
36:49et puis elle se situe à des niveaux différents d'ores et déjà,
36:54c'est-à-dire, comme toujours, avec l'automatisation,
36:57celle de la substitution des êtres humains
36:59dans différentes fonctions.
37:00D'ailleurs, ce qui est intéressant, ou inquiétant,
37:03excuse-moi de le dire de cette façon,
37:05avec l'intelligence artificielle,
37:06c'est que les automatisations ont plutôt touché jusqu'ici
37:09des professions non qualifiées,
37:11et là, avec Chad GPT, c'est plutôt des professions qualifiées,
37:15et donc c'est un changement spectaculaire
37:18de ce que peut être le remplacement de l'homme par l'intelligence.
37:22Mais je crois que l'essentiel n'est pas dans la compétition et le remplacement,
37:26je crois qu'il a été évoqué par Patrick Guémard,
37:28l'essentiel est dans la question de la transformation de l'homme,
37:32elle est dans l'hybridation,
37:34et je crois qu'on doit beaucoup plus se poser la question
37:37de ce que signifie cette hybridation particulière
37:40qu'est l'hybridation technologique,
37:42qui succède à une myriade d'hybridations,
37:44parce que l'homme est fondamentalement hybridé,
37:46plutôt que se poser la question de la compétition.
37:49Je crois qu'il ne va pas y avoir de match,
37:51il ne va pas y avoir de compétition,
37:53il va y avoir une hybridation,
37:54et que nous allons tous courir,
37:56autorités de régulation ou pas, vers cette hybridation,
37:59nous sommes tous déjà hybridés avec cette hybridation faible
38:03que nous organisons avec nos téléphones d'IA intelligents,
38:06donc l'enjeu, c'est l'hybridation,
38:08et les risques de cette hybridation,
38:09beaucoup plus que le sujet du remplacement.
38:12Catherine Pellachaud, sur ces risques-là.
38:14Oui, je suis tout à fait d'accord.
38:16Il y a des risques,
38:17je pense qu'il faut en prendre conscience,
38:19il y a à prendre conscience aussi des usages
38:21qui vont être faits de cette intelligence artificielle,
38:24mais il y a cette course,
38:26je ne pense pas qu'on puisse l'arrêter,
38:28par contre, on peut essayer de l'encadrer,
38:30d'éduquer les gens à utiliser à bon escient
38:34et comprendre les limites
38:35que l'intelligence artificielle ne remplace pas les humains,
38:38ne remplace pas les contacts sociaux, etc.
38:41Donc je suis d'accord qu'il faut qu'on va vers une hybridation,
38:45qu'il faut faire avec.
38:47Il faut, au contraire, essayer d'éduquer,
38:49de comprendre cette partie-là.
38:52Jean-Michel Peignet,
38:54est-ce que vous intégrez la dimension du risque
38:57comme un progrès pour l'humanité aussi d'avancer ?
39:03On ne peut pas avancer que dans la sérénité.
39:06Ah, ça, sûrement pas.
39:07On n'avance que dans le déséquilibre.
39:09On est bien d'accord.
39:11Est-ce que ce risque à porter ne peut pas faire avancer,
39:16pour parler trivialement, le schmilblick ?
39:19Moi, je vois mal comment nous pourrions avancer,
39:23comme vous dites, c'est-à-dire satisfaire à l'idée
39:27d'un progrès qui nous acheminerait vers un meilleur.
39:31Là, on n'a parlé que d'innovation,
39:33on n'a pas parlé que de progrès jusqu'à présent.
39:36Mais je me demande comment on peut imaginer cela
39:40en simplifiant toujours davantage l'humain.
39:44Parce qu'au fond, l'entreprise dans laquelle nous sommes plongés,
39:49c'est une entreprise de simplification de l'humain.
39:54La mécanisation, elle est...
39:57Il y a un terme que nous n'avons pas utilisé du tout
40:00depuis le début de notre discussion,
40:03c'est le terme de conscience, la conscience.
40:06Tout à l'heure, on a évoqué l'intelligence artificielle forte.
40:09Et quand on l'évoquait
40:12dès les années 50,
40:15on disait qu'une intelligence artificielle forte,
40:18c'est une intelligence artificielle qui serait consciente d'elle-même.
40:22Et donc, la question de la conscience a été placée au premier plan.
40:29Et la question a été de savoir qu'est-ce que c'est, donc,
40:32que cette conscience ?
40:34Et les scientifiques se sont gaussés des philosophes
40:39qui n'ont toujours pas, finalement,
40:44formulé une définition univoque de la conscience.
40:48Et les scientifiques, eux, considèrent qu'est conscient
40:53tout organisme qui est capable de faire la différence
40:55entre lui et ce qui n'est pas lui, le self et le non-self.
41:00Et cette conception de la conscience,
41:04elle est évidemment extrêmement simplificatrice.
41:08Nul d'entre nous ne satisferait,
41:11enfin, n'accepterait qu'on le déclare conscient
41:14parce que, comme la mouche, il est capable de se retirer
41:18lorsque une agression du monde extérieur survient.
41:22Et pour aller plus loin,
41:25je voudrais juste évoquer une petite anecdote
41:28qui m'avait semblée intéressante
41:31lors d'un débat avec un transhumaniste
41:34qui répondait à une dame qui lui disait
41:36« Monsieur, vous parlez de l'humain comme si c'était un robot,
41:40mais nous, les humains, nous sommes quand même des êtres conscients. »
41:44Et le transhumaniste a levé les bras au ciel en disant
41:46« Hélas ! Hélas ! »
41:48Et il a expliqué, tout simplement, que la conscience,
41:50étant un avantage sélectif dans la sélection naturelle,
41:54n'est plus désormais un avantage sélectif,
41:59mais c'est plutôt un handicap.
42:01Lorsque les pressions sélectives sont technologiques
42:03et non plus naturelles,
42:05il est meilleur de ne pas être conscient
42:07et d'être plutôt réactif et d'être plutôt mécanisé.
42:12Ça en dit, effectivement, extrêmement long
42:15sur cette espèce de déflation
42:18des concepts qui définissaient jusqu'à présent l'humain.
42:22Laurent Alexandre, vous écoutez où on en est sur le débat.
42:25Est-ce que vous partagez l'avis de Yuval Noah Harari,
42:30cet écrivain israélien
42:33qui a beaucoup écrit sur ces questions-là
42:36et qui dit que tout est information ?
42:38Mais si tout est information,
42:41qu'est-ce qui reste au niveau du charnel ?
42:44Est-ce qu'il n'y a pas un danger ?
42:45Est-ce qu'il n'y a pas un risque d'abstraire un peu
42:48les émotions, les sentiments, etc. ?
42:52Je pense que tout est information.
42:54Je ne crois pas qu'il y ait énormément de différences
42:57entre l'intelligence artificielle et l'intelligence humaine,
42:59à part que pour l'instant, nous sommes les seuls à avoir un corps physique,
43:03mais ça va changer avec le développement de la robotique humanoïde.
43:06Et vous savez qu'Elon Musk compte fabriquer
43:09100 millions de robots humanoïdes hyper intelligents chaque année
43:13à partir des prochaines années.
43:15Moi, je suis très en ligne avec le professeur Raphaël Gaillard.
43:19Je crois beaucoup à l'hybridation.
43:21Et comme nous rentrons dans une économie de la connaissance
43:24où il y a une prime importante aux gens les plus innovants
43:27et les plus intelligents,
43:28je m'interroge sur les conséquences de l'hybridation
43:31sur la solidarité et sur la cohésion de nos sociétés.
43:36Moi, j'ai vraiment peur que les implants,
43:39que l'hybridation augmente davantage les capacités cognitives
43:42des gens déjà les plus intelligents et les plus innovants.
43:46Et je crains que l'hybridation conduise
43:49à une augmentation des écarts
43:52entre la partie la plus innovante et la partie moins innovante,
43:57moins favorisée sur le plan cognitif de nos sociétés.
44:01Je ne vois pas par quel miracle
44:03l'hybridation avec des implants, quelle que soit la nature,
44:07n'augmenterait pas plus les capacités cognitives
44:09de l'élite intellectuelle.
44:11Je ne vois pas par quel miracle
44:13un implant intracérébral aiderait les gens les moins doués,
44:17les moins favorisés sur le plan cognitif,
44:19à rattraper l'élite cognitive.
44:21Je ne vois pas très bien.
44:22Donc, j'ai peur qu'il y ait une vraie augmentation
44:26de l'écart cognitif entre la partie la plus favorisée
44:28et la moins favorisée.
44:29C'est pour ça qu'il ne me semblerait pas idiot
44:32que la loi favorise les gens les moins cognitivement développés
44:39dans l'allocation de cette hybridation et des implants.
44:42Je pense qu'il serait raisonnable pour la société
44:45de rembourser prioritairement les implants d'augmentation
44:49le jour où ils existeront aux gens les moins intelligents.
44:53Et surtout pas de permettre à l'élite cognitive,
44:56à l'élite intellectuelle,
44:57de disposer des implants d'augmentation en premier,
45:01ce qui ferait imploser la cohésion sociale, de mon point de vue.
45:06Oui, mais Laurent Alexandre, vous dites que je suis d'accord
45:08avec la conception de l'hybridation de Raphaël Gaillard.
45:12Mais Raphaël Gaillard,
45:14je ne veux pas résumer sa pensée,
45:16mais il dit que nous sommes d'abord hybridés
45:19à la lecture et à l'écriture, et c'est impréalable.
45:23Vous diriez aussi ça ?
45:25Qu'il faut être hybridé à la lecture et à l'écriture
45:29pour après accéder à d'autres hybridations ?
45:32Oui, on peut imaginer dans le futur
45:34qu'il y ait des capacités d'accès à l'intelligence
45:38par d'autres intermédiaires que la lecture et l'écriture,
45:42mais pour l'instant, c'est le média le plus simple.
45:44Et puis surtout, c'est à partir de l'écriture
45:47que l'on a éduqué les grands modèles de type chat GPT,
45:52ce qui explique très bien Raphaël Gaillard dans son dernier bouquin.
45:56Donc aujourd'hui, c'est une étape obligatoire.
45:59Je ne suis pas sûr que ce soit pour toujours une étape obligatoire.
46:02On peut imaginer d'autres modes d'accès à l'intelligence,
46:06au savoir, que la lecture et à l'écriture,
46:09mais pour l'instant, Raphaël a totalement raison.
46:12C'est un préalable.
46:13– Vous voulez dire un mot, Raphaël Gaillard ?
46:15– Peut-être pour préciser cette pensée
46:19que vient de résumer là Laurent-Alexandre,
46:23et qui repart de l'idée que nous avons toujours été hybridés
46:27et qui essaye de situer une sorte de point de départ.
46:29C'est un peu artificiel peut-être,
46:31mais quand même, ça reprend d'ailleurs ce que vous évoquiez
46:34du mythe de Teut et de l'invention de l'écriture
46:37et la critique du pharaon Thammuz,
46:39les risques de l'écriture qui consistent à affaiblir l'homme
46:42en externalisant son savoir.
46:44Ma perception, c'est que cette hybridation a été primordiale.
46:48Elle a joué un rôle crucial pour l'humanité.
46:51Elle a eu des conséquences, parfois des effets secondaires.
46:53J'aime bien citer ce joli mot de Daniel Pénac
46:57qui dit qu'on peut attraper des maladies textuellement transmissibles.
47:00Ce n'est pas anodin, la lecture et l'écriture,
47:03mais dans l'ensemble, ça a été une grande réussite,
47:05cette hybridation par l'écriture et la lecture.
47:08Moi, je fais le pari que pour nous préparer
47:11à l'hybridation technologique, il faudrait répéter,
47:14ce qui a fonctionné à l'échelle de l'humanité,
47:16cette hybridation par la lecture et l'écriture.
47:19Mais l'idée, ce n'est pas de refuser l'hybridation technologique.
47:22Pour moi, elle est inéluctable.
47:23C'est de nous armer pour...
47:25Et pourquoi il faut s'armer ?
47:27Parce que je pense que non seulement il y aura une inégalité
47:31des effets de cette hybridation technologique,
47:34comme vient de l'évoquer Laurent Alexandre,
47:36non seulement il y aura une inégalité d'accès,
47:39c'est-à-dire que ceux qui auront les moyens
47:41auront les meilleures technologies
47:42et les autres feront de briques et de brogues,
47:45de la récupération...
47:48C'est très probable.
47:50Mais au fond, il y a une inégalité plus importante encore,
47:54c'est que notre cerveau,
47:56eh bien, il est, à mes yeux, tellement performant
47:59qu'il a déjà des bugs, il a déjà des ratés.
48:02Nous payons déjà le prix de sa complexité et de sa puissance,
48:06et nous le payons sous une forme qui est mon quotidien,
48:09des 12 000 patients qui sont soignés dans le pôle
48:12dont je suis responsable chaque année,
48:14les troubles mentaux.
48:15Pourquoi 1 % de la population souffre de schizophrénie,
48:18une personne sur cinq de dépression au cours de sa vie ?
48:21Parce qu'il y a un prix à payer à la puissance de ce cerveau.
48:24Et s'il y a déjà un prix aussi élevé que celui des troubles mentaux,
48:28je fais l'hypothèse qu'en l'augmentant encore,
48:30ce prix augmentera.
48:32Autrement dit, avec l'hybridation technologique,
48:35certains seront augmentés, moi, j'ai pas de doute,
48:37même si ça sera avec une rupture de l'harmonie de l'homme.
48:40Il faudra qu'on revienne sur les enjeux anthropologiques
48:42de cette rupture.
48:43Mais je pense surtout que certains ne tolèreront pas
48:47cette augmentation.
48:48Ce seront des grands brûlés de l'augmentation
48:51et ils souffriront de troubles mentaux
48:53et il nous faut nous préparer à les soigner.
48:57Alors, écoutez, il me reste très peu de temps
48:59avant la ponctuation de cette émission.
49:02Pour conclure, ce n'est pas une conclusion,
49:04mais je voudrais avoir votre point de vue,
49:07mais très bref, parce qu'on a vraiment très peu de temps,
49:11qu'est-ce que vous proposez comme mesure
49:15pour freiner, si on peut dire,
49:19ces progrès, s'ils s'avèrent intempestifs ?
49:23Est-ce que c'est un moratoire ?
49:25Est-ce que c'est obliger les enfants à lire et écrire ?
49:29Est-ce qu'il faut limiter les écrans ?
49:31On a vraiment très peu de temps,
49:32je sais que c'est une question importante,
49:35mais à votre avis, Catherine Pellachaud ?
49:37Alors, je pense qu'il faut faire de la vigilance, ça, oui,
49:41parce qu'une chose qu'on a parlé beaucoup,
49:43c'est l'homme unique, mais l'homme est en société.
49:47Je veux dire, face à une IA,
49:49s'il fait toute sa vie face à une IA,
49:52qu'est-ce que ça va donner ?
49:53Qu'est-ce que va donner notre société ?
49:56Donc, à un moment donné, il faut absolument,
49:58pour ces jeunes qui vont grandir avec ces outils,
50:03cette nouvelle IA, regarder ce qui va se passer.
50:06Donc, faire des points de vigilance très serrés.
50:08Je pense pas qu'on puisse freiner le plus,
50:11avec les enjeux économiques qui sont tellement forts pour cela.
50:15Merci. Laura Alexandre, qu'est-ce que vous proposez ?
50:19On a peu de temps, moi.
50:23Alors, moi, je ne propose pas de freiner,
50:25parce que si nous freinons le développement
50:28de l'IA en France,
50:31nous transformerons la France
50:33en un nouveau Zimbabwe en 2080,
50:37nous serions complètement largués
50:39sur le plan géopolitique, économique,
50:41et nous laisserions à nos enfants un enfer décroissantiste
50:45dans lequel ils seraient fort malheureux
50:48face aux puissances géopolitiques
50:50qui n'auraient pas bloqué l'IA.
50:52Donc, par pitié, pour l'avenir de nos enfants
50:55et de nos petits-enfants,
50:56ne bloquez pas l'IA, ce serait dramatique,
50:59et, je le répète, ce serait la voie directe
51:01vers la transformation de la France
51:03en le Zimbabwe du futur.
51:06Oui. Patrick, Guillaumard ?
51:09Bon, on pourrait parler du Zimbabwe.
51:12Il y a plein de questions qui se posent.
51:14Je pense, en effet, qu'il ne faut pas freiner,
51:17parce que ça ne sert à rien.
51:18On est dépassés.
51:20C'est le principe même de l'IA.
51:23L'IA, ça nous confronte à quelque chose qui nous dépasse.
51:26Donc, acceptons que ça nous dépasse.
51:29Il y a deux points qui me semblent intéressants.
51:32Dans votre livre, Raphaël Gaillard,
51:34vous incitez beaucoup sur la façon dont l'intelligence artificielle
51:38rend le cerveau plus complexe qu'avant.
51:40C'est-à-dire, les connaissances complexifient les choses
51:44et atomisent le cerveau.
51:45Là où vous pensez que le cerveau était un tout et une faculté,
51:49il y a une atomisation.
51:50Donc, peut-être que du côté de la connaissance du cerveau,
51:53il y a beaucoup de choses.
51:54Maintenant, il y a un mot,
51:56une question qui manque à notre conversation,
51:59notre échange passionnant,
52:01qui est quand même une des questions majeures
52:03et de l'humain, la question de la vérité et du mensonge.
52:07Le mensonge n'est pas l'erreur.
52:08Et un enfant, quand il apprend,
52:10quand il s'hybride en écoutant ses parents,
52:13en apprenant une langue, le Zimbabwe ou une autre,
52:16il se demande toujours, mais qui dit la vérité ?
52:19Donc, comment la question de l'intelligence artificielle
52:23traite-t-elle ce sujet ?
52:24Il ne faudrait pas que l'intelligence artificielle
52:27apparaisse comme une réponse globale
52:29au moment où toutes ces questions sont en train de se diversifier,
52:33de se détotaliser, de se fractionner
52:35et de nous inciter à un plus de réflexion.
52:37Merci. Jean-Michel Bénier, on a très peu de temps.
52:40Excusez-moi, la police du temps m'oblige à vous limiter.
52:45Je préconiserais volontiers,
52:47comme antidote à cet espèce de fatalisme qui s'installe,
52:52puisque j'entends tout autour de moi
52:54qu'on ne peut plus rien faire,
52:57il ne faut surtout pas freiner, il faut avancer, etc.
53:01Je préconiserais volontiers le recours à la littérature.
53:04A la littérature qui...
53:06Là-bas, on mettrait tout le monde d'accord là-dessus.
53:09Raphaël Gaillard a un mot, on a vraiment peu de temps.
53:14Je souscris tout à fait.
53:16Si ce n'est que je ne préconiserais pas,
53:18je pense qu'il faut prescrire de façon plus autoritaire.
53:21En fait, la question, c'est...
53:24Celle de prendre des décisions plus autoritaires.
53:27La Chine a pris des décisions très autoritaires
53:30pendant l'été 2023.
53:31On dit que c'est une dictature,
53:33que c'est pour des raisons liées à l'évolution des opinions.
53:36Eux disent que c'est pour des raisons de santé publique.
53:40Peut-être que c'est une vraie question.
53:42Merci.
53:44Écoutez, j'ai une brève bibliographie à vous présenter.
53:47Alors, Raphaël Gaillard,
53:48vous avez publié L'Homme augmenté.
53:52Personnes, en apparence, peuvent considérer
53:55que vous êtes pour une neurobiologie expansive,
53:59mais ce n'est pas le cas.
54:00Je crois que vous montrez que l'hybridation première
54:03reste aussi la question de la civilisation et de la culture.
54:07C'est bien ça ?
54:08Exactement.
54:10Laurent-Alexandre Tchad-Gpt,
54:12va nous rendre immortels chez Jean-Claude Lattès.
54:15Immortels, c'est bien pour Raphaël Gaillard,
54:17qui est à l'Académie française.
54:19Mais au-delà de cette symbolique,
54:21est-ce que vous croyez vraiment qu'on a intérêt à devenir immortels ?
54:25Je ne sais pas si on a intérêt à être immortels,
54:27mais une partie importante de la Silicon Valley y croit.
54:30L'une des raisons pour lesquelles la Silicon Valley dépense
54:34des milliards pour développer des super-intelligences artificielles
54:37plus intelligentes que nous,
54:39c'est pour augmenter très vite l'espérance de vie.
54:42C'est probablement vu que le prix Nobel de chimie,
54:45qui est le patron de l'intelligence artificielle chez Google,
54:48à Demis Hassabis, a dit qu'il était convaincu
54:50que l'intelligence artificielle allait guérir
54:53toutes les maladies humaines d'ici 2035.
54:57Et Dario Amodei, qui est le patron d'Entropique,
55:01la principale intelligence artificielle concurrente de Tchad-Gpt,
55:05a déclaré le mois dernier qu'il a la certitude
55:07que l'espérance de vie humaine dépassera, dans 11 ans,
55:10en 2035, 150 ans déjà.
55:13On va voir. Dans 10 ans, c'est bientôt.
55:16Patrick Guyomart, vous avez publié un ouvrage collectif
55:20sur la perversion encore.
55:21Est-ce que cette notion de perversion a quelque chose à voir
55:25avec cette révolution numérique ?
55:28La perversion, elle est à la fois créative.
55:30Beaucoup d'artistes sont un peu des pervers,
55:33et en même temps ont une perversité en eux.
55:37En même temps, la perversion, il y a une négativité.
55:39C'est la question du mal, de la destruction,
55:42de la prise de pouvoir et de l'usage de quelque chose
55:45à contre-courant ou à contre-sens.
55:48C'est ce que vous dites des drogues.
55:50Le bien et le mal, par rapport à ça, sont confondus.
55:53Et donc, il y a des frontières difficiles à tracer.
55:57Mais l'humain, c'est aussi faire la différence
56:00entre le bien et le mal, entre le vivant et le mort,
56:02et entre le malade et le saint.
56:04Catherine Pelachaud, vous avez publié
56:06des systèmes d'interactions émotionnelles.
56:09Vous voulez dire que l'émotion est toujours là ?
56:12Oui, on peut...
56:14C'est prendre en compte les émotions.
56:16Les émotions dans les interactions sont fondamentales.
56:19Si on fait des interactions avec des machines,
56:22il faut le prendre en compte.
56:24C'est-à-dire essayer de... C'est toujours un problème,
56:27de les simuler. On parle bien de simulation
56:29des émotions chez les machines.
56:31Et puis, après, voir comment les humains attribuent, après,
56:34des émotions, des intentions aux machines.
56:37On parle bien d'attribution.
56:38Merci. Jean-Michel Beignet,
56:40vous avez publié, demain, les postes humains chez Hachette.
56:43C'est justement pour résister à cette postmodernité,
56:47ces postes vérités.
56:48C'est, en tout cas, essayer de la mettre en perspective
56:52par rapport aux valeurs qui étaient celles de l'Occident.
56:57Donc, c'est tester le potentiel de préservation de l'humanisme
57:04derrière les innovations.
57:07Merci, madame. Merci, messieurs,
57:09d'avoir participé à cette émission.
57:12Je voudrais remercier notre équipe LCP,
57:14qui permet la réalisation de cette émission.
57:18Et je vous dis à bientôt.
57:19Merci.
57:20Merci beaucoup.