Le piège de l'intelligence artificielle : explications avec Julien Gobin.

Sud Radio

Avec Julien Gobin, essayiste, auteur de “L'individu, fin de parcours ?  Le piège de l'intelligence artificielle” publié aux éditions Gallimard.  Retrouvez Bercoff dans tous ses états avec André Bercoff du lundi au vendredi de 12h à 14h sur #SudRadio.  --- Abonnez-vous pour plus de contenus : http://ow.ly/7FZy50G1rry   ———————————————————————  ▶️ Suivez le direct : https://dai.ly/x8jqxru   Retrouvez nos podcasts et articles : https://www.sudradio.fr/   ———————————————————————   Nous suivre sur les réseaux sociaux   ▪️ Facebook : https://www.facebook.com/profile.php?id=100063607629498 ▪️ Instagram : https://www.instagram.com/sudradioofficiel/ ▪️ Twitter : https://twitter.com/SudRadio  ▪️ TikTok : https://www.tiktok.com/@sudradio?lang=fr ———————————————————————  ☀️ Et pour plus de vidéos de Bercoff dans tous ses états : https://www.youtube.com/playlist?list=PLaXVMKmPLMDQe5oKZlhHutOQlGCq7EVU4  ##LE_FACE_A_FACE-2024-02-15##

Transcript

00:00 Sud Radio Bercov, dans tous ses états, le face à face.

00:06 13h10 sur Sud Radio, l'heure pour nous de vous présenter ce face à face

00:09 qu'on est ravis de recevoir aujourd'hui pour sa première radio.

00:12 L'essayiste et auteur de ce livre, "L'individu, fin de parcours, le piège de l'intelligence artificielle"

00:17 aux éditions Gallimard, c'est Julien Gobin qui est avec nous. Bonjour à vous.

00:20 Bonjour.

00:21 Alors Julien Gobin, j'ai lu ce livre qui vient de paraître, vraiment avec beaucoup de plaisir

00:25 et c'est très intéressant parce que vous parlez de l'intelligence artificielle,

00:30 vous parlez des évolutions, non pas de l'humanité mais de l'esprit humain,

00:34 du mental, du comportemental depuis pratiquement les Lumières,

00:38 depuis 1749, l'ère Lumière, etc.

00:42 Et c'est très intéressant parce que vous parlez de trois stades.

00:46 Alors, vous avez utilisé, je voudrais savoir, une métaphore intéressante,

00:51 pourquoi la chrysalide et le papillon ?

00:53 Alors, parce que c'est une métaphore particulièrement parlante pour comprendre

00:57 les changements qui sont en cours actuellement dans notre civilisation.

01:00 C'est une métaphore empruntée à l'entomologie, la science des insectes.

01:03 Donc tous les insectes qui ont un état larvaire,

01:06 les mouches, les abeilles et les papillons, la chenille,

01:11 il y a l'ancienne structure qui est celle du premier stade

01:14 et la chrysalide est le moment de la transformation,

01:17 mais pas simplement d'une transformation graduelle, c'est d'une métamorphose.

01:20 On passe d'un état initial à un état final complètement différent.

01:23 Et ce qui est intéressant, c'est qu'au sein de la chrysalide,

01:26 le corps de l'insecte se dissout de l'intérieur,

01:29 il se digère lui-même et provoque un état liquide

01:32 qui est particulièrement intéressant pour comprendre notre société.

01:35 On dit beaucoup que la société post-moderne dans laquelle nous sommes,

01:38 dans laquelle les valeurs se dissolvent,

01:41 le cadre collectif commence également à se déliter,

01:44 est une société liquide.

01:46 Et donc dans la chrysalide, ces nutriments qui correspondent à l'ancien corps de l'insecte

01:52 doivent nourrir des cellules, des cellules souches,

01:54 on appelle ça des cellules en dormance,

01:57 qui vont activer le prochain corps.

01:59 Et l'enjeu de mon livre, c'est de se demander finalement aujourd'hui...

02:01 - Le prochain corps étant le papillon. - Le papillon, mais peut-être une mouche verte.

02:04 - Une mouche verte, oui.

02:06 - Et donc l'enjeu est de se demander,

02:09 aujourd'hui nous sommes dans cet état liquide,

02:11 est-ce qu'on ne pourrait pas identifier ces cellules en dormance

02:14 que les nutriments de l'ancien corps viendraient nourrir

02:17 pour avoir une image, une photographie du monde de demain

02:19 et là, entrer dans la prospective ?

02:21 - Alors c'est ça, c'est très très intéressant parce que justement,

02:24 vous parlez des trois stades, enfin ce que vous appelez les trois stades

02:27 déconstruction, état liquide, reconstruction, donc

02:31 je résume rapidement, on aura le temps d'en parler.

02:34 Vous commencez avec les droits de l'homme, le 18ème siècle,

02:37 vous parlez après de la malaise dans la civilisation,

02:39 au moment de l'état liquide, le post-moderne dans lequel on est aujourd'hui,

02:43 et vous dites, attention, arrive,

02:46 mais là il faut savoir comment on pensait,

02:48 s'en méfier ou ne pas s'en méfier, et surtout comment les gérer,

02:51 le transhumanisme, l'intelligence artificielle,

02:54 le genre, etc.

02:57 Et vous parlez effectivement de ces métamorphoses de l'individu,

03:01 comment est arrivé à l'individu,

03:03 et est-ce que l'individu ne risque pas d'exploser et de se dissoudre

03:06 dans quelque chose qu'on veut justement, au nom de la raison,

03:09 au nom de la technologie, au nom des transformations,

03:12 lui adjoindre de gré ou de force.

03:15 On va en parler longtemps après cette petite pause.

03:19 Sud Radio, votre avis fait la différence.

03:22 Je remercie Sud Radio de pouvoir donner la parole aux Français,

03:25 sans les couper, en ayant d'autres avis,

03:27 et ça vraiment c'est la seule radio en France qui puisse le faire,

03:30 donc je tiens à le souligner.

03:31 Sud Radio, parlons vrai.

03:34 Ici Sud Radio.

03:37 Les Français parlent au français.

03:42 Je n'aime pas la blanquette de veau.

03:45 Je n'aime pas la blanquette de veau.

03:48 Sud Radio, Bercov, dans tous ses états.

03:51 L'individu, fin de parcours, alors c'est fini,

03:54 l'individu, la liberté, on en parle tout le temps,

03:58 on en a parlé hier, aujourd'hui, la liberté d'expression,

04:01 de liberté de s'exprimer, de la censure, etc.

04:04 Et puis voilà qu'apparaissent, voici qu'apparaissent un certain nombre,

04:08 les fantômes qui arrivent à notre rencontre,

04:11 comme disait Goya,

04:13 qu'est-ce qui se passe ?

04:14 Alors Julien Gobin, je voudrais que vous rappeliez un peu,

04:16 on va faire un peu d'histoire, mais on ne comprend rien

04:18 si on ne fait pas un peu d'histoire.

04:20 L'individu en tant que tel, l'individu libre,

04:24 l'individu doué de raison, l'individu, le libre-arbitre,

04:27 il apparaît quand à peu près, Bercov ?

04:30 Alors il apparaît, grossièrement au XVIIIe siècle,

04:33 avec le siècle des Lumières.

04:35 L'individu finalement, c'est celui qui est doté d'un libre-arbitre,

04:40 qui pense par lui-même, qui est autonome,

04:42 et qui se construit par l'émancipation à l'égard des déterminismes sociaux.

04:46 Donc la Révolution française, par exemple,

04:49 c'est le moment où le citoyen peut s'affranchir de l'ancien régime,

04:53 peut penser par lui-même, et c'est au fondement même de notre démocratie,

04:56 puisque si on vote pour un candidat,

04:58 c'est en son âme et conscience, on n'est pas la marionnette

05:00 de structure sociale qui nous imposerait nos choix.

05:03 Alors qu'avant, il y avait la religion,

05:05 il y avait un certain nombre de contraintes...

05:07 Voilà, la croyance collective, l'ordre collectif

05:09 déterminait la façon de se comporter.

05:11 C'est ça.

05:12 Et donc les sociétés individualistes, qui sont le fruit des Lumières,

05:15 justement, ont pour but de faire émerger l'individu.

05:18 Et c'est une trajectoire qui s'est effectuée sur plusieurs siècles,

05:21 avec de grands combats qui ont été nécessaires,

05:23 donc dans le droit du travail, même l'émancipation des femmes.

05:26 Tout ça, c'est l'idée étant d'émanciper le citoyen

05:29 des contraintes non choisies, qui l'empêcheraient d'être lui-même.

05:33 Et on arrive aujourd'hui à un moment

05:35 où les grands combats ont été gagnés,

05:37 mais ce logiciel proprement démocratique

05:40 que nous avons au fond de nous-mêmes,

05:42 et dont nous sommes tous les produits,

05:44 cherche de nouveaux combats également.

05:46 Où s'arrête la contrainte ?

05:48 Est-ce que, par exemple, l'éducation que j'ai reçue par mes parents

05:51 est une contrainte, oui ou non ?

05:53 Est-ce que je dois la déconstruire ou pas ?

05:55 Est-ce que même les lois sociales,

05:57 ou la civilité, la politesse,

05:59 est-ce que c'est une contrainte,

06:01 puisque ce n'est pas mon moi profond, mon moi authentique qui s'exprime ?

06:04 Et à partir de quand, est-ce que la quête de l'individu

06:06 doit s'arrêter ou non ?

06:08 - Justement, Julien Gaubin, vous posez la question,

06:10 mais il faut bien, de toute façon,

06:12 quelle que soit l'avis en commun

06:14 et les idéaux, il faut y vivre avec des règles.

06:16 Je veux dire, on ne peut pas faire...

06:18 La liberté, ce n'est pas de faire n'importe quoi,

06:20 à ce moment-là, je ne vais pas pisser dans le studio,

06:22 etc., etc. Je veux dire,

06:24 il y a des contraintes, des règles du jeu

06:26 qu'on peut discuter, bien sûr.

06:29 Mais est-ce que ces contraintes-là n'ont pas toujours existé

06:31 et continuent à exister ?

06:33 - Alors, elles ont toujours existé, mais maintenant,

06:35 certains traits qu'on peut avoir, qu'on juge,

06:37 sont fondamentaux dans notre personnalité,

06:39 fondamentaux dans notre moi profond,

06:42 nature authentique, peuvent être

06:44 revendiqués comme un droit fondamental,

06:46 un droit humain.

06:48 - Par exemple ?

06:50 - Si on parle du genre,

06:52 voilà, par exemple,

06:54 si je me sens... je suis né dans un corps d'homme,

06:56 je me sens femme, ma nature profonde

06:58 est d'être... je me sens femme,

07:00 donc j'exige d'être reconnue par la société

07:02 en tant que telle, puisque c'est ma nature,

07:04 et il est hors de question que des lois sociales

07:06 viennent déterminer mon identité.

07:08 Voilà, ça c'est un exemple actuel,

07:10 et qui est éminemment démocratique.

07:12 - Vous me reconnaissez,

07:14 j'ai mon droit, et vous devez me respecter

07:16 en tant qu'homme voulant devenir femme.

07:18 - Voilà, c'est ça.

07:20 Et avec, évidemment, cette

07:22 ambiguïté, puisque

07:24 je trouve que c'est une revendication qui est

07:26 tout à fait logique dans le logiciel

07:28 de l'émancipation de l'individu.

07:30 Et donc ce n'est pas un hasard si c'est aujourd'hui que ça arrive,

07:32 puisque ce sont dans les sociétés démocratiques

07:34 qu'on a cette volonté de s'émanciper,

07:36 de se reconnecter avec son moi,

07:38 que j'appelle le moi profond, le fort intérieur,

07:40 le moi authentique. - Mais comment savoir,

07:42 justement, parce que vous avez pris

07:44 cet exemple,

07:46 comment savoir si à un moment donné ce n'est pas

07:48 un faux moi profond ? Vous avez vu qu'il y a eu

07:50 beaucoup de repentance là-dessus. - C'est le moi

07:52 supposé profond.

07:54 Et avec beaucoup, évidemment,

07:56 d'ambiguïté, c'est là tout le problème,

07:58 il suffit de se... Alors si on

08:00 prend la question du genre, il peut y avoir des personnes qui souffrent

08:02 de dysphorie de genre, de sentir

08:04 appartenir à l'autre genre,

08:06 et c'est une maladie

08:08 qui est recensée par les psychiatres,

08:10 tout à fait vrai, mais d'autres peuvent tout à fait, par un effet

08:12 de mode, qu'on peut avoir d'imitation,

08:14 on sait que les homo sapiens

08:16 adorent se

08:18 regrouper, se conformer à des groupes,

08:20 et donc pour une simple imitation, il suffit de se déclarer

08:22 comme tel, et puis on peut changer d'avis ensuite, plus tard,

08:24 et là, où est le critère,

08:26 où est le barème qui nous permet de savoir

08:28 à quel point on l'est ou pas. - Surtout

08:30 s'il en a fait une consommation d'estrogène

08:32 ou un certain nombre de

08:34 médicaments ou autres, qui feront

08:36 que ça peut être aussi irrémédiable.

08:38 - Oui, absolument. Et là,

08:40 cette consommation dont vous parlez

08:42 soulève un point que je développe,

08:44 qui est l'ambiguïté entre

08:46 ce ressenti, qui

08:48 appartiendrait finalement, quand on écoute

08:50 les témoignages de personnes qui souffrent

08:52 de dysphorie de genre, ils disent

08:54 "Depuis ma plus tendre enfance, depuis mes premiers souvenirs

08:56 de trois ans, je sais que je ne suis pas dans le bon corps."

08:58 Comme s'il y avait presque une âme

09:00 qui aurait elle-même un genre, d'ailleurs c'est intéressant,

09:02 qui s'incarnerait dans le mauvais corps,

09:04 tout en reconnaissant qu'il y a des genres.

09:06 Déjà, c'est la question, mais ensuite, une fois qu'il y a

09:08 le traitement hormonal, pour ceux qui joignent

09:10 le geste à la parole et qui font vraiment l'opération,

09:12 là, c'est un lot de déterminisme qui arrive.

09:14 La biologie et qui, je montre

09:16 dans le livre, peuvent

09:18 avoir un impact, d'abord

09:20 évidemment sur l'aspect extérieur, mais aussi

09:22 sur le tempérament. Et le tempérament,

09:24 ça je ne l'ai pas inventé, je suis allé voir les brochures

09:26 de sensibilisation. - Oui, vous avez vu,

09:28 vous dites "maintenant je sens que je suis fin,

09:30 je pleure, je pleure beaucoup plus facilement, etc."

09:32 - Oui, alors ça c'est très amusant,

09:34 parce que... - C'est intéressant, vous en parlez.

09:36 - C'est intéressant, alors c'est les transsexuels qui

09:38 expliquent leur cheminement, leur transition sur plusieurs années,

09:40 expliquent que pendant le traitement hormonal,

09:42 un homme qui est devenu femme dit "voilà, maintenant j'ai des crises

09:44 de larmes, j'ai des amis qui ont des problèmes de logique",

09:46 le cliché absolu de l'autre genre.

09:48 Et pour les femmes qui sont devenues hommes,

09:50 c'est un excès de libido, ne plus pouvoir se retenir,

09:52 etc. - Elle retombe

09:54 en fait dans un genre,

09:56 elle retombe dans un conformisme, qu'est-ce que c'est ?

09:58 - C'est pour ça que je trouve que c'est particulièrement réactionnaire,

10:00 et je trouve ça très étonnant, alors il n'y a

10:02 aucun jugement moral, mais ce qui est intéressant, c'est de voir que

10:04 d'un côté on a les transsexuels qui font le traitement hormonal,

10:06 les autres transgenres qui disent

10:08 qu'il n'y a aucun genre et que tout est construction sociale,

10:10 les deux manifestent dans le même

10:12 mouvement global LGBT,

10:14 et pourtant, en présupposés

10:16 métaphysiques et idéologiques,

10:18 c'est les opposés absolus. D'un côté,

10:20 il y a des idéalistes qui déconstruisent toutes les conventions,

10:22 et de l'autre, ceux qui veulent rejoindre

10:24 certains déterministes, certains cannevas sociaux.

10:26 - Et certains de conventions, et effectivement, certains

10:28 comportements spécifiques

10:30 de l'homme ou spécifiques

10:32 de la femme. - Voilà.

10:34 - Et alors, au-delà de ça, Gilles Dagoben,

10:36 l'individu aujourd'hui, vous dites,

10:38 vous posez la question avec un point

10:40 d'interrogation, l'individu fin de parcours.

10:42 Alors pour vous, on est vraiment en fin de parcours ?

10:44 - Alors il y a des signaux qui nous montrent qu'on est en fin

10:46 de parcours. - Alors lesquels ?

10:48 - Déjà, c'est difficile de s'en rendre compte quand on n'est pas

10:50 dans les nouvelles générations, en fait c'est un mouvement

10:52 sur plusieurs générations qui se fait, puisque

10:54 par exemple, moi je suis né avant Internet, donc j'ai encore

10:56 d'autres modèles, et petit à petit ça se déplace.

10:58 Mais ce qui,

11:00 l'indicateur qui traduirait cette fin de parcours,

11:02 c'est finalement ce qui définit l'individu.

11:04 L'individu est défini par le libre-arbitre.

11:06 Le libre-arbitre, c'est penser par soi-même,

11:08 avoir le choix entre une situation A ou B, pouvoir

11:10 faire autrement que le chemin

11:12 déjà tracé. Or, ce libre-arbitre

11:14 aujourd'hui est attaqué de toutes parts,

11:16 sur plein de fronts.

11:18 D'abord, théoriquement... - Par exemple, oui, de l'idée...

11:20 - Théoriquement, par la science.

11:22 Les avancées en neurosciences, en biologie,

11:24 montrent que finalement,

11:26 tout ça ressemble à une illusion.

11:28 Il y a des expériences

11:30 qui sont déjà anciennes, mais par exemple

11:32 l'expérience de Libet, en

11:34 73, on demande à quelqu'un

11:36 d'exprimer son libre-arbitre en levant le bras droit,

11:38 le bras gauche, le doigt droit, selon son bon

11:40 vouloir. - Ouais. - Et avec des électrodes,

11:42 et on voit une activation du signal

11:44 électrique avant la décision consciente,

11:46 jusqu'à 10 secondes dans certains cas,

11:48 et on peut à ce moment-là, prédire

11:50 le choix qui va être fait volontairement,

11:52 consciemment, etc. Donc dans des conditions très expérimentales,

11:54 déjà on se rend compte, ensuite, en sociologie,

11:56 on voit bien qu'il y a des grandes tendances,

11:58 que les personnes pensent être libres et suivent

12:00 des grands mouvements. Le Big Data

12:02 permet désormais d'avoir ces données-là.

12:04 Donc ça, c'est à la limite théorique.

12:06 Mais dans les faits, et c'est là où c'est intéressant, quand bien même

12:08 le libre-arbitre existerait, est-ce que l'environnement

12:10 actuel nous permet de l'exercer ?

12:12 Et c'est ça qui est intéressant. Alors, on dit, notre

12:14 société démocratique a comme

12:16 fondement le consentement libre

12:18 et éclairé. Alors, le consentement est-il

12:20 libre... - On en a parlé pour les vaccins,

12:22 pour les médicaments et autres, par exemple.

12:24 - Par exemple, voilà. Donc le consentement est-il

12:26 libre lorsqu'on peut avoir

12:28 des manipulations algorithmiques qui nous

12:30 mettent dans des trajectoires,

12:32 peuvent jouer sur nos biais cognitifs

12:34 pour nous orienter dans certaines décisions,

12:36 dans la Silicon Valley, les GAFAM

12:38 ont, le vôtre et le mien,

12:40 ce qu'on appelle une poupée vaudou.

12:42 Je ne sais pas si vous connaissez la poupée vaudou.

12:44 - Donc la poupée vaudou, quand on la pique, ça touche

12:46 la vraie personne.

12:48 Cette poupée vaudou, c'est le double numérique.

12:50 Toutes nos données forment un modèle

12:52 et en voulant nous conduire à consommer

12:54 ou à prédire nos habitudes,

12:56 il suffit de jouer sur cette poupée pour que nous,

12:58 ensuite, on soit... - Vous voulez dire,

13:00 on crée de toutes pièces un espèce de modèle

13:02 qui rassemble énormément... - Un avatar.

13:04 - Un avatar qui ressemble à des millions de gens.

13:06 - A nous-mêmes, individualisés.

13:08 Et donc, un exemple, c'est la question, je ne sais pas si

13:10 ça vous est déjà arrivé, de parler

13:12 avec des amis et le lendemain, vous avez une publicité

13:14 qui ressemble étrangement à votre conversation.

13:16 La question, c'est est-ce qu'on est écouté ?

13:18 Si on était écouté,

13:20 déjà c'est nié par les gaffes-femmes,

13:22 mais quand bien même, ça supposerait une quantité

13:24 de données... - C'est pas un peu complotiste, ça ?

13:26 - Justement, ça supposerait une quantité de données hallucinante

13:28 et donc, ça n'est pas la solution.

13:30 En revanche, c'est que la poupée vaudou

13:32 qu'ils ont, de nous-mêmes, permet

13:34 de prédire nos comportements à un, deux,

13:36 trois, cinq jours, prédire nos envies pour cibler

13:38 les publicités. Et à ce moment-là,

13:40 la publicité ciblée n'est que la conséquence

13:42 de notre état initial, précédent.

13:44 Et c'est là où la question de

13:46 la manipulation peut être tout à fait envisagée,

13:48 puisque si on nous connaît parfaitement, on peut jouer là-dessus.

13:50 Donc ça, c'est le consentement libre, mais le consentement est inégalement

13:52 éclairé dans l'environnement d'aujourd'hui,

13:54 qui est particulièrement complexe, changeant, comment

13:56 se repérer, où trouver les bonnes informations,

13:58 mais également, où trouver... - Entre les fausses,

14:00 les vraies, les fakes, et tout ça.

14:02 - Ce qu'on appelle les deepfakes, qui sont les informations

14:04 manipulées, très réalistes. Donc là,

14:06 on va sûrement avoir besoin d'intelligence artificielle

14:08 pour faire un premier feed

14:10 à cette submersion, je reprends l'expression de Bruno Patignot,

14:12 la submersion

14:14 d'informations, mais également

14:16 aussi une ambivalence entre un

14:18 environnement qui est désormais régi

14:20 par ce qu'on appelle une technocratie, des process,

14:22 notamment dans les entreprises, est-ce que

14:24 l'individu, dans ces cas-là, a encore

14:26 le loisir d'exprimer

14:28 sa marge de manœuvre ? Je prends un exemple très

14:30 concret de deux situations.

14:32 Si vous voulez faire un crédit, vous allez voir votre banquier,

14:34 et il vous dit "Ah bah non, je ne peux pas,

14:36 le logiciel m'a dit que le taux avait changé,

14:38 maintenant je ne peux pas et je n'ai pas la main là-dessus,

14:40 c'est le calcul,

14:42 et je n'ai pas la marge de manœuvre,

14:44 finalement il n'est qu'exécutant. Inversement, dans un

14:46 environnement qui n'est pas optimisé à ce point-là,

14:48 on a le plombier par exemple, qui se débrouille,

14:50 exerce son libre-arbitre, peut trouver des solutions,

14:52 et a une marge de manœuvre.

14:54 Et ça, c'est la première

14:56 grande tendance de l'uniformisation

14:58 par des process, mais de l'autre côté, on a aussi

15:00 et ça, on aura peut-être l'occasion d'y revenir,

15:02 un monde dans lequel

15:04 les lois, les règles ne sont pas données pour l'individu,

15:06 il doit choisir lui-même quelles sont ses trajectoires

15:08 de vie. Et face à cette complexité,

15:10 on réalise

15:12 qu'il y a beaucoup de maladies contemporaines,

15:14 la dépression, le burn-out, etc.

15:16 Et à ce moment-là, les intelligences artificielles

15:18 peuvent prendre le relais et se substituer à notre

15:20 libre-arbitre qui se révèle, dans certains cas,

15:22 sous-optimal. Et donc l'environnement d'aujourd'hui

15:24 rend cet outil forgé

15:26 par des milliers d'années d'évolution, peut-être

15:28 sous-optimal, parce que justement, il n'est

15:30 plus adapté à notre environnement actuel.

15:32 - C'est vertigineux, en tout cas, ce que ça donne.

15:34 - C'est vertigineux, c'est...

15:36 - On va en continuer à en discuter après cette petite

15:38 pause, tout de suite.

15:40 - Avec vous, au 0826 300 300

15:42 pour poser vos questions, pour intervenir ou pour réagir.

15:44 A tout de suite sur Sud Radio.

15:46 - Sud Radio

15:48 Bercov, dans tous ses états, midi 14h.

15:50 André Bercov.

15:52 - Ici

15:54 Sud Radio.

15:56 Les Français

15:58 parlent au français.

16:00 Les carottes sont cuites.

16:02 Les carottes sont cuites.

16:04 - Sud Radio

16:06 Bercov, dans tous ses états.

16:08 - 13h31, sur Sud Radio, nous sommes

16:10 toujours avec Julien Gobin, essayiste,

16:12 qui vient nous voir pour ce livre,

16:14 "L'individu, fin de parcours, point d'interrogation,

16:16 le piège de l'intelligence artificielle".

16:18 C'est aux éditions Gallimard.

16:20 - Alors justement, Julien Gobin, parce que

16:22 ça pose effectivement des problèmes,

16:24 je disais, vertigineux,

16:26 parce que nous sommes tous extrêmement

16:28 attachés à notre livre "Arbite"

16:30 dont vous parlez, nous sommes attachés

16:32 à l'émancipation, nous sommes

16:34 attachés à être soi-même,

16:36 et nous sommes aussi attachés à faire société,

16:38 comme vous dites, tout ça, je ne crois pas

16:40 que ce sont des choses qui vont disparaître, en tout cas

16:42 de sitôt. En tout cas, une bonne partie

16:44 de l'humanité, on le voit encore

16:46 aujourd'hui, tous les jours, veille à ça.

16:48 Et puis vous avez cet

16:50 extraordinaire, effectivement,

16:52 développement de l'intelligence

16:54 artificielle, de l'homme "augmenté",

16:56 avec le transhumanisme,

16:58 cette espèce de

17:00 de savoir

17:02 par rapport à, effectivement,

17:04 d'aller plus loin, on appelle ça toujours le progrès,

17:06 on a toujours l'air du progrès, mais

17:08 c'est le même, enfin le même, il y a le progrès

17:10 par les révolutionnaires,

17:12 les lumières, l'humanisme, et là le progrès

17:14 par les GAFAM, la silicone

17:16 et les transhumanistes

17:18 et autres. C'est plus du tout

17:20 le même progrès. - Alors,

17:22 c'est un progrès qui a quand même un lien.

17:24 Alors, je m'explique,

17:26 le transhumanisme tel qu'on le connaît de la

17:28 Silicon Valley, cette idéologie, reprend

17:30 de manière étonnante le programme

17:32 des lumières, mais par d'autres moyens. C'est la continuation

17:34 des lumières par d'autres moyens.

17:36 - Alors, quels moyens, justement ? - Alors, ces moyens, c'est que,

17:38 je reprends en deux mots la philosophie

17:40 des lumières, c'est le progrès de l'humanité, plus

17:42 de moralité, plus de civilisation,

17:44 améliorer l'espèce humaine

17:46 dans une longue trajectoire par l'éducation.

17:48 Mais on a, à ce moment-là,

17:50 les progrès de la science qui sont

17:52 pas encore ceux d'aujourd'hui.

17:54 Néanmoins, Condorcet,

17:56 qui est un parfait représentant,

17:58 se demande, il se dit,

18:00 mais finalement, ce qui fait le succès

18:02 de l'humanité, c'est l'éducation.

18:04 Le problème, c'est que, eh bien,

18:06 tout ça repose sur un substrat biologique,

18:08 une certaine nature

18:10 humaine, qu'on ne peut pas contrôler.

18:12 - Oui. Et Condorcet disait

18:14 "c'est la biologie, la base".

18:16 - C'est la base. Et si on pouvait modifier cette biologie

18:18 comme on peut sélectionner des chiens ?

18:20 Si des parents qui ont un tempérament

18:22 fougueux, impétueux,

18:24 violent, pouvaient ne pas

18:26 donner des enfants qui ont cette

18:28 cette conformation ?

18:30 Et est-ce qu'on ne pourrait pas changer, à ce moment-là,

18:32 la biologie humaine pour participer

18:34 à un outil parmi les autres pour améliorer

18:36 l'humanité ? Or, ce qu'on a

18:38 découvert, l'histoire a

18:40 tragiquement montré que le projet de la lumière

18:42 s'est un peu fracassé au cours du XXème siècle.

18:44 Il y a eu la Seconde Guerre mondiale, la Shoah, la décolonisation,

18:46 mais également la crise écologique,

18:48 et un peu cette poursuite de se dire "l'homme maîtrise la nature".

18:50 Et le transhumanisme

18:52 de la Silicon Valley se dit finalement

18:54 l'erreur ce n'est pas

18:56 le progrès de l'humanité, l'erreur c'est

18:58 d'avoir mal compris ce qu'était l'être humain.

19:00 L'être humain n'est pas doté de

19:02 ce libre arbitre un peu métaphysique

19:04 qui viendrait de nulle part, cet entendement

19:06 qui reposerait sur des

19:08 présupposés un peu mystérieux. Non, l'être humain

19:10 c'est un circuit,

19:12 un gros ordinateur. Et une fois

19:14 qu'on peut avoir compris ça, on va pouvoir

19:16 intervenir réellement et ne pas

19:18 avoir des espoirs trop hauts pour l'humanité,

19:20 au contraire c'est en connaissant bien ce qu'est la nature humaine

19:22 réellement qu'on va pouvoir reprendre ce projet.

19:24 Et finalement c'est à partir de là

19:26 on comprend très bien que le projet

19:28 c'est à partir d'innovations technologiques

19:30 qui sont les nanotechnologies,

19:32 les biotechnologies,

19:34 l'informatique mais aussi les neurosciences,

19:36 de pouvoir

19:38 améliorer la nature humaine pour

19:40 ne pas la faire tomber dans ses pièges.

19:44 - Alors pourquoi ?

19:46 - Améliorer la nature humaine, on veut donc.

19:48 Mais la changer, la modifier, la bouleverser

19:50 ou pas ? Parce qu'il est là le problème.

19:52 - La bouleverser parce qu'elle est

19:54 sur certains points très archaïque.

19:56 Et c'est amusant, on parle beaucoup

19:58 alors voilà, je fais un tout petit parallèle

20:00 très amusant mais avec, enfin pas amusant du tout

20:02 mais révélateur.

20:04 La guerre en Ukraine.

20:06 La guerre en Ukraine, quand elle a éclaté, on avait

20:08 Vladimir Poutine qui représente,

20:10 qui est l'archétype du mal alpha

20:12 pétri de ces...

20:14 - Mal dominants. - Mal dominants,

20:16 le gorille au dos argenté,

20:18 qui pose le point sur la table et de l'autre côté

20:20 l'Occident qui est au contraire sur le

20:22 dépasser tout ces biais

20:24 qui font qu'ils ont peut-être été efficaces

20:26 à une époque mais nous ne sommes plus dans ce monde là.

20:28 Et le transhumanisme cherche à dépasser

20:30 un peu tout ces

20:32 archaïsmes évolutifs qui ont été

20:34 avantageux à une époque mais désormais se révèlent

20:36 inefficients.

20:38 - Alors justement, si vous poussez

20:40 la métaphore ukrainienne aujourd'hui,

20:42 sans prendre de tout parti,

20:44 on va pas faire de politique, mais il dit "attendez,

20:46 aujourd'hui quand même le mal

20:48 dominant alpha aux écailles

20:50 d'argent est en train de gagner la

20:52 guerre". C'est-à-dire, est-ce que franchement

20:54 malgré tout ce dont on parle

20:56 effectivement, intelligence artificielle

20:58 etc., il n'empêche que

21:00 aujourd'hui on est dans un monde multipolaire

21:02 où les nations s'affrontent,

21:04 enfin ce n'est plus

21:06 le monde d'avant. Alors en même

21:08 temps il y a ça, mais est-ce que

21:10 l'Occident qui est encore le gardien

21:12 de ce trésor-là

21:14 et on a l'impression

21:16 non pas qu'ils se fourvoient, mais qu'ils s'affaiblissent

21:18 avec ça ? - Alors,

21:20 l'histoire nous le dira, parce que bon,

21:22 si on parle sur le long terme, on sait qu'il y a des étapes

21:24 de l'histoire qui peuvent être différentes.

21:26 Mais la question c'est plutôt de se dire,

21:28 est-ce que la période

21:30 actuelle, conflictuelle,

21:32 renforce ou affaiblit les valeurs

21:34 au sein de la cohésion ? Est-ce qu'on défend plus que

21:36 jamais les droits de l'homme, ou est-ce qu'au contraire,

21:38 nous aussi on va faire des compromis pour

21:40 abandonner notre modèle ? Et en général,

21:42 quand une civilisation est attaquée, elle a tendance

21:44 à resserrer ses valeurs fondamentales.

21:46 - Resserrer les rangs. - Voilà, resserrer les rangs.

21:48 Et pour revenir, donc là,

21:50 la discussion qu'on avait était sur le

21:52 transhumanisme, donc c'est

21:54 le transhumanisme de la Silicon Valley,

21:56 il ne faut pas penser que c'est tout le transhumanisme.

21:58 Et c'est là où le débat en général peut-être

22:00 se fourvoie, c'est que c'est une idéologie

22:02 particulière, mais on peut tout à fait avoir un transhumanisme

22:04 féministe, un transhumanisme écologiste,

22:06 parce que ce sont finalement, c'est la technique

22:08 qui viendrait servir des valeurs.

22:10 - Les valeurs qui sont choisies

22:12 par les hommes quand même. - Par les hommes, absolument.

22:14 Mais, donc là, on a

22:16 évidemment un bon candidat pour le transhumanisme

22:18 de la Silicon Valley, puisqu'il a des affinités

22:20 avec les notions d'individus, mais

22:22 je ne vois pas aujourd'hui

22:24 une levée en masse des occidentaux

22:26 dire "oui, on veut absolument les implants neuronaux",

22:28 etc. En revanche, on n'a pas

22:30 besoin d'adhérer aux implants neuronaux

22:32 pour utiliser son smartphone, pour être bardé

22:34 de technologie. Et c'est là où

22:36 l'autre définition finalement qu'il faut retenir

22:38 pour le transhumanisme, ce n'est pas une idéologie particulière,

22:40 mais finalement c'est l'irruption

22:42 de la technologie dans toutes les sphères de notre existence,

22:44 être humain compris.

22:46 - Mais alors justement,

22:48 être humain

22:50 compris, et c'est vraiment là où on a l'impression

22:52 non pas d'une frontière, mais

22:54 jusqu'où peut-on aller ?

22:56 Parce que quelque part, si vous écoutez

22:58 les transhumanistes et les genrés,

23:00 encore une fois,

23:02 je reviens à ça, la biologie n'existe

23:04 plus, ce qui ne veut strictement rien dire,

23:06 mais effectivement,

23:08 ils le pensent peut-être, ils ont leurs raisons, je ne sais pas,

23:10 mais de dire "écoutez,

23:12 aujourd'hui, nous pouvons tout maîtriser".

23:14 Est-ce qu'on peut tout

23:16 maîtriser ou est-ce qu'on va tout maîtriser ?

23:18 - On commence à maîtriser, on commence,

23:20 et cette idée de

23:22 transformer le hasard en choix,

23:24 le hasard de la nature en choix volontaire.

23:26 Donc ce triomphe de la volonté individuelle

23:28 est justement un élément caractéristique

23:30 de la quête de l'individu. Je donne deux exemples,

23:32 par exemple, vous parliez du changement de sexe,

23:34 le traitement hormonal,

23:36 la transition, c'est

23:38 de la biologie, il y a un endoctrinologue,

23:40 un chirurgien, c'est de la science.

23:42 Il n'y a pas de changement de sexe sans la science.

23:44 Je parle également, maîtriser un

23:46 élément qui serait

23:48 par définition le plus mystérieux,

23:50 c'est la vie, donner la vie, la naissance,

23:52 l'embryon. Il y a des progrès

23:54 effarants en sélection

23:56 des embryons, on appelle ça l'eugénisme,

23:58 qui résonne de manière

24:00 automatique comme le nazisme, sélectionner

24:02 les personnes. Or c'est quelque chose de bien

24:04 plus ancien, fin 19ème,

24:06 début 20ème, toutes les sociétés progressistes

24:08 en Europe, en Occident,

24:10 étaient eugénistes, et aujourd'hui ça revient,

24:12 mais d'une manière non pas

24:14 étatique, ce n'est pas à l'état de dire ce

24:16 qu'il faut, mais individuellement. Alors,

24:18 comment ça se passe ? Lors d'une fécondation

24:20 in vitro, concrètement, on a une fécondation in vitro.

24:24 Plusieurs embryons sont sur

24:26 la table, on élimine déjà, et ça se fait couramment,

24:28 ceux qui ont une maladie génétique

24:30 absolument terrible.

24:32 On peut faire ça maintenant avec la trisomie aussi,

24:34 mais dans des pays comme

24:36 les Etats-Unis, on peut choisir

24:38 la couleur des yeux, le sexe,

24:40 et là où ça devient, la frontière

24:42 est toujours plus ténue, il y a maintenant des

24:44 prédictions qu'on peut faire,

24:46 des prédictions de tempérament, de personnalité,

24:48 - Ah carrément ? - Oui, qui sont possibles,

24:50 ce sont des probabilités.

24:52 En fait, c'est ce qu'on appelle

24:54 des scores polygéniques, c'est un terme qui désigne,

24:56 finalement, il n'y a pas un gène de l'intelligence,

24:58 mais on se rend compte qu'il y a mille variants génétiques,

25:00 et on peut faire des corrélations et se dire

25:02 celui-ci a 30% de chance de mieux

25:04 réussir, celui-ci 70%.

25:06 - Et on peut choisir ça sur les... - Alors, aujourd'hui,

25:08 ça ne s'est pas encore accepté,

25:10 mais on sait le faire, et ça commence à se...

25:12 On est à une phase de transition, et la question que je pose, c'est

25:14 au nom de quoi s'opposerait-on

25:16 à l'avenir ? Est-ce qu'on a encore du sacré,

25:18 une morale judéo-chrétienne qui dirait

25:20 que si on a du sacré, on n'y touche pas ? Ou est-ce que finalement,

25:22 les valeurs libérales, chacun choisit ce qu'il considère

25:24 être la vie bonne, ses enfants, pourquoi

25:26 ne pas payer une bonne école, et aussi un bon capital génétique ?

25:28 - Oui, ça c'est en tout cas

25:30 la question à poser. Maintenant,

25:32 vous avez aussi tout le côté de la dimension

25:34 économique, la marchandisation.

25:36 Quid de la marchandisation ?

25:38 Parlons-en, parce que vous imaginez, en parlant de tout ça,

25:40 les marchés immenses,

25:42 colossaux, planétaires, qui peuvent s'ouvrir

25:44 avec ça, déjà. - Et avec

25:46 la question, est-ce que

25:48 le néolibéralisme s'étend là-dessus ? Est-ce qu'il y a

25:50 des garde-fous ? Et au nom de quoi justifier

25:52 ces garde-fous quand la science moderne montre que finalement

25:54 les grandes valeurs métaphysiques auxquelles

25:56 on croyait ont été infirmées ? Avant c'était Dieu, et puis

25:58 la science dit "Dieu, on n'est pas sûr".

26:00 Au nom de quoi justifier à ce moment-là ces interdits ?

26:02 - Donc en fait, c'est Dieu, on n'est pas sûr, et l'homme,

26:04 on n'est pas sûr non plus ?

26:06 On peut la ranger.

26:08 - Et d'ailleurs, cette marchandisation peut être même

26:10 au niveau de l'État, dans le sens où, faites naître

26:12 un enfant par le hasard, conception naturelle,

26:14 il a peut-être des chances d'avoir

26:16 des tards à l'avenir.

26:18 C'est un coup, un fardeau pour la société.

26:20 - Ne prenez plus de risques.

26:22 - Et on va être encouragé à une procréation

26:24 en dehors de l'acte sexuel

26:26 hasardeux, mais dans un environnement médicalisé.

26:28 D'ailleurs, ce qui va de pair avec l'allongement

26:30 de la père de natalité, on fait des enfants de plus en plus

26:32 tard, donc tout ça tend à séparer

26:34 la conception de l'acte sexuel.

26:36 - Oui, absolument, qui est déjà...

26:38 D'ailleurs, la pilule a commencé,

26:40 par rapport à ça, pour obliger

26:42 faire l'amour à l'enfant.

26:44 Mais là, à votre avis,

26:46 et vous posez la question qui est fondamentale,

26:48 est-ce que

26:50 effectivement, on ne sera pas amené à dire

26:52 "Mais au fond, pourquoi des limites ?

26:54 Allons-y, il n'y a pas de limites à ce moment-là."

26:56 Ou, c'est parce qu'à un moment donné, il ne va pas

26:58 se poser le problème métaphysique. Là, on est

27:00 en plein de réflexion philosophique, mais c'est pas

27:02 inintéressant du tout, au contraire.

27:04 Il n'y a pas de limites.

27:06 Où est le contre-pouvoir ?

27:08 - C'était

27:10 une bonne question.

27:12 Le logiciel de l'individu

27:14 et le logiciel de la science moderne, c'est de repousser

27:16 les limites. Pour la science, c'est de comprendre

27:18 ce qui est mystérieux.

27:20 Et pour l'individu, c'est d'élargir

27:22 son champ d'action. Et c'est là, d'ailleurs,

27:24 où on a l'aspect

27:26 aussi séduisant de la technologie.

27:28 C'est que, sans technologie, il n'y a pas cette

27:30 émancipation possible de l'individu.

27:32 On n'a jamais été aussi libre individuellement, on peut même être autonome.

27:34 Je pourrais très bien vivre un an chez moi

27:36 en me faisant livrer mes repas, en ayant

27:38 des visioconférences. Cette

27:40 autonomie qu'on a, suppose une perfusion

27:42 technologique. Perfusion technologique

27:44 qui, en même temps, repose sur des principes

27:46 qui sont la négation de l'idée qu'il y aurait

27:48 une nature humaine telle

27:50 qu'on la conçoit encore aujourd'hui. Et donc,

27:52 ces limites, vers quoi ça nous tend ?

27:54 C'est un projet un peu infini,

27:58 puisqu'on commence désormais à voir

28:00 notre monde actuel, qui est balisé

28:02 par la technologie. Les mystères commencent à

28:04 disparaître, il y en a toujours des nouveaux. Mais maintenant,

28:06 c'est la quête de l'être humain, mais aussi

28:08 la quête de l'espace. Et cette quête

28:10 de partir à la conquête

28:12 du cosmos peut ouvrir un nouveau

28:14 sacré. Puisque ce qui fédère les

28:16 hommes en général...

28:18 - Il faut une dimension de sacralité, c'est évident.

28:20 - Et cette sacralité repose

28:22 sur l'inconnu, le mystère. Par exemple,

28:24 la montagne,

28:26 imaginons qu'on est dans une société traditionnelle,

28:28 dans le passé. Cette

28:30 montagne mystérieuse, on peut l'investir

28:32 de beaucoup de choses. Mais lorsqu'on connaît, on ne va pas

28:34 mettre des dieux dedans, il va falloir chercher ailleurs.

28:36 Et où est cet ailleurs ? Quand on regarde le ciel, maintenant,

28:38 la pollution lumineuse, on ne voit même plus les étoiles.

28:40 Donc, où est-ce qu'on peut investir ce sacré ?

28:42 Et c'est peut-être un élément qui pourrait

28:44 ouvrir l'humanité à une nouvelle

28:46 sacrée. - En tout cas, on ne le voit pas aujourd'hui, ce nouveau

28:48 sacré. - Non, on ne le voit pas et on est en recherche.

28:50 En tout cas, la technologie

28:52 pourrait ouvrir de nouveaux champs.

28:54 Mais en ce moment, on a une période de crise

28:56 puisque le sacré a

28:58 été démystifié.

29:00 - Oui, c'est ça. Et donc,

29:02 comme disait l'autre, "Dieu est mort,

29:04 Marx est mort et moi-même, je ne me sens pas très bien."

29:06 Disait Mark Twain.

29:08 Mais non, pas Mark Twain, d'ailleurs, c'est Boris Johnson.

29:10 - On marque

29:12 une petite pause sur Sud Radio et on revient

29:14 dans un instant. Vous aurez la parole 0826

29:16 300 300. A tout de suite.

29:18 - Sud Radio

29:20 Bercov, dans tous ses états.

29:22 Appelez maintenant pour réagir.

29:24 0826 300 300.

29:26 - Ici

29:28 Sud Radio.

29:30 Les Français

29:32 parlent au français.

29:34 Je n'aime pas

29:36 la blanquette de veau.

29:38 Je n'aime pas la blanquette

29:40 de veau. - Sud Radio

29:42 Bercov, dans tous ses états.

29:44 - Julien Gobin, un

29:46 livre, non pas de science-fiction,

29:48 mais de science actuelle.

29:50 L'individu fin de parcours, le piège de l'intelligence

29:52 artificielle. Effectivement,

29:54 Julien Gobin, je voudrais te parler, puisqu'on a fait

29:56 un tour d'horizon, mais il faut lire

29:58 le livre, je vous le recommande. C'est un livre

30:00 où il faut s'appliquer, mais c'est

30:02 un livre passionnant, parce que

30:04 il montre effectivement à la fois

30:06 les dimensions et les limites

30:08 de l'extraordinaire, et si on veut le dire, évolution

30:10 qui est en cours actuellement, technologique,

30:12 comportementale, scientifique,

30:14 biologique, etc.

30:16 Mais vous avez parlé justement du piège.

30:18 Il y a des pièges là-dedans, et de sacrés pièges.

30:20 - Il y a de sacrés pièges.

30:22 Le premier piège

30:24 et le principal, c'est celui

30:26 d'attaquer notre nature même

30:28 d'individu qui est notre logiciel.

30:30 Pourquoi l'intelligence artificielle est un piège ?

30:32 Et la technique de manière plus générale, puisqu'il n'y a pas d'intelligence

30:34 artificielle sans une technologie plus large.

30:36 Elle n'apparaît pas de nulle part, elle est greffée

30:38 à un écosystème.

30:40 C'est que dans notre monde actuel,

30:42 on est sous

30:44 perfusion technologique, et cette perfusion technologique

30:46 fait une externalisation de nos

30:48 capacités physiques, on est de plus en plus

30:50 dépendant de moins en moins autonome,

30:52 mais cette externalisation

30:54 de la technologie pour survivre,

30:56 pour faire les choses,

30:58 et donc, externalisation également

31:00 de notre capacité cognitive,

31:02 de notre cerveau. Puisque je

31:04 montre dans ce livre qu'il y a

31:06 évidemment le remplacement

31:08 dans le travail, évidemment, pour être

31:10 plus performant. Mais pour moi, le vrai point

31:12 crucial et qui

31:14 met en cause notre individualité, c'est

31:16 que notre société contemporaine crée des dilemmes,

31:18 des grands dilemmes dans l'existence des individus,

31:20 avec qui se marier,

31:22 avec quelle carrière choisir, qui sont beaucoup plus

31:24 durs qu'auparavant, puisque c'est à nous-mêmes de trouver

31:26 le sens. Nous sommes responsables de nos choix.

31:28 - Avant, il y avait des carrières qui étaient

31:30 orientées, plus ou moins orientées. - Absolument, ça pouvait

31:32 être carrières orientées, la famille qui nous dit...

31:34 Tout était balisé avec une marge d'erreur,

31:36 on pouvait être très malheureux, mais on ne se posait pas,

31:38 on n'avait pas le fardeau existentiel sur nos

31:40 épaules. L'intelligence

31:42 artificielle, imaginons un chat GPT

31:44 qui n'est plus connecté à seulement

31:46 Internet pour le travail, mais à nos données

31:48 personnelles, toutes nos données. Aussi bien

31:50 notre biologie, notre code génétique,

31:52 nos déplacements, nos amis. On pourrait

31:54 avoir, à ce moment-là, comme une

31:56 synthèse d'un super coach psychiatre,

31:58 meilleur ami,

32:00 directeur

32:02 de ressources humaines, grand compagnon,

32:04 mais qui aurait l'avantage d'être rationnel

32:06 et objectif, et nous faire des recommandations

32:08 comme on a d'ailleurs, désormais, déjà

32:10 sur les réseaux sociaux, des recommandations algorithmiques, de lieux

32:12 à fréquenter, de suggestions, même quand

32:14 ceux qui sont sur des sites de rencontres, d'applications,

32:16 il y a des suggestions qui viennent d'algorithmes, en fonction

32:18 de plusieurs critères. - Et là, ce serait

32:20 à propos de votre parcours professionnel

32:22 ou autre, tout ? - Voilà, de

32:24 toutes nos décisions, et

32:26 alors, la question c'est

32:28 est-ce que ça sera

32:30 efficace ou pas ? Et pour y répondre, il faut

32:32 se demander, est-ce que chez l'homme, il y a des choses qui

32:34 échapperaient à des lois de la

32:36 causalité matérielle ? Est-ce qu'on est autre chose que de la matière ?

32:38 Si nous ne sommes que de la matière, il suffit

32:40 de donner tout ce qu'on a comme données, et on

32:42 peut faire des prédictions, comme la poupée vaudou dont on parlait

32:44 tout à l'heure. - C'est ça, ouais. - Et donc, si

32:46 on fait des prédictions... - C'est la machine, quoi, c'est l'homme-machine.

32:48 - C'est l'homme-machine, et avec des recommandations qui viendraient

32:50 maximiser notre recherche

32:52 de bien-être, parce que finalement, on peut se

32:54 dire, et c'est un peu une autre façon de voir les choses,

32:56 le libre-arbitre. Pourquoi est-ce qu'on

32:58 agit librement ? Parce qu'on recherche ce qui est le mieux pour nous,

33:00 en général. Et si on peut avoir

33:02 un outil qui est plus performant, un super

33:04 libre-arbitre, numérique, mais qui reste super

33:06 libre-arbitre, ne va-t-on pas déléguer

33:08 ces choix-là ? Et en les délégant,

33:10 évidemment, on perd à chaque

33:12 décision que nous prenons, nous mobilisons notre

33:14 personnalité, on arbitre... - On perd l'autonomie.

33:16 - Voilà, et alors, on dit toujours

33:18 "le cerveau est un muscle", mais effectivement,

33:20 chaque décision mobilise

33:22 des sphères de nous-mêmes, notre passé, et plus

33:24 on délègue, moins on forge

33:26 cette individualité, cette autonomie,

33:28 et plus on devient passif. Et là, il y a

33:30 un véritable piège, qui pour moi est le piège le plus

33:32 concret, ces intelligences artificielles

33:34 dans notre vie personnelle ne sont pas encore arrivées,

33:36 mais je pense que c'est une question de

33:38 seulement quelques années. - Ah oui.

33:40 Vous voulez dire, en fait, c'est la tentation

33:42 de modeler,

33:44 de... je ne dirais pas de robotiser

33:46 ces...

33:48 ces caricaturales, mais quand même, quelque part,

33:50 en fait,

33:52 là, ce serait la fin de l'homme

33:54 autonome. Ce serait

33:56 la fin, non seulement de l'individu, mais

33:58 de l'individu libre, parce qu'après tout,

34:00 je m'en remets au coach,

34:02 compagnon, homme, machine et compagnie

34:04 qui va m'indiquer mieux. Il sera mieux

34:06 que moi, ce qui est bon pour moi.

34:08 - Voilà, tout à fait. Et si on le replace...

34:10 - Le corps du bien. - Si on le replace dans la trajectoire

34:12 historique, on avait dans les sociétés

34:14 qu'on appelle

34:16 traditionnelles, holistes, ce sont les sociétés

34:18 où la croyance collective dicte les comportements

34:20 de l'individu. Finalement, on s'en remettait à cette

34:22 collectivité. On a eu ensuite la société

34:24 des lumières. - Oui, on l'a eu, ça, déjà. - On l'a eu. La société individualiste

34:26 libérale, qui est la nôtre, on place

34:28 dans l'individu la possibilité

34:30 de choisir. Mais désormais,

34:32 on a tendance à externaliser de nouveau à l'extérieur,

34:34 mais cette fois-ci, cette recommandation

34:36 n'est pas pour tout le monde, c'est individualisé.

34:38 Et ça serait un compromis entre les

34:40 anciens modèles et celui d'aujourd'hui.

34:42 - Pas pour la moindre choix, voilà. - Ça fait réagir,

34:44 au standard, on a Frédéric qui nous appelle depuis Nantes.

34:46 Bonjour Frédéric. - Bonjour Frédéric.

34:48 - Bonjour. - Oui, bonjour M. Bercoff,

34:50 bonjour à toute l'équipe de Sur Radio,

34:52 et bonjour à votre invité. Eh bien, écoutez,

34:54 en vous attendant, moi,

34:56 je me posais... J'étais d'abord un peu effrayé de ce que

34:58 j'entendais, et puis je me

35:00 posais quand même

35:02 quelques questions, et je me demandais si finalement

35:04 l'intelligence artificielle,

35:06 au lieu d'être

35:08 l'homme augmenté,

35:10 ça n'allait pas être au bout du compte l'homme diminué.

35:12 Parce que quand on voit

35:14 quand même que, au bout du compte,

35:16 tout ce qui se passe

35:18 avec cet aspect des choses,

35:20 c'est quand même les

35:22 restrictions, les diminutions, les suppressions,

35:24 sans arrêt, et tout le temps,

35:26 de toutes les libertés

35:28 individuelles.

35:30 Et on voit encore, au niveau de l'Europe,

35:32 on voit M. Breton et ce qu'il fait,

35:34 en France, on voit

35:36 la dernière loi de l'article 4

35:38 qui détaille le passé, on voit qu'à chaque

35:40 fois, à chaque fois qu'il y a

35:42 un soi-disant progrès, à chaque fois

35:44 c'est un détriment d'ordre. - Il s'agit de rétrécir

35:46 la liberté, de rétrécir l'individu, oui.

35:48 - Voilà. - Très juste.

35:50 Celui-là, le problème,

35:52 hein, Julia. - C'est tout à fait le problème

35:54 qu'on soulevait d'ailleurs en début d'émission,

35:56 finalement, l'environnement technique

35:58 dans lequel nous sommes, et dans lequel

36:00 l'intelligence artificielle est partie prenante,

36:02 diminue notre marge de manœuvre,

36:04 diminue notre marge d'action.

36:06 Mais alors là, on pourrait aller un peu plus loin dans cette

36:08 observation, est-ce que

36:10 nous l'accepterons

36:12 ou pas ?

36:14 Et on risque de l'accepter aussi, parce que

36:16 quel serait l'effet ?

36:18 Est-ce que le bien-être augmenterait ou pas ?

36:20 Et finalement, est-ce qu'on fait ? - Mais qu'est-ce que c'est

36:22 que le bien-être ? Est-ce que le bien-être n'est pas

36:24 d'abord le sentiment d'être libre

36:26 et d'avoir son libre à vivre ? - Et bien c'est toute la question...

36:28 - C'est ça le bien-être aussi, non ?

36:30 - Pour certains en tout cas.

36:32 - Il y a ce fameux texte d'Etienne Delabois,

36:34 "Discours de la servitude volontaire".

36:36 Si on est bien, finalement,

36:38 on est heureux et on n'a pas de tensions particulières,

36:40 pourquoi chercher à s'émanciper si on est

36:42 sous perfusion technologique mais que cela répond à nos besoins ?

36:44 Ou alors qu'on est suffisamment habilement

36:46 orienté dans des directions par des

36:48 petites manipulations, ce qu'on appelle les "nudge"

36:50 aujourd'hui, qui est une manière de conduire

36:52 l'esprit dans certains choix.

36:54 Finalement,

36:56 lorsqu'on a ce qu'on voulait,

36:58 est-ce qu'on voudrait autre chose ?

37:00 - Oui, alors je veux dire, ce que vous dites,

37:02 c'est le bonheur de la taupe

37:04 ou le bonheur du grimpeur ? - Absolument.

37:06 Et ça nous renvoie à la dystopie "Le meilleur

37:08 des mondes" d'Adou Suxclay, où c'est une société

37:10 dans laquelle les personnes sont

37:12 déterminées génétiquement

37:14 et conditionnées socialement pour occuper

37:16 la place qu'ils souhaitent.

37:18 La place qu'on veut pour eux.

37:20 - Avec l'intelligence artificielle, le 18 juin

37:22 n'aurait sans doute pas pu avoir lieu.

37:24 - Le 18 juin, de Gaulle

37:26 et l'appel du 10 juin.

37:28 Parce que le bien-être,

37:30 dans la période,

37:32 il dit "l'Allemagne a gagné, restez

37:34 chez vous, accommodez-vous",

37:36 etc. - Oui, tout à fait. Et là, ce sont des rapports

37:38 de force. Qui aura la meilleure force de frappe

37:40 de manipulation de l'information ou des esprits ?

37:42 - Mais honnêtement,

37:44 attendez, Julien Gobin, est-ce que quand même

37:46 il n'y a pas une tentation,

37:48 je vais rappeler un mot, est-ce qu'il n'y a pas une tentation fasciste

37:50 et une tentation totalitaire là-dedans ?

37:52 - Alors, tentation totalitaire,

37:54 oui. - Je ne dirais pas fasciste, mais totalitaire.

37:56 C'est clair. - Exactement.

37:58 Et une des trajectoires très probables,

38:00 même avec les meilleures intentions du monde,

38:02 on parlait du meilleur des mondes,

38:04 ce qui est effarant dans cette dystopie,

38:06 c'est que les personnes sont heureuses et bien.

38:08 - Bien sûr. - Et donc, on peut tout à fait,

38:10 entretenu dans son illusion, entretenu dans son bien-être,

38:12 dans son monde sur mesure,

38:14 sans se rendre compte qu'on est le jouet

38:16 de force qui nous conduise

38:18 à penser de telle manière. - Et comme

38:20 l'enfer est pavé de bonnes intentions,

38:22 on peut avancer. Non mais c'est passionnant,

38:24 parce que vous posez un problème qui est majeur,

38:26 et qui effectivement sera posé dans les

38:28 prochaines années au monde,

38:30 c'est effectivement, et j'espère,

38:32 en tout cas, c'est un souhait personnel,

38:34 que le libre-arbitre sera toujours plus fort,

38:36 en tout cas, que dans ce monde-là,

38:38 on aura à choisir la voie

38:40 des possibles et l'extension du champ

38:42 des possibles, ou la voie

38:44 de la machine et l'extension du champ des machines.

38:46 Ça va être intéressant à suivre, en tout cas.

38:48 - Absolument, oui.

38:50 - Non mais je crois qu'on est...

38:52 - On arrive à... - En tout cas,

38:54 vraiment, je recommande le livre, lisez-le,

38:56 il vous enseignera beaucoup de choses.

38:58 - Merci beaucoup Julien Gaubin d'avoir été avec nous.

39:00 On rappelle ce livre, "L'individu, fin de parcours,

39:02 le piège de l'intelligence artificielle",

39:04 aux éditions Gallimard. Merci à vous,

39:06 qui avez encore votre libre-arbitre, de nous avoir

39:08 écouté sur Sud Radio, et d'avoir

39:10 composé le 0826-300-300.

39:12 On rappelle que vous pouvez nous retrouver

39:14 sur Youtube, sur Facebook, sur le

39:16 Twitter X, pardon, de Sud Radio.

39:18 André Bercoff, vous revenez demain avec

39:20 Célina Lonzo, entre 13h et 14h, vous parlerez

39:22 de Misak Manouchion, je crois.

39:24 - Le grand résistant, qui va entrer au Panthéon,

39:26 vous savez, avec sa compagne

39:28 Méliné, enfin voilà, et

39:30 Fusil en 1944. - Ça sera de

39:32 13h à 14h, et demain, à partir

39:34 de midi, jusqu'à 13h, vous retrouverez

39:36 Alexis Poulin, qui sera

39:38 avec vous en direct et en exclusivité sur

39:40 Sud Radio. A demain, tout de suite, c'est Brigitte Lai.

39:42 - Retrouvez Sud Radio,

39:44 parlons vrai, à Lyon, sur

39:46 Sud Radio, parlons vrai.

Category

Transcription

Recommandations