Une intelligence artificielle dans l'Église

Bloom Média

l’année dernière

Voici l'histoire de l'homme qui parle de Tech au pape et de religion aux géants de l'IA.
Dans cette vidéo vous comprendrez pourquoi ces deux mondes, qui semblent opposés se sont rapprochés et quels en sont les enjeux...

N'hésite pas à nous dire en commentaire ce que tu en penses.

Bloom est le 1er média d'actualité pour comprendre le monde de demain.

Nous publions quotidiennement des vidéos pour démocratiser les sujets autour de l'innovation.

Pour comprendre le monde de demain, abonne toi à Bloom

Category

🤖

Technologie

Transcription

Afficher la transcription complète de la vidéo

00:00 La Silicon Valley, espace d'effervescence intellectuelle et technologique où les plus grands empires de notre siècle se sont créés.

00:05 Le Vatican, ville-état historique située au cœur de Rome, siège de l'église catholique et résidence du pape.

00:12 Deux lieux que tout oppose vont pourtant se rapprocher et s'associer grâce au travail d'un seul homme, Paolo Benanti.

00:20 Au cours de ces cinq dernières années, Benanti est devenu le moine qui chuchote à l'oreille du pape et des géants de la tech.

00:28 Il se décrit comme un fils de la pop culture, il a grandi avec Star Wars et Blade Runner,

00:32 et comme beaucoup d'enfants de sa génération, il était également fasciné par l'informatique.

00:36 Ce jeune passionné va s'orienter vers un doctorat sur l'éthique des technologies à l'université de Georgetown aux Etats-Unis.

00:42 Il décrit alors l'IA comme une innovation qui risque de changer notre vie, comme l'acier ou l'électricité.

00:48 Et rapidement, il se rend compte que sa découverte risque de changer le monde.

00:57 A 25 ans, Paolo Benanti passe pour la première fois du temps auprès des moines franciscains de son église locale,

01:02 après que sa future épouse le lui ait suggéré.

01:04 Ce premier séjour change la perception du monde de ce jeune ingénieur et le transforme intérieurement.

01:09 Paolo Benanti est désormais moine, il vit dans un monastère qu'il partage avec quatre autres frères,

01:13 des professeurs dont leur domaine d'expertise s'étend de la chimie à la philosophie, en passant par la technologie et la musique.

01:19 Avec le temps, Benanti est devenu un ingénieur éthicien, il enseigne à ses élèves les questions morales et éthiques liées aux technologies de pointe,

01:26 telles que la bioaugmentation, la neuroéthique et l'intelligence artificielle.

01:31 Paolo Benanti est un homme dont le parcours et la réflexion vont lui permettre de tutoyer les géants de la tech.

01:36 Nous sommes le 13 février 2019, Benanti est en route pour voir le pape François.

01:40 Ce jour-là, le pape reçoit Brad Smith, président de Microsoft, arriver la veille en jet privé.

01:45 A l'ordre du jour figurait le thème de l'IA.

01:47 La réunion tombait à point nommé, le pape s'inquiétait de la façon dont l'IA pourrait être utilisée pour faire la guerre en Ukraine.

01:54 Il a ensuite tenu des réunions avec le vice-président d'IBM, le cofondateur de DeepMind, une société d'IA appartenant à Google,

02:00 et le chef de la politique d'éthique de l'IA chez Facebook.

02:03 Une manière de faciliter les échanges d'idées sur ce qui est considéré comme éthique dans la conception et le déploiement de cette technologie émergente.

02:10 Benanti a joué un rôle déterminant en conseillant le pape sur les dangers potentiels de l'intelligence artificielle.

02:16 Selon Benanti, l'IA a le pouvoir de produire une autre révolution technologique,

02:20 et elle peut usurper non seulement le pouvoir des travailleurs, mais aussi leur pouvoir de décision.

02:25 Les responsables de l'église sont particulièrement préoccupés par l'idée que l'IA pourrait accroître les inégalités.

02:30 "Les algorithmes nous rendent quantifiables, l'idée que si nous transformons les êtres humains en données,

02:34 ils peuvent être traités ou jetés, c'est quelque chose qui touche vraiment la sensibilité du pape", affirme Benanti.

02:40 En effet, il est devenu évident que les décisions algorithmiques peuvent être entachées d'erreurs, et nous allons voir l'un des cas les plus extrêmes.

02:46 Les données inexactes peuvent amener les ordinateurs à propager des préjugés existants.

02:50 Prenons pour exemple une recherche qui a révélé qu'un système d'intelligence artificielle aidait à traiter jusqu'à 70 millions d'américains dans les hôpitaux.

02:56 Celui-ci donnait la priorité aux patients blancs en bonne santé par rapport aux patients noirs plus malades.

03:01 Les chercheurs ont ainsi calculé que près de 47% des patients noirs auraient dû être orientés vers des soins supplémentaires.

03:07 Mais le biais algorithmique a fait que seuls 17% l'ont été.

03:10 En réalité, le point le plus important est que l'IA utilisée dans la plupart des pays du monde est conçue par des ingénieurs californiens qui attègrent leur propre perspective dans le code.

03:19 "Si la technologie de l'intelligence artificielle est faite par des gens de cette seule culture, elle nous verra toutes de cette façon, et nous commencerons tous à nous comporter de cette manière pour nous y adapter.

03:28 La technologie est la lentille à travers laquelle nous voyons tout le monde", confie Benanti.

03:32 Après avoir étudié l'intelligence artificielle en tant qu'ingénieur, puis comme homme d'église, Paolo Benanti est devenu un penseur incontournable de la tech.

03:40 Notamment à travers l'invention d'un concept, l'algorithme.

03:44 Ce concept se définit comme une base de valeur humaine sur lesquelles s'accordent de nombreux pays, religions, organisations à but non lucratif et entreprises du monde entier,

03:51 et qui seraient également compris et appliqués par les machines elles-mêmes.

03:54 Dans le cas d'une voiture autonome, par exemple, un dispositif d'algorithme permettrait d'adapter la vitesse ou le mode de conduite à la sensibilité émotionnelle de chaque passager.

04:02 Au fond, l'algorithme exigerait que tous les systèmes autonomes doutent d'eux-mêmes, qu'ils fassent l'expérience de l'incertitude éthique.

04:08 A chaque fois que la machine ne sait pas si elle protège les valeurs humaines en toute sécurité, elle doit demander à l'homme d'intervenir.

04:13 Ce n'est qu'à partir de ce moment-là que les technologues pourront produire une IA qui place le bien-être humain au centre de ses préoccupations.

04:20 Revenons à cette fameuse audience entre le pape et Brad Smith en février 2019.

04:25 Cette rencontre avait été négociée par Benanti, dans le cadre d'un conseil interdisciplinaire.

04:29 L'objectif était de débattre de l'éthique de l'IA grâce au concept qu'a réussi à introduire Benanti, l'algorithme.

04:34 Après avoir sympathisé sur leur soutien aux migrants sans-papiers et aux réfugiés, les deux délégations ont convenu de travailler ensemble sur d'autres projets.

04:41 Un engagement de valeur commune qui servirait de guide aux concepteurs de l'intelligence artificielle.

04:46 Tu ne peux pas jouer à Dieu sans être associé à un diable.

04:49 Dans ce sens, Benanti a participé à la rédaction d'un engagement éthique intitulé "Appel de Rome" qui a été signé par Microsoft, IBM, le gouvernement italien et d'autres parties en février 2020.

05:00 Ce n'est pas la première fois que le Vatican intervient dans le domaine du développement technologique.

05:03 Depuis la guerre froide, les armes nucléaires sont au cœur de son programme de politique étrangère.

05:07 Plus récemment, il a tenu un discours ferme contre les biotechnologies telles que le clonage humain.

05:12 Mais le point de vue de l'église sur l'intelligence artificielle a été plus réfléchi et inclusif, s'appuyant sur l'expertise d'une série d'institutions, y compris d'autres religions, dans une tentative de contrôler collectivement le pouvoir des entreprises privées.

05:24 Ces débats de deux ans ont abouti à la planification d'un événement historique qui aura lieu à Abu Dhabi.

05:28 La signature d'une charte éthique multireligieuse visant à protéger la société humaine des méfaits de l'intelligence artificielle.

05:34 Cette charte a été signée par les dirigeants de trois religions, le christianisme, l'islam et le judaïsme.

05:39 Béninti et le Vatican ont planifié une nouvelle réunion, mais cette fois-ci avec les chefs de religion orientale.

05:44 Parmi elles, l'hinduisme, le bouddhisme et le shintoïsme.

05:46 Celle-ci se tiendra à Hiroshima pour rappeler que la technologie, lorsqu'elle est soumise à l'orgueil humain, peut être terriblement destructrice.

05:52 Mais cette construction de technologies capables d'approcher l'intelligence humaine n'a rien de nouveau.

05:57 Le folklore juif raconte l'histoire du golem, un humanoïde inanimé qui prend vie pour protéger les juifs des attaques antisémites.

06:03 Les conséquences de l'histoire sont prévisibles. Le golem se déchaîne et est finalement défait par son créateur.

06:07 Le Vatican est très appliqué dans ce combat contre les dérives de l'IA.

06:10 Elle se saisit alors du problème et signe des chartes éthiques avec les géants mondiaux de la tech.

06:15 Et c'est à ce moment-là que des centaines de problématiques peuvent émerger.

06:18 Quel avenir pour la tech si elle s'associe avec la religion ?

06:21 Il est indéniable que l'intelligence artificielle doit être régulée afin d'en limiter les dérives.

06:24 Néanmoins, est-ce le rôle de la religion d'édicter ses normes ?

06:27 Une idéologie aussi forte et influence que la religion peut-elle écrire une éthique de l'IA qui aujourd'hui nous accompagne au quotidien ?

06:33 Mais quelque chose d'encore plus inquiétant pourrait se produire.

06:36 Anciennement chief business officer de Google X, Mo Gauda tire la sonnette d'alarme dans The Times.