À 7h50, Patrice Caine, PDG de Thalès, était l'invité de Sonia Devillers ce lundi, à l'occasion du Sommet international pour l'action sur l'intelligence artificielle organisé à Paris et de la journée spéciale IA sur France Inter. Plus d'info : https://www.radiofrance.fr/franceinter/podcasts/l-invite-de-7h50/l-invite-de-7h50-du-lundi-10-fevrier-2025-3687694
Catégorie
🗞
NewsTranscription
00:00Sonia Devillers, votre invitée, est le PDG du groupe Thales.
00:03Qu'est-ce que les intelligences artificielles vont changer à la guerre ? Aux Etats-Unis,
00:07les géants de la tech entrent de plein pied sur le marché de la défense.
00:12Faut-il en avoir peur ? Le monde est-il doté de garde-fous face à des armes possiblement
00:17intelligentes ? L'homme risque-t-il de perdre le contrôle des machines qu'il a inventées ?
00:21Bonjour Patrice Ken !
00:23Bonjour !
00:24Thales, c'est le géant européen de la technologie en Europe dans le domaine de la défense,
00:27de l'aéronautique, de la cybersécurité, le groupe emploie 80 000 personnes dans le
00:32monde, dont la moitié en France.
00:33Je vais vous demander pour commencer des exemples très concrets pour que le grand public puisse
00:37se faire une idée.
00:38Faire la guerre avec l'IA, ça change quoi ?
00:40Trois exemples pour commencer ce matin.
00:43D'abord l'IA appliquée aux censeurs.
00:45Un radar par exemple, c'est quelque chose qui regarde le ciel et voit ce qui se passe,
00:50ce qui bouge.
00:51Et bien effectivement quand on dope un radar avec de l'IA, on va pouvoir reconnaître
00:54des cibles qu'on ne voyait pas avant.
00:55Par exemple les drones, c'est ce qui nous a permis de mieux protéger les Jeux Olympiques
00:59par exemple à Paris.
01:00Ça a des applications bien concrètes, pas que militaires si je puis dire.
01:04Deuxième exemple, des systèmes d'aide à la décision.
01:08Pour préparer une mission, en fait c'est un environnement très complexe.
01:11Vous avez des avions, des hélicoptères, des troupes au sol.
01:13Quel est le dispositif qui va optimiser ces actifs si je puis dire ?
01:17C'est des problèmes mathématiques très complexes à résoudre.
01:20Là, l'intelligence artificielle vous aide à enrichir finalement le champ de décision.
01:25Et puis troisième exemple, ce qu'on appelle des systèmes dronisés.
01:29Vous avez plusieurs objets qui interagissent entre eux.
01:31La guerre des mines est un bon exemple.
01:33On va en avoir besoin dans la mer Noire quand le conflit en Ukraine finira, j'espère très
01:38bientôt, pour aller déminer, pour mettre les marins en sécurité.
01:42L'intelligence artificielle permet de détecter, classer, identifier les types de mines et
01:47ensuite de les traiter.
01:48Très bien.
01:49Est-ce qu'on va vers des armes non pas contrôlées à distance, mais des armes autonomes ? C'est-à-dire
01:55pas seulement des drones, ai-je lu, mais à l'avenir, des navires de guerre, des avions
02:01de chasse.
02:02Des avions de chasse autonomes.
02:03Faut-il en avoir peur ?
02:04Non, je ne pense pas.
02:06D'abord, on confond souvent non pilotés et autonomes.
02:09C'est deux choses différentes.
02:10Des choses non pilotées, vous en avez déjà beaucoup dans la vie de tous les jours, c'est
02:13des drones.
02:14En tout cas, ils sont non habités.
02:16On peut trouver un pilote, mais en tout cas, il n'est pas dans la cellule ou dans la plateforme.
02:20Après, sur tous ces objets auxquels on confie un niveau d'autonomie, on parle de contrat
02:26d'autonomie.
02:27Finalement, avant, c'est l'homme qui décide quelles sont les barrières, les limites qu'on
02:32donne à ces objets dans le cadre de la mission qu'ils doivent définir.
02:36Donc, l'homme reste toujours en contrôle.
02:38Si effectivement la plateforme fait quelque chose de non prévu, c'est bien que le contrat
02:42d'autonomie est mal défini.
02:44Mais est-ce qu'on va garder la main longtemps sur le contrat d'autonomie ? Vous voyez bien
02:49Patrice Kenne, c'est-à-dire que les questions qu'on se pose sur l'IA sont les mêmes partout.
02:52Grosso modo, l'homme a-t-il pour la première fois de son histoire fabriqué une machine
02:56dont il pourrait, un jour, perdre le contrôle ? Évidemment, quand on applique ces questions
03:01à la guerre, on soulève des enjeux qui ne sont pas du tout les mêmes qu'ailleurs.
03:04On soulève des questions de mise à mort, de destruction et même de destruction à
03:08échelle massive.
03:09Donc, est-ce qu'on peut imaginer que l'homme perde le contrôle sur ses armes et sur ses
03:14objets autonomes ?
03:15Je crois qu'il y a bien deux volets dans la question.
03:17Il y a un volet, je dirais, plutôt politique.
03:20C'est évidemment quelles sont les limites qu'on se donne en fonction de nos valeurs,
03:22du mandat politique qu'on a reçu dans une démocratie.
03:26Et puis, il y a une question plus technique ou technologique.
03:29Et c'est là qu'il faut bien comprendre que l'IA pour les objets de souveraineté, la
03:33défense en particulier, est une IA qui n'a rien à voir avec celle qu'on voit dans le
03:38grand public, avec 4GPT pour faire simple.
03:40C'est une IA dite hybride qui va apprendre non pas uniquement avec les données et qui
03:45crée ces fameux phénomènes d'hallucination finalement, mais qui va apprendre avec des
03:49règles et des modèles.
03:50Et c'est très important parce que cette IA, elle, elle est transparente.
03:54Ce n'est pas une boîte noire.
03:55Vous savez expliquer pourquoi l'IA, par exemple, s'est trompée et donc corriger derrière
03:59cette IA et l'améliorer.
04:00Vous parlez de transparence et je vous entends, mais c'est-à-dire que quand on voit la récente
04:05décision de Google, c'est-à-dire qui a modifié ses principes éthiques en matière d'intelligence
04:10artificielle en supprimant l'engagement qui interdisait auparavant l'utilisation de ces
04:14technologies à des fins militaires.
04:16Quand on voit le virage qui s'opère en ce moment avec les grands acteurs américains
04:20Microsoft, Google, Amazon, OpenAI, qui entrent massivement sur le marché de la défense,
04:26on se pose deux questions.
04:27D'abord la transparence, jusqu'où on va pouvoir maintenir ce principe de transparence
04:32et puis ensuite, est-ce que l'Europe va pouvoir faire le poids ?
04:33Alors moi, je vous parlais de la technologie qui est transparente, c'est-à-dire explicable.
04:37Après, il y a les notions de transparence et qu'est-ce que fait cette industrie ? Je
04:41pense que l'industrie de défense est sans doute, en tout cas dans nos démocraties,
04:44l'industrie la plus transparente au monde.
04:46Tout est contrôlé.
04:47Vous savez que l'industrie de défense, nous n'avons pas le droit d'exporter par la loi.
04:50Quand nous exportons, c'est après une autorisation explicite du gouvernement.
04:54Et d'ailleurs, ça me semble tout à fait légitime et normal.
04:56Donc voilà, d'un point de vue politique, c'est une industrie qui est extrêmement réglementée,
05:01surveillée et donc transparente.
05:02D'un point de vue technologique, vraiment, là, c'est les technologies que nous employons
05:07qui permettent d'expliquer cette fameuse intelligence artificielle.
05:10Elle doit aussi être cybersécurisée, parce que les attaques cyber, on voit que les conséquences
05:14ne sont pas les mêmes sur un chat GPT et sur un système souverain.
05:18Et puis, elle doit être aussi frugale et c'est une grande différence aussi des fameux
05:22grands réseaux de neurones dont on parle en voiture, en voilà, si je puis dire, avec
05:26chat GPT.
05:27Vous voyez bien que pour exploiter ces données, on est dans des milieux très contraints.
05:30On ne peut pas mettre un cloud ou un datacenter sur le dos d'un avion de combat.
05:36Et donc, il faut apprendre avec des algorithmes qui sont frugaux, qui consomment en fait assez
05:40peu de puissance de calcul, avec très peu de données, parce que les données de défense
05:44ne sont, entre guillemets, pas disponibles en masse, et travailler sur des nouvelles
05:49races de composants qui consomment beaucoup moins.
05:52Mais vous ne répondez pas à mes questions.
05:53Est-ce qu'on peut parler d'une course à l'intelligence artificielle dans l'armement ?
05:57Est-ce qu'on peut parler d'une course à l'armement en matière d'intelligence artificielle,
06:01exactement comme on a parlé d'une course à l'armement nucléaire ?
06:05Est-ce qu'on peut...
06:06Est-ce qu'on revit une forme de guerre froide aujourd'hui, où d'un côté les géants
06:09américains face aux géants chinois sont dans une sorte de surenchère ?
06:13Moi, ce que j'observe, que ce soit d'ailleurs en Europe ou à l'international, c'est une
06:17course à la technologie.
06:18Je ne sais pas si ça répond à votre question, mais en tout cas, c'est ce que j'observe.
06:20Les pays veulent aujourd'hui tous assumer une forme de domination, pas uniquement d'un
06:27point de vue politique ou diplomatique, mais aussi militaire et donc technologique.
06:33Et cette course à la technologie, en tout cas dans les domaines de souveraineté, sert
06:36bien sûr un dessin politique à la fin des fins.
06:38Et ça, je le vois énormément de pays d'ailleurs viennent nous chercher pour les aider, pour
06:43coopérer, pour nouer des partenariats avec par exemple la France en l'occurrence, pour
06:47pouvoir augmenter leur niveau technologique.
06:50Mais Emmanuel Macron réclame une forme de traité de non-prolifération, réclame une
06:55forme de régulation.
06:57Absolument.
06:58Vous savez qu'il y a un droit de la guerre qui existe.
07:01C'est discuté dans des enceintes internationales, comme aux Nations Unies par exemple.
07:05Alors bien sûr, rien n'est parfait, évidemment, mais il y a quand même un droit de la guerre.
07:10Il y a une réglementation qui s'applique à cette thématique.
07:14Alors, les cyberattaques, vous en parliez, on va entrer dans le domaine de la défense.
07:20C'est-à-dire qu'on voit bien que plus nos systèmes aéronautiques, plus le système
07:24aérospatial, plus les systèmes d'armement intègrent d'objets connectés et d'intelligence
07:31artificielle, plus ils sont vulnérables face à de la cyberattaque.
07:34Absolument.
07:35En fait, c'est lié avec la numérisation de nos sociétés en général.
07:39Alors, ça s'applique au champ de la défense, mais c'est vrai de manière très transversale.
07:44Plus on vit dans un monde numérique, plus il y a potentiellement des sources de vulnérabilité
07:49sur ces systèmes qui sont numérisés.
07:51Et donc, effectivement, un de nos grands métiers, c'est de protéger les données.
07:56Souvent, c'est les données qu'on vient extirper, qu'on vient voler ou qu'on vient
08:00tromper.
08:01Les applications qui utilisent ces données, c'est un grand métier aussi sur lequel nous
08:05appliquons la cybersécurité.
08:06Et puis, la gestion des identités et des accès à ces systèmes.
08:09Mais on est à l'aube d'une nouvelle révolution informatique dont on commence à parler, la
08:15révolution quantique.
08:16On ne va pas rentrer.
08:17Mais en gros, on va voir arriver des ordinateurs surpuissants avec des capacités de calcul
08:21surpuissantes.
08:22Jusqu'ici, inimaginable.
08:24Est-ce que la France est prête ? Est-ce qu'en Europe, on est prêt ? On a des technologies
08:28pour se protéger face aux attaques qu'on va pouvoir recevoir ?
08:31Oui, alors, se protéger face aux ordinateurs quantiques est probablement quelque chose
08:36qui est plus simple ou moins complexe que la mise au point d'un ordinateur quantique
08:43parfait.
08:44D'ailleurs, même les experts vous disent qu'on n'est pas sûr d'y arriver.
08:46Il y a quelles chances ? Par contre, travailler sur des algorithmes qui permettent de résister
08:51à la puissance de calcul de ces fameux ordinateurs, c'est déjà fait.
08:54D'ailleurs, nous en avons fait normaliser un certain nombre au niveau d'une liste qui
08:59sont des algorithmes dits post-quantiques.