Outil extrêmement puissant et à l’origine d’un véritable bouleversement, l’intelligence artificielle pose de nombreuses questions en termes de sécurité. Si son développement n’est pas maîtrisé, ce dernier pourrait modifier considérablement le paysage de la cybercriminalité. Quelle est la réalité du risque cyber lié à l’IA générative pour les entreprises ? Et surtout, que peut-on faire pour maîtriser ce risque ? Réponse avec Nicolas Meyerhoffer, vice-président d’IBM France.
Category
🗞
NewsTranscription
00:00 Bonjour Nicolas Meyerhofer, bienvenue dans Smartech. Vous êtes le vice-président d'IBM
00:08 France et vous êtes en charge des grands comptes. Précédemment vous avez dirigé l'activité IBM
00:14 Security pour la France, vous avez même été le directeur des ventes IBM Security au niveau
00:20 mondial. On rappelle donc IBM, institution j'ai envie de dire, dans l'informatique et leader du
00:27 cloud géant historique de l'intelligence artificielle. Vous allez pouvoir nous aider à
00:32 répondre à ces questions autour des risques de cyberattaques liés au déploiement des IA
00:36 génératives. Déjà quelle est la réalité de ce risque ? Bonjour Delphine, c'est une excellente
00:42 question. D'abord il faut bien repositionner le débat. Une IA générative, qu'est ce que c'est ?
00:47 C'est un outil. Alors oui c'est un outil extrêmement puissant et comme tout outil, il faut le maîtriser
00:52 si on veut pouvoir en tirer bénéfice. La vraie question qui se pose c'est quel est le niveau de
00:56 maîtrise des IA génératives ? Et malheureusement je suis un petit peu interpellé par les derniers
01:02 chiffres de nos études qui sont un petit peu choquants, donc je vous les partage. Les dirigeants
01:07 qu'on a interrogés récemment nous disent à 94% donc la quasi totalité des dirigeants nous dit
01:13 oui la cyber quand on fait de l'IA générative c'est important. Et puis après on regarde les
01:17 projets et les projets qui partent aujourd'hui et dans les six mois qui viennent, trois quarts n'ont
01:22 aucune composante cyber sécurité intégrée au projet. Donc en clair on marche au bord de la falaise
01:26 en fermant les yeux et en espérant que ça va bien se passer. Est-ce que vous il y a une urgence ?
01:30 Il y a une vraie urgence puisque ça veut dire que les projets qui partent maintenant, à un moment ou
01:35 à un autre, soit seront à risque soit il faudra derrière reconstruire la cyber sécurité par
01:39 dessus ce qui coûte cinq, dix fois plus cher évidemment. D'autant que les risques sont à peu
01:43 près de nature. On peut regarder les risques qui sont liés au fait que les cyber attaquants ont
01:48 maintenant ces outils à disposition et donc du coup ça va plus vite, ça coûte moins cher. Demain si
01:53 je veux poser un code malicieux sur votre sur votre pc ou sur votre téléphone et bien je peux
01:57 peut-être le générer tout simplement, je n'ai même plus besoin de savoir développer. Et puis après il
02:01 y a les risques liés à l'absence de maîtrise de cette IA que je mets dans mon entreprise qui peut
02:04 être de... il y a plein d'exemples tout simplement si demain j'ai une application d'octroi de prêts
02:10 et que le modèle d'IA qui est derrière cette application a été corrompu par un cyber attaquant
02:15 peut-être que je vais octroyer des prêts à absolument tout le monde. Donc là il y a un
02:18 léger impact financier. Si mon chatbot qui va interagir avec mes clients se met à les insulter
02:23 bah j'ai aussi un problème. Voilà donc il y a tous ces risques majeurs auxquels il faut faire face
02:28 maintenant mais comment ? Qu'est ce qu'on a comme outils aujourd'hui pour maîtriser ces risques ?
02:31 Alors heureusement c'est pas encore la fin du monde puisqu'on a des outils. C'est pas la première
02:35 fois qu'on fait de l'IA. L'IA générative n'est qu'une nouvelle instantiation des technologies
02:39 d'IA et donc tout d'abord il faut poser... enfin les dirigeants puisque c'est vraiment un sujet de
02:43 direction à ce niveau doivent se poser au moins trois types de questions. Un, quel est le cadre
02:47 que je mets en place pour l'utilisation de l'IA dans mon entreprise ? Donc là c'est les questions
02:51 de l'éthique de l'entreprise, de ses valeurs, de son cadre réglementaire qui s'applique. Il faut pas
02:55 laisser d'ambiguïté à ce sujet, il faut être extrêmement explicite. Ensuite on se pose la
02:58 question de quelle est la gouvernance de l'IA ? Comment est-ce que je la maîtrise ? Quelle est
03:02 l'organisation et le processus ? Qui fait quoi ? Qui va superviser, créer l'IA dans l'entreprise
03:06 qui est autorisée à le faire ? Et puis après évidemment il y a la question des outils et
03:09 c'est là aussi où on va avoir la question de la cyber. Comment je m'assure que j'ai une plateforme
03:14 d'IA d'entreprise de confiance dans laquelle j'ai toutes mes IA et je peux les suivre, les piloter,
03:19 les mettre en sécurité et les maîtriser. Et alors est-ce qu'il y a des IA génératives plus
03:23 dangereuses que d'autres ? Ben écoutez quand on regarde les modèles en fait les entreprises sont
03:28 amenées à utiliser trois sources de modèles d'IA générative, des modèles qu'ils ont construits
03:32 eux-mêmes très bien, des modèles qu'ils vont acheter auprès d'entreprises comme IBM et puis
03:36 des modèles open source. Et évidemment en fonction de la source, comment ont été créés ces modèles
03:42 et du niveau de documentation, de transparence que l'entreprise a sur l'origine du modèle,
03:46 ces modèles vont être plus ou moins risqués ou plus ou moins sécurisés si vous voulez. Donc
03:50 quel que soit le modèle, il doit passer dans les fourches codines du processus et des outils de
03:54 sécurité de l'entreprise avant d'être utilisé. Chez IBM, il n'y a pas très longtemps d'ailleurs,
04:00 on est assez fier de ça, sorti un modèle qui s'appelle IBM Granite qui est le modèle le plus
04:04 transparent parce qu'il était extrêmement documenté, on a publié où sont les données
04:07 sur lesquelles il a été entraîné, comment ça a été fait, comment on les a sélectionnées. Tout ça
04:11 sont des conditions qui sont nécessaires pour que l'entreprise puisse s'assurer que le modèle est
04:15 maîtrisé et qu'il rentre dans le cadre qui a été défini précédemment. C'est ce que permet aussi
04:19 l'open source. Merci beaucoup Nicolas Meyeroffer, vice-président d'IBM France en charge des grands
04:24 comptes pour vos éclairages sur ces risques cyber liés au déploiement des IA. On continue sur ce
04:29 thème de l'IA générative, on va faire un tour des actus importantes dans le secteur.