Reconnaissance faciale. Défis techniques, juridiques et éthiques avec Anne Brunon-Ernst, Professeure, Université Paris-Panthéon-Assas.
Category
🗞
NewsTranscription
00:00On poursuit ce LexInside, on parle reconnaissance faciale avec Anne-Brunon Hertz, co-directrice
00:16de l'ouvrage Reconnaissance faciale, défis techniques, juridiques et éthiques, publié
00:22aux éditions Panthéon-Assas.
00:24Anne-Brunon Hertz, bonjour ! Bonjour, merci de l'invitation.
00:28La reconnaissance faciale suscite à la fois fascination et méfiance.
00:33Nous allons voir ensemble les défis que pose la reconnaissance faciale, mais tout d'abord,
00:38pouvez-vous nous présenter votre ouvrage ?
00:40Alors, l'ouvrage est issu d'une collaboration dans le cadre d'un colloque qui a été fait
00:47à l'université Panthéon-Assas, c'est un ouvrage qui est issu d'un travail de recherche
00:54initié par l'équipe Law and Humanities.
00:59L'intérêt de cet ouvrage, c'est qu'il est pluridisciplinaire, c'est-à-dire qu'il
01:01convoque des spécialistes de divers champs disciplinaires, comme la science informatique,
01:10le droit, la philosophie, la sémiotique, mais aussi les études américaines et la
01:15philosophie, ce qui nous permet d'avoir une vision plus complète de cette notion très
01:22sous-complexe qu'est la reconnaissance faciale.
01:25Alors, on va rentrer dans le vif du sujet.
01:27Quelle est la définition de la reconnaissance faciale et comment ces avatars, comme la
01:32surveillance algorithmique, s'en distinguent ?
01:34La reconnaissance faciale peut être définie comme une technologie informatique qui permet
01:40de reconnaître automatiquement une personne à partir de son visage.
01:44Et il faut distinguer la reconnaissance faciale d'autres termes qui circulent, tels que vidéo
01:50surveillance augmentée ou automatisée ou intelligente.
01:54Et dans ce cas-là, l'objectif est uniquement de détecter des événements en temps réel
02:01dans l'espace public et non de détecter des visages.
02:04D'accord.
02:05Alors là, on a bien cernesqué la reconnaissance faciale, mais pour bien comprendre les enjeux,
02:11on va s'intéresser à son fonctionnement.
02:12Alors, comment ça fonctionne ?
02:13Alors, c'est très simple.
02:15L'objectif est double.
02:16Il s'agit d'identifier et d'authentifier.
02:20Identifier, c'est poser la question « qui est la personne X ? » et authentifier, c'est
02:26« êtes-vous bien la personne que vous prétendez être ? »
02:28Il y a quatre étapes.
02:30La première étape, il s'agit d'acquérir une image.
02:33La deuxième étape, il s'agit d'extraire les caractéristiques du visage.
02:38La troisième étape, ensuite, il faut encoder cette image avant, dans une quatrième partie
02:44ou une quatrième étape, de la comparer à un stock d'images dans une base de données.
02:50Alors, on va s'intéresser aux problématiques juridiques.
02:53Quelles sont les questions juridiques soulevées dans l'ouvrage ?
02:56Alors, il y a deux problèmes, en fait, que pose la reconnaissance faciale.
03:01Le premier, c'est que la reconnaissance faciale permet d'être reconnue sans le vouloir.
03:06Et ensuite, elle permet de récupérer des données sur le visage.
03:10D'accord.
03:11Pour ça, ça soulève un certain nombre de questions juridiques qui sont de deux ordres.
03:15La première, c'est la question du consentement.
03:17Et la deuxième, c'est la question des droits fondamentaux.
03:20Sur la question du consentement, déjà, ces technologies sont qualifiées de silencieuses
03:29parce qu'en fait, elles permettent d'opérer à distance et indépendamment d'une action
03:34quelconque de l'individu qui est ainsi surveillé.
03:37D'accord.
03:38Et comme elles sont déployées dans des lieux accessibles au public, le problème,
03:43c'est que l'individu ne peut pas consentir à leur utilisation et il ne peut pas non
03:47plus s'y soustraire.
03:49Et donc, ça, ça pose effectivement la question du consentement qui, pour rappel, est effectivement
03:54un des fondements qui est prévu pour le traitement des données personnelles dans le RGPD.
04:00Ensuite, sur la deuxième question, qui est la question des droits fondamentaux, la singularité
04:07de la reconnaissance faciale, c'est que lorsqu'elle est utilisée dans l'espace
04:11public, elle a un effet dissuasif.
04:13C'est-à-dire qu'elle peut avoir un effet dissuasif dans l'exercice d'un certain
04:19nombre de droits fondamentaux qui sont la liberté d'expression, d'association,
04:24d'aller et venir, d'assembler.
04:26Et ça, bien sûr, ça contrevient et c'est une restriction inacceptable à un certain
04:31nombre de libertés qui sont protégées au titre d'un certain nombre de textes, dont
04:35la Charte des droits fondamentaux de l'Union européenne, pour ne citer qu'elle.
04:38Un autre problème qui en découle aussi, c'est le problème des faux négatifs, c'est-à-dire
04:44qu'une personne n'est pas reconnue, donc exposée à des sanctions qui peuvent porter
04:49atteinte à sa dignité.
04:51Et dans ce cas-là, on est dans des cas de discrimination et la question des biais algorithmiques,
04:58qu'ils soient des biais sexistes et ratio, est bien documentée.
05:02Alors, on voit que les questions juridiques sont nombreuses.
05:05Un autre aspect qui est intéressant, ce sont les enjeux liés à cette technologie.
05:10Quels sont les enjeux de la réglementation de la reconnaissance faciale ?
05:15Alors, les conditions de mise en œuvre de la reconnaissance faciale s'appuient sur
05:20une pratique sociale, qui en France est renforcée par une obligation légale, qui est celle
05:25de se déplacer à visage découvert dans l'espace public.
05:30Et cette pratique, qui est assez couramment partagée, finalement s'oppose à un cadre
05:39réglementaire qui varie énormément d'un pays à l'autre.
05:43Alors, c'est assez difficile de détailler ces pratiques, ces cadres légaux en si peu
05:50de temps, mais on peut prendre deux exemples.
05:52On peut prendre l'exemple de l'Union européenne et l'exemple des États-Unis.
05:55Alors, sur la question de l'Union européenne, il est relativement intéressant de voir que
06:00l'Union européenne est en train de mettre en place un cadre réglementaire sur l'intelligence
06:07artificielle, qui s'appelle l'AI Act, oui tout à fait, et qui interdit l'utilisation
06:14de systèmes biométriques à distance, en temps réel, dans des espaces accessibles
06:20au public, à des fins répressives.
06:22Mais cette interdiction est assortie d'un certain nombre d'exceptions, qui sont au
06:26nombre de trois, lorsque la recherche est ciblée et spécifique de victimes.
06:32La deuxième, c'est la prévention d'une menace spécifique type terroriste, et la
06:38troisième, c'est la localisation ou l'identification d'une personne soupçonnée d'avoir commis
06:43une infraction pénale.
06:44C'est aux États maintenant de préciser les cas dans lesquels ces exceptions vont s'appliquer
06:51et ensuite, elles seront subordonnées à une autorisation préalable.
06:55Sur le cas des États-Unis, alors là, on est dans un paradigme totalement différent
06:59parce qu'il n'y a pas de loi fédérale réglementant l'utilisation de la reconnaissance
07:05faciale.
07:06D'accord, alors comment ça se passe ? Alors, comment ça se passe ? Tout se passe
07:09au niveau des États, des comtés ou des villes, et on dénombre à ce jour environ une vingtaine
07:16de lois qui réglementent l'utilisation de la reconnaissance faciale.
07:21Ce qui fait qu'on a un panel très large qui va de la loi de 2008 de l'État de l'Illinois
07:29qui limite l'usage des données biométriques et qui les base sur une nécessité du consentement
07:37des individus dont les données sont ainsi collectées.
07:40Et de l'autre côté du spectre, on va avoir l'État de New York qui utilise la reconnaissance
07:46faciale.
07:47D'accord, donc on va du tout au tout ? Du tout au tout, tout à fait.
07:50Alors, si on regarde un peu plus précisément chez les États qui légifèrent sur ces questions-là,
07:57on voit qu'il y a un mouvement de balancier qui est assez intéressant.
07:59Donc, il y a une première vague d'interdiction qui fait suite aux émeutes qui suivent la
08:05mort de George Floyd en mai 2020, parce qu'en fait les manifestations mettent en avant le
08:12fait que la police aurait utilisé ces données collectées, non pas pour prévenir des actes
08:19criminels, mais pour contrôler les activités politiques des manifestants.
08:24Le retour en grâce des technologies de reconnaissance faciale se fait un an plus tard, on est en
08:33juin 2021, et là c'est les incidents des émeutes du Capitole qui montrent que finalement
08:42la reconnaissance faciale est particulièrement efficace pour reconnaître les émeutiers,
08:50en se servant bien entendu de la reconnaissance faciale, des images qui sont collectées via
08:55les caméras de vidéosurveillance, les vidéos des journalistes et des policiers, mais aussi
09:00des images collectées sur les réseaux sociaux.
09:03Pour terminer, en quelques mots, quelles sont les alternatives juridiques au cadre que vous
09:08venez de décrire ?
09:09Alors, j'en déclinerai une.
09:13Je pense que d'abord il faut se rendre compte qu'il y a un certain consensus autour de
09:19la réglementation de la reconnaissance faciale.
09:23Ce consensus, c'est de dire qu'il n'est pas possible d'interdire absolument.
09:28Donc le rôle du législateur, finalement, il se limite à mettre en balance les avantages
09:34et les risques sociaux, de manière à rendre ces technologies acceptables.
09:38L'objectif de l'ouvrage, c'est de montrer que peut-être il y a une autre voie qu'on
09:43pourrait peut-être explorer, qui est celle de l'anonymat.
09:46L'anonymat n'est pas de supprimer ou de cacher l'ensemble des traits caractéristiques
09:51d'une personne, mais d'empêcher leur mise en correspondance.
09:55Un exemple.
09:56Et on terminera sur cet exemple.
09:59Voilà.
10:00Lorsque vous avez un échantillon de sang, cet échantillon de sang est labellisé avec
10:05un numéro qui vous identifie, mais qui vous identifie dans une sphère spécifique.
10:11Et donc finalement, un droit à l'anonymat serait peut-être une manière de protéger
10:17les libertés individuelles.
10:19On va conclure là-dessus.
10:20Merci d'être venu sur notre plateau.
10:21Et tout de suite, la troisième partie, on va parler beaux commerciaux.