Analyser en temps réel des images de vidéosurveillance pour signaler des comportements suspects. Repérer automatiquement la plaque d'immatriculation d'un véhicule recherché. Retrouver des criminels de guerre en Ukraine. Tout cela sans aucune intervention humaine. L'intelligence artificielle en train de révolutionner le monde de la sécurité. Des logiciels intelligents de ce type seront utilisés pour assurer la sécurité des Jeux olympiques de Paris cet été, de manière officiellement très encadrée. Mais la loi est en retard, prise de vitesse par des algorithmes surpuissants et des entreprises parfois peu scrupuleuses, qui vont jusqu'à remettre en cause la notion même de vie privée. Difficile pour les forces de l'ordre de résister aux promesses de la reconnaissance faciale ! Quentin Baulier, Jeremy Muller et Nicolas Duchêne ont enquêté en France, aux États Unis, en Ukraine. Tous surveillés, la révolution IA, un document Ligne Rouge pour BFMTV.
Category
🗞
NewsTranscription
00:00 Peut-on légalement utiliser BriefCam en France ?
00:03 Saisi par plusieurs associations,
00:06 la CNIL, le gendarme du numérique, enquête depuis plusieurs mois.
00:10 Je pense avant tout qu'il y a une méconnaissance aussi
00:14 des collectivités locales ou des entreprises
00:16 qui peuvent acheter un discours, peuvent acheter une solution
00:19 sans réellement se poser la question de quel est le cadre légal,
00:22 quelles sont les conséquences sur les personnes qui sont filmées.
00:25 C'est le rôle aussi de la CNIL que de communiquer, de dire "attention,
00:29 vous ne pouvez pas faire n'importe quoi avec ces technos,
00:32 il y a des conséquences concrètes sur les personnes,
00:34 mais en tous les cas le cadre est totalement fixé,
00:36 notamment par la loi GIO et ceux qui s'en seraient écartés
00:38 vont devoir revenir dans le droit chemin.
00:40 L'avertissement s'adresse aussi au ministère de l'Intérieur.
00:44 Car les forces de l'ordre n'ont pas attendu la loi GIO
00:47 pour recourir à la vidéosurveillance intelligente.
00:50 Exemple en mars 2023,
00:57 les rassemblements contre les mégabassines dégénèrent en affrontement à Sainte-Sauline.
01:01 Des gendarmes filment et photographient les manifestants.
01:07 Beaucoup sont masqués, mais un ne l'est pas.
01:10 Il est photographié faisant des doigts d'honneur dans la direction des forces de l'ordre.
01:14 Il va être identifié deux mois après les manifestations.
01:18 Nous procédons à des recherches dans le traitement des antécédents judiciaires
01:22 au moyen de la reconnaissance faciale.
01:26 Le mis en cause présente une très forte ressemblance avec le dénommé LS.
01:30 Il a déjà été poursuivi pour des dégradations ou des entraves à la circulation.
01:37 Cette fois, la justice le condamne à quatre mois de prison avec sursis
01:41 pour outrage à agents.
01:43 Son avocat connaît bien ce type de dossier.
01:48 C'est la première fois qu'il voit écrit noir sur blanc
01:51 dans une enquête judiciaire
01:53 que la reconnaissance faciale a été utilisée.
01:56 Quand on a des outils très intrusifs dans la vie privée
01:59 comme la reconnaissance faciale algorithmique,
02:01 on va commencer à les tester sur certaines catégories de la population.
02:04 Donc là, on les teste sur des opposants politiques et des militants écologistes.
02:09 Dans le cadre d'une mobilisation qui a fait la une des grands médias nationaux,
02:14 qui a attiré l'attention du gouvernement et du ministre de l'Intérieur,
02:17 il y avait une volonté répressive extrêmement forte.
02:19 C'est-à-dire qu'on s'est donné les moyens,
02:21 et pour une infraction tout à fait mineure,
02:23 parce qu'il n'encourait qu'une peine d'une année d'emprisonnement,
02:26 c'est-à-dire l'une des peines les moins graves de la loi pénale française,
02:30 eh bien on a mis en œuvre un logiciel comme celui-ci.
02:34 Et donc c'est assez frappant de voir une technologie se développer
02:38 en dehors de tout contrôle effectif,
02:40 que ce soit de la justice ou des parlementaires ou même des citoyens,
02:44 parce que dans un grand nombre de cas, malheureusement,
02:46 je pense que ce recours à la reconnaissance faciale
02:48 n'est même pas évoqué par la police ou la gendarmerie.
02:51 L'avocat n'est pas parvenu à savoir quel logiciel a identifié son client.
02:59 S'agit-il de BriefCam ?
03:02 Le site internet de la Gendarmerie nationale
03:04 indique que des analystes y ont recours.
03:07 On aperçoit aussi discrètement le logiciel en cours d'utilisation
03:12 sur ce rapport officiel.
03:15 Mais les enquêteurs sont bien conscients d'être hors du cadre légal,
03:18 comme l'indiquent ces e-mails.
03:20 Seuls certains services ont l'outil BriefCam,
03:23 mais celui-ci n'étant pas déclaré à la CNIL,
03:25 il semble préférable de ne pas en parler.
03:28 Par contre, sur le plan juridique, a priori,
03:31 l'application BriefCam n'a jamais été déclarée
03:34 par la direction générale de la police nationale.
03:37 Selon Geoffrey Livolzi, qui a révélé ces e-mails dans le média Disclose,
03:43 la première utilisation de BriefCam remonterait à 2015.
03:47 Il semble en tout cas que l'utilisation de ce logiciel est totalement illégale.
03:52 Pourquoi ? Parce que normalement, quand on utilise un logiciel comme BriefCam,
03:56 il faut d'abord le déclarer à la CNIL
04:00 pour avoir l'autorisation d'utiliser ce logiciel,
04:03 qui peut avoir des risques pour les libertés individuelles.
04:06 Et ce contrôle, cette autorisation,
04:09 le ministère de l'Intérieur, la police nationale ne l'a jamais demandée.
04:13 Des révélations qui fragilisent le discours officiel
04:18 sur les garde-fous mis en place par la loi Jeux Olympiques.
04:21 28 garanties prévues par la loi.
04:24 Suite aux révélations de Disclose, Gérald Darmanin a promis une enquête
04:29 sur l'utilisation de BriefCam par ses services.
04:32 Non, je ne sais pas où est cette enquête.
04:37 Il avait dit qu'il rendrait l'enquête publique dans les 3 mois,
04:41 et c'était le 20 novembre. Vous ne savez pas où était cette enquête ?
04:44 Je ne pense pas. Il faudrait qu'on fasse la recherche.
04:47 D'accord. Mais parce que l'enquête a pris plus de temps que prévu, comment est-ce que...
04:50 Je ne sais pas, et ce n'est pas l'objet, je crois, de cette interview.