Les enjeux soulevés par la loi JOP 2024

La victoire d’un lobby

La VSA est un marché en expansion : en 2020, il valait plus de 11 milliards de dollars au niveau mondial, avec une croissance annuelle de 7%. Des entreprises de toutes les échelles et toutes les formes, allant de la multinationale (Thales, Safran, Idemia, IBM, Atos) à la “start-up” (XXII, Two-I, Datakalab, Aquale, Sensivic), obtiennent des financements importants, aussi bien du secteur public que privé. Par exemple, en 2022, 80 millions d’euros ont été alloués par le Ministère de l’Intérieur au fonds interministériel de prévention de la délinquance (FIPD), soit une augmentation de 10 millions par rapport à 2021, visant en priorité le déploiement de la vidéoprotection.

Ce lobby est également influent à l'intérieur même des instances publiques :

• Le maire de Nice, Christian Estrosi, expérimente la VSA hors de tout cadre légal depuis plusieurs années ;

• Le ministre de l'Intérieur, Gérald Darmanin, avait soutenu la VSA lors du vote de la loi JOP 2024, et est aujourd’hui au coeur d’un nouveau scandale sur l’usage illégal d’une surveillance basée sur la reconnaissance faciale ;

• Ainsi que d'autres députés, sénateurs, secrétaires d'État, préfets et membres de la Cour des comptes.

La victoire de la loi JOP représente ainsi, en partie, la victoire d’un lobby composé de multinationales de la sécurité, de “start-up” sur l’IA et de décideurs politiques pro-surveillance qui gagnent les parts d’un marché opaque s’élevant à plusieurs milliards d’euros, dont le fonctionnement est peu documenté au grand public.

Protection des données et vie privée

Avant même son vote, la Commission nationale de l'informatique et des libertés (CNIL) se prononçait déjà le 8 décembre 2022 sur le projet de loi JOP. Présentant des enjeux forts en matière de protection des données personnelles et de vie privée, la CNIL exprimait :

• Que le code de la sécurité intérieure (CSI) ne contient pas la conformité nécessaire avec le Règlement Général de Protection des Données (RGPD) de l’Union européenne et la directive « Police-Justice », alors que le projet de loi prévoit que les enregistrements visuels de vidéoprotection respectent le RGPD. Les normes européennes établies en matière de protection des données semblent alors ne pas trouver le cadre nécessaire à leur respect dans la législation française ;

• Que l’expérimentation des caméras augmentées pour assurer la sécurité des grands événements soulève de nouveaux enjeux substantiels en matière de vie privée car elle conduit à une récolte massive de données personnelles et permettent une surveillance automatisée en temps réel, de masse et non ciblée.

Par ailleurs, selon le rapport “Projet de loi JO 2024” par Amnesty International, le projet de loi JOP comporte une erreur lorsqu’il affirme que les systèmes algorithmiques de vidéosurveillance ne traiteront aucune donnée biométrique. Puisque les caméras dotées d'algorithmes sont utilisées pour détecter des événements suspects, celles-ci analyseront, de fait, des traits physiologiques et des comportements de personnes dans l'espace public, tels que la posture, la démarche, les mouvements, les gestes ou même l'apparence. Cette isolation des individus par rapport à leur environnement, nécessaire pour atteindre l'objectif du système, constitue une « identification unique » au sens du RGPD.

Selon la définition précédemment établie, cette identification unique correspond bel et bien à un traitement des données biométriques par les systèmes algorithmiques de vidéosurveillance, et constitue de fait une faille de la loi, en ce qu'elle ne peut garantir une protection complète des données personnelles et de la vie privée.

Surveillance, censure et auto-censure

Ce nouveau dispositif soulève en effet des enjeux préoccupants en matière de respect de la vie privée car ces outils d’analyse d’images peuvent permettre une surveillance automatisée, voire « disproportionnée » de l’espace public, modifiant les comportements ou conduisant à des formes d’auto-censure.

Par sa simple présence dans des zones accessibles au public, la VSA non ciblée peut en effet avoir des effets dissuasifs sur l’exercice des libertés civiques fondamentales, avec notamment les libertés de réunion, d’association et d’expression, comme l’ont souligné le Comité européen et Contrôleur européen de la protection des données. Par exemple, la surveillance biométrique pourrait avoir des répercussions sur l’anonymat des citoyen.ne.s dans les espaces publics et ainsi avoir un effet négatif sur leur volonté et leur capacité à exercer leurs libertés, redoutant d’être identifié.e.s ou interpellé.e.s.

Une chose apparaît de manière certaine, le déploiement de la VSA, même à titre expérimental, va contribuer de manière déterminante à définir le rôle général attribué aux technologies IA.

Biais discriminatoires

En théorie, les garanties prévues par la loi devraient permettre de limiter les risques d’atteinte aux données et à la vie privée des personnes : un déploiement dit expérimental et temporaire, sans traitement des données biométriques, sans prise de décision automatique… Or, dès lors que des algorithmes sont chargés d’identifier des situations dites anormales, il convient de questionner la définition même de la norme préétablie. Comment s’assurer que des groupes déjà marginalisés ne seront pas davantage pris pour cible ?

Les technologies, conçues par des humains, ne sont pas exemptes de biais discriminatoires. Selon Amnesty International, détournées de leur usage initial, et couplées avec l’automatisation de leur recours, ces technologies risquent à terme de cibler des groupes déjà marginalisés. Selon Human Rights Watch, il est prouvé que « l'utilisation des technologies de surveillance crée un état de contrôle, de profilage et de suivi permanent qui nuit de manière disproportionnée aux personnes marginalisées ».

Ainsi, les situations de mendicité ou de rassemblement statique pourraient être perçues comme suspectes, renforçant les risques de discrimination pour les personnes qui passent beaucoup de temps dans l’espace public, à l’image des personnes sans-abris, en situation de vulnérabilité économique ou de handicap. Davantage surveillées, celles-ci pourraient notamment faire l’objet de contrôles arbitraires, participant ainsi à une stigmatisation accrue de leur présence dans l’espace public.

Surveillance et technopolice

Alors que loi JOP 2024 soulève de nombreux débats, il convient de rappeler qu’au-delà de la traditionnelle opposition entre surveillance et sécurité, la technologie n’est pas neutre mais elle constitue un outil au service du pouvoir – qu’il s’agisse d’une vidéosurveillance automatisée, de microphones intelligents, de police prédictives ou même encore, de drones.

En effet, selon La Quadrature du Net, association de recherche défendant les libertés face au développement des technologies numériques, « bien qu’elle soit plurielle et elle aussi soumise à des tendances contradictoires, elle [la technologie] est globalement produite – et elle tend généralement à reproduire – un système politique, économique et social ». Il est ainsi important de rappeler que le numérique est un fait social total et qu’il n'est plus possible de penser politiquement sans lui.

A ce titre, dans son rapport “Projet de loi JO 2024” Amnesty International souligne une tendance inquiétante des gouvernements à étendre leurs pouvoirs de surveillance au nom de la sécurité. Celui-ci cherche à dénoncer la persistance des mesures d'exception de surveillance, souvent dépourvues de garanties adéquates, de transparence, et de dialogue avec les parties concernées. Ils mettent également en garde contre le précédent dangereux que cela pourrait créer pour d'autres pays européens et soulignent que la France pourrait devenir un "leader" controversé en matière de politiques de surveillance au sein de l'Union Européenne.