JOURNALISTE FREELANCE.BE Le site des journalistes indépendants

Les dérives de la vidéosurveillance dénoncées par des élus et des ONG

Encouragés par les industriels, plusieurs États membres de l’UE -dont la Belgique- ont assidûment utilisé la pandémie du Covid 19 pour justifier une extension considérable de l’utilisation d’outils de surveillance numérique, prétendant que ceux-ci sont incontournables pour imposer les mesures de distanciation physique et de contrôle épidémiologique. La multiplication des textes législatifs visant à favoriser le déploiement de ces technologies -toujours plus intrusives- dans le champ de la sécurité illustre par ailleurs ces tentatives successives menaçant l’équilibre entre le droit à la sécurité et les libertés publiques. Le dernier en date est le projet de réglementation de l’intelligence artificielle (IA) de la Commission européenne qui ambitionne de faire de l’UE une championne de l’IA tout en essayant d’en éviter les dérives (voir infra). Questions essentielles : comment garantir que les données collectées à l’occasion d’une crise sanitaire ne seront ni conservées au-delà du strict nécessaire, ni exploitées ensuite à d’autres fins, notamment politiques ? Comment aussi s’assurer que les traitements des données mis en œuvre n’aboutissent à aucune discrimination, notamment en raison de la classe sociale, de l’âge, du sexe ou de l’origine ethnique ?

Bien que les technologies utilisant l’IA jouissent désormais d’une certaine maturité et permettent -dans certains cas- des gains en termes de temps, de praticité voire même de sécurité, leur déploiement et leur usage, par le recours à des données biométriques, ne sont pas sans impact sur nos droits et nos libertés fondamentaux. Impact d’autant plus fort qu’une décision reposant sur une technologie de reconnaissance faciale peut aboutir par exemple à une arrestation ou même à l’emprisonnement d’un individu lorsque ces technologies sont utilisées à des fins sécuritaires. En effet, si les données dont l’IA se nourrit de manière autonome sont biaisées, ses résultats refléteront forcément ces biais. C’est ainsi qu’en 2016, le chatbot « Tay » de Microsoft (1), censé discuter avec le public sur Twitter, a dû être désactivé au bout d’à peine quelques heures car il a rapidement commencé à relayer des propos racistes et misogynes. Un exemple qui démontre que l’IA, aussi perfectionnée soit-elle, risque de reproduire les inégalités présentes dans nos sociétés si elles ne sont pas prises en compte dès sa conception.

Projet réglementaire européen : premières réactions

Très schématiquement le projet de règlement présenté le 21 avril 2021 par la Commission européenne sur l’intelligence artificielle prévoit d’interdire certaines utilisations des systèmes d’IA, en particulier le recours par les forces de l’ordre à des outils d’identification biométrique à distance en temps réel, comme les technologies de reconnaissance faciale dans les lieux publics. Cependant des dérogations seraient autorisées en cas de « nécessité stricte »à certaines fins précises (lutte anti-terroriste et sécurité publique) et l’utilisation de systèmes d’identification biométrique dans d’autres lieux n’est pas interdite mais seulement considérée comme « risquée ». Les propositions de la Commission ont suscité une première série de réactions plutôt contrastées de la part des parties prenantes. Si par exemple la « Business Software Alliance » (principal lobby du secteur numérique présent à Bruxelles), a salué sans réserve ce projet, en revanche, "Agoria", organisation patronale sectorielle belge (2), a indiqué dans un communiqué que « les exigences des systèmes d’IA en matière de gestion des risques et de conformité sont irréalisables pour une PME aujourd’hui. Il est impératif d’éviter que ce nouveau dispositif réglementaire ne freine le développement de l’IA et ses bénéfices potentiels ». Mais c’est surtout du côté des eurodéputés et des associations de défense des droits fondamentaux que les réactions sont les plus vives.

Dans un rapport qu’ils ont adopté, le 29 juin 2021(3), les membres de la commission des libertés civiles du Parlement européens réclament « une interdiction pure et simple de la surveillance biométrique et de la reconnaissance automatisée des caractéristiques sensibles des personnes telles que le sexe, la race, l’état de santé et le handicap ». Selon eux, ces intrusions peuvent avoir « des conséquences néfastes et en particulier la violation du droit à la vie privée et à la protection des données, la suppression de la liberté d’expression ainsi qu’un effet paralysant sur l’autonomie et la dignité de communautés vulnérables comme celles des LGBTQI et des personnes de couleur ». Ils réclament « l’interdiction de l’utilisation par les forces de l’ordre de bases de données privées de reconnaissance faciale » et exhortent la Commission européenne à ouvrir, si nécessaire, des procédures d’infraction à l’encontre des États membres récalcitrants.

De leur côté, dans un avis consultatif commun, les deux autorités indépendantes de la protection de la donnée, le « Comité européen de la protection des données » et le »Contrôleur européen de la protection des données », appellent à l’interdiction des systèmes de reconnaissance des visages, de la démarche, des empreintes digitales, de l’ADN, de la voix et d’autres signaux biométriques ou comportementaux et cela « quel que soit le contexte ». Selon les deux organisations, « le déploiement de l’identification biométrique à distance dans des espaces accessibles au public signifie tout simplement la fin de l’anonymat dans ces lieux ».

« Initiative Citoyenne Européenne » sur l’Intelligence artificielle

Un nombre croissant d’organisations de défense des droits humains face aux enjeux du numérique sont vent debout contre les dangers de la surveillance biométrique de masse. Parmi elles, European Digital Rights (EDRi) conduit la campagne « Reclaim Your Face » (« Reconquérir votre visage ») et réclame « l’interdiction des utilisations liberticides de l’intelligence artificielle, au premier rang desquelles la surveillance biométrique de masse ». Début 2021, elle a lancé une « Initiative Citoyenne Européenne » (ICE) sur l’Intelligence artificielle, un outil unique que l’UE met à la disposition des citoyens européens pour demander collectivement de nouveaux cadres législatifs. L’ONG estime qu’avec leurs dispositifs d’enregistrement (vidéosurveillance et logiciels de reconnaissance faciale), « les gouvernements, forces de police et entreprises collectent des données biométriques qui peuvent tracer nos déplacements en utilisant nos caractéristiques uniques, qui permettent une identification permanente ». Selon elle, « cette capture des données biométriques de chaque personne dans les espaces publics comme les rues, les parcs, les gares, les magasins ou les installations sportives pour tenter d’enregistrer nos vies en temps réel est de la surveillance biométrique de masse ce qui revient à nous traiter comme des code-barres ambulants. » Avec plusieurs autres ONG, EDRi appelle la Commission européenne à réglementer, de manière stricte, l’utilisation des technologies biométrique afin de mettre fin aux utilisations indifférenciées ou arbitrairement ciblées de la biométrie pouvant conduire à une surveillance de masse illégale. Au 26 juillet 2021, un peu plus de 50000 personnes ont déjà signé la pétition « Reclaim Your Face » dont 26851 provenant d’Allemagne, 11674 de France, 4480 des Pays-Bas, 3033 d’Italie et 1156 de Belgique. Sollicitée par nos soins, Ella Jakubowska, une des co-organisatrices de l’ICE sur l’Intelligence artificielle, nous confie son espoir « de pouvoir sensibiliser au moins un million de citoyens européens à cette question, car nous sommes convaincus que la surveillance biométrique de masse aura un impact sur les 448 millions d’habitants de l’Union européenne »(4). Elle se félicite que « de nombreuses organisations participant à notre campagne ont déjà contribué à mettre fin à des utilisations nationales de la biométrie qui ont conduit à une surveillance de masse et à une violation injustifiée des droits de l’homme. C’est par exemple le cas de l’Allemagne, de l’Italie, des Pays-Bas et de la Grèce », ce qui constitue, dit-elle, « une réussite importante et encourageante pour notre campagne ». Parmi l’éventail des activités visant inciter les citoyens à réfléchir à la signification de la surveillance biométrique de masse et surtout à faire évoluer le nombre de signatures de la pétition, elle nous a cité notamment des « promenades de surveillance avec des citoyens pour repérer les caméras qui traquent les passants, la tenue de conférences, la création de vidéos et de contenu pour les médias sociaux, des podcasts, des apparitions à la télévision et à la radio ainsi que le dépôt de plaintes, comme par exemple celle introduite contre la célèbre société américaine de reconnaissance faciale « Clearview AI »(5). Ella Jakubowska précise qu’au cours de cet été toute une série d’autres activités sont programmées parmi lesquelles « des campagnes plus visibles dans les rues et les espaces publics ainsi qu’une présence plus marquée en ligne ». A partir de l’automne, les promoteurs de l’ICE devraient s’impliquer davantage dans les activités et les débats politiques locaux dans les différents États membres de l’UE.

(1) « Chat » comme discussion en ligne et « bot » comme robot. C’est un logiciel programmé pour simuler une conversation avec un ou plusieurs humains par échange vocal ou textuel.
(2) "Agoria" rassemble près de 2.000 entreprises technologiques actives notamment dans le numérique et les télécommunications.
(3) Rapport d’initiative sur « l’intelligence artificielle en droit pénal et son utilisation par les autorités policières et judiciaires dans les affaires pénales ». Il sera voté en session plénière en septembre 2021.
(4) Dès qu’une initiative atteint la barre du million de signatures, la Commission doit décider de l’action juridique à entreprendre.
(5) « Clearview AI » a fait l’objet d’un recours auprès des autorités de protection des données (en France, Italie, Autriche et Grèce) par quatre ONG européennes (dont Digital Human Rights) pour la vente de la technologie de reconnaissance faciale non seulement à des services de police mais également à des entreprises privées.