CQFD, mensuel de critique et d'expérimentation sociales

Face au virus, « un arsenal techno-sécuritaire démesuré et absurde »

Clair Rivière, Émilien Bernard — 2020-05-02T20:24:17Z

Depuis sa création en 2008, l'association La Quadrature du Net joue un rôle essentiel dans la dénonciation des dérives en matière de technologie – sur Internet et ailleurs. Elle a récemment lancé une campagne intitulée Technopolice, visant à documenter les visages inquiétants de la ville dite « intelligente », où tous les comportements sont scrutés, enregistrés, fliqués1. Le contexte actuel formant une parfaite rampe de lancement pour de nouvelles technologies invasives, nous avons demandé à des militants de l'association ce qu'ils pensaient de l'emballement en cours.

Citation : Emmanuel Macron, 13 avril 2020 / Illustration : Baptiste Alchourroun

Depuis des années, États et grosses entreprises développent des systèmes de surveillance numérique à même d'épier chaque citoyen jusque dans ses espaces les plus intimes. Pour faire passer la pilule, le risque terroriste a longtemps été le prétexte idéal. L'arrivée du coronavirus est pour les tenants de la surveillance et de la répression une chance inespérée d'accélérer le mouvement et d'empiéter fermement sur les libertés. Il y a fort à parier que les mesures et outils développés pendant la crise sanitaire resteront en place à la fin de l'épidémie. Le péril « coronavirus » passé, ils pourront servir à maintes basses besognes, comme le fichage politique.

Depuis quelques semaines en tout cas, pas un jour ne passe sans qu'une nouvelle frontière ne soit allègrement franchie. Du traçage numérique aux caméras thermiques, des drones policiers à la reconnaissance faciale, se développe à une vitesse affolante un maillage de surveillance de plus en plus dense. Pour les militants de La Quadrature du Net, il est plus que temps de mettre le holà à cette course en avant menée sous prétexte sanitaire. Et de vraiment interroger, voire détruire, les soubassements de l'emballement technologique.

Entretien collectif.

***

Kenneth Roth, le directeur général de Human Rights Watch, a déclaré le 7 avril : « Le coronavirus est le nouveau terrorisme. C'est le dernier prétexte en date pour des violations de droits qui persisteront [...] longtemps après la fin de la crise. » Partagez-vous cette analyse ?

« Le constat est avéré : quelle que soit leur forme, les crises passées ont souvent été propices à l'établissement de nouvelles mesures liberticides et de violations des droits humains. Elles induisent en effet une situation d'urgence qui permet aux autorités de prendre des mesures de restriction des libertés individuelles au nom de la gestion de crise. Il y a donc forcément des dérives.

Ça a été le cas aux États-Unis après les attentats du 11 septembre 2001, qui ont non seulement engendré des guerres basées sur des mensonges, mais également le Patriot Act, loi qui a permis aux autorités d'accéder sans restriction à toutes sortes de fichiers de données personnelles (médicales ou bancaires, par exemple) et de placer sans mandat tout citoyen sur écoute. Initialement mis en place pour quatre ans, le Patriot Act est toujours en vigueur dix-huit ans après. Les présidents successifs n'ont fait qu'étendre son champ d'application, institutionnalisant les abus et les dérives sécuritaires en toute opacité.

Plus récemment, en France, les attentats terroristes de 2015 ont permis le vote de la loi Renseignement. Ils ont aussi entraîné la mise en place de l'état d'urgence, lequel a été utilisé pour interpeller des militants et manifestants n'ayant aucun rapport avec le terrorisme... avant que certaines de ses mesures liberticides ne soient introduites dans le droit commun en 2017.

La crise actuelle et l'état d'urgence sanitaire ne semblent pas échapper à la règle. L'application des mesures anti-coronavirus ne va pas sans abus : interpellations violentes non justifiées, caractère flou des interdictions, interprétations hasardeuses et abusives des règles à suivre de la part des forces de l'ordre2, etc. En parallèle, la population est surveillée via des drones dont l'utilisation est peu (voire pas) encadrée légalement3, tandis que des hélicoptères et des avions4 survolent les airs et veillent au confinement. Dans le même temps, des dispositifs croisés mêlant policiers, caméras de surveillance et drones servent à interpeller des individus qui ont omis de remplir une attestation de sortie. Et puis il y a cette application de “backtracking” que l'État aimerait qu'on installe sur nos smartphones pour s'autotracer. »

Face à cette accélération de la surveillance technologique, on a l'impression que la sidération est de mise...

« Alors même que la situation sanitaire perturbe notre quotidien et suscite notre inquiétude, pour nous et nos proches, nous voyons se déployer un arsenal techno-sécuritaire démesuré et absurde. Or, à aucun moment on ne discute de son impact social, ni du climat de peur et de déshumanisation qu'il génère. Comme si la pandémie n'était pas déjà en soi suffisamment traumatisante…

Dans le même temps, on constate dans les hôpitaux le manque d'équipements, de protections pour le personnel soignant, de lits, de tests de dépistages et de moyens. Pire : on regarde les plus démunis, les plus pauvres, les plus âgés, souffrir et pâtir d'une crise sanitaire et sociale, sans réponse claire et coordonnée de la part des autorités, avec comme rares réconfort et soutien la solidarité collective admirable qu'on voit émerger sur le terrain.

Il semble en tout cas que l'état général de sidération du début a laissé la place à une prise de conscience croissante de ce fait évident : la principale réponse de l'État à cette crise est sécuritaire et tout bonnement inhumaine. Les dénonciations en la matière se multiplient, même si ce travail militant se déploie dans des conditions très contraintes. »

En Pologne, les personnes en quarantaine sont contraintes d'envoyer via une application mobile des selfies prouvant qu'elles sont chez elles, sous peine de voir la police débarquer pour contrôler. En France, le projet d'application « Stop-Covid » porté par le gouvernement semble un peu moins intrusif. Quel est, d'après vous, son degré de dangerosité ?

« L'application Stop-Covid, telle qu'elle est présentée, semble collecter et traiter les données en pseudonymat – il n'y a pas d'anonymat pur5. Pour se garantir contre les dérives, il faudrait a minima que le code source de l'application soit publié sous licence libre et disponible suffisamment à l'avance pour permettre un audit technique préalable. Mais même avec ces garanties, tout laisse penser que cette application sera non seulement inefficace, mais aussi qu'elle fera courir le risque de dérives sécuritaires ou sociales.

Pourquoi ? Tout d'abord, parce qu'il est probable que le gouvernement souhaite un jour la rendre obligatoire. En effet, les modèles théoriques de l'algorithme derrière une telle application demandent, pour être efficaces, une participation massive (en France le chiffre minimum de 60 % est souvent évoqué, mais en réalité il s'approcherait davantage des 70 % de la population). Ceci en supposant que les personnes soupçonnées d'être malades puissent être testées rapidement et efficacement, ce qui ne semble pas d'actualité.

De plus, une fois l'application déployée, il sera facile pour le gouvernement de lui adjoindre des fonctions coercitives comme en Pologne – avec contrôle individuel du confinement, vérifications et alertes régulières si non-connexion à la base de données centrale liée à l'application, etc.

Un autre aspect dangereux de cette application est le sentiment de fausse sécurité sanitaire qu'elle peut créer. C'est un effet connu des solutions technologiques qui offrent une illusion de maîtrise et de contrôle : son usage pourrait inciter à réduire les gestes barrières, tout en échouant à lancer des alertes suffisamment fiables.

Plus largement, l'application renforce la croyance aveugle dans la technologie et la surveillance comme principales réponses aux crises sanitaires, écologiques ou économiques, alors qu'elles détournent au contraire l'attention des réflexions profondes sur nos politiques et des solutions de bon sens – la recherche scientifique, le financement du service public ainsi que la préservation des systèmes de santé solidaires et des biens communs. »

L'éditocrate Christophe Barbier a suggéré que les personnes ayant installé l'appli aient prioritairement accès aux tests sérologiques – quand ils seront disponibles. Va-t-on vers un modèle où des outils de surveillance numérique seront de facto obligatoires ?

« Oui, ce danger est bien réel. Même si l'application n'est pas formellement obligatoire, une pression sociale trop importante pourrait entraîner de graves formes de discriminations envers les personnes qui ne l'utilisent pas. L'application deviendrait ainsi une sorte de socle de “crédit social” tel qu'on le voit expérimenté en Chine : des employeurs pourraient exiger que l'application soit installée sur notre téléphone et qu'elle montre que “nous allons bien”. De même, l'entrée dans certains lieux pourrait être conditionnée par le recours à cette application et à des informations sur notre état de santé. »

Christian Estrosi, le maire de Nice, a demandé à ce qu'Enedis fournisse les données d'utilisation du compteur électrique Linky pour pouvoir dénoncer les gens partis dans leur résidence secondaire en violation du confinement. Le coronavirus montre à quel point sans même avoir besoin d'aller plus loin, l'État et les entreprises disposent déjà de nombreuses données permettant de nous fliquer. Quels en sont les exemples les plus marquants ?

« Le croisement du fichier TAJ (Traitement des antécédents judiciaires) et du fichier TES (Titres électroniques sécurisés) ainsi que des dispositions de la loi Renseignement rendent déjà possible la reconnaissance faciale des manifestants en toute opacité6. Si on ajoute à cela les caméras de surveillance “intelligentes” de nos villes et les drones, nous pouvons toutes et tous potentiellement subir une identification et surveillance individuelle importante. Linky n'est qu'une pièce de plus dans le maillage déjà très dense de la surveillance aujourd'hui et Estrosi rappelle par sa provocation bravache les possibilités qu'offrent les compteurs dits “intelligents” en termes de surveillance.

Au niveau des entreprises, les grandes multinationales du numérique comme Google ou Facebook utilisent déjà largement nos données de localisation : nos déplacements n'ont plus aucun secret pour elles, nos attitudes et affinités sociales sont passées au crible, nos photos et vidéos nourrissent leurs algorithmes d'intelligence artificielle et de reconnaissance faciale. Et depuis les révélations d'Edward Snowden en 2013, nous savons que les États et ces entreprises travaillent main dans la main.

Particulièrement juteux, le marché de la sécurité est souvent tributaire de projets fonctionnant sur la base de partenariats public-privé. Les Jeux olympiques de Paris 2024 seront ainsi une occasion en or pour les entreprises du secteur de travailler avec l'État pour faire proliférer les dispositifs techno-sécuritaires. Ça a été le cas à Pékin en 2008 et à Londres en 2012. Paris est la prochaine sur la liste. »

Dans des dizaines de villes de France, la police s'est mise à utiliser des drones dans la rue pour intimer aux gens l'ordre de rentrer chez eux. Le ministère de l'Intérieur vient d'ailleurs de passer commande de plusieurs centaines de nouveaux drones. Dans quel but et selon quelles modalités ?

« Dès le début, le confinement a été pour le gouvernement une occasion en or de déployer ces nouveaux gadgets de surveillance, imitant ainsi les usages qu'en faisaient les autorités chinoises dès le tout début de cette année. Le 10 avril dernier, un appel d'offres a été publié par le ministère de l'Intérieur : il porte sur l'acquisition de plus de 650 drones. D'après nos estimations, cela correspondrait à un doublement du nombre de drones actuellement disponibles pour les forces de police. Alors qu'une récession sans précédent est annoncée et que notre système de santé est exsangue, ce sont 4 millions d'euros qui vont être dépensés par l'État pour surveiller la population.

Le cœur de cette commande porte sur 565 “micro-drones du quotidien”. Le nom même de ces derniers trahit la volonté politique de banaliser la surveillance aérienne et de l'inscrire dans la durée. Leurs capacités techniques laissent pourtant entrevoir leur potentiel liberticide. L'appel d'offres explique par exemple que ces engins devront permettre une “discrétion visuelle et sonore” tout en assurant une capacité de “reconnaissance humaine à une hauteur de vol de cent mètres”.

Par ailleurs, 66 “drones de capacité nationale” et 20 “nano-drones” seront aussi fournis aux autorités. Les premiers doivent permettre de suivre une cible située à 500 mètres, tandis que les seconds pèseront moins de 50 grammes et seront encore plus difficilement détectables.

Après une phase d'utilisation exceptionnelle suivie d'une expérimentation à grande échelle à l'occasion du confinement, l'État est en train de profiter d'un vide juridique pour les déployer massivement et les imposer sur le long terme. La France n'est évidemment pas la seule dans ce cas : on voit des processus similaires à l'œuvre au Royaume-Uni, au Portugal, en Italie... »

Avant la « crise », il semblait y avoir accélération du processus d' » acceptation » concernant la reconnaissance faciale en France. C'est la prochaine étape ?

« Oui, dans l'ombre du Covid-19 la reconnaissance faciale continue à avancer. Au mois de mars, Cédric O, le secrétaire d'État au numérique, expliquait que “la reconnaissance faciale peut apporter un certain nombre de bénéfices à la fois dans l'ordre public mais également dans la gestion de maladies”. Aux États-Unis, la police explique qu'il s'agit d'une solution plus hygiénique que les papiers d'identité pour identifier les gens, car “sans contact”.

Cette technologie progresse également dans le cadre d'utilisations en apparence moins policières. Dans plusieurs universités par exemple, des dispositifs de surveillance d'examens par vidéo et reconnaissance faciale sont envisagés. Plus largement, d'autres applications de la “vidéosurveillance automatisée” prolifèrent à l'occasion de cette crise, par exemple dans l'utilisation d'images issues de la vidéosurveillance afin de détecter automatiquement les attroupements, le non-respect de la distanciation sociale.

Récemment, on a aussi remarqué une explosion d'offres de certaines entreprises pour des caméras thermiques qui seraient capables de détecter à une certaine distance les personnes fiévreuses. Des aéroports commencent déjà à en installer. À Cannes, la mairie a équipé des commerces de thermomètres laser qui conditionnent l'entrée. Ces dispositifs présentent des incertitudes significatives, mais encore une fois leur efficacité réelle n'est pas discutée, ni les conséquences humaines de leur utilisation. C'est la surenchère techno-sanitaire. »

On a l'impression d'une forme de « stratégie du choc » appliquée à la surveillance de masse. Comme si au moindre événement majeur (terrorisme, épidémie...), plus aucune remise en cause ne pouvait être énoncée. Comment résister à cette fuite en avant ?

« Nous devons plus que jamais rester lucides et vigilants, nous informer, questionner les mesures qu'on nous impose. Il est vrai qu'en temps de confinement, alors que les manifestations classiques ne sont pas possibles et que nos déplacements physiques sont drastiquement réduits, il apparaît difficile de s'opposer, hormis via quelques moyens limités, comme les banderoles aux fenêtres. La solidarité associative envers les plus démunis, alors que l'aide des autorités fait cruellement défaut, est également remarquable et témoigne de notre capacité à gérer les urgences de façon collective, organisée et humaine. Profitons également de ce moment de confinement pour réfléchir autant que possible à mieux organiser et préparer notre réponse dès que nous retrouverons un peu de marge de manœuvre. »

Propos recueillis par Émilien Bernard & Clair Rivière

1 Voir l'entretien avec Félix Tréguer publié dans CQFD n° 183 (janvier 2020) : « La technopolice progresse partout » ou encore notre article de février (CQFD n° 184) : Vidéosurveillance automatisée : on ne pourra plus faire un pet de travers. Le site de la campagne, fortement recommandé : Technopolice.fr

2 Lire notamment la lettre ouverte au ministère de l'Intérieur signée notamment par la Ligue des droits de l'homme : « Pour un respect de l'état de droit en matière de verbalisations/amendes » (10/04/2020). Voir aussi en page 6 du présent journal l'article sur les incarcérations liées au non-respect du confinement : « La prison sans attestation », CQFD n°187 (mai 2020).

3 Voir à ce sujet le récent article de La Quadrature du Net (www.laquadrature.net) : « Covid-19, l'attaque des drones » (01/04/2020).

4 C'est le cas à Marseille, où la police utilise un petit avion pour détecter d'éventuels attroupements.

5 Voir notamment le travail mené sur la plateforme Risques-tracage.fr par des chercheurs s'inquiétant des risques sociaux engendrés par l'application.

6 Sur son site, La Quadrature du Net a publié un article détaillant cette question : « La reconnaissance faciale des manifestant·e·s est déjà autorisée » (18/11/2019).

Sans toit, ni data

Mickael Correia — 2016-06-13T03:00:00Z

A l'ère du tout numérique et de l'uberisation généralisée, l'action sociale ne fait pas exception à la règle. L'application mobile Entourage propose depuis peu de mettre en réseau les maraudes comme les riverains pour mieux venir en aide aux sans-abris. Mais entre veiller et surveiller, la frontière est parfois ténue...

Disponible depuis l'automne dernier, l'application mobile Entourage propose aux associations d'aide aux sans-abri de coordonner et d'optimiser leurs tournées de rue respectives. Gratuit et à but-non lucratif, l'outil numérique permet de géolocaliser les parcours des équipes de maraude en temps réel et de notifier sur une carte virtuelle les points de rencontre avec des sans-abri. Le maraudeur peut aussi enregistrer, par écrit ou par dictée vocale, l'état de santé du SDF, ce qui lui a été distribué (pour, par exemple, ne pas lui donner deux fois de suite un bol de soupe) ou encore si le sans-abri a besoin d'un dentiste ou de vêtements.

Maraudes professionnelles, bénévoles ou paroissiales, on dénombre déjà en France une quarantaine d'associations ayant adopté Entourage. De plus en plus de mairies y voient même une solution miracle pour optimiser l'action sociale. En octobre dernier, lors d'une réunion de coordination entre équipes de maraude à la mairie du 15e arrondissement de Paris, Marc Esclapez, élu Républicain délégué à la précarité a ainsi invité le créateur de l'application, Jean-Marc Potdevin (sic !), à vanter les mérites de son joujou numérique devant les travailleurs sociaux.

Le 11 avril dernier, lors d'une réunion de travail du même type et alors que les associatifs échangent autour de sans-abri qu'ils accompagnent dans la rue, l'édile balance soudain : « Vous voyez, si vous aviez Entourage, vous ne perdriez pas de temps à faire ces réunions. » Hugo1, travailleur associatif et présent à ces rencontres à la mairie, fulmine : « Marc Esclapez est alors revenu à la charge sur l'utilité de cette application, en insistant sur le fait que Jean-Marc Potdevin était tout disposé à revenir présenter l'appli. C'est que certaines associations se sont montrées dubitatives : les acteurs de l'intervention sociale sont déjà en lien les uns avec les autres. C'est l'essence même de notre métier et l'application vient justement casser ce lien entre nous. »

« Entourage développe un réseau social autour d'un sans-abri qui n'a même pas été consulté ! Imaginez que sans votre consentement, vos voisins enregistrent sur une appli si vous êtes présents ou non, quelle est votre humeur du jour ou qui vous recevez chez vous, ajoute Christophe Louis, directeur de l'association parisienne Les Enfants du Canal – participant également aux réunions du 15e. Quant à la question de la propriété des données récoltées sur les SDF, les promoteurs de l'appli restent très évasifs. Mais il faut être aujourd'hui naïf pour ne pas se méfier des dérives de fichage inhérentes à ces nouvelles technologies... »

RÉVÉLATION DIVINE 2.0

Ancien dirigeant de Yahoo Europe et créateur de nombreuses startups à succès, Jean-Marc Potdevin avoue dans son livre paru en 2012 Les mots ne peuvent dire ce que j´ai vu. L'expérience mystique d'un business angel, avoir rencontré « la Présence divine et royale en personne » lors d'un pèlerinage à Saint-Jacques de Compostelle. Le millionnaire commence depuis chacune de ses journées en allant à la messe et confesse : « Passer du temps avec ces personnes me fait du bien et me permet de toucher du doigt mes pauvretés, que je ne voulais pas voir. 2 »

Désormais devenu un « entrepreneur en quête d'humanité », le business-angel s'attelle à allier charité chrétienne et nouvelles technologies 2.0. Et d'affirmer : « J'aime l'Église : elle montre le bon chemin. Je marche en suivant son balisage3 ». Accompagné de sa femme, Jean-Marc Potdevin prêche ainsi depuis cet automne les bienfaits numériques de son « réseau social collaboratif sur smartphone » en faisant la tournée des équipes de maraude du pays. Sa « start-up solidaire » est même appuyée dans sa stratégie de promotion par TBWA, un géant de la publicité qui conçoit les campagnes de McDonald's ou encore de Dior et Yves Saint Laurent.

Mais l'artillerie communicationnelle a du mal à camoufler le fait qu'Entourage permet également de fliquer en douce les maraudeurs. « C'est un instrument de contrôle des salariés car en temps réel on sait où l'on est, explique Hugo. Pour les financeurs ou notre direction, ils auront une trace de tous nos faits et gestes car l'application permet d'éditer une carte de toutes nos tournées de rue. » Sans ambages, Sylvie Ceyrac, déléguée LR à la solidarité du 15e arrondissement, argue aux assos : « Au moins, on saura ce que vous faites ! »

LIKE MON AUMÔNE !

D'autres applications caritatives proposent depuis peu aux péquins lambdas de s'adonner à la lutte digitale contre l'exclusion grâce à leur smartphone. En téléchargeant Homeless Plus, l'âme charitable peut géolocaliser les besoins d'un SDF – mais ce dernier reste anonyme, ouf ! –, indiquer son sexe et son humeur grâce à des « émoticônes », puis enregistrer cinq types d' actions qu'il a ou qu'il faudrait mettre en œuvre pour le pauvre indigent : dons d'argent, nourriture, boisson, vêtements ou discussion. Tout autre zigue ayant l'application pourra consulter sur une carte les données compilées sur les SDF pour leur venir en aide. Utilisateur d'Homeless Plus, Eric témoigne sur le site de l'application : « Mon fils et moi avons discuté cinq minutes et donné un sandwich et un litre de jus de pomme à Fred. Là, ses yeux se remplissent de larmes, dur de trouver les bons mots. L'agitateur de bonne humeur que je suis prend un coup d'humanisme. » Gloire à Homeless Plus ! Imaginez une horde de bienfaiteurs penchés sur leur smartphone venus vous apporter leurs vieilles couvertures ou un fond de café sans que vous n'ayez rien demandé...

Par ferri.

Outre-atlantique, le gant de velours de la main charitable a révélé son poing de ferraille : depuis l'été dernier, les New-yorkais peuvent télécharger Map the Homeless, une application nauséabonde servant à géolocaliser, photographier et fliquer les mauvais comportements des SDF sous forme de hashtags. Le jeune ingénieur à l'origine de l'appli assure vouloir aider la ville à virer les sans-abris des rues et prévenir les habitants des spots de concentrations de clochards4.

Dès le mois de juin, Entourage sera proposé également au grand public. Les riverains d'un quartier pourront se géolocaliser et consulter une liste d'actions en faveur des SDF en bas de chez eux. En lien avec les associations d'action sociale, les voisins philanthropes accéderont à un groupe de tchat privé et discuteront des besoins à apporter au sans-abri. Comme sur e-Bay, les riverains bénévoles seront ensuite évalués pour éviter tout âme malveillante. Une bonne note pour un repas chaud !

« Sous couvert de se donner bonne conscience en apportant au pied des gens ce dont ils ont besoin, Entourage rend confortable la rue, s'inquiète le directeur des Enfants du Canal. Notre travail c'est que les personnes trouvent en premier lieu un toit. Les associations n'ont pas le monopole de l'aide aux sans-abri, mais cette application favorise une certaine ''uberisation'' de l'action sociale. »

En écho aux habitants du très chic 16e arrondissement de Paris qui avaient violemment protesté contre un projet de centre d'hébergement dans leur quartier, Christophe Louis avertit : « On est actuellement dans un contexte politique où certains riverains mal attentionnés pourraient facilement détourner l'application pour aider un Français bien de chez nous plutôt qu'un migrant, voire pour expulser les SDF en bas de chez eux. » L'enfer numérique est géolocalisé de bonnes intentions.

1 Le prénom a été modifié.

2 La Croix, 25 janvier 2016.

3 Famille Chrétienne, 22 février 2012.

4 Engineer develops “Map the Homeless” app. New York Post, 10 août 2015.