CQFD, mensuel de critique et d'expérimentation sociales

Félix Tréguer : « La technopolice progresse partout »

Émilien Bernard — 2020-01-16T23:16:05Z

La « Smart City », nouvelle coqueluche des municipalités avides de gestion déshumanisée de l'espace public, n'est en rien intelligente. C'est avant tout un terrain idéal de surveillance et de gestion des populations par des édiles obsédés par le tout-sécuritaire. Alors que ce modèle se développe un peu partout dans l'Hexagone, état des lieux avec Félix Tréguer, l'un des soutiers de la campagne Technopolice, qui vise à alerter et mobiliser sur la question.

Par Etienne Savoye

En matière de luttes concrètes pour un Internet libre, La Quadrature du Net a été et reste un acteur essentiel. Fondée en 2008, cette association a bataillé sur les terrains législatifs et médiatiques pour que la Toile ne devienne pas le terrain de jeu d'intérêts étatiques ou commerciaux. Ni surveillance ni récupération, clamaient ses animateurs, place au libre, à l'utopie d'un espace virtuel émancipateur. C'est toujours leur position.

Mais les membres du collectif estiment désormais que d'autres terrains que la Toile sont menacés par la surveillance version Big Data1 et algorithmes, notamment l'espace public. C'est pourquoi ils ont lancé la campagne Technopolice, qui vise à provoquer le débat et passe notamment par un site (Technopolice.fr) qui recense et documente les projets les plus avancés en matière de Smart City et de gestion automatisée des villes. Parmi les concernées : Toulouse, Nice, Marseille, mais aussi Valenciennes ou Istres.

On en parle avec Félix Tréguer, cofondateur de la Quadrature du Net très impliqué dans cette campagne.

La Quadrature du Net

« À sa fondation en 2008, La Quadrature du Net portait la vision d'un Internet émancipateur. C'était à nos yeux une véritable utopie à défendre, un terrain idéal à prospecter pour faire avancer nos idéaux. On se voulait garde-fous en la matière, dénonçant les dérives et récupérations, mais avec l'idée d'une avancée globalement positive. C'est quelque chose dont on est plusieurs à être largement revenus, même si chacun à la Quadrature a sa trajectoire, sa vision des choses.

Pour ma part, je pense que ces utopies fondatrices – par exemple celle du logiciel libre, et plus largement d'Internet comme technologie d'essence démocratique – ont perdu la bataille. On a assisté à une reprise en main d'Internet par les États et le capitalisme. C'est ce que je raconte dans mon livre, L'utopie déchue, une contre-histoire d'Internet, XV^e- XXI^e siècle 2, en revenant sur les politiques de contrôle de l'information depuis l'imprimerie. Cette reprise en main, c'est une évolution qu'on a clairement vécue à la Quadrature : un désenchantement face à la manière dont évoluait le champ numérique, le triomphe des GAFAM, le règne du Big Data et de la surveillance généralisée, la censure automatisée qui se développe aujourd'hui…

Avec le recul, j'ai l'impression qu'à certains moments on a pu contribuer à vendre une soupe technophile. Mais à partir du Cablegate 3 et des déboires de Julian Assange, puis lors de l'affaire Snowden en 2013, on a commencé à se défaire de certaines œillères. Notre discours et nos modes d'action reflètent en partie ce processus. On pense toujours qu'il est important d'occuper les terrains législatif et médiatique pour entraver les projets sécuritaires et les stratégies économiques des multinationales du numérique, parce que c'est notre rôle d'être au contact des institutions. Mais on mesure aussi que ça ne suffit plus face au déferlement numérique. Au point que désormais, on souhaite aussi s'investir dans des luttes de terrain, sur le local, parce que c'est là qu'on retrouve un peu du sens et de la joie, essentiels à tout projet militant. »

Technopolice

« La campagne Technopolice, lancée en septembre dernier, est un peu le fruit de cette évolution, de cette envie d'aller au plus près du terrain. C'est aussi quelque chose que nous impose l'étape de l'informatisation à laquelle nous sommes rendus. Le projet est né quand on a découvert le programme “Big Data de la tranquillité publique”, un outil de police prédictive lancé à Marseille, il y a près de deux ans (lire aussi p. IV). En étudiant les documents administratifs liés au projet, on est tombés des nues. Plus on les épluchait, plus on comprenait qu'il y avait en cours une ambition délirante. En clair : appliquer des méthodes d'analyse Big Data à un maximum de données, issues aussi bien de la police que des hôpitaux, des réseaux sociaux ou des régies de transports. C'est l'idée de base de la “Smart City” : mobiliser toutes les informations disponibles pour gérer le quotidien de la ville, des manifestations à la voirie. En la matière, Marseille et Nice sont clairement des précurseurs : même si la Commission nationale de l'informatique et des libertés (Cnil) vient de retoquer le projet d'installer des portiques de reconnaissance faciale à l'entrée de deux lycées de ces villes, elles n'en restent pas moins des laboratoires revendiqués en matière de police prédictive et de vidéosurveillance automatisée. D'ailleurs, la première véritable expérimentation française de la reconnaissance faciale en temps réel, dans l'espace public, pour retrouver un cobaye volontaire noyé dans la foule, s'est déroulée à Nice à l'occasion du dernier carnaval.

Si elle prend des formes parfois différentes, la technopolice progresse partout sur le territoire : à Toulouse, Paris, Marseille, mais aussi à Istres, Valenciennes ou Lannion, il s'agit de mettre la ville sous contrôle numérique en collectant les données disponibles afin de contrôler les foules, gérer les flux, s'appuyer sur le Big Data pour légitimer des politiques de segmentation spatiale. Après les discours marketing sur la “Smart City”, ce sont les applications sécuritaires qui sont les plus avancées. D'où le terme de “Safe City” vanté par les industriels, qui constatent que c'est pour les politiques de sécurité que les mairies sont les plus enclines à débloquer des budgets. »

Reconnaissance faciale

« Pour l'instant, en dehors d'expérimentations, il n'y a pas à proprement parler de reconnaissance faciale en “live”. Mais on s'en approche de plus en plus. Dès 2014, la préfecture de Paris a lancé des projets de recherche en lien avec des industriels. Il s'agissait alors d'être dans la comparaison faciale : à partir d'une image, tirée d'un film ou d'une simple photo, on cherche à savoir si la personne est fichée. Aujourd'hui, la comparaison faciale est légale, et les agents ayant accès au fichier TAJ (Traitement d'antécédents judiciaires) disposent d'une fonctionnalité dédiée pour faire remonter des fiches à partir de la photo d'un suspect qu'on présente à l'algorithme. Or, le fichier TAJ est une espèce de tout-venant, où l'on met tout le monde et n'importe qui. Les procédures et les garde-fous, par exemple ceux prévus pour faire effacer les données des personnes qui n'ont rien à y faire, ne sont pas respectés. Et lorsqu'on a cherché à mieux comprendre la manière dont les images vidéos des manifestations de Gilets jaunes pouvaient être utilisées pour armer la répression contre ce mouvement, on a compris qu'un autre fichier pouvait être mobilisé, le TES (Titres électroniques sécurisés), dans lequel seront à terme fichés tous les demandeurs de carte d'identité et de passeports. Bref, toute personne filmée sur le lieu d'une manifestation peut être identifiée par la comparaison faciale, fichée, voire poursuivie.

Ce type d'usage s'est imposé dans les pratiques policières, sans qu'aucune transparence ne soit faite, sans qu'aucun débat n'ait eu lieu. La reconnaissance faciale en direct dans l'espace public semble être la prochaine étape. »

Outils de résistance

« Pour enrayer la donne, on essaye de sortir de notre milieu, de parler au plus de gens possible. Ça passe notamment par notre site Technopolice.fr, lancé en septembre à Nice, avec des partenaires comme la Ligue des droits de l'Homme. Il s'agit de documenter, d'informer, d'offrir des outils de diffusion et d'organisation des luttes. Par ailleurs, on essaye de mobiliser d'autres acteurs, de faire des recours juridiques, de mettre la pression sur des organismes comme la Cnil. Sachant qu'il n'y a que cinq salariés à La Quadrature du Net, c'est un boulot de fou. On souhaite donc aider des groupes locaux à s'organiser et à travailler avec nous dans le cadre de cette campagne. Parfois, on a de bonnes surprises : quand on est allés tracter devant le lycée Ampère à Marseille, alors sous la menace du portique de reconnaissance faciale pour gérer les entrées et sorties des élèves, on s'est rendus compte que beaucoup de gamins se sentaient concernés, qu'ils n'étaient pas apathiques face à la situation et faisaient le lien avec d'autres formes de contrôle dont ils font l'objet au sein du système éducatif. Les jeunes générations ne sont pas forcément aussi intoxiquées qu'on l'imagine.

De manière générale, on s'aperçoit qu'il y a certains sujets où les évolutions technologiques ne passent pas. On peut prendre le cas des compteurs Linky, par exemple, contre lesquels il y a une forte mobilisation populaire. Et on espère que ce sera le cas aussi non seulement contre la reconnaissance faciale, mais aussi contre les autres formes de vidéosurveillance automatisée ou encore les solutions de police prédictive qui commencent à se mettre en place. »

Horizons

« Il y a une forme de retour à une critique de la technologie qui avait disparu à un moment. Évidemment, cela reste limité. Quand on pense au large front contestataire qui s'était constitué contre les débuts de l'informatisation, dans les années 1970 et 1980, avec par exemple le collectif Clodo4 en France, on se dit qu'il y a pas mal de travail. On a perdu beaucoup de temps avec cette focalisation sur l'utopie Internet, cette idée que ça allait résoudre tous les problèmes. Là, on est passés à autre chose. Il faut dire que l'informatique change de visage : le Big Data, l'intelligence artificielle, ce sont des machines aux mains des grandes bureaucraties qui s'en servent pour s'automatiser, et donc se déshumaniser encore plus. Cette informatique-là, on ne va pas pouvoir la distribuer à travers la société comme on a pu le faire dans les années 1980 et 1990 avec l'ordinateur personnel et Internet.

Dans cette phase de retour en force de l'informatique de contrôle, qui va se déployer sur des années, il faut réagir vite tout en sachant tenir la distance. Cette lutte est un marathon. Si on prend le sujet de la vidéosurveillance automatisée, on les voit avancer leurs pions, mais il est encore temps de réagir, au niveau local comme national : les technologies ne sont pas encore tout à fait mûres, les marchés non plus, l'acquiescement de la population n'est en rien garanti. D'où des discours comme celui que le secrétaire d'État au numérique Cédric O a tenu en octobre, quand il déclare à ce sujet : “Il faut expérimenter pour que nos industries progressent.” Les technocrates mettent en avant les gains de rapidité, d'efficacité, les enjeux économiques et industriels, un surcroît de sécurité, et pensent que de cette manière, ils pourront assurer “l'acceptabilité sociale” de leurs machines et les banaliser.

Même si leurs discours grandiloquents sur les “promesses” de la technologie relèvent encore en grande partie du marketing, je pense qu'il faut aussi garder à l'esprit que tout cela n'est pas juste du fantasme. Vu les “progrès” rapides de l'intelligence artificielle, il serait irresponsable de s'en tenir à une dénonciation sur le manque d'efficacité de ces technologies, en pensant que c'est juste de la soupe technophile vendue en boîtes aux élus et que rien de concret n'en sortira. Ce n'est parce qu'on n'en est pas encore à Black Mirror 5 qu'on doit rester les bras croisés. Les médias aiment souvent faire le parallèle avec la Chine et la notation généralisée de la population, en disant “On n'en est pas encore là”. C'est à la fois irresponsable et aussi un peu raciste, car on postule que là-bas, la population accepterait tout comme des moutons. Eh bien non : il y a des formes de résistance qui s'y déploient, malgré les risques de répression. Et la Chine, ce n'est pas un épouvantail. C'est juste qu'ils ont dix ans d'avance. Leur exemple montre ce qui nous attend si on ne réagit pas.

On voit d'ailleurs que de Hong-Kong au Chili en passant par la France des Gilets jaunes, l'inventivité en matière de résistance à la surveillance ne manque pas. Qu'il s'agisse d'aveugler les caméras, d'éblouir les drones avec des lasers, de se masquer pour échapper à la surveillance, quelque chose se déploie. Et c'est fondamental. Face à la fuite en avant actuelle, il est temps d'ouvrir nos imaginaires, nos discours et nos modes d'action. Non seulement pour refuser l'informatique sécuritaire et l'automatisation bureaucratique, mais aussi plus largement pour rendre possible et désirable une vie avec moins de technologie. C'est la condition de l'autonomie. »

Propos recueillis par Émilien Bernard

Cet entretien est issu du dossier « Résister à la surveillance », publié sur papier dans le numéro 183 de CQFD.

1 Littéralement : mégadonnées. Terme désignant l'inflation démente des données personnelles collectées par les acteurs économiques ou institutionnels.

2 Fayard, 2019.

3 Divulgation en 2010 par Wikileaks et ses partenaires médiatiques d'une multitude de documents relatifs à des échanges diplomatiques variés et pour certains très sensibles. L'événement fut un prélude aux ennuis judiciaires de Julian Assange (fondateur de Wikileaks) et d'Edward Snowden (qui a divulgué de nombreux documents liés à des projets de surveillance de masse américains et britanniques).

4 Comité pour la liquidation ou la destruction des ordinateurs, groupe de sabotage actif dans la région toulousaine pendant les années 1980. Lire « La balade incendiaire du Clodo », CQFD n° 157 (septembre 2017), disponible sur notre site.

5 Série dénonçant avec brio certaines dérives liberticides liées aux avancées technologiques.

Big data : La vie en mode binaire

Julie Go — 2015-06-21T19:00:00Z

Imaginez une science qui établirait une corrélation entre l'utilisation de pulls en laine et les épidémies de grippe pour justifier l'interdiction d'utiliser des pulls en laine en hiver : après tout, les statistiques auraient montré que la consommation de pulls en laine précède les épidémies de grippe. Voilà, vous y êtes : le big data est la mise en équation de tout afin de pouvoir « prédire » le réel avant même qu'il advienne. Et le terrain de jeux est gigantesque : selon IBM, le volume de ces mégadonnées pourrait être multiplié par 40 d'ici 2020.

Les mesures politiques (obligations ou interdictions) basées sur ces corrélations forment la « data gouvernance », ce que certains auteurs francophones traduisent par « gouvernance algorithmique ». Celle-ci ne se préoccupe pas des relations de causes à effets, non analysables de façon mathématique, juste des corrélations statistiques. « Qui sait pourquoi les gens font ce qu'ils font ? Le fait est qu'ils le font et que nous pouvons le pister et le mesurer avec une rigueur sans précédent.1 ». La data gouvernance envahit notre monde : c'est elle qui nous propose tel ou tel résultat sur le tentaculaire moteur de recherche étatsunien (calculé en fonction de nos requêtes précédentes), et qui va déterminer, par exemple si vous êtes suspecté de frauder ou pas. En 2014, Pôle emploi a révélé avoir mené une expérimentation en Poitou-Charentes2. Il s'agissait de « cibler » les demandeurs d'emplois les plus susceptibles de ne pas chercher d'emploi en se basant sur des critères en apparence anodins : la situation familiale (mères célibataires), scolaire (non ou peu diplômés) et géographique (habitants de petits villages bonjour !) pour savoir qui traquer. Les individus, ainsi sélectionnés, ont eu la chance de voir leurs démarches de recherche d'emplois scrutées par une équipe indépendante (du reste du personnel de Pôle emploi) en se basant sur des critères déjà statistiquement surreprésentés parmi les personnes radiées pour leur peu d'entrain à quémander un turbin d'esclave. Le secteur des assurances se montre également friand de big data. Et quand Axa propose des réductions à ceux qui acceptent de porter les bracelets connectés les informant de leurs données de santé, on peut redouter que, demain, il appliquera une surcote à ceux qui refusent.

De plus, toute annotation dans un fichier numérique est aujourd'hui un marquage accolé ad vitam aeternam à chaque parcours individuel. Selon les études statistiques permettant de prédire les comportements déviants, les enfants souffrant d'énurésie tardive présentent plus de risques de devenir des criminels une fois adultes et de récidiver par rapport aux autres criminels. Et impossible de savoir aujourd'hui, quels seront les critères utilisés demain pour suspecter (et suspecter c'est déjà condamner) la dangerosité. Mais les données numériques ne constituent pas le réel, elles sont seulement une modélisation de celui-ci. Une modélisation qui, parce qu'elle détermine une partie croissante de nos cartographies personnelles et collectives, a une influence réelle sur nos comportements et nos croyances. Si le robot de la Silicon Valley vous propose tel résultat en premier, il y a de fortes probabilités pour que vous cliquiez dessus. Mais la gouvernance algorithmique n'est pas une prophétie auto-réalisatrice : prédire la conversion au djihadisme d'un musulman pieux qui n'a jamais loupé ses prières depuis dix ans, ne le transformera pas en combattant de Daech. En revanche, elle le limitera vraiment dans l'accès à certains emplois ou à certains pays.

L'idéologie du big data réside dans une économie de la promesse, à savoir celle que la mise en chiffres de tout nous mènera vers la résolution de tout. Ainsi des sites comme Rue89 nous font la propagande de l'emploi des mégadonnées pour économiser l'énergie, tout en faisant semblant de dénoncer ses dérives. Mais ils oublient de préciser que toute optimisation du ratio énergie/produit se traduit par une augmentation de l'utilisation d'énergie. En clair, moins on dépense de carburant par kilomètre et plus les lieux de travail, de consommation et de vie sont optimisés, c'est-à-dire sectorisés et éloignés les uns des autres. L'ensemble des trucs numériques (ordinateurs, smartphones, GPS, logiciels…) sont basés sur une logique binaire : 0 et le courant ne passe pas à cet instant par tel endroit, 1 et il passe à cet instant par tel endroit. Une logique créée dans les années 50 par la cybernétique3 pour faciliter le transfert d'informations et donc l'optimisation de la production à travers l'annulation des anomalies. La société du contrôle n'est pas une dérive du big data mais sa conclusion logique. Pourquoi rendre obligatoire, sous peine d'amende, le compostage des cartes nominatives et mensuels de transport, si ce n'est pour connaître les déplacements individuels de tout un chacun.

Une résistance numérique réelle, ne consisterait pas tant à faire signer des pétitions sur les réseaux sociaux, que de refuser de transmettre des datas, en sabotant les objets connectés et les données que l'on nous force à transmettre, en utilisant des logiciels de cryptographie tout en se désinvestissant progressivement du monde numérique : la meilleure façon de ne pas être fliqué en ligne c'est encore de ne pas y être. Un comportement qui nous obligerait à jongler avec pas mal de contradictions…

1 Chris Anderson, The end of theory, 2004.

2 Le Monde, 02/09/2014.

3 Pour en savoir plus sur la cybernétique… voir le docu Voyage en cybernétique, consultable gratuitement sur Internet.