L’ère des massacres intelligents

Dans les premières pages de Théorie du drone (La Fabrique, 2013), Grégoire Chamayou décrivait le quotidien d’opérateur de « drones chasseurs-tueurs » bossant nez sur l’écran dans une base du Nevada, évacuant l’ennui en se gavant de M&M’s, avant de participer à l’assaut meurtrier d’un convoi de véhicules – enfants compris – dans les montagnes afghanes. Une scène aux relents dystopiques soulignant à quel point l’usage de tels engins de mort posait des questions éthiques considérables. Le philosophe posait ensuite les bases de sa recherche : « Voilà en quoi pourrait consister la théorie d’une arme : exposer ce que la faire sienne implique, chercher à savoir quels effets elle tend à produire sur ses utilisateurs, sur l’ennemi qui en est la cible, et sur la forme même de leurs rapports. » Dix ans plus tard, ces questions ressurgissent.

*

Depuis qu’elle a lancé sa campagne d’intenses bombardements sur la bande de Gaza en réponse aux attaques du Hamas le 7 octobre et à leurs cortèges d’abominations, l’armée israélienne ne s’embarrasse pas de précautions humanitaires. Au langage désignant l’ennemi – des « animaux humains  » – répond la sauvagerie de la destruction enclenchée, faisant des dizaines de milliers de victimes civiles considérées comme des pertes collatérales acceptables. +972, un média en ligne israélien indépendant, a récemment sorti une longue et édifiante enquête1 détaillant la manière dont Tsahal s’appuie sur un programme algorithmique baptisé Habsorah [L’Évangile, en hébreu] pour désigner les proies des bombes. Si des responsables israéliens avaient déjà proclamé début novembre utiliser cet agrégat d’intelligences artificielles pour « produire des cibles à un rythme rapide », l’enquête dévoile les détails sordides de cette automatisation de la mise à mort, où l’humain n’intervient que rapidement, en dernier recours, ainsi que l’explique un militaire : « Nous préparons les cibles automatiquement, avec une liste de contrôle. C’est vraiment comme une usine. […] Nous sommes jugés en fonction du nombre de cibles que nous parvenons à générer. » Les « cibles » ainsi produites à la chaîne sont censées être des responsables du Hamas, mais la plupart sont subalternes. Qu’elles vivent dans des résidences ou immeubles n’empêche pas les frappes. « Lorsqu’une fillette de trois ans est tuée dans une maison à Gaza, c’est parce que quelqu’un dans l’armée a décidé que ce n’était pas grave », résume à +972 une source militaire. Rappel : la majorité des victimes à Gaza sont des femmes et des enfants.

*

Ici comme ailleurs, l’intelligence artificielle n’est qu’un prolongement de l’humain, une manière de le rendre plus efficace dans la destruction. Mais la question posée plus haut par Chamayou s’impose : que veut dire « faire sienne » une telle technologie ? Et si l’on « cherche à savoir quels effets elle tend à produire sur ses utilisateurs, sur l’ennemi qui en est la cible, et sur la forme même de leurs rapports  », une première réponse semble évidente : déshumaniser encore davantage des victimes considérées comme agrégats de métadonnées, chiffres sur un écran pour ses « utilisateurs ». Quant à « l’ennemi », comme dans le cas du drone, il s’agit de lui faire savoir qu’un œil est toujours dirigé sur lui, susceptible de le pulvériser à chaque instant. Mais cela, il est fort probable que les Palestiniens et Palestiniennes vivant à Gaza le savent depuis fort longtemps.