Machines partout, cerveaux nulle part !

En 2011, Nicholas Carr lançait un joli pavé dans la mare numérique avec son bouquin Internet rend-il bête ? (éditions Robert Laffont). Ou comment notre civilisation, basée en partie sur le livre, risquait l’abrutissement général en se vautrant dans l’incessant papillonnage des écrans plats. Creusant le même sillon, l’essayiste s’attaque cette fois à l’automatisation de la société. En bon pédagogue, il commence sa démonstration par une anecdote qui eût pu paraître futile si elle ne portait en elle les germes d’une tendance lourde. En 1975, le jeune homme vient de décrocher son permis de conduire. Alors que son apprentissage s’est fait sur une voiture à boîte automatique, la bagnole familiale – une Subaru Sedan jaune canari ! – ne dispose que d’une boîte manuelle. Bon gré mal gré, Carr finit par maîtriser levier de vitesses et embrayage mais ne rêve que de piloter une boîte automatique, synonyme de progrès et de plus grande liberté. Chose faite deux ans plus tard quand, après avoir plié la ringarde Subaru, il s’offre une Ford Pinto deux portes. Mais une fois passée l’euphorie des premiers temps, un drôle de sentiment l’assaille : « La boîte automatique me faisait me sentir un peu moins comme un conducteur et davantage comme un passager de ma propre voiture. Je finis par mal vivre ce changement de statut. »

Techno-utopisme béat

C’est à partir de cette micro-expérience que Carr tire le fil de son raisonnement critique, qui l’amène à explorer l’impact sur les cervelles humaines du pilotage automatique des avions, des logiciels d’aide à la décision des médecins ou de conception assistée par ordinateur des architectes, en passant par les GPS et autres drones tueurs. Au cœur de cette passionnante réflexion, une obsession qui fout le vertige : « L’automatisation nous met peut-être ainsi face à la question la plus importante qui soit : que signifie être humain ? » Que signifie être humain dans un environnement bardé de capteurs et d’ordinateurs, alors que des pans entiers de notre société (éducation nationale, économie, services publics, etc.) passent sous la commande d’algorithmes ?

« Désapprentissage », détérioration des processus cognitifs, déqualification des travailleurs, externalisation de la mémoire, perte de créativité : c’est le tableau d’une véritable dépossession sur l’autel d’un techno-utopisme béat que dresse Carr. Après deux siècles de révolution industrielle, le socle de la prise de tête reste intact. Entre élan émancipateur et nouvel asservissement, quel prix payons-nous chaque jour pour notre cohabitation avec des machines de plus en plus puissantes et invasives ? « En résumé, comme le dit l’historien des technologies George Dyson en 2008 : “ Et si le prix à payer des machines qui pensent était des gens qui ne pensent pas ” ?  »

Évincer l’humain

Au-delà d’un certain art de la formule, il faut s’interroger sur le pourquoi de cette bascule qui nous a fait passer d’un humanisme fier-à-bras à un « technocentrisme » victimaire : les humains seraient faillibles face aux machines. On comprend alors comment à partir d’un tel présupposé, les enfiévrés de la Silicon Valley et autres docteurs Mabuse de la numérisation à tout-va s’acharnent à vouloir évincer l’humain des « boucles » de décision politique, économique et sociale. Commentant la nouvelle génération de drones tueurs – les robots létaux autonomes –, Carr a ces mots : « Pour un ordinateur, exécuter un ordre de tir, vendre un titre en bourse ou supprimer un e-mail revient strictement au même. Un algorithme reste un algorithme. »