De même qu’il est intéressant de questionner le futur et de créer des liens dans cette direction, le passé, lorsqu’on le regarde au microscope électronique, constitue une piste tout aussi riche. Il fait apparaître des trajectoires invisibles, des causalités oubliées et des décisions techniques que l’histoire officielle a souvent reléguées au second plan.
Nous racontons habituellement l’histoire à travers les guerres, les révolutions, les chefs d’État, les inventions ou les mouvements sociaux. Mais une autre histoire se trame à l’intérieur des machines. Elle passe par les fichiers, les classements, les seuils, les programmes et les procédures de calcul.
Depuis quelque temps, j’ai envie de poser un projet dont l’idée générale pourrait être énoncée ainsi : comment l’informatique et son code ont-ils influencé — et influencent-ils encore — l’histoire de l’humanité ?
Cette question ne concerne pas seulement l’histoire des ordinateurs. Elle touche à la manière dont nous gouvernons les populations, organisons le travail, distribuons les richesses, menons les guerres, surveillons les individus et fabriquons une représentation du monde.
Un segment de pensée transformé en règles
Qui dit ordinateur dit code. Et avant le code, il existe un processus initial : l’algorithme. L’algorithme dépasse largement l’ordinateur. Il est la description ordonnée des étapes logiques permettant d’atteindre un résultat ou de résoudre un problème.
Il constitue un passage intermédiaire entre une intention humaine et son exécution par une machine. Une demande exprimée en français, en anglais ou en chinois doit être transformée en opérations suffisamment précises pour être traduites en Pascal, Lisp, C, Basic, Python ou dans n’importe quel autre langage informatique.
L’algorithme est donc une sorte de segment de pensée posé en règles. Pour fonctionner, il doit réduire l’ambiguïté. Il lui faut définir un univers, reconnaître des situations, organiser des priorités et prévoir les exceptions. Une pensée humaine hésite, interprète et tient compte d’une situation inattendue. Une procédure informatique exige au contraire que le monde lui soit présenté sous une forme qu’elle puisse traiter.
Décrire les étapes nécessaires pour ouvrir une porte semble presque enfantin. Pourtant, il faut identifier la porte, reconnaître la poignée, déterminer si l’on doit pousser ou tirer, vérifier si elle est verrouillée et détecter un obstacle. Mais il faut aussi demander : qui a le droit d’ouvrir cette porte ? Comment cette personne est-elle reconnue ? Que se passe-t-il si le capteur se trompe ? Dès qu’une serrure devient biométrique, l’exercice logique se transforme en problème politique.
Le bug comme morceau d’avenir oublié
Le passage à l’an 2000 reste l’un des exemples les plus célèbres d’une décision technique capable de produire des conséquences longtemps après avoir été prise. Pour économiser de la mémoire, de nombreux programmes avaient enregistré les années avec deux chiffres. Lorsque « 00 » est arrivé, certains systèmes risquaient de l’interpréter comme 1900.
Ce n’était ni un programme malveillant ni une décision absurde. C’était souvent un compromis compréhensible au moment où il avait été adopté. Mais le contexte avait changé, les programmes avaient survécu à leurs concepteurs et des infrastructures entières dépendaient de cette ancienne convention. La catastrophe n’a pas eu lieu à grande échelle précisément parce que des milliers d’informaticiens ont inspecté et corrigé les systèmes.
Ce qui m’intéresse ici est la durée de vie des décisions techniques. Un choix minuscule peut demeurer enfoui pendant des décennies avant de rencontrer une situation que son auteur n’avait pas imaginée. Le passé technique continue alors d’agir dans le présent.
Nous ne sommes pas gouvernés par des robots
Les algorithmes organisent nos itinéraires, distribuent les publicités, recommandent des films, déterminent la visibilité d’une publication, détectent des paiements inhabituels, ajustent des prix et filtrent des candidatures. Ils interviennent en amont et en aval de la chaîne économique et sociale.
Nous ne sommes pas véritablement dirigés par des robots humanoïdes. Nous sommes déjà largement orientés par des procédures de classement, de prédiction et d’optimisation.
Avec PageRank, Google n’a pas seulement amélioré la recherche d’informations. L’entreprise a produit une nouvelle hiérarchie de la connaissance : certaines pages deviennent visibles, tandis que d’autres disparaissent dans les profondeurs des résultats. L’algorithme ne se contente pas de trouver le monde. Il participe à sa mise en ordre.
L’hyperstructure invisible
Si nous pouvions réunir tous les algorithmes qui participent au fonctionnement du monde contemporain, nous verrions apparaître une sorte d’hyperstructure invisible. Elle n’est pas un ordinateur central qui contrôlerait secrètement la planète. Elle n’a ni centre unique ni volonté commune. Elle est constituée de millions de systèmes conçus par des entreprises, des États, des banques, des armées, des plateformes et des administrations.
Ces systèmes échangent des données, réagissent les uns aux autres et produisent parfois des effets qu’aucun acteur n’avait entièrement prévus. La finance automatisée en offre une image frappante. Le 6 mai 2010, le « Flash Crash » fit brutalement chuter de nombreux titres américains avant un rebond quelques minutes plus tard. L’événement ne venait pas d’un algorithme omnipotent, mais d’interactions entre mécanismes de marché et stratégies automatisées.
L’hyperstructure agit donc moins comme un cerveau central que comme un milieu. Les humains réagissent aux résultats des machines, puis ces réactions deviennent de nouvelles données qui alimentent les calculs suivants. La prédiction commence alors à fabriquer ce qu’elle prétend seulement mesurer.
Hollerith : rendre une population calculable
Pour le recensement américain de 1890, Herman Hollerith conçut un système électromécanique utilisant des cartes perforées. Les informations recueillies sur les habitants étaient traduites en trous, puis comptées et triées par des machines. Le système répondait à un problème réel : le dépouillement manuel était devenu trop lent. Il permit de traiter quelque soixante millions de cartes et d’accélérer spectaculairement le travail.
Le geste fondateur de Hollerith fut de transformer des caractéristiques humaines en positions standardisées sur un support lisible par une machine : encoder, trier, compter.
Ces trois opérations structurent encore l’informatique administrative. Elles permettent de distribuer des services, mais aussi d’identifier des groupes et de croiser des fichiers. La machine ne décide pas du sens moral des catégories. Elle augmente leur puissance opérationnelle. La bifurcation se situe là : lorsque la population cesse seulement d’être connue pour devenir instantanément interrogeable.
Therac-25 et Patriot : quand le calcul rencontre les corps
Entre 1985 et 1987, plusieurs patients furent gravement irradiés par le Therac-25, un appareil de radiothérapie piloté par logiciel. Les accidents résultaient d’une combinaison de défauts logiciels, d’interfaces trompeuses, d’une confiance excessive accordée au programme et de protections matérielles insuffisantes. La machine ne s’était pas rebellée : l’organisation avait cessé d’imaginer qu’elle puisse se tromper.
Le 25 février 1991, à Dhahran, une batterie de missiles Patriot ne parvint pas à intercepter un Scud qui frappa une caserne américaine et tua 28 soldats. Une imprécision dans le calcul du temps s’était accumulée pendant le fonctionnement du système. Après environ cent heures, elle suffisait à déplacer la zone dans laquelle le radar cherchait sa cible.
Une approximation numérique minuscule avait rencontré la vitesse d’un missile. Une valeur arrondie était devenue une distance ; la distance, une cible manquée ; la cible manquée, une mort.
COMPAS : transformer une population en destin individuel
COMPAS est un outil d’évaluation du risque utilisé dans le système pénal américain. Dans l’affaire Eric Loomis, la Cour suprême du Wisconsin autorisa sa prise en compte tout en imposant plusieurs avertissements sur ses limites. Le fonctionnement étant propriétaire, l’accusé ne pouvait pas examiner complètement la manière dont son score avait été calculé.
La bifurcation est ici individuelle. Une probabilité statistique entre dans un dossier judiciaire et participe au récit que l’institution construit sur l’avenir d’un homme. Cette probabilité provient pourtant de groupes. Le futur individuel devient une moyenne héritée.
Quand le coût remplace le besoin de soins
Une étude publiée dans Science en 2019 a montré comment un algorithme de gestion médicale sous-estimait les besoins de patients noirs. Le système utilisait les dépenses de santé comme approximation du besoin de soins. Or, en raison d’inégalités historiques d’accès au système médical, des patients noirs pouvaient avoir engendré moins de dépenses tout en étant aussi malades, voire davantage.
L’algorithme n’avait pas besoin d’une instruction explicitement raciste. L’inégalité était contenue dans l’indicateur choisi. Coût n’est pas besoin. Arrestation n’est pas criminalité. Clic n’est pas vérité. Engagement n’est pas intérêt collectif. Chaque fois qu’une réalité humaine est remplacée par un indicateur, une partie du monde disparaît.
Cambridge Analytica : fragmenter le débat commun
Cambridge Analytica a utilisé des données issues de dizaines de millions d’utilisateurs de Facebook pour construire des profils et cibler des électeurs. La collecte trompeuse est documentée. Il faut toutefois distinguer ce fait du récit spectaculaire selon lequel l’entreprise aurait déterminé à elle seule l’élection américaine de 2016 ou le référendum britannique. Cette efficacité reste controversée.
Le danger n’a pas besoin d’un pouvoir magique de manipulation. Il suffit que des électeurs reçoivent des messages différents, sélectionnés selon leurs vulnérabilités supposées et invisibles pour le reste du public. Deux voisins peuvent être ciblés par des promesses contradictoires sans disposer d’un espace commun pour les comparer. L’algorithme fait alors bifurquer la structure même du débat démocratique.
Pegasus : surveiller une personne, atteindre son entourage
Pegasus est un logiciel espion commercialisé par NSO Group auprès de clients gouvernementaux. Une fois installé sur un téléphone, il peut donner accès aux messages, fichiers, déplacements, microphones et caméras. Certaines attaques peuvent être exécutées sans action visible de la cible. Citizen Lab a notamment documenté la compromission de 36 téléphones appartenant à des journalistes et responsables d’Al Jazeera.
Le téléphone d’un journaliste contient bien plus que sa vie personnelle. Il contient aussi ses sources et la géographie de ses relations. La surveillance d’un individu peut mettre en danger un réseau entier. Ici, l’algorithme fait bifurquer une histoire intime : un message, un rendez-vous ou une parole prononcée dans une pièce appartiennent soudain à un acteur invisible.
Pourquoi les appeler « maudits » ?
Le parti pris du livre est moral. Je ne veux pas raconter l’informatique comme une succession neutre d’innovations. Je veux examiner les conséquences concrètes des systèmes : qui bénéficie de leur efficacité, qui supporte leurs erreurs, qui peut les contester et qui possède l’infrastructure.
Un algorithme peut être exact et pourtant illégitime. Il peut être transparent et poursuivre un objectif brutal. Il peut fonctionner parfaitement tout en transformant une relation humaine en marché de prédictions.
Le mot « maudit » ne qualifie donc pas une essence du calcul. Il désigne une situation dans laquelle la technique ferme la discussion. La catégorie devient naturelle. Le score devient une preuve. La vitesse devient une nécessité. Le secret devient une compétence. Et l’erreur devient le problème privé de celui qui la subit.
Retourner le microscope vers le futur
Les intelligences artificielles génératives et les agents logiciels peuvent désormais produire du texte, des images, du son, du code et enchaîner plusieurs actions. Le danger le plus proche n’est peut-être pas une machine consciente décidant soudain de nous dominer. Il est celui d’une délégation progressive.
Une administration adopte un outil de tri pour gagner du temps, puis perd la compétence nécessaire pour fonctionner sans lui. Une entreprise automatise ses recrutements, puis personne ne sait plus expliquer pourquoi une candidature a disparu. Un média optimise ses articles selon l’engagement, puis finit par ne produire que ce que la mesure récompense.
Chaque décision paraît locale et raisonnable. Leur accumulation fabrique pourtant une dépendance. L’alternative exige une capacité collective de contestation : participer à la définition des systèmes, conserver une expertise indépendante, pouvoir expliquer, interrompre et réparer une décision — et parfois refuser l’automatisation elle-même.
Reprendre la main
Le Livre des algorithmes maudits veut raconter une autre histoire contemporaine : celle des programmes, procédures et modèles qui ont infléchi silencieusement la trajectoire du monde.
Une perforation transforme une population en base de données. Une décimale modifie la trajectoire d’un missile. Un score statistique entre dans la vie judiciaire d’un individu. Un classement décide de ce que nous voyons. L’effraction d’un téléphone expose tout un réseau humain.
Les algorithmes n’agissent jamais dans le vide. Ils sont liés à des institutions, des intérêts économiques, des doctrines militaires et des décisions politiques. Mais ils possèdent une puissance particulière : ils permettent à une intention de continuer à agir longtemps après le départ de celui qui l’a formulée.
C’est peut-être là que se trouve leur véritable malédiction. Une règle ancienne devient une valeur par défaut. Une approximation devient une décision. Une décision devient une infrastructure. Et l’infrastructure finit par nous apparaître comme un élément naturel du monde.
Mon projet commence au moment où nous refusons cette naturalisation. L’histoire des algorithmes maudits n’est pas seulement celle des bifurcations qu’ils ont provoquées. C’est aussi celle des bifurcations qu’il nous reste à choisir.