En 2024, une équipe de chercheurs publie dans Nature une étude sur l’effondrement de modèles d’IA générative pendant leur entraînement. Que peut-il arriver quand les données produites par un modèle servent à entraîner les générations suivantes ? Dans certaines conditions, les cas rares se perdent, la diversité se contracte et la représentation du monde s’appauvrit. L’image ne s’efface pas littéralement : ce qui risque de s’éroder, c’est la variété des exemples qu’un modèle a appris à représenter. Le résultat dépend du protocole, du tri des données et de la place conservée aux sources humaines.
Pour comprendre ce vertige, je remonte le fil d’une structure bien plus ancienne : la récursivité, un système qui reprend ses propres productions comme matière de son prochain état. On la rencontre dans le jeu, les mathématiques, le langage, la musique, la biologie, l’art et l’économie. Une boucle peut produire un supplément de forme et de sens ; elle peut aussi transmettre une faille ou raréfier ce qu’elle réutilise. L’effondrement de modèle rend cette seconde possibilité visible à une échelle industrielle.
Une structure qui se reprend elle-même
Le jeu vidéo : passer d’un monde à l’autre
En juillet 2026, le moddeur Dryxio présente une modification de Grand Theft Auto: San Andreas reliant trois jeux : San Andreas, GTA III et Vice City. Le joueur circule dans San Andreas, traverse un portail et entre dans une autre carte où il peut encore jouer. Les deux autres univers ne sont pas de simples images projetées dans le décor : ils deviennent des espaces actifs hébergés par le jeu d’accueil. La frontière entre les mondes se change en passage.
L’informatique théorique : le programme se regarde
Un quine est un programme qui affiche son propre code source. La récursivité est aussi au cœur de l’avertissement de Ken Thompson, formulé en 1984 dans son discours de réception du prix Turing : un compilateur compromis peut transmettre une porte dérobée aux programmes qu’il produit, puis à ses propres versions futures. Le mécanisme se reproduit sans rester visible dans le code source examiné. C’est une boucle de transmission, pas une simple copie. À une autre échelle, les machines virtuelles imbriquées font aujourd’hui fonctionner un système informatique à l’intérieur d’un autre.
Le langage : des phrases emboîtées
Dans une hypothèse influente associée à Noam Chomsky et à ses collaborateurs, la récursivité occuperait une place centrale dans la faculté de langage : une proposition peut en contenir une autre, qui en contient elle-même une troisième. « Le chat [que le chien [que l’enfant a vu] a poursuivi] s’est enfui. » Cette capacité permet de construire des phrases toujours plus complexes, même si la mémoire et le souffle imposent des limites pratiques. Son statut de propriété spécifiquement humaine reste débattu : les expériences et leurs interprétations ne font pas consensus.
La biologie : copier avec un milieu
Lorsqu’une cellule se divise, l’ADN est copié selon un mécanisme semi-conservatif : chaque nouvelle molécule conserve un brin ancien et reçoit un brin nouvellement synthétisé. La copie dépend de matière, d’énergie, de mécanismes de réparation et d’un environnement. Les virus rendent cette dépendance très concrète : leur matériel génétique peut être répliqué, mais ils détournent la machinerie d’une cellule hôte. À une autre échelle, les bronches, les vaisseaux et certaines organisations végétales présentent des motifs de bifurcation approximativement fractals. Le vivant ne se réduit pas à une boucle qui se recopie ; il associe reproduction, variation, sélection et milieu.
La musique : monter sans quitter la boucle
Dans L’Offrande musicale (1747), Bach compose un canon aujourd’hui surnommé « perpétuellement ascendant » : le thème semble monter d’un ton à chaque répétition, puis revient sans heurt à sa tonalité initiale. Douglas Hofstadter y voit l’image musicale d’une boucle étrange : un escalier sonore qui monte en apparence tout en tournant sur lui-même. Le Shepard tone prolonge l’illusion avec des sons superposés qui semblent s’élever sans fin. Dans le live looping, enfin, le musicien réécoute et transforme en temps réel la matière qu’il vient d’enregistrer.
L’architecture : des règles à plusieurs échelles
Le mathématicien Ron Eglash a étudié des formes d’habitat ba-ila en Zambie et décrit certaines organisations spatiales comme auto-similaires : des règles de composition se retrouvent à plusieurs échelles, de l’habitat au village. Il s’agit de son interprétation mathématique des formes observées, non de l’affirmation que leurs habitants employaient eux-mêmes le concept de fractale. La règle se lit dans la forme, mais la forme appartient aussi à une histoire et à une culture.
L’art : le spectateur entre dans le dispositif
M. C. Escher dessine deux mains qui se dessinent mutuellement ; René Magritte place un tableau devant le paysage qu’il masque ; Norman Rockwell se peint en train de peindre son propre reflet. Dans Present Continuous Past(s) (1974), Dan Graham associe miroir, caméra et moniteur : l’image de la salle et de son public revient avec un délai de huit secondes. Le spectateur entre dans une boucle temporelle. Avec les Infinity Mirror Rooms, Yayoi Kusama transforme le reflet en expérience spatiale, tandis que son Obliteration Room se couvre peu à peu des marques colorées de ses visiteurs.
La littérature, les mathématiques et l’économie
Dans Les Faux-Monnayeurs, Gide fait écrire à un personnage un livre portant le titre du roman que nous lisons. Cervantès fait de ses personnages les lecteurs de la première partie de Don Quichotte. Borges imagine une carte qui finit par avoir la taille du territoire. En mathématiques, l’ensemble de Mandelbrot révèle, à différentes échelles, des régions d’une complexité foisonnante ; l’auto-référence logique, elle, conduit aussi à des limites de démontrabilité, que Gödel formalise en 1931. Une limite logique n’est pas une dégradation entropique : c’est une frontière interne au système.
L’économie fournit d’autres boucles, mais elles ne sont pas interchangeables. Le crédit bancaire crée des dépôts au moment où un prêt est accordé ; les remboursements, les règles et la demande modifient ensuite la dynamique. Une chaîne de Ponzi, elle, dépend des apports de nouveaux participants et s’effondre lorsque ceux-ci cessent. George Soros nomme « réflexivité » le processus où les croyances influencent les prix, qui transforment à leur tour la situation évaluée. Certaines boucles reproduisent donc leurs effets dans le monde au lieu de seulement recopier une forme.
La conscience : la boucle du « je »
Douglas Hofstadter propose, dans I Am a Strange Loop (2007), que la conscience de soi puisse se comprendre comme un cerveau qui se représente en train de se représenter le monde. Le « je » serait un point fixe apparent, produit par des représentations qui se renvoient les unes aux autres. C’est une proposition philosophique et cognitive, non une définition unanimement admise de la conscience.
Deux régimes de la récursivité
Une récursivité génératrice ajoute quelque chose à chaque tour : le canon de Bach revient transformé, les fractales révèlent de nouvelles échelles, le visiteur de Graham entre dans l’œuvre et modifie ce qu’elle donne à voir. La boucle ne revient pas simplement au même ; elle organise une différence.
Une récursivité entropique peut au contraire transmettre une faille ou perdre de la diversité. La chaîne de Ponzi a besoin d’apports nouveaux ; le mécanisme de Thompson propage une porte dérobée de génération en génération. Je ne range pas les théorèmes de Gödel dans cette catégorie : ils indiquent les limites de certains systèmes formels, ils ne les font pas dépérir. Cette distinction m’importe, car le mot « récursivité » ne désigne pas à lui seul une catastrophe ou une promesse. Ce sont les règles de la boucle, ses entrées et ses conditions de transmission qui comptent.
Effondrement de modèle : quand l’IA recycle ses propres images
Les expériences décrites par Ilia Shumailov et ses collègues montrent qu’une boucle d’entraînement récursif peut faire disparaître progressivement les extrêmes d’une distribution et amplifier des erreurs. Les exemples rares sont particulièrement vulnérables : ils pèsent peu dans le corpus et peuvent être noyés par des générations successives de résultats plus moyens. L’illustration publiée par Nature rend ce glissement visible à travers des générations d’images.
Je vois là une tension avec les boucles artistiques décrites plus haut. Dans un canon, un jeu ou une installation, la reprise peut ouvrir une différence et rendre sensible le dispositif. Dans l’entraînement d’un modèle, la reprise d’images synthétiques peut appauvrir les données apprises si les sources, les exemples rares et leur provenance ne sont pas protégés. La question n’est donc pas « l’IA copie-t-elle ? », mais qui sélectionne ce qui entre dans la boucle, ce qui en sort, et ce que l’on garde comme archive du réel.
Baudrillard avant l’heure ?
Dans Simulacres et Simulation (1981), Jean Baudrillard décrit plusieurs rapports entre l’image et ce qu’elle prétend représenter : reflet, déformation, masque d’une absence, puis simulacre sans référent stable. L’effondrement de modèle n’est pas la réalisation littérale de cette théorie. Mais le rapprochement me trouble : que devient une image lorsque les images disponibles pour la produire sont de plus en plus souvent les reflets statistiques d’images antérieures ? La boucle technique devient alors une question culturelle sur la relation entre copie, archive et monde.
Ce que la boucle change concrètement
Le problème est d’abord documenté dans des protocoles précis, pas une apocalypse déjà accomplie. Il invite pourtant à traiter les données d’origine, leur provenance et les cas rares comme un patrimoine à conserver. À mesure que des contenus synthétiques circulent, les futurs corpus devront distinguer les sources, les dérivations et les générations. Sans cette mémoire, une représentation moyenne risque de prendre la place du monde qu’elle prétend décrire.
Je retrouve ici une question qui traverse aussi mon travail sur la prédiction : un système qui projette le passé statistique sur l’avenir peut-il continuer à voir le réel si ses archives se composent de ses propres projections ? Il nous faut des chaînes de provenance, des jeux de données diversifiés et des moyens de comparer les sorties aux sources. Une boucle n’est pas une destinée uniforme ; c’est aussi un choix d’infrastructure.
Conclusion : la boucle peut enrichir ou effacer
Le mod de Dryxio, les miroirs de Kusama et le canon de Bach m’enchantent parce que leurs boucles produisent un supplément de sens, de jeu ou de beauté. Les expériences sur l’effondrement de modèle montrent une autre possibilité : dans certaines conditions d’entraînement, la boucle réduit peu à peu la diversité de ce qu’elle transmet. La même structure logique peut engendrer de la richesse ou produire un appauvrissement. Ce qui m’intéresse, c’est la politique de la boucle : ses entrées, ses exclusions, ses archives et le pouvoir de décider de son prochain tour.
Proposition — un générateur de vide
Je prolonge l’article par une expérience à tester dans la page : un générateur reçoit une image, la transforme, puis reprend sa propre sortie comme entrée. Chaque itération simplifie ses couleurs, rapproche les pixels d’une moyenne et ajoute une légère perturbation. L’image devient une série de traces de plus en plus éloignées de leur point de départ. Ici, il s’agit d’un traitement visuel local dans le navigateur, non d’un modèle d’IA et non d’une simulation de son entraînement.
Je voudrais que cette disparition soit lisible comme une partition : image-source, nombre d’itérations, transformation appliquée, durée et seuil d’arrêt. La question n’est pas seulement de savoir à quel moment l’image devient méconnaissable. C’est aussi de regarder ce qui subsiste : une couleur, un grain, une distribution abstraite, ou simplement la preuve qu’une image était là.
Si l’image ne peut plus être reconnue, a-t-elle disparu — ou a-t-elle seulement quitté le régime de reconnaissance auquel nous l’avions assignée ? Je laisse le visiteur décider quand arrêter la boucle. Le vide n’est pas une page blanche préfabriquée ; c’est l’histoire visible de ce qui s’est perdu.
