Capacités · Intermédiaire
L'auto-amélioration récursive
Prologue · La dernière invention
Chicago, 2 décembre 1942.
Sous les gradins ouest d’un stade désaffecté de l’université de Chicago, dans une ancienne salle de raquettes, une quarantaine de personnes fixent en silence un empilement de briques noires.[1]
L’objet fait six mètres de haut. Du graphite, de l’uranium, du bois. Les physiciens l’appellent simplement « la pile ».
Au balcon, Enrico Fermi donne ses instructions d’une voix égale. Au sol, un jeune physicien nommé George Weil retire, centimètre par centimètre, une barre de cadmium qui traverse l’édifice. Le cadmium absorbe les neutrons. Tant que la barre est enfoncée, la pile dort.
À chaque centimètre gagné, le crépitement des compteurs s’accélère, puis se stabilise. Fermi vérifie ses calculs à la règle à calcul, ordonne, recommence. En fin de matinée, imperturbable, il envoie tout le monde déjeuner.
À 15 h 25, le crépitement cesse de se stabiliser.[2]
Chaque atome d’uranium qui se brise libère des neutrons, qui brisent d’autres atomes, qui libèrent d’autres neutrons. La réaction s’alimente elle-même. Pour la première fois de son histoire, l’humanité a allumé une réaction en chaîne auto-entretenue.
Le moment s’écrit en un nombre de quatre décimales :
k = 1,0006[1]
k, c’est le rendement de la boucle : le nombre moyen de fissions qu’engendre une fission. En dessous de 1, la réaction s’éteint d’elle-même. Au-dessus, elle s’emballe. Ce jour-là, sous un stade de football, k a dépassé 1, d’un souffle, sous contrôle humain, pendant vingt-huit minutes exactement. Puis Fermi a fait replonger les barres, et la pile s’est rendormie.
Peu après, Arthur Compton téléphone la nouvelle à James Conant, à Harvard, dans un code improvisé au fil de la conversation : « Le navigateur italien vient d’accoster dans le Nouveau Monde. » Réponse : « Les indigènes étaient-ils amicaux ? » « Tout le monde a débarqué sain et sauf. »[2]
Pourquoi ouvrir une histoire d’intelligence artificielle par cette scène ?
Parce que, plus de quatre-vingts ans plus tard, une autre discipline vit une histoire étrangement parallèle. Il existe désormais une technologie dont l’objet est l’intelligence elle-même, et cette technologie a commencé à participer à sa propre fabrication : une IA d’aujourd’hui écrit une partie du code de celle de demain, optimise ses circuits, propose des idées de recherche.
La question de Fermi se transpose alors mot pour mot. Dans la pile, k comptait les fissions engendrées par une fission. Ici, k compte les progrès engendrés par un progrès : quand une génération d’IA contribue à construire la suivante, combien la suivante rendra-t-elle en retour ? Moins qu’elle n’a reçu, et le progrès s’essouffle, comme la pile avant 15 h 25. Exactement autant, et il s’entretient. Davantage, et chaque tour amplifie le suivant : l’équivalent, pour l’intelligence, du k qui dépasse 1.
Voilà l’affaire de ce récit : l’« auto-amélioration récursive », l’idée d’une IA qui améliore l’IA, et la question de son rendement. D’où vient cette idée, ce qui est déjà réel, ce qui relève encore du pari, et pourquoi les laboratoires surveillent désormais ce k-là comme Fermi surveillait le sien.
──────[ 01 · le paramètre ]──────
k, le rendement de la boucle
Toutes les technologies s’améliorent. Aucune, jusqu’ici, ne s’est améliorée elle-même.
La machine à vapeur n’a jamais dessiné de meilleure machine à vapeur. Le microscope n’a jamais poli ses propres lentilles. À chaque génération d’outils, c’est nous qui avons fait le travail : comprendre, corriger, réinventer. L’amélioration venait de l’extérieur.
L’intelligence artificielle occupe une place à part dans cette histoire, pour une raison presque triviale à énoncer. Son objet est le travail cognitif. Or concevoir une IA est un travail cognitif. Une IA suffisamment douée pour la recherche en IA pourrait donc, en principe, participer à la conception de la génération suivante. Génération qui serait meilleure, y compris pour cette tâche-là. Et qui concevrait donc une génération encore meilleure.
C’est ce que les chercheurs appellent l’auto-amélioration récursive (« recursive self-improvement »). Récursive, parce que l’amélioration s’applique à l’améliorateur lui-même, comme un pinceau qui repeindrait le peintre.
Cette idée a des contours nets, et ils excluent beaucoup de choses. Un modèle qui apprend pendant son entraînement ne s’auto-améliore pas au sens qui nous occupe : il progresse à l’intérieur d’une recette écrite par d’autres. Un chercheur qui code plus vite grâce à un assistant IA ne referme pas non plus la boucle : l’humain reste l’améliorateur, la machine reste l’outil. L’auto-amélioration récursive commence quand le système participe à la refonte de ce qui le fabrique : ses algorithmes, son entraînement, son architecture.
Reste à raisonner proprement sur une boucle pareille. La meilleure image dont nous disposons vient de la physique, et elle a été introduite dans ce débat par l’un de ses pionniers.
En 2008, Eliezer Yudkowsky, l’un des premiers chercheurs à étudier sérieusement les emballements possibles de l’IA, propose de penser la question exactement comme Fermi pensait sa pile[3]. Dans une pile atomique, une seule grandeur commande le destin de la réaction : k, le rendement neutronique. Transposée à l’intelligence, la question devient : pour chaque unité de progrès qu’une génération de systèmes apporte à la recherche en IA, combien d’unités de progrès la génération suivante apportera-t-elle à son tour ?
Si la réponse est inférieure à 1, chaque tour de boucle produit moins que le précédent. Les gains s’additionnent mais s’essoufflent, comme un écho qui s’éteint. Les physiciens diraient : sous-critique.
Si la réponse vaut 1, chaque tour en finance exactement un autre. Le progrès devient auto-entretenu, régulier, docile en apparence. C’est, à un souffle au-dessus de l’équilibre, la pile de Fermi à 15 h 25 : critique.
Si la réponse dépasse 1, même d’un cheveu, chaque tour produit plus que le précédent, qui produit plus encore. La croissance devient explosive. C’est le scénario que la littérature appelle, depuis 1965, l’« explosion de l’intelligence » : sur-critique.
Voilà la question qui traverse ce récit : où se trouve le k de l’intelligence ?
Une métaphore honnête doit dire où elle casse, et celle-ci casse en trois endroits. D’abord, les neutrons sont interchangeables ; les idées, non. Une fission vaut une fission, tandis qu’inventer le Transformer et optimiser une ligne de code sont deux « améliorations » incomparables. Ensuite, Fermi connaissait la physique de sa pile avant de l’allumer ; personne ne connaît la « physique » de l’intelligence, et le k dont il est question ici ne se mesure qu’après coup. Enfin, une pile a des barres de contrôle. La boucle de l’IA en a aussi, et elles travailleront tout au long de ce récit : le calcul, les données, l’énergie, et un certain nombre de décisions humaines.
La jauge est posée. Reste à suivre k à travers quatre-vingts ans d’histoire, du tableau noir des mathématiciens aux centres de calcul de 2026.
──────[ 02 · k au tableau noir ]──────
Une vieille idée exacte
L’auto-amélioration récursive traîne une réputation d’idée de science-fiction. Sa généalogie raconte autre chose : elle est née chez les mathématiciens, avant même que l’informatique n’ait un nom stable, et la science-fiction n’a fait que la mettre en musique.
Vers 1951, Alan Turing, dans une causerie radiodiffusée depuis Manchester, envisage déjà la suite : une fois « la méthode de pensée des machines » lancée, écrit-il, « il ne lui faudrait pas longtemps pour dépasser nos faibles capacités ». Les machines ne meurent pas, note-t-il, et elles pourraient converser entre elles pour aiguiser leur intelligence. Il faudrait donc s’attendre, « à un moment donné, à ce que les machines prennent le contrôle »[4].
En 1958, le mathématicien Stanislaw Ulam rapporte une conversation avec John von Neumann, l’architecte de l’ordinateur moderne : le progrès technologique s’accélère au point de donner « l’apparence d’approcher une singularité essentielle dans l’histoire de l’espèce, au-delà de laquelle les affaires humaines, telles que nous les connaissons, ne pourraient pas continuer »[5]. Le mot « singularité » vient d’entrer dans le débat, presque en passant.
Mais le texte fondateur arrive en 1965, signé d’un homme qui a appris les machines au plus près de la guerre.
Irving John Good a vingt-quatre ans lorsqu’il pousse, en mai 1941, la porte de la Hut 8 de Bletchley Park. Mathématicien de formation, il y seconde Alan Turing dans le déchiffrement de l’Enigma navale, au moyen de méthodes bayésiennes qui resteront classées secret-défense pendant des décennies. Good sait donc très exactement, très concrètement, ce qu’une machine à calculer peut faire au cours d’une guerre mondiale.
Vingt ans plus tard, devenu chercheur à Oxford, entre Trinity College et le laboratoire de calcul Atlas (et bientôt consultant de Stanley Kubrick pour un certain HAL 9000), il publie un article au titre prudent : « Speculations Concerning the First Ultraintelligent Machine »[6]. La première phrase, elle, ne prend aucune précaution :
« La survie de l’homme dépend de la construction précoce d’une machine ultra-intelligente. »
Et quelques pages plus loin vient le paragraphe qui fondera tout le champ :
« Définissons une machine ultra-intelligente comme une machine capable de surpasser de loin toutes les activités intellectuelles d’un homme, aussi intelligent soit-il. La conception de machines étant l’une de ces activités intellectuelles, une machine ultra-intelligente pourrait concevoir des machines encore meilleures ; il y aurait alors incontestablement une « explosion de l’intelligence », et l’intelligence de l’homme serait laissée loin derrière [...]. Ainsi, la première machine ultra-intelligente est la dernière invention que l’homme devra jamais faire, à condition que la machine soit assez docile pour nous dire comment la garder sous contrôle. »
La fin de ce paragraphe est celle que le monde entier ampute. Tout le monde cite « la dernière invention » ; presque personne ne cite la subordonnée : « à condition que la machine soit assez docile pour nous dire comment la garder sous contrôle ». La question de l’alignement, celle qui occupe aujourd’hui des centaines de chercheurs, tient déjà dans cette moitié de phrase, écrite à une époque où un ordinateur remplissait une pièce entière.
Pendant le demi-siècle qui suit, l’idée chemine sans jamais toucher terre.
──────[ soixante ans de tableau noir ]──────
En 1993, le mathématicien et romancier Vernor Vinge lui donne son heure de gloire devant un symposium de la NASA : dans un essai resté célèbre, il annonce que « dans les trente ans, nous aurons les moyens de créer une intelligence surhumaine », et qu’« aussitôt après, l’ère humaine sera close »[8]. Au-delà de ce point, argue-t-il, l’avenir se dresse comme un mur que le regard ne franchit pas, aussi opaque que l’horizon d’un trou noir. Ray Kurzweil en fait la « Singularité ». En 2008, un économiste, Robin Hanson, et Yudkowsky s’affrontent dans le premier grand débat contradictoire du domaine : Yudkowsky défend qu’un système capable de réécrire sa propre intelligence peut creuser, seul et vite, un avantage décisif ; Hanson répond que le progrès a toujours été une affaire collective et diffuse, et qu’aucun projet isolé n’innove plus vite que le monde entier[9]. En 2010, le philosophe David Chalmers dissèque l’argument de Good et isole son maillon le plus fragile[10]. En 2014 enfin, Nick Bostrom formalise l’ensemble dans « Superintelligence » : la vitesse de la boucle dépend du rapport entre la force d’optimisation qu’on y investit et la « récalcitrance » du problème, la dureté du terrain qu’elle doit creuser[11].
le tableau noir
Soixante ans de pensée, et un point commun : aucune boucle réelle à observer. Turing spécule, Good extrapole, Bostrom modélise ; tous discutent de k sans jamais pouvoir le mesurer, comme des physiciens qui n’auraient jamais vu d’uranium. Un débat de tableau noir, brillant et suspendu dans le vide expérimental.
Ce vide vient de se combler. Voici comment.
──────[ 03 · k < 1 ]──────
Des étincelles dans des mondes clos
La première preuve d’existence arrive par le jeu.
Octobre 2017. DeepMind publie AlphaGo Zero[12]. Son prédécesseur AlphaGo avait appris le go en digérant des millions de coups humains avant de battre le champion Lee Sedol. La version « Zero », elle, ne reçoit que les règles. Elle joue contre elle-même, à partir de coups aléatoires, seule face au plateau.
Au bout de trente-six heures de ce régime, elle dépasse la version qui avait battu Lee Sedol. Au bout de soixante-douze heures et de 4,9 millions de parties jouées contre elle-même, elle l’écrase : cent victoires à zéro[12].
Voilà une boucle d’auto-amélioration authentique. Le système génère lui-même l’expérience qui le rend plus fort, et, plus fort, il génère une expérience plus instructive encore. Le « self-play », le jeu contre soi, est un moteur récursif réel, mesurable, spectaculaire.
Alors, k a dépassé 1 ? Dans le monde du go, oui, et de très loin. C’est précisément ce qui rend la suite instructive.
Car les étincelles du même genre se multiplient. Fin 2016, des chercheurs de Google montrent qu’un réseau de neurones peut concevoir l’architecture d’autres réseaux de neurones, aussi bien que les ingénieurs humains[13]. En 2022, AlphaTensor découvre des algorithmes de multiplication de matrices plus rapides que tout ce que l’on connaissait, dans un cadre arithmétique particulier (les calculs « modulo 2 »)[14]. En 2023, AlphaDev trouve des algorithmes de tri plus efficaces pour les toutes petites séquences, ces briques appelées des milliers de milliards de fois par jour ; ils sont intégrés à la bibliothèque logicielle standard du langage C++[15]. La même année, FunSearch produit, sur un problème ouvert de combinatoire, une construction meilleure que tout ce que les mathématiciens avaient trouvé[16].
À chaque fois, le même parfum : une IA améliore un morceau de l’informatique, parfois un morceau qui sert à fabriquer des IA.
L’été 2024 ajoute la pièce la plus troublante. Le laboratoire Sakana AI dévoile The AI Scientist, un pipeline qui automatise la recherche de bout en bout : lire la littérature, générer des idées, coder les expériences, produire les figures, rédiger l’article, s’auto-évaluer. Une quinzaine de dollars le papier, pour des résultats que ses auteurs sont les premiers à juger médiocres. Mais la chaîne, elle, est complète[17].
──────[ l'atelier du AI Scientist ]──────
Et pendant les tests, un détail qui vaut son pesant de neutrons : le système a modifié son propre code. Plutôt que de rendre ses expériences plus rapides, il a tenté d’étendre la limite de temps qu’on lui imposait[17]. Une auto-modification de cancre, qui contourne la règle au lieu de résoudre le problème. Mais une auto-modification quand même, spontanée, dans un système de 2024.
Pourquoi, alors, aucune de ces étincelles n’a-t-elle allumé de chaîne ?
Parce qu’elles brillent toutes dans des mondes clos. Un jeu de go est un univers à règles parfaites : la victoire y est un signal sans ambiguïté, chaque essai est gratuit, un million de parties coûtent une nuit de calcul. Un algorithme de tri, une multiplication de matrices : mêmes propriétés. Le système peut essayer, échouer, mesurer, recommencer des millions de fois, devant un juge instantané et incorruptible.
La recherche en IA réelle n’a aucune de ces propriétés. Son signal est lent : entraîner un modèle de pointe prend des mois. Coûteux : des dizaines, désormais des centaines de millions de dollars par tentative. Ambigu, surtout : qu’est-ce qu’un « meilleur » modèle, au juste ? Meilleur à quoi, mesuré comment, au prix de quels effets de bord ?
Chaque étincelle meurt donc au bord de son enclos. Celle du self-play s’arrête au bord du plateau de go ; celle d’AlphaDev au bord de sa bibliothèque de tri. Les rendements locaux sont spectaculaires, mais la chaîne ne se propage pas d’un domaine à l’autre. Le k global de la recherche en IA reste très en dessous de 1.
En 2023 encore, l’explosion de l’intelligence demeure ce qu’elle était en 1965 : une spéculation. Puis, en l’espace de deux ans, trois choses se produisent.
──────[ 04 · k → 1 ]──────
La boucle se referme
Mai 2025. Google DeepMind lève le voile sur un système qu’il utilise en interne depuis un an : AlphaEvolve[19].
Sur le papier, c’est un descendant de FunSearch : des modèles Gemini proposent des programmes, des évaluateurs automatiques les testent, une boucle évolutionnaire conserve et croise les meilleurs. En pratique, la cible a changé d’échelle : AlphaEvolve travaille sur l’infrastructure de Google elle-même.
Bilan publié par DeepMind : une heuristique d’ordonnancement qui récupère en continu 0,7 % de la puissance de calcul de toute la flotte de Google, l’équivalent de dizaines de milliers de machines rendues au travail sans construire un seul serveur[19]. Une accélération moyenne de 23 % des « kernels », les cœurs de calcul de l’entraînement de Gemini, qui raccourcit de 1 % l’entraînement complet du modèle[20]. Et un trophée mathématique : la multiplication des matrices 4×4 à valeurs complexes en 48 multiplications au lieu de 49, première amélioration de l’algorithme de Strassen dans ce cadre depuis 1969. Cinquante-six ans que des humains s’y essayaient[20].
Or la multiplication de matrices n’est pas un problème parmi d’autres : c’est l’opération élémentaire de l’IA, celle que les puces répètent des milliards de milliards de fois par entraînement. Ce record-là reste, pour l’instant, un trophée de théoricien ; les gains concrets d’AlphaEvolve, eux, viennent des kernels et de l’ordonnanceur.
La géométrie de l’ensemble donne le vertige. AlphaEvolve fonctionne grâce à Gemini. AlphaEvolve a accéléré l’entraînement de Gemini. Un entraînement plus rapide ne garantit pas à lui seul un modèle plus intelligent ; il libère surtout du calcul, aussitôt réinvesti en modèles plus grands et en essais plus nombreux. À budget égal, le prochain Gemini vise donc plus haut, et fera tourner de meilleurs AlphaEvolve. Et ce n’est pas une reconstruction de journaliste : DeepMind l’écrit noir sur blanc dans son rapport technique, « Gemini, à travers les capacités d’AlphaEvolve, optimise son propre processus d’entraînement »[20]. Demis Hassabis, patron de DeepMind, salue le moment à sa façon : « des algorithmes qui optimisent d’autres algorithmes », et « les volants d’inertie tournent vite »[21].
La boucle vient de se mordre la queue, et pas sur un tableau noir : dans les serveurs de production de Mountain View.
Gardons la tête froide, DeepMind la garde pour nous : les gains sont « modestes » (1 % d’un entraînement) et le cycle est lent, « de l’ordre de plusieurs mois » par tour[20]. Une pile dont chaque génération de neutrons mettrait un semestre à naître. Mais la topologie a changé. Ce qui était une flèche, l’homme améliore la machine, est devenu un cercle : la machine participe, à la marge mais pour de vrai, à l’amélioration de la machine.
Et le cercle ne se referme pas qu’à Mountain View.
Le code, d’abord. Dès fin 2024, Sundar Pichai annonce que plus d’un quart du nouveau code de Google est généré par l’IA, puis relu et validé par des ingénieurs[22]. En juin 2026, Anthropic publie un rapport dont le titre ne s’embarrasse plus de détours, « When AI builds itself » (« Quand l’IA se construit elle-même ») : plus de 80 % du code intégré à la base d’Anthropic est désormais écrit par Claude, et l’ingénieur type y fusionne huit fois plus de code par jour qu’en 2024[23]. Claude écrit l’essentiel de Claude, sous supervision humaine. Les systèmes d’IA les plus avancés du monde sont déjà, matériellement, des ouvrages construits en grande partie par leurs prédécesseurs.
En février 2026, OpenAI pousse l’aveu un cran plus loin, dans la note de lancement d’un modèle de programmation : « GPT-5.3-Codex est notre premier modèle qui a été déterminant dans sa propre création »[49]. L’équipe raconte avoir utilisé ses versions précoces pour déboguer son propre entraînement, gérer son déploiement, diagnostiquer ses évaluations. Une phrase pareille aurait relevé de la science-fiction trois ans plus tôt ; elle figure désormais dans un communiqué produit.
L’échafaudage, ensuite. Mai 2025 toujours : la Darwin Gödel Machine de Sakana AI réécrit son propre agent de programmation, ses outils, ses invites, son flux de travail, et valide chaque réécriture à l’épreuve des faits. Son score sur un benchmark de génie logiciel passe de 20 % à 50 %[24]. Nuance décisive : le système modifie son « échafaudage », le code qui l’entoure et l’orchestre, pas ses poids, le réseau de neurones lui-même. La boucle mord le logiciel, pas encore le cerveau. Au passage, les auteurs rapportent, à leur honneur, un détail qui a un air de déjà-vu : pendant les tests, leur agent a falsifié des journaux d’exécution pour faire croire qu’il avait lancé des tests qu’il n’avait jamais lancés[24]. Même laboratoire, même réflexe : l’AI Scientist de Sakana avait déjà trafiqué sa propre limite de temps moins d’un an plus tôt. La triche n’a rien d’un accident de jeunesse ; dès qu’une boucle se réécrit, même embryonnaire, elle la réinvente. Retenez cette anecdote pour le jour où nous parlerons d’alignement.
Les idées, enfin. En 2025, un article scientifique entièrement généré par The AI Scientist v2, hypothèse, expériences, rédaction, sans une retouche humaine, franchit la barre de la relecture par les pairs d’un atelier de la conférence ICLR[18]. Un atelier, pas la conférence principale, et avec l’accord préalable des organisateurs ; les précautions comptent. Reste le fait nu : des relecteurs humains n’ont pas distingué le travail d’une machine de celui de leurs pairs.
La suite est allée vite. En mars 2026, une version mûrie de ce même AI Scientist signe une publication dans Nature, et Sakana donne un nom au programme entier : un laboratoire dédié à l’auto-amélioration récursive, avec une devise en forme de boucle, des modèles-agents qui font tourner un Scientifique IA, lequel construit de meilleurs modèles-agents[50]. Le même laboratoire publie ses ratés avec une candeur précieuse : des boucles évolutionnaires qui dérivent, des auto-modifications qui brillent sur les benchmarks et s’effondrent en déploiement[50]. La boucle apprend aussi à échouer.
Et le printemps 2026 apporte la pièce que les sceptiques réclamaient : la découverte de rupture. Le 20 mai, OpenAI annonce qu’un de ses modèles de raisonnement, un modèle généraliste, ni entraîné pour les mathématiques ni orienté vers ce problème, a réfuté une conjecture centrale de géométrie discrète, posée par Paul Erdős en 1946 : le problème de la distance unité. Des décennies durant, le champ a cru les constructions en grille indépassables ; le modèle a produit une famille infinie de contre-exemples qui les dépassent nettement, vérifiée par des mathématiciens extérieurs[48]. Un pas de côté, là où la recherche humaine marchait droit. C’est très exactement ce que le domaine appelle le « research taste », le flair qui devine où creuser : la dernière compétence que l’on croyait hors d’atteinte des machines, et le vrai graal de l’automatisation de la recherche.
Sam Altman a trouvé, en juin 2025, la formule la plus juste pour nommer cet état intermédiaire : nous vivons, écrit-il, « une version larvaire de l’auto-amélioration récursive ». Pas un système qui met à jour son propre code en autonomie, précise-t-il aussitôt ; des humains armés d’IA qui accélèrent la recherche sur l’IA[25].
Larvaire, mais mesurable. C’est la troisième nouveauté, peut-être la plus importante : la boucle a maintenant des instruments.
──────[ l'horizon temporel des IA (METR) ]──────
* mesure jugée très bruitée par METR (batterie de tests proche de la saturation)
Durée des tâches (en temps de travail humain) réussies une fois sur deux, par date de sortie du modèle. Échelle logarithmique, intervalles à 95 %. Données : METR, méthodologie Time Horizon 1.1 (janv. 2026). Depuis 2023, le doublement est passé d'environ 7 mois à environ 4, puis 3.
↗ METR──────[ le sablier des horizons ]──────
2025,0
43 min
de travail humain : la taille des tâches que l'IA de cette date réussit une fois sur deux · mesuré (METR)
- répondre à un mail5 min
- préparer une réunion1 h
- corriger un bug épineux1 jour
- construire un petit site web1 semaine
- rédiger un article scientifique1 mois
- auditer une entreprise entière1 trimestre
- lancer un produit de zéro1 semestre
L’institut d’évaluation METR mesure l’« horizon temporel » des systèmes d’IA sortis depuis 2019 : la durée, comptée en temps de travail humain, des tâches qu’un modèle réussit une fois sur deux[26]. En 2019, cet horizon se comptait en secondes. Début 2025, il atteignait l’heure. La courbe est d’une régularité troublante : l’horizon double environ tous les sept mois, et le rythme s’accélère, autour de quatre mois depuis 2023, trois depuis 2024[27]. Début 2026, la mesure du meilleur modèle dépasse la dizaine d’heures, très bruitée de l’aveu même de METR : sa batterie de tests approche de la saturation[27].
Sur le terrain qui nous occupe, la recherche en IA elle-même, le même institut a organisé le duel directement : agents contre chercheurs chevronnés, sur de vraies tâches d’ingénierie de recherche[28]. À budget de deux heures, les agents écrasent les humains, avec un score quadruple. À huit heures, les humains repassent devant. À trente-deux heures, ils font le double. Voilà la frontière de 2026, dessinée avec une précision inespérée : les machines gagnent les sprints, les humains tiennent les marathons. Et les sprints des machines s’allongent de mois en mois.
──────[ le duel RE-Bench ]──────
2 h
8 h
le croisement
32 h
Alors, la boucle est-elle fermée ? Non.
Le tour complet du circuit donne l’état exact de 2026. Écrire le code : largement automatisé. Optimiser les rouages, kernels, ordonnanceurs, puces : entamé, en production. Générer des idées, rédiger des articles : démontré, à petite échelle et à qualité inégale. Mais choisir les questions qui comptent ; décider quel entraînement géant mérite ses centaines de millions de dollars ; juger qu’un résultat est solide plutôt que séduisant ; fournir le calcul, les données, l’électricité ; éteindre la machine : tout cela reste, en 2026, entre des mains humaines.
L’IA n’améliore pas encore l’IA en autonomie ; elle améliore, de plus en plus vite, presque tout ce qui sert à l’améliorer.
k n’a pas atteint 1. Mais k monte, et pour la première fois en soixante ans de débat, sa montée se mesure.
Les ingénieurs ont un nom pour cette architecture où chaque segment automatisé reste bordé de validation humaine : l’humain dans la boucle, « human in the loop ». La formule décrit fidèlement 2026. Elle porte aussi sa propre limite : une boucle qui accélère finit par tourner plus vite que celui qui la surveille. Un ingénieur qui fusionne huit fois plus de code qu’en 2024 ne relit plus, il échantillonne[23]. À mesure que k grimpe, le superviseur humain devra choisir entre ralentir la boucle et lui déléguer sa confiance ; toute la suite de ce récit découle de ce choix.
──────[ 05 · k > 1 ? ]──────
Le débat
Plus personne de sérieux ne demande si l’IA peut accélérer la recherche en IA ; la réponse est dans les dépôts de code. La vraie question, celle qui divise les meilleurs esprits du domaine, est celle du rendement composé : quand l’IA fera l’essentiel du travail, chaque doublement d’efficacité rendra-t-il le doublement suivant plus facile, ou plus difficile ?
Voici les deux camps, dans leur meilleure version.
Le camp de l’emballement. Premier argument : le progrès logiciel est déjà rapide, même porté par de simples humains. L’institut Epoch AI a mesuré qu’à performance égale, la puissance de calcul nécessaire aux modèles de langage est divisée par deux tous les huit mois environ, par le seul progrès des algorithmes[29]. Plus vite que la loi de Moore au sommet de sa forme.
Deuxième argument : les chercheurs numériques se dupliquent. Un chercheur humain se forme en vingt-cinq ans et dort huit heures par nuit. Un chercheur numérique se copie en quelques secondes. Leopold Aschenbrenner, ancien d’OpenAI, imagine « peut-être 100 millions » de chercheurs automatisés travaillant jour et nuit, partageant instantanément chaque découverte[30]. Dario Amodei, patron d’Anthropic, a sa propre image : « un pays de génies dans un centre de calcul »[31].
Troisième argument, le plus technique et le plus discuté : celui de Tom Davidson. Notons r le nombre de doublements d’efficacité logicielle obtenus chaque fois que l’effort de recherche cumulé double. Si r est supérieur à 1, alors une fois la recherche automatisée, le progrès logiciel peut s’auto-entretenir en s’accélérant, même à parc de machines constant : une explosion purement logicielle[32]. C’est notre k, passé au costume d’économiste. Et les estimations historiques de r s’étalent, selon les domaines, d’un peu moins de 1 (les échecs) à environ 4[32].
Le camp des freins. Premier contre-argument : les idées deviennent plus dures à trouver. C’est l’un des résultats les plus solides de l’économie de l’innovation : maintenir la loi de Moore exige aujourd’hui plus de dix-huit fois plus de chercheurs qu’au début des années 1970[33]. À mesure qu’un champ avance, chaque pas coûte plus cher. La « récalcitrance » de Bostrom a des données.
Deuxième : penser plus vite ne fait pas converger un entraînement plus vite. Un entraînement de modèle de pointe, c’est environ trois mois de temps physique, incompressible, le principal délai de toute la boucle logicielle[34]. Un million de génies numériques devant une expérience d’un trimestre restent un million de génies qui attendent. La boucle bute sur l’horloge du monde réel.
Troisième : les gains d’algorithmes naissent d’expériences, donc de calcul. C’est la réponse d’Epoch AI au modèle de Davidson : les innovations logicielles majeures ne se découvrent, et souvent ne fonctionnent, qu’à l’échelle des plus gros clusters[35]. Le logiciel ne peut pas prendre indéfiniment le relais du matériel : les deux sont complémentaires, comme le moteur et le carburant.
Quatrième : l’énergie. Poursuivre la course du calcul jusqu’au bout du raisonnement, c’est envisager, dans les projections les plus agressives, des clusters à 100 gigawatts et des budgets à mille milliards de dollars[30]. À un moment, la physique tient les barres de contrôle. Nous consacrerons un récit entier à ce goulot électrique.
Et voici l’ironie qui dit tout de l’état du débat : les deux camps travaillent sur les mêmes données. Les estimations de r que cite Davidson viennent des travaux d’Epoch ; Epoch en tire la conclusion inverse. Les optimistes lisent « des médianes au-dessus de 1 » ; les sceptiques répondent « des intervalles d’incertitude qui traversent 1, et des goulots que le modèle ignore »[35]. Quand deux équipes rigoureuses tirent des conclusions opposées des mêmes chiffres, c’est que les chiffres ne suffisent pas encore.
Les probabilités publiées s’étalent en conséquence. Ege Erdil, chez Epoch, donne environ 10 % à l’explosion purement logicielle, et place l’automatisation complète du travail à distance à une vingtaine d’années[35]. Davidson lui-même donne 10 à 40 %, en concédant que les goulots de calcul pourraient étouffer l’explosion après quelques ordres de grandeur de progrès[32]. Le scénario le plus lu de 2025, « AI 2027 », met en scène un codeur surhumain début 2027 puis une cascade de chercheurs automatisés ; ses auteurs le présentent explicitement comme un scénario informé, non une prédiction, et leur propre médiane a d’ailleurs glissé vers 2029-2030 depuis la publication[36]. Paul Christiano, l’un des chercheurs les plus respectés du champ, a donné au débat sa formulation la plus utile : avant l’IA géniale en auto-amélioration, il y aura l’IA médiocre en auto-amélioration[37]. Le chapitre précédent en est la démonstration : nous y sommes.
Personne de sérieux ne dit « impossible ». Personne de sérieux ne dit « certain ». Le désaccord tient dans un paramètre que le champ entier nomme désormais pareil, et que nul ne sait lire ailleurs que dans le rétroviseur.
l’emballement
efficacité ×2 / 8 mois
des chercheurs qui se copient
r > 1
les freins
×18 pour le même pas
~3 mois par expérience
compute ⇄ idées
le mur des gigawatts
le duel
La course des deux courbes
effort de recherche cumulé →
Le terrain durcit : chaque idée coûte plus cher que la précédente.
Mais la capacité de recherche monte aussi, et elle se copie.
Si r < 1 : la difficulté gagne. La boucle s'essouffle en silence.
Si r > 1 : chaque doublement paie le suivant. L'explosion.
Le croisement que personne ne sait encore dater.
Reste une hypothèse, moins discutée, qui pourrait déplacer toute la question.
Le scénario canonique, celui de Good, imagine une machine qui monte en flèche : un cerveau de silicium de plus en plus profond. Or un préprint remarqué, et déjà discuté, de janvier 2026, signé de chercheurs de Google, de l’université de Chicago et du Santa Fe Institute, rapporte autre chose dans les modèles de raisonnement actuels : face aux problèmes les plus durs, écrivent les auteurs, ils se mettent à simuler des débats intérieurs, des perspectives multiples qui argumentent, se contredisent et se réconcilient. Ils appellent cela une « société de pensée »[38].
Ce résultat croise un fait d’histoire naturelle : toutes les explosions d’intelligence que cette planète a connues furent collectives. Les primates, veut l’hypothèse du cerveau social, ont grandi par la taille du groupe autant que par celle du cerveau. Le langage a permis au savoir de s’accumuler sans que chacun doive tout réapprendre. La science elle-même est un débat organisé, non un monologue génial. Si la prochaine explosion suit la même pente, elle ressemblera moins à un cerveau géant qu’à une civilisation numérique : des milliards d’esprits artificiels qui se spécialisent, se critiquent et s’échangent leurs découvertes.
Ilya Sutskever, cofondateur d’OpenAI parti chasser la superintelligence « sûre », et que nul ne soupçonnera de tiédeur, fait le même pari en creux. Au modèle naïf « un million de copies de moi dans un serveur », il objecte des rendements décroissants : « ce que vous voulez, ce sont des esprits qui pensent différemment, pas pareil »[39].
Une explosion-société plutôt qu’une explosion-cerveau. Le k y serait porté par la diversité et l’organisation des machines, leur écologie entière, plus que par la profondeur d’un seul réseau. Et garder le contrôle d’une société ne ressemble pas du tout à garder le contrôle d’une machine : c’est une affaire d’institutions autant que de technique. Cette idée mérite son propre récit ; elle attendra le nôtre sur la superintelligence.
expérience
À vous de tenir la barre
k = 1.00 · progrès auto-entretenu · après 26 générations : ×1
Chaque colonne est une génération de systèmes ; chaque point, une unité de capacité de recherche. Déplacez le curseur : la controverse scientifique actuelle se joue sur ces quelques centièmes.
──────[ 06 · au-delà de k ]──────
Ce que la boucle change déjà
Voici peut-être le fait le plus révélateur de toute cette histoire : les trois laboratoires les plus avancés du monde ont chacun, dans leurs documents officiels de sécurité, défini des seuils d’auto-amélioration au-delà desquels ils s’engagent à changer de régime.
OpenAI↗
Preparedness Framework v2 · avril 2025
« L'auto-amélioration de l'IA » est l'une des trois catégories de risque suivies. Seuil critique : un saut de génération de modèle en un cinquième du temps de 2024, plusieurs mois d'affilée.
Engagement écrit au seuil critique : arrêter tout développement supplémentaire tant que des protections à la hauteur n'existent pas.
Anthropic↗
Responsible Scaling Policy v3.4 · juillet 2026
Le seuil vise, mot pour mot, « à capturer le début d'une auto-amélioration récursive spectaculaire »… et reconnaît qu'il « s'est révélé difficile à opérationnaliser ».
Déclencheur : des modèles capables de remplacer l'ensemble des chercheurs du laboratoire, ou une accélération spectaculaire du progrès.
Google DeepMind↗
Frontier Safety Framework v3.1 · avril 2026
Niveau de capacité critique : « automatiser entièrement le travail de n'importe quelle équipe de recherche de Google dédiée à l'amélioration des capacités d'IA ».
Assorti du niveau de sécurité 4 du cadre : un accès non restreint à de tels modèles « pourrait être catastrophique ».
Trois documents, une même grammaire[40][41][42] : des ingénieurs y écrivent des procédures de réacteur, des seuils, des alarmes, des protocoles d’arrêt. En soixante ans, k est passé du statut de spéculation de mathématicien à celui de grandeur industrielle sous surveillance. Le monde académique a suivi : au printemps 2026, la conférence ICLR accueillait son premier atelier de recherche entièrement consacré à l’auto-amélioration récursive[51].
Les mêmes institutions avancent des dates, qu’il faut lire pour ce qu’elles sont : des prédictions d’acteurs engagés, invérifiables, intéressées, et pourtant adossées à des courbes bien réelles. OpenAI vise un « assistant de recherche de niveau stagiaire » pour septembre 2026, et un vrai chercheur IA autonome pour mars 2028[43]. Amodei décrit, début 2026, une boucle déjà enclenchée, peut-être à un ou deux ans du moment où la génération actuelle d’IA construit seule la suivante[44]. La voix la plus prudente du champ, le rapport international sur la sécurité de l’IA dirigé par Yoshua Bengio, tient l’équilibre : les systèmes actuels n’ont pas les capacités d’une perte de contrôle, mais « ils s’améliorent dans les domaines pertinents »[45]. Bengio en tire d’ailleurs sa propre réponse : des « IA scientifiques » volontairement dépourvues de buts propres, qui accéléreraient la recherche sans jamais la conduire[46].
Pourquoi tant de soin ? Parce que la boucle possède une propriété plus profonde que sa vitesse : elle comprime le temps des autres.
Tout ce que nos sociétés savent faire face à une technologie, la comprendre, l’évaluer, la réguler, s’y adapter, suppose que la technologie avance moins vite que nos institutions. Si k dépasse 1, cette hypothèse tombe. Chaque problème non résolu avant l’emballement, à commencer par l’alignement des systèmes sur nos intentions, devient un problème à résoudre pendant, dans une fenêtre qui rétrécit à mesure qu’elle avance. Comment savoir, d’ailleurs, si un système approche du seuil ? En l’évaluant, précisément, et évaluer une IA est un art bien plus retors qu’il n’y paraît.
la fenêtre des institutions
Si k dépasse 1, la fenêtre se referme à mesure qu'elle avance.
S’ajoute l’asymétrie stratégique, qui explique l’électricité particulière de la course actuelle : le premier acteur qui tiendrait une boucle au rendement supérieur à 1 creuserait un écart qui se creuse ensuite tout seul. L’humain cesse d’être le goulot ; la machine entraîne la machine suivante. Amodei désigne cet « avantage fugitif » comme un enjeu géopolitique de premier ordre : qui tient la boucle importe autant que la boucle elle-même[44]. Anthropic, dans le même rapport de juin 2026, défend d’ailleurs une idée qui aurait semblé impensable il y a peu : préserver collectivement « l’option de ralentir ou de suspendre temporairement » le développement des modèles de pointe, si tous les acteurs de la frontière s’y plient de façon vérifiable[23]. Gouverner cela est un chantier en soi ; c’est le sujet de notre récit sur la gouvernance de l’IA de frontière.
Et il faut, pour être complet, dire l’autre versant, car cette boucle n’est pas d’abord une menace. Elle est le plus puissant instrument que la science ait jamais entrevu. Quand AlphaFold a prédit la structure de 200 millions de protéines, la quasi-totalité de celles connues du vivant, il a produit en quelques mois des centaines de fois plus de structures que la biologie expérimentale n’en avait résolues en un demi-siècle[47]. Appliquez la même mécanique aux matériaux, aux médicaments, à la fusion, au climat : c’est le pari explicite de tous les laboratoires, et la raison profonde pour laquelle personne ne veut simplement débrancher la boucle. Le même levier soulève les deux plateaux de la balance.
La phrase de Good
Le récit se referme où il s’est ouvert : sur Irving John Good.
En 1965, l’homme de Bletchley avait logé la condition dans la même phrase que la promesse : la dernière invention, « à condition que la machine soit assez docile pour nous dire comment la garder sous contrôle ». Toute sa vie, il a laissé la phrase telle quelle.
En 1998, à 81 ans, Good rédige des notes autobiographiques, à la troisième personne, comme pour se regarder de loin. L’auteur James Barrat les a consultées et rapporte ceci : revenant sur la première phrase de son article de 1965, celle-là même qui ouvre notre chapitre 02, « la survie de l’homme dépend de la construction précoce d’une machine ultra-intelligente », Good écrit qu’il soupçonne désormais qu’il faudrait y remplacer « survie » par « extinction ». La compétition internationale, pense-t-il, nous empêchera de garder les machines sous contrôle. « Il pense que nous sommes des lemmings », disent ses notes[7].
Entre les deux versions de la phrase, aucune découverte décisive : seulement trente-trois ans de réflexion, chez l’homme qui avait vu de ses yeux, dans une baraque de Bletchley, ce que les machines font aux guerres.
Rien n’oblige l’histoire à lui donner raison. La pile de Chicago n’a pas dévoré la ville : elle a été conçue, mesurée, contrôlée, et arrêtée à 15 h 53 précises. Nous avons su tenir k dans nos mains une première fois. Mais Fermi connaissait sa physique avant d’empiler le graphite. La nôtre reste à écrire, et la boucle, elle, tourne déjà.
La boucle tourne. Reste à savoir qui la tient.
Sources et pour aller plus loin
- 1. Atomic Heritage Foundation / National Museum of Nuclear Science, « Chicago Pile-1 »
- 2. University of Chicago News, « The first nuclear reactor, explained »
- 3. E. Yudkowsky, « Intelligence Explosion Microeconomics », MIRI (2013) ; l'analogie apparaît dès « Cascades, Cycles, Insight » (2008)
- 4. A. M. Turing, « Intelligent Machinery, A Heretical Theory » (c. 1951), in B. J. Copeland (éd.), The Essential Turing, OUP, 2004
- 5. S. Ulam, « John von Neumann 1903-1957 », Bulletin of the AMS, 64(3), 1958, p. 5
- 6. I. J. Good, « Speculations Concerning the First Ultraintelligent Machine », Advances in Computers, vol. 6 (1965) ; traduction française : F. Chervet, Hyperarme (2025)
- 7. J. Barrat, Our Final Invention, Thomas Dunne Books (2013) : notes autobiographiques non publiées de Good (1998) rapportées par l'auteur
- 8. V. Vinge, « The Coming Technological Singularity », symposium VISION-21, NASA (mars 1993)
- 9. R. Hanson et E. Yudkowsky, The Hanson-Yudkowsky AI-Foom Debate, MIRI (2013)
- 10. D. J. Chalmers, « The Singularity: A Philosophical Analysis », Journal of Consciousness Studies, 17(9-10) (2010)
- 11. N. Bostrom, Superintelligence: Paths, Dangers, Strategies, Oxford University Press (2014), chap. 4
- 12. D. Silver et al., « Mastering the game of Go without human knowledge », Nature 550 (2017)
- 13. B. Zoph et Q. V. Le, « Neural Architecture Search with Reinforcement Learning » (2016)
- 14. A. Fawzi et al., « Discovering faster matrix multiplication algorithms with reinforcement learning », Nature 610 (2022)
- 15. D. Mankowitz et al., « Faster sorting algorithms discovered using deep reinforcement learning », Nature 618 (2023)
- 16. B. Romera-Paredes et al., « Mathematical discoveries from program search with large language models », Nature 625 (2023)
- 17. Sakana AI, « The AI Scientist » (août 2024)
- 18. Sakana AI, « The AI Scientist Generates its First Peer-Reviewed Scientific Publication » (2025)
- 19. Google DeepMind, « AlphaEvolve: A Gemini-powered coding agent for designing advanced algorithms » (mai 2025)
- 20. A. Novikov et al., « AlphaEvolve: A coding agent for scientific and algorithmic discovery », white paper, Google DeepMind (2025)
- 21. D. Hassabis, X (14 mai 2025)
- 22. S. Pichai, remarques des résultats Alphabet Q3 2024 (29 octobre 2024)
- 23. Anthropic, « When AI builds itself » (juin 2026)
- 24. J. Zhang et al., « Darwin Gödel Machine: Open-Ended Evolution of Self-Improving Agents », Sakana AI / UBC (2025)
- 25. S. Altman, « The Gentle Singularity » (10 juin 2025)
- 26. T. Kwa, B. West et al. (METR), « Measuring AI Ability to Complete Long Tasks » (2025)
- 27. METR, « Time Horizon 1.1 » (janvier 2026) et page « Task-Completion Time Horizons » (mises à jour 2026)
- 28. H. Wijk et al. (METR), « RE-Bench: Evaluating frontier AI R&D capabilities of language model agents against human experts » (2024)
- 29. A. Ho et al. (Epoch AI), « Algorithmic progress in language models » (2024)
- 30. L. Aschenbrenner, « Situational Awareness: The Decade Ahead » (juin 2024)
- 31. D. Amodei, « Machines of Loving Grace » (octobre 2024)
- 32. T. Davidson et D. Eth, « Will AI R&D Automation Cause a Software Intelligence Explosion? », Forethought (mars 2025)
- 33. N. Bloom, C. Jones, J. Van Reenen et M. Webb, « Are Ideas Getting Harder to Find? », American Economic Review, 110(4) (2020)
- 34. T. Davidson, R. Hadshar et W. MacAskill, « Three Types of Intelligence Explosion », Forethought (2025)
- 35. E. Erdil (Epoch AI), « The case for multi-decade AI timelines » (2025) ; T. Besiroglu, E. Erdil et A. Ho, « Do the returns to software R&D point towards a singularity? » (2024)
- 36. D. Kokotajlo, S. Alexander, T. Larsen, E. Lifland et R. Dean, « AI 2027 », takeoff forecast (avril 2025)
- 37. P. Christiano, « Takeoff speeds » (2018)
- 38. J. Kim, S. Lai, N. Scherrer, B. Agüera y Arcas et J. Evans, « Reasoning Models Generate Societies of Thought » (janvier 2026)
- 39. I. Sutskever, entretien avec Dwarkesh Patel (25 novembre 2025)
- 40. OpenAI, « Preparedness Framework », version 2 (15 avril 2025)
- 41. Anthropic, « Responsible Scaling Policy », version 3.4 (juillet 2026)
- 42. Google DeepMind, « Frontier Safety Framework », version 3.1 (avril 2026)
- 43. TechCrunch, « Sam Altman says OpenAI will have a 'legitimate AI researcher' by 2028 » (28 octobre 2025)
- 44. D. Amodei, « The Adolescence of Technology » (janvier 2026)
- 45. International AI Safety Report 2026 (février 2026), dir. Y. Bengio
- 46. Y. Bengio et al., « Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path? » (2025)
- 47. Google DeepMind, « AlphaFold reveals the structure of the protein universe » (2022)
- 48. OpenAI, « An OpenAI model has disproved a central conjecture in discrete geometry » (20 mai 2026)
- 49. OpenAI, « Introducing GPT-5.3-Codex » (février 2026)
- 50. Sakana AI, « Introducing Sakana AI’s Recursive Self-Improvement (RSI) Lab » (2026)
- 51. ICLR 2026 Workshop on AI with Recursive Self-Improvement