CapacitésIntermédiaire
L'auto-amélioration récursive
Que se passe-t-il quand une IA devient douée pour améliorer l'IA ? La boucle de rétroaction qui pourrait transformer un progrès régulier en décollage soudain.
Lire→5 min de lecture
La bibliothèque
Chaque concept, un récit à la fois
Chaque récit prend une seule idée derrière l’arrivée de l’AGI et la rend vraiment compréhensible.
InterprétabilitéAvancé
L'interprétabilité mécanistique
Rétro-ingénierie des circuits d'un réseau de neurones, neurone par neurone, pour lire ce qu'un modèle calcule vraiment.
Bientôt
CapacitésIntro
Les lois d'échelle
Pourquoi des modèles plus grands, plus de données et plus de calcul continuent de payer sur une courbe étonnamment lisse, et où cette courbe pourrait s'infléchir.
Bientôt
AlignementIntro
Le problème de l'alignement
Amener un optimiseur puissant à vouloir ce que nous voulons se révèle bien plus difficile que de lui dire quoi faire.
Bientôt
AlignementIntermédiaire
La convergence instrumentale
Presque n'importe quel but, poursuivi assez fort, récompense les mêmes sous-buts : accumuler des ressources, rester allumé, résister au changement.
Bientôt
AlignementIntermédiaire
L'apprentissage par renforcement sur retours humains
Comment les pouces levés et baissés des humains se distillent en un modèle de récompense qui façonne discrètement la personnalité d'un agent.
Bientôt
AlignementAvancé
La méso-optimisation
Quand le modèle entraîné développe son propre optimiseur interne, poursuivant un but proxy qui ne ressemblait au vôtre que pendant l'entraînement.
Bientôt
CapacitésIntro
Le calcul et la leçon amère
Des décennies de recherche en IA réapprennent la même vérité humble : les méthodes générales qui passent à l'échelle du calcul battent le savoir bâti à la main.
Bientôt
GouvernanceIntermédiaire
Gouverner l'IA de frontière
Évaluations, seuils de calcul, dossiers de sûreté, coordination internationale : la boîte à outils politique qui se dessine autour des modèles les plus capables.
Bientôt