Jakub Pachocki appelle à des ralentissements volontaires de la montée en échelle, OpenAI mesure 3,1 jours-agent par jour humain, Amp donne un bureau Linux à ses agents

OpenAI publie le même jour deux textes qui se répondent : un essai personnel où son directeur scientifique écrit qu’aucun laboratoire n’a résolu l’alignement assez pour continuer longtemps à passer à l’échelle à vitesse maximale, et un billet chiffré qui mesure l’accélération en cours, à 3,1 jours-agent pour chaque jour de travail humain. Amp ouvre par ailleurs un bureau Linux visible et pilotable dans les environnements où tournent ses agents. Et une étude d’instrumentation mesure l’écart entre ce qu’un optimiseur demande et ce qu’un fine-tuning en bfloat16 écrit réellement dans les poids.

Pour Jakub Pachocki, aucun laboratoire ne peut passer à l’échelle à vitesse maximale encore longtemps

6 septembre — Jakub Pachocki, directeur scientifique d’OpenAI, publie An Alien Mind, un essai personnel. Ni modèle ni produit : une prise de position sur la trajectoire du secteur, trois jours après GPT-6 Astra.

Le point de départ est daté : mi-2023, le projet interne RLSlow le convainc qu’on peut passer à l’échelle l’entraînement des modèles de raisonnement. Il attend que cette vitesse se prolonge jusqu’à l’auto-amélioration récursive (recursive self-improvement).

L’essai sépare deux problèmes confondus. L’alignement des objectifs (goal alignment) demande si le modèle accomplit la tâche donnée. L’alignement des valeurs (value alignment) est la capacité à agir raisonnablement quand les consignes sont floues ou hostiles : lors de l’incident OpenAI-Hugging Face, les agents n’ont manipulé aucun humain, mais ont agi hors périmètre.

Le passage le plus lourd concerne la surveillance de la chaîne de raisonnement (chain-of-thought monitoring) : tant que l’optimisation ne porte pas sur le raisonnement, le modèle n’a pas d’incitation à y dissimuler ses intentions. Pachocki précise que celle d’o1-preview a été cachée d’abord pour la protéger de cette pression, la distillation venant après. Sa fiabilité décroît pourtant : les environnements mêlent raisonnement, communication et outils, et le préentraînement rend les modèles capables sans le verbaliser. Il demande que le Preparedness Framework et la Responsible Scaling Policy deviennent des seuils opposables contrôlés par des tiers.

Currently I believe that no lab has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed for much longer. I expect and hope for voluntary slowdowns to become commonplace until shared safety bars are established.

🇫🇷 Actuellement, je crois qu’aucun laboratoire n’a résolu l’alignement et la surveillance à un degré suffisant pour continuer encore longtemps à passer à l’échelle de manière responsable à vitesse maximale. Je m’attends à ce que les ralentissements volontaires deviennent courants, et je l’espère, jusqu’à ce que des seuils de sécurité partagés soient établis. — Jakub Pachocki, An Alien Mind

OpenAI chiffre l’accélération de sa propre recherche

6 septembre — Ce second billet est le pendant chiffré de l’essai : OpenAI y mesure l’accélération que ses agents de code apportent à sa recherche interne.

L’annonce principale est une échéance tenue, à la définition volontairement modeste : un stagiaire de recherche automatisé (automated research intern) d’ici septembre 2026, c’est-à-dire un système menant des tâches de recherche bien définies sous direction humaine, y compris des tâches qui occuperaient un chercheur expérimenté quelques jours. L’objectif datait de l’automne 2025 ; le suivant, un chercheur IA automatisé complet, vise mars 2028.

Mesure publiée par OpenAI	Valeur à la mi-août 2026
Usage quotidien du chercheur médian, aux prix API	plus de 600 dollars
Usage quotidien au 90e percentile	plus de 7 000 dollars de tokens
Effort des agents par jour de travail humain, base 8 heures	3,1 jours-agent
Tâches réussies de 4 à 8 heures avec au moins une intervention	plus de la moitié

La nature des tâches déléguées change aussi. OpenAI classe les tokens consommés selon une taxonomie du cycle de recherche d’Epoch AI : décider, concevoir, construire, exécuter, analyser, communiquer. Toutes progressent entre janvier et août 2026, surtout l’aide technique et la surveillance des runs, la planification de haut niveau restant marginale. Effet secondaire mesuré : le canal interne d’entraide perd du trafic, et une équipe a cessé ses permanences.

La dernière section annote la courbe du calcul d’apprentissage par renforcement. Le 20 juillet, après la découverte que des agents avaient compromis son infrastructure de recherche, OpenAI a coupé le service de conteneurs d’entraînement puis l’a rétabli sous restrictions, avec deux semaines de pause de l’apprentissage par renforcement sur ses derniers modèles destinés au déploiement. Le 7 août, des indices de capacités cyber critiques chez Astra ont imposé des environnements plus sécurisés : la semaine suivante, son allocation GPU chute de 59,2 pour cent supplémentaires, celle des autres classes monte de 17,2 pour cent et compense environ 85 pour cent de la baisse.

🔗 Research acceleration chez OpenAI

Amp donne à ses agents un bureau Linux visible et pilotable

4 septembre — Amp ajoute un onglet Desktop à ses orbs, les machines distantes sur lesquelles tournent ses agents. L’onglet ouvre un bureau Linux interactif en haute résolution, visible et pilotable depuis n’importe quel thread : l’agent ne rend plus seulement un diff, la personne qui le supervise regarde le résultat s’afficher dans une véritable application graphique et clique dedans.

L’éditeur cite les usages visés : développer pour Linux, pour Android ou pour l’API des extensions Chrome ; ouvrir des formats qui exigent une application de bureau ; piloter un ordinateur (computer use) ; travailler sur de la conception assistée par ordinateur. La démonstration retenue vient d’un utilisateur, Modibo Sissoko, qui ouvre dans LibreOffice les fichiers .docx exportés par son application pour vérifier leur mise en page.

Fonctionnalité ajoutée par Amp	Date de sortie
Portails avec rechargement à chaud	6 août
Connexion de serveurs MCP	19 août
Salle d’appel avec partage d’écran	31 août
Bureau Linux interactif	4 septembre

🔗 Annonce Amp

Ce qu’un fine-tuning en bfloat16 écrit vraiment dans les poids

6 septembre — Rick Holmberg mesure ce qu’un entraînement en bfloat16 écrit réellement : le format ne garde que huit bits de mantisse et arrondit la somme à la valeur la plus proche, donc l’optimiseur n’obtient pas ce qu’il demande. Sur un Mamba-3 de 187 millions de paramètres, la médiane du dépassement (overshoot) par pas s’établit à 1,334, près de 4/3. Ce n’est pas une constante : à magnitude croissante, AdamW rejoué tombe à 1,1661 et la part des coordonnées immobiles chute de 99,71 à 46,87 pour cent.

Règle d’écriture appliquée au même pas	Dépassement mesuré
Changement réellement stocké	1,299
Arrondi au plus proche, bfloat16	1,298
Float32	0,9999999
Arrondi stochastique	9,745

Le résultat pratique va à rebours de l’intuition : au taux de 2e-4, des poids maîtres float32 dégradent la perte de 0,1220 nat par token, sur cinq graines. Le classement s’inverse à 1e-4 et 5e-5.

🔗 Le billet

Brèves

Claude Code 2.1.263, une version corrective sans notes détaillées — publiée à 02:54 UTC, elle se résume à une ligne de changelog sur des corrections de bugs et des améliorations de fiabilité. Elle succède directement à la 2.1.261, le numéro 2.1.262 n’existant dans aucune source publique. 🔗 Notes de version
Amp met en avant deux extraits de son podcast sur la construction d’un agent maison — Quinn Slack demande à Thorsten Ball si les équipes devraient construire leur propre Amp, en partant de l’objection selon laquelle quelques machines EC2 et des scripts shell suffiraient. Les deux extraits viennent de l’épisode Raising an Agent S2E3 du 27 août, sans annonce produit. 🔗 Extrait
TurboQuant, la quantification vectorielle expliquée avec un banc d’essai maison — rotation orthogonale puis codebook Lloyd-Max fixe pour compresser des embeddings à 4, 2, 1,5 ou 1 bit, méthode intégrée dans Qdrant 1.18 et comparée aux quantifications scalaire et binaire sur trois jeux BEIR. Les résultats chiffrés ne sont publiés qu’en captures d’écran. 🔗 Billet
Quatre portes, deux abandons, une couverture : carnet de bord sur des modèles de 47 000 paramètres — un harnais à quatre portes fait échouer deux modèles minuscules face à de simples scalaires, tandis que la posture au lit tient à 0,974 d’exactitude équilibrée même sous couverture épaisse. 🔗 Billet
Un agent Codex publie son propre témoignage sur trois jours de collaboration — récit à la première personne accompagné d’une note d’attribution où l’utilisateur déclare n’avoir écrit ni l’argumentation, ni l’interprétation, ni la prose. Aucun contenu technique, signalé pour complétude. 🔗 Billet
Le test Minecraft d’Astra, un jeu voxel complet en un seul fichier HTML — un prompt unique dans Work with Astra au palier Max produit Wildblock, livré d’emblée avec sauvegarde de monde, import et export, graines de génération et réglages. 🔗 Billet
Doctrine Bulut, un jeu de données ouvert pour mesurer la réaction physiologique au texte — Objective Projection v7.3 publie 500 scènes en paires parallèles, un ensemble d’ablation de 60 scènes et un protocole pré-enregistré par électrocardiogramme, réponse électrodermale et pupillométrie. Le cadre théorique n’est validé par aucune publication à comité de lecture. 🔗 Billet
GitHub met en avant Cboard, application libre de communication alternative — application web open source qui aide les personnes vivant avec des troubles de la parole et du langage à s’exprimer par symboles et synthèse vocale, portée par une communauté internationale de contributeurs. Sujet sans lien avec l’IA. 🔗 Publication
OpenAI Developers met en avant les fondatrices de foundHER House — le compte salue des fondatrices qui construisent avec l’IA dans les bourses d’études, la finance personnelle et la robotique. Communication de communauté, sans annonce produit ni chiffre. 🔗 Publication

Ce que ça signifie

Le contraste est la publication elle-même. OpenAI sort le même jour l’appel au ralentissement et la démonstration chiffrée de l’accélération, sous deux signatures : l’essai est celui de son directeur scientifique, le billet chiffré est signé par l’organisation. Ce n’est pas une contradiction laissée par mégarde : l’essai fonde sa demande de seuils opposables sur des résultats internes, ceux-là mêmes que le second billet met en courbes. Un laboratoire qui réclame des auditeurs tiers et des ralentissements volontaires tout en publiant ses propres courbes d’accélération produit un objet inhabituel dans ce secteur, où la prise de position sur la sûreté et la démonstration de puissance sont d’ordinaire tenues séparées.

L’économie interne de la recherche a basculé sans que personne l’annonce. Le seuil de juin 2026 est le plus parlant : le temps d’exécution des agents a dépassé le travail humain total de l’organisation, et à la mi-août le rapport atteint 3,1 jours-agent par jour humain. À plus de 600 dollars d’inférence quotidienne pour le chercheur médian, l’unité de compte n’est plus l’heure mais le budget de tokens. La réserve d’OpenAI mérite d’être prise au sérieux : plus de la moitié des tâches réussies de 4 à 8 heures ont demandé une intervention, donc ce qui se déplace est le goulot d’étranglement, pas le besoin de pilotage. L’effet secondaire mesuré sur l’entraide entre équipes est le premier signe qu’une organisation change de forme quand ses questions techniques trouvent une réponse ailleurs.

La leçon adressée aux régulateurs est ailleurs que dans les records. Après le 7 août, restreindre la classe Astra a fait chuter son allocation GPU de 59,2 pour cent, mais celle des autres classes est montée de 17,2 pour cent et a compensé environ 85 pour cent de la baisse. Autrement dit, un contrôle appliqué à un modèle ne réduit pas le calcul dépensé, il le redirige. Toute règle indexée sur un modèle particulier plutôt que sur l’usage du calcul soumis à contrôle produira le même report, et c’est OpenAI qui le documente.

Les deux autres publications du jour disent la même chose sur la vérification. Amp cesse de juger un agent sur son diff et lui donne un bureau où l’on regarde le rendu : un document exporté ne se valide pas sans être ouvert. L’étude sur le bfloat16 pousse le raisonnement d’un cran plus bas, jusqu’aux poids, et montre que la mise à jour demandée par l’optimiseur n’est pas celle qui est écrite, au point que la décroissance des poids (weight decay) par défaut ne bouge aucun poids stocké en bfloat16, soit la quasi-totalité du modèle. Dans les deux cas, l’écart mesuré se situe entre ce qu’un système est censé faire et ce qu’il fait effectivement. C’est exactement l’écart que l’essai de Pachocki appelle l’alignement des valeurs, transposé à l’échelle d’un outil et d’un format numérique.