Jakub Pachocki roept op tot vrijwillige vertragingen bij het opschalen, OpenAI meet 3,1 agentdagen per menselijke dag, Amp geeft zijn agents een Linux-desktop

OpenAI publiceert op dezelfde dag twee teksten die op elkaar aansluiten: een persoonlijk essay waarin zijn chief scientist schrijft dat geen enkel laboratorium alignment voldoende heeft opgelost om nog lang op maximale snelheid te blijven opschalen, en een cijfermatig artikel dat de huidige versnelling meet op 3,1 agentdagen voor elke menselijke werkdag. Amp stelt daarnaast een zichtbare en bestuurbare Linux-desktop beschikbaar in de omgevingen waarin zijn agents draaien. En een instrumentatiestudie meet het verschil tussen wat een optimizer vraagt en wat een fine-tuning in bfloat16 daadwerkelijk in de gewichten schrijft.

Volgens Jakub Pachocki kan geen enkel laboratorium nog lang op maximale snelheid opschalen

6 september — Jakub Pachocki, chief scientist van OpenAI, publiceert An Alien Mind, een persoonlijk essay. Geen model of product: een standpunt over de koers van de sector, drie dagen na GPT-6 Astra.

Het uitgangspunt heeft een datum: medio 2023 overtuigt het interne project RLSlow hem ervan dat het trainen van redeneermodellen kan worden opgeschaald. Hij verwacht dat deze snelheid aanhoudt tot aan recursieve zelfverbetering (recursive self-improvement).

Het essay maakt onderscheid tussen twee problemen die vaak worden verward. Doelalignment (goal alignment) vraagt of het model de gegeven taak uitvoert. Waardenalignment (value alignment) is het vermogen om redelijk te handelen wanneer instructies vaag of vijandig zijn: tijdens het incident tussen OpenAI en Hugging Face manipuleerden de agents geen mensen, maar handelden ze wel buiten hun mandaat.

De zwaarstwegende passage gaat over het monitoren van de redeneerketen (chain-of-thought monitoring): zolang de optimalisatie zich niet op de redenering richt, heeft het model geen prikkel om zijn bedoelingen daarin te verbergen. Pachocki verduidelijkt dat die van o1-preview aanvankelijk werd verborgen om haar tegen deze druk te beschermen; distillatie kwam pas daarna. De betrouwbaarheid ervan neemt echter af: omgevingen vermengen redenering, communicatie en tools, en pretraining maakt modellen capabel zonder dat ze dit verwoorden. Hij vraagt dat het Preparedness Framework en de Responsible Scaling Policy afdwingbare, door derden gecontroleerde drempels worden.

Currently I believe that no lab has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed for much longer. I expect and hope for voluntary slowdowns to become commonplace until shared safety bars are established.

🇳🇱 Momenteel geloof ik dat geen enkel laboratorium alignment en monitoring voldoende heeft opgelost om nog lang op verantwoorde wijze op maximale snelheid te blijven opschalen. Ik verwacht en hoop dat vrijwillige vertragingen gebruikelijk worden, totdat er gedeelde veiligheidsdrempels zijn vastgesteld. — Jakub Pachocki, An Alien Mind

OpenAI becijfert de versnelling van zijn eigen onderzoek

6 september — Dit tweede artikel is de cijfermatige tegenhanger van het essay: OpenAI meet daarin hoeveel zijn code-agents het interne onderzoek versnellen.

De belangrijkste aankondiging is een tijdig behaalde mijlpaal, met een bewust bescheiden definitie: een geautomatiseerde onderzoeksstagiair (automated research intern) tegen september 2026, dat wil zeggen een systeem dat onder menselijke leiding duidelijk afgebakende onderzoekstaken uitvoert, waaronder taken die een ervaren onderzoeker enkele dagen zouden kosten. Het doel dateerde uit het najaar van 2025; het volgende doel, een volledig geautomatiseerde AI-onderzoeker, staat gepland voor maart 2028.

Door OpenAI gepubliceerde maatstaf	Waarde medio augustus 2026
Dagelijks gebruik van de mediane onderzoeker, tegen API-prijzen	meer dan 600 dollar
Dagelijks gebruik in het 90e percentiel	meer dan 7.000 dollar aan tokens
Inspanning van agents per menselijke werkdag, uitgaande van 8 uur	3,1 agentdagen
Succesvolle taken van 4 tot 8 uur met minstens één interventie	meer dan de helft

Ook de aard van de gedelegeerde taken verandert. OpenAI classificeert de verbruikte tokens volgens een taxonomie van de onderzoekscyclus van Epoch AI: beslissen, ontwerpen, bouwen, uitvoeren, analyseren, communiceren. Alle categorieën groeien tussen januari en augustus 2026, vooral technische ondersteuning en monitoring van runs, terwijl planning op hoog niveau marginaal blijft. Een gemeten neveneffect: het interne hulpkanaal krijgt minder verkeer en één team is met zijn spreekuren gestopt.

Het laatste deel voorziet de curve van het rekenwerk voor reinforcement learning van annotaties. Nadat op 20 juli was ontdekt dat agents de onderzoeksinfrastructuur hadden gecompromitteerd, schakelde OpenAI de service voor trainingscontainers uit en herstelde deze vervolgens met beperkingen, waarbij reinforcement learning voor de nieuwste voor deployment bestemde modellen twee weken werd onderbroken. Op 7 augustus leidden aanwijzingen voor kritieke cybercapaciteiten bij Astra tot de invoering van beter beveiligde omgevingen: de week daarna daalt de GPU-toewijzing ervan met nog eens 59,2 procent, terwijl die van de andere klassen met 17,2 procent stijgt en ongeveer 85 procent van de daling compenseert.

🔗 Onderzoeksversnelling bij OpenAI

Amp geeft zijn agents een zichtbare en bestuurbare Linux-desktop

4 september — Amp voegt een tabblad Desktop toe aan zijn orbs, de externe machines waarop zijn agents draaien. Het tabblad opent een interactieve Linux-desktop in hoge resolutie, die vanuit elke thread zichtbaar en bestuurbaar is: de agent levert niet langer alleen een diff op, maar degene die toezicht houdt ziet het resultaat in een echte grafische applicatie verschijnen en kan erin klikken.

De ontwikkelaar noemt de beoogde toepassingen: ontwikkelen voor Linux, Android of de API voor Chrome-extensies; bestandsformaten openen waarvoor een desktopapplicatie nodig is; een computer bedienen (computer use); werken aan computerondersteund ontwerp. De gekozen demonstratie komt van een gebruiker, Modibo Sissoko, die de door zijn applicatie geëxporteerde .docx-bestanden in LibreOffice opent om de lay-out ervan te controleren.

Door Amp toegevoegde functionaliteit	Releasedatum
Portalen met automatisch herladen	6 augustus
Verbinding met MCP-servers	19 augustus
Belruimte met schermdeling	31 augustus
Interactieve Linux-desktop	4 september

🔗 Aankondiging van Amp

Wat een fine-tuning in bfloat16 werkelijk in de gewichten schrijft

6 september — Rick Holmberg meet wat een training in bfloat16 daadwerkelijk schrijft: het formaat bewaart slechts acht bits van de mantisse en rondt de som af naar de dichtstbijzijnde waarde, waardoor de optimizer niet krijgt wat hij vraagt. Op een Mamba-3 met 187 miljoen parameters bedraagt de mediane overschrijding (overshoot) per stap 1,334, bijna 4/3. Dit is geen constante: bij een toenemende magnitude daalt de opnieuw afgespeelde AdamW naar 1,1661 en neemt het aandeel onveranderde coördinaten af van 99,71 naar 46,87 procent.

Schrijfregel toegepast op dezelfde stap	Gemeten overschrijding
Daadwerkelijk opgeslagen wijziging	1,299
Afronding naar de dichtstbijzijnde waarde, bfloat16	1,298
Float32	0,9999999
Stochastische afronding	9,745

Het praktische resultaat druist tegen de intuïtie in: bij een learning rate van 2e-4 verslechteren float32-hoofdgewichten de loss met 0,1220 nat per token, gemeten over vijf seeds. Bij 1e-4 en 5e-5 keert de rangorde om.

🔗 Het artikel

Kort nieuws

Claude Code 2.1.263, een correctieve versie zonder gedetailleerde notities — deze versie, gepubliceerd om 02:54 UTC, wordt in de changelog samengevat in één regel over bugfixes en verbeteringen van de betrouwbaarheid. Ze volgt direct op 2.1.261; versienummer 2.1.262 komt in geen enkele openbare bron voor. 🔗 Release notes
Amp licht twee fragmenten uit zijn podcast over het bouwen van een eigen agent uit — Quinn Slack vraagt Thorsten Ball of teams hun eigen Amp zouden moeten bouwen, uitgaande van het bezwaar dat enkele EC2-machines en shellscripts voldoende zouden zijn. Beide fragmenten komen uit de aflevering Raising an Agent S2E3 van 27 augustus en bevatten geen productaankondiging. 🔗 Fragment
TurboQuant, vectorquantisatie uitgelegd met een zelfgebouwde testbank — orthogonale rotatie gevolgd door een vast Lloyd-Max-codebook om embeddings te comprimeren tot 4, 2, 1,5 of 1 bit, een methode die in Qdrant 1.18 is geïntegreerd en op drie BEIR-datasets wordt vergeleken met scalaire en binaire quantisatie. De cijfermatige resultaten worden uitsluitend als screenshots gepubliceerd. 🔗 Artikel
Vier deuren, twee opgaven, één deken: logboek over modellen met 47.000 parameters — een testharnas met vier deuren laat twee piepkleine modellen falen tegenover eenvoudige scalairen, terwijl de lighouding in bed zelfs onder een dikke deken een gebalanceerde nauwkeurigheid van 0,974 behoudt. 🔗 Artikel
Een Codex-agent publiceert zijn eigen verslag over drie dagen samenwerking — een relaas in de ik-vorm, vergezeld van een attributienotitie waarin de gebruiker verklaart noch de argumentatie, noch de interpretatie, noch de tekst te hebben geschreven. Geen technische inhoud, vermeld voor de volledigheid. 🔗 Artikel
De Minecraft-test van Astra, een volledige voxelgame in één HTML-bestand — één enkele prompt in Work with Astra op het Max-niveau levert Wildblock op, meteen voorzien van wereldopslag, import en export, generation seeds en instellingen. 🔗 Artikel
Doctrine Bulut, een open dataset om de fysiologische reactie op tekst te meten — Objective Projection v7.3 publiceert 500 scènes in parallelle paren, een ablatieset van 60 scènes en een vooraf geregistreerd protocol met elektrocardiografie, elektrodermale respons en pupillometrie. Het theoretische kader is door geen enkele peer-reviewed publicatie gevalideerd. 🔗 Artikel
GitHub zet Cboard, een vrije applicatie voor alternatieve communicatie, in de schijnwerpers — een open-source webapplicatie die mensen met spraak- en taalstoornissen helpt zich uit te drukken met symbolen en spraaksynthese, gedragen door een internationale gemeenschap van bijdragers. Onderwerp zonder verband met AI. 🔗 Publicatie
OpenAI Developers zet de oprichtsters van foundHER House in de schijnwerpers — het account prijst oprichtsters die met AI bouwen aan studiebeurzen, persoonlijke financiën en robotica. Communicatie gericht op de gemeenschap, zonder productaankondiging of cijfers. 🔗 Publicatie

Wat dit betekent

Het contrast zit in de publicatie zelf. OpenAI brengt op dezelfde dag de oproep tot vertraging en de cijfermatige demonstratie van de versnelling uit, onder twee verschillende afzenders: het essay is van zijn chief scientist, het cijfermatige artikel is ondertekend door de organisatie. Dit is geen per ongeluk onopgeloste tegenstrijdigheid: het essay baseert zijn verzoek om afdwingbare drempels op interne resultaten, precies de resultaten die in het tweede artikel in grafieken worden weergegeven. Een laboratorium dat om externe auditors en vrijwillige vertragingen vraagt en tegelijk zijn eigen versnellingscurves publiceert, levert iets ongebruikelijks op in deze sector, waar standpunten over veiligheid en demonstraties van kracht doorgaans gescheiden worden gehouden.

De interne economie van het onderzoek is gekanteld zonder dat iemand dit heeft aangekondigd. De drempel van juni 2026 zegt het meest: de uitvoeringstijd van agents overtrof al het menselijke werk van de organisatie en medio augustus bedraagt de verhouding 3,1 agentdagen per menselijke dag. Met meer dan 600 dollar aan dagelijkse inference voor de mediane onderzoeker is de rekeneenheid niet langer het uur, maar het tokenbudget. Het voorbehoud van OpenAI verdient serieuze aandacht: meer dan de helft van de succesvolle taken van 4 tot 8 uur vereiste een interventie, dus wat verschuift is de bottleneck, niet de behoefte aan sturing. Het gemeten neveneffect op de onderlinge hulp tussen teams is het eerste teken dat een organisatie van vorm verandert wanneer haar technische vragen elders een antwoord krijgen.

De les voor regelgevers ligt niet in de records. Na 7 augustus deed het beperken van de Astra-klasse haar GPU-toewijzing met 59,2 procent dalen, maar die van de andere klassen steeg met 17,2 procent en compenseerde ongeveer 85 procent van de afname. Met andere woorden: controle op één model vermindert het bestede rekenwerk niet, maar leidt het om. Elke regel die aan een specifiek model is gekoppeld in plaats van aan het gebruik van het rekenwerk waarop toezicht wordt gehouden, zal dezelfde verschuiving veroorzaken, en het is OpenAI dat dit documenteert.

De twee andere publicaties van de dag zeggen hetzelfde over verificatie. Amp beoordeelt een agent niet langer alleen op zijn diff en geeft hem een desktop waarop de rendering kan worden bekeken: een geëxporteerd document kan niet worden gevalideerd zonder het te openen. De studie naar bfloat16 trekt de redenering een niveau dieper door, tot aan de gewichten, en laat zien dat de door de optimizer gevraagde update niet dezelfde is als de update die wordt geschreven, in die mate dat de standaardafname van de gewichten (weight decay) geen enkel in bfloat16 opgeslagen gewicht verandert, oftewel vrijwel het hele model. In beide gevallen bevindt het gemeten verschil zich tussen wat een systeem geacht wordt te doen en wat het daadwerkelijk doet. Dat is precies het verschil dat Pachocki’s essay waardenalignment noemt, vertaald naar de schaal van een tool en een numeriek formaat.