Jakub Pachocki efterlyser frivilliga inbromsningar av uppskalningen, OpenAI mäter 3,1 agentdagar per mänsklig arbetsdag, Amp ger sina agenter ett Linux-skrivbord

OpenAI publicerar samma dag två texter som svarar mot varandra: en personlig essä där företagets forskningschef skriver att inget laboratorium har löst alignment tillräckligt väl för att länge kunna fortsätta skala upp i maximal takt, och ett sifferbaserat inlägg som mäter den pågående accelerationen till 3,1 agentdagar för varje mänsklig arbetsdag. Amp öppnar dessutom ett synligt och styrbart Linux-skrivbord i de miljöer där dess agenter körs. Och en instrumenteringsstudie mäter skillnaden mellan vad en optimerare begär och vad en fine-tuning i bfloat16 faktiskt skriver till vikterna.

Enligt Jakub Pachocki kan inget laboratorium fortsätta skala upp i maximal takt särskilt länge

6 september — Jakub Pachocki, forskningschef på OpenAI, publicerar An Alien Mind, en personlig essä. Varken en modell eller en produkt: ett ställningstagande om branschens utvecklingsbana, tre dagar efter GPT-6 Astra.

Utgångspunkten är daterad: i mitten av 2023 övertygar det interna projektet RLSlow honom om att det går att skala upp träningen av resonemangsmodeller. Han förväntar sig att denna hastighet ska bestå fram till rekursiv självförbättring (recursive self-improvement).

Essän skiljer mellan två problem som blandas ihop. Målanpassning (goal alignment) handlar om huruvida modellen utför den givna uppgiften. Värdeanpassning (value alignment) är förmågan att agera rimligt när instruktionerna är otydliga eller fientliga: under incidenten mellan OpenAI och Hugging Face manipulerade agenterna inga människor, men agerade utanför sitt mandat.

Det tyngsta avsnittet handlar om övervakning av tankekedjan (chain-of-thought monitoring): så länge optimeringen inte riktas mot resonemanget har modellen inget incitament att dölja sina avsikter där. Pachocki preciserar att tankekedjan i o1-preview först doldes för att skydda den från detta tryck, och att distilleringen kom senare. Dess tillförlitlighet minskar dock: miljöerna blandar resonemang, kommunikation och verktyg, och förträningen gör modellerna kapabla utan att de behöver formulera detta i ord. Han vill att Preparedness Framework och Responsible Scaling Policy ska bli bindande tröskelvärden som kontrolleras av tredje part.

Currently I believe that no lab has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed for much longer. I expect and hope for voluntary slowdowns to become commonplace until shared safety bars are established.

🇸🇪 För närvarande anser jag att inget laboratorium har löst alignment och övervakning i tillräcklig grad för att särskilt länge kunna fortsätta skala upp ansvarsfullt i maximal takt. Jag förväntar mig, och hoppas, att frivilliga inbromsningar blir vanliga tills gemensamma säkerhetströsklar har fastställts. — Jakub Pachocki, An Alien Mind

OpenAI sätter siffror på accelerationen av sin egen forskning

6 september — Detta andra inlägg är den sifferbaserade motsvarigheten till essän: där mäter OpenAI hur mycket företagets kodagenter påskyndar den interna forskningen.

Huvudnyheten är att en tidsfrist har hållits, med en avsiktligt blygsam definition: en automatiserad forskningspraktikant (automated research intern) senast i september 2026, det vill säga ett system som utför väldefinierade forskningsuppgifter under mänsklig ledning, inklusive uppgifter som skulle sysselsätta en erfaren forskare i några dagar. Målet sattes hösten 2025; nästa mål, en fullständig automatiserad AI-forskare, är planerat till mars 2028.

Mått publicerat av OpenAI	Värde i mitten av augusti 2026
Medianforskarens dagliga användning, till API-priser	mer än 600 dollar
Daglig användning vid den 90:e percentilen	mer än 7 000 dollar i tokens
Agenternas arbete per mänsklig arbetsdag, baserat på 8 timmar	3,1 agentdagar
Lyckade uppgifter på 4 till 8 timmar med minst ett ingripande	mer än hälften

Även typen av delegerade uppgifter förändras. OpenAI klassificerar förbrukade tokens enligt Epoch AI:s taxonomi för forskningscykeln: besluta, utforma, bygga, köra, analysera och kommunicera. Samtliga ökar mellan januari och augusti 2026, framför allt teknisk hjälp och övervakning av körningar, medan planering på hög nivå förblir marginell. En uppmätt bieffekt är att trafiken i den interna hjälpkanalen minskar och att ett team har upphört med sina jourpass.

Det sista avsnittet kommenterar kurvan för beräkningskapaciteten till förstärkningsinlärning. Den 20 juli, efter upptäckten att agenter hade äventyrat företagets forskningsinfrastruktur, stängde OpenAI av tjänsten för träningscontainrar och återställde den sedan med restriktioner, samtidigt som förstärkningsinlärningen för de senaste modellerna avsedda för driftsättning pausades i två veckor. Den 7 augusti ledde tecken på kritiska cyberförmågor hos Astra till krav på säkrare miljöer: veckan därpå minskade dess GPU-tilldelning med ytterligare 59,2 procent, medan tilldelningen till de andra klasserna ökade med 17,2 procent och kompenserade för omkring 85 procent av minskningen.

🔗 Research acceleration hos OpenAI

Amp ger sina agenter ett synligt och styrbart Linux-skrivbord

4 september — Amp lägger till fliken Desktop i sina orbs, de fjärrmaskiner där dess agenter körs. Fliken öppnar ett interaktivt Linux-skrivbord i hög upplösning som kan visas och styras från valfri tråd: agenten lämnar inte längre bara en diff, utan den som övervakar agenten kan se resultatet visas i ett riktigt grafiskt program och klicka i det.

Utvecklaren nämner de avsedda användningsområdena: utveckling för Linux, Android eller API:et för Chrome-tillägg; öppning av format som kräver ett skrivbordsprogram; styrning av en dator (computer use); samt arbete med datorstödd konstruktion. Den utvalda demonstrationen kommer från en användare, Modibo Sissoko, som öppnar de .docx-filer som hans applikation exporterar i LibreOffice för att kontrollera layouten.

Funktion som lagts till av Amp	Lanseringsdatum
Portaler med automatisk omladdning	6 augusti
Anslutning av MCP-servrar	19 augusti
Samtalsrum med skärmdelning	31 augusti
Interaktivt Linux-skrivbord	4 september

🔗 Amps tillkännagivande

Vad en fine-tuning i bfloat16 faktiskt skriver till vikterna

6 september — Rick Holmberg mäter vad träning i bfloat16 faktiskt skriver: formatet behåller bara åtta bitar av mantissan och avrundar summan till närmaste värde, vilket innebär att optimeraren inte får det den begär. På en Mamba-3 med 187 miljoner parametrar ligger medianen för överskjutningen (overshoot) per steg på 1,334, nära 4/3. Det är ingen konstant: vid ökande magnitud sjunker en återspelad AdamW till 1,1661 och andelen oförändrade koordinater minskar från 99,71 till 46,87 procent.

Skrivregel tillämpad på samma steg	Uppmätt överskjutning
Faktiskt lagrad förändring	1,299
Avrundning till närmaste, bfloat16	1,298
Float32	0,9999999
Stokastisk avrundning	9,745

Det praktiska resultatet går emot intuitionen: vid en frekvens på 2e-4 försämrar huvudvikter i float32 förlusten med 0,1220 nat per token, över fem seeds. Rangordningen vänds vid 1e-4 och 5e-5.

🔗 Inlägget

Kortfattat

Claude Code 2.1.263, en korrigeringsversion utan detaljerade kommentarer — den publicerades klockan 02:54 UTC och sammanfattas med en enda rad i ändringsloggen om buggfixar och förbättrad tillförlitlighet. Den följer direkt på 2.1.261; versionsnumret 2.1.262 förekommer inte i någon offentlig källa. 🔗 Versionsinformation
Amp lyfter fram två utdrag ur sin podcast om att bygga en egen agent — Quinn Slack frågar Thorsten Ball om team borde bygga sin egen Amp, med utgångspunkt i invändningen att några EC2-maskiner och shell-skript skulle räcka. Båda utdragen kommer från avsnittet Raising an Agent S2E3 från den 27 augusti, utan något produkttillkännagivande. 🔗 Utdrag
TurboQuant, vektorkvantisering förklarad med en egen testbänk — ortogonal rotation följd av en fast Lloyd-Max-codebook för att komprimera embeddings till 4, 2, 1,5 eller 1 bit, en metod som integrerats i Qdrant 1.18 och jämförts med skalär och binär kvantisering på tre BEIR-datauppsättningar. Sifferresultaten publiceras endast som skärmbilder. 🔗 Inlägg
Fyra dörrar, två avbrott, en filt: loggbok om modeller med 47 000 parametrar — en testmiljö med fyra dörrar får två mycket små modeller att misslyckas inför enkla skalärer, medan kroppsställningen i sängen håller en balanserad noggrannhet på 0,974 även under en tjock filt. 🔗 Inlägg
En Codex-agent publicerar sin egen skildring av tre dagars samarbete — en berättelse i första person åtföljd av en tillskrivningsnot där användaren uppger sig inte ha skrivit argumentationen, tolkningen eller prosan. Inget tekniskt innehåll, omnämnt för fullständighetens skull. 🔗 Inlägg
Astras Minecraft-test, ett komplett voxelspel i en enda HTML-fil — en enda prompt i Work with Astra på Max-nivån skapar Wildblock, som direkt levereras med sparande av världar, import och export, genereringsseeds och inställningar. 🔗 Inlägg
Doctrine Bulut, en öppen datauppsättning för att mäta fysiologiska reaktioner på text — Objective Projection v7.3 publicerar 500 scener i parallella par, en ablationsuppsättning med 60 scener och ett förregistrerat protokoll med elektrokardiogram, elektrodermal respons och pupillometri. Det teoretiska ramverket har inte validerats i någon sakkunniggranskad publikation. 🔗 Inlägg
GitHub lyfter fram Cboard, en fri applikation för alternativ kommunikation — en webbaserad open source-applikation som hjälper personer med tal- och språkstörningar att uttrycka sig genom symboler och talsyntes, driven av en internationell gemenskap av bidragsgivare. Ämnet saknar koppling till AI. 🔗 Publikation
OpenAI Developers lyfter fram grundarna av foundHER House — kontot uppmärksammar kvinnliga grundare som bygger med AI inom stipendier, privatekonomi och robotteknik. Gemenskapskommunikation utan produkttillkännagivande eller siffror. 🔗 Publikation

Vad det betyder

Kontrasten ligger i själva publiceringen. Samma dag ger OpenAI ut både uppmaningen till en inbromsning och den sifferbaserade demonstrationen av accelerationen, under två olika avsändare: essän är skriven av företagets forskningschef, medan det sifferbaserade inlägget är undertecknat av organisationen. Det är ingen motsägelse som lämnats kvar av misstag: essän grundar sitt krav på bindande tröskelvärden på interna resultat, just de resultat som det andra inlägget visar i diagram. Ett laboratorium som efterlyser externa granskare och frivilliga inbromsningar samtidigt som det publicerar sina egna accelerationskurvor skapar något ovanligt i denna bransch, där ställningstaganden om säkerhet och styrkedemonstrationer vanligtvis hålls åtskilda.

Forskningens interna ekonomi har förändrats utan att någon har tillkännagivit det. Tröskeln i juni 2026 är mest talande: agenternas exekveringstid översteg organisationens sammanlagda mänskliga arbete, och i mitten av augusti nådde förhållandet 3,1 agentdagar per mänsklig arbetsdag. Med mer än 600 dollar i dagliga inferenskostnader för medianforskaren är räkneenheten inte längre timmar, utan tokenbudget. OpenAI:s förbehåll förtjänar att tas på allvar: mer än hälften av de lyckade uppgifterna på 4 till 8 timmar krävde ett ingripande, så det som förflyttas är flaskhalsen, inte behovet av styrning. Den uppmätta bieffekten på hjälpen mellan team är det första tecknet på att en organisation ändrar form när dess tekniska frågor får svar på annat håll.

Lärdomen för tillsynsmyndigheter finns någon annanstans än i rekorden. Efter den 7 augusti fick begränsningen av Astra-klassen dess GPU-tilldelning att minska med 59,2 procent, men tilldelningen till de andra klasserna ökade med 17,2 procent och kompenserade för omkring 85 procent av minskningen. Med andra ord minskar en kontroll som tillämpas på en modell inte den förbrukade beräkningskapaciteten, utan omdirigerar den. Varje regel som är knuten till en viss modell i stället för till användningen av den beräkningskapacitet som omfattas av kontrollen kommer att leda till samma förflyttning, och det är OpenAI som dokumenterar detta.

Dagens två andra publikationer säger samma sak om verifiering. Amp slutar bedöma en agent utifrån dess diff och ger den ett skrivbord där resultatet kan granskas: ett exporterat dokument kan inte valideras utan att öppnas. Studien om bfloat16 för resonemanget ett steg längre ned, ända till vikterna, och visar att den uppdatering som optimeraren begär inte är den som skrivs, till den grad att standardvärdet för viktminskning (weight decay) inte ändrar någon vikt som lagrats i bfloat16, det vill säga nästan hela modellen. I båda fallen ligger den uppmätta skillnaden mellan vad ett system förväntas göra och vad det faktiskt gör. Det är exakt den skillnad som Pachockis essä kallar värdeanpassning, överförd till skalan för ett verktyg och ett numeriskt format.