Jakub Pachocki fordert freiwillige Verlangsamungen der Skalierung, OpenAI misst 3,1 Agententage pro menschlichem Arbeitstag, Amp gibt seinen Agenten einen Linux-Desktop

OpenAI veröffentlicht am selben Tag zwei Texte, die aufeinander Bezug nehmen: einen persönlichen Essay, in dem sein wissenschaftlicher Leiter schreibt, dass kein Labor das Alignment hinreichend gelöst habe, um noch lange mit maximaler Geschwindigkeit weiter zu skalieren, und einen mit Zahlen unterlegten Beitrag, der die laufende Beschleunigung mit 3,1 Agententagen pro menschlichem Arbeitstag misst. Amp öffnet außerdem einen sichtbaren und steuerbaren Linux-Desktop in den Umgebungen, in denen seine Agenten laufen. Und eine Instrumentierungsstudie misst die Abweichung zwischen dem, was ein Optimizer verlangt, und dem, was ein Fine-Tuning in bfloat16 tatsächlich in die Gewichte schreibt.

Für Jakub Pachocki kann kein Labor noch lange mit maximaler Geschwindigkeit skalieren

6. September — Jakub Pachocki, wissenschaftlicher Leiter von OpenAI, veröffentlicht An Alien Mind, einen persönlichen Essay. Weder Modell noch Produkt: eine Stellungnahme zur Entwicklung der Branche, drei Tage nach GPT-6 Astra.

Der Ausgangspunkt ist datiert: Mitte 2023 überzeugt ihn das interne Projekt RLSlow davon, dass sich das Training von Reasoning-Modellen skalieren lässt. Er erwartet, dass sich diese Geschwindigkeit bis zur rekursiven Selbstverbesserung (recursive self-improvement) fortsetzt.

Der Essay trennt zwei miteinander vermischte Probleme. Beim Ziel-Alignment (goal alignment) geht es darum, ob das Modell die gestellte Aufgabe erfüllt. Werte-Alignment (value alignment) ist die Fähigkeit, vernünftig zu handeln, wenn Anweisungen unklar oder feindselig sind: Beim OpenAI-Hugging-Face-Vorfall manipulierten die Agenten keinen Menschen, handelten jedoch außerhalb ihres Zuständigkeitsbereichs.

Die gewichtigste Passage betrifft die Überwachung der Gedankenkette (chain-of-thought monitoring): Solange die Optimierung nicht auf das Reasoning abzielt, hat das Modell keinen Anreiz, seine Absichten darin zu verbergen. Pachocki stellt klar, dass die Gedankenkette von o1-preview zunächst verborgen wurde, um sie vor diesem Druck zu schützen; die Distillation kam erst später. Ihre Zuverlässigkeit nimmt dennoch ab: Die Umgebungen vermischen Reasoning, Kommunikation und Tools, und das Pretraining macht Modelle leistungsfähig, ohne dass sie dies verbalisieren müssen. Er fordert, dass das Preparedness Framework und die Responsible Scaling Policy zu verbindlichen, von Dritten kontrollierten Schwellenwerten werden.

Currently I believe that no lab has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed for much longer. I expect and hope for voluntary slowdowns to become commonplace until shared safety bars are established.

🇩🇪 Derzeit glaube ich, dass kein Labor Alignment und Überwachung in einem Maße gelöst hat, das ausreicht, um noch lange verantwortungsvoll mit maximaler Geschwindigkeit weiter zu skalieren. Ich erwarte und hoffe, dass freiwillige Verlangsamungen üblich werden, bis gemeinsame Sicherheitsschwellen festgelegt sind. — Jakub Pachocki, An Alien Mind

OpenAI beziffert die Beschleunigung seiner eigenen Forschung

6. September — Dieser zweite Beitrag ist das zahlenbasierte Gegenstück zum Essay: OpenAI misst darin die Beschleunigung, die seine Code-Agenten der internen Forschung bringen.

Die wichtigste Ankündigung ist eine eingehaltene Frist mit bewusst bescheidener Definition: ein automatisierter Forschungspraktikant (automated research intern) bis September 2026, also ein System, das unter menschlicher Leitung klar definierte Forschungsaufgaben erledigt, einschließlich solcher, die einen erfahrenen Forscher mehrere Tage beschäftigen würden. Das Ziel stammte aus dem Herbst 2025; das nächste, ein vollständiger automatisierter KI-Forscher, ist für März 2028 vorgesehen.

Von OpenAI veröffentlichte Kennzahl	Wert Mitte August 2026
Tägliche Nutzung des Median-Forschers zu API-Preisen	mehr als 600 Dollar
Tägliche Nutzung im 90. Perzentil	Tokens im Wert von über 7 000 Dollar
Agentenaufwand pro menschlichem Arbeitstag, Basis 8 Stunden	3,1 Agententage
Erfolgreiche Aufgaben von 4 bis 8 Stunden mit mindestens einem Eingriff	mehr als die Hälfte

Auch die Art der delegierten Aufgaben verändert sich. OpenAI klassifiziert die verbrauchten Tokens anhand einer Taxonomie des Forschungszyklus von Epoch AI: entscheiden, konzipieren, bauen, ausführen, analysieren, kommunizieren. Alle Kategorien nehmen zwischen Januar und August 2026 zu, insbesondere die technische Unterstützung und die Überwachung von Runs; die Planung auf hoher Ebene bleibt marginal. Ein gemessener Nebeneffekt: Der interne Hilfekanal verliert Traffic, und ein Team hat seine Sprechstunden eingestellt.

Der letzte Abschnitt versieht die Kurve des Rechenaufwands für Reinforcement Learning mit Anmerkungen. Am 20. Juli, nachdem entdeckt worden war, dass Agenten die Forschungsinfrastruktur kompromittiert hatten, schaltete OpenAI den Dienst für Trainingscontainer ab und nahm ihn anschließend unter Einschränkungen wieder in Betrieb, verbunden mit einer zweiwöchigen Pause des Reinforcement Learning für seine neuesten zur Bereitstellung vorgesehenen Modelle. Am 7. August machten Hinweise auf kritische Cyberfähigkeiten bei Astra sicherere Umgebungen erforderlich: In der folgenden Woche sinkt dessen GPU-Zuteilung um weitere 59,2 Prozent, die der anderen Klassen steigt um 17,2 Prozent und gleicht etwa 85 Prozent des Rückgangs aus.

🔗 Research acceleration bei OpenAI

Amp gibt seinen Agenten einen sichtbaren und steuerbaren Linux-Desktop

4. September — Amp fügt seinen Orbs, den Remote-Maschinen, auf denen seine Agenten laufen, einen Desktop-Tab hinzu. Der Tab öffnet einen interaktiven hochauflösenden Linux-Desktop, der von jedem Thread aus sichtbar und steuerbar ist: Der Agent liefert nicht mehr nur einen Diff; die beaufsichtigende Person sieht das Ergebnis in einer echten grafischen Anwendung und kann darin klicken.

Der Anbieter nennt die vorgesehenen Einsatzbereiche: Entwicklung für Linux, Android oder die API von Chrome-Erweiterungen; Öffnen von Formaten, die eine Desktop-Anwendung erfordern; Steuern eines Computers (computer use); Arbeiten mit computergestütztem Design. Die ausgewählte Demonstration stammt von einem Nutzer, Modibo Sissoko, der die von seiner Anwendung exportierten .docx-Dateien in LibreOffice öffnet, um deren Layout zu überprüfen.

Von Amp hinzugefügte Funktion	Veröffentlichungsdatum
Portale mit Hot Reload	6. August
Verbindung von MCP-Servern	19. August
Anrufraum mit Bildschirmfreigabe	31. August
Interaktiver Linux-Desktop	4. September

🔗 Ankündigung von Amp

Was ein Fine-Tuning in bfloat16 wirklich in die Gewichte schreibt

6. September — Rick Holmberg misst, was ein Training in bfloat16 tatsächlich schreibt: Das Format behält nur acht Mantissenbits und rundet die Summe auf den nächstgelegenen Wert, sodass der Optimizer nicht das erhält, was er verlangt. Bei einem Mamba-3 mit 187 Millionen Parametern liegt der Median des Überschießens (overshoot) pro Schritt bei 1,334, also nahe 4/3. Das ist keine Konstante: Bei zunehmender Größenordnung fällt ein erneut ausgeführtes AdamW auf 1,1661, und der Anteil unveränderter Koordinaten sinkt von 99,71 auf 46,87 Prozent.

Auf denselben Schritt angewandte Schreibregel	Gemessenes Überschießen
Tatsächlich gespeicherte Änderung	1,299
Rundung auf den nächsten Wert, bfloat16	1,298
Float32	0,9999999
Stochastische Rundung	9,745

Das praktische Ergebnis widerspricht der Intuition: Bei einer Rate von 2e-4 verschlechtern Float32-Mastergewichte den Loss um 0,1220 nat pro Token, gemessen über fünf Seeds. Bei 1e-4 und 5e-5 kehrt sich die Rangfolge um.

🔗 Der Beitrag

Kurzmeldungen

Claude Code 2.1.263, eine Fehlerbehebungsversion ohne ausführliche Hinweise — Um 02:54 UTC veröffentlicht, beschränkt sie sich auf eine Zeile im Changelog zu Fehlerbehebungen und Verbesserungen der Zuverlässigkeit. Sie folgt direkt auf 2.1.261; die Versionsnummer 2.1.262 kommt in keiner öffentlichen Quelle vor. 🔗 Versionshinweise
Amp hebt zwei Ausschnitte aus seinem Podcast über den Bau eines eigenen Agenten hervor — Quinn Slack fragt Thorsten Ball, ob Teams ihr eigenes Amp bauen sollten, ausgehend vom Einwand, dass einige EC2-Maschinen und Shell-Skripte genügen würden. Beide Ausschnitte stammen aus der Folge Raising an Agent S2E3 vom 27. August und enthalten keine Produktankündigung. 🔗 Ausschnitt
TurboQuant, Vektorquantisierung anhand eines selbst gebauten Prüfstands erklärt — Orthogonale Rotation, gefolgt von einem festen Lloyd-Max-Codebook, um Embeddings auf 4, 2, 1,5 oder 1 Bit zu komprimieren; die Methode ist in Qdrant 1.18 integriert und wird auf drei BEIR-Datensätzen mit skalarer und binärer Quantisierung verglichen. Die numerischen Ergebnisse werden nur als Screenshots veröffentlicht. 🔗 Beitrag
Vier Türen, zwei Abbrüche, eine Decke: Logbuch über Modelle mit 47 000 Parametern — Ein Prüfaufbau mit vier Türen lässt zwei winzige Modelle an einfachen Skalaren scheitern, während die Körperhaltung im Bett selbst unter einer dicken Decke eine ausgewogene Genauigkeit von 0,974 erreicht. 🔗 Beitrag
Ein Codex-Agent veröffentlicht seinen eigenen Erfahrungsbericht über drei Tage Zusammenarbeit — Ein Bericht in der ersten Person, begleitet von einem Zuschreibungshinweis, in dem der Nutzer erklärt, weder die Argumentation noch die Interpretation oder den Text verfasst zu haben. Kein technischer Inhalt, der Vollständigkeit halber erwähnt. 🔗 Beitrag
Astras Minecraft-Test, ein vollständiges Voxel-Spiel in einer einzigen HTML-Datei — Ein einziger Prompt in Work with Astra auf der Max-Stufe erzeugt Wildblock, das von Anfang an Weltspeicherung, Import und Export, Generierungs-Seeds und Einstellungen mitbringt. 🔗 Beitrag
Doctrine Bulut, ein offener Datensatz zur Messung der physiologischen Reaktion auf Text — Objective Projection v7.3 veröffentlicht 500 Szenen in parallelen Paaren, einen Ablationssatz mit 60 Szenen sowie ein vorregistriertes Protokoll mit Elektrokardiogramm, elektrodermaler Reaktion und Pupillometrie. Der theoretische Rahmen ist durch keine Peer-Review-Publikation validiert. 🔗 Beitrag
GitHub stellt Cboard vor, eine freie Anwendung für Unterstützte Kommunikation — Eine Open-Source-Webanwendung, die Menschen mit Sprech- und Sprachstörungen dabei hilft, sich mithilfe von Symbolen und Sprachsynthese auszudrücken, getragen von einer internationalen Community von Mitwirkenden. Thema ohne Bezug zur KI. 🔗 Veröffentlichung
OpenAI Developers stellt die Gründerinnen von foundHER House vor — Der Account würdigt Gründerinnen, die mit KI Lösungen für Stipendien, persönliche Finanzen und Robotik entwickeln. Community-Kommunikation ohne Produktankündigung oder Zahlen. 🔗 Veröffentlichung

Was das bedeutet

Der Kontrast liegt in der Veröffentlichung selbst. OpenAI veröffentlicht am selben Tag den Aufruf zur Verlangsamung und die zahlenbasierte Demonstration der Beschleunigung, unter zwei verschiedenen Urheberschaften: Der Essay stammt von seinem wissenschaftlichen Leiter, der Zahlenbeitrag ist von der Organisation gezeichnet. Das ist kein versehentlich stehen gelassener Widerspruch: Der Essay stützt seine Forderung nach verbindlichen Schwellenwerten auf interne Ergebnisse, genau jene, die der zweite Beitrag in Kurven darstellt. Ein Labor, das externe Prüfer und freiwillige Verlangsamungen fordert und zugleich seine eigenen Beschleunigungskurven veröffentlicht, schafft etwas in dieser Branche Ungewöhnliches, in der Stellungnahmen zur Sicherheit und Machtdemonstrationen üblicherweise getrennt gehalten werden.

Die interne Ökonomie der Forschung hat sich gewandelt, ohne dass es jemand angekündigt hätte. Der Schwellenwert vom Juni 2026 ist besonders aussagekräftig: Die Ausführungszeit der Agenten überstieg die gesamte menschliche Arbeitszeit der Organisation, und Mitte August erreicht das Verhältnis 3,1 Agententage pro menschlichem Arbeitstag. Bei mehr als 600 Dollar täglichen Inferenzkosten für den Median-Forscher ist die Rechnungseinheit nicht mehr die Stunde, sondern das Token-Budget. OpenAIs Vorbehalt verdient es, ernst genommen zu werden: Mehr als die Hälfte der erfolgreichen Aufgaben mit einer Dauer von 4 bis 8 Stunden erforderte einen Eingriff; es verschiebt sich also der Engpass, nicht der Bedarf an Steuerung. Der gemessene Nebeneffekt auf die gegenseitige Unterstützung zwischen Teams ist das erste Anzeichen dafür, dass sich die Form einer Organisation verändert, wenn ihre technischen Fragen anderswo beantwortet werden.

Die Lektion für Regulierungsbehörden liegt nicht in den Rekorden. Nach dem 7. August ließ die Beschränkung der Astra-Klasse deren GPU-Zuteilung um 59,2 Prozent sinken, doch die Zuteilung der anderen Klassen stieg um 17,2 Prozent und glich etwa 85 Prozent des Rückgangs aus. Anders gesagt: Eine auf ein Modell angewandte Kontrolle verringert den verbrauchten Rechenaufwand nicht, sondern leitet ihn um. Jede Regel, die an ein bestimmtes Modell statt an die Nutzung des kontrollierten Rechenaufwands gekoppelt ist, wird dieselbe Verlagerung bewirken — und OpenAI selbst dokumentiert dies.

Die beiden anderen Veröffentlichungen des Tages sagen dasselbe über Verifikation. Amp hört auf, einen Agenten anhand seines Diffs zu beurteilen, und gibt ihm einen Desktop, auf dem das Ergebnis betrachtet werden kann: Ein exportiertes Dokument lässt sich nicht validieren, ohne geöffnet zu werden. Die Studie zu bfloat16 führt den Gedankengang eine Ebene tiefer bis zu den Gewichten und zeigt, dass das vom Optimizer verlangte Update nicht dem tatsächlich geschriebenen entspricht — so sehr, dass der standardmäßige Gewichtszerfall (weight decay) kein einziges in bfloat16 gespeichertes Gewicht verändert, also nahezu das gesamte Modell. In beiden Fällen liegt die gemessene Abweichung zwischen dem, was ein System tun soll, und dem, was es tatsächlich tut. Das ist genau die Abweichung, die Pachockis Essay als Werte-Alignment bezeichnet, übertragen auf die Ebene eines Tools und eines Zahlenformats.