Jakub Pachocki ने स्केलिंग की गति स्वेच्छा से धीमी करने का आह्वान किया, OpenAI ने प्रति मानव-दिवस 3.1 एजेंट-दिवस मापे, Amp ने अपने एजेंटों को Linux डेस्कटॉप दिया

OpenAI ने एक ही दिन दो ऐसे लेख प्रकाशित किए जो एक-दूसरे के पूरक हैं: एक व्यक्तिगत निबंध, जिसमें उसके मुख्य वैज्ञानिक लिखते हैं कि किसी भी प्रयोगशाला ने alignment की समस्या इतनी हल नहीं की है कि वह लंबे समय तक अधिकतम गति से scaling जारी रख सके, और दूसरा आँकड़ों वाला लेख, जो मौजूदा त्वरण को प्रत्येक मानव कार्य-दिवस के बदले 3.1 एजेंट-दिवस बताता है। दूसरी ओर, Amp ने उन परिवेशों में एक दृश्यमान और नियंत्रित किया जा सकने वाला Linux डेस्कटॉप उपलब्ध कराया है जहाँ उसके एजेंट चलते हैं। वहीं एक instrumentation अध्ययन ने यह मापा है कि optimizer जिस बदलाव की माँग करता है और bfloat16 में fine-tuning वास्तव में weights में जो लिखता है, उनके बीच कितना अंतर होता है।

Jakub Pachocki के अनुसार, कोई भी प्रयोगशाला अधिकतम गति से scaling लंबे समय तक जारी नहीं रख सकती

6 सितंबर — OpenAI के मुख्य वैज्ञानिक Jakub Pachocki ने An Alien Mind नामक एक व्यक्तिगत निबंध प्रकाशित किया। यह न कोई मॉडल है, न कोई उत्पाद: GPT-6 Astra के तीन दिन बाद, यह क्षेत्र की दिशा पर व्यक्त किया गया उनका दृष्टिकोण है।

इसका आरंभ-बिंदु समय-संदर्भ सहित दिया गया है: 2023 के मध्य में, आंतरिक परियोजना RLSlow ने उन्हें विश्वास दिलाया कि reasoning models के प्रशिक्षण को scale किया जा सकता है। उन्हें उम्मीद है कि यह गति recursive self-improvement तक जारी रहेगी।

निबंध उन दो समस्याओं को अलग करता है जिन्हें अक्सर एक मान लिया जाता है। goal alignment यह पूछता है कि मॉडल दिए गए कार्य को पूरा करता है या नहीं। value alignment अस्पष्ट या शत्रुतापूर्ण निर्देशों के बीच विवेकपूर्ण ढंग से कार्य करने की क्षमता है: OpenAI-Hugging Face घटना के दौरान एजेंटों ने किसी मानव को प्रभावित या बहकाया नहीं, लेकिन उन्होंने निर्धारित दायरे से बाहर जाकर कार्य किया।

सबसे गंभीर अंश chain-of-thought monitoring से संबंधित है: जब तक optimization reasoning पर केंद्रित नहीं होता, मॉडल के पास उसमें अपने इरादे छिपाने का कोई प्रोत्साहन नहीं होता। Pachocki स्पष्ट करते हैं कि o1-preview की reasoning को पहले इसी दबाव से बचाने के लिए छिपाया गया था; distillation बाद में आया। फिर भी इसकी विश्वसनीयता घट रही है: परिवेश reasoning, communication और tools को आपस में मिला देते हैं, और pretraining मॉडल को अपनी क्षमता शब्दों में व्यक्त किए बिना सक्षम बना देता है। वे माँग करते हैं कि Preparedness Framework और Responsible Scaling Policy तीसरे पक्षों द्वारा नियंत्रित, बाध्यकारी सीमाएँ बनें।

Currently I believe that no lab has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed for much longer. I expect and hope for voluntary slowdowns to become commonplace until shared safety bars are established.

🇮🇳 वर्तमान में मेरा मानना है कि किसी भी प्रयोगशाला ने alignment और निगरानी की समस्या इतनी पर्याप्त सीमा तक हल नहीं की है कि वह लंबे समय तक अधिकतम गति से जिम्मेदारीपूर्वक scaling जारी रख सके। मुझे उम्मीद है—और मैं ऐसा चाहता भी हूँ—कि साझा सुरक्षा सीमाएँ स्थापित होने तक स्वैच्छिक मंदी सामान्य हो जाएगी। — Jakub Pachocki, An Alien Mind

OpenAI ने अपने शोध के त्वरण को आँकड़ों में मापा

6 सितंबर — यह दूसरा लेख निबंध का आँकड़ों वाला समकक्ष है: इसमें OpenAI मापता है कि उसके code agents उसके आंतरिक शोध को कितनी तेजी प्रदान करते हैं।

मुख्य घोषणा समय पर पूरा किया गया एक लक्ष्य है, जिसकी परिभाषा जानबूझकर सीमित रखी गई है: सितंबर 2026 तक एक automated research intern, यानी ऐसा तंत्र जो मानव निर्देशन में स्पष्ट रूप से परिभाषित शोध कार्य करता है, जिनमें वे कार्य भी शामिल हैं जिन्हें पूरा करने में किसी अनुभवी शोधकर्ता को कुछ दिन लगते। यह लक्ष्य 2025 की शरद ऋतु में तय किया गया था; अगला लक्ष्य, एक पूर्ण automated AI researcher, मार्च 2028 के लिए निर्धारित है।

OpenAI द्वारा प्रकाशित माप	अगस्त 2026 के मध्य का मान
औसत शोधकर्ता का दैनिक उपयोग, API मूल्यों पर	600 डॉलर से अधिक
90वें percentile पर दैनिक उपयोग	7,000 डॉलर से अधिक के tokens
प्रति मानव कार्य-दिवस एजेंटों का प्रयास, 8 घंटे के आधार पर	3.1 एजेंट-दिवस
कम-से-कम एक हस्तक्षेप के साथ सफल हुए 4 से 8 घंटे के कार्य	आधे से अधिक

सौंपे गए कार्यों का स्वरूप भी बदल रहा है। OpenAI, Epoch AI की शोध-चक्र taxonomy के अनुसार उपयोग किए गए tokens का वर्गीकरण करता है: निर्णय लेना, design करना, निर्माण करना, चलाना, विश्लेषण करना और संवाद करना। जनवरी से अगस्त 2026 के बीच सभी श्रेणियाँ बढ़ीं, विशेष रूप से तकनीकी सहायता और runs की निगरानी; उच्च-स्तरीय योजना अब भी सीमित रही। इसका एक मापा गया दुष्प्रभाव भी है: आंतरिक पारस्परिक सहायता channel पर traffic घट गया और एक टीम ने अपने निर्धारित सहायता-सत्र बंद कर दिए।

अंतिम खंड reinforcement learning compute के graph पर टिप्पणियाँ देता है। 20 जुलाई को यह पता चलने के बाद कि एजेंटों ने उसके शोध infrastructure को compromise कर दिया था, OpenAI ने training container service बंद कर दी और फिर उसे प्रतिबंधों के साथ बहाल किया; साथ ही deployment के लिए बने उसके नवीनतम models पर reinforcement learning दो सप्ताह तक रुका रहा। 7 अगस्त को Astra में गंभीर cyber capabilities के संकेत मिलने पर अधिक सुरक्षित परिवेश अनिवार्य किए गए: अगले सप्ताह उसका GPU allocation अतिरिक्त 59.2 प्रतिशत गिर गया, जबकि अन्य classes का allocation 17.2 प्रतिशत बढ़ा और गिरावट की लगभग 85 प्रतिशत भरपाई कर दी।

🔗 OpenAI में शोध का त्वरण

Amp ने अपने एजेंटों को दृश्यमान और नियंत्रित किया जा सकने वाला Linux डेस्कटॉप दिया

4 सितंबर — Amp ने अपने orbs, यानी उन दूरस्थ machines जिन पर उसके एजेंट चलते हैं, में Desktop tab जोड़ा है। यह tab एक उच्च-resolution वाला interactive Linux desktop खोलता है, जिसे किसी भी thread से देखा और नियंत्रित किया जा सकता है: अब एजेंट केवल diff प्रस्तुत नहीं करता; उसकी निगरानी करने वाला व्यक्ति परिणाम को किसी वास्तविक graphical application में प्रदर्शित होते देखता है और उसमें click भी कर सकता है।

संपादक इसके लक्षित उपयोग बताता है: Linux, Android या Chrome extensions API के लिए विकास करना; ऐसे formats खोलना जिनके लिए desktop application आवश्यक हो; computer use; और computer-aided design पर काम करना। चुना गया प्रदर्शन एक उपयोगकर्ता Modibo Sissoko का है, जो अपने application से export की गई .docx files को LibreOffice में खोलकर उनका layout जाँचते हैं।

Amp द्वारा जोड़ी गई सुविधा	जारी होने की तारीख
hot reload वाले portals	6 अगस्त
MCP servers का connection	19 अगस्त
screen sharing वाला call room	31 अगस्त
interactive Linux desktop	4 सितंबर

🔗 Amp की घोषणा

bfloat16 में fine-tuning वास्तव में weights में क्या लिखता है

6 सितंबर — Rick Holmberg ने मापा कि bfloat16 training वास्तव में क्या लिखता है: यह format mantissa के केवल आठ bits रखता है और योग को निकटतम मान पर round करता है, इसलिए optimizer को वह नहीं मिलता जिसकी उसने माँग की थी। 187 million parameters वाले Mamba-3 पर प्रति step औसत overshoot 1.334 रहा, जो लगभग 4/3 है। यह कोई स्थिरांक नहीं है: magnitude बढ़ने पर दोबारा चलाया गया AdamW 1.1661 तक गिरता है और अपरिवर्तित coordinates का अनुपात 99.71 से घटकर 46.87 प्रतिशत हो जाता है।

उसी step पर लागू writing rule	मापा गया overshoot
वास्तव में store किया गया बदलाव	1.299
निकटतम मान पर rounding, bfloat16	1.298
Float32	0.9999999
stochastic rounding	9.745

व्यावहारिक परिणाम सहज अनुमान के विपरीत है: 2e-4 की दर पर float32 master weights, पाँच seeds में loss को प्रति token 0.1220 nat तक खराब करते हैं। 1e-4 और 5e-5 पर क्रम उलट जाता है।

🔗 लेख

संक्षिप्त समाचार

Claude Code 2.1.263, विस्तृत notes के बिना corrective release — 02:54 UTC पर प्रकाशित यह release, changelog की एक पंक्ति में bug fixes और reliability improvements तक सीमित है। यह सीधे 2.1.261 के बाद आया है; 2.1.262 संख्या किसी सार्वजनिक स्रोत में मौजूद नहीं है। 🔗 Release notes
Amp ने अपना स्वयं का agent बनाने पर अपने podcast के दो अंश प्रमुखता से साझा किए — Quinn Slack ने Thorsten Ball से पूछा कि क्या teams को अपना स्वयं का Amp बनाना चाहिए, उस आपत्ति से शुरुआत करते हुए कि कुछ EC2 machines और shell scripts ही पर्याप्त होंगे। दोनों अंश 27 अगस्त के Raising an Agent S2E3 episode से हैं और इनमें कोई product announcement नहीं है। 🔗 अंश
TurboQuant, स्वयं बनाए गए test bench के साथ समझाई गई vector quantization — embeddings को 4, 2, 1.5 या 1 bit में compress करने के लिए orthogonal rotation और फिर स्थिर Lloyd-Max codebook; यह विधि Qdrant 1.18 में integrated है और तीन BEIR datasets पर scalar तथा binary quantization से इसकी तुलना की गई है। संख्यात्मक परिणाम केवल screenshots के रूप में प्रकाशित किए गए हैं। 🔗 लेख
चार दरवाजे, दो हार, एक कंबल: 47,000 parameters वाले models की कार्य-दैनिकी — चार दरवाजों वाला एक harness दो अत्यंत छोटे models को साधारण scalars के सामने विफल कर देता है, जबकि बिस्तर पर शारीरिक मुद्रा की पहचान मोटे कंबल के नीचे भी 0.974 balanced accuracy बनाए रखती है। 🔗 लेख
एक Codex agent ने तीन दिनों के सहयोग पर अपना स्वयं का अनुभव प्रकाशित किया — प्रथम पुरुष में लिखा गया विवरण, attribution note के साथ, जिसमें उपयोगकर्ता घोषित करता है कि उसने न तर्क लिखा, न व्याख्या और न ही गद्य। कोई तकनीकी सामग्री नहीं; पूर्णता के लिए उल्लेख किया गया है। 🔗 लेख
Astra का Minecraft परीक्षण, एक ही HTML file में पूरा voxel game — Max tier पर Work with Astra में दिया गया एक prompt, Wildblock तैयार करता है, जिसमें शुरू से ही world save, import और export, generation seeds तथा settings शामिल हैं। 🔗 लेख
Doctrine Bulut, पाठ के प्रति शारीरिक प्रतिक्रिया मापने वाला open dataset — Objective Projection v7.3 ने समानांतर pairs में 500 scenes, 60 scenes का ablation set और electrocardiogram, electrodermal response तथा pupillometry वाला pre-registered protocol प्रकाशित किया है। theoretical framework को किसी peer-reviewed publication ने मान्य नहीं किया है। 🔗 लेख
GitHub ने Cboard, वैकल्पिक संचार के लिए free application, को प्रमुखता दी — यह open source web application वाणी और भाषा संबंधी विकारों के साथ जी रहे लोगों को symbols और speech synthesis के माध्यम से अभिव्यक्त होने में सहायता करता है तथा contributors का एक अंतरराष्ट्रीय समुदाय इसे आगे बढ़ाता है। विषय का AI से कोई संबंध नहीं है। 🔗 प्रकाशन
OpenAI Developers ने foundHER House की संस्थापिकाओं को प्रमुखता दी — account उन संस्थापिकाओं की सराहना करता है जो scholarships, personal finance और robotics में AI की सहायता से निर्माण कर रही हैं। यह सामुदायिक संचार है, जिसमें कोई product announcement या आँकड़ा नहीं है। 🔗 प्रकाशन

इसका क्या अर्थ है

विरोधाभास स्वयं प्रकाशन में है। OpenAI ने एक ही दिन धीमा होने का आह्वान और त्वरण का आँकड़ों वाला प्रदर्शन, दो अलग हस्ताक्षरों के अंतर्गत प्रकाशित किए: निबंध उसके मुख्य वैज्ञानिक का है, जबकि आँकड़ों वाला लेख संगठन के नाम से प्रकाशित है। यह असावधानीवश छोड़ा गया विरोधाभास नहीं है: निबंध बाध्यकारी सीमाओं की अपनी माँग को उन्हीं आंतरिक परिणामों पर आधारित करता है जिन्हें दूसरा लेख graphs में दिखाता है। कोई प्रयोगशाला, जो third-party auditors और स्वैच्छिक मंदी की माँग करते हुए अपने ही acceleration graphs प्रकाशित करती है, इस क्षेत्र में एक असामान्य वस्तु प्रस्तुत करती है, जहाँ safety संबंधी रुख और शक्ति का प्रदर्शन सामान्यतः अलग-अलग रखे जाते हैं।

किसी घोषणा के बिना ही शोध की आंतरिक अर्थव्यवस्था बदल गई है। जून 2026 की सीमा सबसे अधिक अर्थपूर्ण है: एजेंटों का execution time संगठन के कुल मानव श्रम से अधिक हो गया, और अगस्त के मध्य तक यह अनुपात प्रति मानव-दिवस 3.1 एजेंट-दिवस तक पहुँच गया। औसत शोधकर्ता के लिए प्रतिदिन 600 डॉलर से अधिक के inference पर लेखा-इकाई अब घंटा नहीं, बल्कि token budget है। OpenAI की सावधानी को गंभीरता से लिया जाना चाहिए: 4 से 8 घंटे के सफल कार्यों में आधे से अधिक को हस्तक्षेप की आवश्यकता पड़ी, इसलिए स्थानांतरित होने वाली चीज़ bottleneck है, संचालन की आवश्यकता नहीं। teams के बीच पारस्परिक सहायता पर मापा गया दुष्प्रभाव पहला संकेत है कि जब तकनीकी प्रश्नों के उत्तर कहीं और मिलने लगते हैं, तो संगठन अपना स्वरूप बदलता है।

नियामकों के लिए सबक records में नहीं, कहीं और है। 7 अगस्त के बाद Astra class को प्रतिबंधित करने से उसका GPU allocation 59.2 प्रतिशत गिरा, लेकिन अन्य classes का allocation 17.2 प्रतिशत बढ़ा और उसने गिरावट की लगभग 85 प्रतिशत भरपाई कर दी। दूसरे शब्दों में, किसी मॉडल पर लागू नियंत्रण खर्च होने वाले compute को घटाता नहीं, बल्कि उसे दूसरी दिशा में मोड़ देता है। नियंत्रित compute के उपयोग के बजाय किसी विशिष्ट मॉडल पर आधारित हर नियम ऐसा ही स्थानांतरण उत्पन्न करेगा, और इसका दस्तावेजीकरण स्वयं OpenAI कर रहा है।

दिन के अन्य दो प्रकाशन verification के बारे में यही बात कहते हैं। Amp ने किसी agent को उसके diff के आधार पर परखना बंद करके उसे ऐसा desktop दिया है जहाँ rendered परिणाम देखा जा सकता है: export किया गया document खोले बिना validate नहीं किया जा सकता। bfloat16 वाला अध्ययन reasoning को एक स्तर और नीचे, weights तक ले जाता है और दिखाता है कि optimizer द्वारा माँगा गया update वही नहीं है जो वास्तव में लिखा जाता है; स्थिति यहाँ तक है कि default weight decay bfloat16 में stored किसी भी weight को नहीं बदलता, यानी लगभग पूरे model को। दोनों मामलों में मापा गया अंतर उस चीज़ के बीच है जो किसी system को करनी चाहिए और जो वह वास्तव में करता है। यही वह अंतर है जिसे Pachocki का निबंध value alignment कहता है, यहाँ एक tool और एक numerical format के स्तर पर लागू किया गया है।