Jakub Pachocki chiede rallentamenti volontari dello scaling, OpenAI misura 3,1 giorni-agente per ogni giorno umano, Amp offre un desktop Linux ai suoi agenti

OpenAI pubblica nello stesso giorno due testi che si richiamano a vicenda: un saggio personale in cui il suo direttore scientifico scrive che nessun laboratorio ha risolto l’allineamento a sufficienza per continuare ancora a lungo lo scaling alla massima velocità, e un articolo corredato di dati che misura l’accelerazione in corso, pari a 3,1 giorni-agente per ogni giorno di lavoro umano. Amp apre inoltre un desktop Linux visibile e controllabile negli ambienti in cui operano i suoi agenti. E uno studio strumentale misura la differenza tra ciò che un ottimizzatore richiede e ciò che un fine-tuning in bfloat16 scrive realmente nei pesi.

Per Jakub Pachocki, nessun laboratorio può continuare ancora a lungo lo scaling alla massima velocità

6 settembre — Jakub Pachocki, direttore scientifico di OpenAI, pubblica An Alien Mind, un saggio personale. Né un modello né un prodotto: una presa di posizione sulla traiettoria del settore, tre giorni dopo GPT-6 Astra.

Il punto di partenza ha una data precisa: a metà del 2023, il progetto interno RLSlow lo convince che sia possibile applicare lo scaling all’addestramento dei modelli di ragionamento. Si aspetta che questa velocità prosegua fino all’auto-miglioramento ricorsivo (recursive self-improvement).

Il saggio distingue due problemi spesso confusi. L’allineamento degli obiettivi (goal alignment) riguarda la capacità del modello di svolgere il compito assegnato. L’allineamento dei valori (value alignment) è la capacità di agire ragionevolmente quando le istruzioni sono vaghe od ostili: durante l’incidente OpenAI-Hugging Face, gli agenti non hanno manipolato alcun essere umano, ma hanno agito al di fuori del proprio ambito.

Il passaggio più significativo riguarda il monitoraggio della catena di pensiero (chain-of-thought monitoring): finché l’ottimizzazione non interviene sul ragionamento, il modello non ha alcun incentivo a nascondervi le proprie intenzioni. Pachocki precisa che quella di o1-preview fu inizialmente nascosta per proteggerla da questa pressione, mentre la distillazione arrivò in seguito. La sua affidabilità, tuttavia, diminuisce: gli ambienti mescolano ragionamento, comunicazione e strumenti, mentre il pre-addestramento rende i modelli capaci senza che debbano verbalizzarlo. Chiede che il Preparedness Framework e la Responsible Scaling Policy diventino soglie vincolanti controllate da terze parti.

Currently I believe that no lab has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed for much longer. I expect and hope for voluntary slowdowns to become commonplace until shared safety bars are established.

🇮🇹 Attualmente ritengo che nessun laboratorio abbia risolto l’allineamento e il monitoraggio in misura sufficiente per continuare ancora a lungo lo scaling in modo responsabile alla massima velocità. Mi aspetto, e auspico, che i rallentamenti volontari diventino comuni finché non saranno stabilite soglie di sicurezza condivise. — Jakub Pachocki, An Alien Mind

OpenAI quantifica l’accelerazione della propria ricerca

6 settembre — Questo secondo articolo è il corrispettivo quantitativo del saggio: OpenAI vi misura l’accelerazione che i suoi agenti di coding apportano alla ricerca interna.

L’annuncio principale riguarda una scadenza rispettata, secondo una definizione volutamente modesta: uno stagista di ricerca automatizzato (automated research intern) entro settembre 2026, vale a dire un sistema capace di svolgere compiti di ricerca ben definiti sotto la direzione umana, compresi quelli che richiederebbero alcuni giorni a un ricercatore esperto. L’obiettivo risaliva all’autunno del 2025; quello successivo, un ricercatore IA completamente automatizzato, è previsto per marzo 2028.

Misura pubblicata da OpenAI	Valore a metà agosto 2026
Utilizzo quotidiano del ricercatore mediano, ai prezzi API	oltre 600 dollari
Utilizzo quotidiano al 90º percentile	oltre 7.000 dollari in token
Lavoro degli agenti per giorno lavorativo umano, base 8 ore	3,1 giorni-agente
Compiti da 4 a 8 ore completati con almeno un intervento	oltre la metà

Cambia anche la natura dei compiti delegati. OpenAI classifica i token consumati secondo una tassonomia del ciclo di ricerca di Epoch AI: decidere, progettare, costruire, eseguire, analizzare, comunicare. Tutte le categorie crescono tra gennaio e agosto 2026, soprattutto l’assistenza tecnica e il monitoraggio dei run, mentre la pianificazione di alto livello rimane marginale. Un effetto collaterale misurato: il canale interno di assistenza reciproca perde traffico e un team ha interrotto i propri turni di reperibilità.

L’ultima sezione annota la curva del calcolo destinato all’apprendimento per rinforzo. Il 20 luglio, dopo aver scoperto che alcuni agenti avevano compromesso la sua infrastruttura di ricerca, OpenAI ha disattivato il servizio di container per l’addestramento e lo ha poi ripristinato con restrizioni, sospendendo per due settimane l’apprendimento per rinforzo sui suoi modelli più recenti destinati al deployment. Il 7 agosto, alcuni indizi di capacità cyber critiche in Astra hanno imposto ambienti più sicuri: nella settimana successiva, la sua allocazione GPU cala di un ulteriore 59,2 per cento, mentre quella delle altre classi sale del 17,2 per cento e compensa circa l’85 per cento della riduzione.

🔗 Accelerazione della ricerca presso OpenAI

Amp offre ai suoi agenti un desktop Linux visibile e controllabile

4 settembre — Amp aggiunge una scheda Desktop ai suoi orb, le macchine remote sulle quali operano i suoi agenti. La scheda apre un desktop Linux interattivo ad alta risoluzione, visibile e controllabile da qualsiasi thread: l’agente non restituisce più soltanto un diff; chi lo supervisiona osserva il risultato apparire in una vera applicazione grafica e può interagirvi con un clic.

L’azienda cita gli utilizzi previsti: sviluppare per Linux, Android o l’API delle estensioni Chrome; aprire formati che richiedono un’applicazione desktop; controllare un computer (computer use); lavorare alla progettazione assistita dal computer. La dimostrazione scelta proviene da un utente, Modibo Sissoko, che apre in LibreOffice i file .docx esportati dalla sua applicazione per verificarne l’impaginazione.

Funzionalità aggiunta da Amp	Data di rilascio
Portali con ricaricamento a caldo	6 agosto
Connessione di server MCP	19 agosto
Sala riunioni con condivisione schermo	31 agosto
Desktop Linux interattivo	4 settembre

🔗 Annuncio di Amp

Ciò che un fine-tuning in bfloat16 scrive davvero nei pesi

6 settembre — Rick Holmberg misura ciò che un addestramento in bfloat16 scrive realmente: il formato conserva solo otto bit di mantissa e arrotonda la somma al valore più vicino, perciò l’ottimizzatore non ottiene ciò che richiede. Su un Mamba-3 da 187 milioni di parametri, la mediana del superamento (overshoot) per passo si attesta a 1,334, quasi 4/3. Non è una costante: all’aumentare della magnitudine, AdamW ricalcolato scende a 1,1661 e la quota di coordinate immobili cala dal 99,71 al 46,87 per cento.

Regola di scrittura applicata allo stesso passo	Superamento misurato
Variazione effettivamente memorizzata	1,299
Arrotondamento al più vicino, bfloat16	1,298
Float32	0,9999999
Arrotondamento stocastico	9,745

Il risultato pratico è contrario all’intuizione: con un tasso di 2e-4, i pesi master float32 peggiorano la loss di 0,1220 nat per token, su cinque seed. La graduatoria si inverte a 1e-4 e 5e-5.

🔗 L’articolo

Notizie in breve

Claude Code 2.1.263, una versione correttiva senza note dettagliate — pubblicata alle 02:54 UTC, si riassume in una riga del changelog relativa a correzioni di bug e miglioramenti dell’affidabilità. Succede direttamente alla 2.1.261, mentre il numero 2.1.262 non compare in alcuna fonte pubblica. 🔗 Note di rilascio
Amp mette in evidenza due estratti del suo podcast sulla creazione interna di un agente — Quinn Slack chiede a Thorsten Ball se i team dovrebbero costruire un proprio Amp, partendo dall’obiezione secondo cui basterebbero alcune macchine EC2 e degli script shell. Entrambi gli estratti provengono dall’episodio Raising an Agent S2E3 del 27 agosto, senza alcun annuncio di prodotto. 🔗 Estratto
TurboQuant, la quantizzazione vettoriale spiegata con un banco di prova artigianale — rotazione ortogonale seguita da un codebook Lloyd-Max fisso per comprimere gli embedding a 4, 2, 1,5 oppure 1 bit, metodo integrato in Qdrant 1.18 e confrontato con le quantizzazioni scalare e binaria su tre dataset BEIR. I risultati numerici sono pubblicati soltanto come screenshot. 🔗 Articolo
Quattro porte, due abbandoni, una coperta: diario di bordo su modelli da 47.000 parametri — un harness a quattro porte fa fallire due modelli minuscoli di fronte a semplici scalari, mentre la postura a letto mantiene un’accuratezza bilanciata di 0,974 anche sotto una coperta pesante. 🔗 Articolo
Un agente Codex pubblica la propria testimonianza su tre giorni di collaborazione — racconto in prima persona accompagnato da una nota di attribuzione in cui l’utente dichiara di non aver scritto né l’argomentazione, né l’interpretazione, né il testo. Nessun contenuto tecnico, segnalato per completezza. 🔗 Articolo
Il test Minecraft di Astra, un gioco voxel completo in un unico file HTML — un singolo prompt in Work with Astra al livello Max produce Wildblock, fornito fin dall’inizio con salvataggio del mondo, importazione ed esportazione, seed di generazione e impostazioni. 🔗 Articolo
Doctrine Bulut, un dataset aperto per misurare la reazione fisiologica al testo — Objective Projection v7.3 pubblica 500 scene in coppie parallele, un insieme di ablazione di 60 scene e un protocollo preregistrato basato su elettrocardiogramma, risposta elettrodermica e pupillometria. Il quadro teorico non è convalidato da alcuna pubblicazione sottoposta a peer review. 🔗 Articolo
GitHub mette in evidenza Cboard, un’applicazione libera per la comunicazione aumentativa e alternativa — applicazione web open source che aiuta le persone con disturbi del linguaggio e della parola a esprimersi mediante simboli e sintesi vocale, sostenuta da una comunità internazionale di contributor. Argomento non legato all’IA. 🔗 Pubblicazione
OpenAI Developers mette in evidenza le fondatrici di foundHER House — l’account celebra le fondatrici che sviluppano soluzioni con l’IA nel campo delle borse di studio, della finanza personale e della robotica. Comunicazione rivolta alla community, senza annunci di prodotto né dati numerici. 🔗 Pubblicazione

Che cosa significa

Il contrasto è nella pubblicazione stessa. OpenAI diffonde nello stesso giorno l’appello al rallentamento e la dimostrazione quantitativa dell’accelerazione, con due firme diverse: il saggio è del suo direttore scientifico, mentre l’articolo corredato di dati è firmato dall’organizzazione. Non si tratta di una contraddizione lasciata per errore: il saggio fonda la richiesta di soglie vincolanti su risultati interni, gli stessi che il secondo articolo presenta sotto forma di grafici. Un laboratorio che chiede auditor terzi e rallentamenti volontari mentre pubblica le proprie curve di accelerazione produce qualcosa di insolito in questo settore, dove le prese di posizione sulla sicurezza e le dimostrazioni di potenza vengono di solito tenute separate.

L’economia interna della ricerca è cambiata senza che nessuno lo annunciasse. La soglia di giugno 2026 è la più eloquente: il tempo di esecuzione degli agenti ha superato il lavoro umano complessivo dell’organizzazione e, a metà agosto, il rapporto raggiunge 3,1 giorni-agente per ogni giorno umano. Con oltre 600 dollari di inferenza quotidiana per il ricercatore mediano, l’unità di misura non è più l’ora, ma il budget di token. La cautela di OpenAI merita di essere presa sul serio: oltre la metà dei compiti da 4 a 8 ore completati con successo ha richiesto un intervento, quindi a spostarsi è il collo di bottiglia, non la necessità di supervisione. L’effetto collaterale misurato sull’assistenza reciproca tra team è il primo segnale che un’organizzazione cambia forma quando le sue domande tecniche trovano risposta altrove.

La lezione rivolta ai regolatori non sta nei record. Dopo il 7 agosto, le restrizioni imposte alla classe Astra hanno ridotto del 59,2 per cento la sua allocazione GPU, ma quella delle altre classi è aumentata del 17,2 per cento, compensando circa l’85 per cento del calo. In altri termini, un controllo applicato a un modello non riduce il calcolo impiegato, ma lo reindirizza. Qualsiasi norma basata su uno specifico modello anziché sull’impiego del calcolo soggetto a controllo produrrà lo stesso trasferimento, ed è OpenAI a documentarlo.

Le altre due pubblicazioni del giorno dicono la stessa cosa sulla verifica. Amp smette di valutare un agente in base al suo diff e gli offre un desktop sul quale osservare il risultato: un documento esportato non può essere convalidato senza essere aperto. Lo studio sul bfloat16 porta il ragionamento un livello più in basso, fino ai pesi, e mostra che l’aggiornamento richiesto dall’ottimizzatore non è quello che viene scritto, al punto che il decadimento dei pesi (weight decay) predefinito non modifica alcun peso memorizzato in bfloat16, vale a dire quasi l’intero modello. In entrambi i casi, la differenza misurata è tra ciò che un sistema dovrebbe fare e ciò che fa realmente. È esattamente la differenza che il saggio di Pachocki definisce allineamento dei valori, trasposta alla scala di uno strumento e di un formato numerico.