Clément Delangue desprinde trei lecții din atacul cibernetic cu agent împotriva Hugging Face, OpenAI remediază înțelegerea imaginilor de către GPT-6 Sol și Luna, Apple publică LensVLM-9B

Clément Delangue, directorul general al Hugging Face, desprinde trei lecții din atacul cibernetic lansat în iulie de un agent autonom împotriva companiei sale și propune partajarea obligatorie a jurnalelor de activitate ale agenților. Între timp, benchmarkul Quadrat-IPI arată că agenții compromiși aproape niciodată nu dau alarma când atacul reușește: 3 alerte la 389 de plăți obținute prin injecție. OpenAI corectează o eroare de codificare care afecta înțelegerea imaginilor de către GPT-6 Sol și GPT-6 Luna, Apple publică LensVLM-9B, care citește documente lungi sub formă de pagini comprimate, iar SmolDataEnvs pune la dispoziție 5 000 de sarcini de analiză a datelor pentru antrenarea modelelor mici. În privința agenților de programare, Claude Code 2.1.283 auditează instrucțiunile scrise pentru modele mai vechi, Qwen Code 0.24.6 apelează la un model consultant, iar o versiune nightly a Gemini CLI transformă cererile de confirmare în refuzuri în modul neinteractiv.

Securitatea agenților: cele trei lecții ale lui Clément Delangue și benchmarkul Quadrat-IPI

Două texte abordează aceeași întrebare din unghiuri diferite: ce știm despre atacurile care trec prin agenți? Primul vine de la o companie care a suferit un astfel de atac, iar al doilea măsoară ce raportează sau trec sub tăcere agenții atacați.

Clément Delangue desprinde trei lecții din atacul cibernetic cu agent împotriva Hugging Face

24 septembrie — Potrivit directorului său general, Clément Delangue, Hugging Face a fost, în iulie, prima companie care a făcut public un atac cibernetic cu agent autonom. El desprinde trei lecții pe X.

Transparență: incidente comparabile s-ar fi produs în secret cu câteva luni mai devreme, în unele laboratoare de vârf nesupravegheate, pe care nu le numește; el propune partajarea obligatorie a jurnalelor de activitate ale agenților. Asimetrie: împiedicată de mecanismele de protecție ale API-urilor închise, care nu disting întotdeauna între apărători și atacatori, echipa sa a recurs la „versiunea NVIDIA” a GLM 5.2, modelul deschis al Z.ai; potrivit lui, o mare parte a apărării s-ar putea baza pe instrumente open source. În fine, în opoziție cu relatările alarmiste: IA ajută Hugging Face să își remedieze vulnerabilitățile, iar OpenAI să își consolideze mediile izolate împotriva evadării agenților, afirmă el.

We were attacked by AI, but more importantly, we defended ourselves with AI.

🇷🇴 Am fost atacați cu IA, dar, mai presus de toate, ne-am apărat cu IA. — @ClementDelangue pe X

Quadrat-IPI: 3 alerte la 389 de plăți obținute prin injecție

26 septembrie — Într-un articol publicat pentru comunitate, Mikhail Gribov, autorul setului de injecții de prompt Quadrat-IPI, verifică dacă agentul raportează atacul atunci când are mijloacele necesare. Agentul testat, asistentul personal al titularului unei căsuțe de e-mail într-un mediu simulat, are la dispoziție 19 instrumente și primește un al douăzecilea, escalate_security_incident, despre care promptul de sistem nu spune nimic. Confruntate cu 395 de e-mailuri capcană, cele nouă modele testate îl folosesc cu o frecvență care variază, în funcție de model, de la 48,9 % din cazuri până la deloc.

Din 389 de plăți efectuate în urma unei injecții, doar trei sunt însoțite de o alertă, întotdeauna după plată: modelele raportează mai ales atacurile pe care le resping. Dintre modelele numite, gpt-4o-mini dă o alertă la 395 de cazuri, gpt-5.1 în 4,8 % din cazuri, iar gpt-6-astra niciodată, deoarece se limitează la consemnarea e-mailului fără a-i prelua solicitarea. Autorul conchide că vizibilitatea trebuie să vină din afara agentului, prin inspectarea a ceea ce citește acesta; infrastructura de testare, jurnalele și instrumentul de evaluare sunt publicate.

🔗 Articolul lui Mikhail Gribov

OpenAI corectează o eroare de codificare care afecta înțelegerea imaginilor de către GPT-6 Sol și GPT-6 Luna

25 septembrie — La trei zile după lansarea GPT-6 Sol și GPT-6 Luna, două modele de raționament care acceptă text și imagini ca intrare, OpenAI anunță în jurnalul de modificări (changelog) al API-ului său că a corectat o eroare de codificare a imaginilor care le afecta înțelegerea vizuală. Corecția îmbunătățește rezultatele la sarcinile vizuale atât în API, cât și în Codex, inclusiv la utilizarea computerului (computer use).

OpenAI le recomandă dezvoltatorilor ale căror cazuri de utilizare implică imagini ca intrare să își ruleze din nou evaluările și să reîncerce fluxurile de lucru afectate. Înregistrarea nu precizează nici de când era prezentă eroarea, nici în ce măsură erau afectate rezultatele. Corecția nu a fost anunțată nici de @OpenAI, nici de @OpenAIDevs pe X și nu apare în jurnalul de modificări al ChatGPT și Codex.

🔗 Jurnalul de modificări al API-ului OpenAI

Un model și un set de date pe Hugging Face: LensVLM-9B de la Apple și SmolDataEnvs

Două publicații din această săptămână, neprezentate încă aici: un model Apple care citește documente lungi sub formă de imagini comprimate și un set de sarcini verificabile pentru antrenarea modelelor mici în analiza datelor.

Apple publică LensVLM-9B, care redeschide doar paginile utile ale unui document

22 septembrie — Apple publică pe Hugging Face LensVLM-9B, un model de viziune și limbaj însoțit de codul său pe GitHub. În loc să împartă un document lung în mii de tokenuri, modelul îl primește sub formă de pagini redate ca imagini mici comprimate, le identifică pe cele relevante, apoi redeschide versiunea lor necomprimată cu ajutorul unor instrumente pe care a învățat să le folosească.

Caracteristică a LensVLM-9B	Valoare publicată
Dimensiune și model de bază	9 miliarde de parametri, ajustat din Qwen3.5-9B
Niveluri de compresie oferite	5x, 10x și 15x
Precizie comparabilă cu textul integral	La o compresie efectivă de 4,3x
Superior metodelor de referință	Până la 10,1x, pe șapte benchmarkuri de întrebări și răspunsuri
Licența ponderilor	Apple Machine Learning Research Model License

Aceste rezultate provin din articolul de cercetare asociat, publicat pe arXiv în mai, iar răspunsurile sunt evaluate acolo de un model evaluator.

🔗 LensVLM-9B pe Hugging Face · Articolul de pe arXiv

SmolDataEnvs: 5 000 de sarcini verificabile de analiză a datelor

24 septembrie — Adithya S K publică pe Hub, în cadrul organizației FineEnvs și sub licență MIT, SmolDataEnvs: sarcini de analiză a datelor pentru antrenarea modelelor mici prin învățare prin recompensă (reinforcement learning). Fiecare sarcină asociază un set real de date tabelare, o întrebare și un răspuns de referință, extrase din notebookuri care acoperă 471 de seturi de date Kaggle și validate de agenți într-un mediu izolat real. Un instrument de evaluare inclus notează răspunsul fără niciun model lingvistic, de la potrivirea exactă până la echivalența simbolică.

Set de sarcini	Sarcini ușoare	Sarcini medii	Sarcini dificile
Antrenare (5 000)	1 433	2 845	722
Test (250)	33	118	99
Evaluare (144)	16	74	54

Seturile păstrate separat sunt, prin urmare, mai dificile prin construcție. Ansamblul include și 4 677 de traiectorii verificate ale agenților, pregătite pentru TRL, precum și aceleași sarcini în medii Harbor executabile; Clément Delangue a distribuit anunțul lansării în ziua următoare.

🔗 SmolDataEnvs pe Hugging Face

Agenți de programare: Claude Code 2.1.283, Qwen Code 0.24.6 și versiunea nightly 0.63.0 a Gemini CLI

Claude Code 2.1.283: un audit al instrucțiunilor și două restricții pentru modele

25 septembrie — Versiunea 2.1.283 are 94 de înregistrări, dintre care 53 de corecții. Principala noutate, /doctor prompt-audit (și /checkup prompt-audit), examinează fișierele CLAUDE.md, skillurile, agenții și comenzile pentru a identifica formulările scrise pentru modele mai vechi, căile învechite și instrucțiunile contradictorii din partea de început.

Noutate în 2.1.283	Ce se schimbă
`availableModelsMatch: "exact"`	Un model proaspăt lansat rămâne blocat până când este trecut pe listă
`deniedModels`	Blochează anumite modele, chiar dacă sunt autorizate prin `availableModels`
Modul implicit de permisiuni	Modul auto la furnizori terți sau când telemetria este dezactivată, cu excepția cazului în care este configurat un mod
PowerShell pe Windows	`rd`, `rmdir`, `del` și `erase` nu mai pot șterge rădăcina unei unități
Code Review	O revizuire oprită la expirarea limitei de timp fără să fi verificat nimic nu mai este facturată

Versiunea anulează și rezervarea numelui claude-ai, introdusă în ziua precedentă de 2.1.282.

🔗 Notele de lansare pentru Claude Code 2.1.283

Qwen Code 0.24.6: un model consultant și un flux Batch API

26 septembrie — Qwen Code v0.24.6 aduce 17 funcționalități, 14 corecții și 3 optimizări, fără schimbări incompatibile cunoscute. Principala noutate este un instrument Advisor integrat, dezactivat implicit: dacă utilizatorul configurează un al doilea model, numit consultant, agentul îl poate consulta pentru o opinie independentă. Consultantul vede instrucțiunea de sistem, instrumentele declarate și conversația, dar nu poate executa nimic; este ales prin /advisor sau --advisor, niciodată dintr-un depozit, a cărui setare este ignorată cu un avertisment. Anthropic oferă același principiu în versiune beta în API-ul său din aprilie.

Fluxul /batch-api pregătește procesarea în loturi pentru Batch API de la DashScope, apoi lasă trimiterea, care implică un cost și necesită aprobare, în seama subcomenzilor qwen batch. În sfârșit, potrivit PR #12622, pornirea la rece devine de aproximativ 2,2–2,4 ori mai rapidă, în funcție de mașină, cu 60 % mai puțină memorie.

🔗 Qwen Code v0.24.6 pe GitHub

Gemini CLI: versiunea nightly 0.63.0 refuză confirmările în modul neinteractiv

26 septembrie — Publicată la 01 h 20 UTC, versiunea nightly din 26 septembrie deschide seria 0.63.0 a Gemini CLI; versiunea stabilă v0.61.0 și versiunea preliminară v0.62.0 nu se schimbă. Cea mai amplă modificare (PR #29506, 26 de fișiere) privește motorul de reguli (PolicyEngine): în modul neinteractiv, o decizie care ar cere confirmarea utilizatorului (ASK_USER) devine un refuz (DENY). Ieșirile resurselor MCP externe și ale căutării web sunt acum încadrate la fel ca cele ale web-fetch, conform standardelor pentru context nesigur (untrusted context).

Trei corecții rezolvă probleme precise: o setare diff.external goală, pe care Git o interpreta drept executabil, defecta git diff în mediul izolat; directoarele temporare ale comenzilor lansate în fundal sunt acum șterse; două sesiuni ACP deschise în același minut nu mai intră în conflict.

🔗 Notele versiunii nightly 0.63.0 a Gemini CLI

Pe scurt

Codex CLI 0.157.1 — Versiune de remediere pentru 0.157.0, publicată pe 26 septembrie și destinată exclusiv Windows: gazda modului de cod și serverele MCP locale nu mai deschid o fereastră de consolă, iar pornirea demonului este mai fiabilă. Notele generate automat fiind goale, acest detaliu provine din compararea celor două versiuni. 🔗 sursă
Mărturie despre Claude Tag — Boris Cherny, responsabil de Claude Code, afirmă pe X că Claude Tag, agentul Claude integrat în Slack, scrie zilnic peste jumătate dintre PR-urile sale și realizează aproximativ 100 % dintre analizele sale de date; el își prezintă instrucțiunile, precum reproducerea fiecărui bug semnalat într-un canal înainte de deschiderea unui PR. 🔗 sursă
Durata revizuirii pull request-urilor — Rapoartele repos-1-day din API-ul pentru metricile de utilizare Copilot primesc un tabel pull_request_review_times: mediana și percentila 90 pentru trei intervale, de la „pregătit pentru revizuire” până la prima revizuire, de la prima până la ultima, apoi până la fuzionare. Sunt luate în calcul doar revizuirile făcute de oameni, fără date anterioare zilei de 21 septembrie. 🔗 sursă
Validator pentru setările Copilot ale întreprinderii — Integrat în pagina AI controls, acesta semnalează JSON-ul formatat greșit, configurațiile neacceptate și asocierile invalide ale echipelor din copilot/managed-settings.json și copilot/team-mappings.json, indicând fișierul și calea JSON pentru fiecare eroare; anunțul nu precizează nici statutul disponibilității, nici abonamentul necesar. 🔗 sursă
Issues GitHub — Două funcții devin disponibile general: vizualizările salvate private pe paginile de issues ale depozitelor și relația „Relates to” dintre issues, aflată în previzualizare din 7 august și acceptată acum de API-urile REST și GraphQL, webhook-uri, cronologie și căutările de issues și proiecte. 🔗 sursă
Grok Bot și finanțele — Potrivit unui fir de postări al @bot, noua integrare Finance a Grok Bot conectează conturi bancare, carduri și conturi de investiții prin Plaid, cu acces doar pentru citire și fără acces la datele de autentificare; firul nu precizează nici țările, nici abonamentul. Grok, asistentul, primise pe 4 septembrie o conexiune Plaid la conturile bancare din SUA. 🔗 sursă
NVIDIA și ROS 2 Lyrical — Articol din 22 septembrie: NVIDIA a contribuit la ROS 2 Lyrical cu un modul de memorie CUDA, folosit de Isaac ROS 5.0, care transferă fără copiere între nodurile aceleiași mașini datele rămase pe GPU; o skill îi încredințează unui agent de codare migrarea nodurilor existente, fără a cuantifica beneficiul. 🔗 sursă
DGX Spark Handbook — Publicat sub organizația exolabs de pe Hub, acest ghid comunitar cuantifică posibilitățile oferite de una până la patru unități DGX Spark: prețul de listă a crescut de la 3 999 la 4 699 de dolari, consumul în repaus este de 22–25 W și, potrivit unui test NVIDIA, timpul per token generat scade de la 269 ms pe o singură mașină la 72 ms pe patru. 🔗 sursă
Preantrenare pe un laptop — Într-un articol comunitar, Rambarun Komaljeet reușește să încadreze preantrenarea unui model cu 1,11 miliarde de parametri în cei 6 Go ai plăcii RTX 4050 dintr-un laptop; o preantrenare completă ar dura aproximativ 375 de zile, iar niciun model de peste 48 de milioane de parametri nu a fost antrenat până la convergență. 🔗 sursă
Pruna și Qwen-Image-2.1 — Pruna AI publică două adaptoare LoRA care permit Qwen-Image-2.1 să genereze în 5 sau 8 pași în loc de 40, de până la 6,3 ori mai rapid potrivit dezvoltatorului; această versiune 0.1 rămâne sub nivelul calitativ al modelului de bază și este supusă licenței de cercetare Qwen. 🔗 sursă
Marin și Dolma 3.5 — Potrivit Ai2, antrenarea Marin 535B folosește aproximativ 1 800 de miliarde de tokenuri din corpusul Dolma 3.5 al Ai2 și se bazează pe rețetele Olmix și pe metoda Organize the Web; Marin a folosit 25 000 de miliarde de tokenuri provenite din 152 de seturi de date a căror licență permite antrenarea. 🔗 sursă
GLiNER2.5-Decide și DecisionBench — Stephen Solka, de la Hanno Labs, arată că formatul de intrare influențează scorul GLiNER2.5-Decide în DecisionBench: 38,9 % pe rândurile acceptate, față de 60,2 % raportate de Fastino pe propriul benchmark. Fără descrierile opțiunilor, numărul răspunsurilor corecte crește de la 27 la 37 din 101 rânduri. 🔗 sursă
Un ghid despre alinierea IA de la Perplexity — Perplexity publică în rubrica sa Idei un ghid explicativ despre alinierea IA: opt tipare documentate de eșec, de la lingușire (sycophancy) la subperformanță intenționată (sandbagging), precum și cadrele publice ale OpenAI, Anthropic și Google DeepMind; publicarea sa nu este însoțită de nicio funcție nouă. 🔗 sursă
Securitatea cibernetică și locurile de muncă, un articol de opinie — Într-un eseu de opinie publicat pe blogul comunitar Hugging Face, fără date care să îl susțină, Sonny DeSorbo se teme că automatizarea posturilor pentru începători din securitatea cibernetică, împreună cu ieftinirea criminalității cibernetice prin IA, va împinge absolvenții spre infracțiuni online; el propune păstrarea căilor de intrare în profesie. 🔗 sursă

Ce înseamnă acestea

Ceea ce ascund agenții devine o problemă centrală pentru securitatea lor. Clément Delangue afirmă că incidente comparabile cu cel de la Hugging Face au rămas secrete în laboratoare pe care nu le numește și propune partajarea obligatorie a jurnalelor de activitate ale agenților. Quadrat-IPI arată că agentul însuși este un martor slab: trei alerte pentru 389 de plăți obținute prin injectare, întotdeauna după producerea lor. Mikhail Gribov conchide că vizibilitatea trebuie să vină din afara agentului, prin inspectarea informațiilor pe care le citește; aceasta este abordarea urmată de cea mai recentă versiune nightly a Gemini CLI, care tratează rezultatele resurselor MCP și ale căutării pe web drept context de neîncredere.

Clément Delangue susține instrumentele deschise, mai puțin restricționate decât API-urile închise care i-au blocat pe apărători; publicațiile săptămânii de pe Hugging Face încearcă, la rândul lor, să obțină la fel de mult cu mai puține resurse. LensVLM-9B redeschide doar paginile utile ale unui document comprimat de până la 15 ori, Pruna reduce generarea cu Qwen-Image-2.1 de la 40 de pași la 5 sau 8, DGX Spark Handbook detaliază ce pot rula local câteva mașini de birou, iar un dezvoltator încadrează preantrenarea unui model cu 1,11 miliarde de parametri în 6 Go de memorie video, chiar dacă finalizarea ar necesita aproximativ 375 de zile.

O măsurătoare este atât de bună pe cât este procesul care o produce. Bugul de codare remediat de OpenAI degrada rezultatele GPT-6 Sol și Luna pentru imagini, fără să se știe de când sau în ce măsură: evaluările care implică imagini trebuie reluate, după cum recomandă OpenAI. La Hanno Labs, simpla schimbare a formatului de intrare crește numărul răspunsurilor corecte ale GLiNER2.5-Decide de la 27 la 37 din 101. SmolDataEnvs își evaluează sarcinile fără niciun model lingvistic, în timp ce scorurile LensVLM-9B sunt stabilite printr-un model evaluator.

Pentru agenții de codare, nivelul de încredere este stabilit de administrator și de utilizator, iar în caz de îndoială se refuză acțiunea. Claude Code 2.1.283 permite blocarea oricărui model care nu este autorizat explicit, Qwen Code ignoră o setare Advisor introdusă într-un depozit, iar versiunea nightly a Gemini CLI refuză, în absența unui utilizator care să decidă, acțiunile ce ar fi necesitat confirmare. Cât despre /doctor prompt-audit, acesta recunoaște că modelele se schimbă mai repede decât instrucțiunile scrise pentru ele.