Suchen

Meta stellt Muse Wonder vor, NVIDIA veröffentlicht seine Designs für Vera Rubin-Racks, Anthropic untersucht die autonome Replikation kleiner Modelle

ai-powered-markdown-translator

Artikel mit gpt-6.1-sol aus dem Französischen ins Deutsche übersetzt.

Projekt auf GitHub ansehen ↗

Meta stellt Muse Wonder und Muse Wonder Full vor, seine bisher leistungsfähigsten Modelle, die für agentische Aufgaben entwickelt wurden: Das erste ist über die Meta Model API und Muse Code für 4 Dollar pro Million Eingabe-Tokens verfügbar, das zweite bleibt Abonnenten von Muse Code vorbehalten, und offene Gewichte wurden nicht angekündigt. Auf dem OCP Global Summit übergibt NVIDIA seine Designs für Vera Rubin-Racks an das Open Compute Project, während Anthropics Frontier Red Team davon ausgeht, dass kleine Modelle nur noch wenige Monate davon entfernt sind, sich selbstständig auf vernetzte Geräte kopieren zu können. Im Bereich Code setzt Artificial Analysis Claude Opus 5.5 mit 52,2 % an die Spitze seiner FrontierCode-1.1-Rangliste, und Google widmet den Tag der Gesundheit, vom Fitbit Edge-Armband bis zu den von AlphaProtein Novo entwickelten Enzymen.


Meta stellt Muse Wonder und Muse Wonder Full vor, seine Frontier-Modelle für agentische Aufgaben

12. Oktober — Meta präsentiert die Muse Wonder-Serie, bestehend aus Muse Wonder und Muse Wonder Full, die das Unternehmen als seine bisher leistungsfähigsten Modelle bezeichnet: zwei Frontier-Modelle (frontier models), die für persönliche und berufliche agentische Aufgaben entwickelt wurden. Muse Wonder ist ab sofort über die Meta Model API und in Muse Code verfügbar; Muse Wonder Full bleibt Abonnenten von Muse Code vorbehalten. Muse Wonder soll „bald“ den persönlichen Assistenten Muse antreiben, zunächst für Abonnenten.

Vierzehn Monate nach einer vollständigen Neuausrichtung seiner KI-Forschung und nach Muse Spark 1.3, das am 2. September erschien, spricht Meta vom „nächsten Schritt“ seines stufenweisen Ausbaus (scaling ladder). Beide Modelle wurden in Prometheus, seinem Rechenzentrum in der Größenordnung eines Gigawatts, auf Basis „größerer und stärkerer“ Basismodelle trainiert, deren Größe nicht veröffentlicht wird. Zwei Fähigkeiten stehen im Vordergrund: das aktive Gedächtnis (Active Memory), das wichtigen Kontext über Gespräche hinweg bewahrt, und die aktive Konzentration (Active Focus), die das Modell dazu bringt, bei einer Blockade den Ansatz zu wechseln, nach Präzisierungen zu fragen und vor einer wichtigen Handlung Überprüfungen vorzunehmen.

Die Ergebnisse sind ausschließlich in einer Abbildung des Beitrags enthalten: einer von Meta gemessenen Tabelle mit der Einstellung max für alle Modelle. Ein Muse Wonder-Modell liegt darin in 7 der 14 Zeilen vorn, angefangen beim Personal Superintelligence Index, einem internen Index von Meta. Claude Opus 5.5 bleibt jedoch in 6 Zeilen führend, darunter beim Artificial Analysis Index, und GPT-6 Astra bei GDP.pdf.

Benchmark (Auszug, Messungen von Meta mit Einstellung max)Muse Wonder FullMuse WonderClaude Opus 5.5GPT-6 Astra
Personal Superintelligence Index (interner Index von Meta)59,154,355,254,5
DeepSWE 1.179,078,874,274,1
SWE-Marathon57,5 (xhigh)53,146,342,5
MemoryBench85,585,681,581,4
Terminal-Bench 4.0-AA57,152,059,659,1
ProgramBench59,050,070,552,5
Artificial Analysis Index56525853
ModellversionAngebotener ZugangAngekündigter Preis
muse-wonder-1.0Meta Model API und Muse Code, Kontext von 1M Tokens4 Dollar für Eingabe, 0,20 Dollar für gecachte Eingabe, 20 Dollar für Ausgabe, pro Million Tokens
muse-wonder-full-1.0Nur Muse Code-Abonnenten, Kontext von 1M TokensAbonnements Power Usage (50 Dollar pro Monat) und Maximum Usage (200 Dollar pro Monat)

Bei der Sicherheit beansprucht Meta seine bisher stärksten Schutzmechanismen gegen chemischen, biologischen, radiologischen und nuklearen (CBRN) sowie Cyber-Missbrauch, wobei der Zugang zu fortschrittlichen Cyber-Fähigkeiten für defensive Zwecke erhalten bleiben soll. Das Unternehmen stellt Muse Wonder als sein bisher am besten ausgerichtetes Modell vor und verspricht „bald“ einen vollständigen Bericht mit zusätzlichen Sicherheitsbewertungen.

🔗 Forschungsbeitrag von Meta · Modellseite und Preise


OCP Global Summit: NVIDIA übergibt seine Designs für Vera Rubin-Racks, Meta setzt auf Spectrum-6

12. Oktober — Zur Eröffnung des OCP Global Summit in San Jose übergibt NVIDIA dem Open Compute Project (OCP) über seine offene MGX-Architektur zentrale Designs für Vera Rubin-Racks (rack) und Recheneinschübe (compute tray). Das erklärte Ziel: Herstellern eine gemeinsame Grundlage für KI-Fabriken der nächsten Generation zu bieten. Die Spezifikation MGX 1.2 ergänzt Flüssigkeitskühlung mit Blindsteckverbindungen (blind-mate) auf Rack-Ebene, eine flüssigkeitsgekühlte Stromschiene (busbar) mit 5 000 A, lüfterlose Recheneinschübe und Racks mit bis zu 250 kW. NVIDIA veröffentlicht außerdem eine Spezifikation für ein Vera-CPU-Rack, das für die Arbeit von Agenten ausgelegt ist (Tool-Aufrufe, Orchestrierung, Ausführung in einer Sandbox), neben Vera Rubin NVL72, das weiterhin die Grundlage für Training und Inferenz bildet.

Auf der Softwareseite erhält DSX OS, die Betriebsschicht seiner Plattform für KI-Fabriken, vier Open-Source-Komponenten aus dem Betrieb von DGX Cloud. Dazu gehören Cluster Readiness Engine, die GPU-Cluster vor dem Training unter Last prüft, und ein Cluster API Provider, der Cluster laut NVIDIA „in Stunden statt Tagen“ einsatzbereit macht.

Ian Buck, NVIDIAs Vizepräsident für Hyperscale und HPC, präsentierte zusammen mit diesen Beiträgen eine Reihe von Ankündigungen der Partner. Die konkreteste kommt von Meta, das auf Spectrum-6-Ethernet-Switches setzt: Sein N-IceCube-Switch wird in IcePack, seinem flüssigkeitsgekühlten Netzwerk-Rack, eingesetzt und läuft unter FBOSS, seinem Open-Source-Netzwerkbetriebssystem.

Auf dem Summit vorgestellte AnkündigungGenannte PartnerAngekündigter Kernpunkt
MGX 1.2 und Vera-CPU-RackOCP-CommunityStromschiene mit 5 000 A, Racks mit bis zu 250 kW
Open-Source-Komponenten von DSX OSNVIDIA-ProjekteVier Tools aus DGX Cloud
Open Data Center Specification v0.7AMD, Google, MetaGemeinsames Gebäudedesign für KI-Fabriken
OCP Grid Resilience SpecificationGoogle, Meta, MicrosoftRückkehr zu nahezu voller Last in weniger als 2 s nach einer Störung des Stromnetzes
K-1-Plattform mit 800 VDCVisionbay, VertivFür künftige Vera Rubin-Installationen entwickelt
Spectrum-6 bei MetaMeta102,4 Tb/s, bis zu 8 Netzwerkebenen, mehr als 100 000 GPU
Falcon Transport-ProtokollGoogleKünftige ConnectX-10-SuperNIC und BlueField-DPU
Optisches USFP-FormatCisco, TE Connectivity, Amphenol400 Gb/s pro Lane (Details unten)

Keine dieser Ankündigungen enthält einen Preis oder ein Verfügbarkeitsdatum. Jensen Huang wird am Mittwoch, dem 21. Oktober, die Keynote der GTC Berlin halten.

🔗 NVIDIA-Beitrag zum OCP Global Summit

USFP: NVIDIA und Cisco bereiten steckbare Optik mit 400 Gb/s pro Lane vor

12. Oktober — Unter diesen Ankündigungen stellen NVIDIA und Cisco ihren Entwurf für das USFP-Format (Ultra-Dense Small Form Factor Pluggable) vor, ein steckbares optisches Modul, das NVIDIA als das erste bezeichnet, das für elektrische Signale mit 400 Gb/s pro Lane entwickelt wurde. Die ersten geplanten Sendeempfänger (transceivers) sollen 16 bidirektionale Lanes (full-duplex) in einem Platzbedarf ähnlich dem von OSFP vereinen, sowohl für Switches als auch für SuperNIC, also bis zu 12,8 Tb/s, mit einer möglichen Erweiterung auf 32 Lanes und mehr. Gegenüber aktuellen Modulen mit 200 Gb/s pro Lane kündigt NVIDIA eine viermal höhere Bandbreitendichte an der Frontplatte und eine etwa 1,3-mal höhere Energieeffizienz an. Das Modul kann zudem bis zu 100 W ohne integrierte Spezialkühlung abführen. Das Ziel: mehr Endpunkte mit 1,6 Tb/s anzubinden, ohne eine zusätzliche Netzwerkstufe einzuführen. TE Connectivity und Amphenol bereiten Gehäusekäfige, Steckverbinder und Module vor, doch es handelt sich weiterhin nur um einen Entwurf: Die Mitteilung nennt weder Datum noch Preis.

🔗 Mitteilung von NVIDIA und Cisco


Anthropics Frontier Red Team untersucht die Selbstreplikation kleiner Modelle auf vernetzten Geräten

12. Oktober — In einer Studie von William Zhou und Daniel Freeman geht Anthropics Frontier Red Team davon aus, dass kleine Modelle nur noch wenige Monate davon entfernt sein könnten, sich selbstständig auf schlecht geschützte vernetzte Geräte zu kopieren. Das Team verteilte Gemma4-26B-A4B auf 15 Android-TV-Boxen ohne Markenbezeichnung, die für etwa 55 Dollar pro Stück gekauft wurden: Das Modell läuft darauf mit 0,39 Token pro Sekunde.

Ein 9B-Modell schafft es, die Inferenz auf 8 der 9 getesteten Hardwaretypen zu starten. In einem isolierten Netzwerk aus 8 emulierten Android-Maschinen gelingt nur GLM-5.2 die vollständige Replikation (8 von 8 Knoten in 4 von 5 Versuchen); da das Eindringen bewusst trivial gestaltet wurde, betrachtet Anthropic dies als Obergrenze. Beim aktuellen Fortschritt offener Modelle mit 30B oder weniger würde ein kleines Modell dieses Niveau bis Ende 2026 erreichen, eine Schätzung, die das Team selbst als grob einstuft.

Ein solcher Wurm wäre langsam, höchstens etwa so leistungsfähig wie 40 H100 auf einem Bestand von mehr als 2 Millionen Geräten, könnte sich aber anpassen: Indem Qwen3.5-9B die Notizen der vorherigen Generation übernimmt, steigt seine Erfolgsquote innerhalb von sechs Generationen von 45 % auf 61-84 %. Ein vollständiger unkontrollierter Replikator existiert noch nicht; zur Abwehr erinnert die Studie daran, dass beim Botnetz (botnet) Mirai die Quarantäne infizierter Kunden durch deren Internetanbieter 92 % der Infektionen innerhalb von 14 Tagen beseitigt hatte.

Like coding agents in 2024, we’re seeing signs of life for AI worms.

🇩🇪 Wie bei Code-Agenten im Jahr 2024 sehen wir Lebenszeichen bei KI-Würmern. — Anthropics Frontier Red Team, Forschungsbeitrag


Code-Agenten: FrontierCode 1.1 von Artificial Analysis bewertet, Amp verfolgt GitHub-Ereignisse, ColGrep-Agent-2B von LightOn

Eine unabhängige Rangliste misst, was Code-Agenten tatsächlich hervorbringen, während Amp und LightOn an den begleitenden Abläufen arbeiten: dem Verfolgen von Pull Requests und der Suche im Code.

FrontierCode 1.1: Artificial Analysis setzt Claude Opus 5.5 mit 52,2 % an die Spitze

12. Oktober — Artificial Analysis veröffentlicht seine eigene Rangliste für FrontierCode 1.1, den Benchmark, den Cognition gemeinsam mit Open-Source-Maintainern entwickelt hat: Er prüft, ob ein Maintainer die vom Agenten vorgeschlagene Änderung mergen würde, statt lediglich festzustellen, ob sie die Tests besteht, und bestraft übermäßige Änderungen oder solche außerhalb des vorgegebenen Umfangs. Artificial Analysis führt den Hauptsatz (Main), 100 private Aufgaben von insgesamt 150, mit seinem Open-Source-Harness Stirrup und drei Versuchen pro Aufgabe aus; ein Versuch, der eine zwingende Prüfung nicht besteht, erhält null Punkte.

Leading models still fail more than 40% of the time

🇩🇪 Die besten Modelle scheitern weiterhin in mehr als 40 % der Fälle. — @ArtificialAnlys auf X

Claude Opus 5.5 besteht die zwingenden Prüfungen nur in 58 % seiner Versuche, und 9 von 100 Aufgaben wurden von keinem der 22 bewerteten Modelle gelöst. MiMo-V2.6-Pro von Xiaomi ist mit 45 % das bestplatzierte Modell mit offenen Gewichten. Die Kostenunterschiede sind deutlich größer als die Unterschiede bei den Ergebnissen:

Bewertetes Modell (Einstellung)FrontierCode-1.1-ErgebnisKosten pro Aufgabe
Claude Opus 5.5 (max, mit Fallback)52,2 %10,15 Dollar
GPT-6.1 Sol (max)49,1 %0,81 Dollar
Claude Fable 5.1 (max, mit Fallback)49,0 %12 Dollar
MiMo-V2.6-Pro45,4 %0,18 Dollar
GPT-6 Luna (max)41,9 %0,09 Dollar

Laut Artificial Analysis erreicht GPT-6.1 Sol damit das Niveau von Fable 5.1 für weniger als ein Zehntel der Kosten pro Aufgabe der besten Anthropic-Modelle. Diese Ergebnisse lassen sich nicht mit denen vergleichen, die Cognition für Devin veröffentlicht und häufig auf der Variante Extended mit seinem eigenen Harness misst.

🔗 FrontierCode-Rangliste von Artificial Analysis

Amp verfolgt die Pull Requests, die es öffnet, und startet eine orb pro GitHub-Issue oder -PR

12. Oktober — Amp bleibt nun an den Pull Requests dran, die es öffnet: Wenn der Agent eine PR auf GitHub erstellt, kann er deren Kommentare, Reviews und die CI-Ergebnisse ihres letzten Commits abonnieren. Eine fehlgeschlagene Prüfung oder die Frage eines Reviewers landet dann im selben Thread, in dem Amp bereits den Kontext hat, um darauf zu antworten.

Die Funktion beruht auf einer als „erstklassig“ (first-class) bezeichneten Integration von GitHub Webhooks: Amp empfängt und verarbeitet die Ereignisse selbst. Anschließend entscheidet der Benutzer oder der Agent, ob sie an eine einzige orb, die entfernte Umgebung, in der ein Amp-Agent läuft, oder jedes Mal an eine neue orb gesendet werden. So lässt sich eine orb für jedes neue Ticket (issue) oder jede neue PR eines Repositorys anfordern, gegebenenfalls auf ein Label (label) beschränkt: Jede orb liest das Ticket, erstellt eine Zusammenfassung, und die nachfolgenden Kommentare landen im selben Thread. Seit dem 23. Juli konnten orbs bereits auf externe Webhooks reagieren; neu ist eine dedizierte, von Amp verwaltete GitHub-Integration mit einer Verwaltungsansicht in Settings → MCP & Integrations → GitHub, um jedes Abonnement zu ändern oder zu pausieren. Dazu muss lediglich die GitHub-App von Amp im Repository installiert werden; der Beitrag nennt keinen Preis.

🔗 Beitrag von Amp

ColGrep-Agent-2B: LightOn überträgt die Codesuche von Claude Code einem lokalen Agenten

12. Oktober — LightOn veröffentlicht ColGrep-Agent-2B, einen Agenten für die Codesuche mit 2 Milliarden Parametern unter der Apache-2.0-Lizenz, der lokal zwischen dem Coding-Agenten und dem Repository läuft. Ausgehend von einer Frage sucht er mit ColGrep, der semantischen Multi-Vektor-Suchmaschine von LightOn, liest vielversprechende Dateien, verfolgt Referenzen und liefert Pfade, Zeilenbereiche und Code zurück: Das Frontier-Modell muss die einzelnen Erkundungsrunden nicht mehr selbst durchführen.

In Verbindung mit Claude Code und Sonnet 5.5 reduziert er bei 52 Suchfragen in 13 nicht im Training enthaltenen Repositories (624 Sitzungen) die API-Tokens um 34 % und die API-Kosten einschließlich Cache um 40 % gegenüber grep, ohne statistisch signifikanten Unterschied bei der Genauigkeit. LightOn stellt klar, dass die Messung die Codesuche betrifft, keine Aufgaben von Anfang bis Ende. Das auf Basis von MiniCPM5-2B nachtrainierte Modell lässt sich mit brew install lightonai/tap/colgrep && colgrep --install-agent installieren, das eine etwa 2,5 GB große GGUF-Version herunterlädt; es benötigt weder eine Python-Umgebung noch einen Inferenzserver oder einen API-Schlüssel und antwortet auf einem M3 Pro in etwa zwanzig Sekunden.

🔗 Beitrag von LightOn auf Hugging Face


Gesundheit bei Google: Health Guardian und das Fitbit-Edge-Armband, AlphaProtein Novo entwirft neuartige Enzyme

Google widmet den Tag der Gesundheit: einerseits Funktionen für Endnutzer von Google Health und Fitbit, andererseits eine Forschungsbilanz, die eine bislang wenig beachtete Arbeit von Google DeepMind hervorhebt.

Google Health: Health Guardian, mehr als 100 erkannte Aktivitäten und das Fitbit-Edge-Armband

12. Oktober — Google Health bündelt seine Herbstankündigungen in einer Reihe von Beiträgen. Health Guardian überwacht im Hintergrund langsame gesundheitliche Veränderungen, etwa beim Blutdruck und bei der Insulinresistenz; mit dem Abonnement Google Health Premium hilft Health Coach, der Coach der App, diese Veränderungen zu interpretieren und bereitet den Kontext zur Weitergabe an den eigenen Arzt auf. Die automatische Erkennung von Trainingseinheiten, die laut Google auf kontextbezogenem Schlussfolgern (contextual reasoning) beruht, wird fast 2-mal so präzise.

Angekündigte NeuerungDetails in ZahlenAngekündigte Verfügbarkeit
Health GuardianTrends bei Blutdruck und Insulinresistenz, monatlicher BerichtIm weiteren Verlauf dieses Monats auf Fitbit Air und Fitbit Edge für Premium-Abonnenten
Automatische AktivitätserkennungVon 10 auf mehr als 100 Aktivitäten, übersehene Trainingseinheiten um mehr als die Hälfte reduziertIm weiteren Verlauf dieses Monats auf Fitbit Air, Fitbit Edge und Pixel Watch 3 bis 5
Fitbit-Edge-Armband179,99 Dollar, 11,5 mm, bis zu 7 Tage Akkulaufzeit, austauschbarer AkkuVorbestellbar, ab dem 27. Oktober im Handel
Partnerschaft mit Flo HealthSynchronisierte Zyklusdaten, mehr als 80 Millionen Nutzerinnen pro Monat bei FloAnfang nächsten Jahres

Fitbit Edge, vorgestellt als Fenster zu Health Coach am Handgelenk, ist Googles erstes reparierbares Fitnessarmband. Abbott (Glukosesensor Lingo), MyFitnessPal und Function Health ergänzen die Integrationen.

🔗 Die Neuerungen von Google Health · Fitbit Edge · Partnerschaft mit Flo Health

Bilanz von Googles Gesundheitsforschung: AlphaProtein Novo entwirft Enzyme, die in der Natur nicht vorkommen

12. Oktober — Yossi Matias (Google Research) und Pushmeet Kohli (Google DeepMind) ziehen Bilanz über Googles Arbeit im Gesundheitsbereich: 90 Artikel mit Peer-Review in fünf Jahren, mehr als 90 000 Zitationen und mehr als 60 Millionen Dollar, die Google.org 2026 an Teams ausgezahlt hat, die diese Modelle einsetzen. Der Beitrag greift vor allem bereits bekannte Ergebnisse auf, hebt aber AlphaProtein Novo hervor, eine Machine-Learning-Pipeline (pipeline) von Google DeepMind, die Enzyme von Grund auf (de novo) entwirft, ohne von einem natürlichen Enzym auszugehen.

In einem am 5. Oktober auf bioRxiv veröffentlichten Preprint haben die Teams gemeinsam mit dem California Institute of Technology und der Universität Pittsburgh neuartige Nitrentransferasen entwickelt, um Piperidin, ein zentrales Strukturmotiv von Arzneimitteln, mit einer von ihnen als beispiellos bezeichneten Selektivität zu synthetisieren. Außerdem entwickelten sie Enzyme, die das Umwelttoxin DEHP unter Bedingungen abbauen, unter denen natürliche Enzyme denaturieren. Der Beitrag nennt auch zwei neue Anwendungen: In Barcelona hat das Institut für globale Gesundheit mit AlphaFold 30 000 Verbindungen virtuell auf ihre Eignung gegen die Chagas-Krankheit gescreent und zwei bereits von der FDA zugelassene Medikamente identifiziert, die für diesen neuen Zweck eingesetzt werden könnten; am Children’s Mercy Hospital hat DeepSomatic 10 zuvor übersehene Mutationen in bereits sequenzierten Leukämien bei Kindern erkannt.

🔗 Googles Bilanz zur KI im Gesundheitsbereich · Der Preprint zu AlphaProtein Novo auf bioRxiv


Zwei Anbieter gehen von einem bestehenden Modell aus und unterziehen es einem Post-Training für ein bestimmtes Berufsfeld, mit Zahlen als Beleg.

12. Oktober — Z.ai stellt GLM-Legal vor, ein auf GLM-5.3-Flash basierendes juristisches Modell für reale Arbeitsabläufe: Vertragsprüfung, Beweisanalyse und Compliance. Nach einem Zwischentraining (mid-training) auf einem erweiterten juristischen Korpus wurde es durch Reinforcement Learning in Zehntausenden realistischer juristischer Umgebungen nachtrainiert. Auf Harvey LAB, Harveys Benchmark für juristische Agenten, der 24 Rechtsgebiete abdeckt, erreicht GLM-Legal eine Quote vollständig erfolgreicher Durchläufe (all-pass rate) von 19,2 %, 12,5 Punkte mehr als sein Basismodell.

Auf Harvey LAB getestetes ModellVollständige Erfolgsquote (Zahlen von Z.ai)
GLM-Legal19,2 %
Kimi K312,9 %
Claude Fable 511,3 %
GLM-5.3-Flash6,7 %
GPT-6 Astra5,4 %

Nur der Wert von GLM-Legal steht im Text des Beitrags; die anderen stammen aus der Grafik im Ankündigungs-Tweet. Auf LegalBench und PLawBench (chinesisches Recht) beansprucht Z.ai Gleichstand mit den besten geschlossenen Modellen, ohne Werte zu veröffentlichen. GLM-Legal befindet sich in der Beta: Kanzleien, Anbieter juristischer Software (legal tech), Rechtsabteilungen und selbstständige Juristen können über ein Formular API-Zugang beantragen. Das Modell soll außerdem „bald“ in AutoClaw, der Plattform für Desktop-Agenten des Unternehmens, verfügbar sein. Weder Preise noch offene Modellgewichte wurden angekündigt.

🔗 Beitrag von Z.ai zu GLM-Legal · Ankündigung von Z.ai auf X

Apex 2.0 und Apex Flash 2.0: Fin baut seine Kundenservicemodelle auf Nemotron 3 auf

7. Oktober — Fin, der KI-Agent für den Kundenservice, hat Apex 2.0 veröffentlicht, die neue Version seines Modells zur Antwortgenerierung, diesmal auf Basis von Nemotron 3 Super; NVIDIA begrüßte die Veröffentlichung am 12. Oktober. Wie bei Apex 1.0, das Fin bereits im Produktivbetrieb als besser als Claude Sonnet 4.6 bezeichnete, geht das Team von einem Basismodell mit offenen Gewichten aus und passt es durch eigenes Post-Training an: Anpassung anhand von Instruktionen und Präferenzen, überarbeitete Reward-Modelle, gezielte Beispiele für die Entscheidung zwischen Antworten und Rückfragen sowie das Aufspüren unbegründeter Versprechen. Fin erklärt außerdem, seine Bereitstellungskosten durch Quantisierung ohne messbaren Qualitätsverlust gesenkt zu haben.

Modell von FinNVIDIA-BasismodellAngekündigte Verbesserungen gegenüber Version 1.0
Apex 2.0Nemotron 3 Super+8,6 % vom Nutzer bestätigte Problemlösungen, -16,5 % Halluzinationen
Apex Flash 2.0 (Fin Voice)Nemotron 3 Nano24 % schnellere Antworten, -46 % Halluzinationen, 9 Sprachen statt ausschließlich Englisch

Apex 2.0 ist für alle mehr als 12 000 Kunden von Fin im Einsatz; der Beitrag nennt keine Preise.

🔗 Beitrag von Fin zu Apex 2.0


Modelle trainieren und bereitstellen: QwenGyre, ReplaySSM und der Endpunkt /v1/systemone von Transformers

Drei Arbeiten befassen sich mit der Softwareinfrastruktur von Modellen: dem Training von Agenten mit sehr langem Zeithorizont, dem Decoding hybrider Modelle und der Bereitstellung von Entscheidungsmodellen.

QwenGyre: Qwen macht Reinforcement Learning für Agenten mit sehr langem Zeithorizont elastisch

12. Oktober — Das Qwen-Team stellt QwenGyre vor, ein Framework für Online-Reinforcement-Learning für Agenten, bei denen ein einzelner Durchlauf Stunden dauern, Hunderte Interaktionen mit der Umgebung umfassen und fast eine Million Tokens pro generierter Trajektorie (rollout) erreichen kann. Daraus ergeben sich zwei Probleme: untätige GPUs während langer Generierungen und redundante Trajektorien, sobald sich der Durchlauf verzweigt (Kontextverdichtung, Unteragenten, erneute Versuche). Der elastische Scheduler (Elastic Scheduler) verteilt die GPUs zwischen Trajektoriengenerierung und Training neu, ohne die Durchläufe zu unterbrechen: bis zu 1,85-mal so schnell wie der Colocate-Ansatz und 1,78-mal so schnell wie der asynchrone Ansatz (Async). Der Trajektorienprozessor (Trajectory Processor) ordnet verzweigte Verläufe in deduplizierte Bäume mit gemeinsamen Präfixen ein.

Auf Qwen3.8-2.4T-A95B angewendet, mit etwa 700 000 Tokens pro Trajektorie, steigert QwenGyre das Ergebnis auf NL2RepoBench in 48 Schritten von 52,5 % auf 58,5 % und reduziert laut Ankündigungs-Tweet die gesamte Trainingszeit gegenüber dem asynchronen Ansatz um etwa 44 %. Das Paper ist seit dem 27. September auf arXiv verfügbar; ein Code-Repository wurde nicht angekündigt.

🔗 Ankündigung von Qwen auf X · Das QwenGyre-Paper auf arXiv

ReplaySSM: NVIDIA und das Dao AI Lab beschleunigen das Decoding hybrider Modelle

12. Oktober — NVIDIA und das Dao AI Lab der Universität Princeton stellen ReplaySSM vor, eine neue Methode zum Speichern des Zustands von SSM-Schichten während des Decodings hybrider Modelle, die abwechselnd State-Space-Schichten und Attention-Schichten verwenden, etwa Nemotron 3, Qwen3.5 bis Qwen3.8, Kimi-K3 oder GLM-5.3-Flash. Bei Batch-Größen im Produktivbetrieb belasten diese SSM-Schichten, nicht die Attention, die Decoding-Latenz bei Kontexten bis zu 100K Tokens am stärksten. ReplaySSM stellt den Zustand durch einen Checkpoint und einen kleinen Puffer der jüngsten Eingaben dar: Die Ausgabe wird bei jedem Token berechnet, der Checkpoint aber nur alle 16 Tokens in den Speicher zurückgeschrieben, wodurch der dominierende Speicherverkehr ungefähr halbiert wird.

In vLLM gemessene KonfigurationAngekündigte Verbesserung gegenüber vLLM
Decoding-Schritt, Batch mit 1Keine
SSM-Kernel, Batch mit 2561,46- bis 1,80-mal so schnell
Vollständiger Decoding-Schritt, Batch mit 2561,20- bis 1,47-mal so schnell
Spekulatives Decoding, Batch mit 512, Modelle der Klasse 120B1,85- und 2,10-facher Durchsatz

Die Technik ist in TensorRT-LLM, vLLM und FlashInfer integriert und laut NVIDIA in GLM-5.3-Flash und Kimi-K3 im Produktivbetrieb im Einsatz; der Artikel ist auf arXiv und der Code auf GitHub verfügbar.

🔗 Technischer Beitrag von NVIDIA zu ReplaySSM · Der ReplaySSM-Artikel auf arXiv

/v1/systemone: transformers serve macht aus einem LLM oder VLM ein Entscheidungsmodell

12. Oktober — Hugging Face hat einen Endpunkt /v1/systemone für transformers serve, den in die Bibliothek integrierten Server, in Transformers gemergt. Statt eine Antwort zu generieren, bewertet der Server eine Menge möglicher Entscheidungen anhand der Logits des Modells: Lysandre zufolge kann so jedes der 250 unterstützten LLM und VLM zu einem Entscheidungsmodell „nach Art von JEV“ werden, ohne Text zu generieren. PR 49322 von Marc Sun unterstützt derzeit alle autoregressiven Modelle und ergänzt decision_config, das an den Server übergeben wird, da jedes Entscheidungsmodell seinen Prompt auf eigene Weise formuliert und seine Temperatur individuell einstellt; Marc Sun kündigt eine Standardisierung der Entscheidungsmodelle „bald“ in Transformers an. Die Funktion ist noch in keiner veröffentlichten Version enthalten; die jüngste, v5.19.0, stammt vom 6. Oktober. llama.cpp unterstützte dieses Format beim Serving bereits seit dem 2. Oktober.

🔗 Ankündigung von Lysandre auf X · PR 49322 auf GitHub


Webseiten und Dateien für Agenten neu gedacht: die Browser Annotation API von OpenAI, die Git-Forge von Perplexity Projects

OpenAI und Perplexity überarbeiten zwei vertraute Umgebungen, die Webseite und das Dateisystem, damit ein Agent darin mehr Kontext findet.

Browser Annotation API: Websites passen die Annotationen im Browser von ChatGPT an

12. Oktober — OpenAI Developers stellt die Browser Annotation API vor, die im Leitfaden Annotations Extensibility von ChatGPT Learn beschrieben wird. Ohne Codeänderung funktioniert der Annotation-Modus des integrierten Browsers der ChatGPT-Desktop-App bereits auf jeder Website: Man wählt einen Teil der Seite aus, kommentiert ihn und sendet ihn als Kontext an Codex oder ChatGPT Work. Die API, die über document.oai.annotation auf sicheren Seiten (HTTPS oder localhost) bereitgestellt wird, ermöglicht der Website festzulegen, was sich auswählen lässt, welcher Kontext die Auswahl begleitet und welche Steuerelemente eine Änderung vor dem Absenden in einer Vorschau zeigen.

Der Leitfaden beschreibt neun Integrationen im Detail: Eine Karte kann zu einem einzigen auswählbaren Objekt werden (oai-annotation-container, oai-annotatable), ein Button der Website kann eine Annotation mit einem vorgeschlagenen Kommentar öffnen, benutzerdefinierte Steuerelemente (registerControls()) zeigen beispielsweise einen Abstands-Token in einer Vorschau, und in einem Canvas gezeichnete Objekte werden auswählbar. Der Leitfaden bezieht sich auf die App-Version von DevDay 2026 und spätere Versionen; in ChatGPT Enterprise und Edu muss ein Administrator diese Anpassungen erlauben. Die Annotationen ergänzen die Website-Tools von WebMCP, die die Aktionen bereitstellen, die ChatGPT auf einer Website ausführen kann.

🔗 Ankündigung von @OpenAIDevs · Leitfaden Annotations Extensibility

Perplexity Projects: ein Dateisystem nach dem Vorbild einer Git-Forge für Agenten

12. Oktober — Perplexity veröffentlicht einen Engineering-Beitrag über das Dateisystem von Projects, dem Arbeitsbereich von Perplexity Computer, in dem Menschen und Agenten gemeinsam langwierige Aufgaben bearbeiten. Jeder Agent arbeitet in seiner eigenen Sandbox und speichert seine Änderungen in einem gemeinsamen Git-Repository, das von fünf Komponenten bereitgestellt wird: einer CLI in jeder Sandbox, einer Control Plane, einem Git-Dienst, einem auf AWS S3 basierenden Speicher (S3Files) und einer Textextraktion für Dokumente. Der Dienst akzeptiert einen Push nur, wenn er auf dem zuletzt akzeptierten Commit basiert; andernfalls wendet der Agent seine Änderung erneut an und pusht sie noch einmal, ohne Merge-Anfrage (pull request). Ein virtuelles FUSE-Dateisystem, das bei dateiintensiven Workloads etwa 400-mal langsamer war, wurde verworfen.

Von Perplexity veröffentlichte MessgrößeAngegebener Wert
In der Produktion als veraltet abgelehnte PushesWeniger als 2 %
Mediane Latenz eines PushsWeniger als 1,7 s
p99-Latenz eines PushsWeniger als 8 s
Korrekte Antworten mit grep, bei 150 internen Finanzfragen0,627
Korrekte Antworten mit einer semantischen Suche über einen IndexEtwa 0,37

Der Beitrag führt kein neues Produkt ein: Projects gibt es seit Juli, und Brain, das Wissenswiki von Computer, basiert auf derselben Infrastruktur.

🔗 Engineering-Beitrag von Perplexity


Kurzmeldungen

  • Copilot CLI 1.0.96 — Als stabile Version veröffentlicht, übernimmt sie ohne Neuerungen die neun Einträge aus den Vorabversionen vom 9. und 10. Oktober, darunter den Urheber jeder Berechtigungsentscheidung in der Zeitleiste und Modell-IDs ohne Unterscheidung zwischen Groß- und Kleinschreibung. 🔗 Quelle
  • Zuordnung von Pushes auf GitHub — In einer eingeschränkten öffentlichen Vorabversion für GitHub-Enterprise-Kunden auf Anfrage behält jeder gepushte Commit die authentifizierte Identität der Person, die ihn gepusht hat; eine Bedingung im Ruleset, Committer must match pusher, blockiert Pushes, deren Committer keiner verifizierten E-Mail-Adresse dieses Nutzers entspricht. 🔗 Quelle
  • Copilot app for Beginners — Eine neue Folge der Reihe im GitHub Blog zeigt, wie sich die Regeln eines Projekts im Repository hinterlegen lassen, damit Copilot sie selbstständig anwendet: benutzerdefinierte Anweisungen, agent skills in .github/skills, benutzerdefinierte Agenten und MCP-Server wie Playwright; ein Tutorial ohne Produktneuheit. 🔗 Quelle
  • Zed 1.23.3 und 1.24.2 — Die stabile Version und die Vorabversion enthalten ausschließlich Fehlerbehebungen (Markdown-Vorschau, Bearbeitungsvorhersagen, Auswahl entfernter Projekte), den Wechsel auf Node.js v24 und optionale Telemetrie zu Speicherpunkten (checkpoints) im Agentenpanel. 🔗 Quelle
  • Codex Ambassadors — OpenAI nimmt wieder Bewerbungen für dieses sechsmonatige Programm an, das einen Beitrag pro Monat (Veranstaltung oder Inhalt) verlangt und dafür ein Pro-Abonnement, Codex- und API-Guthaben sowie Unterstützung für genehmigte Veranstaltungen bietet; Vorrang haben Nordamerika, Mittelamerika, Afrika, der Nahe Osten und Osteuropa. 🔗 Quelle
  • Die API Decisions bei Hypha — Serhii Shchoholiev, Leiter der Agentenentwicklung bei Hypha, misst für die API Decisions von OpenAI bei der Multi-Label-Klassifikation einen F1-Wert von 98,1 %, gegenüber 93,5 % für einen GPT-6.1-Sol-Agenten, bei etwa einem Siebtel der Kosten und einer 28-mal niedrigeren p90-Latenz; Kundenzahlen ohne veröffentlichte Methodik, weiterverbreitet von @OpenAIDevs. 🔗 Quelle
  • Gemini 3.5 Flash als veraltet eingestuft — Nachtrag zum 8. Oktober: Derselbe Eintrag in den Versionshinweisen der Gemini-API stuft auch gemini-3.5-flash als veraltet ein, das in Google AI Studio nicht mehr auswählbar ist; seine Anfragen werden an gemini-3.6-flash weitergeleitet, ohne dass ein Abschaltdatum angekündigt wurde. 🔗 Quelle
  • Kimi Work 3.2.16 — Wartungsversion: aktualisierte PDF-Vorschau-Engine, ein integrierter Browser, der nicht mehr durch Hintergrundaufgaben unterbrochen wird, und acht detaillierte Fehlerbehebungen, darunter doppelt gesendete Nebenunterhaltungen. 🔗 Quelle
  • Ausfall bei Genspark — Ein Teil der Nutzer konnte sich am Montag wegen des Ausfalls eines von Genspark nicht benannten Microsoft-Dienstes nicht anmelden; Genspark meldete die Wiederherstellung des Dienstes um 16:20 Uhr UTC und bereitet eine Entschädigung für die betroffenen Nutzer vor. 🔗 Quelle
  • TutorMoments — Ai2 hat aktuelle Modelle seiner Bewertung von KI-Tutoren unterzogen: Mit einer expliziten Anweisung liegt GPT-6 Astra vorn (0,938 bei angemessener Lernunterstützung, 0,915 bei angemessenem Anspruchsniveau), vor Claude Sonnet 5.5 und Claude Opus 5.5, und ein neuer Explorer vergleicht ihre Antworten mit denen menschlicher Tutoren. 🔗 Quelle
  • UIBK-Embedding-v1 — Abdelrahman Abdallah veröffentlicht unter Apache 2.0 ein englischsprachiges Suchmodell mit 179 Millionen Parametern, das dichte Suche und Suche mit später Interaktion (ColBERT) in einem einzigen Encoder vereint; er gibt einen nDCG@10-Wert von 59,79 auf BEIR an, den besten Wert unter einer Milliarde Parametern unter den Modellen mit vollständigen offiziellen MTEB-Ergebnissen. 🔗 Quelle
  • Sparseup-fr — Loïck Bourdois reproduziert das Sparse-Embedding-Modell von Linkup mit 150 Millionen Parametern auf Französisch, trainiert in etwa 55 Stunden auf einer einzigen RTX 6000 Pro: 56,37 und 56,50 auf dem bereinigten NanoBEIR-fr, gegenüber 52,40 und 51,66 für die englische Version; laut dem Autor ein neuer Spitzenwert unter offenen Sparse-Modellen. 🔗 Quelle
  • Model Pulse — Ein Community-Tool von Tardelli Stekel rekonstruiert seit Juli 2024 Tag für Tag die Downloads und „Gefällt mir“-Angaben von 1,64 Millionen Modellen auf dem Hub; die Daten sind in etwa 1,15 Milliarden Parquet-Zeilen unter Apache 2.0 veröffentlicht und werden täglich aktualisiert. 🔗 Quelle
  • contributor-Berechtigung auf dem Hub — Feingranulare Zugriffstoken und Token von Service Accounts bei Hugging Face können eine contributor-Berechtigung erhalten: Sie erstellen Repositorys und schreiben nur in diejenigen, die sie selbst erstellt haben, für CI/CD-Pipelines, Trainingsaufgaben und Agenten. 🔗 Quelle
  • Microduck Arena — Pollen Robotics öffnet einen Hugging Face Space, in dem man mittels Reinforcement Learning eine Policy für seinen kleinen zweibeinigen Roboter trainiert und ihn anschließend in vier Disziplinen laufen lässt, darunter 2 m Sprint und Hill Climb, ohne physischen Roboter. 🔗 Quelle
  • Relight Studio — Luma stellt diese Funktion vor, die die Lichtrichtung einer bereits gelungenen Aufnahme verändert, ohne von vorn beginnen zu müssen; der Tweet nennt weder Modell noch Preis noch Datum der Inbetriebnahme. 🔗 Quelle
  • HeyGen Lessons — HeyGen stellt ein Angebot für den Bildungsbereich vor: Dots von OpenAI erkennt, was eine Klasse anspricht, und passt die Unterrichtseinheit an, anschließend setzt der MCP von HeyGen sie mit dem Avatar und der Stimme der Lehrkraft als Video um; der Tweet nennt weder Link noch Preis noch Datum. 🔗 Quelle
  • Ein Immobilienmakler und sein Avatar — Laut einer Fallstudie von HeyGen veröffentlicht ein Immobilienmakler aus Vancouver, der durch einen Brand seinen Drehort verloren hat, täglich zwei Reels mit seinem Avatar und hat seine Instagram-Follower innerhalb von zehn Monaten vervierfacht. 🔗 Quelle
  • x.ai wechselt zu SpaceXSI — Beim Scan vom 12. Oktober festgestellt, ohne Ankündigung oder Datumsangabe an der Quelle: Die Startseite von x.ai, die Nachrichten und die API-Dokumentation („SpaceXSI Docs“) tragen jetzt die Marke SpaceXSI, bis hin zur Modellseite von Grok 4.7; am 10. Oktober zeigte die Website noch SpaceXAI. 🔗 Quelle

Was das bedeutet

Bei den heutigen Zahlen muss man darauf achten, wer die Messung vornimmt. Meta veröffentlicht seine selbst gemessenen Ergebnisse in einem Bild und setzt Muse Wonder Full an die Spitze seines eigenen Index (59,1 gegenüber 55,2 für Claude Opus 5.5), während Opus 5.5 im Artificial Analysis Index derselben Tabelle den Vorsprung behält (58 gegenüber 56). Z.ai vergleicht GLM-Legal mit seinen Konkurrenten in der Grafik eines Tweets und beansprucht Gleichstand auf LegalBench, ohne einen Wert zu veröffentlichen, und Fin misst Apex 2.0 gegenüber seiner eigenen Vorgängerversion. Die unabhängige Rangliste von FrontierCode rückt die Größenordnungen zurecht: Das beste Modell kommt auf höchstens 52,2 %, und der Kostenunterschied, von 0,81 Dollar pro Aufgabe für GPT-6.1 Sol bis zu 10,15 Dollar für Opus 5.5, wird zu einem ebenso sichtbaren Kriterium wie der Rang.

Bei der Infrastruktur kommen die Verbesserungen von allem, was die Chips umgibt. Die Beiträge von NVIDIA zum OCP betreffen die Stromversorgung (Racks bis zu 250 kW, eine Sammelschiene für 5 000 A, Rückkehr zu nahezu voller Last in weniger als zwei Sekunden nach einer Störung im Stromnetz) und das Netzwerk, mit Spectrum-6 bei 102,4 Tb/s bei Meta und USFP mit 400 Gb/s pro Lane. Die Software folgt derselben Logik: ReplaySSM halbiert ungefähr den Speicherverkehr der SSM-Schichten, und QwenGyre bringt die GPU wieder zum Arbeiten, die auf das Ende langer Trajektorien warteten. Indem NVIDIA seine Entwürfe beim OCP einbringt, mit Standards, die AMD, Google, Meta und Microsoft mitunterzeichnet haben, zeigt das Unternehmen sein Ziel, den Herstellern eine gemeinsame Grundlage für KI-Fabriken zu geben.

Die Agenten erhalten Umgebungen, die für sie konzipiert sind. Eine Webseite kann jetzt bestimmen, was der Nutzer im Browser von ChatGPT auswählt und welcher Kontext zusammen mit seiner Auswahl an den Agenten übermittelt wird, ein Perplexity-Projekt stellt jedem Agenten eine Sandbox und ein gemeinsames Git-Repository bereit, und Amp führt die Reviews und CI-Ergebnisse der eigenen pull requests des Agenten in dessen Verlauf zurück. Auch die Art der Erkundung beeinflusst das Ergebnis: Bei Perplexity erzielt ein Agent, der seine Arbeitskopie mit grep durchsucht, 0,627 korrekte Antworten gegenüber etwa 0,37 bei der semantischen Suche, und bei LightOn reduziert die Übertragung der Suche an einen kleinen lokalen Agenten den API-Token-Verbrauch von Claude Code gegenüber grep um 34 %, ohne signifikanten Genauigkeitsverlust.

Die Studie des Frontier Red Team zeigt die Kehrseite dieser Autonomie. Die Fähigkeiten, die einen Agenten nützlich machen, etwa ein Modell auf unbekannter Hardware zu installieren oder seine Notizen an den nächsten Agenten weiterzugeben, sind auch diejenigen, die einem Wurm erlauben würden, sich anzupassen: Ein 9B-Modell startet die Inferenz auf 8 von 9 Hardwaretypen, und die Übernahme der Notizen steigert die Erfolgsquote von 45 % auf 61-84 %. Anthropic beschreibt bislang keinen vollständigen Replikator und setzt auf die Überwachung durch Internetzugangsanbieter, damit ein infiziertes Gerät im Durchschnitt weniger als ein weiteres ansteckt. Meta wiederum beansprucht für Muse Wonder seine bislang stärksten Schutzmaßnahmen gegen missbräuchliche Cyber- und CBRN-Nutzung, verweist aber auf einen vollständigen Sicherheitsbericht, der noch erscheinen soll.


Quellen