DeepSeek veröffentlicht DeepInfer als Open Source, die Engine für V4.1-Flash im Produktivbetrieb, Mistral bringt Voxtral 3 und ElevenLabs Eleven Realtime für Sprachagenten heraus, Perplexity Computer läuft lokal auf dem Mac

DeepSeek veröffentlicht den Code von DeepInfer, der Inferenz-Engine, die DeepSeek-V4.1-Flash im Produktivbetrieb bedient, und nennt Zahlen zu seinem Dienst: 155 000 Milliarden Tokens pro Tag auf einem einzigen Cluster. Am selben Tag bringen Mistral und ElevenLabs ihre Modelle für Sprachagenten mit zwei gegensätzlichen Ansätzen heraus: eine Kette aus Transkription und Sprachsynthese mit Voxtral 3, ein einziges Speech-to-Speech-Modell mit Eleven Realtime, während Perplexity Computer vollständig lokal auf dem Mac laufen lässt. Google veröffentlicht außerdem TorchTPU als Open Source, und OSS Scanner, der Dienst von Anthropic, legt eine erste Bilanz vor, zu der auch eine inzwischen behobene Schwachstelle in curl gehört.

DeepInfer: DeepSeek veröffentlicht die Inferenz-Engine hinter DeepSeek-V4.1-Flash im Produktivbetrieb als Open Source

20. Oktober — DeepSeek veröffentlicht DeepInfer, das hauseigene Inferenz-Framework (inference framework), das DeepSeek-V4.1-Flash in seinen Diensten bedient, unter der Apache-2.0-Lizenz als Open Source. Die veröffentlichte Version ist für die Offline-Inferenz bestimmt und unterstützt ausschließlich dieses Modell auf NVIDIA SM100-GPUs und Huawei Ascend 950-NPUs. Sie übernimmt die Bausteine aus dem Produktivbetrieb: die bereits von DeepSeek veröffentlichten Kernel-Bibliotheken (FlashMLA, DeepGEMM, DeepEP, TileKernels, DeepSelect) und TileLang-Kernel, Expertenparallelität mit Lastverteilung für den MoE-Teil, ein hauseigenes spekulatives Decoding (DSpark), ein begrenztes Replay des gleitenden Attention-Fensters, das das Prefill entlastet, sowie strukturierte Ausgaben anhand regulärer Ausdrücke, JSON-Schemata oder EBNF-Grammatiken.

Gleichzeitig veröffentlicht DeepSeek deepseek-recipe (MIT-Lizenz), die im Produktivbetrieb eingesetzte Komponente, die Anfragen der APIs Messages, Chat Completions und Responses in Tokens für DeepSeek V4 und V4.1 und anschließend die Modellausgaben in Antworten umwandelt. Ihre Logik entspricht der offiziellen API: Ein Drittanbieter erhält dasselbe Verhalten beim Denkmodus, bei Tool-Aufrufen und bei strukturierten Ausgaben. Die Deployment-FAQ des Repositorys zeigt die Größenordnung des Dienstes:

Von DeepSeek veröffentlichte Produktionsdaten	Veröffentlichter Wert
Von einem einzigen Cluster verarbeitete Tokens	155 000 Milliarden pro Tag
Gesamtumsatz zum Nebenzeitentarif	38 Dollar pro GPU-Stunde
Prefill	gewöhnliche Rechner mit 8 GPU
Decoding	Supernodes mit 64 bis 128 GPU
Aufbewahrung des KV-Cache	mehr als 72 Stunden

Nicht alles wird offengelegt. Die Verwaltung des KV-Cache und die Lastverteilung zwischen Replikaten bleiben geschlossen, da sie laut DeepSeek zu eng mit der internen Infrastruktur verbunden sind, und werden nur in einem Zhihu-Beitrag beschrieben; auch die Trennung zwischen visuellem Encoder, Prefill und Decoding wird nicht mitgeliefert. Die Durchsatzmessungen werden nur als Diagramme veröffentlicht. DeepInfer, das anfangs hauptsächlich auf vLLM aufbaute und sich von SGLang und TensorRT-LLM inspirieren ließ, wird auch den Inferenzcode künftiger DeepSeek-Modelle aufnehmen; das Repository zählte noch am selben Abend 11 562 Sterne.

🔗 Der Thread von @deepseek_ai · DeepInfer auf GitHub · deepseek-recipe auf GitHub

Voxtral 3: Mistral bringt Modelle für Transkription und Sprachsynthese sowie ein SDK für Sprachagenten heraus

20. Oktober — Mistral bringt Voxtral 3 heraus, eine Familie von Modellen für Transkription (speech-to-text) und Sprachsynthese (text-to-speech), begleitet von einem SDK zum Erstellen von Sprachagenten. Alles ist ab dem 20. Oktober in der Mistral-API über europäische, US-amerikanische und globale Endpunkte sowie in den Testumgebungen (playgrounds) von Studio verfügbar; eine Bereitstellung vor Ort oder in einer Private Cloud wird auf Anfrage angeboten.

Voxtral-3-Modell	Vorgesehener Einsatz	Angekündigter Preis
Voxtral Small Transcribe 3	Präziseste Transkription, Diarisierung	0,004 Dollar pro Minute
Voxtral Mini Transcribe 3 (4B)	Batch-Transkription, Diarisierung	0,0035 Dollar pro Minute
Voxtral Mini Transcribe Realtime 3	Echtzeittranskription, unter 500 ms	0,008 Dollar pro Minute
Voxtral Speech 3	Sprachsynthese, im Batch und in Echtzeit	13 Dollar pro Million Zeichen

Die Transkription deckt 50 Sprachen ab, darunter die 24 Amtssprachen der Europäischen Union. Sie unterscheidet Sprecher (Diarisierung), nimmt Schlüsselwörter an, um Fachvokabular ohne Feinabstimmung (fine-tuning) besser zu erkennen (Kontextsteuerung, context biasing), und erkennt das Ende eines Redebeitrags. Für 45 Sprachen des FLEURS-Benchmarks veröffentlicht Mistral folgende Wortfehlerraten, wobei die Sprache dem Modell entweder vorgegeben oder automatisch erkannt wird:

Bewertetes Modell (FLEURS, 45 Sprachen)	Dem Modell vorgegebene Sprache	Automatisch erkannte Sprache
Voxtral Small Transcribe 3	4,0 %	4,1 %
Microsoft AI Transcribe 2	4,0 %	4,1 %
Voxtral Mini Transcribe 3	4,5 %	4,6 %
Gemini 3.5 Transcribe	4,5 %	6,1 %
Scribe v2	4,9 %	4,9 %
GPT Transcribe	5,6 %	6,3 %
Whisper large-v3	14,9 %	16,0 %

Mistral bezeichnet sein Small-Modell als besser als Whisper, Scribe v2 und Gemini 3.5 Transcribe, doch im eigenen Diagramm liegt Microsoft AI Transcribe 2 gleichauf. In Echtzeit erreicht das Mini-Modell mit 480 ms Verzögerung 6,4 % über 35 Sprachen und liegt damit hinter Gemini 3.5 Realtime Transcribe (4,2 %) und Microsoft AI Transcribe 2 Streaming (5,8 %), aber vor GPT Live Transcribe (8,4 %) und Scribe v2 Realtime (8,7 %).

Voxtral Speech 3 spricht mehr als 35 Sprachen und über 50 Dialekte, leitet Emotion und Rhythmus aus dem Gesprächskontext ab oder folgt Zeile für Zeile ausdrücklichen Anweisungen, und Pro Voice bildet eine professionelle Stimme anhand von 30 Minuten Audio nach; laut Mistral ist der Betrieb günstiger als bei vergleichbaren Modellen von OpenAI, Deepgram, ElevenLabs und Google.

Das auf LiveKit aufgebaute SDK für Sprachagenten verbindet drei Modelle in einem Stream: Das Echtzeitmodell hört zu und erkennt das Satzende, ein allgemeines Modell wie Mistral Small denkt nach und ruft Tools auf, anschließend antwortet Voxtral Speech 3. Kein Schritt wartet auf den vorherigen: Laut Mistral ist jede Gesprächsrunde in weniger als einer Sekunde abgeschlossen, der Agent verstummt bei einer Unterbrechung, führt Anrufe über SIP oder WebRTC, und jeder Schritt bleibt ein austauschbares Modell. Anders als bei Voxtral Transcribe 2 (Februar) und Voxtral TTS (März) wurden für Voxtral 3 keine offenen Gewichte angekündigt: Der Beitrag bietet die API von Mistral oder eine Bereitstellung auf eigener Infrastruktur an, die mit dem Mistral-Team zu organisieren ist, und am Abend des Starts war auf Hugging Face kein Repository zu finden.

🔗 Der Beitrag von Mistral · Der Thread von @MistralAI

Eleven Realtime: ElevenLabs vereint den Sprachagenten in einem einzigen Speech-to-Speech-Modell

20. Oktober — Am selben Tag wie Voxtral 3 wählt ElevenLabs den entgegengesetzten Ansatz. Während das SDK von Mistral drei getrennte und austauschbare Modelle miteinander verbindet, vereint jedes Eleven-Realtime-Modell den gesamten Sprachagenten in einem einzigen Speech-to-Speech-Modell (Speech to Speech): Spracherkennung, Erkennung von Sprachaktivität, Sprecherwechsel, LLM und Sprachsynthese werden darin gemeinsam als Ganzes optimiert. Die Modelle sprechen mehr als 90 Sprachen und können die über 17 000 Stimmen der ElevenLabs-Bibliothek nutzen.

Zwei Versionen erscheinen. Eleven Realtime v1 Mini, das Standardmodell, zielt auf kostengünstige Gespräche ab (Assistenten, Lehrkräfte, interaktive Figuren). Eleven Realtime v1 Max denkt vor der Antwort nach und richtet sich an komplexe Aufgaben wie Kundensupport oder mehrstufige Abläufe mit Tool-Aufrufen; es kostet mehr pro Token. Die veröffentlichten Ergebnisse stammen aus Bewertungen von Artificial Analysis, die ElevenLabs zitiert:

Kennzahl (Artificial Analysis, laut ElevenLabs)	Eleven Realtime v1 Max	Eleven Realtime v1 Mini
Big Bench Audio (1 000 laut gestellte Fragen)	98,8 %	75,9 %
Durchschnittliche Verzögerung bis zum ersten gesprochenen Wort	0,57 s	0,62 s
Full-Duplex-Bench (Pausen, Unterbrechungen)	94,1 %	95,8 %
Erfolgreich abgeschlossene Aufgaben mit Tools	87,1 %	60,3 %

Laut ElevenLabs ist kein Modell in der Rangliste von Artificial Analysis gleichzeitig schneller und präziser als v1 Max. Mini beherrscht die Gesprächsdynamik etwas besser, doch bei Aufgaben mit Tools baut Max seinen Vorsprung aus.

In ElevenAgents genügt es, den Sprachmodus eines Agenten von „Custom“ auf „Realtime“ umzustellen, um den Rest der Plattform weiterzunutzen: Telefon, Web, WhatsApp und Contact Center. Die Modelle werden auch über eine Realtime-API angeboten, die mit der von OpenAI kompatibel ist: Ein Entwickler mit einer bestehenden Integration ändert den Endpunkt und den Modellnamen und behält seinen Code bei; unterstützt wird ausschließlich WebSocket. Die Bereitstellung erfolgt schrittweise je nach Workspace. Mini ist im Gegensatz zu Max weder im Modus Zero Retention noch unter HIPAA verfügbar, und konkrete Preise werden nicht genannt: ElevenLabs berechnet den üblichen Minutenpreis von ElevenAgents zuzüglich der Tokens zum Tarif des gewählten Modells.

ElevenLabs schließt sich damit den durchgängigen Sprachmodellen an, die bereits von OpenAI (GPT-Live-1, seit dem 10. September für 0,05 Dollar pro Minute in der API), Google (Gemini 3.8 Live) und SpaceXSI (Grok Voice 3.0) angeboten werden.

🔗 Der Beitrag von ElevenLabs · Die Dokumentation der Realtime-Modelle

Perplexity Computer läuft vollständig lokal auf dem Mac, einschließlich des Modells

20. Oktober — Perplexity lässt seinen Agenten Computer vollständig auf dem Mac laufen: Das Modell, das Ausführungsgerüst (harness) und die Ausführung der Aufgaben bleiben auf dem Rechner.

Perplexity Computer can now run fully local on your Mac. Work with your native Mac apps and local files, and run tasks without sending sensitive data to the cloud. The model and the agent both run on your Mac. Available now in the Perplexity Mac app.

🇩🇪 Perplexity Computer kann jetzt vollständig lokal auf Ihrem Mac laufen. Arbeiten Sie mit Ihren nativen Mac-Apps und lokalen Dateien und führen Sie Aufgaben aus, ohne sensible Daten in die Cloud zu senden. Das Modell und der Agent laufen beide auf Ihrem Mac. Ab sofort in der Mac-App von Perplexity verfügbar. — @perplexity_ai auf X

Bestandteil der Einführung	Details laut Perplexity
Lokale Modelle	Qwen 3.6 und PPLX Pro
Empfohlener Speicher	36 Go Unified Memory oder mehr
Unterstützte Rechner	Unterstützte Macs mit Apple silicon, etwa der neue Mac mini mit M6 und M5 Pro
Betroffene Tarife	Pro, Max und Enterprise
Computer-Guthaben	wird durch lokale Aufgaben nicht verbraucht
Zugriff auf die Cloud	mit Erlaubnis, auf mehr als 15 Frontier-Modelle

Mit Erlaubnis des Nutzers arbeitet der Agent an lokalen Dateien und in Apps wie Notes, Messages, Mail oder Numbers. PPLX Pro ist laut dem Tweet von Perplexity dessen nachtrainierte Version von Qwen 3.8; auf die Frage nach der Größe antwortet Perplexity-Chef Aravind Srinivas, es handele sich um ein dichtes Modell mit 27 Milliarden Parametern, und schätzt, dass 36 Go Arbeitsspeicher üblich werden dürften.

Die Mac-App bietet nun zwei Möglichkeiten, Computer zu starten. Hybrid Compute, das am 1. September eingeführt wurde, nutzt zunächst die Cloud für Recherche und Schlussfolgern und verarbeitet private Dateien lokal; der neue Modus beginnt auf dem Mac, auf dem Planung, Schlussfolgern und Dateiverarbeitung verbleiben. Wenn der Nutzer es erlaubt, greift der Agent für aktuelle Informationen, Webnavigation oder verbundene Apps auf die Cloud zu, und sowohl Code als auch Tools laufen in isolierten Sandboxes mit denselben Sicherheitsprotokollen wie die Cloud-Version. Perplexity nennt drei Anwendungsfälle: die Überprüfung eines Portfolios anhand privater Positionen, ein auf vertraulichen Notizen aufgebautes Geschäftsangebot und eine morgendliche Prioritätenliste aus Messages und Mail.

Dies ist das Mac-Pendant zu Portable Computer, der vollständig lokalen Version, die am 25. August auf DGX Spark eingeführt und im September auf Linux, Windows und PCs mit AMD Ryzen AI Max-Prozessoren ausgeweitet wurde.

🔗 Der Beitrag von Perplexity

PyTorch abseits von NVIDIA-GPUs: TorchTPU als Open Source, native TPUs bei Hugging Face und MPS in PyTorch 2.15

Drei Ankündigungen des Tages bringen PyTorch auf andere Chips als die von NVIDIA: Google veröffentlicht TorchTPU auf der PyTorch Conference, Hugging Face integriert es am selben Tag in seine Bibliotheken, und das PyTorch-Team von Hugging Face erläutert, was PyTorch 2.15 für Macs bringt.

TorchTPU: Google veröffentlicht seinen nativen PyTorch-Stack für TPU, mit vLLM, SGLang, TorchTitan und llm-d 1.0

20. Oktober — Google veröffentlicht TorchTPU als Open Source, seinen gemeinsam mit dem PyTorch-Team von Meta entwickelten nativen PyTorch-Stack für TPU. Die TPU wird damit zu einem gewöhnlichen PyTorch-Gerät (torch.device("tpu")): Das Debugging erfolgt bei unmittelbarer Ausführung (eager), anschließend geht es mit torch.compile in den Produktionsbetrieb, wobei über XLA kompiliert wird. Bisher musste man seinen Code in JAX neu schreiben oder das bisherige torch_xla verwenden.

Zwei Inferenz-Engines basieren auf TorchTPU: vLLM-TorchTPU, gemeinsam mit Inferact entwickelt, und SGLang-TorchTPU, gemeinsam mit RadixArk entwickelt und bereits bei Meta im Produktionsbetrieb. Google meldet 2,01 Dollarcent pro Million Tokens im InferenceX-Ranking von SemiAnalysis mit Qwen 3.5 auf Ironwood sowie mehr als 700 Tokens pro Sekunde für einen einzelnen Nutzer mit Kimi K3, einem Modell mit 2 800 Milliarden Parametern. Beim Training erreicht TorchTitan auf TPU mit Qwen 3 8B eine Rechenauslastung (Model FLOPs Utilization) von bis zu 52 %, mit Tests auf bis zu 8 192 Ironwood-Chips. Google veröffentlicht außerdem llm-d 1.0, einen gemeinsam mit Red Hat und IBM gegründeten Kubernetes-Stack für verteiltes Serving: Bei einer agentischen Coding-Workload sinkt die mediane Zeit bis zum ersten Token um mehr als 85 %, und der Durchsatz steigt gegenüber einem einfachen Kubernetes-Service auf das 2,4-Fache.

🔗 Der Blogbeitrag von Google Cloud · Die Engines vLLM und SGLang auf TPU · llm-d 1.0

Hugging Face integriert native TPU-Unterstützung in Transformers, Diffusers und Kernels

20. Oktober — Hugging Face integriert TorchTPU in sein Ökosystem: Die TPU wird zu einem gewöhnlichen Gerät, ohne den Umweg über PyTorch/XLA oder JAX. Optimum TPU, die bisher von Hugging Face gepflegte Schicht, ist für Transformers und Diffusers damit nicht mehr nötig. In Transformers genügt es, ein Modell mit device_map="tpu" zu laden; in Diffusers reicht ein pipe.to("tpu"), mit optionaler Kompilierung und Tensorparallelismus, um große Modelle auf mehrere Chips zu verteilen.

Von Hugging Face gemessener Fall	Veröffentlichtes Ergebnis
Qwen-Image-2.1, Bild 1024 × 1024 in 40 Schritten (TPU v6e-4)	3,5 s kompiliert, 8,0 s ohne Kompilierung
MiniMax-H3, Video mit Audio von 5,2 s (TPU v6e-4)	188 s kompiliert, 262 s ohne Kompilierung
Decoding von Qwen3-30B-A3B, Batch mit 64, Tokamax-Kernel (v6e-8)	21,5-mal schneller
Auf TPU bestandene Transformers-Tests	96,5 %

Das Team hat dem TorchTPU-Projekt 34 Probleme gemeldet, von denen 19 bereits behoben sind, und bereitet eine nächtliche CI auf TPU vor. Nach TorchNeuron für AWS Trainium am Vortag ist dies das zweite native PyTorch-Backend für einen Beschleuniger außerhalb von NVIDIA, das Hugging Face innerhalb von zwei Tagen integriert.

🔗 Der Blogbeitrag von Hugging Face zu TorchTPU

PyTorch 2.15 bringt FP8 auf den Mac und beschleunigt das Decoding von MoE um bis zu das 6,5-Fache

20. Oktober — Das PyTorch-Team von Hugging Face, das an MPS, dem GPU-Backend für Macs mit Apple silicon, arbeitet, erläutert die Neuerungen von PyTorch 2.15, das noch als Release Candidate vorliegt. FP8 kommt auf den Mac, mit einem Byte pro Wert, halb so viel wie BF16, und direkter Multiplikation auf der GPU. Dank einer nativen gruppierten Matrixmultiplikation wird das Decoding von MoE-Modellen 5- bis 6,5-mal schneller als in 2.14.

Messung auf dem Mac	Mit PyTorch 2.14	Mit PyTorch 2.15
Decoding von Qwen3.6-35B-A3B auf M3 Ultra	9,4 tokens/s	61,3 tokens/s
Decoding von LFM2.5-8B-A1B auf M3 Ultra	23,6 tokens/s	123,6 tokens/s
Softmax FP32 über 128 256 Logits	57 µs	7 µs
Maximaler Treiberspeicher, VAE von Wan2.2	270,1 Gio	8,1 Gio

Der VAE-Encoder von Qwen-Image-2.1, der Bilder auf MPS unbemerkt beschädigte, ist repariert. PyTorch 2.15 setzt macOS 15 und Python 3.11 voraus. Eine noch vorläufige Vorschau auf 2.16 kündigt einen vollständig in Metal geschriebenen Attention-Mechanismus an.

🔗 Der Blogbeitrag von Hugging Face zu MPS

Sicherheit von Open-Source-Software: die erste Bilanz von OSS Scanner und die Paket-Firewall von GitHub

Zwei Ankündigungen setzen an beiden Enden der Open-Source-Lieferkette an: Schwachstellen im Code der Projekte finden und Pakete bei der Installation filtern.

OSS Scanner: 114 Projekte angenommen, 77 kritische Schwachstellen und 803 mit hohem Schweregrad gemeldet, eine Sicherheitslücke in curl behoben

19. Oktober — Elf Tage nach seinem Start legt OSS Scanner erste Zahlen vor. Der kostenlose Dienst von Anthropic lässt kritische Open-Source-Projekte von den leistungsfähigsten Modellen des Unternehmens scannen. In einem Thread, den @ClaudeDevs noch am selben Abend teilte, nennt Punit Shah, Produktmanager des Dienstes, rund 650 Bewerbungen von Projekten und 114 angenommene Projekte. Die Scans haben den Maintainern bereits 77 kritische Schwachstellen und 803 mit hohem Schweregrad gemeldet, entsprechend der Einstufung durch das Modell, obwohl noch nicht alle Projekte gescannt wurden.

Als Beispiel wird curl hervorgehoben: Die Schwachstelle CVE-2026-92392, ein Zugriff auf bereits freigegebenen Speicher (use-after-free) beim Senden über HTTP/2, wurde mit einer frühen Version von OSS Scanner entdeckt und am 14. Oktober in curl 8.23.0 behoben. Der Sicherheitshinweis von curl stuft sie für die Versionen 8.12.0 bis 8.22.0 als hoch ein und nennt „Luna with Claude, Anthropic“ als meldende Stelle. Eine weitere Erkenntnis: Die meisten ersten Berichte, die zusammen mit ihrem Proof of Concept per E-Mail versandt wurden, wurden abgewiesen, vermutlich weil die E-Mail-Filter sie für Schadsoftware hielten. Anthropic testet deshalb die Zustellung über GitHub Security Advisories; nach einer Schätzung von Punit Shah warteten noch mehr als 150 Projekte auf eine Entscheidung.

🔗 Der Thread von Punit Shah · Der Sicherheitshinweis von curl

GitHub filtert in einer Vorschau die npm-Pakete, die Actions-Runner und Coding-Agenten installieren

20. Oktober — GitHub öffnet eine Paket-Firewall (package firewall) als öffentliche Vorschau. Ausgangspunkt ist die Beobachtung, dass immer mehr Angriffe den Zeitpunkt der Paketinstallation ausnutzen, um Zugangsdaten auf CI/CD-Hosts oder Entwicklerrechnern abzugreifen, ohne überhaupt den Code des Pakets auszuführen. Die Firewall schaltet sich zwischen GitHub-Actions-Runner oder Coding-Agenten und die vorgelagerten Registries und prüft sowohl Metadatenanfragen als auch Downloads.

Kernpunkt der Firewall	Was die Vorschau vorsieht
Verfügbare Prüfungen	Wartefrist, Warnungen der GitHub Advisory Database, Herabstufungen bei Attestierungen
Zielkunden	GitHub Enterprise Cloud, einschließlich Datenresidenz
Unterstütztes Ökosystem	Vorerst nur npm
Preis	In der Vorschau kostenlos, danach nutzungsabhängig abgerechnet, wie GitHub Actions

Coding-Agenten und CI/CD-Hosts müssen so konfiguriert werden, dass sie die Firewall nutzen, statt die Registries direkt abzufragen. Für ein irrtümlich blockiertes Paket kann eine Ausnahme beantragt werden.

🔗 Die Ankündigung von GitHub

Assistenten: gesperrte Chats in ChatGPT, Gemini für kleine Unternehmen und für US-Behörden

OpenAI und Google ergänzen ihre Assistenten um Funktionen für konkrete Bedürfnisse: die Vertraulichkeit einer Unterhaltung bei ChatGPT sowie kleine Unternehmen und öffentliche Dienste in den USA bei Gemini.

ChatGPT verbirgt Unterhaltungen hinter einer vierstelligen PIN

20. Oktober — ChatGPT führt gesperrte Chats (locked chats) ein: Eine ausgewählte Unterhaltung bleibt im Konto, verschwindet aber aus dem Verlauf, den angehefteten Chats und der Suche. Sie wird in den Bereich Locked chats von Projects verschoben, der sich mit einer vierstelligen Konto-PIN oder auf Mobilgeräten mit Face ID, Touch ID oder der Geräteentsperrung von Android öffnen lässt. Die Funktion wird schrittweise im Web, auf iOS und Android sowie in der neuen Desktop-App für macOS und Windows eingeführt, von Free bis Pro sowie für Business, Enterprise und Edu, jedoch nicht für ChatGPT for Healthcare.

OpenAI erläutert die Grenzen: Die Sperrung bietet weder Ende-zu-Ende-Verschlüsselung noch einen separaten Tresor und ändert die Aufbewahrungsdauer nicht. Wird eine vergessene PIN zurückgesetzt, werden alle gesperrten Chats und die von ihnen geschützten Dateien dauerhaft gelöscht. In Unternehmen bleiben gesperrte Chats in den Protokollen der OpenAI Compliance Platform enthalten, und Administratoren können weder die Funktion deaktivieren noch einen Chat entsperren. Codex-Unterhaltungen, temporäre Chats und Gruppenchats lassen sich nicht sperren.

🔗 Die Versionshinweise zu ChatGPT · Der Leitfaden zu gesperrten Chats

Die Gemini-App eröffnet einen Bereich für kleine Unternehmen

20. Oktober — Google ergänzt die Gemini-App um eine Startseite für kleine Unternehmen. Sie soll als zentrale Anlaufstelle dienen, um die eigene Marke aufzubauen, Finanzen zu analysieren und die Kundschaft besser zu verstehen; laut Google nutzen bereits mehrere zehn Millionen Inhaber kleiner Unternehmen Gemini. Für visuelle Inhalte hinterlegt der Unternehmer seine Website, Gestaltungsrichtlinien, Schriftarten oder Farben: Gemini nutzt Nano Banana 2.1, um Inhalte für eine Produkteinführung oder Kampagne zu erstellen, und behält diesen Stil ohne erneuten Upload bei. Für die Finanzen werden unübersichtliche Tabellen, Belege oder Kaufhistorien innerhalb weniger Sekunden in Diagramme und interaktive Modelle umgewandelt.

Gemini verbindet sich mit Google Business Profile, Google Ads und Google Workspace sowie mit Adobe, Canva, Dropbox, Shopify, Wix, Zoho und Xero. Unter den Erfahrungsberichten berichtet eine Keramikerin aus Bordeaux (Bleu Clémentine), täglich zwei bis drei Stunden zu sparen. Die Einführung beginnt „in den kommenden Tagen“, weltweit und für alle Nutzer der App.

🔗 Der Blogbeitrag von Google

Gemini for government services: der Gemini-Agent als Vorschau für US-Behörden

20. Oktober — Google Cloud überträgt den Anfang Oktober auf Gemini at Work vorgestellten Gemini-Agenten auf den öffentlichen Sektor: Gemini for government services ist als Vorschau für US-Behörden auf Bundes-, Bundesstaats- und Kommunalebene verfügbar, wie Thomas Kurian, der Chef von Google Cloud, bekannt gab. Das Angebot vereint Skills, die Gesetze, Vorschriften und Behördenanweisungen anwenden, Konnektoren zu den Systemen der Behörden, die ohne Datenmigration direkt vor Ort abgefragt werden, Partneragenten, darunter solche von SZNS Solutions, eine zentrale Steuerungsebene für Sicherheit und Compliance sowie ein Netzwerk aus 13 Integratoren.

Google nennt sieben Anwendungsfälle, von der Recherche zu Vorschriften mit absatzgenauen Quellenangaben über Anträge auf Zugang zu Verwaltungsdokumenten (FOIA) und die Prüfung von Förderausgaben bis zur Schwärzung von Dokumenten vor der Veröffentlichung. Die Konnektoren decken Federal Register, regulations.gov und eCFR, Oracle, Salesforce, ServiceNow, Google Workspace und Microsoft 365 ab. Google arbeitet mit dem Bundesstaat Missouri und dem US-Gesundheitsministerium (HHS) zusammen. Das Angebot lässt sich innerhalb der Datengrenze FedRAMP High von Assured Workloads bereitstellen; weder ein Preis noch ein Termin für die allgemeine Verfügbarkeit wurden angekündigt.

🔗 Der Blogbeitrag von Google Cloud

Angewandte KI: von Claude entworfene Proteinbinder, die Empfehlungen von QD-Rec und Flora für Roboter

Drei Arbeiten des Tages wenden Modelle auf konkrete Probleme an: das Design von Proteinen gegen Gifte, die Entscheidungsunterstützung und die Annotation von Videos für das Training von Robotern.

Claude entwirft Proteinbinder gegen Skorpion-Neurotoxine: 17 von 211 getesteten bestätigt

20. Oktober — Anthropic veröffentlicht auf seinem Science-Blog eine von Claude durchgeführte Proteindesign-Kampagne gegen fünf Skorpion-Neurotoxine aus vier Regionen, von Mexiko bis zum Nahen Osten. Ein internes Forschungsmodell, das in Claude Science eingesetzt wird, griff den gemeinsam mit Citrini Research angepassten Prompt einer Studie vom August auf und arbeitete anschließend weitgehend selbstständig, angeleitet durch vier Folgeanweisungen des Teams: 318 484 mit 12 Tools generierte Designs und eine endgültige Liste von 180 Designs in 64 Stunden, bei einem Rechenaufwand von rund 10 000 GPU-Stunden. Adaptyv Bio und Twist Bioscience testeten 211 Designs, darunter 31 vom Team hinzugefügte. Nach strengen Kriterien binden 17 an ihr Ziel, jeweils nur an ein einziges Toxin, und keines richtet sich gegen das brasilianische Toxin Ts1. Die beiden besten, Cn2-B1 und Cn2-B2, binden an das mexikanische Toxin Cn2 mit einer Affinität im Bereich weniger Nanomolar und scheinen dieselbe Bindungsstelle wie der Antikörper LR anzusteuern, der das Toxin bei Mäusen neutralisiert.

This is exploratory work, and we’re not claiming to have produced an antivenom—for that, we’d have to test the binders within living cells, then in mice, among many other steps. But it’s an example of how Claude can concretely assist research in protein design.

🇩🇪 Es handelt sich um explorative Forschung, und wir behaupten nicht, ein Gegengift hergestellt zu haben: Dafür müssten die Binder neben vielen weiteren Schritten zunächst in lebenden Zellen und anschließend an Mäusen getestet werden. Aber dies ist ein Beispiel dafür, wie Claude die Forschung im Proteindesign konkret unterstützen kann. — @AnthropicAI auf X

Die 211 Designs und ihre Daten werden veröffentlicht. Eine Anmerkung räumt ein, dass dieser Rechenaufwand die Möglichkeiten der meisten Forschenden übersteigt, weist aber darauf hin, dass ein vereinfachter Prompt mit nur einem Agenten und einer einzigen GPU über 24 Stunden vergleichbare In-silico-Scores erreicht.

🔗 Der Blogbeitrag von Anthropic

QD-Rec: Sakana AI entwickelt vielfältige und begründete Empfehlungen evolutionär weiter

20. Oktober — Sakana AI stellt QD-Rec vor, das offene Suche (open-ended search) und den Qualität-Diversität-Ansatz (Quality-Diversity) auf Empfehlungen zur Entscheidungsunterstützung anwendet. Statt Kandidaten in eine Rangfolge zu bringen, sucht die Methode nach Kandidat-Hypothese-Paaren: einem Unternehmen für eine Übernahme, einem potenziellen Kunden für die Akquise oder einem Artikel zum Lesen sowie dem Text, der die Auswahl begründet. Ein kontextueller Bandit wählt den nächsten Kandidaten aus und bevorzugt dabei wenig abgedeckte Bereiche. Ein LLM formuliert die Hypothese, indem es bereits archivierte Hypothesen anpasst oder miteinander kombiniert, und ein nach Nischen gegliedertes Archiv bewahrt neue Begründungen auf.

In Tests zu Fusionen und Übernahmen, Marketing-Targeting und Artikelempfehlungen, mit Claude Sonnet 5 oder Claude Haiku 4.5 als Vorschlagsmodell und gpt-5.6-terra als Bewertungsmodell, erzielt QD-Rec bei 1 000 Bewertungen in den meisten Fällen die höchste durchschnittliche Qualität und das größte Archiv: für Walt Disney 2,91 von 10 und 214 Empfehlungen, gegenüber 2,40 und 85 ohne Evolution. Sakana betont, dass diese Szenarien keine Anlageberatung darstellen und dass ein Modell darin eine Zahl nannte, die in den Daten nicht vorkam; der Code wird unter der Lizenz Apache-2.0 veröffentlicht.

🔗 Der technische Artikel von Sakana AI

Flora: NVIDIA veröffentlicht die Gewichte einer Modellsuite, die Videos für Roboter annotiert

20. Oktober — Das GEAR-Labor von NVIDIA veröffentlicht die Gewichte von Flora, einer Modellsuite, die Rohvideos von Robotern oder Menschen in Trainingssignale umwandelt: mit Zeitstempeln versehene Aktionsbeschreibungen, Ergebnisbelohnungen zur Überwachung von Deployments und Prozessbelohnungen für Reinforcement Learning. Flora dient bereits als Datenmotor für das Training der GR00T-Modelle und annotiert täglich 200 000 Stunden Videomaterial auf 512 GB300-GPUs. Laut NVIDIA kann es bei etwa 125-mal niedrigeren Kosten mit GPT-6 Astra mithalten, doch die veröffentlichte Tabelle zeigt ein differenzierteres Bild:

Benchmark und Messgröße	Flora	GPT-6 Astra
DenseRewardBench, Makro-F1 (höher = besser)	46,2	40,7
RoboReward, mittlerer absoluter Fehler (niedriger = besser)	40,0	55,4
DenseCaptionBench Robot200, Segmentierungs-F1	66,9	71,9
WGO-Bench, Genauigkeit (gold-window)	64,7	77,4

Flora liegt bei den meisten Belohnungsmetriken und bei Videos von Menschen vor GPT-6 Astra, bleibt jedoch bei Robotervideos, bei zwei der drei Messgrößen von WGO-Bench, bei der Korrelation von Robometer außerhalb der Trainingsverteilung und bei RubricBench zurück.

🔗 Die Projektseite von Flora · Der Thread von Jim Fan

Übernahme und Partnerschaft: OpenAI übernimmt Orchestra Bio, Runway kommt in den Claude Marketplace

Zwei Unternehmensgeschäfte des Tages: eine Übernahme im Bereich der Medikamentenentwicklung bei OpenAI und eine Vertriebsvereinbarung zwischen Runway und Anthropic.

OpenAI übernimmt Orchestra Bio, um Rosalind mit der Medikamentenentwicklung zu verbinden

20. Oktober — OpenAI kündigt die Übernahme von Orchestra Bio an, einer Plattform, auf der Menschen und KI-Agenten gemeinsam Medikamentenentwicklungsprogramme voranbringen: Forschende und Programmverantwortliche delegieren dort die Überwachung von Studien und Kampagnen an Agenten. OpenAI nennt ein Beispiel: Eine fehlgeschlagene Produktionscharge kann den Beginn einer klinischen Studie verzögern; die Agenten identifizieren dann die betroffenen Aktivitäten und Zeitpläne, tragen Informationen zusammen und vergleichen mögliche Maßnahmen, während die Entscheidung bei den Teams bleibt.

Das Team und die Technologie von Orchestra werden Teil von Rosalind, dem Angebot von OpenAI für die Biowissenschaften: GPT-Rosalind für Reasoning in Biologie und Chemie, Rosalind Workbench zur Verknüpfung dieser Fähigkeiten mit den Tools und Daten der Forschenden. Das erklärte Ziel: Agenten, die Entdeckungen mit Studien, Entscheidungen und den nächsten Entwicklungsschritten eines potenziellen Medikaments verbinden. OpenAI erinnert daran, dass in den USA zwischen der Entdeckung einer Zielstruktur und der behördlichen Zulassung durchschnittlich 10 bis 15 Jahre vergehen. Ein Kaufpreis wird nicht genannt.

🔗 Die Ankündigung von OpenAI

Runway Creative kommt in den Claude Marketplace, anrechenbar auf die Ausgabenzusage bei Anthropic

20. Oktober — Runway kommt mit Runway Creative, seiner Plattform zur Generierung und Bearbeitung von Videos, Bildern und Audio, in den Claude Marketplace von Anthropic. Berechtigte Unternehmenskunden können einen Teil ihrer bei Anthropic zugesagten Ausgaben für den Kauf von Runway verwenden, indem sie sich an ihren Ansprechpartner bei Runway oder Anthropic wenden; Preise werden nicht veröffentlicht. Runway Creative vereint Gen-4.5, Aleph 2.0, Seedance 2.5, Kling 3.0 und ElevenLabs V4, und Claude übernimmt das Reasoning von Runway Agent, der eine Anfrage in eine Szenenaufteilung umsetzt, das Modell für jede Einstellung auswählt und das Video zusammenstellt. Die Animationen von Claude Motion, das in Claude Team und Enterprise als Beta verfügbar ist, lassen sich nach Runway exportieren, um dort Bilder, Voiceover und Musik hinzuzufügen.

Runway gibt an, mehr als 65 Millionen Creator, Filmschaffende und Marketingteams zu bedienen. Dies ist auf Anthropic-Seite das Gegenstück zur Aufnahme von Runway Creative in den OpenAI Marketplace am 29. September.

🔗 Die Ankündigung von Runway

Modelle bewerten: MultiLangBench von OpenAI, FairStress von Ai2 und CALIBER von Cohere Labs

Drei Forschungsarbeiten bewerten Modelle aus drei Blickwinkeln: Code in wenig verbreiteten Sprachen, die Fairness ihrer Entscheidungen und die Konfidenz ihrer eigenen Antworten.

MultiLangBench: GPT-6 Astra baut eine SQLite-kompatible Engine in 20 Sprachen, einschließlich COBOL

19. Oktober — OpenAI veröffentlicht einen Forschungsbeitrag über ressourcenarme Programmiersprachen (low-resource) wie COBOL, Fortran oder Visual Basic, für die es deutlich weniger Code und Dokumentation als für Python gibt, obwohl sie Bankensysteme oder Wettervorhersagen betreiben. Der erste Benchmark dazu, MultiLangBench, der unter der Apache-2.0-Lizenz veröffentlicht wurde, verlangt, eine SQLite-kompatible Datenbank-Engine in einer von 20 Sprachen von Grund auf zu bauen. Geprüft wird sie mit Tests, die aus der SQLite-Testsuite abgeleitet wurden.

Bewertetes Modell (maximaler Reasoning-Aufwand)	Durchschnitt über 20 Sprachen	COBOL	Fortran	Visual Basic
GPT-5.6 Sol	26,8 %	10,9 %	21,4 %	27,5 %
GPT-6 Luna	40,3 %	17,1 %	31,4 %	41,6 %
GPT-6 Astra	87,4 %	72,1 %	83,5 %	89,4 %

GPT-6 Luna kostet etwa 0,77 Dollar pro Sample, gegenüber 3,48 Dollar für GPT-5.6 Sol. Bei einem zweiten Benchmark, der Migration von COBOL-Programmen nach C++, Java, Kotlin, Python oder Rust mit Byte für Byte identischen Ausgaben, erreicht GPT-6.1 Sol bei niedrigem Reasoning-Aufwand eine Erfolgsquote von 86,6 %, gegenüber 5,4 % für GPT-5.6 Sol bei derselben Einstellung, und kostet 39 % weniger; bei höherem Aufwand erreicht es 97,9 %. OpenAI erinnert daran, dass eine Migration im Produktivbetrieb weiterhin eine Prüfung durch Fachleute erfordert.

🔗 Der Beitrag von OpenAI · MultiLangBench auf GitHub

FairStress: Ai2 misst demografische Fairness über die endgültige Antwort hinaus

20. Oktober — Ai2 veröffentlicht FairStress, einen Benchmark, der die demografische Fairness von Modellen über ihre endgültige Wahl hinaus testet: Er misst auch, wie leicht ein Modell angesichts eines Überzeugungsarguments eine fundierte Entscheidung aufgibt und wie es diese begründet. Der Benchmark umfasst 300 Entscheidungsszenarien zwischen zwei Kandidaten in 29 Bereichen, von der Einstellung bis zur Wohnungsvergabe, die in mehr als 13 Millionen Testfällen abgebildet werden.

Ohne demografische Informationen verhalten sich die Modelle symmetrisch. Bei 15 Modellen beträgt der durchschnittliche Unterschied beim Aufgeben einer richtigen Antwort 6,9 Punkte bei einer impliziten Identität und 9,3 Punkte bei einer expliziten Kennzeichnung: Die Modelle geben den besseren Kandidaten eher auf, wenn er der Mehrheitsgruppe zugeordnet ist, was Ai2 als antistereotypische Überkorrektur bezeichnet. Spitzenmodelle wie Claude Opus 5 und GPT-5.5 wählen in etwa 60 bis 65 % der mehrdeutigen Fälle den der Minderheitsgruppe zugeordneten Kandidaten, und die meisten der neun getesteten Korrekturmethoden reduzieren die Asymmetrie nicht zuverlässig. Ai2 stellt klar, dass seine Definition von Fairness auf Gleichbehandlung beruht; der Code wird unter der MIT-Lizenz veröffentlicht.

🔗 Der Beitrag von Ai2

CALIBER: Cohere Labs bringt Reasoning-Modellen bei, ihre Konfidenz vor und nach dem Nachdenken einzuschätzen

20. Oktober — Cohere Labs, das Forschungslabor von Cohere, stellt CALIBER (Calibration Before and After Reasoning) vor, eine Methode, die einem Reasoning-Modell beibringt, seine Erfolgschancen zweimal einzuschätzen: vor dem Nachdenken und anschließend für die erzeugte Antwort. Die anfängliche Konfidenz wird anhand der Erfolgsquote des Modells bei mehreren Versuchen mit derselben Frage trainiert (sieben Erfolge bei zehn Versuchen ergeben einen Zielwert von 70 %), die abschließende Konfidenz anhand der Korrektheit seiner Antwort.

Beim Benchmark BigMathDigits sinkt der erwartete Kalibrierungsfehler (Expected Calibration Error, ECE) des Modells mit 7 Milliarden Parametern von 0,059 bei der besten Methode mit einem einzigen Konfidenzwert auf 0,028, also um 52,5 %; ohne zusätzliches Training beträgt der Rückgang 26,8 % auf GPQA, 32,2 % auf TriviaQA und 36,2 % auf SimpleQA. Beim Modell mit 30 Milliarden Parametern fällt das Bild differenzierter aus: Sein ECE (0,022) ist nur geringfügig besser als der von CoCA-lite (0,023). Die Verwendung dieser Schätzungen zur Entscheidung, wann eine Antwort überprüft oder auf sie verzichtet werden sollte, wurde nicht getestet, und es wird kein Cohere-Produkt angekündigt.

🔗 Der Beitrag von Cohere · Der Artikel auf arXiv

Die OpenAI API hält Prompts 12 Stunden im Cache, beim Schreiben zum 2,5-Fachen des Eingabepreises

20. Oktober — Die OpenAI API ermöglicht es nun, einen Prompt 12 Stunden im Cache zu halten, gegenüber den standardmäßigen 30 Minuten. Die Neuerung richtet sich an persistente Agenten wie die dots von OpenAI, die den ganzen Tag dieselben Anweisungen, Tools und denselben Kontext wiederverwenden: Auch Anfragen, die mehrere Stunden auseinanderliegen, profitieren noch vom ermäßigten Preis für gecachte Tokens. Die Einstellung erfolgt über den Parameter prompt_cache_options.ttl der Responses API für GPT-5.6 und neuere Modelle, und beide Zeiträume lassen sich in derselben Anfrage kombinieren: 12 Stunden für die gemeinsamen Anweisungen, 30 Minuten für den jüngsten Teil der Unterhaltung.

Tarifart (GPT-5.6 und neuer)	Multiplikator des Eingabepreises ohne Cache
Schreiben in den Cache, 30 Minuten (Standard)	1,25
Schreiben in den Cache, 12 Stunden (Responses API)	2,5
Lesen aus dem Cache	0,1 (0,05 für GPT-6.1 Sol)

Bei einem Kontext, der den ganzen Tag wiederverwendet wird, überwiegen die Einsparungen nach Einschätzung von OpenAI die zusätzlichen Schreibkosten deutlich.

🔗 Der Leitfaden zum Prompt-Caching · Der Thread von @OpenAIDevs

Coding-Agenten: Claude Code 2.1.304, Copilot CLI 1.0.101, Vibe CLI 3.0.1 und Devin Fusion

Drei CLIs für Coding-Agenten veröffentlichen Versionen mit Schwerpunkt auf Berechtigungen und Zuverlässigkeit, und Cognition misst sich in einem unabhängigen Index mit Claude Code.

Claude Code 2.1.304: /claude-api managed-agents-secure, Warnung vor einer kostspieligen Fortsetzung und 43 Fehlerbehebungen

19. Oktober — Claude Code 2.1.304, um 21:34 Uhr UTC auf GitHub veröffentlicht, umfasst 76 Einträge, darunter 43 Fehlerbehebungen. Der neue Befehl /claude-api managed-agents-secure vergleicht die Einstellungen eines Claude Managed Agents-Agenten mit dem von Anthropic veröffentlichten Sicherheitsleitfaden, ohne etwas zu ändern. Pro- und Max-Abonnenten werden gewarnt, wenn die Fortsetzung einer inaktiven Unterhaltung einen erheblichen Teil ihres Nutzungslimits für fünf Stunden verbrauchen würde, und können stattdessen eine neue Unterhaltung öffnen, in der Claude die alte wiederfinden kann. /auto-mode-setup wird auf Bedrock, Vertex, Foundry und dem Gateway für Claude apps verfügbar.

Mehrere Fehlerbehebungen schützen die Arbeit des Nutzers: claude --worktree löscht einen Worktree und dessen Branch nicht mehr ungefragt, wenn HEAD losgelöst war oder auf einem anderen Branch stand, was zum Verlust von Commits führen konnte, und ein rm -r auf einem eingebundenen Laufwerk löst nun die Sicherheitsabfrage aus. Die Tool-Suche ist hinter einem benutzerdefinierten ANTHROPIC_BASE_URL standardmäßig aktiv, und Code Review kann alle Repositories einer GitHub-Organisation prüfen, einschließlich später hinzugefügter.

🔗 Die Versionshinweise zu Claude Code 2.1.304

Copilot CLI 1.0.101: native strukturierte Ausgaben für Subagenten und Vorgaben für die Berechtigungsprüfung

20. Oktober — GitHub veröffentlicht Copilot CLI 1.0.101 als stabile Version, einen Tag nach 1.0.100; seine 30 Einträge stammen aus zwei zwischenzeitlich erschienenen Vorabversionen. Zwei Neuerungen stehen am Anfang der Liste: native strukturierte Ausgaben für Subagenten dynamischer Workflows (dynamic workflows) auf Modellen, die dies unterstützen, und eine Einstellung assistedApprovalInstructions, die die Bestätigungsentscheidungen der Prüfinstanz von Assisted Permissions steuert.

Die Berechtigungen werden verständlicher: Freigabeaufforderungen erklären den Grund für eine Eskalation und bieten einen auf die Anfrage zugeschnittenen Diagnosebefehl an, und ein Shell-Befehl, der einen Ordner erstellt und anschließend öffnet, fordert eine Pfadfreigabe an, statt sofort abgelehnt zu werden. Im Unternehmensbereich werden Plugins, die einem Team zugewiesen sind, aus den GitHub-Marktplätzen dieses Teams installiert, und die Modellauswahl kennzeichnet das vom Administrator vorgegebene Modell als Standard. Unter macOS verbindet sich die Sandbox direkt mit lokalen TCP-Diensten, wenn der lokale Zugriff freigegeben ist, und lokale Modelle von providers.json blockieren den Auto-Modus nicht mehr.

🔗 Die Versionshinweise zu Copilot CLI 1.0.101

Vibe CLI 3.0.1: Rückkehr von Python 3.12 und YOLO-Modus durch Administratoren sperrbar

20. Oktober — Einen Tag nach Vibe CLI 3.0.0 veröffentlicht Mistral ohne Ankündigung die Version 3.0.1: 58 Einträge, darunter 9 Ergänzungen, 15 Änderungen und 34 Fehlerbehebungen. Sie nimmt eine Entscheidung aus 3.0.0 zurück: Vibe funktioniert wieder mit Python 3.12 und neuer, statt Python 3.14 vorauszusetzen. Eine neue Administratoreinstellung, enable_auto_approve, verbietet den als „YOLO“ bezeichneten Modus zur automatischen Freigabe: Der auto-approve-Agent entfällt und die Optionen --auto-approve, --yolo und bypass_tool_permissions werden ignoriert, während die Berechtigungen pro Tool weiterhin gelten.

Subagenten werden besser nachverfolgt: vibe -p wartet auf diejenigen, die nach einem Turn noch laufen, und der Export führt ihren Status, ihr Modell, ihre Nutzung und ihre Kosten auf, jeweils zum Tarif ihres eigenen Modells. Der experimentelle Befehl vibe run-server führt zahlreiche nicht interaktive Sitzungen in einem einzigen Prozess aus, und eine Antwort, die am Limit für Ausgabe-Tokens abgeschnitten wurde, wird bis zu sechs Mal erneut angefordert.

🔗 Die Versionshinweise zu Vibe CLI 3.0.1

Devin Fusion: 68,2 im Coding Agent Index, bei 31 % niedrigeren Kosten pro Aufgabe als Claude Code mit Opus 5.5

19. Oktober — Cognition hebt den Score von Devin Fusion hervor, seinem Harness, der ein Hauptmodell mit einem Begleitmodell (sidekick) kombiniert, im Coding Agent Index von Artificial Analysis, einem unabhängigen Index, der Coding-Agenten anhand von drei gleich gewichteten Benchmarks bewertet:

Devin Fusion has claimed a top score of 68 on the @ArtificialAnlys Coding Agent Index with an Opus 5.5 lead and GPT-6 Luna sidekick. Devin Fusion outperforms Claude Code with Opus 5.5 on both performance and price – earning a score of 68 at a 31% lower cost per task.

🇩🇪 Devin Fusion erzielt mit 68 einen der besten Scores im Coding Agent Index von @ArtificialAnlys, mit Opus 5.5 als Hauptmodell und GPT-6 Luna als Begleitmodell. Devin Fusion übertrifft Claude Code mit Opus 5.5 sowohl bei der Leistung als auch beim Preis, mit einem Score von 68 bei 31 % niedrigeren Kosten pro Aufgabe. — @cognition auf X

Die Daten des Index bestätigen den Kostenunterschied; Devin Fusion liegt dort auf dem zweiten Platz unter 42 Konfigurationen:

Bewertete Konfiguration	Index-Score	Durchschnittliche Kosten pro Aufgabe
Claude Code, Sonnet 5.5 (max)	68,4	14,19 Dollar
Devin Fusion CLI, Claude Opus 5.5 Max + GPT-6 Luna High	68,2	9,02 Dollar
Claude Code, Opus 5.5 (max)	66,0	13,04 Dollar

Muse Code mit Muse Wonder Full folgt mit 68,0. Devin Fusion führt deutlich bei DeepSWE v1.1 (72,6 gegenüber 68,4) und bei SWE-Atlas-QnA (69,4 gegenüber 66,4), doch Claude Code mit Opus 5.5 behält bei Terminal-Bench v4 den Vorsprung (63,1 gegenüber 62,6). Cognition veröffentlicht keinen neuen Beitrag.

🔗 Der Coding Agent Index von Artificial Analysis

Kurzmeldungen

Agenten und Coding-Tools

Die Release Notes von Devin vom 19. Oktober — Devin prüft auf GitHub, GitLab, Azure DevOps und Bitbucket jetzt den CI-Status eines Commits, eines Branches oder eines Tags und nicht mehr nur einer Pull Request; Devin Review erhält einen Regeleditor und einen Button „Review now“, und das nächtliche Träumen des Gedächtnisses (nightly memory dreaming) lässt sich deaktivieren. 🔗 Quelle
Agent Manager — Hugging Face veröffentlicht unter der Lizenz Apache-2.0 einen privaten, in einem Space bereitgestellten Arbeitsbereich, um über den Browser Dutzende Agenten von Claude Code, Codex, Gemini CLI, opencode oder Hermes zu steuern, die miteinander kommunizieren und weiterlaufen, während man auf einem anderen Gerät weiterarbeitet. 🔗 Quelle
Die Suche nach MCP-Tools bei Zed — Das Zed-Team hat 25 Verfahren zum Finden des passenden MCP-Tools verglichen, darunter Entscheidungsmodelle, LLM und Einbettungen (embeddings), anhand von 150 Anfragen und 536 Tools. Es entscheidet sich für ein gewichtetes BM25 mit einigen Normalisierungsregeln, lokal und ohne API-Aufruf; weder detaillierte Scores noch Angaben zu einem betroffenen Produkt. 🔗 Quelle
Zed 1.24.4 und 1.25.1 als Vorabversion — Die stabile Version korrigiert das Laden der OpenCode-Modelle; die Vorabversion ergänzt HTML-Syntaxhervorhebung für mit svg, mathml und raw getaggte Templates sowie CSS-Syntaxhervorhebung für Templates, die in JavaScript und TypeScript an css() übergeben werden; bei den Agenten gibt es nichts Neues. 🔗 Vorabversion 1.25.1 · 🔗 1.24.4
v0 auf iOS — Die iOS-App von v0 erhält Browser Use-Annotationen, angekündigt durch einen Tweet mit Video, ohne Beschreibung der Funktion oder Eintrag im Changelog von v0. 🔗 Quelle
Gemini CLI, Nightly-Version vom 20. Oktober — Nach drei Nightly-Versionen ohne Änderungen folgen zwei Korrekturen: Die Bildschirmaktualisierung löscht den Scrollback-Verlauf des Terminals nicht mehr, /clear und Ctrl+L leeren nur noch den sichtbaren Bereich, und die DevTools zeigen keine UTF-8-Zeichen mehr fehlerhaft an, die auf zwei HTTP-Pakete verteilt sind; die stabile Version v0.64.0 bleibt unverändert. 🔗 Quelle
ZCode v3.16.2 — Das Open-Source-Repository von ZCode, der Coding-Umgebung von Z.ai, wird ohne Release Notes auf v3.16.2 aktualisiert: vollständige Ansicht der Seitenleiste in der Desktop-App und im Marketplace ein anet-Plugin, das über das A2A-Protokoll Aufgaben an andere Agenten übergibt. 🔗 Quelle
Die CLI mistral 0.9.0 — Das Tool zur Bereitstellung von Anwendungen auf der Plattform von Mistral ergänzt mistral upgrade, ein experimentelles Deployment direkt von der Festplatte ohne gepushten Commit und, hinter einem Feature-Flag, mistral apps list und logs; als Breaking Change wird der Token einer privaten Registry nur noch aus MISTRAL_REGISTRY_TOKEN oder NODE_AUTH_TOKEN gelesen. 🔗 Quelle
Die API für Copilot-Modellrichtlinien — REST-Endpunkte für GET und PATCH werden allgemein verfügbar, um die zugelassenen Modelle auf Ebene des Unternehmens, der Unternehmensteams, der Agenten-Apps und der Organisationen auszulesen und zu ändern, mit möglicher Delegierung an Organisationen oder Teams. 🔗 Quelle

Unternehmen und Anwendungsfälle

Die Inference hooks für Claude Enterprise — Nach dem Ende der Beta senden sie das Transkript jeder Anfrage an den Sicherheitsserver der Organisation, der sie zulässt oder ablehnt, bevor sie das Modell erreicht, standardmäßig innerhalb von 5 Sekunden. Das gilt von claude.ai über Claude Code, Cowork und Claude Tag bis Claude in Chrome; Bedrock, Google Cloud und die API sind ausgenommen. 🔗 Release Notes · 🔗 Dokumentation
Perplexity und Valarian — Gemeinsam mit diesem britischen Unternehmen für souveräne Infrastruktur betreibt Perplexity Computer auf den Servern regulierter Institutionen, auch in isolierten Netzwerken (air-gapped), mit offenen Modellen wie Nemotron, GLM, Kimi, DeepSeek-R1 oder Qwen; Deployments auf Anfrage, ohne Preisangaben oder namentlich genannte Kunden. 🔗 Quelle
IncidentWatch und IncidentSweep — SpaceXSI schildert, wie zwei Grok Bots die Vorfälle im Support bearbeiten: Einer erkennt alle 5 Minuten Spitzen beim Ticketaufkommen und alarmiert den Bereitschaftsdienst, der andere schließt Tickets in von einem Ingenieur genehmigten Stapeln, bei einem Vorfall am 18. September 204 innerhalb von etwa zehn Minuten. 🔗 Quelle
ChatGPT Work bei einem Franchisenehmer — Ted Taylor, der drei Restaurants von Schlotzsky’s und Cinnabon in New Mexico betreibt, verkürzt laut der Fallstudie von OpenAI die Überarbeitung seiner Menüpreise von 5 Tagen auf 1 bis 2 Stunden und seinen monatlichen Kassenabgleich von 3 Stunden auf 5 bis 10 Minuten, also um 94 %. 🔗 Quelle
Drei Java Champions und Copilot — Im GitHub Blog berichten Vlad Mihalcea, Patrick Baumgartner und Frank Delporte über ihren Einsatz von Copilot, von der Migration von etwa 900 Folien zu Marp in acht bis zehn Stunden bis zu einer Pull Request des Coding-Agenten zu einem Fehler in Pi4J, die innerhalb einer halben Stunde vorlag. 🔗 Quelle
Hippolyte.ai und ElevenLabs — Die französische Recruiting-Plattform hat mit der Sprachsynthese von ElevenLabs in drei Wochen 4 830 sprachbasierte Vorauswahlgespräche geführt, mit Sprachverarbeitung in der Europäischen Union, Löschung der Rohaufnahmen innerhalb von 24 Stunden und einem in Frankreich selbst gehosteten Modell mit offenen Gewichten. 🔗 Quelle
Replit in Japan — Replit eröffnet ein Büro in Japan, um seine Entwicklung von Anwendungen und Unternehmensagenten näher an japanische Unternehmen zu bringen, begleitet von vier Veranstaltungen in Tokio am 5. und 6. November, darunter ein Workshop mit Microsoft; weder Adresse noch Mitarbeiterzahl oder ein spezielles Angebot für Japan werden genannt. 🔗 Quelle

Ranglisten und Leitfäden

ClaimBench — Der neue Benchmark von Vals AI prüft, ob ein Auszug aus einem 10-K-Jahresbericht eine Aussage stützt, ihr widerspricht oder nichts dazu sagt: pplx-decider-v1.2 von Perplexity führt die Entscheidungsmodelle mit 99,69 % bei 0,000104 Dollar pro Aussage vor Mercury Decide (99,08 %) an, mit einer der höchsten Latenzen (1,23 s). 🔗 Quelle
MiniMax M3.1 Flash bei Parallel — Parallel Web Systems setzt das am Vortag veröffentlichte Modell von MiniMax in seiner Rangliste zur Effizienz bei der Websuche auf Platz eins, mit einer Leistung nahe an DeepSeek V4.1 Flash bei etwa dreimal niedrigeren Kosten; es handelt sich um eine Rangliste eines Drittanbieters. 🔗 Quelle
KI-Gateways aus Sicht von Perplexity — Ein Leitfaden in der Rubrik „Ideen“ beschreibt diese Proxys zwischen Anwendungen oder Agenten und den Modellen (Routing, Token-Budgets, semantischer Cache, Guardrails) und verweist auf einen Test von Broadcom, bei dem ein abgestimmtes Envoy-Gateway etwa 2 ms pro Anfrage hinzufügt; ein Produkt von Perplexity wird darin nicht vorgestellt. 🔗 Quelle

Kreation: Bilder, Videos und Präsentationen

Fibo 2.0 von Bria — Diffusers unterstützt dieses Bildbearbeitungsmodell mit offenen Gewichten bereits zum Start. Es wird als erstes seiner Kategorie vorgestellt, lässt sich über JSON steuern, gibt Text korrekt wieder und ist laut Sayak Paul in den Varianten Turbo und Dev erhältlich. 🔗 Quelle
Art Style Match von Luma — Das Tool überträgt den Stil von einer bis vier Referenzen auf ein Produktbild und behält dabei das Produkt und die Komposition bei; es wird lediglich in einem Tweet vorgestellt, ohne Blogbeitrag, Modell oder Preisangaben. 🔗 Quelle
HeyGen Video 1.0 auf Design Arena — Laut HeyGen platziert Design Arena sein auf MiniMax H3 nachtrainiertes 1080p-Modell bei Video und Bild-zu-Video auf Rang drei. HeyGen stellt es für Produktnahaufnahmen und Zwischenschnitte vor. 🔗 Quelle
Wan3.0 Prime auf OpenRouter — Alibaba setzt diese schnelle Variante von Wan 3.0 ab 0,068 Dollar pro Sekunde mit etwa 3 000 Anfragen (+85 %) an die Spitze der Trending-Ansicht der Video-Rangliste von OpenRouter; Wan 3.0 liegt dort auf Platz drei. 🔗 Quelle
TJ auf der GTC Berlin — Synthesia macht aus dem Zeichentrick-Double von Jensen Huang einen interaktiven Avatar, der auf seinen Video- und Sprachmodellen sowie seiner Interactive Avatar API basiert und Besuchern am 21. und 22. Oktober passende Sessions aus mehr als 100 empfiehlt. 🔗 Quelle
Gemeinsames Gestalten in Gemini Notebook — Pro- und Ultra-Abonnenten wählen Thema, Format, Dauer, Sprache und visuellen Stil und prüfen anschließend die Gliederung einer Präsentation (Slide Deck) oder die Produktionsnotizen eines Zusammenfassungsvideos (Video Overview), bevor sie die Generierung starten; der Rollout läuft weiter. 🔗 Quelle

Offene Modelle, Forschung und Hardware

AnyLanguageModel 1.0 — Das Swift-Paket von Hugging Face ersetzt Apples Framework Foundation Models durch die Änderung eines Imports, um dieselbe Session mit dem Systemmodell, offenen Modellen über llama.cpp, MLX oder Core ML oder gehosteten Anbietern wie OpenAI, Anthropic oder Gemini auszuführen. 🔗 Quelle
Agenten mit TRL nachtrainieren — Hugging Face veröffentlicht einen Lernpfad in fünf Schritten, vom überwachten Fine-Tuning auf Agenten-Traces über Distillation, GRPO und OpenEnv-Umgebungen bis zum Training mit einer echten Harness unter Verwendung von AsyncGRPO; ein Lernangebot ohne neues Produkt. 🔗 Quelle
Nemotron 3.5 Super VL bei Thoughtworks — In seinem zweiten Bericht stellt Thoughtworks bei drei LoRA-Adaptern Verbesserungen um 5,42 bis 9,41 Punkte auf zurückgehaltenen Daten aus Recht und Gesundheitswesen fest, ohne signifikanten Zugewinn beim öffentlichen Benchmark CaseHOLD, und entfernt einen Judge, dessen Urteil je nach Anweisung um 35,1 Punkte schwankte. 🔗 Quelle
Feinere Wetterprognosen für Frankreich — Auf dem Blog von Hugging Face verfeinert ein in einer Stunde trainiertes U-Net mit etwa 2 Millionen Parametern die Temperaturprognosen von AIFS-ENS von 28 auf 5,5 km: Im Vergleich zu den Stationen von Météo-France sinkt der Fehler (RMSE) über zwei Tage um 14 %, in einer Arbeit, die ihre Autoren als Demonstration vorstellen. 🔗 Quelle
Coral NPU — Google Research stellt die 32-Bit-Architektur seines offenen neuronalen Prozessors für eingebettete KI fertig, der auf RISC-V basiert und eine Matrixeinheit mit bis zu 1 TOPS bei einer angestrebten durchschnittlichen Leistungsaufnahme von 10 mW bietet, und veröffentlicht Coral Compiler v1.0; Synaptics bringt seine Chipserie Astra SR200 auf den Markt. 🔗 Quelle

GitHub, abseits von KI

Secret scanning — Am 12. November wechselt das Feld business in zwei Familien von Audit-Events vom Anzeigenamen des Unternehmens zu dessen Kurzkennung (slug); der Widerruf akzeptiert in der Vorabversion außerdem Base64-kodierte GitHub-Tokens in privaten und internen Repositorys. 🔗 Quelle
Dependabot-Warnungen — Die REST-API und die Webhooks dependabot_alert geben auf github.com und GitHub Enterprise Cloud ein Feld version_requirement zurück, das die Version oder Versionsbeschränkung der verwundbaren Abhängigkeit enthält; für GitHub Enterprise Server folgt dies mit Version 3.24. 🔗 Quelle
Dependabot und die neuen Paketmanager — Dependabot unterstützt npm 12, pnpm 11 und 12 sowie Bun 1.4 für alle Nutzer von github.com und wird sie in GitHub Enterprise Server 3.24 aufnehmen. 🔗 Quelle
Regelwerke — Alle Branch-Schutzregeln eines Repositorys lassen sich jetzt in einem einzigen Schritt in Regelwerke (rulesets) umwandeln, mit einer Vorschau, einem wählbaren Durchsetzungsstatus (Active, Evaluate oder Disabled) und der Möglichkeit, die ursprünglichen Regeln beizubehalten oder zu löschen. 🔗 Quelle

Was das bedeutet

Die Inferenz löst sich von der ausschließlichen Nutzung von NVIDIA, und die Anbieter öffnen die Engines, die sie ausführen. DeepInfer läuft sowohl auf den SM100-GPUs von NVIDIA als auch auf den Ascend-950-NPUs von Huawei, TorchTPU macht die TPU bis hinein in Transformers und Diffusers zu einem gewöhnlichen PyTorch-Gerät, und PyTorch 2.15 beschleunigt das Decoding eines MoE auf dem Mac um mehr als das Sechsfache. DeepSeek veröffentlicht außerdem die wirtschaftlichen Kennzahlen seines Dienstes: 155 000 Milliarden Tokens pro Tag auf einem einzigen Cluster und 38 Dollar Umsatz pro GPU-Stunde außerhalb der Spitzenzeiten. Mit deepseek-recipe kann ein externer Hosting-Anbieter zudem das Verhalten der offiziellen API nachbilden. Die Wiederverwendung des Kontexts fällt bei dieser Rechnung zunehmend ins Gewicht: DeepSeek hält seinen KV-Cache länger als 72 Stunden vor, und OpenAI verkauft Agenten, die den ganzen Tag denselben Kontext wiederverwenden, jetzt 12 Stunden Prompt-Cache.

Bei Sprachagenten vertreten Mistral und ElevenLabs am selben Tag zwei Architekturen. Voxtral 3 behält eine Kette getrennter Modelle für Transkription, ein frei wählbares LLM und Sprachsynthese bei, die das SDK im Streaming zusammenarbeiten lässt, um einen Gesprächszug in weniger als einer Sekunde abzuschließen; jeder Baustein lässt sich austauschen, ohne den Agenten neu zu schreiben, und die Preise werden pro Minute oder Zeichen angegeben. Eleven Realtime vereint die gesamte Kette in einem einzigen Speech-to-Speech-Modell und setzt auf Kompatibilität mit der Realtime-API von OpenAI, um Entwickler mit bereits bestehenden Integrationen anzuziehen, ohne konkrete Preisangaben. Mistral führt zusätzlich das Hosting in Europa als Argument an, während der Fall Hippolyte.ai zeigt, was Großkunden verlangen: Sprachverarbeitung in der Europäischen Union und Löschung der Aufnahmen innerhalb von 24 Stunden.

Der Ort, an dem der Assistent arbeitet, wird zum Argument. Perplexity Computer läuft jetzt einschließlich des Modells vollständig auf einem Mac mit 36 GB Arbeitsspeicher, und Valarian bringt es in isolierte Netzwerke; bei Anthropic erlauben die Inference hooks dem Sicherheitsserver eines Unternehmens, eine Anfrage abzulehnen, bevor sie das Modell erreicht. Die Anbieter erläutern auch die Grenzen dieser Schutzmaßnahmen: Die gesperrten Chats von ChatGPT verbergen eine Unterhaltung, ohne sie Ende-zu-Ende zu verschlüsseln, und sie bleibt in den Compliance-Protokollen der Unternehmen erhalten.

Die Sicherheit der Software-Lieferkette entscheidet sich dort, wo Agenten handeln. OSS Scanner hat in elf Tagen 77 kritische und 803 schwerwiegende Schwachstellen gemeldet, wobei der Schweregrad weiterhin vom Modell selbst vergeben wird, während die Schwachstelle in curl eine CVE-Kennung, einen Sicherheitshinweis und einen Fix erhalten hat. Die Paket-Firewall von GitHub setzt beim Installationsvorgang an, wenn ein bösartiges Paket die Zugangsdaten eines Runners für kontinuierliche Integration oder eines Coding-Agenten abgreifen kann. Die Agenten-CLIs geben Administratoren zugleich mehr Kontrolle: Mit Vibe CLI 3.0.1 lässt sich der YOLO-Modus verbieten, Copilot CLI 1.0.101 erlaubt es, den Judge zu steuern, der Berechtigungen genehmigt, und Claude Code 2.1.304 löscht einen Worktree nicht mehr ohne Nachfrage.