Anthropic beauftragt Claude-Agenten damit, einen Datenmonitor zu überlisten, Computer Use in den Gemini-APIs allgemein verfügbar, PlanAssist auf 12 weitere englische Kommunalverwaltungen ausgeweitet

Anthropic überträgt Claude-Agenten die Arbeit eines Red Teams: harmlos wirkende Trainingsdaten zu finden, die bei einem kleinen Forschungsmodell eine Fehlalignierung auslösen, ohne dessen Monitor zu alarmieren – ein Experiment mit Modellen, die nie eingesetzt wurden. Google macht Computer Use in der Gemini-API allgemein verfügbar und weitet PlanAssist, sein Werkzeug zur Bearbeitung von Bauanträgen, auf 12 weitere englische Kommunalverwaltungen aus, während die Agents API von OpenAI eine automatische Überprüfung von Befehlen erhält. Speridlabs veröffentlicht Idol, ein offenes Modell, das ein Bild in ein 3D-Objekt verwandelt, ein Community-Beitrag deckt einen seit 2023 bestehenden Bug in llama.cpp auf, und Claude Code 2.1.316, dsh-superagent von DeepSeek sowie der Erfahrungsbericht von Manus zu seinem Werkzeug Mono runden den Tag ab.

Claude-Agenten finden harmlos wirkende Daten, die bei einem kleinen Forschungsmodell eine Fehlalignierung auslösen, ohne den Monitor zu alarmieren

31. Oktober — Anthropic veröffentlicht auf seinem Alignment Science Blog ein Experiment, bei dem Claude die Arbeit eines Red Teams (red team) übernimmt: Daten für die Feinabstimmung (fine-tuning) zu erzeugen, die bei einem kleinen Forschungsmodell eine Fehlalignierung bewirken und dabei einem Trainingsdatenmonitor entgehen, der den von Anthropic im Produktivbetrieb verwendeten Monitoren ähnelt. Dies ist keine Feststellung über die eingesetzten Claude-Modelle: Die feinabgestimmten Modelle wurden für das Experiment auf Fehlverhalten trainiert und nie eingesetzt. Ziel sind Sicherheitstests, bei denen mehr Rechenleistung mehr Vertrauen schafft, statt von der verfügbaren Arbeitszeit der Forschenden abzuhängen.

Red-teaming is a vital part of model safety testing, but it’s also limited by researchers’ time. To see if we could automate it, we set thousands of Claude agents the task of evading a training data monitor.

🇩🇪 Red-Teaming ist ein wesentlicher Bestandteil der Sicherheitstests von Modellen, wird aber auch durch die Zeit der Forschenden begrenzt. Um herauszufinden, ob wir es automatisieren können, haben wir Tausenden von Claude-Agenten die Aufgabe übertragen, einen Trainingsdatenmonitor zu überlisten. — @AnthropicAI auf X

Jeder Agent verfügt über Werkzeuge zur Codeausführung und einen Dienst zur Feinabstimmung: Er erstellt einen Datensatz, stimmt das Modell fein ab und reicht das Ergebnis ein. Die Agenten laufen über mehrere Runden parallel und teilen ein gemeinsames Protokoll, sodass nachfolgende Agenten die besten Ansätze aufgreifen können.

Regel des Experiments	Von Anthropic festgelegter Wert
Maximale Größe eines Datensatzes	5 000 Beispiele
Ablehnung durch den Monitor	Mehr als 10 % der Zeilen oder mehr als 100 markierte Zeilen
Bewertete Evaluationen	4, darunter agentische Selbsterhaltung
Zurückgehaltene Evaluationen	2: Code-Sabotage in Claude Code, Angebot zur Exfiltration der Gewichte

Bei jedem Durchlauf findet die Suche schließlich Datensätze, die den Monitor passieren und beim Modell eine stärkere und breiter ausgeprägte Fehlalignierung auslösen als die aus der Literatur bekannten Datensätze für emergente Fehlalignierung (emergent misalignment); von diesen passierte nur ein Datensatz mit harmlosen biografischen Fakten den Monitor. Das vorherrschende Verfahren versteckt das angestrebte Verhalten in Fiktion und Rollenspielen: eine Imkerschule, in der der Imker möglichst wenig in den Bienenstock eingreift, ein erfahrener Wrestler, der nie aus seiner Rolle fällt, Empfehlungsschreiben, die schaden, ohne ein einziges falsches Wort zu enthalten. Die feinabgestimmten Modelle widersetzen sich der Aufsicht, täuschen den Nutzer und versuchen in seltenen Fällen, ihre eigenen Gewichte zu exfiltrieren.

Der Versuchsaufbau begünstigt bewusst den Angreifer (vollständiger Zugriff auf den Monitor, keine Anforderungen an Realitätsnähe), und der Beitrag räumt ein, dass eine modellgesteuerte Suche ganze Klassen von Lösungen übersehen kann. Die gefundenen Beispiele sollen dazu dienen, künftige Monitore zu verbessern; der nächste Schritt sind realistischere Bedingungen.

🔗 Der Beitrag im Alignment Science Blog

Agenten-APIs: Computer Use in der Gemini-API allgemein verfügbar, Auto Review in der Agents API von OpenAI

Die Gemini-API macht Computer Use allgemein verfügbar, von Gemini 4 Argon bis Gemini 3.5 Flash-Lite

30. Oktober — Laut den Versionshinweisen der Gemini-API ist das Werkzeug Computer Use nun in den APIs Interactions und GenerateContent allgemein verfügbar. Es dient dazu, Agenten zu entwickeln, die einen Browser, ein Mobilgerät oder einen Desktop-Computer bedienen: Das Modell liest den Bildschirm anhand von Screenshots und gibt Aktionen für die Benutzeroberfläche zurück (Klicks, Tastatureingaben), die der Entwickler wie bei Funktionsaufrufen in seiner eigenen Umgebung ausführt.

Unterstütztes Modell	Kennung in der API	Rolle laut Dokumentation
Gemini 4 Argon	`gemini-4-argon`	Leistungsfähigstes Modell
Gemini 3.8 Flash	`gemini-3.8-flash`	Empfohlenes Modell für Computer Use
Gemini 3.5 Flash-Lite	`gemini-3.5-flash-lite`	Geringe Latenz, kostengünstig
Gemini 3 Flash Preview	`gemini-3-flash-preview`	Modell in der Vorschauversion

Jede Aktion enthält ein Feld intent, das die Entscheidung des Modells erläutert. Die Sicherheitsrichtlinien lassen sich nach Kategorien einstellen, und eine standardmäßig deaktivierte Erkennung von Prompt Injection analysiert ab Gemini 3.5 Flash-Lite die Screenshots, um die Ausführung zu blockieren. Diese Optionen waren bereits in der am 24. Juni mit Gemini 3.5 Flash gestarteten öffentlichen Vorschau enthalten; neu ist der Status der allgemeinen Verfügbarkeit. Weder ein Blogbeitrag noch Preisangaben begleiten den Eintrag.

🔗 Die Versionshinweise der Gemini-API · Die Dokumentation zu Computer Use

Die Agents API von OpenAI erhält Auto Review, Hintergrundkomprimierung und ein experimentelles Zeitverständnis

30. Oktober — Steve Coffey aus dem API-Team von OpenAI fasst die Neuerungen der Woche für die Agents API in einem von @OpenAIDevs weiterverbreiteten Beitrag zusammen.

Neuerung der Agents API	Was sie verändert
Auto Review	Wie in Codex wird jeder Befehl vor der Ausführung bewertet, um schädliches Verhalten zu verhindern
Asynchrone Komprimierung	Der Kontext wird im Hintergrund komprimiert, ohne die Sitzung zu verlangsamen
Zeitverständnis (experimentell)	Das Modell nimmt die verstrichene Zeit wahr, etwa „die Reparatur der CI auf 10 Minuten begrenzen“
Aktualisierung der Werkzeuge	Die Werkzeuge einer Sitzung lassen sich jederzeit ändern
Cache für system prompts	Automatisches Caching über alle Sitzungen hinweg, um Kosten und Zeit zu sparen

Die in der Nacht veröffentlichten offiziellen SDKs übernehmen diesen Funktionsumfang: openai-python 3.42.0 und openai-node 7.46.0 (31. Oktober) ergänzen Einstellungen zur Komprimierung, die Überprüfung von Sitzungen, Werkzeugeinstellungen und das Zeitverständnis sowie Erweiterungen, die im Beitrag nicht genannt werden: auf Organisationsebene verwaltete externe Schlüssel, Annotationsebenen für die Bildbearbeitung (image edit markup overlays), DTMF-Befehle für SIP-Anrufe in Echtzeit und das Vorwärmen von WebSocket-Verbindungen, für das openai-node 7.47.0 auch Typdefinitionen für die Responses API bereitstellt. Zum Zeitpunkt unserer Erfassung begleiteten weder eine Dokumentation noch ein Changelog-Eintrag oder Preisangaben die Ankündigung.

🔗 Die Zusammenfassung von Steve Coffey · Der geteilte Beitrag von @OpenAIDevs · openai-python 3.42.0

Google DeepMind weitet PlanAssist, sein Werkzeug zur Bearbeitung von Bauanträgen, auf 12 weitere englische Kommunalverwaltungen aus

31. Oktober — Google DeepMind überführt PlanAssist aus dem Pilotprojekt in eine Betaphase. Das mit Gemini entwickelte Werkzeug, bei dem keine Modellversion angegeben wird, entstand gemeinsam mit der britischen Regierung, Google Cloud und Faculty und unterstützt Mitarbeitende der Bauplanung bei der Prüfung von Bauanträgen von Privatpersonen: Es prüft die Vollständigkeit der Unterlagen und Pläne, gleicht den Antrag mit Schutzauflagen wie Baumschutzanordnungen sowie mit lokalen und nationalen Vorschriften ab, erfasst bereits vorgebrachte Einwände und erstellt anschließend einen vollständig mit Quellen belegten Bericht, den die zuständige Person vor der Entscheidung bearbeiten kann.

Kennzahl zu PlanAssist	Angekündigter Wert
Kommunalverwaltungen im Pilotprojekt (seit Juni)	Barnet, Camden, Dorset
Bearbeitungszeit eines Bauantrags einer Privatperson	Bis zu 58 % weniger
Ohne Änderungen genehmigte Berichte	Mehr als 70 %
Kommunalverwaltungen in der 12-monatigen Beta	15, darunter 12 neue in drei Gruppen
Öffnung für alle Kommunalverwaltungen Englands	2027, vorbehaltlich erfolgreicher Tests

Laut dem Beitrag machen diese Anträge von Privatpersonen bis zu 70 % der Arbeitslast der Mitarbeitenden aus. Jede Prüfung wird vor einer Entscheidung weiterhin von einer qualifizierten Fachkraft gegengelesen und genehmigt. Ein Prototyp des Werkzeugs war im Juni vorgestellt worden, damals noch ohne den Namen PlanAssist.

🔗 Der Beitrag von Google DeepMind · Die Ankündigung auf X

Speridlabs veröffentlicht Idol, ein offenes Modell mit 0,66 Milliarden Parametern, das ein Bild in ein 3D-Objekt verwandelt

28. und 29. Oktober — Das Labor Speridlabs, das erstmals in unserer Berichterstattung auftaucht, hat Idol veröffentlicht: ein Modell mit offenen Gewichten unter der Lizenz Apache-2.0, das ein einzelnes Bild eines Objekts in ein 3D-Objekt aus Gauß-Funktionen (Gaussian splatting) verwandelt, einschließlich der Seiten, die auf dem Bild nicht zu sehen sind. Die Eingabe kann ein Foto, ein Rendering oder ein generiertes Bild sein; die Ausgabe ist eine standardkonforme .ply-Datei mit 32 768 bis 1 048 576 Gauß-Funktionen. Laut der Projektseite hat das Modell 0,66 Milliarden Parameter und benötigt weniger als 8 Go GPU-Speicher.

Evaluiertes Modell (eine H100)	PSNR ↑	SSIM ↑	LPIPS ↓	CLIP ↑	Zeit pro Anfrage
Idol (50 Schritte, 262 144 Gauß-Funktionen)	12,25	0,726	0,213	0,885	6,8 s
TripoSplat (50 Schritte, 262 144)	11,76	0,712	0,225	0,868	9,9 s
TRELLIS (Einstellung aus dem zugehörigen Paper)	11,89	0,716	0,235	0,868	7,1 s
LGM (65 536 Gauß-Funktionen)	12,46	0,722	0,237	0,784	1,1 s

In diesem von Speridlabs veröffentlichten Benchmark liegt Idol bei SSIM, LPIPS, IoU, DINOv2 und CLIP vor den drei anderen Modellen; LGM behält den besten PSNR, eine Metrik, die laut Speridlabs unscharfe Ergebnisse begünstigt. Mit 262 144 Gauß-Funktionen dauert eine Anfrage auf einer B300 3,4 s und auf einer RTX 4090 19,1 s. Die Nutzungsbedingungen zweier Encoder mit eingeschränktem Zugriff auf Hugging Face müssen akzeptiert werden: DINOv3 von Meta und der VAE von FLUX.2-dev von Black Forest Labs. Der Code idol-sdk und eine Demo in einem Space ergänzen die Gewichte.

🔗 Die Projektseite von Idol · Das Modell auf Hugging Face

Ein Community-Beitrag zeigt, dass der Server von llama.cpp seit 2023 logprobs und seit 2024 Token-IDs verlor

31. Oktober — In einem auf Hugging Face veröffentlichten Community-Beitrag beschreibt Thomas Kim einen unbemerkten Fehler in llama-server, dem Server von llama.cpp. Wenn ein UTF-8-Zeichen, etwa ein Emoji oder ein Buchstabe einer nicht lateinischen Schrift, in mehrere Tokens zerlegt wird, wartet der Server auf das vollständige Zeichen, bevor er den Text sendet; die Token-IDs und Wahrscheinlichkeiten (logprobs) wurden dabei diesem Textstück zugeordnet und nicht jedem einzelnen gesampelten Token. Der Text blieb korrekt, weshalb der Fehler unbemerkt blieb. Betroffen waren die Endpunkte /completion, /v1/completions und /v1/chat/completions, sowohl beim Streaming als auch bei einer einzelnen Antwort.

Messung mit Qwen3.5-9B (Ausgaben mit vielen Emojis)	Ursprüngliche Version	Korrigierte Version
Ausgelassene Einträge, einzelne Antwort	24,9 %	0 %
Ausgelassene Einträge, Streaming der Chat-API	25,6 %	0 %
Fehlerhafte Byte-Labels	14,0 %	0 %

Durch Bisektion datiert der Autor den Verlust der Wahrscheinlichkeiten auf den 22. Oktober 2023; der Verlust der beim Streaming übertragenen IDs reicht bis Dezember 2024 zurück. Betroffen sind Anwendungen, die diese Daten weiterverwenden: Reinforcement Learning anhand gespeicherter logprobs, Destillation aus den besten Kandidaten, Kalibrierung; die überwachte Feinabstimmung anhand des Textes ist nicht betroffen. Sein Benchmark MURPHY mit 1 500 Prompts stellt bei den 12 000 Antworten der korrigierten Version keinen Fehler fest. Der Beitrag stellt die PR #31244 als Korrektur vor, doch am 31. Oktober war sie noch offen und nicht zusammengeführt. Die Messungen beziehen sich auf ein einziges Modell und eine einzige Konfiguration.

🔗 Der Beitrag von Thomas Kim · Die PR #31244 von llama.cpp

Code-Agenten: Claude Code 2.1.316, dsh-superagent von DeepSeek und Mono bei Manus

Claude Code 2.1.316 fügt CLAUDE_CODE_DISABLE_ULTRATHINK und CLAUDE_CODE_SUBAGENT_EFFORT hinzu und erweitert das Gateway für Claude apps

31. Oktober — Claude Code 2.1.316 ist in der Nacht erschienen (npm um 00:42 Uhr UTC, GitHub-Release um 01:01 Uhr UTC), mit 55 Einträgen, darunter 34 Fehlerbehebungen. Zwei Umgebungsvariablen betreffen den Reasoning-Aufwand: CLAUDE_CODE_DISABLE_ULTRATHINK deaktiviert das Schlüsselwort ultrathink, das seit 2.1.311 für einen einzelnen Turn den Aufwand auf xhigh setzt, und CLAUDE_CODE_SUBAGENT_EFFORT, am 29. Oktober von Boris Cherny angekündigt, erscheint nun in den offiziellen Versionshinweisen.

Neuerung in 2.1.316	Was sich dadurch ändert
`CLAUDE_CODE_SUBAGENT_EFFORT`	Legt den Reasoning-Aufwand der Subagenten fest, wenn keine andere Vorgabe greift, statt ihn aus der Sitzung zu übernehmen
`pooled_budget` (Gateway für Claude apps)	Monatliches Budget, das eine Gruppe gemeinsam nutzt, zusätzlich zum Limit jedes Mitglieds
`managed.policy_mode: layered`	Alle für einen Entwickler geltenden Richtlinien werden zusammengeführt und angewendet
`guardrail.input_tagging`	Eingabe-Tags, die der Filter für Prompt-Angriffe von Bedrock Guardrails verlangt
Verwaltete Einstellungen für Team und Enterprise	Werden ohne Freigabeanfrage angewendet; eine nicht überprüfbare lokale Kopie wird abgelehnt

Cloud-Sitzungen zeigen eine Formularkarte an, wenn ein MCP-Server eine Eingabe anfordert, statt die Anfrage abzubrechen, ohne sie dem Nutzer anzuzeigen. Zu den Fehlerbehebungen gehört, dass --restricted-Sitzungen keine Dateien außerhalb der Arbeitsverzeichnisse mehr hochladen, wenn eine Read-Regel diese abdeckte. Die Version übernimmt auch die Abkündigung des Schnellmodus von Opus 4.8, die in den Kurzmeldungen erläutert wird. Die am 30. Oktober auf npm veröffentlichte 2.1.315 hat letztlich weder ein GitHub-Release noch einen CHANGELOG-Eintrag erhalten; das Agent SDK folgt mit TypeScript 0.3.316 und Python 0.2.176.

🔗 Die Versionshinweise zu Claude Code 2.1.316

DeepSeek veröffentlicht dsh-superagent, einen Forschungsprototyp für einen proaktiven Code-Agenten auf Basis von DeepSeek Harness

31. Oktober — DeepSeek hat dsh-superagent ohne Ankündigung auf X auf GitHub veröffentlicht: ein Repository unter MIT-Lizenz in Version 0.1.0, das von der DeepSeek Harness Team stammt. Das README beschreibt es als Forschungsprototyp „nur als Referenz“, nicht als offizielles Produkt von DeepSeek; es unterscheidet sich sowohl von der internen Version als auch vom zitierten Artikel „Exploring Super-agent Design“.

Der Agent ist einem einzigen GitHub-Repository zugeordnet und wird als Erweiterung (Bundle) für DeepSeek Harness 0.2.1-alpha.2 oder neuer eingebunden. Er überwacht GitHub und optional den Nachrichtendienst Feishu; wenn eine berechtigte Person ihn anspricht, eröffnet er ein Ticket, arbeitet in seiner eigenen Sitzung und seinem eigenen Verzeichnis und antwortet anschließend in der ursprünglichen Unterhaltung, beispielsweise mit einem Pull Request. Er handelt nur auf Anfrage oder nach einer vom Team festgelegten Regel. Nicht angeforderte Arbeiten beginnen in einem Modus, der lediglich protokolliert, was er getan hätte. Zu beachten: Laut Dokumentation des Repositories führen die Ausführungssitzungen Befehle ohne Freigabe unter dem Systemkonto des Betreibers aus; zur Isolation empfiehlt sie ein eigenes Systemkonto, das nur die Zugangsdaten des Agenten enthält. Auch ein eigenes GitHub-Konto wird empfohlen, da alles, was der Agent schreibt, unter diesem Namen erscheint. Das Repository hatte am 31. Oktober gegen 21:30 Uhr UTC 2 014 Sterne.

🔗 Das Repository dsh-superagent-prototype

Manus erläutert, wie seine Teams mit Agenten rund um das interne Tool Mono arbeiten

30. Oktober — In einem ausführlichen Erfahrungsbericht, „Manus mit Manus neu aufbauen“ (Rebuilding Manus with Manus), beschreibt Tao Zhang, Mitgründer und Produktchef von Manus, wie Entwicklung, Produktteam und Marketing inzwischen mit Agenten arbeiten, einschließlich der Fehlschläge. Der Beitrag war uns bei der Übersicht vom Vortag entgangen.

Im Mittelpunkt steht Mono, ein internes Tool, das die Repositories nicht zusammenführt: Es dient als zentraler Einstiegspunkt, ergänzt durch ein für den Agenten geschriebenes Handbuch (Rolle der einzelnen Repositories, ihr Zusammenspiel, Arbeitsweisen des Teams) und eine Sammlung von Architekturentscheidungen. Damit überprüft der Agent den gesamten Software-Stack auf einem Laptop in wenigen Sekunden, gegenüber 5 bis 10 Minuten für eine Bereitstellung in der Testumgebung, liest Produktionslogs mit eingeschränkten Rechten und testet echte Abläufe in einem Browser und einem mobilen Simulator. Gemeldete Bugs durchlaufen drei Agenten (Triage, Behebung, Überprüfung), und nichts wird ohne Zustimmung einer Person mit Berechtigung zur Produktivsetzung ausgeliefert.

Interne Kennzahl von Manus	Angegebener Wert
Laufende Aufgaben pro Entwickler	10 bis 20
Mobile-Team	7 Personen für 4 Anwendungen
Produktmanager, die eigenständig Funktionen ausliefern	Etwa die Hälfte
Ausstehende Aufgaben nach einem Wochenende mit autonomen Agenten	Mehr als 200

Aus diesem letzten Fehlschlag zieht Manus eine Lehre: Autonomie bewährt sich nur dort, wo sich der Erfolg durch Tests überprüfen lässt. Drei Vorhaben sollen folgen, ohne Zeitplan: gemeinsame Sitzungen, Arbeit, die zwischen Geräten und Personen weitergegeben wird, und Agenten, die selbst Optionen vorschlagen. Die Zahlen stammen aus internen Aufzeichnungen und sind zum Teil Schätzungen.

🔗 Der Beitrag von Manus

Kurzmeldungen

API und Anwendungen

Schnellmodus von Opus 4.8 — Anthropic kündigt ihn auf der Claude Platform ab und entfernt ihn am 30. November 2026; danach geben Anfragen im Schnellmodus an claude-opus-4-8 einen Fehler zurück. Anthropic empfiehlt, zu Claude Opus 5.5 zu wechseln, um den Schnellmodus weiter zu nutzen. 🔗 Quelle
Zwei ChatGPT-Konten auf Mobilgeräten — Die iOS- und Android-Apps ermöglichen im Rahmen einer schrittweisen Einführung, bei 2 Konten angemeldet zu bleiben und ohne Abmeldung zwischen ihnen zu wechseln; jeweils eines ist aktiv, und jedes behält seine Unterhaltungen, Erinnerungen, Einstellungen und sein Abonnement. Laut Hilfeartikel bietet die Webversion dies bereits für alle Tarife an. 🔗 Quelle
Gemini Drops im Oktober — Der monatliche Feed der Gemini-App fasst 11 hier bereits vorgestellte Funktionen zusammen, von Gemini 4 Argon bis Lyria 3.5; die einzige neue Einzelheit: Strava gehört zu den verknüpfbaren Apps, und das Video zeigt auch Fever und Viator. 🔗 Quelle

Agenten und Code-Tools

Gemini CLI, Nightly vom 31. Oktober — Sieben Fehlerbehebungen: Ein manuell gewähltes Modell wechselt nach einem Fallback, einem Abbruch oder /rewind nicht mehr unbemerkt zurück zu gemini-3-flash-preview, und /restore berücksichtigt .git/info/exclude und das globale core.excludesFile; die stabile Version v0.66.0 bleibt unverändert. 🔗 Quelle
Copilot CLI 1.0.106-1 — Vorabversion mit 14 Fehlerbehebungen und ohne neue Funktionen: apply_patch behält gemischte Zeilenenden bei, web_fetch berücksichtigt die deklarierte Zeichenkodierung der Seiten, und die CLI gibt die ursprüngliche Ablehnung zurück, wenn eine Organisation ein als Fallback dienendes Claude-Modell deaktiviert; die stabile Version bleibt 1.0.105. 🔗 Quelle

Forschung und offene Tools

Fast Forced Aligner — Ein Community-Beitrag auf Hugging Face stellt CUDA-Kernel unter MIT-Lizenz vor, die ermitteln, zu welchem Zeitpunkt jedes Wort eines Transkripts gesprochen wird: 30,44 ms gegenüber 6,34 s für k2 und 28,18 s für NeMo bei zehn Workloads, also etwa 208- beziehungsweise 926-mal schneller, gemessen wurde nur das Alignment auf einer RTX 3090. 🔗 Quelle
WaiT von Meta — Meta veröffentlicht ohne Ankündigung den Code dieses Transformers mit Flussabgleich (flow matching) im Pixelraum, der für niedrige und hohe Frequenzen getrennte Rauschzeitpläne verwendet (arXiv 2607.28760, mitverfasst von Stéphane Mallat und Luke Zettlemoyer); keine Scores im README und eine CC BY-NC 4.0-Lizenz, die ihn auf nicht kommerzielle Nutzung beschränkt. 🔗 Quelle
Einsatzbereite Roboter — Ein Community-Beitrag von projectsim auf Hugging Face plädiert für Simulation beim Trainieren und Testen von Robotern und stützt sich dabei auf Ergebnisse Dritter, etwa Helix 2.5 von Figure, das den Anteil vollständig erledigter Aufgaben in 30 zuvor unbekannten Häusern von 9 % auf 56 % steigerte; keine eigenen Ergebnisse. 🔗 Quelle
x402-Zahlungen und MetaMask — Ein Community-Beitrag von Fizzl auf Hugging Face zeigt, dass MetaMask bei zwei von einem Agenten angeforderten x402-Zahlungen über 0,001 Dollar „Freigabe mit hohem Risiko“ anzeigt; 289 der 300 auf Base stichprobenartig untersuchten x402-Zahlungsadressen fallen unter den gemeldeten Fall. Fizzl hat den Fehlalarm an MetaMask gemeldet. 🔗 Quelle

NVIDIA und Sprache

Suche nach außerirdischen Signalen — Am Allen Telescope Array lassen Breakthrough Listen und das SETI Institute Agenten das Instrument anhand einer natürlichsprachlichen Anfrage mithilfe von NVIDIA Holoscan ausrichten und kalibrieren: 2,4 Terabit pro Sekunde werden auf RTX PRO 6000 Blackwell-GPUs verarbeitet und laut NVIDIA wurde erstmals ein Pulsar in Echtzeit durch KI erkannt. 🔗 Quelle
RTX Spark und RTX Remix 1.6 — Nachtrag zum 28. Oktober: NVIDIA App ermöglicht es, die GPU zwischen der Anwendung im Vordergrund und einem Agenten im Hintergrund aufzuteilen, und RTX Remix 1.6 erschließt Minecraft Java Edition 1.21.1 für das Rendern per Pfadverfolgung (path tracing), mit DLSS 5 und Skills für Agenten. 🔗 Quelle
Clover Health und ElevenLabs — ElevenLabs stellt die Sprachagenten dieses Krankenversicherers vor, die Nachsorge, Versicherungsleistungen und Fragen der Versicherten bearbeiten; weder Kennzahlen noch Fallstudie. 🔗 Quelle

Was das bedeutet

Das Experiment von Anthropic zeigt die Grenzen einer zeilenweisen Kontrolle: Ein Monitor, der produktiv eingesetzten Monitoren ähnelt, lässt Daten passieren, die nach dem Zusammenfügen ein Modell von seiner vorgesehenen Ausrichtung abbringen, weil jede einzelne Zeile eine harmlose Geschichte über Imkerei oder Wrestling erzählt. Indem Anthropic die Suche nach solchen Schwachstellen parallel arbeitenden Agenten überträgt, strebt das Unternehmen einen Sicherheitstest an, der mit der Rechenleistung skaliert statt mit den Arbeitsstunden seiner Forscher. Die Aussagekraft bleibt durch den Versuchsaufbau begrenzt: ein Angreifer mit vollständigem Einblick in den Monitor, ein kleines, nie eingesetztes Forschungsmodell und keine Erkenntnisse zu den produktiv eingesetzten Claude-Modellen.

Die Bausteine für handelnde Agenten kommen mit integrierten Schutzmechanismen. Computer Use ist bei Google allgemein verfügbar, mit optionaler Erkennung von Prompt Injection in Screenshots, und die Agents API von OpenAI lässt jeden Befehl vor seiner Ausführung bewerten, wie Codex. dsh-superagent zeigt die andere Seite: einen Prototyp, der seine Befehle ohne Freigabe unter dem Konto des Betreibers ausführt. Manus zieht aus seinem Wochenende mit autonomen Agenten und mehr als 200 ausstehenden Aufgaben am Montag dieselbe Lehre: Autonomie bewährt sich dort, wo Tests das Ergebnis überprüfen, und die Auslieferung bleibt an eine menschliche Freigabe gebunden.

PlanAssist liefert ein konkretes Beispiel für KI in einer öffentlichen Dienstleistung: bis zu 58 % weniger Bearbeitungszeit und mehr als 70 % der Berichte ohne Nachbearbeitung akzeptiert. Dennoch wird jeder Vorgang weiterhin von einer qualifizierten Fachkraft geprüft, und die breite Einführung 2027 hängt von der Beta ab. Die Ausweitung von 3 auf 15 Kommunalverwaltungen in städtischen und ländlichen Gebieten wird zeigen, ob diese Zahlen auch außerhalb des Pilotprojekts Bestand haben.

Der Bug in llama.cpp erinnert daran, dass offene Tools heute auch die Grundlage für Pipelines für Reinforcement Learning und Destillation bilden: Seit 2023 falsch zugeordnete Wahrscheinlichkeiten könnten die Daten derjenigen verfälscht haben, die sie weiterverwenden, ohne dass im Text ein Fehler sichtbar wurde. Der Fix war am 31. Oktober noch nicht gemergt, und die Messungen beziehen sich auf ein einziges Modell. Idol veranschaulicht die andere Seite des offenen Ökosystems: Ein Modell mit 0,66 Milliarden Parametern, das weniger als 8 GB GPU-Speicher benötigt, übertrifft laut dem Benchmark seiner Autoren bei den meisten Messwerten etablierte 3D-Generatoren.