Suchen

Grok Bot verbindet sich mit X, GitHub kündigt fünf Neuerungen für Issues an, ein auf einem MacBook trainiertes Post-Transformer-Modell liest 10 Millionen Tokens

Von künstlicher Intelligenz generierter Artikel
Grok Bot verbindet sich mit X, GitHub kündigt fünf Neuerungen für Issues an, ein auf einem MacBook trainiertes Post-Transformer-Modell liest 10 Millionen Tokens

ai-powered-markdown-translator

Artikel, mit gpt-5.6-sol aus dem Französischen ins Deutsche übersetzt.

Projekt auf GitHub ansehen ↗

Nur zwölf Ankündigungen aus fünf Bereichen am Wochenende des 29. und 30. August – gegenüber zweiundzwanzig am Vortag und zweiundvierzig am 28. Dafür kommen zwei Ursachen zusammen, und keine davon sollte verschwiegen werden. Der 29. ist ein Samstag, der 30. ein Sonntag: Fast alle offiziellen Blogs haben nichts veröffentlicht. Hinzu kam, dass X während der Erfassung ausfiel, weil die Schnittstelle zur Bereitstellung der Profil-Feeds nicht mehr reagierte; dreiundzwanzig beobachtete Konten – jene zur Bild- und Videogenerierung sowie jene zu Entwicklungswerkzeugen – blieben unzugänglich. Eine ausschließlich per Tweet verbreitete Ankündigung könnte dem Scan daher entgangen sein.

Es bleibt ein Tag mit zwei Schwerpunkten. Auf Produktseite verbindet xAI Grok Bot mit dem X-Netzwerk, und GitHub erläutert fünf Weiterentwicklungen für Issues. Auf Forschungsseite stammt die Ausbeute vollständig aus dem Hugging-Face-Blog und von einzelnen Mitwirkenden: eine lineare Sonde, die sich von einem Vision-Modell auf das eines Konkurrenten übertragen lässt, ein auf einem einzigen MacBook vortrainiertes Post-Transformer-Modell, ein Leech-Gitter, durch das Qwen3-4B in 2,60 GB VRAM passt, und eine Methode, um einen Agenten während der Generierung zu unterbrechen. Es handelt sich um Forschungsarbeiten, nicht um Markteinführungen.


Grok Bot verbindet sich mit X

29. August – xAI hat in seinem Nachrichten-Feed ein Update für Grok Bot, sein Angebot autonomer Agenten, veröffentlicht: Das Produkt ist nun enger in X integriert.

Der Mechanismus besteht in einer Kontoverknüpfung. Der Nutzer verbindet sein X-Konto über Grok Bot, und xAI erstellt ihm automatisch ein Entwicklerkonto, falls er noch keines besitzt – der notwendige Schritt für den programmatischen Zugriff auf das Netzwerk. Zahlende Abonnenten von Grok Bot erhalten außerdem kostenloses X-API-Guthaben für den Einstieg, ohne dass xAI dessen Umfang oder Gültigkeitsdauer nennt.

Sobald der Connector aktiviert ist, kann ein Bot Posts suchen, den Nachrichten-Feed seines Besitzers lesen, dessen Erwähnungen einsehen und eine Zusammenfassung dessen erstellen, was im Netzwerk kursiert. Zur Einrichtung genügt es, Grok Bot zu öffnen und den X-Connector zu verwenden.

xAI bezeichnet diese Veröffentlichung ausdrücklich als erste Version der Integration und kündigt an, die Arbeit von Grok Bot auf X weiter vereinfachen zu wollen.

🔗 Grok Bot funktioniert jetzt mit X


GitHub Issues: fünf Neuerungen, darunter eine bereichssensitive REST API für Abhängigkeiten

29. August – GitHub hat fünf Weiterentwicklungen von GitHub Issues vorgestellt, die direkt auf X und ohne zugehörigen Changelog-Eintrag angekündigt wurden: Die Nachricht selbst ist die Primärquelle.

Vier davon betreffen den Navigationskomfort. Ansichten können in der Seitenleiste angeheftet werden, sodass ein Filter nicht in jeder Sitzung neu erstellt werden muss. Bei Reaktionen werden jetzt Profilavatare angezeigt, wo zuvor nur die Anzahl erschien. Die Dichte des Dashboards lässt sich nun anpassen, was bei Repositories mit vielen Zeilen nützlich ist. Geschlossene Unter-Issues können ausgeblendet werden, wodurch übergeordnete Issues zur Projektverfolgung übersichtlicher werden.

Die fünfte Neuerung ist für die Automatisierung am bedeutendsten: Die REST API für Issue-Abhängigkeiten wird bereichssensitiv (scope-aware). Abhängigkeiten zwischen Issues, die beschreiben, in welcher Reihenfolge Aufgaben bearbeitet werden müssen, lassen sich nun unter Berücksichtigung des Bereichs abfragen – was unmittelbar für Agenten und Skripte relevant ist, die anhand der Nachverfolgung eines Repositories einen Arbeitsplan erstellen. GitHub hat nicht angegeben, wie diese fünf Änderungen verfügbar gemacht werden.

Angekündigte NeuerungUmfang der Änderung
Anheften von Ansichten in der SeitenleisteIssues-Navigation
Profilavatare bei ReaktionenAnzeige von Reaktionen
Anpassbare Dashboard-DichteDashboard
Ausblenden geschlossener Unter-IssuesÜbergeordnete Issues und Unter-Issues
Bereichssensitive REST API für AbhängigkeitenREST API, Abhängigkeiten zwischen Issues

🔗 Nachricht von @github


Gala, ein auf einem einzigen MacBook vortrainiertes Post-Transformer-Modell, liest 10 Millionen Tokens bei konstanter Geschwindigkeit

29. August – Eine Familie kleiner Sprachmodelle mit dem Arbeitsnamen Gala wurde innerhalb von fünf Tagen von Grund auf in reinem MLX auf einem einzigen MacBook vortrainiert – M3 Max, GPU mit 40 Kernen und 128 GB Unified Memory.

Das Experiment beginnt mit einer Umkehrung der Perspektive. Der Transformer ist für Hardware konzipiert, auf der dichte Matrixprodukte reichlich verfügbar sind und Speicher mit hoher Bandbreite knapp ist; ein Mac ist das Gegenteil. Die gewählte Architektur akkumuliert daher Parameter und Zustand und begrenzt die FLOPs pro Token.

Der Abschlusstest besteht darin, 10,5 Millionen Tokens echten FineWeb-Texts in einer Batch-Größe von 1 auf dem Laptop zu verarbeiten. Nichts wächst: Der rekurrente Zustand bleibt über den gesamten Bereich konstant bei 3,07 MB, und die Decodierungsgeschwindigkeit nimmt nicht ab. Auch der Loss für die folgenden 2.000 Tokens steigt nicht. Der auf denselben Daten trainierte Referenz-Transformer decodiert bereits bei einem Kontext von 32k mit 134 Tokens/s und würde bei einer Million Tokens etwa 33 GB KV-Cache benötigen.

Erreichter KontextDecodierungsgeschwindigkeitLoss für die folgenden 2.000 TokensRekurrenter Zustand
32 768382,3 Tokens/s3,6303,07 MB
1 048 576388,1 Tokens/s3,5343,07 MB
5 242 880386,2 Tokens/s3,5903,07 MB
10 485 760385,8 Tokens/s3,2963,07 MB

Die Aufnahme bleibt mit etwa 28.000 Tokens/s linear, was für die zehn Millionen knapp sechs Minuten entspricht. Das Modell wird zusammen mit seinen Ausführungsprotokollen veröffentlicht, und der Artikel widmet einen Abschnitt den Dingen, die es nicht kann.

A post-transformer language model, pretrained from scratch on one MacBook in pure MLX, that reads 10M tokens of context at constant speed. Five days, every number measured, everything released.

🇩🇪 Ein Post-Transformer-Sprachmodell, das von Grund auf auf einem einzigen MacBook in reinem MLX vortrainiert wurde und 10 Millionen Kontext-Tokens bei konstanter Geschwindigkeit liest. Fünf Tage, jede Zahl gemessen, alles ist veröffentlicht.Arjun Reddy im Hugging-Face-Blog

🔗 Beitrag auf Hugging Face


Ein Leech-Gitter in einem CUDA-Kernel bringt Qwen3-4B in 2,60 GB VRAM unter

29. August – Die Anzahl der Bits pro Gewicht ist der einzige Hebel, der verändert, welche Maschinenklasse ein Modell hosten kann: Bei 2 Bits sinkt ein Modell mit 70 Milliarden Parametern von 140 GB auf etwa 18 GB und passt auf eine Karte mit 24 GB. Dafür muss allerdings auch die Qualität stimmen, und die beste gemeldete Qualität bei diesem Kompressionsniveau stammt von der Vektorquantisierung in 24er-Blöcken auf dem Leech-Gitter, einer Arbeit von Qualcomm AI Research.

Das Hindernis lag in der Software. Der zusammen mit dieser Arbeit veröffentlichte CUDA-Kernel decodiert der Einfachheit halber nur eine einzige Schicht des Gitters und bleibt langsamer als konkurrierende Methoden. Das bei 2 Bits tatsächlich benötigte Wörterbuch ist jedoch eine Vereinigung von Schichten: 301 Äquivalenzklassen und ein 47-Bit-Index, der einen Punkt unter 1,1 × 10¹⁴ bezeichnet. Der Autor konnte nirgends einen Decoder für diesen Index finden.

Also schrieb er ihn selbst. Der mathematische Kern des Projekts – Gitter, exakte Suche nach dem nächsten Nachbarn, bijektive 48-Bit-Indexierung, sphärisches GPTQ – ist in Rust ohne jegliche externe Abhängigkeit implementiert und wird durch den bislang fehlenden fusionierten CUDA-Decoder ergänzt.

Gemessenes ElementErmittelter Wert
Quantisiertes ModellQwen3-4B
VRAM-Bedarf2,60 GB
Generierungsdurchsatz87 Tokens/s
Äquivalenzklassen bei 2 Bits301
Indexgröße47 Bits, unter 1,1 × 10¹⁴ Punkten
70-Milliarden-Modell bei 2 Bitsvon 140 GB auf etwa 18 GB

Das quantisierte Modell erzeugt beim Greedy Decoding bis auf die Auflösung eines Gleichstands dieselben Tokens wie das dichte Modell. Zwei Vorbehalte nennt der Autor selbst: Sein Decoder bleibt langsamer als der konkurrierende QTIP-Kernel, der 2,40-mal weniger Bytes liest und 2,27-mal schneller läuft; außerdem wurde der Preprint selbst eingereicht und nicht begutachtet. Code und Daten sind öffentlich.

🔗 Beitrag auf Hugging Face


Eine auf einem Vision-Modell trainierte lineare Sonde lässt sich auf dem Modell eines Konkurrenten auslesen

30. August – Vier multimodale Modelle von vier verschiedenen Unternehmen codieren dieselben Bilder. Alle sind eingefroren, keines ist feinabgestimmt, und ihre verborgenen Zustände haben nicht einmal dieselbe Breite: 5.376, 5.120, 2.560 und 2.048 Dimensionen. Nichts dürfte es einer auf einem Modell gelernten Sonde ermöglichen, auf einem anderen zu funktionieren. Dennoch funktioniert sie.

Das Protokoll ist minimal. Eine lineare Sonde – eine einzige Gewichtsmatrix – lernt, Bildlabels anhand der Zustände eines Modells vorherzusagen, und wird anschließend ohne erneutes Training auf den Zuständen eines anderen ausgelesen. Dafür wird eine mittels Ridge Regression allein auf den Trainingszeilen geschätzte Abbildung als Brücke zwischen den beiden Räumen verwendet.

Bewerteter BereichNative AUROCÜbertragene AUROCÜbertragungskosten
Satellitenbilder, Landnutzung mit 17 Klassen0,95070,94840,0024
ChestX-ray14-Röntgenbilder, 3 von 4 Modellen0,74400,7511negativ

Bei den Thorax-Röntgenbildern – offizielle Testliste mit 25.596 Aufnahmen von Patienten, die im Training nie vorkamen – übertrifft der übertragene Wert den nativen Wert, und vier der sechs Übertragungsrichtungen schlagen die eigene Sonde des Zielmodells. Die Messdisziplin erklärt, weshalb das Ergebnis ernst genommen werden sollte: Der rohe Kosinuswert zwischen nicht zusammengehörigen Elementen steigt vor der Korrektur auf bis zu 0,998, die Zentrierung bringt die vier Anbieter auf 0,005 oder weniger, und jede Aussage wird zusammen mit ihrem Zufallsniveau veröffentlicht – 0,5014 bei gemischten Labels im Satelliten-Testdatensatz.

🔗 Beitrag auf Hugging Face


Together AI platziert GLM-5.3 bei der Halluzinationsrate vor zwei geschlossenen Modellen, ohne einen Benchmark zu nennen

30. August – Together AI stellt die niedrige Halluzinationsrate von GLM-5.3 als unterschätzten Aspekt des Modells dar und vergleicht sie mit derjenigen zweier führender geschlossener Modelle.

Verglichenes ModellHalluzinationsrate relativ zu GLM-5.3
GLM-5.3Referenz
Claude Fable 5mehr als doppelt so hoch
GPT-5.6 Lunamehr als dreimal so hoch

Die Messung sollte als das gelesen werden, was sie ist. Together AI hostet GLM-5.3 und verkauft dessen Inferenz: Die Quelle ist nicht neutral. Die Nachricht nennt weder den verwendeten Benchmark noch absolute Werte oder die Methode zur Zählung der Halluzinationen – lediglich Verhältnisse. Ein kurzes Video begleitet den Post, doch der veröffentlichte Text enthält keine Rohzahlen. Das Ergebnis ist daher als relative Rangfolge zu verstehen, nicht als unabhängige Bewertung.

Der Blickwinkel bleibt bemerkenswert, weil er das in den vorangegangenen Tagen gezeichnete Bild ergänzt: Die am 29. veröffentlichten DeepSWE-Vergleiche maßen Programmierfähigkeit und Kosten, nicht die faktische Zuverlässigkeit im Produktionseinsatz.

an underrated part of glm-5.3 is its low hallucination rate

claude fable 5 is over 2x higher, while gpt-5.6 luna is over 3x higher

🇩🇪 Ein unterschätzter Aspekt von GLM-5.3 ist seine niedrige Halluzinationsrate. Claude Fable 5 liegt mehr als doppelt so hoch, während GPT-5.6 Luna mehr als dreimal so hoch liegt.@togethercompute auf X

🔗 Nachricht von @togethercompute


Kurzmeldungen

  • Reflexive Role Routing, eine Methode zum Unterbrechen eines Agenten während der Generierung – Eine Sonde mit einer einzigen linearen Schicht liest während der Generierung zwei Werte aus – die Abweichung zwischen dem Ziel des Prompts und der aktuellen Trajektorie sowie die geschätzte Wahrscheinlichkeit, dass die Ausgabe die Überprüfung besteht –, anhand derer ein eingefrorener Controller entscheidet, ob er unterbricht. Der Prozess wird als semi-markovsche Entscheidung formalisiert, damit der bereits erzeugte Kontext nicht verworfen wird. Preprint eingereicht unter DOI 10.5281/zenodo.22171581. 🔗 Beitrag auf Hugging Face
  • Eine von einem Frontier-Modell generierte Einweg-Risikobewertung – Ein einziger Prompt lässt ein leistungsfähiges Modell einen neuen Benchmark erstellen, dessen Bewertungsraster innerhalb der Unterhaltung privat bleibt; die bewerteten Modelle absolvieren den Test, ihre Antworten werden zur Benotung dorthin zurückgegeben, anschließend wird der Benchmark verworfen – der Autor sieht darin keinen Schutz vor Kontamination, sondern lediglich eine geringere Abhängigkeit von denselben öffentlichen Fragen. Das Interesse liegt vor allem in der erzwungenen Unterscheidung der Ergebnisse zwischen Bereitschaft (willingness), Fähigkeit (capability) und Ermöglichung (enablement). 🔗 Beitrag auf Hugging Face
  • Der standardmäßige Fehlermodus von CUDA ist Schweigen – Lernnotiz aus der ersten Woche der GPU-Programmierung, verfasst anhand des einfachsten denkbaren Programms: der Addition zweier Listen mit jeweils tausend Zahlen. Was den Autor beeindruckte, war nicht die Funktionsweise der GPU, sondern die Unauffälligkeit, mit der sie ausfällt. Keine Ankündigung und keine Modellveröffentlichung. 🔗 Beitrag auf Hugging Face
  • GitHub hebt die Gruppierung von Dependabot-Updates erneut hervor – Bei GCToolkit, einem Projekt von Microsoft, entfiel etwa jeder sechste Commit auf das Versionsupdate einer einzelnen Abhängigkeit; drei Änderungen an der Datei dependabot.yml genügten, um das Rauschen zu reduzieren, indem Updates gruppiert und ihre Frequenz gesenkt wurden, ohne Sicherheitskorrekturen zu verzögern. Der betreffende Artikel stammt vom 29. Juli 2026: Nur das Teilen erfolgte am 30. August. 🔗 Nachricht von @github
  • WebMCP Challenge: Frist am 3. September und Fragerunde am 31. August – OpenAI Developers erinnert daran, dass Projekte für den WebMCP-Hackathon bis zum 3. September eingereicht werden können, und kündigt im selben Thread eine Fragerunde (office hours) auf Discord für Montag, den 31. August, um 11 am PT mit den Wettbewerbspartnern Chrome, Cloudflare, Shopify, Vercel, Render und Netlify an. Der Hackathon selbst war am 25. August vorgestellt worden. 🔗 Nachricht von @OpenAIDevs
  • Cohere veröffentlicht drei Fotos aus Waterloo ohne zugehörige Ankündigung – Das offizielle Konto führt die kanadische Positionierung des Unternehmens fort, ohne Einführung, Zahlen oder Link. Kein faktischer Gehalt: der Vollständigkeit des Zeitfensters halber erwähnt. 🔗 Nachricht von @cohere

Was das bedeutet

Verbraucherhardware wird wieder zu einer Designvorgabe und nicht zu einer Grenze, die man hinnehmen muss. Zwei der Arbeiten vom Wochenende gehen von derselben Prämisse aus: Die verfügbare Maschine bestimmt die Architektur, nicht umgekehrt. Gala ist für einen Mac konzipiert — reichlich Speicher, knappe FLOPs — und setzt daher eher auf Parameter und Zustand als auf Rechenaufwand pro Token; das Ergebnis ist eine Dekodierung, die zwischen 32.768 und 10,5 Millionen Kontext-Tokens nicht langsamer wird. Die Quantisierung mittels Leech-Netzwerk zielt auf das andere Ende der Kette: Ein Modell mit 70 Milliarden Parametern von 140 GB auf etwa 18 GB zu verkleinern bedeutet, es auf einer Grafikkarte unterzubringen, die Privatpersonen besitzen. Keines von beiden beansprucht, mit einem Frontier-Modell konkurrieren zu können, und darum geht es auch nicht: Beide verlagern die Frage von der Modellgröße hin zu der Maschinenklasse, die das Modell betreiben kann.

Eine auf einem Modell trainierte Sonde lässt sich auf dem Modell des Nachbarn auslesen. Das überraschendste Ergebnis des Tages ist zugleich das unauffälligste. Wenn vier eingefrorene Modelle von vier Unternehmen Bilder so ähnlich kodieren, dass sich eine einzige Gewichtsmatrix mit einem AUROC-Verlust von 0,0024 — oder sogar mit negativem Verlust — von einem zum anderen übertragen lässt, dann ist das auf diesen Repräsentationen aufgebaute Instrumentarium nicht länger an den Anbieter gebunden, auf dessen Modell es kalibriert wurde. Das Paper zieht selbst diese praktische Schlussfolgerung, benennt jedoch unmittelbar die Einschränkung, die verhindert, dass daraus bereits eine Methode wird: Die Übertragungsabbildungen werden paarweise angepasst, und nichts deutet darauf hin, dass eine einzige davon bei einem Modell funktionieren würde, das von dieser Anpassung ausgeschlossen war. Die Messdisziplin lässt nirgends nach: Die Anisotropie wird vor jedem Vergleich korrigiert, und neben jedem Score wird die Zufallsuntergrenze veröffentlicht.

Zuverlässigkeitsbehauptungen kommen ohne Metrologie aus. Together AI platziert GLM-5.3 bei der Halluzinationsrate vor zwei geschlossenen Modellen, nennt jedoch keinen Benchmark, veröffentlicht keine absoluten Werte und beschreibt seine Zählmethode nicht — während das Unternehmen zugleich die Inferenz des von ihm erstplatzierten Modells verkauft. Der Kontrast zu den Forschungsbeiträgen desselben Wochenendes ist deutlich: Diese veröffentlichen ihre Zufallsuntergrenzen neben den Ergebnissen und erläutern ihre Protokolle ausführlich. Ein Bericht ohne Referenzrahmen ist keine Messung, sondern ein Verkaufsargument, und sollte auch als solches eingeordnet werden.

Auf der Produktseite hat das Wochenende lediglich Infrastrukturarbeit geliefert — und genau dort entscheidet sich der Erfolg von Agenten. xAI veröffentlicht kein Modell: Das Unternehmen verbindet Grok Bot mit X, erstellt das Entwicklerkonto für den Benutzer und verteilt API-Guthaben, um die Einstiegshürde zu senken. GitHub kündigt keine spektakuläre Funktion an: Es macht seine REST API für Issue-Abhängigkeiten bereichssensitiv. In beiden Fällen ändern sich die Zugriffsrechte und die abfragbare Oberfläche, nicht die Fähigkeiten des Modells. Das ist die unsichtbarste und zugleich entscheidendste Arbeit für alle, die Agenten entwickeln, die ein soziales Netzwerk oder ein Ticketsystem auslesen sollen.


Quellen