Fable 5 schreibt ein CUDA-Megakernel auf KernelBench-Mega: 18,7-fache Beschleunigung in 2,5 Stunden

Einleitung

Fable 5 ist zum Mittelpunkt einer neuen Diskussion in der KI-Entwicklung geworden, nachdem es Berichten zufolge das erste echte CUDA-Megakernel geschrieben hat, das bei KernelBench-Mega eingereicht wurde. Das Ergebnis ist beeindruckend: eine 18,71-fache Decode-Beschleunigung auf einem RTX PRO 6000 Blackwell-Setup, erreicht innerhalb einer einzigen autonomen Sitzung von etwa 2,5 Stunden.

Die Schlagzeile ist nicht nur, dass ein KI-System schnellen Low-Level-Code geschrieben hat. Der wichtigere Punkt ist die Form der Lösung. Anstatt mehrere kleinere GPU-Kernel zusammenzufügen, hat Fable 5 den Decode-Workflow in einen einzigen kooperativen Kernel-Start pro Token integriert. Das ist der Teil, der Forscher und Ingenieure aufmerken ließ.

Dieser Artikel behält die ursprüngliche Struktur und technische Bedeutung bei, formuliert die Geschichte jedoch in klarerem Englisch für die Veröffentlichung neu. Er erklärt, was KernelBench-Mega testet, warum dieses Ergebnis wichtig ist, wie sich das Megakernel von gewöhnlicher GPU-Kernel-Generierung unterscheidet und warum einige Forscher es mit der Idee der rekursiven Selbstverbesserung verbinden.

Fable 5 erreicht 18,7-fache Beschleunigung und überholt GPT-5.5

Das Benchmark-Ergebnis stammt von KernelBench-Mega, einem Benchmark, der sich auf die Generierung vollständiger Block-Megakernel und nicht auf isolierte Operatoroptimierung konzentriert. In diesem Durchlauf zielte Fable 5 auf 02_kimi_linear_decode, eine Kimi-Linear W4A16 Hybrid-Decode-Aufgabe mit 4-Bit-Gewichten und bf16-Aktivierungen.

Das berichtete Setup war streng: eine autonome Sitzung, eine Wanduhr-Obergrenze von 3 Stunden und eine echte Benchmark-Umgebung. Innerhalb dieser Grenze erreichte Fable 5 eine 18,71-fache Decode-Beschleunigung gegenüber der optimierten PyTorch-Referenz.

Der Vergleich macht das Ergebnis leichter verständlich:

oss-cn-beijing.aliyuncs.com/cms-assets/image/2026/07/ce6c9cad-7360-4ac5-854b-279a01ab49ee-04-4d685459-6d03-4b22-840d-4e6787d38b10.png)

Auch die Aufschlüsselung nach Kontextlänge ist wichtig. Laut der angezeigten Bestenliste blieb Fable 5 bei wachsendem Kontext stabil:

• 2K-Kontext: etwa 17,8x
• 8K-Kontext: etwa 18,9x
• 16K-Kontext: etwa 19,5x

Das ist zunächst kontraintuitiv. Längere Kontexte erhöhen normalerweise die Kosten für Attention und KV-Cache-Verarbeitung. Viele Systeme lassen dort in der Leistung nach. Das Ergebnis von Fable 5 deutet darauf hin, dass das fusionierte Design den Launch-Overhead ausreichend reduziert hat, sodass sein relativer Vorteil mit zunehmender Arbeitslast größer wurde.

Warum KernelBench-Mega schwieriger ist als ein normaler Kernel-Benchmark

KernelBench-Mega fordert ein Modell nicht nur dazu auf, einen kleinen Operator zu optimieren. Es verlangt, dass der Agent einen größeren Modellblock zu einem ganzheitlichen Megakernel fusioniert. Das ist bedeutsam, weil der schwierige Teil nicht mehr einfach das Schreiben syntaktisch korrekten CUDA- oder Triton-Codes ist. Der schwierige Teil besteht darin, viele interagierende Berechnungsstufen innerhalb eines effizienten Pfads zu verwalten.

Die Aufgabe 02_kimi_linear_decode umfasst eine hybride Decodierungs-Workload für Kimi-Linear W4A16. In der Praxis muss das Modell mit quantisierten Gewichten, bf16-Aktivierungen, Attention-bezogenen Zuständen, Routing, Normalisierung und Cache-Verhalten umgehen.

Deshalb ist der Benchmark ein aussagekräftiger Stresstest für KI-generierten leistungsoptimierten Low-Level-Code. Eine einfache Beschleunigung eines kleinen, isolierten Operators ist nützlich, aber ein ganzheitlicher Megakernel kommt der Art von Optimierungsarbeit näher, die reale Inferenzsysteme beeinflussen kann.

Der erste echte „Megakernel“

Die wichtigste technische Behauptung ist, dass Fable 5 den ersten echten Megakernel in der Geschichte von KernelBench-Mega hervorgebracht hat.

Ein Megakernel komprimiert einen größeren Inferenzpfad in einen einzigen Kernel. Anstatt mehrere separate Kernel zu starten und die Kontrolle hin und her zu bewegen, bleibt die Arbeit innerhalb eines koordinierten Ausführungsflusses. Das ist schwierig, weil der Kernel viele Phasen koordinieren und dabei die Korrektheit wahren muss.

In diesem Fall zeigt der Bericht, dass torch.profiler genau einen kooperativen Kernel-Launch pro decodiertem Token anzeigte. Dieser einzelne Launch erledigte Arbeit, die normalerweise in mehrere Stufen aufgeteilt wäre, darunter:

• int4-Dequantisierung
• Faltung
• SiLU-Aktivierung
• KDA-gated Delta State
• MLA-Latent-Attention-Handling
• MoE-Routing und Top-8-Expertenauswahl
• RMSNorm-bezogene Operationen
• KV-Cache-Schreibvorgänge

![Der Tweet zeigt, dass Fable das erste Modell ist, das einen echten GPU-Megakernel erzeugt, der 18,7-mal schneller ist als die Referenzimplementierung. Der Tweet zitiert Fable-Gründer Fabien Mikol mit den Worten: „Megakernel sind eines der schwierigsten Dinge in der GPU-Programmierung – nur sehr wenige Menschen weltweit können sie schreiben.“ Unter dem Bild befindet sich die Option „Diese Übersetzung bewerten“, und es werden Laufzeitdaten einer RTX 4090 für verschiedene Modelle angezeigt, wobei Fable eine Geschwindigkeit von 10,71x erreicht. Das Bild steht in engem Zusammenhang mit dem Kontext und veranschaulicht die Vorteile von Fable bei GPU-Megakernels.](https://we0-cms.oss-cn-beijing.aliyuncs.

com/cms-assets/image/2026/07/0284bb32-eef6-4fc5-93a4-b8b21ae807ea-06-8afeece2-a6c6-493a-ba7e-b089780ec8a1.png)

Berichten zufolge verteilten andere hoch bewertete Lösungen die Arbeit auf 4 bis 14 separate Kernel-Starts. Fable 5 hingegen fasste den zeitgesteuerten Pfad in einem einzigen kooperativen Start zusammen. Das ist der Unterschied zwischen „schnell generiertem Kernel-Code“ und einer viel aggressiveren GPU-Programmierkunst.

Wie ein einzelner Kernel-Start das Leistungsprofil verändert

Kernel-Starts sind nicht kostenlos. Jeder Start verursacht Overhead, Synchronisationskosten und Planungslücken. Bei einer Decode-Workload können diese Kosten besonders schmerzhaft sein, da die Arbeit Token für Token wiederholt wird.

Der Ansatz von Fable 5 reduziert diesen wiederholten Overhead, indem die Decodierungsschritte in einem kooperativen Pfad zusammengefasst werden. Der ursprüngliche Bericht beschreibt die Lösung als Verwendung von 14 Grid-Barrieren, um die Berechnung innerhalb desselben Starts zu staffeln.

Deshalb geht es bei dem Ergebnis nicht nur um clevere Mathematik. Es geht um GPU-Ausführung auf Systemebene. Wenn andere Lösungen wiederholt Kernel verlassen und wieder betreten, verlieren sie Zeit bei der Übergabe. Fable 5 vermeidet einen Großteil dieser Kosten, indem die Pipeline verschmolzen bleibt.

Einfach ausgedrückt: Andere erledigen die Arbeit in mehreren Durchgängen; Fable 5 versucht, sie in einem Durchgang zu erledigen.

2,5 Stunden und etwa 550.000 Tokens

Ein weiterer bemerkenswerter Teil des Laufs ist, wie das Modell seine Zeit verbrachte. Es begann nicht sofort damit, finalen CUDA-Code auszugeben. Die Spur deutet auf einen eher gemessenen Arbeitsablauf hin.

Während eines großen Teils der Sitzung bewertete Fable 5 die Basislinie, untersuchte die Kosten von Grid-Barrieren und analysierte die Speicherbandbreite. Der Artikel beschreibt, dass etwa 64 % der Sitzung für Messung und Design aufgewendet wurden, bevor die Hauptimplementierung erfolgte.

Nachdem die erste Version geschrieben war, erreichte der erste Benchmark Berichten zufolge etwa das 14,4-fache. Fable 5 nutzte dann die verbleibende Zeit, um Barrieren zu entfernen, die int4-Dequantisierung zu straffen, Änderungen zu testen und eine negative Optimierung rückgängig zu machen, als die Messung zeigte, dass sie schlechter war.

Der gesamte Lauf dauerte etwa 2,5 Stunden und verbrauchte etwa 550.000 Ausgabe-Tokens. Das entscheidende Detail ist nicht nur der Umfang. Es ist das Verhalten: Messen, Bauen, Evaluieren, Zurücksetzen bei Bedarf und Optimieren basierend auf Daten statt auf Überzeugung.

Die ursprüngliche Quelle merkt auch an, dass Fable 5 als eine sicherere oder reduzierte Version von Anthropics internem Mythos-Modell beschrieben wird. Diese Behauptung sollte als Teil der Erzählung der Quelle und nicht als öffentliche Produktankündigung verstanden werden.

„Die KI-Selbstverbesserungsschleife hat begonnen“

Die breitere Diskussion stammt aus Jack Clarks Import AI Newsletter. In diesem

Clark stellte das GPU-Kernel-Ergebnis als Zeichen dafür dar, dass KI-Systeme immer besser darin werden, Teile der KI-Forschung und -Entwicklung selbst zu automatisieren.

Die Logik ist direkt:

1. Bessere KI-Systeme können bessere Low-Level-Kernel schreiben.
2. Bessere Kernel können Training und Inferenz schneller oder günstiger machen.
3. Schnellere und günstigere KI-Systeme können helfen, die nächste Generation zu bauen.
4. Die nächste Generation könnte noch besser darin werden, Kernel zu schreiben.

Deshalb taucht in dieser Diskussion der Begriff „rekursive Selbstverbesserung“ auf. Das bedeutet nicht, dass bereits eine vollständig autonome, außer Kontrolle geratene Schleife stattgefunden hat. Es bedeutet, dass ein Teil der Schleife – dass KI die Infrastruktur verbessert, die zum Bau von KI verwendet wird – sichtbarer und messbarer wird.

Vom Kernel-Schreiben zur Remote-Arbeit

Der ursprüngliche Artikel verbindet dieses Kernel-Ergebnis auch mit breiteren Automatisierungs-Benchmarks. Import AI diskutiert den Remote Labor Index, bei dem KI-Agenten an wirtschaftlich nützlichen Online-Projekten bewertet werden.

Der Punkt ist nicht, dass das Schreiben von CUDA-Kernel und die Automatisierung von Freelance-Aufgaben dasselbe sind. Das sind sie nicht. Aber beide deuten in die gleiche Richtung: KI-Systeme an der Spitze verbessern sich bei längeren, strukturierteren Aufgaben, die Planung, Werkzeugnutzung, Verifikation und Iteration erfordern.

Ein Kommentar in der Quelle fasst die Sorge gut zusammen: Sobald ein Modell Kernel schreiben kann, die Modelle schneller machen, hilft das Werkzeug nicht mehr nur den Nutzern. Es verbessert auch Teile seiner eigenen Grundlage.

Hier wird die Verifikation entscheidend. Ein Kernel, der korrekt aussieht, ist nicht unbedingt schneller. Ein schneller aussehender Kernel kann subtile Korrektheitsprobleme enthalten. Bei Low-Level-GPU-Arbeit muss der Prüfzyklus streng bleiben.

Schnelle Fortschritte, echte Vorsicht

Die Geschichte hat zwei Seiten. Auf der einen Seite ist das Ergebnis aufregend. KI-Systeme produzieren jetzt Low-Level-Leistungsartefakte, die früher auf eine kleine Anzahl von GPU-Expertenprogrammierern beschränkt waren.

com/cms-assets/image/2026/07/0fdc859f-d6a1-47e7-b2ba-5e2fefcf3a3f-12-593ae533-5c09-47f2-840c-11d03c53dc3a.png)

Auf der anderen Seite ist dies genau die Art von Fähigkeit, die sorgfältige Aufmerksamkeit verdient. Dieselbe Ausgabe des Newsletters stellt sich eine Zukunft vor, in der die universelle Datenverarbeitung so leistungsfähig und gefährlich wird, dass Menschen versuchen, sie einzuschränken. Dieses fiktive Ende ist keine Vorhersage, spiegelt aber die Unruhe bezüglich sich beschleunigender technischer Systeme wider.

Etwas mehr als ein Jahr nachdem die ursprüngliche KernelBench-Arbeit gezeigt hatte, wie schwierig KI-generierte Kernel sein können, deutet dieses Ergebnis auf einen großen Sprung hin. Fable 5 erzeugte nicht nur einen brauchbaren Kernel. Es produzierte einen fusionierten Megakernel-Pfad, der in einer begrenzten Sitzung die Spitze einer schwierigen Benchmark erreichte.

Für die KI-Infrastruktur ist das ein ernstzunehmendes Signal.

Quellenangaben

• Ursprüngliche Quelle: BAAI Hub-Artikel.
• Der Originalartikel zitiert Berichterstattung und Diskussionen aus Import AI 464, KernelBench-Mega, Elliot Arledges X-Beitrag und einer Reddit-Diskussion.
• Der Originalartikel enthält mehrere Branding-Trennlinien, dekorative Logos, Interaktionsgrafiken und ein Personenphoto. Diese wurden bewusst ausgelassen, da sie für den technischen Lesefluss nicht notwendig sind.
• Im Quelltext waren keine eigenständigen Codeblöcke vorhanden. Inline technische Bezeichner wie 02_kimi_linear_decode und torch.profiler wurden beibehalten.

FAQ

Was ist KernelBench-Mega?

KernelBench-Mega ist eine Benchmark, die sich auf die Erzeugung von Ganzblock-Megakerneln konzentriert. Anstatt ein Modell aufzufordern, einen einzelnen isolierten Operator zu optimieren, wird das Modell gebeten, eine größere Arbeitslast in einen effizienten Kernel-Pfad zu fusionieren, und misst dann die tatsächliche Leistung.

Was hat Fable 5 bei KernelBench-Mega erreicht?

Berichten zufolge erreichte Fable 5 eine 18,71-fache Decoding-Beschleunigung gegenüber einer optimierten PyTorch-Referenz bei der 02_kimi_linear_decode-Aufgabe. Das Ergebnis wurde innerhalb einer einzigen autonomen Sitzung unter einem Zeitlimit von 3 Stunden erzielt.

Warum ist ein CUDA-Megakernel schwer zu schreiben?

Ein Megakernel muss viele Berechnungsstufen innerhalb eines einzelnen Kernel-Starts koordinieren. Das bedeutet, dass die Implementierung Datenbewegung, Synchronisation, numerische Korrektheit, Speicherbandbreite und Ausführungsreihenfolge verwalten muss, ohne die Arbeit in sicherere, kleinere Kernel aufzuteilen.

Warum ist ein einzelner Kernel-Start wichtig?

Jeder GPU-Kernel-Start verursacht Overhead. Bei der tokenweisen Decodierung können sich wiederholte Starts schnell summieren. Ein einzelner fusionierter Start kann Synchronisations- und Planungsoverhead reduzieren, weshalb

Fable 5s Ansatz ist technisch bedeutsam.

Ist dies ein Beweis für rekursive Selbstverbesserung?

Es handelt sich nicht um den Beweis eines vollständigen autonomen Selbstverbesserungszyklus. Es ist besser als konkretes Signal zu verstehen, dass KI-Systeme beginnen, Aufgaben zu automatisieren, die die KI-Infrastruktur verbessern können, wie z. B. Kernel-Design und Inferenzoptimierung.

Kann diese Art von KI-generiertem CUDA-Code in der Produktion eingesetzt werden?

Nicht direkt ohne sorgfältige Prüfung. Performance-Code benötigt strenge Korrektheitsprüfungen, Profiling, Regressionstests und hardwarespezifische Validierung. Ein schnelles Benchmark-Ergebnis ist vielversprechend, aber für den Produktionseinsatz ist eine viel umfangreichere Verifizierung erforderlich.

Welche Tools sind nützlich, um dieses Ergebnis zu untersuchen?

KernelBench-Mega bietet die Rangliste und die Ausführungsartefakte. PyTorch Profiler, CUDA-Tools, Hugging Face Trace-Datensätze und GPU-Profiling-Tools sind nützlich, um zu verstehen, wie sich der generierte Kernel verhält.

Verwandte Tools

• KernelBench-Mega: Die Benchmark-Seite für Ergebnisse und Ausführungsartefakte von Whole-Block-Megakernels.
• KernelBench GitHub Repository: Das ursprüngliche Benchmark-Framework zur Bewertung von LLM-generierten GPU-Kernels.
• NVIDIA CUDA Toolkit: Das Kern-Toolkit zum Schreiben, Kompilieren und Profilen von CUDA-Anwendungen.
• PyTorch Profiler: Ein Profiling-Tool zur Inspektion von Ausführungszeit, Kernel-Starts und Laufzeitverhalten in PyTorch-Workloads.
• Hugging Face Datasets: Eine Plattform zum Hosten von Datensätzen und Benchmark-Traces, einschließlich KernelBench-Ausführungsartefakten.
• Triton: Eine Sprache und ein Compiler zum Schreiben benutzerdefinierter GPU-Kernels, die oft im KI-Performance-Engineering verwendet werden.

Verwandte Links

• KernelBench-Mega Rangliste: Offizielle Rangliste und Erklärung für den Megakernel-Benchmark.
• KernelBench Ergebnisse Hub: Öffentliche Benchmark-Ergebnisse, Transkript-Viewer und Datensätze.
• Import AI 464: Jack Clarks Newsletter-Ausgabe, die Fable, GPU-Kernels, KI-Automatisierung und analoge Berechnung diskutiert.
• Fable 5 KernelBench-Mega Trace: Der im Originalartikel referenzierte Ausführungstrace.
• KernelBench Paper auf arXiv: Das Forschungspapier, das KernelBench als Benchmark für LLM-generierte GPU-Kernels vorstellt.
• ScalingIntelligence KernelBench Repository: Quellcode und Evaluierungswerkzeuge für das ursprüngliche KernelBench-Projekt.
• Reddit Diskussion: Von der Quellartikel referenzierte Community-Diskussion.

Zusammenfassung

Dieser Artikel erklärt, warum das gemeldete KernelBench-Mega-Ergebnis von Fable 5 mehr ist als ein weiterer Benchmark-Sieg. Das entscheidende Detail ist die

Single-Launch-CUDA-Megakernel: Ein fusionierter Pfad, der eine komplexe Decode-Workload mit deutlich geringerem Launch-Overhead als Multi-Kernel-Lösungen bewältigt.

Das Ergebnis ist auch deshalb von Bedeutung, weil es darauf hindeutet, dass KI-Systeme besser bei Performance-Engineering-Aufgaben werden, die die KI-Entwicklung selbst unterstützen. Schnellere Kernel können Inferenz und Training effizienter machen – das schafft eine beobachtenswerte Rückkopplungsschleife.

Gleichzeitig sollte KI-generierter Low-Level-Code nicht standardmäßig als produktionsreif betrachtet werden. Korrektheit, Profiling, Hardwareverhalten und Regressionstests bleiben weiterhin entscheidend.

Die eigentliche Erkenntnis: Fable 5s Megakernel ist ein starkes Signal, dass KI-gestütztes GPU-Performance-Engineering vom Demostadium in die ernsthafte Infrastrukturarbeit übergeht.