Nvidias Nemotron 3.5 Lightning: Klein, schnell und offen als Strategie

Nvidia hat mit Nemotron 3.5 Lightning ein neues offenes KI-Modell veröffentlicht, das bewusst nicht mit den größten und klügsten Systemen konkurrieren will. Mit nur 3,6 Milliarden aktiven von insgesamt 31,6 Milliarden Parametern erreicht es im Intelligenz-Ranking von Artificial Analysis gerade einmal das Niveau von OpenAIs deutlich älterem gpt-oss-120b. Dafür ist es nach Angaben Nvidias das schnellste Modell im gesamten Vergleichsfeld, und genau diese Verschiebung der Prioritäten sagt einiges darüber aus, wohin sich der Markt für offene KI-Modelle gerade bewegt.

Das Wichtigste in Kürze

• Nemotron 3.5 Lightning hat 31,6 Milliarden Parameter insgesamt, aber nur 3,6 Milliarden davon sind bei jeder Anfrage aktiv.
• Im Intelligence Index von Artificial Analysis erreicht es 24 Punkte, gleichauf mit OpenAIs gpt-oss-120b und knapp hinter Nvidias eigenem, viermal größerem Nemotron 3 Super (26 Punkte).
• Mit rund 669 Token pro Sekunde ist es das schnellste getestete Modell, fast doppelt so schnell wie Googles Gemini 3.5 Flash-Lite.
• Bei agentischen Aufgaben (GDPval-AA v2) übertrifft es sogar größere Modelle wie gpt-oss-120b und Nvidias eigenes Nemotron 3 Super.
• Das Modell ist unter der offenen OpenMDW-1.1-Lizenz sofort über Hugging Face und mehrere Cloud-Anbieter verfügbar.

Klein gebaut, aber gezielt trainiert

Technisch setzt Nemotron 3.5 Lightning auf eine hybride Architektur aus Mamba-2- und Mixture-of-Experts-Schichten, ergänzt um klassische Attention-Layer. Dieser Aufbau erlaubt es, nur einen kleinen Teil der insgesamt 31,6 Milliarden Parameter für jede einzelne Anfrage zu aktivieren, was Rechenaufwand und Speicherbedarf drastisch senkt. Das Kontextfenster skaliert nach Angaben Nvidias auf bis zu eine Million Token, zusätzlich sollen spekulative Dekodierung (DFlash) und Multi-Token-Vorhersage die Antwortzeiten weiter verkürzen. Im direkten Vergleich zum eigenen Vorgänger, dem Nemotron 3 Nano, den Lightning ablöst, ist der Sprung im Intelligence Index von 15 auf 24 Punkte beträchtlich, auch wenn Konkurrenten wie Qwen3.6 35B A3B (32 Punkte) oder Metas offenes Muse Glimmer, über das kabel-salat.info bereits berichtete, deutlich vorne liegen.

Geschwindigkeit als eigentliches Verkaufsargument

Der eigentliche Clou liegt nicht in der reinen Intelligenz, sondern im Tempo: 669 Token pro Sekunde bedeuten laut Nvidia bis zu viermal höheren Durchsatz und rund 30 Prozent schnellere Aufgabenerledigung in stark automatisierten, agentenbasierten Workflows. Genau für solche Szenarien, in denen ein Agent viele kleine, spezialisierte Schritte hintereinander abarbeitet statt eine einzelne komplexe Frage zu beantworten, positioniert Nvidia das Modell als „effizientes Arbeitstier“. Nach Angaben von Cloud-Partnern lässt sich die 30-Milliarden-Parameter-Variante sogar auf einer einzelnen H100-GPU betreiben, was die Betriebskosten für Unternehmen erheblich drückt, die viele parallele Agenten-Instanzen statt eines einzelnen Großmodells brauchen. Verfügbar ist Lightning bereits am Erscheinungstag bei Anbietern wie DeepInfra, Fireworks, Together AI, OpenRouter und CoreWeave. Für Entwicklerteams heißt das in der Praxis: Statt ein einzelnes großes Modell für jede Anfrage vorzuhalten, lassen sich mit demselben Hardware-Budget mehrere spezialisierte Lightning-Instanzen parallel betreiben, etwa je eine für Recherche, Codeausführung und Zusammenfassung innerhalb eines Agenten-Workflows.

Warum Nvidia überhaupt offene Modelle veröffentlicht

Die eigentliche Pointe steckt im Geschäftsmodell dahinter. Nvidia verdient sein Geld nicht mit KI-Modellen, sondern mit den Chips, auf denen sie laufen, und jedes zusätzliche offene Modell, das Unternehmen kostenlos herunterladen und selbst betreiben können, erhöht die Nachfrage nach genau dieser Hardware. Damit zählt Nvidia zu den wenigen großen US-Konzernen, die überhaupt noch in nennenswertem Umfang offene Gewichte veröffentlichen, während günstige chinesische Modelle aus den Familien Qwen, DeepSeek, GLM, Kimi und MiniMax die Lücke zu den geschlossenen Spitzenmodellen von Anthropic und OpenAI immer weiter schließen. Nvidia will diesem Trend offenbar nicht nur mit kompakten, schnellen Modellen wie Lightning begegnen, sondern arbeitet laut Insiderberichten bereits an einem deutlich größeren Nemotron 4 mit mindestens einer Billion Parametern, das bis zum späten Herbst fertig werden und explizit mit den besten offenen Modellen der Welt konkurrieren soll.

Einordnung

Nemotron 3.5 Lightning ist kein Modell für alle, die das intelligenteste System suchen, sondern für alle, die viele einfache Aufgaben schnell und günstig automatisieren wollen. Dass Nvidia dabei explizit nicht auf maximale Intelligenz zielt, ist selbst eine Ansage: Der Wettbewerb um offene Modelle verläuft nicht mehr nur über Benchmarks, sondern über Geschwindigkeit, Betriebskosten und die Frage, wie viel GPU-Leistung ein Modell im Alltag tatsächlich verbraucht. Für Unternehmen, die eigene KI-Agenten betreiben wollen, lohnt sich deshalb ein zweiter Blick auf solche „kleinen“ Modelle, bevor sie reflexhaft zum größten verfügbaren Namen greifen. Ob Nvidia mit dieser Strategie tatsächlich mehr Grafikkarten verkauft als mit einem einzigen Riesenmodell, lässt sich von außen kaum belegen, aber die Wette ist naheliegend: Je mehr offene Modelle im Alltag laufen, desto mehr Rechenzentren müssen dafür gebaut werden, und die Chips darin kommen mit hoher Wahrscheinlichkeit weiterhin von Nvidia.