OpenAI hat für seinen eigenen Inferenzchip Jalapeño erstmals detailliertere Leistungswerte vorgelegt. Das Unternehmen verspricht mehr KI-Arbeit pro Watt und niedrigere Antwortzeiten als bei den verglichenen Systemen. Für Nutzer klingt das nach schnelleren Antworten. Strategisch geht es um etwas Größeres: Wer die Kosten pro ausgegebener Antwort senkt, gewinnt Spielraum für günstigere Produkte, längere Agentenabläufe und weniger Abhängigkeit von einem knappen Markt für Hochleistungsbeschleuniger.
Das Wichtigste in Kürze
- Jalapeño ist für Inferenz gebaut, also für das Ausführen fertiger Modelle, nicht für das Training neuer Modelle.
- OpenAI meldet im eigenen Test 1,5- bis 1,9-mal mehr Arbeit pro Watt und 1,7- bis 3,6-mal geringere End-to-End-Latenz als bei den Vergleichssystemen.
- Die Zahlen stammen von OpenAI und müssen sich noch im breiten Produktionsbetrieb bewähren.
- Der Chip beendet OpenAIs Bedarf an Nvidia-Hardware nicht, verschiebt aber die Verhandlungsmacht bei einem besonders teuren Teil der KI-Kette.
Warum ausgerechnet Inferenz zählt
Training bekommt die großen Schlagzeilen: Rechenzentren füttern Modelle mit gewaltigen Datenmengen, bevor sie überhaupt ein Produkt sehen. Für den laufenden Betrieb ist aber Inferenz entscheidend. Jedes Mal, wenn ChatGPT antwortet, Codex einen weiteren Arbeitsschritt ausführt oder eine Firmenanwendung Dokumente zusammenfasst, muss ein bereits trainiertes Modell rechnen. Diese Kosten fallen nicht einmalig an, sondern mit jeder Anfrage.
Gerade bei Agenten addieren sich Verzögerungen. Ein einzelner Antwortschritt mag schnell wirken; wenn ein System zwanzig Schritte nacheinander plant, recherchiert, prüft und wiederholt, wird jede Wartezeit spürbar. OpenAI richtet Jalapeño deshalb auf zwei Phasen aus: Beim sogenannten Prefill wird eine Eingabe verarbeitet und Rechenleistung ist knapp. Beim anschließenden Decode entstehen die Antwort-Tokens, dort limitiert eher die Speicherbandbreite. Der Chip soll Rechenwerke, Speicher und Netzwerk so zusammenbringen, dass weniger Daten unnötig wandern.
Das ist kein exotisches Detail. Wie unser Bericht über die weltweite Speicherknappheit durch KI zeigt, wird die Infrastruktur nicht nur von Rechenleistung bestimmt. Speicher, Energie und die Verbindung zwischen vielen Beschleunigern entscheiden mit darüber, ob ein Modell in der Praxis wirtschaftlich arbeitet.
Gute Benchmarks, aber noch kein Freifahrtschein
OpenAI testete Jalapeño nach eigener Darstellung auf dem öffentlichen InferenceX-Benchmark von SemiAnalysis. Verglichen wurden unter anderem GPT-OSS 120B, DeepSeek R1 mit 670 Milliarden Parametern und Kimi K2.5 mit einer Billion Parametern. Über diese drei offenen Modelle hinweg nennt OpenAI 1,5- bis 1,9-mal höhere Spitzenleistung pro Watt sowie 1,7- bis 3,6-mal niedrigere Latenz. Die Leistungsangaben beziehen sich damit nicht nur auf einen einzelnen Demo-Fall, sondern auf verschiedene Modellfamilien und Lastpunkte.
Trotzdem bleiben es Herstellerangaben. OpenAI normalisiert die Vergleiche über veröffentlichte Leistungsaufnahmen der Chips; Jalapeño wird mit 700 Watt spezifiziert, im Test soll der Dauerverbrauch bei höchstens 550 Watt gelegen haben. Das ist eine nachvollziehbare Methodik, ersetzt aber keinen unabhängig wiederholten Vergleich in gleich aufgebauten Rechenzentren. Auch die eigene Aussage, intern falle der Vorsprung bei Frontier-Modellen noch größer aus, ist vorerst keine nachprüfbare Kennzahl.
Die nüchterne Lesart lautet daher: Jalapeño ist kein Beweis dafür, dass OpenAI Nvidia technisch überholt hat. Er ist ein überzeugender erster Hinweis, dass ein speziell auf Sprachmodelle ausgelegtes Gesamtsystem im Inferenzbetrieb besser passen kann als ein breiter einsetzbarer Beschleuniger. Axios weist zudem darauf hin, dass OpenAI die Chips nicht verkaufen will. Das Projekt ist also kein neues Hardwaregeschäft, sondern Infrastruktur für die eigenen Dienste.
Der eigentliche Gewinn heißt Verhandlungsmacht
OpenAI entwickelt Jalapeño mit Broadcom; Celestica soll bei Boards, Racks und Systemen helfen. Die erste Bereitstellung ist laut OpenAI noch für Ende 2026 geplant. Zugleich bleibt das Unternehmen bei Training und Inferenz auf Beschleuniger von Nvidia und anderen Partnern angewiesen. Das ist wichtig, weil ein eigener Chip nicht plötzlich die Fabriken, den Speicher oder die Stromanschlüsse ersetzt.
Aber schon ein begrenzter Eigenanteil verändert die Lage. Wenn OpenAI besonders häufige, gut verstandene Inferenzlasten auf eigener Hardware betreibt, kann es Kapazität auf dem externen Markt gezielter einkaufen. Es bekommt zudem reale Daten darüber, welche Kombination aus Modell, Software und Chip die geringsten Kosten verursacht. Genau diese vertikale Abstimmung ist der Unterschied zu einem bloßen Benchmark-Sieg: Sie erlaubt, Produktentscheidungen und Infrastruktur gemeinsam zu optimieren.
Der Schritt erinnert an die Logik hinter Googles TPUs und an andere Anbieter, die spezifische Lasten näher an die Hardware rücken. Dass bereits Google für Gemini eigene Siliziumstrategien verfolgt, macht deutlich: Der Wettbewerb verlagert sich vom Modellvergleich auf die Frage, wer Antworten zuverlässig und bezahlbar liefern kann.
Was Nutzer wirklich davon haben könnten
Für Privatnutzer wird Jalapeño nicht als Karte im Rechner auftauchen. Der mögliche Effekt liegt im Hintergrund: weniger Wartezeit, stabilere Verfügbarkeit bei hoher Nachfrage und Spielraum für rechenintensivere Funktionen. Für Entwickler könnten sinkende Inferenzkosten bedeuten, dass Anwendungen mehr Kontext auswerten oder Agenten mehr Prüfschritte ausführen können, ohne dass jeder zusätzliche Schritt das Budget sprengt.
Die Kehrseite bleibt der Umfang der Infrastruktur. Effizientere Chips senken zwar die Kosten pro Aufgabe, können aber auch dazu führen, dass noch mehr Aufgaben automatisiert werden und der Gesamtbedarf weiter steigt. Jalapeño ist deshalb kein Gegenmittel gegen den KI-Hunger nach Strom und Rechenzentren. Er ist der Versuch, aus derselben Energie mehr nützliche Arbeit herauszuholen.
Der Ausblick ist damit weniger pikant als der Name. Ob die angekündigten Werte im Alltag tragen, zeigt erst die Auslieferung Ende 2026. Schon jetzt zeigt der Chip aber, wohin der Wettbewerb läuft: Nicht das lauteste Modell gewinnt automatisch, sondern das System, das seine Antworten schnell, zuverlässig und zu tragbaren Kosten ausliefern kann.