Maia 300: Microsoft setzt bei KI-Inferenz auf eigene Chips

Microsoft will seine KI-Dienste ab 2027 vorrangig auf eigenen Chips ausführen statt auf Grafikprozessoren von Nvidia und anderen Herstellern. Am 12. Oktober hat der Konzern dafür Maia 300 vorgestellt, die dritte Generation seines KI-Beschleunigers, und angekündigt, die Maia-Familie auf mehrere Gigawatt Leistung auszubauen. Für Nutzer von Copilot, GitHub Copilot und Azure geht es dabei um mehr als Hardware: Wer die Kosten pro erzeugtem Wort senkt, kann KI-Funktionen günstiger und schneller anbieten.

Das Wichtigste in Kürze

• Maia 300 soll ab 2027 in Produktion gehen und das wichtigste System für Inferenz werden, also für das Ausführen fertiger KI-Modelle in Microsofts eigenen Produkten.
• Jeder Chip hat acht HBM4-Speicherstapel mit zusammen 288 GB und 18 TB/s Bandbreite bei einer Auslegung auf 950 Watt; die Rechenteile fertigt TSMC im 2-Nanometer-Verfahren N2P.
• Microsoft verspricht 40 Prozent mehr Token pro Megawatt als führende GPU-Systeme und pro Serverschrank bis zu siebenmal so viel Durchsatz wie mit dem Vorgänger. Beides sind Herstellerprognosen ohne genannte Vergleichskonfiguration.
• Der Vorgänger Maia 200 läuft bereits in den USA, Europa und Australien, unter anderem für Microsoft Copilot und OpenAI-Modelle; GitHub Copilot und Microsoft Foundry sollen bis Jahresende folgen.

Was Maia 300 anders macht

Die Ankündigung kam von Scott Guthrie, der bei Microsoft das Cloud- und KI-Geschäft verantwortet. Ein begleitender technischer Bericht der Azure-Hardwareabteilung liefert die Details. Der wichtigste Umbau: Maia 300 ist kein einzelner großer Chip mehr, sondern besteht aus mehreren kleineren Bausteinen, sogenannten Chiplets. Die Rechenwerke sitzen auf eigenen Chiplets im modernen 2-Nanometer-Verfahren von TSMC, Speichersteuerung und Anschlüsse auf separaten Bausteinen. Dadurch bleibt mehr Fläche für Rechenwerke; Microsoft beziffert den Zuwachs an Rechenleistung, den diese Aufteilung bringt, auf 36 Prozent.

Der eigentliche Schwerpunkt liegt aber beim Speicher. Die acht HBM4-Stapel liefern 18 TB/s, das ist rund zweieinhalbmal so viel Bandbreite wie bei Maia 200, die Kapazität steigt um ein Drittel auf 288 GB. Das ist kein Selbstzweck. Moderne KI-Anwendungen arbeiten mit sehr langen Eingaben, mehrstufigen Agenten-Abläufen und Gesprächen, in denen das Modell viel Zwischenstand im Speicher halten muss, den sogenannten KV-Cache. Bei solchen Aufgaben wartet der Chip oft nicht auf Rechenleistung, sondern auf Daten. Dazu passen sehr kompakte Zahlenformate wie MXFP4, die Gewichte und Zwischenstände mit wenigen Bit speichern und so Speicher und Bandbreite sparen.

Im Serverschrank arbeiten 96 Beschleuniger zusammen, mit zusammen 27,6 TB Speicher bei 167 Kilowatt Leistungsaufnahme. Bis zu 128 solcher Schränke lassen sich über Glasfaser zu einem Verbund von 12.288 Chips koppeln. Microsoft setzt dabei auf ein eigenes Übertragungsprotokoll über Ethernet statt auf proprietäre Verbindungstechnik. Mehr als 80 Prozent der Abwärme führt eine Flüssigkeitskühlung ab.

Warum Microsoft in Token pro Megawatt rechnet

Die auffälligste Zahl der Ankündigung ist keine Rechenleistung, sondern ein Effizienzmaß: 40 Prozent mehr Token pro Megawatt als führende GPU-basierte Systeme. Token sind die Wort- und Silbenstücke, die ein Sprachmodell erzeugt. Dass Microsoft so rechnet, sagt viel über den Engpass der Branche. Neue Rechenzentren scheitern heute seltener am Geld als an verfügbarem Strom. Wer aus demselben Netzanschluss mehr Antworten herausholt, kann mehr Kunden bedienen, ohne auf das nächste Umspannwerk zu warten.

Die Zahl ist allerdings eine Prognose. Microsoft nennt weder das konkrete GPU-System, mit dem verglichen wurde, noch die Testbedingungen; das Fachportal Converge Digest weist ausdrücklich darauf hin. Auch die siebenfache Steigerung gegenüber Maia 200 gilt für einen voll ausgebauten Schrank mit doppelt so vielen Beschleunigern wie zuvor und ist kein Messwert aus dem Betrieb. Wie sich Maia 300 gegen Nvidias kommende Generation schlägt, über deren Einsatz wir zuletzt am Beispiel von Vera Rubin beim Cloud-Anbieter CoreWeave berichtet haben, lässt sich daraus nicht ablesen.

Was Nutzer und Unternehmen davon haben

Für die meisten Menschen bleibt der Chip unsichtbar. Spürbar werden kann er trotzdem. Microsoft nennt konkrete Dienste, die auf Maia 300 laufen sollen: mehrstufige Programmier-Agenten in GitHub, das Bereitstellen von Modellen unterschiedlicher Anbieter in Microsoft Foundry, die eigene Modellentwicklung des MAI-Teams und Dragon Copilot, einen KI-Assistenten, der Ärztinnen und Ärzten Dokumentationsarbeit abnimmt und schnelle Antworten braucht. Schon für Maia 200 gibt Microsoft an, KI-Funktionen in Teams, Copilot und Cowork mit bis zu 1,7-mal mehr Token pro Watt zu betreiben als auf führender GPU-Hardware.

Für Unternehmen in Deutschland ist vor allem relevant, dass Maia bereits in europäischen Rechenzentren läuft. Wer Azure-Dienste nutzt, dürfte die Folgen über Preise und Kapazität bemerken, nicht über eine neue Produktauswahl: Ob und wann Kunden Maia-Rechenleistung direkt mieten können, sagt die Ankündigung nicht. Konkreter wird es vermutlich auf Microsofts Entwicklerkonferenz Ignite im November.

Die strategische Absicht ist klar. Wie Google mit seinen TPU-Chips und Amazon mit Trainium will Microsoft weniger abhängig von Nvidia werden, dessen Grafikprozessoren knapp und teuer sind. Die Branchenpublikation The Information hatte im August berichtet, Microsoft verhandle mit TSMC über Fertigungskapazität für mehr als 300.000 Maia-300-Chips im Jahr 2027; offiziell bestätigt hat Microsoft keine Stückzahl. Ein vollständiger Abschied von Nvidia ist das nicht. Maia ergänzt die GPU-Flotte, ersetzt sie aber nicht, zumal der Chip ausdrücklich für den Betrieb fertiger Modelle gebaut ist und nicht für deren Training.

Fazit: Die Kostenfrage verschiebt sich zur Inferenz

Mit Maia 300 trifft Microsoft eine bemerkenswert klare Wette. Nicht das Training immer größerer Modelle soll mit eigenen Chips günstiger werden, sondern ihr täglicher Betrieb, der mit jedem Agenten und jedem langen Kontextfenster teurer wird. Dass der Konzern den Chip um Speicher und Stromeffizienz herum gebaut hat, zeigt, wo er die Grenze der nächsten Jahre sieht. Ob die Rechnung aufgeht, entscheidet sich erst 2027 im Betrieb, und die versprochenen 40 Prozent müssen sich gegen echte Nvidia-Systeme bewähren. Gelingt es, profitieren davon am Ende vor allem die Nutzer: KI-Funktionen, die heute noch knapp kalkuliert oder hinter teuren Abos stecken, werden für Anbieter billiger im Betrieb.