Google friert Gemini in Silizium ein: Der Frozen-v2-Chip

Google arbeitet Berichten zufolge an einem Server-Chip, der die Architektur seines KI-Modells Gemini direkt in die Hardware gießt. Der Chip mit dem internen Namen „Frozen v2“ soll KI-Antworten bis zu zehnmal effizienter berechnen als die aktuellen TPU-Chips des Konzerns – ein Vorstoß, der zeigt, wie sehr die explodierenden Kosten der KI-Infrastruktur inzwischen die Chip-Strategien der großen Anbieter prägen.

Das Wichtigste in Kürze

• Google entwickelt laut „The Information“ einen spezialisierten Server-Chip namens Frozen v2, der Teile der Gemini-Architektur fest in die Hardware einbrennt.
• Der Chip soll gemessen an Token pro Watt sechs- bis zehnmal effizienter sein als aktuelle TPUs.
• Einsatz ist frühestens ab 2028 geplant, initial für den internen Gebrauch bei Google.
• Alphabet-Aktien legten nach Bekanntwerden des Berichts rund drei Prozent zu.
• Der Chip reiht sich ein in eine Welle modellspezifischer Hardware: OpenAI arbeitet an einem eigenen Inferenz-Chip, Anthropic verhandelt mit Samsung über eine Fertigungspartnerschaft.

Warum ein Chip nur für ein Modell?

Die Idee für Frozen stammt laut Bericht ursprünglich von Jeff Dean, Chefwissenschaftler bei Google DeepMind. Sein erster Entwurf sah vor, die trainierten Modellgewichte selbst fest in den Chip einzubrennen – also buchstäblich ein Stück Gemini in Silizium zu gießen. Google verwarf diesen Ansatz jedoch, weil ein solcher Chip nur mit exakt einer Modellversion funktioniert hätte und mit jedem Gemini-Update wertlos geworden wäre.

Frozen v2 verfolgt einen vorsichtigeren Mittelweg: Eingefroren wird nicht das trainierte Gewicht, sondern die grundlegende Modellarchitektur – also die Struktur, nach der Gemini Informationen verarbeitet. Die eigentlichen, trainierten Parameter bleiben austauschbar. Technisch handelt es sich damit um einen Übergang von generischen TPUs, die viele verschiedene Modelle bedienen können, hin zu einem anwendungsspezifischen Chip (ASIC), der auf eine Modellfamilie zugeschnitten ist und dafür Rechenschritte einspart, die eine flexible TPU bei jeder Anfrage neu ausführen müsste.

Wettlauf um billigere Inferenz

Der Vorstoß fällt in eine Phase, in der Alphabet laut eigenen Angaben zwischen 180 und 190 Milliarden Dollar in den KI-Ausbau investiert. Ein spezialisierter, deutlich sparsamerer Chip würde diese Investitionen direkt rentabler machen und zugleich die Abhängigkeit von Nvidia-GPUs verringern, deren Preismacht selbst großen Cloud-Anbietern zunehmend zu schaffen macht – ein Muster, das sich bereits bei den Chip-Einkaufstouren anderer Tech-Konzerne zeigt.

Google steht mit dieser Strategie nicht allein da. OpenAI entwickelt einen eigenen Inferenz-Chip mit dem Codenamen „Jalapeño“, und Anthropic verhandelt Berichten zufolge mit Samsung über eine Fertigungspartnerschaft für eigene KI-Hardware. Die drei größten KI-Anbieter bewegen sich damit weg vom reinen GPU-Einkauf hin zu maßgeschneiderter, modellspezifischer Hardware – eine Wette darauf, dass sich die eigenen Modellarchitekturen inzwischen genug stabilisiert haben, um einen mehrjährigen Chip-Entwicklungszyklus zu rechtfertigen. Google selbst ist mit spezialisierter KI-Hardware nicht neu: Die TPU-Reihe läuft seit 2015 intern und wird inzwischen auch an Cloud-Kunden vermietet. Frozen v2 geht aber einen Schritt weiter als jede bisherige TPU-Generation, weil er nicht mehr für beliebige Modelle gedacht ist, sondern gezielt auf eine einzige Architekturfamilie zugeschnitten wird.

Der Preis der Spezialisierung

Genau darin liegt aber auch das Risiko. Ein Chip, der auf eine bestimmte Architektur zugeschnitten ist, verliert an Wert, sobald sich diese Architektur grundlegend ändert – und die Entwicklung großer Sprachmodelle ist alles andere als abgeschlossen. Googles Entscheidung, nur die Architektur statt der Gewichte einzufrieren, ist ein Kompromiss, der diese Gefahr abmildert, aber nicht beseitigt: Sollte Gemini in den kommenden Jahren einen fundamentalen Architekturwechsel vollziehen, wie es die Branche in den vergangenen Jahren mehrfach erlebt hat, wäre auch ein 2028 ausgelieferter Frozen-Chip schnell veraltet. Offiziell bestätigt hat Google den Bericht nicht, erklärte aber, man erforsche „ständig neue Innovationen, um maximale Leistung und Effizienz zu liefern“.

Ausblick

Ob sich die Wette auf eingefrorene Architekturen auszahlt, entscheidet sich erst in einigen Jahren – Frozen v2 kommt frühestens 2028 zum Einsatz und bleibt zunächst intern bei Google, ohne dass Cloud-Kunden vorerst direkten Zugriff bekommen. Bemerkenswert ist schon jetzt, dass gleich drei der größten KI-Anbieter parallel den Schritt von flexibler zu spezialisierter Hardware wagen. Für Kunden und Wettbewerber bedeutet das: Der Vorteil bei den Inferenzkosten, der lange vor allem eine Frage des Einkaufsvolumens bei Nvidia war, wird zunehmend zur Frage der eigenen Chip-Entwicklung – mit allen Chancen und Risiken, die eine solche Festlegung mit sich bringt. Sollte sich der Ansatz bewähren, dürfte er zum Vorbild für weitere modellspezifische Chips werden; scheitert Google an einem unerwarteten Architekturwechsel bei Gemini, wird Frozen v2 zur teuren Randnotiz der KI-Hardware-Geschichte.