Nvidias SoL-Pi spart Agenten-Tokens – mit messbaren Abstrichen

Ein Coding-Agent kann viel Geld verbrauchen, ohne in jedem Schritt etwas Neues zu lernen. Er liest dieselben Dateien erneut, verarbeitet lange Protokolle und schickt alte Ergebnisse immer wieder an das Sprachmodell. Nvidias Forschungsprojekt SoL-Pi setzt an dieser Steuerung an: Auf EdgeBench sinkt der aufgezeichnete Token-Verkehr gegenüber Pi um 44,7 bis 49 Prozent. Der Preis dafür ist ein leicht niedrigerer durchschnittlicher Score – und außerhalb dieses Tests fällt die Abwägung deutlicher aus.

Das Wichtigste in Kürze

• SoL-Pi optimiert die Arbeitsumgebung eines Coding-Agenten, ohne dafür das Hauptmodell neu zu trainieren.
• Die sparsame Kombination erreicht auf EdgeBench ungefähr 94 Prozent des Pi-Scores bei rund einem Drittel weniger API-Kosten.
• Vier Mechanismen bündeln Aktionen, archivieren Ausgaben, verdichten Kontext und lassen lange Diagnoseprotokolle gezielt auswerten.
• Die offene Erweiterung ist für Pi gedacht. Ihre Funktionen sind standardmäßig ausgeschaltet; sie ist kein Sparschalter für jede Agenten-App.

Die Kosten entstehen auch zwischen den Denkaufgaben

Ein Sprachmodell beantwortet eine Anfrage auf Grundlage des mitgelieferten Kontexts. Bei einem Agenten umfasst dieser Kontext nicht nur die Nutzerfrage, sondern auch Werkzeugergebnisse und bisherige Arbeit. Eine lange Fehlermeldung kann deshalb bei späteren Anfragen erneut mitreisen, obwohl nur eine bestimmte Zeile für die nächste Entscheidung wichtig ist. Das Modell erledigt dann nicht einfach mehr Arbeit am Code; ein Teil des Aufwands entsteht durch die Organisation seiner Informationen.

Diese Organisation übernimmt der sogenannte Harness, die Steuerungsschicht zwischen Modell, Werkzeugen und Umgebung. Er entscheidet unter anderem, welche Ergebnisse sichtbar bleiben und wann ein neuer Modellaufruf nötig ist. SoL-Pi verändert diese Abläufe. Der Ansatz ergänzt damit den Fortschritt bei Leistung und Kosten neuer Modelle: Auch ein gleichbleibendes Modell kann in einer anders aufgebauten Arbeitsumgebung wirtschaftlicher arbeiten.

Die Forschung wurde mit GPT-5.6 Sol entwickelt und anschließend auch mit Claude Opus 5 geprüft. Das sind die Modelle dieses Versuchs, nicht automatisch die heute passendsten Optionen für jedes Projekt. Für die Aussage der Arbeit ist gerade die feste Modellbasis interessant. Sie hilft, Einsparungen durch die Steuerung von Verbesserungen durch einen Modellwechsel zu unterscheiden.

Vier Eingriffe in den Arbeitsablauf

Action Fusion verbindet eine Dateiänderung mit dem anschließenden Prüfkommando in einem Werkzeugaufruf. Wenn nach einer klar definierten Änderung ohnehin der passende Test folgen soll, kann die lokale Umgebung beide Aktionen ausführen und gemeinsam zurückmelden. Die einordnende Folgerung: Ein zusätzlicher Denkturn ist an dieser Stelle möglicherweise organisatorischer Aufwand, nicht zusätzliche Problemlösung.

ObservationPack bewahrt umfangreiche Werkzeugausgaben lokal auf und ersetzt wiederholtes Mitsenden durch einen Verweis mit einem kurzen Ausschnitt. Benötigt der Agent später mehr, kann er genaue Teile des Originals zurückholen. Der Unterschied zu einer bloßen Zusammenfassung ist praktisch wichtig: Bei einer unklaren Fehlermeldung bleibt die ursprüngliche Beobachtung zugänglich. Weniger Text im aktiven Kontext muss damit nicht bedeuten, dass das vollständige Protokoll verloren ist.

Evidence-Preserving Reducer lässt ein günstigeres Modell lange Diagnoseausgaben zu einem kompakten Belegauszug verdichten. Übernommene Zitate werden gegen das archivierte Original geprüft; bei einem Fehlschlag bleibt das ursprüngliche Ergebnis erhalten. Diese Prüfung sichert die Übereinstimmung der zitierten Stellen. Sie beweist nicht von selbst, dass eine Zusammenfassung jede relevante Ursache verstanden hat. Für Entwickler bleibt deshalb wichtig, bei Bedarf zum Original zurückkehren zu können.

Online Context Compact nimmt abgeschlossene Teilaufgaben als Gelegenheit, den Kontext zu verdichten. Ob sich das lohnt, hängt auch vom Aufwand des Umschreibens und der Wiederverwendung bereits verarbeiteter Eingaben ab. Das erklärt, warum „früher zusammenfassen“ allein keine allgemeine Sparregel ist. Eine Verdichtung kann künftige Anfragen verkürzen und zugleich vorher nutzbare Zwischenspeicherung entwerten.

Weniger Tokens sind nicht automatisch derselbe Nutzen

Die Arbeit unterscheidet eine sparsame Gesamtkonfiguration von einer Variante, die nur den jeweils leistungsstärksten Einzelmechanismus verwendet. Die größte Token-Ersparnis gehört zur sparsamen Kombination. Es wäre falsch, deren niedrigen Verbrauch mit dem höheren Score einer anderen Konfiguration zu einem einzigen Versprechen zusammenzuziehen. Wer über den Einsatz entscheidet, muss Qualität und Kosten derselben Variante vergleichen.

Auf 63 CPU-Aufgaben von Terminal-Bench 4 löst SoL-Pi 15 Aufgaben, Pi und Codex lösen jeweils 18. Die geringeren Gesamtkosten kaufen hier also auch weniger gelöste Aufgaben. Das macht die Erweiterung nicht nutzlos, zeigt aber, weshalb der Begriff „nahezu gleiche Leistung“ ohne Testkontext zu weit reicht. Eine Ersparnis pro Lauf und eine Ersparnis pro erfolgreich erledigtem Auftrag sind unterschiedliche Kennzahlen.

Auch die Tokenquote ist keine Rechnungssumme. Die Studie rechnet mit API-Preisen vom 17. August 2026; verschiedene Tokenarten und Cache-Nutzung schlagen unterschiedlich zu Buche. Die Werte lassen sich deshalb nicht als garantierte Einsparung für ein heutiges Abonnement ausgeben. Ebenso wenig belegen sie, dass eine Codex- oder Claude-Code-Quote nach einer Installation entsprechend länger reicht. Dafür müsste der tatsächlich verwendete Dienst dieselben Abläufe und dieselbe Abrechnung haben.

Für wen ein eigener Vergleich sinnvoll ist

Wer bereits Pi verwendet und lange, wiederkehrende Entwicklungsaufgaben bearbeitet, kann die Erweiterung als kontrollierten Vergleichskandidaten betrachten. Das öffentliche Repository beschreibt eine eigenständige Erweiterung für eine unveränderte Pi-Installation. Alle Mechanismen müssen ausdrücklich aktiviert werden. Die Dokumentation bietet einen vorsichtigen Einstieg mit den lokalen Funktionen Action Fusion und ObservationPack, bevor zusätzliche Modellaufrufe oder automatische Kontextverdichtung hinzukommen.

Ein aussagekräftiger Vergleich sollte aus unserer Sicht dieselben Aufgaben mit gleichem Modell, gleichen Zugriffsrechten und gleichen Erfolgskriterien durchlaufen. Gemessen werden sollten nicht nur Tokens und Kosten, sondern auch bestandene Prüfungen, nötige Nacharbeit und Zeit bis zum brauchbaren Ergebnis. Lokale Logarchive brauchen zudem eine bewusste Aufbewahrung; die Dokumentation weist darauf hin, dass ein Reducer Diagnosematerial an sein konfiguriertes Modell schicken kann.

SoL-Pi liefert damit eine konkrete neue Möglichkeit: Agenten effizienter machen, indem ihre Umgebung wiederkehrenden Aufwand erkennt und reduziert. Der überzeugende Alltagsbeleg wäre eine wiederholbare Senkung der Kosten pro tatsächlich abgeschlossenem Auftrag. Dafür zählt nicht der spektakulärste Prozentwert, sondern ob die gewählte Kombination im eigenen Projekt genügend Kontext bewahrt und weiterhin die Arbeit erledigt, für die der Agent eingesetzt wird.