Soofi S: Was das neue deutsche Open-Source-Modell leisten soll

Ein deutsches Forschungskonsortium stellt mit Soofi S ein Sprachmodell vor, das nicht nur deutsch und englisch beherrschen, sondern auch auf hiesiger Infrastruktur trainiert worden sein soll. Das ist mehr als ein Standortetikett: Für Unternehmen und Behörden kann entscheidend sein, ob ein Modell nachvollziehbar angepasst und in einer kontrollierbaren Umgebung betrieben werden kann. Ob Soofi S diese Erwartungen in der Praxis erfüllt, müssen unabhängige Einsätze erst zeigen.

Das Wichtigste in Kürze

• Soofi S ist ein offenes deutsch-englisches Modell mit 30 Milliarden Gesamtparametern; pro Token sollen laut Projekt nur rund drei Milliarden aktiv sein.
• Die Hybridarchitektur verbindet Transformer-Schichten mit Mamba-Komponenten und zielt auf lange Kontexte sowie hohen Durchsatz.
• Trainiert wurde nach Angaben des Konsortiums auf der Industrial AI Cloud der Deutschen Telekom in München.
• Der eigentliche Wert liegt nicht in einem deutschen Etikett, sondern in überprüfbarer Dokumentation, offenen Gewichten und einer glaubwürdigen Betriebsoption.

Warum ein weiteres Sprachmodell überhaupt relevant ist

Die großen Sprachmodelle stammen überwiegend von US-amerikanischen oder chinesischen Unternehmen. Viele deutsche Organisationen nutzen sie trotzdem, weil sie leistungsfähig und sofort verfügbar sind. In regulierten Bereichen bleibt jedoch die Frage, welche Daten den eigenen Betrieb verlassen, wer Änderungen am Modell nachvollziehen kann und wie abhängig ein Unternehmen von einem einzelnen Anbieter wird. Genau an dieser Stelle setzt Soofi an: Das Projekt versteht sich als europäische, souveräne und offene Modellfamilie.

„Souverän“ ist dabei kein Synonym für automatisch sicher oder datenschutzkonform. Es beschreibt zunächst eine Möglichkeit zur Kontrolle: Gewichte, Dokumentation und eine betreibbare Infrastruktur können es erleichtern, ein Modell in einer eigenen oder vertraglich klar abgegrenzten Umgebung einzusetzen. Für eine sensible Anwendung braucht es trotzdem Zugriffskonzepte, Tests, Datenminimierung und fachliche Verantwortung. Das zeigt auch der Blick auf den Markt: Während Microsoft seine KI-Strategie stärker mit eigenen Modellen verzahnt, suchen europäische Anwender nach Optionen, die sie nicht vollständig an einen Plattformanbieter binden.

Das Konsortium hinter Soofi vereint Forschungseinrichtungen und Industriepartner. Fraunhofer beschreibt das Vorhaben als Baustein für Unternehmen, öffentliche Verwaltung, Forschung und Start-ups. Diese Zielgruppe erklärt auch den Schwerpunkt: Nicht ein möglichst spektakulärer Chatbot steht im Vordergrund, sondern die Verarbeitung technischer, regulatorischer und anderer umfangreicher Dokumente sowie Anwendungen mit Code und Agenten.

30 Milliarden Parameter sind nicht gleich 30 Milliarden Rechenlast

Die Bezeichnung 30B-A3B beschreibt den zentralen technischen Kniff. Soofi S besitzt insgesamt 30 Milliarden Parameter, aktiviert laut Paper aber nur etwa drei Milliarden je verarbeitetem Token. Das ist ein Mixture-of-Experts-Ansatz: Ein Router wählt für einzelne Eingaben nur einen Teil spezialisierter Modellbereiche aus. Dadurch kann ein Modell viel Kapazität vorhalten, ohne bei jedem Satz die gesamte Rechenarbeit auszuführen.

Hinzu kommt eine Hybridarchitektur aus Transformer- und Mamba-Schichten. Transformer sind der etablierte Kern vieler Sprachmodelle, werden bei sehr langen Eingaben aber speicherintensiv. Mamba ist eine alternative Modellkomponente, die Sequenzen anders verarbeitet und beim Zwischenspeicher günstiger skalieren kann. Das technische Paper verspricht deshalb einen nahezu konstanten Inferenz-Cache bei wachsendem Kontext und Vorteile beim Durchsatz. Das ist plausibel als Architekturziel, aber noch kein Beleg dafür, dass jede konkrete Anwendung schneller oder günstiger läuft: Hardware, Quantisierung, Bedienoberfläche und Aufgabenprofil entscheiden mit.

Für kleine Teams folgt daraus ebenfalls keine einfache Laptop-Empfehlung. Auch wenn weniger Parameter aktiv sind, müssen Modellgewichte gespeichert und sinnvoll bereitgestellt werden. Die auf Hugging Face auffindbare Vorschau verweist zwar auf quantisierte Varianten. Wer lokal experimentiert, sollte aber den tatsächlichen Speicherbedarf, Latenz und Qualität mit den eigenen Dokumenten prüfen, statt allein auf die Zahl aktiver Parameter zu schauen.

Die Benchmark-Ergebnisse brauchen einen zweiten Blick

Nach Angaben des Soofi-Papers wurde das Modell mit rund 27 Billionen Token trainiert, mit besonderem Gewicht auf deutschen Texten. Das Projekt berichtet gute Ergebnisse in deutschen und englischen Benchmarks und hebt vor allem Code-Aufgaben sowie den Vergleich mit anderen europäischen, souveränen Modellen hervor. Solche Messwerte sind wichtig, weil sie Architekturentscheidungen überprüfbar machen. Sie bleiben aber zunächst Selbstauskünfte der Entwickler.

Entscheidend wird sein, ob Dritte die Gewichte, Trainings- und Evaluierungsdetails tatsächlich prüfen und mit denselben Einstellungen reproduzieren können. Positiv ist, dass das Projekt eine weitreichende Offenlegung von Gewichten, ausgewählten Zwischenständen, Hyperparametern und Datenabrechnungen ankündigt. Bei den Trainingsdaten gilt dennoch: Transparenz über Quellen und Mengen ist nicht dasselbe wie eine vollständige Offenlegung jedes einzelnen Textes; Lizenzen und Rechte setzen Grenzen. Gerade für den Einsatz in Unternehmen ist das eine Frage, die vor einer Beschaffung geklärt werden sollte.

Auch ein deutschsprachiger Schwerpunkt entbindet Anwender nicht von eigenen Tests. Gute Ergebnisse in Standardaufgaben sagen wenig darüber aus, ob ein Modell interne Abkürzungen versteht, Tabellen zuverlässig interpretiert oder in einer Fachkommunikation keine plausibel klingenden Fehler produziert. Für einen Piloten eignen sich klar abgegrenzte Aufgaben, menschliche Kontrolle und ein Vergleich mit etablierten offenen sowie kommerziellen Modellen.

In München trainiert, aber nicht nur für München gedacht

Die Deutsche Telekom hat ihre Industrial AI Cloud in München im Februar in Betrieb genommen; dort lief nach Projektangaben auch das Training von Soofi S. Die Infrastrukturfrage ist nicht bloß PR. Training auf einer kontrollierbaren europäischen Plattform kann für Beschaffung, Compliance und langfristige Verfügbarkeit relevant sein. Sie beantwortet aber nicht automatisch die schwierigeren Fragen nach Kosten, Support, Sicherheitsarchitektur und der Integration in bestehende Prozesse.

Der bessere Maßstab für Soofi S ist daher nicht: Kann es jedes US-Modell auf jeder Aufgabe schlagen? Sondern: Entsteht eine belastbare offene Alternative für deutschsprachige Langtexte, Code und industrielle Dokumente, die Organisationen realistisch selbst betreiben oder verlässlich beziehen können? Wenn die angekündigte Offenheit und unabhängige Tests folgen, wäre das ein nützlicher Schritt für die europäische KI-Landschaft. Bis dahin ist Soofi S ein interessantes technisches Versprechen – und ein guter Anlass, bei Sprachmodellen genauer auf Herkunft, Dokumentation und Betriebsmodell zu schauen.