Deutschland hat ein KI-Sicherheitsinstitut. Das klingt zunächst nach einer weiteren Abkürzung im Berliner Behördenalphabet, kann aber eine wichtige Lücke schließen: Wer leistungsfähige KI-Modelle nutzen und regulieren will, braucht eigene technische Urteile über ihre Fähigkeiten und Risiken. Das neue AISI Deutschland soll genau diese Aufgabe übernehmen. Seine Arbeit beginnt nicht mit einem fertigen Forschungszentrum, sondern mit einem gemeinsamen Nukleus aus Bundesamt für Sicherheit in der Informationstechnik und Bundesnetzagentur.
Das ist ein sinnvoller Start, aber noch kein Beweis für Handlungsfähigkeit. Sicherheitsforschung an modernen Modellen braucht Zugang, Rechenkapazität, Methoden und Fachleute, die Ergebnisse auch gegenüber großen Anbietern vertreten können. Entscheidend wird deshalb nicht das Schild am Gebäude sein, sondern ob AISI Modelle realistisch testen, Befunde nachvollziehbar einordnen und Wissen schnell an Behörden, Unternehmen und Öffentlichkeit weitergeben kann.
Das Wichtigste in Kürze
- AISI Deutschland hat am 31. August 2026 seine Arbeit aufgenommen und wird schrittweise aufgebaut.
- BSI und Bundesnetzagentur bilden zunächst den Kern: Das BSI verantwortet Cybersecurity, die Bundesnetzagentur den Bereich Safety.
- Das Institut soll Fähigkeiten und Risiken fortschrittlicher KI-Modelle technisch bewerten, nicht bloß Regeln verwalten.
- Für die Praxis zählen Testzugang, klare Rollen neben der KI-Verordnung und ausreichende Kapazitäten mehr als der Gründungsbeschluss.
Ein Institut für zwei verschiedene Risiken
Die Aufteilung macht einen wichtigen Unterschied sichtbar. Cybersecurity fragt, ob ein Modell Angriffe erleichtern, Schwachstellen finden oder digitale Systeme gefährden kann. Safety meint breiter die Frage, ob ein leistungsfähiges Modell in seinem Verhalten, seinen Fähigkeiten oder seiner Steuerbarkeit Risiken erzeugt. Beides lässt sich nicht sauber trennen. Ein Modell, das Sicherheitslücken überzeugend erklären kann, kann Verteidigern helfen und Angreifern zugleich neue Werkzeuge geben. Deshalb ist die Verbindung von BSI und Bundesnetzagentur plausibel, solange sie nicht bei einem Organigramm stehen bleibt.
Nach Angaben des Bundesministeriums für Digitales und Staatsmodernisierung soll AISI Chancen und Risiken fortschrittlicher Modelle bewerten, die KI-Resilienz stärken und sicherheitsrelevante Erkenntnisse in Staat, Wirtschaft und Zivilgesellschaft übertragen. In der ersten Phase liegt ein Schwerpunkt auf führenden Modellen und ihren Cyberrisiken. Das ist enger als eine allgemeine KI-Behörde und gerade deshalb sinnvoll: Ein Institut kann sich auf technische Messung, Evaluierung und Warnsignale konzentrieren, statt jeden Einsatzfall mit einem neuen Formular zu begleiten.
Für Unternehmen folgt daraus zunächst keine neue direkte Pflicht. Die Warnungen vor KI-gestützten Cyberangriffen zeigen jedoch, warum unabhängige Bewertungen über akademische Debatten hinausgehen. Wer KI in Entwicklung, Support oder kritischen Prozessen einsetzt, braucht belastbare Antworten darauf, welche Aufgaben ein Modell wirklich beherrscht und welche Schutzgrenzen unter realistischen Angriffen versagen.
AISI ergänzt Regulierung, ersetzt sie aber nicht
Die Bundesnetzagentur hat bereits eine zentrale Rolle bei der Umsetzung der europäischen KI-Verordnung in Deutschland. Sie informiert über Risikoklassen, Transparenzpflichten und Zuständigkeiten. Das AISI ist davon zu unterscheiden: Die Verordnung ordnet Pflichten entlang von Einsatz und Risiko; ein Sicherheitsinstitut soll die technische Grundlage dafür verbessern, besonders bei sehr leistungsfähigen Allzweckmodellen. Es kann also erklären helfen, was ein Risiko praktisch bedeutet. Rechtsverbindliche Auslegung und Sanktionen bleiben trotzdem bei den zuständigen Stellen und Gerichten.
Diese Grenze ist wichtig, damit Erwartungen nicht zu groß werden. AISI wird nicht über Nacht entscheiden, ob ein Chatbot legal ist, und es wird auch keine Sicherheitsgarantie für ein Modell ausstellen können. Sein Mehrwert liegt eher in wiederholbaren Tests, sauber dokumentierten Annahmen und der Fähigkeit, Ergebnisse mit internationalen Partnern zu vergleichen. Das Ministerium nennt bereits Austausch mit Frankreich, dem Vereinigten Königreich und dem EU-KI-Büro. Gerade weil führende Modelle global entwickelt werden, wäre ein rein nationales Testlabor zu klein gedacht.
Auch die jüngsten Diskussionen über Werbung und Datenkontexte in ChatGPT zeigen die Grenze technischer Prüfung: Nicht jedes gesellschaftliche Risiko ist ein Modelltest, und nicht jede Messung ersetzt politische Regeln. AISI kann Risiken sichtbar machen. Ob daraus Transparenz, Haftung, Beschaffungsvorgaben oder Grenzen für bestimmte Einsätze folgen, bleibt eine demokratische und rechtliche Entscheidung.
Der Testzugang entscheidet über die Glaubwürdigkeit
Die schwerste praktische Frage lautet: Was darf AISI tatsächlich untersuchen? Öffentliche Schnittstellen reichen für viele Sicherheitsbewertungen nicht aus. Um gefährliche Fähigkeiten, Schutzmechanismen oder unerwartetes Verhalten zuverlässig zu prüfen, benötigen Fachleute oft frühzeitigen Zugang, detaillierte technische Informationen und kontrollierte Testumgebungen. Ohne solche Möglichkeiten droht ein Institut, externe Behauptungen nur nachzuerzählen. Mit Zugang entsteht umgekehrt die Pflicht, sensible Erkenntnisse verantwortungsvoll zu behandeln und weder Angriffswege noch Geschäftsgeheimnisse unnötig offenzulegen.
Die Bundesregierung beschreibt den Aufbau ausdrücklich als schrittweise. Das ist ehrlicher als große Versprechen, macht aber messbare Etappen nötig: Welche Evaluierungen werden zuerst entwickelt? Welche Modelle werden nach welchen Kriterien geprüft? Wann werden Ergebnisse veröffentlicht, wann nur vertraulich an Behörden geteilt? Und wie wird verhindert, dass ein kleiner Expertenkreis von den Informationen der Anbieter abhängig bleibt? Ein gutes Institut muss kritische Distanz organisieren, nicht nur Kontakte pflegen.
Hinzu kommt das Tempo. Modellversionen, Werkzeuge und Einsatzformen ändern sich schneller als klassische Normen. AISI braucht daher Tests, die sich aktualisieren lassen, sowie feste Wege für Hinweise aus Forschung, Sicherheitscommunity und Unternehmen. Das BSI bringt Erfahrung mit Cybersicherheit mit; die Bundesnetzagentur Erfahrung mit Märkten und Regulierung. Beide Kompetenzen sind wertvoll. Ob daraus eine schlagkräftige Evaluierungsstelle wird, entscheidet sich an Personal, Zugang und veröffentlichten Arbeitsstandards.
Ausblick: Weniger Symbolik, mehr prüfbare Arbeit
Die Gründung von AISI Deutschland ist kein Ersatz für sichere Entwicklung, verantwortliche Beschaffung oder die Umsetzung der KI-Verordnung. Sie kann aber die Qualität der Debatte verändern. Statt sich auf Modellankündigungen, Benchmarks oder diffuse Warnungen zu verlassen, könnte Deutschland häufiger fragen: Was wurde unter welchen Bedingungen getestet, was lässt sich daraus ableiten und was ausdrücklich nicht? Genau diese Nüchternheit fehlt in einer Technik, deren Marketing oft schneller wächst als die Belege. Wenn AISI diese Rolle ausfüllt, wird aus einer neuen Abkürzung ein nützliches öffentliches Instrument.