Washingtons KI-Pakt: Vier Kontrollebenen, aber keine Pflicht

Sechs der wichtigsten KI-Unternehmen der USA haben sich im Weißen Haus auf gemeinsame Sicherheitsregeln verständigt. Das einseitige Papier vom 29. September verlangt vier Kontrollebenen, von internen Prüfungen bis zum unabhängigen Aufsichtsratsausschuss. Durchsetzen kann es niemand. Parallel hat Präsident Donald Trump per Dekret angeordnet, dass Bundesbehörden künftig „Super Intelligence“ statt „Artificial Intelligence“ schreiben. Beides zusammen zeigt, wie Washington KI-Sicherheit derzeit versteht: als Versprechen der Branche, nicht als Gesetz.

Das Wichtigste in Kürze

• Unterschrieben haben Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Elon Musk (xAI) und Jensen Huang (Nvidia), dazu Trump selbst.
• Der Pakt sieht vier Ebenen vor: interne Kontrollen, ein internes Prüfteam, einen unabhängigen externen Prüfer und einen unabhängigen Ausschuss im Aufsichtsgremium.
• Rechtlich bindend ist nichts. Die einzige feste Zusage lautet, sich regelmäßig zu treffen und Standards zu erarbeiten.
• Ein Dekret ersetzt im Behördensprachgebrauch „AI“ durch „SI“; die rechtliche Definition bleibt vorerst dieselbe.
• Für Europa ändert sich wenig: Hier gelten für dieselben Anbieter bereits verbindliche Pflichten aus dem AI Act.

Was im Pakt steht

Das Dokument trägt den Titel „White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities“. Es geht von einem Grundsatz aus: Jedes Unternehmen, das sogenannte Frontier-Modelle entwickelt, also die jeweils leistungsfähigsten Systeme, ist selbst dafür verantwortlich, seine Technik sicher zu entwickeln und das Vertrauen von Kunden und Öffentlichkeit zu gewinnen.

Konkret beschreibt der Text vier Schichten. Die erste sind interne Kontrollen, die überwachen, welche Fähigkeiten ein Modell in den Bereichen Cybersicherheit, Biosicherheit und Chemie entwickelt, und die verhindern sollen, dass Systeme sich ungewollt Zugang zu fremden Rechnern verschaffen. Die zweite ist ein internes Team, das prüft, ob diese Kontrollen funktionieren, und Mängel behebt. Drittens sollen unabhängige externe Prüfer bewerten, ob die Überwachung wie vorgesehen arbeitet. Viertens erhält ein unabhängiger Ausschuss des Aufsichtsgremiums die Berichte und sorgt dafür, dass gefundene Probleme abgestellt werden. Die Unterzeichner erklären sich zudem bereit, eine spätere gesetzliche Regelung zu unterstützen.

Trump nannte den Pakt nach Angaben von Al Jazeera „moralisch bindend“ und kündigte einen „enormen Aspekt der Selbstkontrolle“ an. Google-Chef Pichai sagte, das Papier enthalte „echte, greifbare Schritte“ für eine sichere Entwicklung. Auffällig ist, wer für OpenAI unterschrieben hat: nicht Vorstandschef Sam Altman, sondern Präsident Greg Brockman.

Wo die Lücken liegen

Connor Martin, Fellow beim Council on Foreign Relations und früher stellvertretender Leiter der US-Behörde für Auslandsinvestitionsprüfung CFIUS, hat den Text genau analysiert. Sein Befund: Das Papier arbeitet mit „believe“ und „should“, nicht mit „will“ oder „shall“. Nichts darin verpflichte einen Unterzeichner rechtlich, sein Verhalten zu ändern. Die einzige Formulierung mit „will“ betrifft regelmäßige Treffen zur Erarbeitung von Standards. Es gibt keine Strafen, keine Pflicht, Prüfergebnisse zu veröffentlichen und keine Rolle für den Staat bei der Durchsetzung. Martin hält den Pakt sogar für weniger detailliert als die freiwilligen Zusagen, die die Regierung Biden 2023 eingesammelt hatte.

Bemerkenswert ist auch, wer noch kürzlich mehr gefordert hat. Laut Al Jazeera hat OpenAI-Cheflobbyist Chris Lehane im September beim Kongress verpflichtende nationale Sicherheitsstandards angemahnt, Anthropic-Chef Amodei spricht sich seit Langem für verbindliche Regulierung aus, und Google-DeepMind-Chef Demis Hassabis hat eine Bundesaufsicht für KI vorgeschlagen. Im Kongress liegen weitergehende Entwürfe, darunter ein parteiübergreifender Transparenzgesetzentwurf, der die Offenlegung von Datensammlung und Schutzmaßnahmen verlangen würde.

Wie schnell die Praxis den Text einholt, zeigte sich wenige Tage nach der Unterzeichnung. OpenAI teilte mit, dass es mehr als 100 Organisationen über Aktivitäten seiner KI-Agenten informiert hat, also genau die Art ungewollter Systemzugriffe, die die erste Kontrollebene verhindern soll. Am 2. Oktober entließ das Unternehmen zudem zwei Sicherheitsforscher und einen Programmmanager, weil sie vertrauliche Informationen unter anderem an eine externe Organisation zur Bewertung von KI-Systemen weitergegeben haben sollen. OpenAI betont, die Entlassungen hätten nichts mit geäußerten Sicherheitsbedenken zu tun. Der Fall zeigt das Grundproblem: Ob die vier Ebenen greifen, erfährt die Öffentlichkeit nur, wenn das Unternehmen selbst es mitteilt.

Aus „AI“ wird „SI“

Am selben Tag unterzeichnete Trump das Dekret „Inaugurating the Era of Super Intelligence“. Bundesministerien und Behörden sollen in Schreiben, Webseiten, Berichten und Strategiepapieren künftig „Super Intelligence“ und „SI“ verwenden, soweit das rechtlich zulässig ist. Bestehende Gesetze, Verordnungen und Verträge bleiben unberührt. Inhaltlich ändert sich zunächst nichts, wie die Kanzlei Wiley in ihrer Analyse festhält: Das Dekret verweist für die Definition auf das bestehende Bundesgesetz, nach dem KI ein maschinengestütztes System ist, das für vorgegebene Ziele Vorhersagen, Empfehlungen oder Entscheidungen trifft. Das neue Etikett beschreibt also dieselbe Technik wie bisher.

Spannender ist der zweite Teil. Der Wissenschaftsberater des Präsidenten soll binnen 60 Tagen einen Gesetzesvorschlag für eine eigene Bundesdefinition vorlegen. Ob der Vorrang vor den KI-Gesetzen einzelner Bundesstaaten bekommen soll, lässt das Dekret offen. Laut Wiley könnte genau diese Frage in den angekündigten Gesetzesvorschlägen auftauchen. Wer verstehen will, wohin die US-Regulierung steuert, sollte also weniger auf das neue Etikett achten als auf diesen Entwurf.

Was das für Europa bedeutet

Für Nutzer und Unternehmen in Deutschland ist der Pakt vor allem ein Signal über die Richtung in Washington. Die rechtliche Lage in der EU ist eine andere. Seit dem 2. August 2025 gelten für Anbieter großer Allzweckmodelle die Pflichten aus dem AI Act, seit dem 2. August 2026 kann die EU-Kommission sie mit Bußgeldern durchsetzen. Anbieter besonders leistungsfähiger Modelle mit systemischem Risiko müssen ihre Modelle beim europäischen KI-Büro melden und schwerwiegende Vorfälle berichten. Das betrifft dieselben Unternehmen, die in Washington unterschrieben haben.

Hinzu kommt eine eigene Spur der US-Regierung: Wie wir berichtet haben, will Washington neue Spitzenmodelle vor anderen Staaten prüfen, und die Verbraucherschutzbehörde FTC hat ein Verfahren gegen KI-Anbieter eröffnet. Der Pakt ersetzt diese Instrumente nicht, er ergänzt sie um eine freiwillige Ebene.

Fazit: Ein Gerüst ohne Fundament

Die vier Kontrollebenen sind kein schlechtes Konzept. Unabhängige Prüfer und ein Aufsichtsausschuss, der Mängel abarbeiten muss, sind genau die Strukturen, die Fachleute seit Jahren fordern. Der Pakt beschreibt sie aber nur, er verlangt sie nicht, und er legt nicht fest, wer die Ergebnisse zu sehen bekommt. Damit hängt alles an den Unternehmen, deren Geschäftsmodell auf immer schnellere Modellveröffentlichungen setzt. Ob aus dem Gerüst mehr wird, entscheidet sich in den kommenden zwei Monaten: wenn der Gesetzesvorschlag für die neue Definition vorliegt und sich zeigt, ob Washington den Unternehmen auch Pflichten auferlegen will oder vor allem den Bundesstaaten die Hände bindet.