Erst Washington, dann London: USA wollen neue KI-Modelle zuerst prüfen

Das Weiße Haus hat OpenAI und Anthropic aufgefordert, neue KI-Modelle erst dann an das britische AI Security Institute (AISI) zu geben, wenn die US-Regierung sie selbst geprüft hat. Damit gerät die bislang engste Zusammenarbeit zweier Staaten bei der Sicherheitsprüfung von Spitzenmodellen unter Druck. Für Europa ist das mehr als eine diplomatische Randnotiz: Wenn schon Großbritannien warten muss, stellt sich die Frage, wann europäische Prüfer und Nutzer die stärksten Modelle überhaupt zu sehen bekommen.

Das Wichtigste in Kürze

• Laut Politico kam die Aufforderung vom Office of the National Cyber Director, der obersten Cybersicherheits-Stelle des Weißen Hauses; ein britischer Regierungsvertreter bestätigte den Bericht gegenüber Bloomberg.
• Anthropic hat sein Spezialmodell Claude Mythos 5.1 bislang nur einem Kreis von US-Organisationen zugänglich gemacht, das britische Institut blieb außen vor.
• OpenAIs GPT-6 Astra konnte das AISI dagegen noch vor dem Start testen.
• Die zuständige US-Prüfstelle CAISI hat nach Politico-Angaben weder einen festen Leiter noch mehr als einige Dutzend technische Mitarbeiter.
• Für europäische Nutzer bleibt Mythos 5.1 vorerst unerreichbar, die allgemein verfügbare Schwester Fable 5.1 ist davon nicht betroffen.

Was Washington verlangt

Politico berichtete am 24. September als Erstes über die Bitte der US-Regierung. Demnach sollen OpenAI und Anthropic neue Modelle nicht mehr an das britische Institut weitergeben, bevor staatliche US-Tester sie untersucht haben. Ein ranghoher Regierungsvertreter begründete das gegenüber Politico damit, dass die USA sicherstellen wollten, dass amerikanische Systeme geschützt sind, bevor Partner Zugriff erhalten. Wörtlich sagte er: „Weil es amerikanische Unternehmen sind und das bei jedem neuen Spitzenmodell unsere Linie war.“ Einen Tag später bestätigte ein britischer Regierungsvertreter den Bericht gegenüber Bloomberg. Anthropic lehnte gegenüber Politico einen Kommentar ab, OpenAI gegenüber Bloomberg; das Weiße Haus antwortete keinem der beiden Medien.

Hinter der Forderung steht laut der Nachrichtenagentur Reuters wachsende Sorge über Sicherheitsschwächen von KI-Modellen. In den vergangenen Monaten sind mehrere Fälle bekannt geworden, in denen KI-Agenten ohne Erlaubnis in echte Computersysteme eingedrungen sind. Erst am Mittwoch teilten australische Behörden mit, dass ein OpenAI-Agent im Juni in ein staatliches Gesundheitsportal eingebrochen war, wie wir im Artikel über den geknackten Medicare-Zugang beschrieben haben.

Mythos 5.1: Das Modell, das London nicht bekam

Konkret betroffen ist bisher vor allem Anthropic. Das Unternehmen hat Anfang September zwei Modelle vorgestellt, die technisch identisch sind und sich nur in ihren Schutzmechanismen unterscheiden: Claude Fable 5.1 ist allgemein verfügbar, Claude Mythos 5.1 hat lockerere Sicherheitsfilter für geprüfte Fachleute aus Cybersicherheit und Biowissenschaften. Mythos 5.1 ist laut Anthropic „derzeit nur für einen Kreis von US-Organisationen verfügbar“. Man stimme sich mit der US-Regierung ab, um den Zugang „so schnell wie möglich“ auf weitere Partner im In- und Ausland auszuweiten.

Das britische Institut hat Mythos 5.1 vor dem Start nicht zu sehen bekommen. Institutsdirektor Henry de Zoete räumte das in einem Schreiben an einen Parlamentsausschuss ein, betonte aber zugleich, man pflege weiterhin starke Beziehungen zu allen Entwicklern von Spitzenmodellen und habe nach wie vor Vorabzugang zu einigen der leistungsfähigsten Modelle der Welt. Als Beleg nannte er GPT-6 Astra, das sein Team vor der Veröffentlichung prüfen konnte.

Neu ist das Misstrauen Washingtons gegenüber einem Zugriff aus dem Ausland nicht. Am 12. Juni hatte die US-Regierung Anthropic untersagt, ausländische Staatsangehörige die Vorgängermodelle Mythos 5 und Fable 5 nutzen zu lassen. Weil sich das technisch nicht nach Nationalität trennen ließ, schaltete Anthropic beide Modelle damals weltweit ab. Erst Ende Juni gab Handelsminister Howard Lutnick Mythos 5 für rund 100 ausgewählte Unternehmen und Behörden wieder frei.

Warum die britischen Tester wichtig sind

Großbritannien hat das Institut 2023 gegründet. Seitdem lassen die führenden Labore es ihre Modelle freiwillig vor der Veröffentlichung prüfen. Bloomberg nennt es die weltweit am besten ausgestattete staatliche KI-Einrichtung. Seine Befunde haben Gewicht: Im Sommer dokumentierte das AISI minutiös, wie KI-Agenten in Tests eigenständig Grenzen überschritten, wie wir im Bericht über autonome Täuschung durch KI-Agenten zusammengefasst haben.

Die amerikanische Gegenstelle ist deutlich schwächer aufgestellt. Das Center for AI Standards and Innovation (CAISI) im US-Handelsministerium soll Spitzenmodelle vor dem Start prüfen. Nach Politico-Angaben hat es aber keinen festen Direktor und nur einige Dutzend technische Mitarbeiter. Wenn ausgerechnet diese Stelle zum Nadelöhr für alle weiteren Prüfungen wird, dürfte sich der Zugang der Partner eher verzögern als beschleunigen.

London bemüht sich, den Konflikt kleinzuhalten. Ein Regierungssprecher erklärte, das Institut arbeite weiter eng mit der US-Regierung und beiden Unternehmen zusammen, und fügte hinzu: „Diese Risiken machen nicht an Landesgrenzen halt, kein Land kann sie allein bewältigen.“ Premierminister Andy Burnham sprach vor der UN-Generalversammlung von einer Zusammenarbeit „Hand in Hand“ mit den USA und den Laboren und warb für gemeinsame globale Grundsätze und Standards. US-Präsident Donald Trump erklärte an gleicher Stelle, die USA wollten KI fördern statt bremsen, und lehnte eine globale Kontrolle ab.

Was das für Deutschland und Europa bedeutet

Die Entscheidung trifft Europa in einem ungünstigen Moment. Deutschland hat erst Ende August ein eigenes KI-Sicherheitsinstitut gestartet, getragen vom Bundesamt für Sicherheit in der Informationstechnik und der Bundesnetzagentur. Wie wir zum Start von AISI Deutschland geschrieben haben, hängt dessen Nutzen vor allem am Testzugang zu aktuellen Modellen. Wenn selbst der engste Verbündete Washingtons in der Warteschlange steht, ist kaum zu erwarten, dass deutsche Prüfer früher an die Reihe kommen.

Für Nutzer in Deutschland ist die praktische Lage dagegen überschaubar. Die für Alltag und Programmierung relevanten Modelle wie Fable 5.1 oder die aktuellen Opus-Modelle sind hier regulär verfügbar. Unerreichbar bleiben die besonders freizügig eingestellten Varianten für Sicherheitsforschung und Biowissenschaften, und damit genau jene Werkzeuge, von denen sich auch europäische IT-Sicherheitsteams und Labore am meisten versprechen.

Die eigentliche Verschiebung ist grundsätzlicher. Sicherheitstests von KI-Modellen galten bisher als gemeinsame Aufgabe verbündeter Staaten, bei der Wissen geteilt wird. Washington behandelt die stärksten Modelle nun zunehmend wie sicherheitsrelevante Güter, die zuerst im eigenen Land geprüft und erst dann dosiert weitergegeben werden. Europa wird darauf nur mit eigener Prüfkompetenz und eigenen Modellen antworten können, denn auf frühen Zugang zu den stärksten US-Modellen kann es sich nicht mehr ohne Weiteres verlassen.