Es war ein Vorgang ohne Präzedenzfall: Mitten im Produktzyklus musste Anthropic Mitte Juni sein leistungsfähigstes KI-Modell Fable 5 vom Netz nehmen – auf Anordnung der US-Regierung. Seit dem 1. Juli ist das Modell nun wieder weltweit verfügbar. Die zwei Wochen dazwischen erzählen viel darüber, wie eng Staat und KI-Unternehmen in den USA inzwischen verflochten sind und wie schnell aus einem Forschungsbefund ein regulatorischer Ernstfall werden kann.
Das Wichtigste in Kürze
- Die US-Regierung hatte Fable 5 und das Schwestermodell Mythos 5 am 12. Juni per Exportkontrolle sperren lassen – wegen als gravierend eingestufter Cybersicherheitsrisiken.
- Auslöser war ein Jailbreak von Amazon-Forschern: Mit umgangenen Schutzmechanismen identifizierte das Modell Softwareschwachstellen und lieferte in einem Fall Code zu deren Ausnutzung.
- Anthropic trainierte daraufhin einen neuen Sicherheitsfilter, der die Technik nach Unternehmensangaben in über 99 Prozent der Fälle blockiert.
- Seit dem 1. Juli ist Fable 5 wieder weltweit nutzbar; das weniger beschränkte Mythos 5 bleibt zugelassenen US-Organisationen vorbehalten.
- Anthropic verpflichtete sich zu dauerhafter Abstimmung mit der US-Regierung – auch für künftige Modellveröffentlichungen.
Worum es bei den Modellen geht
Fable 5 und Mythos 5 sind die beiden Varianten von Anthropics aktueller Spitzengeneration, die im Frühjahr als Nachfolger der Opus-Reihe erschien. Technisch beruhen beide auf demselben Basismodell. Der Unterschied liegt in der Absicherung: Fable 5 wird mit zusätzlichen Schutzmaßnahmen für heikle Fähigkeiten ausgeliefert und richtet sich an die breite Kundschaft, während Mythos 5 mit weniger Einschränkungen arbeitet und von vornherein nur für geprüfte Organisationen gedacht war. Beide Modelle gelten als führend bei anspruchsvollen Programmier- und Analyseaufgaben – genau die Fähigkeiten, die im Sicherheitskontext zum Problem wurden.
Was zur Sperrung führte
Der Stein kam durch Sicherheitsforscher von Amazon ins Rollen. Sie meldeten eine Methode, mit der sich die Schutzmechanismen von Fable 5 aushebeln ließen – ein sogenannter Jailbreak. Das derart entfesselte Modell spürte daraufhin Schwachstellen in Software auf und zeigte in mindestens einem Fall konkret, wie sich eine davon ausnutzen ließe. Genau diese Fähigkeit, aus einem Assistenzwerkzeug ein potenzielles Angriffswerkzeug zu machen, bewerteten hochrangige Regierungsvertreter als schwerwiegendes Cybersicherheitsrisiko.
Die Reaktion folgte prompt: Am 12. Juni traten Exportkontrollen in Kraft, die beide Spitzenmodelle betrafen. Anthropic sperrte den Zugang daraufhin nicht nur für ausländische, sondern für sämtliche Nutzer – ein weltweiter Blackout für ein kommerzielles Spitzenprodukt, verhängt binnen Tagen.
Zwei Wochen Nachbesserung unter Aufsicht
In den folgenden zwei Wochen arbeitete Anthropic nach eigenen Angaben eng mit der Regierung zusammen. Kern der Lösung ist ein neu trainierter Sicherheitsklassifikator – ein vorgeschalteter Filter, der die im Bericht beschriebene Angriffstechnik erkennen und blockieren soll. Anthropic beziffert die Erfolgsquote auf mehr als 99 Prozent. Forscher des Center for AI Standards and Innovation am US-Normungsinstitut NIST prüften alte und neue Schutzmechanismen und bescheinigten ihnen außergewöhnliche Robustheit.
Der Schutz hat allerdings einen Preis: Der schärfere Filter schlägt auch bei harmlosen Anfragen häufiger an, insbesondere bei alltäglichen Programmieraufgaben. Nutzer bezahlen die gewonnene Sicherheit also mit gelegentlichen Fehlblockaden – ein Zielkonflikt, der sich durch die gesamte KI-Sicherheitsforschung zieht.
Zwei Modelle, zwei Regeln
Bemerkenswert ist die abgestufte Rückkehr. Fable 5, die Variante mit zusätzlichen Sicherheitsmaßnahmen, ist seit dem 1. Juli wieder für alle verfügbar – bis zum 7. Juli teilweise kostenlos in bestehenden Abos, danach über Nutzungsguthaben abgerechnet. Mythos 5 dagegen, das technisch auf demselben Basismodell beruht, aber mit weniger Einschränkungen ausgeliefert wird, bleibt auf von der Regierung geprüfte US-Organisationen beschränkt. Die Unterscheidung markiert eine neue Kategorie in der KI-Landschaft: identische Technik, aber je nach Absicherung und Empfängerkreis unterschiedliche Freigabestufen – ähnlich wie bei Gütern mit doppeltem Verwendungszweck in der klassischen Exportkontrolle.
Dazu passt die zweite Zusage: Anthropic will Veröffentlichungsprotokolle und Standards für Mythos, Fable und künftige Modelle dauerhaft mit der US-Regierung abstimmen und Behörden über bösartige Nutzungsaktivitäten informieren. Was als Krisenreaktion begann, wird damit zum ständigen Verfahren.
Ausblick
Der Fall Fable 5 dürfte Schule machen. Erstmals hat die US-Regierung demonstriert, dass sie ein führendes kommerzielles KI-Modell faktisch über Nacht stilllegen kann – und dass der Hersteller mitzieht. Für Unternehmen, die ihre Produkte auf solchen Modellen aufbauen, ist das eine neue Betriebsrisiko-Kategorie: Verfügbarkeit hängt nicht mehr nur von Servern und Verträgen ab, sondern auch von Sicherheitsbefunden und politischen Bewertungen. Für europäische Beobachter wiederum ist bemerkenswert, dass die schärfste KI-Intervention des Jahres nicht aus Brüssel kam, sondern aus Washington – nicht per Gesetz, sondern per Exportkontrolle. Die Frage ist weniger, ob sich so ein Vorgang wiederholt, sondern wann.