Sicherheitspakt oder Kartell? Der Streit um Big Techs KI-Bremse

Ein loses Wochenend-Versprechen von vier der mächtigsten Männer der Tech-Branche hat binnen 48 Stunden eine Grundsatzdebatte ausgelöst: Sind OpenAI, Anthropic, Google DeepMind und SpaceX gerade dabei, die Entwicklung Künstlicher Intelligenz verantwortungsvoll zu bremsen – oder bauen sie unter dem Deckmantel der Sicherheit eine Mauer gegen kleinere Konkurrenten? Während Kritiker von einem Kartell sprechen, nennt US-Präsident Donald Trump die zugrundeliegende Sorge einen Hoax.

Das Wichtigste in Kürze

• Sam Altman, Dario Amodei, Demis Hassabis und Elon Musk stimmten übers Wochenende einem Drei-Stufen-Plan zu, die „Frontier“-KI-Entwicklung zu „pacen“ – ausgelöst durch einen Essay von Anthropic-Chef Amodei.
• Cohere-Chef Aidan Gomez nennt den Vorstoß in einem Blogeintrag „ein Kartell unter anderem Namen“, weil unabhängige Prüfer letztlich von denselben Konzernen finanziert würden, die sie kontrollieren sollen.
• Der Rechtsanalyst Dirk Auer vergleicht den Plan mit dem EU-Kartellfall AdBlue (2021, 875 Millionen Euro Strafe gegen Daimler, BMW und VW) und nennt eine gemeinsame Drosselung „a textbook restriction on output“.
• Donald Trump bezeichnete die KI-Warnung am 14. September 2026 auf Truth Social als „Hoax“ und verglich sie mit der Klimawandel-Debatte.
• China warnt vor „böswilligem Wettbewerb“ bei der KI-Entwicklung; Xi Jinping schlug beim BRICS-Gipfel in Neu-Delhi einen eigenen Regulierungsrahmen der Staatengemeinschaft vor.

Wer den Pakt trägt – und wer nicht

Auslöser war ein Essay von Anthropic-CEO Dario Amodei mit dem Titel „We Must Pace the Frontier“, der an einen im Juli 2026 von mehr als 1.000 Beschäftigten von KI-Laboren unterzeichneten offenen Brief anknüpft. Amodeis Plan sieht drei Stufen vor: Erstens lassen KI-Firmen unabhängige „embedded evaluators“ direkten Zugang zu ihren fortschrittlichsten Systemen – Anthropic hat das laut The Verge bereits zugesagt. Zweitens soll sich der Rest der Branche anschließen. Drittens soll eine internationale Vereinbarung folgen, an der ausdrücklich auch China beteiligt werden soll. Sam Altman stimmte binnen Stunden zu („I agree with Dario that we need to pace the frontier“), Elon Musk kommentierte knapp mit „Dario is right“, und Demis Hassabis signalisierte ebenfalls Zustimmung. Bemerkenswert ist, was fehlt: Weder Google DeepMind noch Musks eigenes Unternehmen xAI haben bislang verbindliche Zusagen über die mündliche Zustimmung hinaus gemacht.

Der Kartellvorwurf

Cohere-Chef Aidan Gomez widersprach öffentlich: Die geforderte Infrastruktur aus Rechenkapazität, Monitoring und Sicherheitsteams könnten sich faktisch nur die großen Labore leisten, „unabhängige“ Prüfer seien zudem von genau jenen Firmen finanziert, die sie bewerten sollen. Der Rechtsanalyst Dirk Auer von Truth on the Market geht in seiner Analyse vom 14. September noch weiter: „The second step of Amodei’s plan does not merely look like collusion. It is collusion“, schreibt er und zieht den Vergleich zum EU-Fall Irish Beef, in dem eine gemeinsame Kapazitätskürzung als Wettbewerbsbeschränkung „by object“ gewertet wurde. Eine naheliegende europäische Blaupause ist der AdBlue-Fall: 2021 verhängte die EU-Kommission gegen Daimler, BMW und VW eine Strafe von 875 Millionen Euro – der erste Kartellbeschluss, der allein auf gebremstem technischen Fortschritt beruhte, nicht auf Preisabsprachen. Anders als bei den geheimen AdBlue-Treffen liefe ein KI-Pakt öffentlich und mit Sicherheitsbegründung ab, was theoretisch eine Freistellung nach Art. 101 Abs. 3 AEUV wegen technischen Fortschritts zugunsten der Verbraucher aktivieren könnte – juristisch bleibt das nach Einschätzung von Wettbewerbsrechtlern aber ein Graubereich, kein Freibrief.

Trumps Hoax-Vorwurf und Chinas Gegenentwurf

Trump reagierte nicht mit einer Rede, sondern mit zwei Truth-Social-Beiträgen am Abend des 14. September: Die Behauptung, „KI werde die Welt übernehmen“, sei ein Hoax, „genau wie die globale Erwärmung“, schrieb er und reihte die KI-Warnung in eine Liste vermeintlicher Skandale der „Radical Left Dumocrats“ ein. Eine offizielle Linie des Weißen Hauses lieferte kurz darauf David Sacks, bis März 2026 KI-Berater im Weißen Haus und heute Vorsitzender des President’s Council of Advisors on Science and Technology: Labore sollten „pacen“, aber ohne Kartellrechtsausnahme oder ein Genehmigungsregime aus Washington zu verlangen – Haftung solle über Schadensersatzklagen nach Vorfällen laufen, nicht über Vorab-Kontrolle. Aus Peking kam eine andere Kritik: Außenamtssprecher Guo Jiakun warnte, „Bedrohungserzählungen“ und „böswilliger Wettbewerb“ störten die globale KI-Governance und lägen „nicht im Interesse einer der Seiten“. Staats- und Parteichef Xi Jinping schlug beim BRICS-Gipfel in Neu-Delhi vor, rasch einen gemeinsamen Regulierungsrahmen der Staatengemeinschaft zu finden – ein eigenständiger Gegenentwurf zur informellen Selbstregulierung der US-Konzerne.

Was Sicherheitsforscher wirklich sagen

Zwischen den politischen Fronten steht eine dritte Gruppe: Fachleute, die die Slowdown-Idee seit Jahren fordern und nun skeptisch beobachten, wer sich ihre Forderung zu eigen macht. „Viele halten das für Dario Amodeis Idee, dabei stimmt das nicht“, sagt Daniel Kokotajlo, Ex-OpenAI-Mitarbeiter und heute Leiter des AI Futures Project, gegenüber The Verge. Menschen außerhalb der Konzerne forderten das schon seit Jahren; die Chefs würden dem Druck jetzt nachgeben – und sich die Idee zu Unrecht als eigene zuschreiben. Apollo-Research-Chef Marius Hobbhahn nannte den Vorstoß dennoch „eine der besten Sicherheitsentwicklungen seit Langem, falls er tatsächlich umgesetzt wird“, während Kokotajlo vor „Safety-Washing“ warnt: Die Labore könnten externe Prüfer engagieren und Sicherheitspapiere produzieren, „aber am Ende wird es sie kaum wirklich bremsen“. Verstärkt wurde die Debatte durch den Rücktritt des Anthropic-Forschers Jacob Coxon, dessen öffentlicher Abschiedsbrief – er wirft beiden Firmen vor, sorglos auf eine selbstverbessernde Superintelligenz zuzusteuern – laut The Verge allein auf X mehr als 170 Millionen Aufrufe erreichte.

Fazit

Dass ausgerechnet jene vier Männer, die am meisten vom ungebremsten Tempo profitiert haben, nun öffentlich zur Vorsicht mahnen, weckt naturgemäß Misstrauen – und die jüngsten Sicherheitsvorfälle bei OpenAI und Anthropic liefern reichlich Anlass für echte Sorge, nicht nur für PR. Ob aus dem lockeren Wochenend-Versprechen ein verbindliches, überprüfbares Abkommen wird oder am Ende nur teure Beratungsverträge und ein paar Prüfsiegel herauskommen, ist nach heutigem Stand offen. Was die vergangenen Tage aber bereits gezeigt haben: Sobald Marktführer gemeinsam übers Bremsen sprechen, meldet sich unweigerlich das Kartellrecht zu Wort – und die politische Reaktion fällt, wie Trumps Hoax-Vorwurf zeigt, in den USA längst nicht mehr entlang technischer, sondern entlang parteipolitischer Linien aus. Wer verstehen will, was „Pacing“ technisch überhaupt bedeutet, findet die Einordnung des ursprünglichen Vorschlags hier im Archiv.