Wie Russland ChatGPT für eine gefälschte Denkfabrik einspannte

OpenAI hat eine verdeckte russische Propagandaoperation aufgedeckt und die dazugehörigen ChatGPT-Konten gesperrt. Im Zentrum stand das „International Burke Institute“, ein angeblicher israelischer Thinktank, der in Wahrheit eine russische Fassade war. Der Fall zeigt exemplarisch, wie generative KI es Akteuren erlaubt, mit wenig Aufwand eine scheinbar seriöse Infrastruktur aus Studien, Expertenprofilen und Social-Media-Präsenz aufzubauen, und wie am Ende ausgerechnet ein KI-Übersetzungsfehler die Tarnung auffliegen ließ.

Das Wichtigste in Kürze

• Das im Februar 2025 registrierte „International Burke Institute“ gab sich als unabhängige israelische Denkfabrik aus, wurde laut OpenAI aber von russischen Akteuren betrieben.
• Von 36 zwischen September 2025 und Mai 2026 veröffentlichten „Experten“-Artikeln waren 34 plagiiert, teils mit falsch zugeordneten Autoren, etwa ein Cambridge-University-Press-Text, der fälschlich einer Nottingham-Professorin zugeschrieben wurde.
• Kernstück der Kampagne war ein selbst erfundener „Souveränitätsindex“, der Russland systematisch günstiger bewertete als westliche Staaten, Russlands Militär erhielt darin beispielsweise 0,5 Punkte mehr als das der USA.
• Die Inhalte verbreiteten sich über X, LinkedIn, Facebook, Substack und Telegram, ein deutschsprachiger Kanal namens „Lahme Ente“ kritisierte gezielt Ukraine, EU und Bundesregierung und forderte bessere Beziehungen zu Russland.
• OpenAI stufte die Operation auf der sogenannten Brookings-Skala in Kategorie drei von sechs ein: mehrere Plattformen gleichzeitig, mit ersten Anzeichen echter Nutzerreichweite, aber noch begrenzter Wirkung.

Wie die Fassade aufgebaut wurde

Die Operateure gingen methodisch vor. Weil OpenAI den direkten Zugriff aus Russland sperrt, meldeten sie sich über VPN-Verbindungen an und arbeiteten überwiegend auf Russisch, ließen ChatGPT ihre Texte aber anschließend so umformulieren, dass sprachliche Hinweise auf die Herkunft verschwanden. Auf der Website des International Burke Institute erschienen daraufhin Artikel, die angeblich von unabhängigen Experten stammten, tatsächlich aber größtenteils aus bereits existierenden akademischen Texten kopiert waren. In einem Fall landete ein Cambridge-University-Press-Beitrag unter dem Namen einer britischen Wissenschaftlerin aus Nottingham, obwohl diese nie an dem Text beteiligt war. Ein Artikel zu Migrationspolitik wurde einer australischen Lebensmittelchemikerin zugeschrieben, die mit dem Thema erkennbar nichts zu tun hatte. Aus dieser Kulisse heraus veröffentlichte das Institut regelmäßig seinen „Souveränitätsindex“, ein selbst konstruiertes Ranking, das Länder nach angeblicher Eigenständigkeit bewertete und dabei durchgängig zugunsten Russlands ausfiel.

Der Verräter im eigenen Text

Besonders aufschlussreich ist ein Detail, das die Herkunft der Kampagne am Ende mit verriet: In mehreren Beiträgen tauchte statt des deutschen Begriffs „Ampelkoalition“ die Bezeichnung „Svetofor-Koalition“ auf, „svetofor“ ist das russische Wort für Verkehrsampel. ChatGPT hatte den Begriff offenbar wörtlich aus dem russischsprachigen Ausgangstext übersetzt, ohne die feststehende deutsche Bezeichnung zu kennen oder zu verwenden, ein kleiner, aber verräterischer Fehler, der zeigt, wie brüchig die sprachliche Tarnung selbst bei KI-gestützter Übersetzung sein kann. Solche Spuren sind es, an denen Analysten verdeckte Kampagnen oft zuerst erkennen, lange bevor technische Metadaten oder IP-Adressen greifbare Beweise liefern.

Wie groß der Schaden tatsächlich war

Die unmittelbare Reichweite blieb überschaubar. Einzelne Beiträge und die Accounts des International Burke Institute erreichten nur wenige Aufrufe und Abonnenten. Größer war die Wirkung auf den angeschlossenen Telegram-Kanälen: Der deutschsprachige Kanal „Lahme Ente“ sowie weitere von einem zweiten Betreiber aufgebaute Kanäle mit Fokus auf Deutschland, die USA, Frankreich, Polen und die Türkei kamen jeweils auf 10.000 bis 20.000 Follower. Damit bewegt sich die Kampagne im mittleren Bereich der Brookings-Skala, die OpenAI zur Einordnung solcher Operationen nutzt: nicht bedeutungslos, aber auch weit entfernt von einer massenwirksamen Desinformationskampagne.

Warum OpenAI trotzdem alarmiert ist

Genau diese Diskrepanz zwischen geringer aktueller Reichweite und aufwendiger Infrastruktur ist der Punkt, den OpenAI in seiner Analyse besonders betont. Nicht die Klickzahlen von heute seien das eigentliche Risiko, sondern die Tatsache, dass ein scheinbar glaubwürdiges Institut mit vermeintlichen Experten und einem eigenen, professionell wirkenden Index innerhalb weniger Monate und mit vergleichsweise wenig menschlichem Aufwand entstehen konnte. Eine solche Fassade lässt sich bei Bedarf jederzeit reaktivieren, ausbauen oder mit neuen Themen bespielen. OpenAI beschreibt das Muster so, dass generative KI Akteuren dabei hilft, Autorität zu simulieren, den eigentlichen Ursprung eines Narrativs zu verschleiern und wiederverwendbare Infrastruktur für künftige Kampagnen aufzubauen, statt jedes Mal bei null anzufangen. Der Fall reiht sich damit in eine Serie ein: OpenAI verweist auf frühere russische Operationen wie „Bad Grammar“ im Juni 2024 und „Operation Helgoland Bite“ im Jahr 2025, die ähnliche Muster zeigten und ebenfalls über ChatGPT liefen.

Ein Muster mit Wiederholungscharakter

Der Fall des International Burke Institute steht nicht isoliert da. Auch beim Aufdecken eines Betrugsnetzwerks aus Kambodscha, das ChatGPT für automatisierte Anlagebetrugs-Maschen missbrauchte, hatte OpenAI zuvor ein ähnliches Grundmuster beobachtet: Kriminelle und staatliche Akteure nutzen dieselben Werkzeuge, mit denen legitime Nutzer Texte verfassen oder recherchieren, um täuschend echte Fassaden aufzubauen, seien es gefälschte Investmentplattformen oder eben ein vermeintlicher Thinktank. Das Vorgehen unterscheidet sich dabei weniger im technischen Werkzeug als im Ziel. Für OpenAI bedeutet das einen ständigen Balanceakt zwischen offenem Zugang zu einem mächtigen Werkzeug und der Notwendigkeit, dessen systematischen Missbrauch frühzeitig zu erkennen, bevor aus einer kleinen Fassade eine einflussreiche Propagandamaschine wird.

Ausblick

Für Nutzer und Leser bedeutet der Fall vor allem eines: Scheinbar unabhängige Institute, Studien und Indizes verdienen inzwischen eine genauere Prüfung, gerade wenn sie unerwartet eindeutige geopolitische Botschaften transportieren. Ein plagiierter Fachartikel oder ein einzelner sprachlicher Ausrutscher wie die „Svetofor-Koalition“ reicht oft schon aus, um eine ganze Fassade infrage zu stellen. OpenAI dürfte kaum die letzte solcher Kampagnen aufdecken, gerade weil die Werkzeuge dafür günstiger und zugänglicher werden. Wie gut Plattformen, Medien und einzelne Nutzer solche Muster künftig selbst erkennen, dürfte darüber entscheiden, wie wirksam diese Art von Propaganda langfristig bleibt.