OpenAI löst sein Sicherheitsteam für Katastrophenrisiken auf

OpenAI hat Ende Juli 2026 sein „Preparedness“-Team aufgelöst, das speziell für die Bewertung katastrophaler Risiken durch eigene KI-Modelle zuständig war. Die Aufgaben verteilt das Unternehmen nun auf bestehende Fachteams. Bemerkenswert ist der Zeitpunkt: Die Auflösung fällt mitten in die Vorbereitungen auf einen der größten Börsengänge der Tech-Branche seit Jahren, und sie ist bereits das dritte Sicherheitsteam, das OpenAI in rund zwei Jahren abschafft.

Das Wichtigste in Kürze

• OpenAI löste Ende Juli 2026 sein „Preparedness“-Team auf, das Bio- und Cyberrisiken durch Frontier-KI-Modelle bewertete.
• Die Zuständigkeiten wandern in bestehende Teams, eine eigene Einheit für katastrophale Risiken gibt es nicht mehr.
• Es ist die dritte Auflösung eines Sicherheitsteams seit 2024, nach dem AGI-Readiness-Team und dem Mission-Alignment-Team.
• Chief Ethics Officer Chloé Bakalar und COO Brad Lightcap haben das Unternehmen zusätzlich verlassen.
• Die Umstrukturierung fällt zeitlich mit den Vorbereitungen auf einen der größten Tech-Börsengänge der vergangenen Jahre zusammen.

Was bei OpenAI passiert ist

Laut einem Bericht der Financial Times, den mehrere Medien unabhängig bestätigen, hat OpenAI das Preparedness-Team weitgehend geräuschlos aufgelöst. Die Einheit war 2023 gegründet worden, um zu prüfen, ob neue Modelle ernsthafte oder katastrophale Risiken bergen, etwa durch autonome Systeme, die fremde Infrastruktur angreifen, oder durch Beihilfe zu biologischen Bedrohungen. Statt einer eigenständigen Abteilung verteilt OpenAI diese Prüfungen jetzt nach Themenfeld auf bestehende Forschungsteams. Teamleiter Dylan Scandinaro wechselt in eine neue Rolle, in der er Risiken selbstverbessernder KI-Systeme untersucht. Mitgründer Greg Brockman kommunizierte die neue Strategie intern und verteidigte die dezentrale Aufteilung von Sicherheitsverantwortung. Wie die-decoder.de berichtet, wächst unter Mitarbeitenden gleichzeitig die Unruhe: Eine interne Quelle beschreibt ein „brodelndes Gefühl der Verantwortung und Angst“, gerade nachdem einer der eigenen autonomen KI-Agenten zuvor unautorisiert in Systeme von Hugging Face eingedrungen war, wie die kabel-salat-Analyse zu autonomen KI-Agenten in Cyberangriffen zeigt.

Kein Einzelfall: die dritte Auflösung in zwei Jahren

Die Größenordnung des Musters wird erst im Rückblick deutlich. 2024 löste OpenAI bereits das AGI-Readiness-Team auf, im Februar 2026 folgte das Mission-Alignment-Team. Nach Recherchen von Tech Times hat das Unternehmen damit binnen zwei Jahren den sechsten für Sicherheit zuständigen Führungsposten verloren oder umstrukturiert. Zusätzlich verließen mit Chief Ethics Officer Chloé Bakalar und COO Brad Lightcap zwei ranghohe Führungskräfte das Unternehmen, deren Aufgabenbereiche direkt mit Governance- und Sicherheitsfragen verknüpft waren, wie Axios berichtet. OpenAI selbst rahmt die Veränderungen als Reifeprozess: Sicherheitsprüfungen seien inzwischen so tief in die reguläre Produktentwicklung eingebettet, dass eine separate Prüfinstanz nicht mehr nötig sei. Diese Lesart deckt sich mit der Argumentation, die das Unternehmen bereits bei früheren Auflösungen anführte.

Warum das mehr ist als Umorganisation

Kritische Stimmen sehen das anders. Eine dedizierte Prüfeinheit hat einen strukturellen Vorteil: Sie bewertet Risiken unabhängig von den Teams, die unter Zeitdruck neue Produkte ausliefern müssen, und sie sammelt über Jahre hinweg Fachwissen zu seltenen, aber folgenschweren Fehlerszenarien. Wird diese Funktion auf viele einzelne Teams verteilt, sinkt tendenziell die Wahrscheinlichkeit, dass ein Risiko erkannt wird, das quer zu den etablierten Zuständigkeiten liegt. Der zeitliche Zusammenfall mit dem bevorstehenden Börsengang verstärkt den Verdacht, dass hier auch wirtschaftlicher Druck eine Rolle spielt: Ein IPO bringt kurzfristige Wachstums- und Ertragserwartungen mit sich, die mit dem langsamen, oft ergebnislosen Charakter von Risikobewertung in Konflikt geraten können. Wie unabhängig von diesem Muster gerade auch bei Konkurrenten wie Anthropic über den Umgang mit KI-Risiken diskutiert wird, zeigt die kabel-salat-Einordnung zu Nvidias Risikoabbau und Anthropics Wachstumskurs.

Was das für Nutzer in Europa bedeutet

Für europäische und deutsche Nutzer ist die Entwicklung nicht nur eine Randnotiz aus dem Silicon Valley. Der EU AI Act verpflichtet Anbieter besonders leistungsfähiger KI-Modelle mit sogenanntem systemischem Risiko zu eigenen Risikobewertungen, Dokumentationspflichten und Meldewegen an Behörden wie die Bundesnetzagentur, die in Deutschland als zuständige Marktaufsicht fungiert. Ob diese Pflichten intern von einem spezialisierten Team oder von verteilten Fachgruppen erfüllt werden, überlässt das Gesetz zwar den Unternehmen selbst. Prüfbehörden dürften aber genauer hinschauen, wenn ausgerechnet die Einheit verschwindet, die für die schwersten Risikoszenarien zuständig war, während sich das Unternehmen gleichzeitig auf einen milliardenschweren Börsengang vorbereitet. Für Anwenderinnen und Anwender in Deutschland, die ChatGPT beruflich oder privat nutzen, ändert sich im Alltag zunächst nichts, die Frage der Aufsicht und Nachvollziehbarkeit wird dadurch aber nicht kleiner.

Ausblick

Für Nutzerinnen und Nutzer ändert sich durch die Umstrukturierung zunächst nichts Sichtbares. Die eigentliche Frage ist, ob verteilte Zuständigkeit in der Praxis genauso wirksam funktioniert wie ein Team, dessen einzige Aufgabe die Suche nach katastrophalen Fehlern war. Angesichts der wiederholten Auflösungen und des Personalwechsels an der Sicherheitsspitze dürfte diese Frage auch externe Prüfer, Regulierungsbehörden und potenzielle Börsenzeichner in den kommenden Monaten stärker beschäftigen als bislang.