EU befragt OpenAI und Anthropic: Was die KI-Aufsicht jetzt prüfen kann

Die Europäische Kommission verlangt von OpenAI und Anthropic Informationen zu ihren KI-Modellen. Digitalkommissarin Henna Virkkunen bestätigte die Auskunftsersuchen am 9. Oktober im Interview mit European Newsroom. Für Nutzer und Unternehmen ist daran vor allem relevant, dass Sicherheitsversprechen überprüfbar werden sollen. Die Anfrage selbst beweist noch keinen Rechtsverstoß.

Das Wichtigste in Kürze

• Virkkunen nannte OpenAI, Anthropic und nicht näher benannte chinesische Unternehmen als Empfänger bereits verschickter Auskunftsersuchen.
• Das KI-Amt der Kommission kann Unterlagen anfordern, Modelle untersuchen und unter gesetzlichen Voraussetzungen weitere Maßnahmen verlangen.
• Für allgemeine KI-Modelle mit systemischem Risiko gelten zusätzliche Pflichten zu Risikoprüfung, Vorfallmeldungen und Cybersicherheit.
• Die bestätigten Anfragen sind weder ein verhängtes Bußgeld noch ein angekündigtes Verbot von ChatGPT oder Claude.

Was die Kommission wissen darf

Ein Auskunftsersuchen, im Englischen Request for Information oder RFI, beschafft der Aufsicht Informationen für ihre Prüfung. Artikel 91 des AI Act erlaubt der Kommission, technische Dokumentation und zusätzliche Angaben anzufordern, die für die Bewertung der Einhaltung des Gesetzes notwendig sind. Eine solche Anfrage muss ihre Rechtsgrundlage und ihren Zweck nennen, die verlangten Informationen konkretisieren und eine Antwortfrist setzen.

Damit wird aus einer allgemeinen Sicherheitsdebatte eine überprüfbare Frage: Welche Fähigkeiten hat ein Modell, welche Risiken wurden untersucht und welche Schutzmaßnahmen gibt es? Für die technische Einordnung zählen die zugrunde liegenden Unterlagen mehr als eine Produktpräsentation. Ein Modell kann in einer Vorführung zuverlässig wirken und trotzdem unter anderen Bedingungen problematische Handlungen auslösen.

Die Kommission unterscheidet in ihrer aktuellen Erläuterung zwischen einfachen Anfragen und förmlichen Anfragen auf Grundlage eines Kommissionsbeschlusses. Die Rechtsfolgen einer falschen, irreführenden, unvollständigen oder ausbleibenden Antwort unterscheiden sich je nach Form. Aus dem veröffentlichten Interview lässt sich nicht entnehmen, welche konkrete Ausgestaltung die einzelnen Schreiben haben. Auch ihre vollständigen Fragen und Fristen liegen damit nicht öffentlich vor.

Virkkunens Aussage bestätigt, dass die Schreiben bereits versandt wurden. Sie belegt keinen Versand gerade am Tag des Interviews. Diese zeitliche Trennung ist wichtig: Neu ist hier die öffentliche Bestätigung der genannten Empfänger, nicht ein belegter gemeinsamer Starttermin für alle Prüfungen.

Welche Modelle zusätzliche Sicherheitsregeln erfüllen müssen

Der AI Act unterscheidet allgemeine KI-Modelle und solche mit systemischem Risiko. Allgemeine Modelle können viele unterschiedliche Aufgaben übernehmen und bilden die Grundlage verschiedener Anwendungen. Die zusätzliche Risikokategorie soll mögliche Schäden erfassen, die weit über eine einzelne fehlerhafte Chatantwort hinausreichen. Ein bekanntes Markenlogo allein erklärt deshalb noch nicht, welche Pflichten für ein bestimmtes Modell gelten.

Artikel 55 verlangt für Modelle mit systemischem Risiko unter anderem Bewertungen nach geeigneten Verfahren und dokumentierte Tests, die gezielt nach gefährlichen Fähigkeiten suchen. Anbieter müssen mögliche systemische Risiken bewerten und mindern. Schwerwiegende Vorfälle und mögliche Korrekturmaßnahmen sind ohne unangemessene Verzögerung zu melden. Hinzu kommt ein angemessenes Cybersicherheitsniveau für das Modell und seine technische Infrastruktur.

Das ist ein anderer Maßstab als die Frage, ob ein Chatbot meistens hilfreiche Antworten liefert. Bei einem Agenten, der Werkzeuge benutzt, zählt beispielsweise auch, wie seine Handlungen begrenzt werden und was nach einer erkannten Fehlhandlung geschieht. Für die Aufsicht sind nachvollziehbare Untersuchungen und dokumentierte Maßnahmen deshalb ein eigener Prüfgegenstand.

Die Regeln für Anbieter allgemeiner KI-Modelle gelten grundsätzlich seit dem 2. August 2025. Die entsprechenden Durchsetzungsbefugnisse der Kommission greifen seit dem 2. August 2026. Für Modelle, die bereits vor dem 2. August 2025 auf dem Markt waren, nennen die Leitlinien eine Übergangsfrist bis zum 2. August 2027. Eine pauschale Aussage, seit August gelte jedes Detail für jedes ältere Modell gleichermaßen, wäre daher zu grob.

Was aus der Prüfung folgen kann

Die verfügbaren Instrumente reichen über Schriftwechsel hinaus. Nach Darstellung der Kommission kann das KI-Amt Modelle bewerten und dafür Zugang verlangen. Es kann außerdem Maßnahmen zur Einhaltung der Regeln anfordern; dazu können nötigenfalls Einschränkungen der öffentlichen Verfügbarkeit gehören. Diese Möglichkeiten beschreiben den gesetzlichen Werkzeugkasten. Sie sagen nicht, dass eine solche Einschränkung gegen OpenAI oder Anthropic bereits beschlossen wurde.

Für Verstöße gegen Pflichten für allgemeine KI-Modelle nennt die Kommission Bußgelder bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Ein Höchstbetrag ist keine Prognose für ein konkretes Verfahren. Entscheidend sind unter anderem Art, Schwere und Dauer eines festgestellten Verstoßes.

Der Unterschied zur freiwilligen Selbstverpflichtung ist trotzdem erheblich. Wie unsere Einordnung zum KI-Pakt in Washington beschreibt, ersetzen angekündigte Kontrollebenen keine verbindlichen Anforderungen. Eine Behörde mit Auskunfts- und Eingriffsbefugnissen kann nachprüfen, ob die angekündigten Maßnahmen tatsächlich vorhanden sind.

Für Unternehmen, die KI einkaufen oder in eigene Angebote einbauen, ergibt sich daraus ein sinnvoller Fragenkatalog: Welche Dokumentation stellt der Anbieter bereit? Wie werden relevante Zwischenfälle mitgeteilt? Welche Änderungen an einem Modell werden für Kunden nachvollziehbar? Diese Fragen sind eine praktische Folgerung aus der Aufsicht, keine Behauptung, die aktuellen Schreiben richteten sich an gewöhnliche Endnutzer.

Die nächste relevante Nachricht ist das Ergebnis

Aus der Bestätigung folgt zunächst ein Verfahren zur Informationsbeschaffung. Offen bleiben die Einzelheiten der Antworten, ihre Bewertung und mögliche weitere Entscheidungen. Wer daraus bereits eine Geldstrafe oder das Ende eines Dienstes in Europa ableitet, überspringt die entscheidenden Schritte.

Für Leser lohnt sich deshalb der Blick auf die nächste belegte Stufe: eine veröffentlichte Bewertung, konkret verlangte Abhilfen oder eine förmliche Entscheidung. Daran wird sich zeigen, ob Europas KI-Aufsicht aus Sicherheitsankündigungen nachvollziehbare Nachweise und gegebenenfalls wirksame Veränderungen macht.