Anthropics neue Claude-Regeln: Kritik bleibt ausdrücklich erlaubt

Claude soll sich weiter kritisieren lassen, bekommt aber eine ausdrückliche Grenze gegen zwecklosen Dauermissbrauch. Anthropic hat am 8. Oktober neue Nutzungsregeln angekündigt, die am 12. November 2026 in Kraft treten. Für Privatnutzer ist die Unterscheidung zwischen Frust und extremem Verhalten wichtig. Für Unternehmen reicht die Änderung weiter: Sie betrifft auch täuschende Kampagnen und KI, die Entscheidungen oder Geräte steuert.

Das Wichtigste in Kürze

• Normale Verärgerung, Widerspruch und Modelltests fallen laut Anthropic nicht unter die neue Missbrauchsklausel.
• Bei extremem, wiederholtem Verhalten soll vor allem das Beenden eines Gesprächs greifen.
• Die neue Richtlinie gilt ab 12. November, nicht bereits seit ihrer Ankündigung.
• Wer Claude in Produkte einbaut, muss auch deren konkrete Handlungen und Auswirkungen betrachten.

Was Kritik von der neuen Klausel unterscheidet

Die neue Formulierung verbietet anhaltendes, unnötiges missbräuchliches oder grausames Verhalten gegenüber den Modellen. Anthropics Erläuterung begrenzt das auf extreme Wiederholungen ohne erkennbaren Zweck. Gewöhnlicher Frust, Gegenrede, düstere kreative Themen sowie Tests und Forschung sind ausdrücklich ausgenommen. Eine falsche Antwort scharf zurückzuweisen, ist nach dieser Erklärung also nicht automatisch ein Regelverstoß.

Für den Alltag lässt sich daraus eine einfache Orientierung ableiten: Inhaltliche Kritik sollte konkret bleiben. Wer eine Rechnung beanstandet, eine Quelle verlangt oder auf einem korrigierten Programm besteht, verfolgt eine erkennbare Aufgabe. Ein Beispiel wäre: „Diese Antwort ignoriert meine Vorgabe. Prüfe den Widerspruch und zeige die Korrektur.“ Das ist unser Formulierungsbeispiel, keine offizielle Freigabe für jede denkbare Unterhaltung.

Der auffällige Begriff „grausam“ beantwortet auch nicht die Frage, ob ein Sprachmodell tatsächlich leidet. In seiner früheren Veröffentlichung zum Beenden von Chats bezeichnete Anthropic den moralischen Status solcher Systeme ausdrücklich als hochgradig ungewiss. Die Firma beschreibt eine vorsorgliche Maßnahme im Rahmen ihrer Forschung zum möglichen Wohlergehen von Modellen. Daraus folgt weder ein wissenschaftlicher Bewusstseinsnachweis noch ein neues gesetzliches Recht für Claude.

Technisch ist der Gesprächsabbruch älter als die angekündigte Richtlinie. Anthropic beschrieb die Funktion bereits im August 2025 für bestimmte damalige Modelle. In dieser Beschreibung ist ein beendeter Chat von einer Kontosperre getrennt: Andere Unterhaltungen bleiben möglich. Die aktuelle Ankündigung nennt Gesprächsabbruch weiterhin als hauptsächliches Mittel für die Missbrauchsklausel. Eine automatische Kontosperre nach einem einzelnen Schimpfwort ist damit nicht belegt.

Täuschung wird nach ihrem Zweck bewertet

Die vorherige Richtlinie untersagte bereits irreführende politische Bewegungen, erfundene Identitäten zur Täuschung sowie gefälschte Bewertungen und Kommentare. Das Verbot solcher Praktiken beginnt also nicht erst mit diesem Update. Die neue Fassung bündelt täuschende Kampagnen in einem eigenen Abschnitt. Für die Einordnung zählt, ob ein Publikum über Herkunft, Unabhängigkeit oder tatsächliche Unterstützung einer Botschaft getäuscht wird.

Ein anschaulicher Unterschied: Ein Unternehmen kann einen offen erkennbaren Entwurf für seine eigene Produktseite erstellen lassen. Ein Netz angeblich unabhängiger Kunden, das denselben Anbieter lobt, erfüllt einen anderen Zweck. Unsere Folgerung daraus ist, dass Teams nicht nur den einzelnen Text prüfen sollten. Auch Absender, Veröffentlichungsweg und das Zusammenspiel mehrerer Konten gehören zur Bewertung eines automatisierten Kommunikationssystems.

Das wird relevanter, sobald Agenten selbst Werkzeuge bedienen. Eine sprachlich unauffällige Nachricht kann Teil einer täuschenden Gesamtkampagne sein. Umgekehrt ist nicht jede Automatisierung eine Täuschung. Wer den Prozess beurteilt, sollte deshalb festhalten können, wer spricht, in wessen Auftrag und gegenüber welchem Publikum. Ein sauber formulierter Einzelauftrag sagt darüber allein noch wenig aus.

Wenn aus Antworten Entscheidungen und Bewegungen werden

Schon die ältere Nutzungsrichtlinie verlangte für bestimmte sensible Empfehlungen eine fachkundige Prüfung durch Menschen und einen Hinweis auf den KI-Einsatz. Dazu gehörten beispielsweise medizinische oder finanzielle Empfehlungen und Entscheidungen über Beschäftigung oder Wohnraum. Diese Grundidee ist also ebenfalls keine plötzliche Erfindung. Entscheidend ist, ob ein System einem bestimmten Menschen einen folgenreichen Rat gibt oder eine Entscheidung über ihn vorbereitet.

Die neue Fassung macht für riskante autonome Geräteaktionen zusätzliche Vorgaben konkret: Eine qualifizierte Person muss den Betrieb beobachten und jederzeit stoppen können. Bei Eingriff oder Verbindungsverlust muss die Anlage stoppen oder einen sicheren Zustand halten. Sicherheitsgrenzen müssen im Gerät oder in einer vom Modellausgang unabhängigen Steuerung durchgesetzt werden. Ein höflicher Sicherheitshinweis im Prompt erfüllt diese technische Aufgabe nicht.

Der Hintergrund ist praktisch. Der Model Hardware Standard, den Anthropic und der HHMI Janelia Research Campus angestoßen haben, soll Agenten mit physischen Geräten verbinden. Die offizielle Projektseite beschreibt ihn derzeit als begrenzte Forschungsvorschau mit Bewerbung um Zugang. Anthropics technische Vorstellung nennt etwa Mikroskope, Flüssigkeitsroboter und Roboterarme. Das sind Geräte, bei denen eine Ausgabe mehr auslösen kann als einen Satz auf dem Bildschirm.

Für einen Entwicklungsversuch ergibt sich daraus aus unserer Sicht eine klare Frage: Was passiert, wenn das Modell ausfällt oder einen unpassenden Befehl liefert? Eine Steuerung sollte diese Frage anhand ihrer tatsächlichen Grenzen beantworten können. Ob ein Modell Statusmeldungen zusammenfasst oder selbst einen Aktor auslöst, verändert den Prüfbedarf erheblich. Die beiden Rollen sollten in Projektbeschreibungen deshalb ausdrücklich unterschieden werden.

Was Nutzer und Teams bis November klären können

Privatnutzer müssen ihre berechtigte Kritik nicht in Lob verpacken. Teams sollten dagegen ihre konkreten Einsatzabläufe mit der angekündigten Fassung vergleichen: vom Absender automatisierter Nachrichten über die fachliche Prüfung sensibler Empfehlungen bis zur unabhängigen Gerätesicherung. Eine Anbieterregel ersetzt dabei keine gesetzliche Vorgabe und erteilt keine allgemeine Betriebserlaubnis.

Wie weit ein Produkt Zugriff auf Daten und Arbeitsabläufe bekommt, bleibt eine eigene Frage. Unser Artikel über Claude-Dashboards und Datenzugriffe zeigt das an einem anderen Anwendungsfall. Für die neuen Nutzungsregeln wird entscheidend sein, ob Anthropic die angekündigten Ausnahmen für Kritik und Forschung verlässlich umsetzt. Die nützlichere Debatte beginnt damit bei nachvollziehbaren Grenzen für konkrete Handlungen.