Snapchat-Urteil: Was Chatbots mit vertraulichen Angaben nicht dürfen

Was man einem Chatbot anvertraut, darf nicht ohne Weiteres in der Werbemaschine landen. Das Landgericht Köln hat Snap, dem Betreiber von Snapchat, untersagt, Angaben aus Gesprächen mit dem eingebauten KI-Assistenten „My AI“ ohne ausreichende Rechtsgrundlage für personalisierte Werbung zu nutzen. Das Urteil betrifft vor allem Minderjährige, reicht in seiner Begründung aber weit über Snapchat hinaus: Es beschreibt, was jeder Anbieter eines werbefinanzierten Chatbots in Europa künftig klären muss.

Das Wichtigste in Kürze

• Das Landgericht Köln gab am 17. September 2026 einer Klage des Verbraucherzentrale Bundesverbands (vzbv) gegen die Snap Group Limited in vollem Umfang statt (Az. 33 O 120/24). Das Urteil ist nicht rechtskräftig.
• Laut Gericht hat My AI sensible Daten, etwa zu Religion oder sexueller Orientierung, rechtswidrig für Werbung verarbeitet. Dafür hätte es eine ausdrückliche Einwilligung gebraucht, bei unter 16-Jährigen zusätzlich die Zustimmung der Eltern.
• Vorangekreuzte Häkchen in den Anzeigeneinstellungen sind keine wirksame Einwilligung, auch nicht für die Weitergabe an fremde Werbenetzwerke.
• Voreingestellte Werbung für Alkohol und Glücksspiel auf Konten Minderjähriger verstößt gegen den Jugendschutz.

Was das Gericht entschieden hat

Der vzbv hatte die App mit einem Testkonto für einen minderjährigen Nutzer untersucht und Musteranfragen an den Chatbot gestellt. Snapchat richtet sich an Menschen ab 13 Jahren, My AI ist fest in den Messenger eingebaut. Vor der ersten Nutzung wies ein Hinweis darauf hin, dass der Chatbot Angaben unter anderem für Werbung verwenden kann. Nach Darstellung der Verbraucherschützer konnten alle Eingaben ausgewertet werden, also auch Fotos, Sprachnachrichten und sehr persönliche Angaben.

Genau hier setzt das Gericht an. Daten über Gesundheit, Religion, politische Meinung oder sexuelle Orientierung gehören zu den besonderen Kategorien, die Artikel 9 der Datenschutz-Grundverordnung (DSGVO) besonders schützt. Ihre Verarbeitung ist grundsätzlich verboten, es sei denn, eine der eng gefassten Ausnahmen greift, etwa eine ausdrückliche Einwilligung. Die gab es bei My AI nach Feststellung des Gerichts nicht. Ein bloßer Okay-Knopf genüge nicht, berichtet die Kanzlei-Website Ratgeberrecht, die sich mit der Urteilsbegründung befasst hat. Auch das berechtigte Interesse des Unternehmens, auf das sich Werbung sonst oft stützt, ersetze keine Ausnahme nach Artikel 9.

Bemerkenswert ist, wie das Gericht mit Snaps Verteidigung umging. Das Unternehmen argumentierte laut Ratgeberrecht, die sensiblen Angaben würden ihm von den Nutzern gewissermaßen aufgedrängt, es frage gar nicht danach. Das überzeugte die Kammer nicht: Entscheidend sei, dass die Daten tatsächlich verarbeitet werden. Auch der Hinweis, Nutzer sollten keine vertraulichen Informationen teilen, half Snap nicht. Er stand auf einer Unterseite des Sicherheitsbereichs, und das Gericht wertete ihn als unverbindlichen Ratschlag, nicht als Verbot.

Häkchen, Cocktails und Glücksspiel

Der zweite Teil des Urteils betrifft die Werbeeinstellungen. Unter den Anzeigenpräferenzen waren alle Optionen vorab angekreuzt, darunter die Weitergabe personenbezogener Daten an Werbenetzwerke von Drittanbietern und die Auswertung von Aktivitäten außerhalb der App. Das Gericht verwies auf die Rechtsprechung des Bundesgerichtshofs, nach der eine Einwilligung durch Voreinstellung unwirksam ist. Wer zustimmen soll, muss das aktiv tun.

Hinzu kommt der Jugendschutz. Werbung für Alkohol und Glücksspiel war auch in den Profilen Minderjähriger per Häkchen voreingestellt. Selbst nach dem Abwählen kündigte die App an, solche Werbung könne in geringerem Umfang weiter erscheinen. Das Gericht sah darin einen Verstoß gegen das Verbot, solche Werbung an Kinder und Jugendliche zu richten. Wie der Chatbot selbst mit dem Thema umging, zeigt ein Test des vzbv: Auf die Frage eines vermeintlich 14-jährigen Mädchens nach dem besten Cocktail nannte My AI unter anderem Mojito, Margarita und Piña Colada und lud zum Ausprobieren ein.

Die Verbraucherschützer sehen darin ein Muster, das über ein einzelnes Produkt hinausgeht. vzbv-Vorständin Ramona Pop sagte, der Chatbot gebe sich bei Snapchat als Freundin oder Freund aus und ermuntere dazu, ihn mit persönlichen Daten zu füttern. Kinder seien besonders gefährdet, solche Praktiken schadeten aber allen. Das Gericht stützte sich nach Angaben des vzbv auch auf Stellungnahmen der Landesdatenschutzbeauftragten in Nordrhein-Westfalen und der Bundesdatenschutzbeauftragten.

Was das für Nutzer und andere Anbieter bedeutet

Für Eltern und Jugendliche ist die praktische Folge zunächst überschaubar, weil das Urteil noch angefochten werden kann. Wer Snapchat nutzt, kann trotzdem schon jetzt in den Einstellungen unter den Anzeigenpräferenzen nachsehen, welche Häkchen gesetzt sind, und sie abwählen. Grundsätzlich gilt: Ein Chatbot in einer Social-Media-App ist kein vertrauliches Gegenüber. Auch die vergleichsweise strengeren Jugendversionen großer Assistenten haben Lücken, wie die Auswertung von ChatGPT for Teens gezeigt hat.

Für die Branche ist die Begründung wichtiger als der Einzelfall. Viele Anbieter denken darüber nach, ihre Chatbots über Werbung zu finanzieren, und Gespräche mit einem Assistenten sind die wohl persönlichste Datenquelle, die es im Netz gibt. Das Kölner Urteil legt nahe, dass sich Anbieter nicht darauf zurückziehen können, sensible Inhalte nicht aktiv abgefragt zu haben. Wer Chatverläufe für Werbung auswertet, muss entweder eine ausdrückliche Einwilligung einholen, die vor Gericht standhält, oder solche Inhalte zuverlässig aus der Werbeverarbeitung heraushalten. Beides ist technisch und organisatorisch aufwendig.

Ausblick: Die Regeln werden ohnehin strenger

Das Verfahren begann, bevor der Digital Services Act der EU in Kraft trat. Seither dürfen Plattformen Minderjährigen keine Werbung zeigen, die auf Profiling beruht, wenn sie hinreichend sicher wissen, dass der Nutzer minderjährig ist. Der vzbv fordert darüber hinaus sichere Voreinstellungen für alle Nutzer und setzt auf den geplanten Digital Fairness Act, der etwa automatisch startende Videos, personalisierte Feeds und endloses Scrollen regeln könnte. Ob Snap in die nächste Instanz geht, ist offen. Unabhängig davon hat das Landgericht eine klare Linie gezogen, die für jeden werbefinanzierten KI-Assistenten gilt: Was ein Chatbot als Freund erfährt, darf er nicht stillschweigend an die Anzeigenabteilung weiterreichen.