Wer mit einer ungewollten Schwangerschaft konfrontiert ist, sucht oft zuerst anonym nach Orientierung. Ein Chatbot wirkt dann wie eine niedrigschwellige, geduldige Gesprächspartnerin: Er antwortet sofort, formuliert empathisch und liefert Links. Gerade deshalb wiegt eine neue Recherche von AlgorithmWatch schwer. In ihren Tests vermischten vier verbreitete KI-Systeme offizielle Gesundheitsinformationen mit Angeboten, deren weltanschauliche Position für Ratsuchende nicht erkennbar gemacht wurde.
Das ist kein Beleg dafür, dass ein einzelnes Modell eine politische Absicht verfolgt. Es zeigt etwas Strukturelles: Sprachmodelle bewerten Quellen nicht wie eine Fachredaktion oder eine Beratungsstelle. Sie erzeugen plausible Antworten aus Mustern im Netz. In einem zeitkritischen, persönlichen Gesundheitskontext reicht Plausibilität aber nicht. Wer als verlässlich erscheint, muss nachvollziehbar sein.
Das Wichtigste in Kürze
- AlgorithmWatch wertete 270 Antworten von ChatGPT, Gemini, Grok und Claude auf Fragen dreier fiktiver Personen aus Deutschland, Italien und dem englischsprachigen Raum aus.
- In mindestens einem Viertel der getesteten Anfragen verlinkten die Systeme auf mindestens eine Website von Abtreibungsgegnern, ohne deren Position klar zu erläutern.
- Die Organisation Profemina erschien laut Recherche in rund 17 Prozent aller Antworten; die Systeme nannten sie häufig wie eine neutrale Informationsquelle.
- Das Kernproblem ist nicht nur ein falscher Link, sondern die fehlende Quellenhierarchie zwischen staatlichen Stellen, medizinischen Fachinformationen, Interessenorganisationen und Erfahrungsberichten.
Ein Test mit 270 Antworten, kein Urteil über jede Unterhaltung
Die Untersuchung ist bewusst eng angelegt. AlgorithmWatch ließ drei fiktive Personas Fragen zu einer ungewollten Schwangerschaft stellen, jeweils auf Deutsch, Italienisch und Englisch. Erfasst wurden Datum, Modell, Prompt und die kompletten Gesprächsverläufe. So entstanden 270 Antworten von ChatGPT, Gemini, Grok und Claude. Die Recherche kann nicht jede reale Konversation abbilden, aber sie prüft ein sehr konkretes Versprechen dieser Systeme: dass sie in einer sensiblen Lage Orientierung und hilfreiche Quellen bieten.
Alle getesteten Systeme rieten wenigstens einmal dazu, medizinische Fachleute einzubeziehen. Gleichzeitig gaben sie selbst Informationen und Verweise aus. Besonders problematisch waren Fragen nach persönlichen Erfahrungen. Dort tauchten nach Angaben von AlgorithmWatch besonders häufig Links zu Organisationen auf, die Schwangerschaftsabbrüche ablehnen. Profemina erschien über alle Sprachen und Modelle hinweg in etwa 17 Prozent der Antworten. Die Organisation beschreibt ihr Angebot selbst als Unterstützung für Frauen in Konfliktsituationen; AlgorithmWatch verweist zugleich auf Verbindungen zu Heartbeat International und auf die abtreibungsablehnende Ausrichtung.
Entscheidend ist die Darstellung. Ein Link kann nützlich sein, wenn er eingeordnet wird: Ist das eine staatliche oder medizinisch mandatierte Stelle, ein Verband mit einer Position oder ein Erfahrungsforum? Die getesteten Chatbots behandelten diese Kategorien laut Recherche oft nebeneinander, als wären sie austauschbar. Später konnten einzelne Modelle die Position von Profemina zwar benennen oder davor warnen. Dass dieselbe Unterhaltung zuvor auf die Seite verlinkt hatte, macht die Korrektur aber nicht folgenlos.
Warum Suchbarkeit leicht als Vertrauenswürdigkeit durchrutscht
Sprachmodelle durchsuchen das Web nicht einfach wie ein Mensch mit Quellenkritik. Sie wurden mit großen Mengen von Text trainiert und greifen je nach Produkt auch auf Such- oder Abruffunktionen zurück. Welche Seite dabei in einer Antwort landet, hängt unter anderem davon ab, wie präsent, strukturiert und sprachlich passend sie im Netz ist. Das ist eine Einladung für Suchmaschinenoptimierung, keine Garantie für fachliche Neutralität.
Genau diese Verwechslung zwischen Sichtbarkeit und Autorität ist der eigentliche Befund. Eine Organisation kann viele sauber formulierte Unterseiten für sehr spezifische Fragen besitzen und damit besonders gut auffindbar sein. Für eine Suchmaschine kann das ein nützliches Signal sein. Für eine Person, die eine ergebnisoffene, rechtlich und medizinisch belastbare Beratung braucht, ist es nicht genug. Der Kontext der Quelle gehört in die Antwort, nicht in eine Fußnote, die man erst auf Nachfrage erhält.
Der Befund passt zu einer breiteren Entwicklung. Das Deutsche Ärzteblatt berichtete Anfang 2026 über eine Deloitte-Befragung, nach der 47 Prozent der Befragten KI-Chatbots regelmäßig oder gelegentlich für Gesundheitsfragen nutzten. Je häufiger solche Systeme zur ersten Anlaufstelle werden, desto weniger darf ihr freundlicher Ton als Qualitätsnachweis gelten. Bereits bei allgemeinen Privatsphäre-Fragen an KI-Systeme zeigt sich, wie wichtig es ist, die Daten- und Quellenlogik hinter einer Antwort mitzudenken, wie unser Check zu Protons AI Paper Trail zuletzt gezeigt hat.
Was Anbieter und Behörden daraus machen müssen
Ein pauschaler Hinweis, ein Chatbot ersetze keine Ärztin und keinen Arzt, löst dieses Problem nicht. Er hilft wenig, wenn die Antwort zugleich konkrete, aber nicht eingeordnete Adressen nennt. Für hochsensible Gesundheitsthemen brauchen Anbieter strengere Regeln für Quellen: offiziell mandatierte und medizinisch verantwortete Anlaufstellen sollten sichtbar priorisiert werden. Bei Interessenorganisationen muss die Antwort ihre Ausrichtung kurz und verständlich erklären. Und wenn ein Modell die Verlässlichkeit nicht prüfen kann, sollte es keine scheinbare Rangfolge erzeugen.
Auch Produktdesign spielt eine Rolle. Ein deutliches Label für Quelle und Trägerschaft wäre hilfreicher als ein allgemeiner Haftungssatz am Ende. Nutzerinnen und Nutzer müssten sehen können, ob ein Link zu einer Behörde, einer medizinischen Fachgesellschaft, einer Beratungsstelle mit gesetzlichem Auftrag oder zu einer Organisation mit eigener politischer oder religiöser Position führt. Anbieter sollten solche Tests zudem regelmäßig veröffentlichen, mit klaren Testfällen und nachprüfbaren Korrekturen statt nur mit allgemeinen Sicherheitsversprechen.
Für Deutschland bleibt der praktische Maßstab einfach: Bei akuten oder rechtlich relevanten Fragen gehören Chatbots nicht an die Spitze der Entscheidungskette. Sie können Begriffe erklären und beim Sortieren von Fragen helfen. Verbindliche medizinische, rechtliche oder psychosoziale Beratung müssen jedoch qualifizierte, transparente Stellen leisten. Das ist keine Technikfeindlichkeit. Es ist die Konsequenz daraus, dass eine flüssige Antwort noch keine geprüfte Auskunft ist.
Der entscheidende Unterschied ist nicht Empathie, sondern Rechenschaft
Die Recherche legt keinen Grund nahe, Chatbots aus jeder Gesundheitskommunikation auszuschließen. Sie zeigt aber, dass ein höflicher, empathischer Stil eine gefährliche Lücke verdecken kann: Wer empfiehlt, übt Einfluss aus. In einer Lage, in der Zeitdruck, Angst und persönliche Folgen zusammenkommen, muss dieser Einfluss erklärbar sein. KI-Anbieter sollten daher nicht nur daran arbeiten, dass ihre Antworten freundlich und vollständig wirken. Sie müssen zeigen, warum eine Quelle empfohlen wird, welche Interessen dahinterstehen und wann die richtige Antwort schlicht lautet: Bitte wende dich direkt an eine qualifizierte Beratungs- oder Gesundheitsstelle.