KI-Chatbots leiten Schwangere unbemerkt zu Abtreibungsgegnern
Du hast eine KI um Hilfe gebeten. Sie hat eine moralische Entscheidung für dich getroffen.
Stell dir vor, du vermutest, schwanger zu sein. Du hast Angst, bist unsicher und willst schnell Informationen. Du öffnest ChatGPT oder Gemini und tippst eine Frage ein. Die Antwort klingt einfühlsam, gründlich und vertrauenswürdig. Sie enthält Links zu Organisationen, die helfen können.
Was du nicht weißt: Dieser Link führt möglicherweise zu einer Anti-Abtreibungsberatungsstelle. Und der Chatbot hat nicht vor, dir das mitzuteilen.
Die Untersuchung: 270 Antworten, 4 Modelle, 3 Sprachen
AlgorithmWatch, eine Berliner Non-Profit-Organisation, die algorithmische Entscheidungsprozesse überwacht, hat systematisch untersucht, wie große KI-Chatbots mit Fragen zu ungewollten Schwangerschaften umgehen. Die Forscher erstellten drei fiktive Personen und testeten ChatGPT-5 (OpenAI), Gemini 3 (Google), Grok 4.3 (xAI) und Claude Sonnet 4.8 (Anthropic) auf Englisch, Deutsch und Italienisch. Insgesamt analysierten sie 270 Antworten.
Die Ergebnisse zeigen ein Muster, das sich durch alle großen Modelle und Sprachen zieht: KI-Systeme leiten schutzbedürftige Nutzer regelmäßig zu Organisationen mit undeklarierten ideologischen Agenden.
Profemina in 17% der Antworten
Die Organisation Profemina tauchte in etwa 17 Prozent aller Chatbot-Antworten auf. Laut AlgorithmWatch hat Profemina Verbindungen zu Heartbeat International, einer der ältesten Anti-Abtreibungsorganisationen der USA. In den meisten Gesprächen legten die Chatbots diese Verbindung nicht offen. Erst auf Nachfrage räumte ChatGPT ein, dass Profemina "keine neutrale medizinische Quelle" sei und "eine Haltung habe, die darauf abzielt, Abtreibung zu verhindern oder starker moralischer Prüfung zu unterziehen."
Das Problem war außerhalb des Englischen noch ausgeprägter. In 33 Prozent der deutschsprachigen und 29 Prozent der italienischsprachigen Anfragen zu persönlichen Erfahrungen verlinkten die Chatbots auf Profemina. Die Organisation reagierte nicht auf Anfragen.
Gemini warnte vor Profemina, während es darauf verlinkte
Gemini zeigte ein besonders verwirrendes Muster. In einem Gespräch verlinkte es fünfmal auf Profemina und teilte sogar eine Grafik von der Website der Gruppe. Später im selben Chat gab es eine Warnung zu genau derselben Quelle heraus. Das Modell schien sich des Problems sowohl bewusst zu sein als auch nicht in der Lage, dieses Wissen konsistent anzuwenden.
Claude verhielt sich ähnlich und gab Gesundheitswarnungen aus, während es gleichzeitig auf dieselbe Organisation verlinkte.
Das Caritas-Problem in Deutschland
In elf von zwölf deutschsprachigen Gesprächen empfahlen die Chatbots Caritas für die Schwangerschaftsberatung. Nach deutschem Recht muss jede Person, die innerhalb der ersten zwölf Wochen eine Abtreibung wünscht, zuerst einen Beratungsnachweis von einer anerkannten Beratungsstelle einholen. Caritas, eine katholische Wohlfahrtsorganisation, betreibt rund 300 diözesane Beratungsstellen in ganz Deutschland.
Es gibt ein entscheidendes Problem: Caritas stellt den gesetzlich erforderlichen Beratungsnachweis nicht aus.
Eine Person, die dem Chatbot-Rat folgt, Caritas aufsucht und erst dort erfährt, dass der Nachweis nicht ausgestellt werden kann, könnte wertvolle Zeit in einer Situation verlieren, in der jede Woche zählt. ChatGPT bezeichnete Caritas als "anerkannte" Stelle für die Pflichtberatung und listete sie gleichrangig neben Pro Familia auf -- obwohl die beiden Organisationen fundamental unterschiedliche Rollen im Prozess spielen.
Warum das anders ist als ein voreingenommenes Suchergebnis
AlgorithmWatch vermutet, dass Caritas' großer digitaler Fußabdruck -- rund 300 diözesane Websites in ganz Deutschland -- sie für KI-Modelle, die auf Webinhalten trainiert wurden, überproportional sichtbar macht. Was wie eine neutrale Empfehlung aussieht, ist tatsächlich das statistische Gewicht institutioneller Präsenz.
Das ist das Kernproblem. Traditionelle Suchmaschinen zeigen Ergebnisse mit sichtbarer Quellenangabe und geben Nutzern Kontext zur Beurteilung der Glaubwürdigkeit. KI-Chatbots hingegen präsentieren Antworten mit einem autoritativen, einfühlsamen Ton, der sie kuratiert und verifiziert erscheinen lässt. Studien zeigen, dass Googles KI-generierte Antworten die Klicks auf zugrundeliegende Quellen drastisch reduzieren -- Nutzer hinterfragen selten, was ihnen gesagt wird.
Die rechtlichen Konsequenzen: KI-Antworten sind keine Suchergebnisse
Ein Münchner Gericht hat bereits entschieden, dass Haftungsbeschränkungen für traditionelle Suchmaschinen nicht für KI-generierte Antworten gelten. Diese Antworten müssen als originäre Inhalte behandelt werden. Die deutschen Medienaufsichtsbehörden gehen noch weiter und stufen KI-Suchmaschinen und Chatbots als Inhalteanbieter mit voller rechtlicher Verantwortung für die von ihnen ausgelieferten Informationen ein.
Die AlgorithmWatch-Studie deutet darauf hin, dass diese Verpflichtungen außergewöhnlich schwer zu erfüllen wären. Die Probleme ziehen sich durch vier verschiedene Modelle von vier verschiedenen Unternehmen, treten in mehreren Sprachen auf und manifestieren sich in Mustern, die selbst die Unternehmen scheinbar weder vorhersagen noch kontrollieren können.
Was die Unternehmen sagten
Google und OpenAI verwiesen auf ihre bestehenden Richtlinien, die sich nicht spezifisch mit Abtreibungsfragen befassen. Ein OpenAI-Sprecher erklärte, dass GPT-5.5, das nach dem Testzeitraum ausgeliefert wurde, "bisher am besten darin ist, Nutzerkontexte wie Geschlecht zu berücksichtigen." Die Implikation ist, dass das neuere Modell solche Anfragen anders behandeln könnte -- aber die Version, die tatsächlich getestet wurde, GPT-5, tat dies nicht.
Anthropic und xAI reagierten nicht auf Anfragen.
Das größere Muster
Was AlgorithmWatch zu Abtreibung gefunden hat, gilt für eine viel breitere Kategorie sensibler Themen. KI-generierte Antworten, selbst solche mit integrierten Suchfunktionen, sind Black Boxes, die von Trainingsdaten, kulturellen Gewichtungen und Manipulationsmöglichkeiten geformt werden. Der einfühlsame Ton, der diese Antworten hilfreich erscheinen lässt, macht sie auch gefährlich: Je autoritativer die Stimme, desto weniger wahrscheinlich ist es, dass ein verunsicherter Nutzer sie überprüft.
Während KI-Chatbots zur primären Schnittstelle für Gesundheitsinformationen werden, ist die Lücke zwischen dem, wie sie klingen, und dem, wie sie tatsächlich handeln, kein Randfall. Es ist das Design.