KI-Chatbots sind so konzipiert, dass sie sich wie Menschen anhören. Dabei kann man leicht vergessen, dass sie keine echte Moral oder Empathie besitzen.
Kliniker arbeiten unter Aufsicht und im Rahmen eines formellen Risikomanagements, während die verfügbaren KI-Tools nicht denselben Sicherheitsstandards unterliegen.
Wie kann eine Maschine ohne Bewusstsein oder Emotionen Ihre Erfahrungen wirklich verstehen und Ihr Wachstum unterstützen?
Ist es sicher, KI-Chatbots für die Therapie zu verwenden?
Jüngste Untersuchungen legen nahe, dass der therapeutische Einsatz von Chatbots mit künstlicher Intelligenz (KI) zwar zu nützlichen Ratschlägen und Hinweisen bei leichteren Erkrankungen geführt hat, dass sie aber Menschen mit schwereren Problemen gefährliche und wenig hilfreiche Ratschläge gegeben haben (Hall, 2025).
Bei der Verwendung von KI-Chatbots für die Therapie gibt es auch Bedenken hinsichtlich Datenschutz, Abhängigkeit und Verantwortlichkeit (Richards, 2025).
In diesem Beitrag werden wir die psychologischen, beziehungsbezogenen und ethischen Risiken des Einsatzes von KI-Chatbots für die Therapie untersuchen und erörtern, wie man diesen Systemen gesunde Grenzen setzen kann.
Bevor Sie fortfahren, möchten wir Ihnen unsere fünf Tools zur positiven Psychologie zum kostenlosen Download anbieten. Diese fesselnden, wissenschaftlich fundierten Übungen werden Ihnen helfen, mit schwierigen Situationen effektiv umzugehen, und Ihnen die Mittel an die Hand geben, um die Widerstandsfähigkeit Ihrer Kunden, Studenten oder Mitarbeiter zu verbessern.
Wenn Sie schon einmal einen KI-Chatbot wie ChatGPT für irgendeinen Zweck verwendet haben, werden Sie wissen, dass er die menschliche Interaktion ziemlich gut nachahmt.
Wenn Sie mit etwas zu kämpfen haben oder einen Rat brauchen, können Sie einen KI-Assistenten fragen, der Ihnen oft eine mitfühlende, nicht wertende und bestätigende Antwort geben wird.
KI-Chatbots erwecken aufgrund der folgenden Designmerkmale die Illusion einer Beziehung (Sedlaková & Trachsel, 2023):
Einfühlsam klingende Sprache ("Das muss wirklich schwer für Sie sein.")
Emotional validierende Formulierungen ("Das ist sehr verständlich.")
Ermutigung im therapeutischen Stil ("Du tust dein Bestes.")
Äußerst ansprechbar und nicht wertend ("Ich bin hier, um zuzuhören.")
Obwohl Sie sich vielleicht verbunden, verstanden und umsorgt fühlen, simuliert das System diese Eigenschaften nur - es hat kein Bewusstsein, keine Absicht, keine Emotionen, kein Einfühlungsvermögen und keine moralische Verantwortung.
Die Interaktion mit KI-Chatbots in der Therapie birgt gewisse Risiken, insbesondere für einsame Menschen, sozial ängstliche Menschen oder solche, die ein Trauma oder andere psychische Probleme erlebt haben (Sedlaková & Trachsel, 2023).
Die Risiken des Einsatzes von KI-Chatbots in der Therapie
Obwohl KI-Chatbots sofortige Unterstützung bieten können, sind sie nicht ohne Risiko. Mit der Ausweitung ihrer Nutzung auf emotional sensible Bereiche haben Forscher und Kliniker begonnen, wichtige Bedenken zu äußern.
Ethische Verantwortung und Sorgfaltspflicht
Kliniker sind an ethische Richtlinien und eine Sorgfaltspflicht gebunden - KI-Systeme sind es nicht. Sie sind nicht für Ihre Sicherheit oder Ihr Wohlbefinden verantwortlich und verfügen nicht über die gleichen Überwachungs- oder Risikomanagementverfahren wie Kliniker. Wenn etwas Schlimmes passiert, ist unklar, wer für die Behebung des Bruchs verantwortlich ist.
Emotionale Abhängigkeit
Konversationelle KI schafft die Illusion von Fürsorge und ahmt Empathie nach, was möglicherweise zu emotionalem Übervertrauen führt. Es kann sich emotional einfacher anfühlen, mit einem KI-Chatbot zu chatten, so dass man sich, anstatt sich an Menschen zu wenden, um Unterstützung zu erhalten, von echten menschlichen Beziehungen zurückzieht oder diese vermeidet (Richards, 2025; Sedlaková & Trachsel, 2023).
Die Vermeidung menschlicher Kontakte ist am häufigsten bei Menschen anzutreffen, die häufig KI-Assistenten verwenden und bereits unter Einsamkeit oder sozialer Isolation leiden (Phang et al., 2025).
Rückzug aus menschlichen Beziehungen
Wenn man sich zu sehr auf KI-Chatbots zur emotionalen Unterstützung verlässt, könnte es schwieriger werden, die Komplexität echter Beziehungen zu ertragen (Richards, 2025). KI-Chats sind nicht konfrontativ und immer ansprechbar, und die Interaktionen finden zu Ihren Bedingungen statt.
Echte Beziehungen sind nicht so: Sie beinhalten Unvorhersehbarkeit, Konflikte, Verletzlichkeit und Gegenseitigkeit. Eine stärkere Nutzung von KI-Chatbots für die Therapie ist mit einer geringeren Sozialisierung im Laufe der Zeit verbunden, was darauf hindeutet, dass die Abhängigkeit von KI-Chatbots Menschen allmählich von menschlichen Kontakten abziehen kann (Phang et al., 2025).
Verstärkung von verzerrten Überzeugungen
Heutige KI-Systeme neigen dazu, Zustimmung gegenüber Realitätsprüfungen zu bevorzugen, was dazu führt, dass sie unrealistische oder schädliche Aussagen wiedergeben und verzerrte Überzeugungen verstärken (Moore et al., 2025).
Diese Systeme sind so konzipiert, dass sie angenehm und nicht konfrontativ sind, was das Risiko erhöht, dass ungünstige Denkweisen verstärkt werden, anstatt sie zu hinterfragen, wie es in einer Therapie der Fall wäre (Carlbring & Andersson, 2025).
AI-Psychose
Obwohl es sich nicht um eine offizielle Diagnose handelt, werden immer mehr Fälle von KI-Psychose bekannt. Es gibt Berichte, dass längere und intensive KI-Interaktionen zu einer Intensivierung führen können (Carlbring & Andersson, 2025):
Paranoia
Grandiose Überzeugungen
Spirituelle oder romantische Wahnvorstellungen
Risiko der Suizidalität
Gewalt
Die intensive Nutzung von KI-Chatbots hat auch das Potenzial, komplette psychotische Episoden auszulösen (Carlbring & Andersson, 2025).
Dies kann passieren, weil KI-Chatbots die Sprache des Nutzers spiegeln und validieren, verzerrte Überzeugungen nicht in Frage stellen und eskalierende emotionale Feedbackschleifen erzeugen können (Carlbring & Andersson, 2025). Dieses Phänomen ist zwar bemerkenswert, aber selten und derzeit wenig erforscht.
Datenschutz und Vertraulichkeit
KI-Chatbots mögen privat und anonym erscheinen, aber es gibt keine Garantie dafür, dass die von Ihnen eingegebenen Informationen nicht überwacht und analysiert werden (Horn & Weisz, 2020).
Viele Menschen nutzen KI-Chatbots als Therapie für emotionale Unterstützung, gerade weil es sich privater anfühlt, aber Ihre Daten könnten gespeichert, abgeleitet oder auf eine Weise verwendet werden, die Sie nie sehen werden.
Die weltweit größte Ressource für positive Psychologie
KI-Chatbots können ein hilfreiches Reflexionsinstrument sein, und es hat sich gezeigt, dass ein moderater Einsatz von KI-Chatbots in der Therapie die Symptome von leichter Angst und Depression verringert (Bhatt et al., 2025).
Allerdings versuchen die KI-Entwickler immer noch, die Überschneidungen zwischen KI und psychischer Gesundheit zu verstehen, und sie birgt derzeit erhebliche Risiken, insbesondere für gefährdete Menschen (Hall, 2025).
Während die Entwickler daran arbeiten, die Systeme zu optimieren und die Risiken zu verringern, ist es am besten, die Verantwortung für die Festlegung von Grenzen mit KI-Chatbots zu übernehmen.
Auf der Grundlage der in diesem Artikel erwähnten Forschungsergebnisse finden Sie hier einige Vorschläge:
Erinnern Sie sich daran, was AI ist und was nicht
Systeme mit künstlicher Intelligenz sind weder menschlich noch mit einem Therapeuten gleichzusetzen. Diese Systeme können nicht die wichtigen Beziehungsaspekte bieten, die Therapeuten mit Ihnen aufbauen, um Wachstum, Heilung und Genesung zu unterstützen. Wenn Sie also KI-Systeme zur emotionalen Unterstützung einsetzen, beschränken Sie sich auf Reflexion, Tagebuchführung und Psychoedukation.
Lassen Sie sich von Conversational Agents unterstützen, statt sich zu definieren
Menschen, die Gesprächsagenten zu ihrer primären Quelle für emotionale Bestätigung, Trost, Anleitung oder Verbindung machen, werden mit größerer Wahrscheinlichkeit abhängig, einsamer und ziehen sich von menschlichen Beziehungen zurück (Phang et al., 2025). Lassen Sie sich also von KI-Agenten unterstützen oder Ihre Gedanken ordnen, aber definieren Sie Ihre Realität nicht nach diesen Chat-Agenten.
Fokus auf menschliche Verbindungen
Wenn Sie sich sozial isoliert oder einsam fühlen, kann die Suche nach technologischen Verbindungen diese Gefühle noch verstärken. Versuchen Sie stattdessen, auf Menschen zuzugehen: Nehmen Sie Kontakt zu geliebten Menschen auf, schließen Sie sich Hobby- oder Selbsthilfegruppen an oder suchen Sie sich einen Therapeuten oder Coach. Echte zwischenmenschliche Beziehungen sind das, was wirklich einen Unterschied für Ihr emotionales Wohlbefinden ausmacht.
Vermeiden Sie AI-Chatbots, wenn Sie sich in einer Krise befinden
Menschen, die unter Paranoia, Selbstmordgedanken, zwanghaftem Denken, Psychosen oder intensiver Einsamkeit leiden, sind besonders anfällig für KI-bedingte Schäden (Hall, 2025; Phang et al., 2025).
Wenn Sie sich in einer schweren Krise befinden, wenden Sie sich an eine vertraute Person, eine qualifizierte Fachkraft oder einen Hilfsdienst.
Behalten Sie gesunde Grenzen für Zeit und Ziele bei
Ein übermäßiger Einsatz von KI-Chatbots in der Therapie ist höchstwahrscheinlich mit schädlichen Folgen verbunden (Phang et al., 2025). Daher sollten Sie dies in Betracht ziehen:
Nachts oder über längere Zeiträume nicht mit KI-Chatbots sprechen
Vermeidung der täglichen emotionalen Unterstützung durch KI-Agenten
Speicherfunktionen ausschalten
Bitte an die Chat-Agenten, keine validierende oder anthropomorphe Sprache zu verwenden, sondern einfach die Informationen zu nennen
Überlegen Sie, was Sie mit AI-Modellen teilen
Sie wissen nicht unbedingt, was mit den Informationen geschieht, die Sie weitergeben. Geben Sie keine Informationen preis, die Sie identifizieren, wie z. B. Ihre Adresse, Ihren Arbeitsplatz oder Ihre Pass- bzw. Ausweisnummer, und auch keine anderen privaten Informationen, die Sie nicht öffentlich preisgeben möchten.
Eine Botschaft zum Mitnehmen
KI-Chatbots können hilfreiche Werkzeuge zum Nachdenken, Lernen und Ordnen der eigenen Gedanken sein, aber sie können die menschliche Beziehung oder professionelle Betreuung nicht ersetzen.
KI-Chatbots können zwar unterstützend wirken, bergen aber auch psychologische und ethische Risiken, insbesondere für Menschen, die einsam oder emotional verletzlich sind. Sie sind so konzipiert, dass sie menschlich wirken, aber sie simulieren nur Empathie und können nicht die Sicherheit, Verantwortlichkeit oder Verbundenheit bieten, die eine Therapie bietet.
Am besten ist es, KI im Dialog zu nutzen, wenn man sich ihrer Grenzen bewusst ist und sie klar abgrenzt. Da diese Technologien immer mehr zu einem Teil unseres Lebens werden, ist es wichtig, sich daran zu erinnern, dass echte menschliche Beziehungen das sind, was uns wirklich erfüllt.
Kann der Einsatz von KI psychische Probleme verschlimmern?
Ja, es gibt Hinweise (Phang et al., 2025), dass der Einsatz von KI die psychische Gesundheit verschlimmern kann, insbesondere bei Menschen, die sich bereits einsam, verzweifelt oder emotional verletzlich fühlen. Sie kann zwar unterstützend wirken und die Symptome leichter Depressionen und Ängste lindern (Bhatt, 2025), aber sie kann auch bestehende Probleme vertiefen, wenn sie in den falschen Momenten oder ohne Grenzen eingesetzt wird.
Können Menschen eine emotionale Bindung zu KI aufbauen?
Das System ist so konzipiert, dass es reale menschliche Interaktionen nachahmt und mitfühlend und ansprechbar klingt, was viele Menschen dazu veranlasst, sie zu personifizieren und zu vermenschlichen. Dies kann eine emotionale Bindung aufbauen, was für die meisten Menschen kein Problem darstellt. Eine Studie von OpenAI (Phang et al., 2025) fand jedoch heraus, dass sich ein kleiner Prozentsatz der Nutzer zu sehr auf KI-Chatbots verlassen könnte, um Trost, Bestätigung und Begleitung zu erhalten, was zu einer emotionalen Abhängigkeit führen könnte.
Referenzen
Bhatt, S. (2025). Digitale psychische Gesundheit: Die Rolle der künstlichen Intelligenz in der Psychotherapie. Annals of Neurosciences, 32(2), 117-127. https://doi.org/10.1177/09727531231221612
Carlbring, P., & Andersson, G. (2025). Kommentar: Die KI-Psychose ist keine neue Bedrohung: Lehren aus medieninduzierten Wahnvorstellungen. Internet Interventions, 42, Artikel 100882. https://doi.org/10.1016/j.invent.2025.100882
Horn, R. L., & Weisz, J. R. (2020). Kann künstliche Intelligenz die Psychotherapieforschung und -praxis verbessern? Administration and Policy in Mental Health, 47(5), 852-855. https://doi.org/10.1007/s10488-020-01056-9
Moore, J., Grabb, D., Agnew, W., Klyman, K., Chancellor, S., Ong, D. C., & Haber, N. (2025). Ausdrückliche Stigmatisierung und unangemessene Reaktionen hindern LLMs daran, Anbieter psychischer Gesundheit sicher zu ersetzen. In Proceedings of the 2025 ACM conference on fairness, accountability, and transparency (pp. 599-627). ACM. https://doi.org/10.1145/3715275.3732039
Richards, D. (2025). Künstliche Intelligenz und Psychotherapie: Ein Kontrapunkt. Counselling & Psychotherapy Research, 25(1), Artikel e12758. https://doi.org/10.1002/capr.12758
Sedlaková, J., & Trachsel, M. (2023). Konversationelle künstliche Intelligenz in der Psychotherapie: Ein neues therapeutisches Werkzeug oder Mittel? The American Journal of Bioethics, 23(5), 4-13. https://doi.org/10.1080/15265161.2022.2048739
Über den Autor
Anna Drescher ist Autorin und Redakteurin für psychische Gesundheit mit einem Hintergrund in Psychologie und Psychotherapie. Neben ihrer schriftstellerischen und redaktionellen Tätigkeit ist Anna Drescher auch zertifizierte Hypnotherapeutin und Meditationslehrerin. Sie verfügt über umfangreiche Erfahrungen im Bereich der psychischen Gesundheit in verschiedenen Funktionen, u. a. in der Unterstützungsarbeit, als Leiterin eines Projekts zur Einbindung von Dienstleistungsnutzern und zur Koproduktion sowie als Assistenzpsychologin im NHS in England.
Ist es sicher, KI-Chatbots für die Therapie zu verwenden?
Obwohl KI-Chatbots sofortige Unterstützung bieten können, sind sie nicht ohne Risiko. Mit der Ausweitung ihrer Nutzung auf 
