Sichere KI-Nutzung in der Psychotherapie: Zwei Fragen an ein neues Werkzeug

Die Kollegin, das Werkzeug, die offene Frage

Eine Kollegin erzählt in der Intervisionsgruppe beiläufig, dass sie ihre Berichte inzwischen mit einem KI-Werkzeug schreibt. Es geht schnell, sagt sie, sie sei zufrieden. Auf dem Weg nach Hause hängt der Gedanke nach. Du öffnest die Seite, siehst ein aufgeräumtes Eingabefeld und eine Datenschutzerklärung, die nach der dritten Seite noch nicht bei Deiner Frage angekommen ist: Darf ich das nutzen für das, was ich tue?

Wir haben uns diese Frage beim Bau von ganzheit lange angeschaut. Zwei Prüfsteine reichen, um sie herauszufinden.

Datenschutz bei KI ist erstmal Datenschutz

Die KI hinter einem solchen Werkzeug ist im Kern ein statistisches System – sie sagt Wort für Wort vorher, was in einer Antwort plausibel als Nächstes käme. Sie „merkt sich“ Deine Eingabe nicht im umgangssprachlichen Sinn, sie speichert nichts in ihrem Inneren, und sie „weiß“ nichts über Deine PatientIn. Für den Datenschutz heißt das: KI ist keine Sonderdisziplin. Was mit Deinen Eingaben geschieht, entscheidet nicht die KI, sondern die Infrastruktur und die Firmenpolitik dahinter – dieselben Fragen, die Du für alles stellst, was Deine PatientInnen Dir anvertrauen: wo landet es, und was passiert damit?

„Ist KI sicher?“ hat deshalb keine allgemeine Antwort – sie hängt am einzelnen Werkzeug. Die tragfähige Frage lautet: Wie ist dieses konkrete Werkzeug gebaut? Und mit dieser Frage bist Du nicht allein. Die BPtK hat mit der Praxis-Info „Administrative KI in Ihrer Praxis“ (25.02.2026) den Prüfkatalog geliefert, der für eine niedergelassene Praxis zählt. Zwei Punkte daraus haben uns beim Bau am meisten beschäftigt – zwei Fragen, die Du an jedes Werkzeug richten kannst: an das, das die Kollegin empfohlen hat, an Deine Praxissoftware, an die großen Chat-Assistenten.

Frage 1: Werden meine Eingaben zum Training der KI verwendet?

Das ist die Frage, die den meisten zuerst einfällt – und sie ist berechtigt, weil sie eine Einbahnstraße betrifft: Was einmal in die Trainingsdaten einer großen KI eingeflossen ist, holst Du praktisch nicht mehr zurück.

Die verbreiteten Verbraucherversionen amerikanischer KI-Anbieter nutzen Eingaben standardmäßig zum Training, mit einem Opt-out irgendwo in den Einstellungen. Wer das nicht aktiv abschaltet, füttert die KI mit dem, was er eintippt – Sitzungsverläufe, Diagnosen, Reflexionen. Business-, Enterprise- und API-Zugänge derselben Anbieter haben das Training in der Regel standardmäßig ausgeschaltet, aber sie sind für eine niedergelassene Praxis selten der Weg, den jemand einschlägt. Die Voreinstellung entscheidet mehr als der nachträgliche Klick.

Wie ganzheit auf diese Frage antwortet. Deine Inhalte gehen nicht an die Anbieter der KI-Modelle und werden nicht zum Training verwendet. Das ist keine Einstellung, die Du aktivieren müsstest – es ist die Architektur des Systems.

Frage 2: Wo läuft die Verarbeitung?

Bei Gesundheitsdaten sollte die Verarbeitung idealerweise in Deutschland stattfinden, mindestens aber innerhalb der EU. Außerhalb dieses Bereichs greift die DSGVO nicht durchgehend, und Aufsichtsbehörden können nur begrenzt einwirken.

Bei den großen amerikanischen KI-Anbietern ist dieser Mindeststandard häufig nicht gegeben. Verbraucherversionen verarbeiten typischerweise in den USA; Business- und Enterprise-Zugänge bieten eine EU-Datenresidenz mancherorts als Option, ein deutscher Verarbeitungsstandort ist auf diesem Weg praktisch nirgends verfügbar. Der Verarbeitungsort ist der Punkt, an dem Einstellungen am wenigsten helfen – er ergibt sich aus dem Bau des Werkzeugs, nicht aus einem Häkchenfeld. Verarbeitet ein System von Grund auf nicht innerhalb der EU, holt es das durch keine spätere Einstellung nach.

Wie ganzheit auf diese Frage antwortet. Deine Dokumentation und die KI-Verarbeitung laufen ausschließlich über C5-testierte Infrastrukturpartner – die Dokumentation in Deutschland, die KI-Verarbeitung innerhalb der EU. Beides ist in der Architektur des Systems festgelegt.

Zurück zur Empfehlung der Kollegin

Zwei Fragen, die Du an jedes Werkzeug richten kannst – an das, das die Kollegin empfohlen hat, an das, das Dir eine Kammer-Info in die Auslage legt, an ganzheit. Beantwortet ein Werkzeug sie zufriedenstellend, kannst Du es guten Gewissens nutzen. Beantwortet es sie nicht, weißt Du auch das – und wo genau die Grenze liegt.

Die Vorsicht ist berechtigt. Sie richtet sich nur an die falsche Stelle, wenn sie „die KI“ fragt statt das Werkzeug, in dem sie steckt. Datenschutz bei KI ist Datenschutz wie bei jeder anderen Anwendung – die Frage ist jedes Mal, wie das konkrete Werkzeug gebaut ist.

Wenn Du sehen willst, wie beide Antworten in einem Werkzeug aussehen, das für den psychotherapeutischen Alltag gebaut wurde: ganzheit 14 Tage kostenlos testen.

Häufige Fragen

Reicht es, das Training bei einem KI-Werkzeug auszuschalten?

Der Trainings-Opt-out ist wichtig, aber er ist nur eine der zwei zentralen Fragen. Er sagt nichts darüber, wo Deine Daten überhaupt verarbeitet werden – und in Verbraucherversionen amerikanischer Anbieter läuft die Verarbeitung typischerweise in den USA, unabhängig davon, ob das Training an- oder abgeschaltet ist.

Wo laufen meine Daten bei ganzheit?

Deine Dokumentation liegt auf Servern in Deutschland, die KI-Verarbeitung läuft innerhalb der EU – beides in der Architektur des Systems festgelegt, nicht durch Einstellungen wählbar. Deine Inhalte gehen nicht an die Anbieter der KI-Modelle und werden nicht zum Training verwendet.

Ersetzt ganzheit meine Praxisverwaltungssoftware?

Nein. ganzheit tritt neben Deine bestehende Praxisverwaltung, nicht an ihre Stelle. Abrechnung, TI-Anschluss, ePA und Terminverwaltung bleiben dort, wo sie bisher liegen; ganzheit ergänzt die fachliche Akte und die Fallreflexion. Du musst keine Daten migrieren, um es auszuprobieren.