KI-Hilfe bei psychischen Problemen: Standards für sichere Nutzung gefordert

Dazu hat die DGPPN jetzt das Positionspapier Einsatz von KI in Psychiatrie und Psychotherapie veröffentlicht. 

KI ist längst im Alltag der Menschen angekommen; Sprachmodelle wie ChatGPT oder Claude werden von vielen sogar genutzt, um sich Rat bei psychischen Problemen zu holen. Allerdings wurden diese Anwendungen nicht für die Therapie psychischer Erkrankungen entwickelt und können für Betroffene durchaus Gefahren bergen. Spezifisch entwickelte KI-Anwendungen dagegen können neue Möglichkeiten für die psychiatrisch-psychotherapeutische Versorgung eröffnen. 

„Die neuen Techniken lassen sich in der Diagnostik und Therapie einsetzen und können auch bei administrativen Tätigkeiten unterstützen. Unter bestimmten Voraussetzungen können sie so dazu beitragen, die Versorgung von Menschen mit psychischen Erkrankungen maßgeblich zu verbessern“, erläutert Prof. Dr. Peter Zwanzger, Leiter des DGPPN-Referats Digitale Psychiatrie und Psychotherapie und federführender Autor des neuen Positionspapiers. KI ist in der Lage, große Datenmengen auszuwerten und darin Muster zu erkennen, die die Diagnostik verbessern könnten. Daten aus Smartwatches oder anderen tragbaren Sensoren könnten dazu beitragen, eine psychische Krise oder einen drohenden Rückfall früher zu erkennen. Und auch in der Therapie könnten KI-Anwendungen vielfältig unterstützend eingesetzt werden. Darüber hinaus bietet die Automatisierung von Dokumentations- und Verwaltungsaufgaben die Chance, Fachkräfte zu entlasten und mehr Zeit für den direkten Kontakt mit den Patientinnen und Patienten zu schaffen. 

Dafür entscheidend ist jedoch, dass die Systeme für die Zielgruppe und den konkreten Anwendungszweck sicher und wirksam sind. „ChatGPT und vergleichbare Modelle wurden nicht für Menschen mit psychischen Erkrankungen konzipiert. Bei ungeregelter Nutzung können sie für diese Zielgruppe gefährlich sein“, warnt Peter Zwanzger. Gleichzeitig liegen mittlerweile Studien vor, die deutlich belegen, dass spezifisch entwickelte Systeme für die Behandlung psychischer Erkrankungen wirksam sein können – insbesondere bei leichten und mittelschweren Beeinträchtigungen. Peter Zwanzger führt aus: „Wenn wir KI-Systeme verantwortungsvoll für die Behandlung von Menschen mit psychischen Erkrankungen einsetzen möchten, müssen wir sicherstellen, dass die Anwendungen für diesen Zweck konzipiert wurden und nachgewiesenermaßen wirksam sind. Wir sollten in Psychiatrie und Psychotherapie nur Systeme einsetzen, die vor ihrer Zulassung – wie andere Medizinprodukte auch – auf Sicherheit, Wirksamkeit und ihren Nutzen für die Betroffenen überprüft wurden.“ 

Die DGPPN fordert deshalb in ihrem Papier verbindliche Standards für den Einsatz von KI in der psychiatrisch-psychotherapeutischen Behandlung. Diese Standards müssen die Europäische KI-Verordnung (EU-AI-Act) berücksichtigen und sollten sich an etablierten Verfahren und Prinzipien der Medizinprodukteregulierung orientieren. Ebenso wichtig sind Datenschutz und Transparenz des Einsatzes: Patientinnen und Patienten müssen erkennen können, wann sie mit KI interagieren und jederzeit darauf vertrauen können, dass ihre Daten sicher verarbeitet und gespeichert werden. 

Mit dem Positionspapier hat die DGPPN eine fachliche Grundlage für den weiteren Austausch mit Wissenschaft, Versorgung, Politik und den zuständigen Institutionen geschaffen. Die Fachgesellschaft wird sich dafür einsetzen, dass die besonderen Anforderungen der psychiatrisch-psychotherapeutischen Versorgung bei der Gestaltung künftiger Standards für den Einsatz von KI angemessen berücksichtigt werden. 

Quelle: Deutsche Gesellschaft für Psychiatrie und Psychotherapie, Psychosomatik und Nervenheilkunde

05.11.2026

• KI (623)
• Prävention (475)
• Psychische Gesundheit (70)
• Psychologie (143)