Ein kritischer Blick auf eine Technologie, die mehr verspricht, als sie halten kann — und die dennoch nicht wegzudenken sein wird
Einleitung: Eine Begegnung mit dem Algorithmus
Stellen wir uns vor: Ein Mensch sitzt mitten in der Nacht allein in seiner Wohnung, überwältigt von Gedanken, die er nicht mehr kontrollieren kann. Die psychiatrische Notaufnahme der nächsten Klinik ist eine Stunde entfernt. Die Krisenhotline ist besetzt. Der Therapeut hat erst in zehn Tagen einen freien Termin. Also öffnet er eine App — nicht aus Überzeugung, sondern aus Mangel an Alternativen. Auf der anderen Seite antwortet kein Mensch. Es ist ein KI-System.
Dieses Szenario ist keine Dystopie. Es beschreibt eine Realität, die sich in vielen Ländern bereits entfaltet — und die grundlegende Fragen aufwirft: Wer trägt die Verantwortung? Was geht dabei verloren? Und was — unter Umständen — wird gewonnen?
I. Die Versprechen: Was KI der Psychiatrie bringen könnte
Die Psychiatrie leidet seit Jahrzehnten unter einem strukturellen Problem: zu wenige Fachkräfte, zu viele Patienten, zu lange Wartezeiten. In Deutschland warten Betroffene im Schnitt drei bis sechs Monate auf einen Therapieplatz. In ländlichen Regionen ist die Versorgungslage noch dramatischer. KI wird hier als Brückentechnologie gehandelt — und das nicht ohne Grund.
Früherkennung und Diagnostik sind Bereiche, in denen maschinelles Lernen tatsächlich bemerkenswerte Leistungen zeigt. Algorithmen können aus Sprachmustern, Schreibgeschwindigkeit, Schlafverhalten oder sogar aus Social-Media-Aktivitäten depressive Episoden oder manische Phasen frühzeitig erkennen — oft früher, als es Angehörige oder Betroffene selbst wahrnehmen. Studien deuten darauf hin, dass bestimmte KI-Modelle Suizidrisiken aus klinischen Notizen mit einer Präzision vorhersagen können, die menschliche Einschätzungen ergänzt, bisweilen sogar übertrifft.
Therapieunterstützung durch KI-basierte Apps hat in randomisierten Studien messbare Effekte bei leichter bis mittelschwerer Depression gezeigt. Für Menschen, die aus Scham, finanziellen Gründen oder strukturellen Barrieren keinen Zugang zu professioneller Hilfe haben, können diese Tools eine niedrigschwellige Einstiegsmöglichkeit darstellen.
Personalisierung der Behandlung ist ein weiteres Versprechen: Durch die Auswertung großer Datensätze könnte KI helfen vorherzusagen, welches Medikament bei welcher Patientengruppe besser anschlägt — ein Bereich, der in der Psychiatrie bislang stark von Versuch und Irrtum geprägt ist.
II. Die Risiken: Was schief gehen kann — und schon schief geht
Doch die Versprechen verstellen den Blick auf tiefgreifende Probleme.
Das Bias-Problem ist kein Randphänomen. KI-Systeme lernen aus historischen Daten — und historische psychiatrische Daten sind von gesellschaftlichen Ungleichheiten durchzogen. Schwarze Patienten wurden in der US-amerikanischen Psychiatriegeschichte häufiger mit Schizophrenie diagnostiziert, während vergleichbare Symptome bei weißen Patienten als Stimmungsstörungen eingestuft wurden. Ein Algorithmus, der auf diesen Daten trainiert wurde, reproduziert diese Ungleichheit nicht nur — er institutionalisiert sie. Wenn ein KI-System systematisch bestimmte demografische Gruppen falsch einschätzt, sind die Folgen für vulnerable Individuen gravierend: zu frühe oder falsche Einweisungen, falsche Medikationen, übersehene Suizidalität.
Die „Black Box“ als diagnostisches Instrument. Viele leistungsstarke KI-Modelle — insbesondere tiefe neuronale Netze — sind in ihrer Funktionsweise selbst für Experten kaum nachvollziehbar. Ein KI-System, das einem Psychiater mitteilt, dass ein Patient „hohes Suizidrisiko“ aufweist, ohne erklären zu können warum, stellt den Kliniker vor eine unmögliche Situation: Er kann die Einschätzung weder sinnvoll hinterfragen noch begründet vertreten. In einem Fachgebiet, in dem die therapeutische Beziehung und das klinische Urteil konstituierend sind, ist diese Intransparenz kein technisches Detail — es ist ein fundamentales Problem.
Überdiagnose und Pathologisierung. Systeme, die auf Maximierung von Trefferquoten optimiert sind, neigen zur Überdiagnose: Lieber einmal zu viel Alarm als einmal zu wenig. In der Psychiatrie bedeutet das potenziell die Pathologisierung normaler menschlicher Erfahrungen — Trauer, Angst, Lebensunzufriedenheit — und damit eine Ausweitung des psychiatrischen Blicks in Lebensbereiche, in denen er nichts zu suchen hat.
III. Die juristische Dimension: Terra incognita mit Sprengstoff
Die rechtliche Lage rund um KI in der Psychiatrie ist, gelinde gesagt, ungeklärt — und das ist kein Naturzustand, sondern ein gesellschaftliches Versagen.
Haftungsfragen sind offen. Wenn ein KI-gestütztes Diagnosesystem ein Suizidrisiko nicht erkennt und ein Patient stirbt: Wer haftet? Der Hersteller der Software? Das Krankenhaus, das sie implementiert hat? Der Arzt, der die KI-Einschätzung übernahm? Der europäische AI Act, der 2024 in Kraft getreten ist, stuft KI-Systeme im medizinischen Bereich als „hochrisikant“ ein und stellt erhöhte Anforderungen an Transparenz, Dokumentation und menschliche Aufsicht. Doch die Grauzone zwischen Assistenzsystem und eigenständiger Diagnose ist noch nicht rechtssicher abgesteckt.
Datenschutz trifft auf das Intimste. Psychiatrische Daten gehören zu den sensibelsten überhaupt: Sie betreffen sexuelle Orientierung, Traumata, Suizidgedanken, Substanzabhängigkeiten, politische Überzeugungen. Die DSGVO gewährt besondere Schutzrechte für Gesundheitsdaten, doch die Praxis sieht anders aus. Wenn eine Krisen-App Gesprächsverläufe auf kommerziellen Cloud-Servern speichert und auswertet, bewegt sie sich in einem regulatorischen Graubereich — mit potenziell gravierenden Folgen für die betroffenen Personen, sollten diese Daten je kompromittiert werden.
Einwilligungsfähigkeit in der Krise. Das Konzept der informierten Einwilligung setzt voraus, dass Patienten die Konsequenzen ihrer Entscheidungen verstehen und abwägen können. Doch viele psychiatrische Patienten — gerade in akuten Phasen — sind in ihrer Urteilsfähigkeit eingeschränkt. Wenn sie einer KI-gestützten Behandlung zustimmen, was genau haben sie dann eigentlich zugestimmt? Diese Frage ist nicht akademisch: Sie berührt das Fundament der medizinischen Ethik.
IV. Die Perspektive der Patienten: Was Betroffene wirklich brauchen
Es wäre ein Fehler, über KI in der Psychiatrie zu sprechen, ohne die Perspektive derer einzubeziehen, um die es geht.
Viele Betroffene berichten von ambivalenten Erfahrungen. Einerseits schätzen manche die Niedrigschwelligkeit: Ein Algorithmus urteilt nicht, schläft nicht, hat keinen schlechten Tag und ist nachts um drei verfügbar. Für Menschen, die in der Psychiatrie Traumata durch Zwangsmaßnahmen, Fehldiagnosen oder Stigmatisierung erlitten haben, kann der Gedanke an ein neutrales Gegenüber sogar erleichternd sein.
Andererseits benennen Patientenvertreter eine fundamentale Sorge: KI kann das Gefühl verstärken, nicht wirklich gehört zu werden. Wenn ein Mensch in der Krise das Gefühl hat, mit einem System zu interagieren, das ihn klassifiziert statt versteht, kann das bestehende Entfremdungserfahrungen vertiefen. Psychiatrische Diagnosen haben soziale Konsequenzen — für Versicherungen, Arbeitsverhältnisse, Sorgerechtsverfahren, Beamtenstatus. Ein fehlerhaftes KI-Urteil, das in eine Akte Eingang findet, kann Menschen über Jahre verfolgen.
Es gibt auch eine strukturelle Machtdimension, die selten benannt wird: KI in der Psychiatrie ist fast ausschließlich von nicht-betroffenen Ingenieuren, Unternehmensberatern und Klinikmanagern entwickelt worden. Die Stimmen von Psychiatrieerfahrenen — Menschen, die das System von innen kennen — sind in den Designprozessen dieser Werkzeuge strukturell unterrepräsentiert. Das ist keine Kleinigkeit: Es reproduziert die jahrhundertealte Logik einer Psychiatrie, die über Menschen spricht, statt mit ihnen.
V. Das Datenproblem: Woher soll das Wissen kommen?
Hier liegt ein fundamentaler Widerspruch im Kern des gesamten Projekts.
KI lernt aus Daten. Psychiatrische KI braucht psychiatrische Daten — Millionen von Krankengeschichten, Therapieprotokollen, Medikationsverläufen, Kriseninterventionen. Doch genau diese Daten genießen den höchsten Datenschutz, den das europäische Recht kennt. Artikel 9 DSGVO stuft psychische Gesundheitsdaten als besondere Kategorie ein. Ihre Verarbeitung ist grundsätzlich verboten — mit engen Ausnahmen.
Das ergibt ein Dilemma: Je besser wir Patienten schützen, desto schlechter wird die KI, die Patienten helfen soll.
Klinische Studien mit wenigen hundert Teilnehmern reichen nicht, um robuste psychiatrische KI zu trainieren. Man braucht Daten in einem Umfang, der in Europa schlicht nicht legal verfügbar ist. US-amerikanische und chinesische Systeme werden deshalb mit weitaus größeren Datensätzen entwickelt — unter wesentlich laxeren Datenschutzstandards. Europa droht technologisch abgehängt zu werden, weil es seine Grundwerte ernst nimmt.
VI. Die gesellschaftliche Debatte, die noch nicht stattfindet
Hier ist eine Frage, die wir als Gesellschaft bislang konsequent vermeiden:
Haben wir eine kollektive Pflicht, unsere anonymisierten Gesundheitsdaten für das Gemeinwohl zur Verfügung zu stellen?
Der Gedanke ist nicht so absurd, wie er klingt. Wir akzeptieren Meldepflichten für Infektionskrankheiten — weil das Gemeinwohl es verlangt. Wir spenden Blut, Organe, Körpergewebe. Die Frage wäre: Sind anonymisierte psychiatrische Behandlungsdaten strukturell anders?
Argumente dafür sind durchaus ernst zu nehmen. Wer heute in psychiatrischer Behandlung ist, profitiert von Erkenntnissen, die frühere Patienten durch ihre — damals nicht informierte — Teilnahme an Studien ermöglicht haben. Das wäre eine Form von Solidarität in der Zeit: eine Art Datengemeingut, ähnlich wie Infrastruktur.
Argumente dagegen sind aber ebenso gewichtig. „Anonym“ ist bei psychiatrischen Daten ein relativer Begriff. Wer weiß, dass eine Person zwischen 2019 und 2021 in einer psychiatrischen Klinik in einer mittelgroßen Stadt behandelt wurde, wegen einer seltenen Diagnose, mit einem spezifischen Medikationsschema — der kann diese Person unter Umständen re-identifizieren. Vollständige Anonymität ist bei hochspezifischen klinischen Verläufen technisch kaum garantierbar.
Was fehlt, ist die Debatte selbst. Kein Ethikrat, kein Parlament, kein gesellschaftlicher Diskurs hat diese Frage bislang ernsthaft gestellt. Das ist das eigentliche Versäumnis.
VII. Der Konfliktfall: Arzt und KI — wer hat Recht?
Stellen wir uns den konkreten Fall vor: Ein erfahrener Psychiater diagnostiziert nach einem ausführlichen Gespräch eine Anpassungsstörung. Das KI-System, das die Krankenakte, Laborwerte, Sprachanalysen und Schlafprotokolle ausgewertet hat, kommt zu einer anderen Einschätzung: bipolare Störung Typ II, frühes Stadium.
Wer hat Recht? Und — was rechtlich entscheidend ist — wer trägt die Verantwortung für die Konsequenzen?
Drei Szenarien sind denkbar:
Szenario A: Der Arzt folgt der KI, obwohl er anderer Meinung ist. Wenn die KI-Diagnose sich als falsch erweist, hat er eine Entscheidung getroffen, die gegen sein klinisches Urteil ging. Er hat sich von einem System leiten lassen, dessen Funktionsweise er nicht vollständig versteht. Das ist juristisch heikel: Der Arzt kann sich nicht hinter der Maschine verstecken, weil er nach deutschem Recht immer die letzte ärztliche Verantwortung trägt.
Szenario B: Der Arzt ignoriert die KI, obwohl sie Recht hatte. Wenn ein Patient Schaden nimmt und im Nachhinein festgestellt wird, dass das KI-System korrekt lag, der Arzt den Hinweis aber nicht dokumentiert und nicht begründet verworfen hat — steht er vor einem Haftungsproblem neuer Art. Es entsteht eine implizite Pflicht, KI-Einschätzungen aktiv zu begründen, wenn man von ihnen abweicht.
Szenario C: Beide haben irgendwie Recht. Psychiatrische Diagnosen sind keine objektiven Tatsachen wie ein Knochenbruch im Röntgenbild. Sie sind interpretative Zuschreibungen auf der Grundlage von Beobachtungen, Gesprächen und Klassifikationssystemen. Zwei verschiedene Diagnosen können beide klinisch vertretbar sein — und doch unterschiedliche Behandlungspfade nach sich ziehen.
Die Haftungsarchitektur ist auf diesen Konflikt nicht vorbereitet. Weder das ärztliche Haftungsrecht noch das Medizinprodukterecht noch der AI Act geben klare Antworten auf die Frage, was passiert, wenn Mensch und Maschine diagnostisch divergieren.
VIII. Die Verwandlung der Arztrolle: Kurator statt Diagnostiker?
Diese Frage greift tiefer, als sie zunächst erscheint. Wenn die Diagnose zunehmend extern gestellt wird — von Algorithmen, die mehr Daten verarbeiten als jeder Mensch — was ist dann noch die genuine Aufgabe des Psychiaters?
Eine mögliche Antwort: Der Arzt wird zum Übersetzer und Beziehungsgestalter. Er interpretiert, was die KI produziert. Er erklärt es dem Patienten. Er moderiert den therapeutischen Prozess. Er trifft die ethisch schwierigen Entscheidungen, die kein Algorithmus treffen sollte.
Das klingt zunächst plausibel — hat aber eine beunruhigende Implikation: Wenn die eigentliche diagnostische Kompetenz zunehmend bei der Maschine liegt, werden Psychiater dann noch ausgebildet, diese Kompetenz selbst zu entwickeln? Oder entstehen Generationen von Klinikern, die gut darin sind, KI-Ergebnisse zu präsentieren, aber zunehmend verloren sind, wenn das System ausfällt, falsch liegt oder gar nicht verfügbar ist?
Es gibt ein historisches Analogon: Die Einführung des Taschenrechners hat die Fähigkeit zum Kopfrechnen in der Breite erodiert. Das war für die meisten Menschen unerheblich. Für einen Psychiater in einer Akutsituation ohne technische Infrastruktur könnte die Erosion klinischen Urteilsvermögens gefährlich werden.
Brauchen wir mehr Psychotherapie? Ja — aber aus einem anderen Grund als oft angenommen. Nicht weil die Diagnose delegiert wird, sondern weil die therapeutische Beziehung das ist, was KI strukturell nicht leisten kann. Wenn KI die diagnostische Effizienz steigert und administrative Last abnimmt, sollte das gewonnene Zeitbudget in echte therapeutische Begegnungen fließen. Ob das tatsächlich passiert oder stattdessen Stellen abgebaut werden, ist eine politische Entscheidung — keine technische.
IX. Aufklärungspflicht: Was muss ich als Behandler sagen?
Das geltende Recht ist hier eindeutiger, als die Praxis vermuten lässt.
Die ärztliche Aufklärungspflicht nach § 630e BGB verlangt, dass Patienten über alle für die Einwilligung wesentlichen Umstände informiert werden — einschließlich der Methoden, die bei ihrer Behandlung eingesetzt werden. Daraus ergeben sich konkret:
Die Pflicht zur Transparenz über den KI-Einsatz. Wenn ein KI-System bei der Diagnosestellung oder Risikoeinschätzung eine Rolle gespielt hat, muss der Patient das wissen. Er muss verstehen, dass seine Daten verarbeitet wurden — von welchem System, mit welchem Ergebnis.
Die Pflicht zur Erläuterung von Unsicherheiten. Wenn das KI-System eine Wahrscheinlichkeitsaussage trifft — etwa „72 % Wahrscheinlichkeit einer depressiven Episode in den nächsten sechs Monaten“ — muss der Arzt erklären können, was das bedeutet und was es nicht bedeutet. Die meisten Patienten werden diese Zahl als Prognose oder sogar als Urteil verstehen.
Die Pflicht zur Ablehnung. Patienten müssen das Recht haben, dem Einsatz von KI-Systemen bei ihrer Behandlung zu widersprechen — ohne dass ihnen dadurch eine schlechtere Versorgung droht. In der Praxis ist dieses Recht oft theoretisch: Wenn KI in die klinischen Workflows integriert ist, ist ein Opt-out kaum real umsetzbar.
Was derzeit fehlt, ist ein verbindlicher Standard dafür, wie KI-Aufklärung in der Psychiatrie aussehen soll. Ein Formular, das auf Seite 12 eines Aufnahmedokuments auf den „Einsatz digitaler Assistenzsysteme“ hinweist, genügt den Anforderungen informierter Einwilligung nicht.
X. Der positive Sonderfall: KI als Schutzschirm bei Zwangsmaßnahmen
Hier liegt ein genuiner, bislang zu wenig diskutierter Nutzen — und es lohnt sich, ihn ernst zu nehmen.
Freiheitsentziehende Maßnahmen in der Psychiatrie — Unterbringungen nach PsychKG, Fixierungen, Zwangsmedikationen — gehören zu den gravierendsten Grundrechtseingriffen, die ein Rechtsstaat kennt. Sie sind notwendig in Ausnahmesituationen, aber sie sind fehleranfällig, und ihre Geschichte ist von Missbrauch geprägt.
Wenn eine KI-gestützte Zweitmeinung zur Pflicht würde, bevor eine Zwangsmaßnahme angeordnet werden darf, könnte das mehrere Schutzfunktionen erfüllen:
Erstens wäre es ein struktureller Check gegen vorschnelle Entscheidungen unter Zeitdruck. Kliniken sind nachts unterbesetzt. Ein übermüdeter Assistenzarzt trifft Entscheidungen unter schwierigen Bedingungen. Ein System, das systematisch Gegenbefunde oder Alternativdiagnosen prüft, könnte als formale Bremse wirken.
Zweitens wäre es dokumentierbar und anfechtbar. Heute sind Zwangseinweisungsentscheidungen oft kaum rekonstruierbar. Wenn ein KI-System die Entscheidungsgrundlagen protokolliert, entsteht eine Grundlage für rechtliche Überprüfung — zum Schutz der Patienten.
Drittens könnte es Bias sichtbar machen. Wenn das KI-System zeigt, dass bestimmte Gruppen — nach Ethnizität, Geschlecht, sozialem Status — überproportional häufig für Zwangsmaßnahmen vorgesehen werden, ist das ein Alarmsignal, das ohne systematische Datenerhebung unsichtbar bleibt.
Der Einwand ist naheliegend: Macht man KI zur Bedingung für Zwangsmaßnahmen, wird sie zur Legitimationsmaschine. Wenn ein Algorithmus die Maßnahme bestätigt, fühlt sie sich zwangsläufig „objektiver“ an — obwohl die Fehlerquellen dieselben geblieben sind, nur weniger sichtbar. Dieser Einwand ist berechtigt. Er spricht nicht gegen den Einsatz, aber für eine sehr sorgfältige Ausgestaltung: KI als Prüfinstrument, nicht als Entscheidungsinstanz.
XI. Kinder- und Jugendpsychiatrie: Der blinde Fleck
Ein Aspekt, der in der öffentlichen Diskussion fast vollständig fehlt, ist die besondere Situation der Kinder- und Jugendpsychiatrie.
Nahezu alle großen KI-Modelle für psychiatrische Anwendungen wurden primär an Erwachsenendaten trainiert. Das ist kein Zufall — Kinder und Jugendliche sind in psychiatrischen Datensätzen unterrepräsentiert, auch weil für sie besonders strenge Einwilligungs- und Datenschutzregeln gelten. Das Ergebnis: Systeme, die für Erwachsene halbwegs validiert sind, werden auf Minderjährige angewendet, ohne dass ihre Tauglichkeit für diese Gruppe seriös belegt wäre.
Das Problem ist nicht nur methodisch. Psychische Erkrankungen bei Kindern und Jugendlichen manifestieren sich anders als bei Erwachsenen. Depression zeigt sich bei Teenagern häufig als Reizbarkeit, nicht als Niedergeschlagenheit. ADHS-Symptome überschneiden sich mit normalen Entwicklungsphänomenen. Traumafolgestörungen können wie Verhaltensstörungen aussehen. Ein Algorithmus, der auf diesen Oberflächen trainiert wurde, ohne die Entwicklungspsychologie dahinter zu berücksichtigen, ist in diesem Bereich strukturell unzuverlässig.
Die Konsequenzen von Fehldiagnosen sind bei Minderjährigen besonders weitreichend: Eine psychiatrische Diagnose in der Kindheit beeinflusst Schullaufbahn, soziales Umfeld, Selbstbild und familiale Dynamiken auf eine Weise, die sich über Jahrzehnte erstrecken kann. Hier ist besondere Vorsicht geboten — und die aktuelle Diskussion übt diese Vorsicht nicht.
XII. Suizidalität als Sonderfall: Wenn die KI Alarm schlägt
Suizidalität ist der heikelste Anwendungsfall psychiatrischer KI — und gleichzeitig derjenige, der am häufigsten als Argument für ihren Einsatz herangezogen wird. Wenn KI Leben retten kann, indem sie Suizidrisiken früher erkennt als Menschen, so das Argument, dann rechtfertigt das vieles.
Das Argument ist nicht falsch. Aber es ist unvollständig.
Die entscheidende Frage ist nicht nur, ob KI Risiken erkennt, sondern was dann passiert. Wenn eine App ein erhöhtes Suizidrisiko detektiert und automatisch Notfalldienste alarmiert oder Angehörige informiert, ohne dass der Betroffene dem zugestimmt hat — dann ist das ein tiefer Eingriff in Autonomie und Privatsphäre. Menschen, die wissen, dass das Aussprechen bestimmter Gedanken automatisch Konsequenzen auslöst, werden diese Gedanken nicht mehr aussprechen. Der Safe Space, den therapeutische Kommunikation bieten soll, kollabiert.
Es gibt eine reale Gefahr: Dass die Angst vor automatischen Interventionen Menschen davon abhält, Hilfe zu suchen. Suizidprävention durch Überwachung kann Suizidprävention durch Vertrauen untergraben. Das ist kein theoretisches Risiko — es ist eine der zentralen Erkenntnisse der Suizidforschung, dass niedrigschwelliger, nicht-stigmatisierender Zugang zu Hilfe entscheidend ist. Ein System, das Betroffene kontrolliert statt begleitet, arbeitet gegen dieses Ziel.
XIII. Interkulturelle Blindstellen: Wenn der Algorithmus nur eine Sprache spricht
Psychische Erkrankungen werden kulturell unterschiedlich ausgedrückt, erlebt und kommuniziert. Was in westlichen klinischen Settings als Depression diagnostiziert wird, äußert sich in anderen Kulturkreisen häufig als körperliche Beschwerden — Schmerzen, Erschöpfung, Schwindelgefühle — ohne dass Betroffene ihre Erfahrungen mit dem Begriff der Traurigkeit verbinden würden. Trauma wird in manchen Kulturen kollektiv erlebt und kommuniziert, nicht individuell.
KI-Systeme, die auf anglophonen oder westeuropäischen Datensätzen trainiert wurden, sind auf diese Diversität nicht vorbereitet. Sie erkennen Depression, wenn sie sich wie Depression in amerikanischen oder deutschen Krankenakten anfühlt. Sie versagen, wenn das Erleben anders kodiert ist.
In einer Gesellschaft, die zunehmend von Migration geprägt ist, ist das kein Randproblem. Migrantinnen und Migranten sind bereits heute in der psychiatrischen Versorgung strukturell benachteiligt — durch Sprachbarrieren und kulturelle Missverständnisse. KI-Systeme, die diese Benachteiligung nicht aktiv korrigieren, werden sie verstärken.
XIV. Die Interessen der Krankenversicherungen: Wer profitiert wirklich?
Hier lohnt ein nüchterner Blick auf die Akteure, die in der öffentlichen Debatte kaum vorkommen, aber strukturell erheblichen Einfluss auf die Implementierung von KI im Gesundheitswesen haben: die Krankenversicherungen.
Das Verhältnis der Kassen zu KI in der Psychiatrie ist ambivalent — und diese Ambivalenz folgt einer klaren wirtschaftlichen Logik.
Das Interesse an Früherkennung ist echt. Psychische Erkrankungen, die früh erkannt und behandelt werden, verursachen langfristig geringere Kosten als Chronifizierungen, stationäre Langzeitaufenthalte oder Erwerbsminderungsrenten. Eine KI, die eine depressive Episode sechs Monate früher identifiziert als der Hausarzt, kann aus Kassenperspektive erhebliche Einsparungen bedeuten. Insofern gibt es ein genuines Interesse an diagnostischen KI-Tools — solange die Erkenntnisse in frühzeitige Behandlung münden.
Das Interesse an Kostensenkung durch Personalreduktion ist strukturell angelegt — und gefährlich. Wenn KI diagnostische Leistungen übernehmen kann, liegt die Frage nahe: Braucht man dann noch so viele Fachärzte, Psychotherapeuten, Pflegekräfte? Die Versuchung, KI als Hebel zu nutzen, um Stellenpläne auszudünnen und Personalkosten zu senken, ist für jede Organisation mit Kostendruck real. Kassen, die psychiatrische Behandlungsverträge mit Kliniken verhandeln, könnten argumentieren, dass KI-gestützte Kliniken mit weniger Fachpersonal auskommen — und entsprechend geringere Vergütungen ansetzen.
Das wäre eine katastrophale Fehlentwicklung. KI entlastet Personal, wenn es gut implementiert ist. Es ersetzt es nicht — zumindest nicht ohne massive Qualitätsverluste. Psychiatrie ist in ihrem Kern eine Beziehungsmedizin. Die therapeutische Allianz ist kein nice-to-have, sondern einer der am besten belegten Wirkfaktoren in der Psychotherapieforschung. Wer Stellen abbaut und das mit KI-Unterstützung rechtfertigt, spart am falschen Ende.
Das Interesse an Datenzugang ist heikel. Wenn KI-Systeme psychiatrische Verläufe analysieren, entstehen Daten, die für Versicherungen hochrelevant sind: Wer wird chronisch krank? Wer hat ein erhöhtes Rückfallrisiko? Wer wird voraussichtlich lange arbeitsunfähig sein? Solche Informationen dürfen nach geltendem Recht nicht zur Diskriminierung bei der Versicherungsaufnahme oder Prämiengestaltung genutzt werden. Doch die Trennung zwischen Behandlungsdaten und versicherungsrelevanten Daten ist in einer Welt vernetzter Systeme zunehmend porös. Die Frage, wem die durch KI generierten Erkenntnisse gehören und wer sie wie nutzen darf, ist rechtlich und ethisch noch nicht befriedigend gelöst.
Das Interesse an ambulanter statt stationärer Behandlung ist dagegen weitgehend positiv: Kassen bevorzugen ambulante Versorgung — sie ist günstiger und für viele Patienten klinisch mindestens gleichwertig. KI-gestützte Frühwarnsysteme, die stationäre Aufenthalte verhindern, indem sie Krisenfrühzeichen erkennen, liegen im Interesse beider Seiten — Kassen und Patienten. Das ist eine der wenigen Konstellationen, in denen wirtschaftliche und klinische Logik tatsächlich konvergieren.
Eine strukturelle Warnung: Überall dort, wo Krankenversicherungen direkt oder indirekt Einfluss auf die Auswahl und Ausgestaltung psychiatrischer KI-Systeme nehmen, besteht ein Interessenkonflikt, der transparent gemacht und regulatorisch eingehegt werden muss. Die Entscheidung darüber, welche KI-Systeme in der Psychiatrie eingesetzt werden, darf nicht primär von Kostenträgern getroffen werden — sie muss von klinischen, ethischen und patientenrechtlichen Kriterien geleitet sein.
XV. Kommerzialisierung und Interessenkonflikte: Wer verdient an der Diagnose?
Die meisten psychiatrischen KI-Systeme werden nicht von gemeinnützigen Forschungseinrichtungen entwickelt, sondern von privaten Unternehmen — Start-ups, Tech-Konzernen, Medizintechnikfirmen. Das ist kein Vorwurf. Es ist eine strukturelle Tatsache, die Konsequenzen hat.
Ein börsennotiertes Unternehmen, das eine psychiatrische Diagnose-KI verkauft, hat ein strukturelles Interesse daran, dass sein System möglichst häufig eingesetzt wird. Das schafft Anreize, die sich nicht immer mit klinischen Interessen decken: Systeme werden breiter vermarktet als ihre Evidenzbasis rechtfertigt. Ergebnisse werden positiver kommuniziert als die Studiendaten hergeben. Zulassungsprozesse werden als bürokratische Hürden wahrgenommen statt als notwendige Qualitätssicherung.
Es gibt auch ein subtileres Problem: Wer ein KI-System für Suizidprävention verkauft, hat ein Interesse daran, dass dieses System möglichst viele Risiken identifiziert — denn Nicht-Erkennung ist haftungsrelevant, Überdiagnose dagegen kaum. Das strukturelle Ergebnis: Systeme, die im Zweifelsfall zu viel Alarm schlagen, sind kommerziell attraktiver als solche, die kalibriert und differenziert urteilen.
Dieser Interessenkonflikt ist durch regulatorische Anforderungen allein nicht zu lösen. Er erfordert auch eine Kultur der kritischen Distanz auf Seiten der Anwender — und eine Wissenschaftslandschaft, die KI-Systeme unabhängig und ohne Industriebeteiligung evaluiert.
XVI. Entlastung der Berufsgruppen: Was wäre konkret möglich?
Die Psychiatrie und die Psychotherapie haben ein Burnout-Problem unter ihren eigenen Behandlern. Dokumentation, Qualitätssicherung, administrative Aufgaben fressen klinische Zeit. KI kann hier realistische Entlastung bieten — wenn man sie richtig einsetzt.
Für Psychiater bieten sich an: automatische Zusammenfassung von Krankenakten vor dem Erstgespräch, Dokumentationsunterstützung durch Spracherkennung und strukturierte Gesprächsauswertung, Medikationscheck auf Wechselwirkungen, Verlaufsmonitoring zwischen den Terminen.
Für Psychotherapeuten könnten KI-Systeme Hausaufgaben und Selbstbeobachtungsberichte der Patienten zwischen den Sitzungen auswerten, Stimmungsverläufe visualisieren und dem Therapeuten aufbereitete Informationen zur Verfügung stellen — ohne dass der Therapeut selbst Datenarbeit leisten muss.
Für Pflegende auf psychiatrischen Stationen könnte KI Risikoeinschätzungen kontinuierlich aktualisieren, sodass nicht jede Einschätzung auf einer Einzelbeobachtung beruht, sondern auf einem integrierten Bild.
Was dafür nötig ist: Interoperable Systeme, die tatsächlich mit bestehenden Krankenhausinformationssystemen sprechen können. Derzeit ist die IT-Landschaft in deutschen Kliniken fragmentiert bis chaotisch. Bevor KI entlasten kann, muss Infrastruktur geschaffen werden — das ist eine nüchterne, teure, politisch wenig glamouröse Voraussetzung. Und es muss eine klare politische Entscheidung geben: Entlastung durch KI bedeutet mehr Zeit für Patienten — nicht weniger Personal.
XVII. Die nächsten Schritte: Was verantwortungsvoller Einsatz bedeutet
Verantwortungsvoller KI-Einsatz in der Psychiatrie ist kein technisches Problem. Es ist ein Governance-Problem. Die nächsten Schritte sind:
Erstens: Klinische Evidenzpflicht vor dem Einsatz. Kein KI-System sollte in die psychiatrische Regelversorgung eingeführt werden, das nicht randomisiert-kontrolliert getestet wurde — an deutschen und europäischen Patientenpopulationen, nicht nur an US-amerikanischen oder asiatischen Datensätzen. Für die Kinder- und Jugendpsychiatrie gelten gesonderte Anforderungen.
Zweitens: Partizipative Entwicklung. Psychiatrieerfahrene Menschen müssen in die Entwicklung und Bewertung von KI-Systemen strukturell einbezogen werden — nicht als Testgruppe, sondern als Mitgestalter. Das ist kein Zugeständnis. Es ist epistemisch notwendig, weil das Insiderwissen Betroffener Fehler sichtbar macht, die kein Ingenieur sehen kann.
Drittens: Haftungsrahmen klären. Der Gesetzgeber muss definieren, was passiert, wenn KI-gestützte Entscheidungen zu Schaden führen — und insbesondere, wie Divergenzen zwischen ärztlichem Urteil und KI-Einschätzung rechtlich zu behandeln sind. Solange diese Frage ungeklärt ist, werden Kliniken KI defensiv einsetzen — oder gar nicht.
Viertens: Die Datendebatte führen. Die Gesellschaft muss entscheiden, wie sie mit dem Dilemma zwischen Datenschutz und Erkenntnisgewinn umgeht. Das erfordert einen öffentlichen Diskurs — informiert, nicht von Tech-Lobbyinteressen oder Kasseninteressen dominiert, und mit ehrlicher Darstellung der Zielkonflikte.
Fünftens: Qualifikation anpassen. Psychiater und Psychotherapeuten müssen lernen, KI-Ergebnisse kritisch zu lesen — ihre Stärken, ihre blinden Flecken, ihre Fehlerquellen. Das gehört in die Aus- und Weiterbildung, nicht als Randnotiz, sondern als Kernkompetenz.
Sechstens: Interessenkonflikte regulieren. Die Entwicklung, Zulassung und Evaluation psychiatrischer KI-Systeme muss von kommerziellen Interessen — ob von Tech-Unternehmen oder Krankenversicherungen — strukturell unabhängig sein. Unabhängige Bewertungsinstitutionen nach dem Vorbild des IQWiG sind notwendig.
Schluss: Menschlichkeit als Maßstab
Am Ende steht eine Frage, die keine KI beantworten kann und kein Gesetz erzwingen wird:
Was glauben wir, was ein Mensch in psychischer Not braucht?
Wenn die Antwort ist: primär korrekte Klassifikation seiner Symptome und effiziente Zuteilung zu Behandlungspfaden — dann ist KI die richtige Technologie.
Wenn die Antwort ist: Erfahren werden in seiner Einzigartigkeit, von einem anderen Menschen, der zuhört und versteht — dann ist KI ein Werkzeug, das an den Rand gehört, nicht in die Mitte.
Vermutlich braucht gute psychiatrische Versorgung beides. Aber die Reihenfolge der Prioritäten ist keine technische Frage. Sie ist eine Frage dessen, was wir füreinander zu leisten bereit sind.
KI in der Psychiatrie ist weder Teufelszeug noch Wundermittel. Sie ist ein Werkzeug — und wie jedes Werkzeug hängt ihr Nutzen davon ab, von wem, zu welchem Zweck und unter welchen Bedingungen sie eingesetzt wird. Die größte Gefahr liegt nicht im Werkzeug selbst, sondern in den Interessen, die bestimmen, wie es genutzt wird: Sparinteressen von Kliniken, Kosteninteressen von Versicherungen, Marktinteressen von Tech-Unternehmen. Diese Interessen werden immer nach Wegen suchen, KI zur Kostensenkung zu instrumentalisieren — auf Kosten von Patienten und Fachkräften gleichermaßen.
Die Gegenkraft dazu ist nicht Technologiefeindlichkeit. Sie ist demokratische Kontrolle, regulatorische Klarheit und eine Gesellschaft, die entschieden hat, was sie von ihrer Psychiatrie erwartet — und was sie ihr niemals überlassen wird.
Diese Frage ist zu wichtig, um sie Algorithmen zu überlassen. Oder Aktionären.
Dieser Artikel gibt eine ausgewogene kritische Einschätzung auf Basis des aktuellen Diskussionsstandes wieder. Er ersetzt keine juristische oder medizinische Fachberatung.