Klinik haftet für Falschaussagen eines KI-Chatbots – rechtliche Einordnung

Der Einsatz von Künstlicher Intelligenz nimmt auch im Gesundheitswesen zunehmend zu. Viele Kliniken und medizinische Einrichtungen nutzen heute bereits digitale Systeme, um Patientinnen und Patienten Informationen bereitzustellen, Abläufe zu automatisieren oder erste Anfragen zu beantworten. Dazu zählen insbesondere KI-gestützte Chatbots, die auf Websites oder in Patientenportalen eingesetzt werden.

Ziel dieser Systeme ist es, den administrativen Aufwand zu reduzieren und gleichzeitig eine schnelle, niedrigschwellige Kommunikation zu ermöglichen. Patientinnen und Patienten können so rund um die Uhr Informationen abrufen oder erste Orientierung zu Behandlungsangeboten erhalten.

Mit dieser Entwicklung gehen jedoch auch neue rechtliche Fragestellungen einher. Denn sobald KI-Systeme medizin- oder gesundheitsbezogene Informationen ausgeben, stellt sich die Frage, wie verlässlich diese Angaben sind und wer im Zweifel für fehlerhafte Inhalte verantwortlich ist.

KI-Chatbots arbeiten auf Basis von Datenmodellen und automatisierten Antwortsystemen. Dabei kann es im Einzelfall vorkommen, dass Inhalte falsch interpretiert oder unzutreffend wiedergegeben werden. Gerade im medizinischen Kontext kann dies besonders kritisch sein, wenn sich Patientinnen und Patienten auf solche Informationen verlassen.

Typische Fehlerquellen sind etwa ungenaue oder veraltete Daten, missverständliche Formulierungen oder die Übertragung von Informationen ohne ausreichende fachliche Prüfung. Auch scheinbar eindeutige Fragen können von KI-Systemen fehlerhaft beantwortet werden, wenn der zugrunde liegende Kontext nicht korrekt erfasst wird.

Problematisch wird dies insbesondere dann, wenn Chatbots Aussagen zu medizinischen Qualifikationen, Behandlungen oder Abläufen treffen. Denn solche Informationen können die Entscheidung von Patientinnen und Patienten unmittelbar beeinflussen und im Zweifel zu Fehlvorstellungen führen.

Aus rechtlicher Sicht stellt sich bei fehlerhaften Aussagen von KI-Chatbots vor allem die Frage, wem die Inhalte zuzurechnen sind. Nach der aktuellen Rechtsprechung werden KI-generierte Antworten grundsätzlich nicht als eigenständige „Drittäußerungen“ behandelt, sondern dem Betreiber der jeweiligen Einrichtung zugerechnet.

Das bedeutet: Setzt eine Klinik einen Chatbot ein, der Informationen auf ihrer Website bereitstellt, gelten diese Aussagen rechtlich als Teil der Außendarstellung der Klinik selbst. Fehlerhafte oder irreführende Inhalte können daher eine Verantwortung des Betreibers begründen, auch wenn sie automatisiert erzeugt wurden.

Maßgeblich ist dabei, dass die Klinik den Chatbot bewusst in ihre Kommunikationsstruktur integriert und damit auch die Kontrolle über dessen Einsatz übernimmt. Eine Haftungsfreistellung allein aufgrund der technischen Automatisierung kommt nach dieser Bewertung nicht in Betracht.

Damit wird deutlich, dass der Einsatz von KI-Systemen im Gesundheitswesen nicht zu einer Verschiebung der rechtlichen Verantwortung führt, sondern die bestehenden Grundsätze der Betreiberhaftung weiterhin gelten.

Die zentrale rechtliche Frage im Zusammenhang mit KI-Chatbots ist die Abgrenzung zwischen dem technischen System selbst und dem verantwortlichen Betreiber, also der Klinik oder medizinischen Einrichtung. Nach der rechtlichen Einordnung bleibt der Chatbot dabei stets ein Hilfsmittel innerhalb der Organisationsstruktur des Betreibers.

Das bedeutet: Auch wenn die konkrete Antwort automatisiert durch eine KI erzeugt wird, wird sie rechtlich nicht als „eigene Entscheidung“ des Systems behandelt. Entscheidend ist vielmehr, dass die Einrichtung den Chatbot bewusst einsetzt und dessen Inhalte im Außenverhältnis nutzt.

Daraus folgt eine klare Verantwortungszuordnung: Der Betreiber trägt die Verantwortung für die Richtigkeit der bereitgestellten Informationen und muss sicherstellen, dass keine irreführenden oder falschen Angaben veröffentlicht werden. Technische Automatisierung entbindet nicht von dieser Pflicht.

Für die Praxis ergibt sich daraus, dass KI-Systeme regelmäßig überprüft, inhaltlich kontrolliert und in bestehende Qualitäts- und Compliance-Strukturen eingebunden werden müssen. Andernfalls können fehlerhafte Auskünfte rechtliche Konsequenzen nach sich ziehen.