Dermatologie » Allgemeine Dermatologie » Digitale Dermatologie

»

Halluzinierender KI-Chatbot als Haftungsfalle?

© Chaosamran_Studio – stock.adobe.com

Quelle: © Chaosamran_Studio – stock.adobe.com

Halluzinierender KI-Chatbot als Haftungsfalle?

Fachbeitrag

Dermatologie

Allgemeine Dermatologie

Digitale Dermatologie

mgb medizin Redaktion

Verlag

5 MIN

Erschienen in: DermaForum

Arztpraxen sind überlastet. Die Terminvereinbarung gestaltet sich oftmals als sehr schwierig – für Patientinnen und Patienten sowie Mitarbeitende der Praxis. Damit Mitarbeitende nicht den gesamten Arbeitstag mit Telefonaten verbringen und Anrufende nicht stundenlang in Warteschleifen hängen, scheint die Verwendung von digitalen Hilfsmitteln wie Chatbot in der sich immer stärker automatisierenden Welt nur der logische nächste Schritt zu sein. Was aber bedeutet das rechtlich?

Diese KI-Chatbots fragen gewisse Parameter bei den Patientinnen und Patienten ab, steuern die Terminvergabe und können – in beschränktem Umfang – Auskunft geben. Genau hierin liegt aber die Gefahr. Mittlerweile dürfte bekannt sein, dass Chatbots auch Informationen erfinden oder falsch kombinieren. Das Ergebnis ist in jedem Fall nicht immer zutreffend. Dies wurde auch einem aus TV und Social Media bekannten männlichen Ärzteduo mit seiner dahinterstehenden Schönheitsklinik zum Verhängnis. Das Oberlandesgericht Hamm urteilte hierzu in einer medienwirksamen und für die Rechtspraxis bedeutenden Angelegenheit (vgl. OLG Hamm, U. v. 12.05.2026, Az. 4 UKl 3/25).

Der Fall

Was ist geschehen? Die Schönheitsklinik, deren geschäftsführende Gesellschafter die beiden Ärzte waren, bot auf ihrer Homepage einen KI-Assistenten an. Ein Patient befragte diesen Chatbot zu verschiedenen Themen. Die beiden Ärzte wurden im Laufe der „Konversation“ als „Fachärzte für plastische und ästhetische Chirurgie“ bzw. „Fachärzte für ästhetische Medizin“ und „Fachärzte für ästhetische Behandlungen“ bezeichnet.

Hiervon erlangte die Verbraucherzentrale Nordrhein-Westfalen Kenntnis und monierte, dass diese Facharztbezeichnung nach ärztlichem Weiterbildungsrecht gar nicht existiere und somit irreführend sei. Hierauf wurde die Chatbot-Funktion auf der Praxishomepage deaktiviert. Die Verbraucherzentrale forderte die beiden Ärzte und Geschäftsführer jedoch zusätzlich auf, eine strafbewehrte Unterlassungserklärung zu unterzeichnen, was diese aber verweigerten. Der Fall landete anschließend bei dem Oberlandesgericht Hamm.

Die Entscheidung

Der Entscheidung liegt eine wettbewerbsrechtliche Fragestellung zugrunde, insbesondere, ob die Verwendung des KI-Chatbots eine irreführende geschäftliche Handlung nach dem Gesetz gegen den unlauteren Wettbewerb darstellt.

Im Kern geht es darum, ob die „Aussagen“ des Chatbots der Gesellschaft und damit den ärztlichen Geschäftsführern zugerechnet werden müssen. Diese beteuerten nämlich, sie hätten die KI stets mit korrekten Daten gefüttert und somit keine Grundlage für die falschen Aussagen geschaffen.

Nach Auffassung des OLG Hamm war die Abmahnung der Verbraucherzentrale allerdings durchaus gerechtfertigt: Das UWG schränkt auch das ärztliche Werberecht ein und verbietet auch dort irreführende Angaben über berufliche Qualifikationen oder Zulassungen. Hintergrund ist, dass Verbraucher sich bei ihrer Entscheidung für eine Behandlung beeinflussen lassen oder sich daran orientieren.

Maßgeblich sei hier die Erwartung des durchschnittlich informierten Verbrauchers, der unter der Bezeichnung „Facharzt“ einen Arzt verstehe, der eine staatlich beziehungsweise berufsrechtlich anerkannte Weiterbildung mit entsprechender Prüfung absolviert habe. Die durch den Chatbot erzeugten Aussagen seien geeignet, bei Patientinnen und Patienten Fehlvorstellungen über die Qualifikation der behandelnden Ärzte hervorzurufen und damit ihre geschäftliche Entscheidung zu beeinflussen.

Das Gericht knüpfte hierbei an die gefestigte Rechtsprechung zur Irreführung durch Facharztbezeichnungen an. Hierbei spiele es auch keine Rolle, ob ein Chatbot eingesetzt wird. Der Senat ging davon aus, dass der Einsatz von KI an der Verantwortung des Unternehmens grundsätzlich nichts ändere, wenn sie in dessen Sphäre betrieben wird. Sie ist Teil der geschäftlichen Organisation des Unternehmens. Der Betreiber einer Website, der ein KI-System gezielt zur Kommunikation mit Kunden einsetze und daraus wirtschaftliche Vorteile ziehe, trage auch das Risiko fehlerhafter oder irreführender Auskünfte. Die Angaben des Chatbots seien somit als unzulässige geschäftliche Handlungen des Unternehmens anzusehen und diesem zuzurechnen.

Wie geht es nun weiter?

Das Urteil ist nicht rechtskräftig. Das OLG Hamm ließ die Revision zum Bundesgerichtshof wegen grundsätzlicher Bedeutung der Rechtssache zu.

In der medizinrechtlichen Praxis erwartet man die höchstrichterliche Entscheidung mit Spannung, da diese für die Zukunft wegweisende Auswirkungen im Hinblick auf den Einsatz künstlicher Intelligenz im ärztlichen Praxisalltag haben wird. Arztpraxen werden im Hinblick auf ärztliches Werberecht und ihren Außenauftritt künftig auch KI-generierte Unterstützung genauestens im Auge behalten müssen. Der Fall zeigt bereits jetzt, dass sich hier ein schwer kontrollierbares Haftungsfeld öffnet, was vermutlich kaum in dieser Tiefe beeinflussbar sein wird.

Der Merksatz der Entscheidung könnte lauten:

Wer sich den Output der KI zu eigen macht, haftet.


§ 5 Absatz 1 UWG

Das Gesetz gegen den unlaute­ren Wettbewerb (UWG) schützt Patientinnen und Patienten vor irreführenden geschäftlichen Handlungen. Nach dieser Vorschrift ist eine geschäftliche Handlung unlauter, wenn sie unwahre Angaben ent­hält und Verbraucher dadurch zu einer Handlung verleitet, die sie bei korrekter Informations­lage so nicht getroffen hätten.

Im ärztlichen Kontext erlangt die Regelung insbesondere dort Relevanz, wo potenzielle Patientinnen und Patienten durch unwahre Angaben verleitet werden, gerade eine bestimmte Praxis aufzusuchen. Die unlautere geschäftliche Handlung muss also dazu beigetragen haben, den Entscheidungsprozess zu beeinflussen. Dabei ist das genutzte Medium unerheblich.

Korrespondenzadresse

Prof. Dr. Iris Felicitas Koller

Website: https://wiesener-koller.com 

Autorenbild Koller
Prof. Dr. Iris Felicitas Koller
© privat

Weitere Beiträge zu diesem Thema

© My Ocean studio – stock.adobe.com

Disease Modification durch OX40L-Inhibition eine Option bei AD?

Aus der Industrie

Zukünftig könnten Patient:innen mit mittelschwerer bis schwerer Atopischer Dermatitis (AD) von einem frühzeitigen Eingriff in die pathologisch veränderte Immunkaskade profitieren.

Dermatologie

Entzündliche Dermatosen

Weitere chronisch-entzündliche Dermatosen

Beitrag lesen
© metamorworks– stock.adobe.com

DERM Alpin: Der Countdown läuft

Kongress

Während die Vorbereitungen für die DERM Alpin laufen, rückt der kollegiale Austausch in den Vordergrund. Nicht nur an den Ständen und zwischen den Vorträgen steht das Netzwerken im Mittelpunkt, es winkt auch ein besonderes Ambiente für den Gesellschaftsabend.

Dermatologie

Allgemeine Dermatologie

Preise, Auszeichnungen und Politik

Beitrag lesen
© Thitiporn – stock.adobe.com

Fortbildung: 16. GfB-Online-Symposium 2026

Aktuelles

Am 14. November 2026 veranstaltet die Gesellschaft für Biofaktoren e. V. das diesjährige Online-Symposium für Fachkreise zum Thema: Mangel im Überfluss ‒ Biofaktorenmangel trotz Überernährung. Die Teilnahme ist kostenfrei, die Veranstaltung ist mit 4 Punkten zertifiziert.

Dermatologie

Allgemeine Dermatologie

Versorgung, Forschung und Leitlinien

Beitrag lesen