Der Fall
Die Beklagte, ein Unternehmen aus dem Bereich der ästhetischen Medizin, setzte auf seiner Website einen KI-Chatbot ein, über den Interessierte Termine buchen und Fragen stellen konnten. Auf Nachfrage bezeichnete der Chatbot die beiden Geschäftsführer der Beklagten unter anderem als „Fachärzte für plastische und ästhetische Chirurgie“, „Fachärzte für ästhetische Medizin“ und „Fachärzte für ästhetische Behandlungen“. Tatsächlich verfügten die Ärzte nicht über die entsprechenden Facharztanerkennungen; teilweise existieren die genannten Facharztbezeichnungen in Deutschland überhaupt nicht. Nachdem die Verbraucherzentrale NRW die Beklagte abgemahnt hatte, wurde der Chatbot zunächst deaktiviert. Anschließend implementierte die Beklagte eine Prompt Anweisung zur neutralen Antwort bei Fragen mit dem Begriff „Facharzt“ sowie einen nachgelagerten Keyword-Filter. Eine Unterlassungserklärung gab die Beklagte nicht ab. Daraufhin erhob die Verbraucherzentrale Klage auf Unterlassung der Bezeichnung als Fachärzte bei fehlender Facharztanerkennung und die Anordnung eines Ordnungsgeldes bei Zuwiderhandlung.
Die Entscheidung
Das OLG Hamm gab der Klage statt. Die Aussagen des Chatbots seien unlautere geschäftliche Handlungen nach dem UWG, da sie Verbraucher über die beruflichen Qualifikationen der behandelnden Ärzte irreführen und dadurch zu Entscheidungen bewegen könnten, die diese sonst nicht getroffen hätten. Maßgeblich sei, dass die Qualifikation von Ärzten für die Behandlungsentscheidung regelmäßig von erheblicher Bedeutung sei. Die unzutreffenden Angaben des Chatbots seien der Beklagten unmittelbar zuzurechnen. Aufgrund der Möglichkeit der nachträglichen Umprogrammierung des Chatbots sah es das Gericht als erwiesen an, dass die Beklagte entscheidenden Einfluss auf die Antworten des Chatbots nehmen konnte. Der Chatbot sei ein technisches Mittel, dessen sich die Beklagte bei der Kommunikation mit Patienten bediene und das sie hinreichend steuern könne. Der Chatbot sei kein „Dritter“, auf dessen Verhalten sich das Unternehmen berufen könne. Dies gelte selbst dann, wenn der Chatbot ursprünglich mit zutreffenden Informationen trainiert oder programmiert worden sei. Wer einen KI-Chatbot als Kommunikations- und Werbeinstrument einsetze, trage das Risiko fehlerhafter oder „halluzinierter“ Antworten. Das OLG hatte die Grundsätze der Störerhaftung nach § 1004 BGB für den Fall als nicht einschlägig angesehen. Dennoch führte es aus, dass auch bei ihrer Anwendung die Beklagte verantwortlich wäre, weil sie den Chatbot kontrolliere und die Rechtsverletzung bei entsprechender Anwendung der Prüfungs- und Sicherungspflichten verhindern konnte.
Wegen der grundsätzlichen Bedeutung der aufgeworfenen Rechtsfragen hat das OLG die Revision zum Bundesgerichtshof zugelassen.
Praxis-Hinweis
Werden Chatbots im Kundenkontakt eingesetzt, müssen ihre Ausgaben regelmäßig überwacht und kontrolliert werden. Unternehmen können sich nicht damit entlasten, dass fehlerhafte Aussagen von einer KI generiert wurden. Die Verantwortung für irreführende oder rechtswidrige Aussagen verbleibt grundsätzlich beim Unternehmen. Insbesondere bei Aussagen zu Qualifikationen, Produkten, Preisen oder rechtlich relevanten Eigenschaften empfiehlt sich eine regelmäßige Überprüfung der Antworten sowie die Implementierung geeigneter Kontrollmechanismen. Das Urteil verdeutlicht, dass Fehler einer KI schnell zu wettbewerbsrechtlichen Unterlassungsansprüchen führen können.
