Chatbots: Wer muss zahlen, wenn der Bot Fehler macht?
Viele Unternehmen setzen beim Thema Kundenservice mittlerweile auf mehr oder weniger intelligente Chatbots, die mit den Kunden und Kundinnen kommunizieren und sie beraten. Und auch Kunden und Kundinnen haben laut Umfragen grösstenteils nichts dagegen, wenn ein Chatbot am anderen Ende sitzt – Hauptsache die Frage wird schnell beantwortet oder das Problem schnell und kompetent gelöst. Doch was, wenn der digitale Helfer Fehler macht, zum Beispiel falsche Ratschläge gibt oder gegen den Datenschutz verstösst? Wir klären alles rund um die Risiken und die Haftungsfrage bei Chatbots…
Was ist ein Chatbot?
Ein Chatbot ist ein Roboter, der Kommunikationsaufgaben übernimmt. Dabei handelt es sich um eine Software oder einen Dienst (oft in einer Cloud). Chatbots werden beispielsweise in Online-Shops oder in Support-Centern eingesetzt. Chatbots sind häufig mit künstlicher Intelligenz ausgestattet, durch die sie auf unterschiedliche Anfragen reagieren und sich selbständig durch die Möglichkeiten des „Machine Learning“ weiterentwickeln können. Hat der Kunde oder die Kundin eine Standardfrage, zum Beispiel zu Öffnungszeiten oder Lieferbedingungen, kann der Chatbot diese automatisiert beantworten und so die Supportmitarbeiter:innen entlasten.
Chancen von Chatbots im Video:
Chatbots – welche Risiken gibt es?
Der Einsatz von Chatbots hat viele Vorteile, es gibt aber auch Gefahren wie bei jeder neuen Technologie. Der Chatbot kann gegen Rechte verstossen oder Schäden anrichten. Zur Veranschaulichung ein paar denkbare Beispiele:
Verstoss gegen das Wettbewerbsrecht
Wer seine Kunden und Kundinnen nicht über den Einsatz von Chatbots aufklärt, kann schnell gegen das Wettbewerbsrecht verstossen. Wenn es um Informationspflichten gegenüber den Kunden und Kundinnen geht, sind die Regeln sehr schwammig formuliert – hier hinkt wie so oft die Gesetzgebung der Technik hinterher. Eine Täuschung liegt dann vor, wenn der Kunde oder die Kundin „erwartet“, dass er:sie von einem Menschen beraten wird, aber in Wirklichkeit mit einem Chatbot kommuniziert. Dann kann sogar eine strafbare Verbrauchertäuschung vorliegen. Doch was ist die „Erwartung“ des Kunden oder der Kundin? Das muss dann im Einzelfall mühsam vor Gericht geklärt werden. Um sich das zu ersparen, sollte jeder, der einen Chatbot einsetzt, dies dem Kunden oder der Kundin gegenüber offenlegen, um auf der sicheren Seite zu sein. Warum nicht den Chatbot sich selbst vorstellen lassen? Es ist ja schliesslich nichts Schlimmes dabei, einen Chatbot einzusetzen. Schliesslich zeigt es nur, dass das Unternehmen in Sachen Kundenservice mit der Zeit geht.
Beratungsfehler
Auch Chatbots machen Fehler. Sie können beispielsweise falsche Informationen weitergeben oder falsche Aussagen treffen, auf deren Grundlage der Kunde eine falsche Entscheidung trifft. Beispielsweise im Rahmen einer Supportanfrage. Dann kann bei Kunden und Kundinnen ein Schaden entstehen, für den das Unternehmen verantwortlich gemacht wird.
Datenschutzverstösse
Wenn ein Chatbot mit Kunden und Kundinnen kommuniziert, werden immer auch personenbezogen Daten verarbeitet und gespeichert. Hier gelten bezüglich der DSGVO die gleichen Datenschutzvorgaben wie für andere Systeme auch. Das heisst, Chatbots dürfen Kundendaten nur nach vorheriger Einwilligung und nur so lange speichern, wie er sie für einen bestimmten Zweck benötigt. Wenn der Chatbot gegen datenschutzrechtliche Anforderungen verstösst oder durch Angriffe von aussen oder Systemfehler Daten verloren gehen oder in falsche Hände gelangen, kann dies einen enormen Schaden verursachen. Das Risiko, dass Hacker:innen sich Zugriff zum System verschaffen und Daten erbeuten, ist bei Chatbots viel höher als in einem normalen Callcenter.
Sicherheitslücken
Hacker:innen können nicht nur Daten über den Chatbot erbeuten, sondern auch Sicherheitslücken nutzen, um Nutzer:innen dazu zu bringen, schädliche Links anzuklicken oder Schadsoftware einzuschleusen. Nicht nur bei Kunden und Kundinnen, sondern auch beim Unternehmen, das den Bot einsetzt, können so Schäden entstehen.
Chatbots – wer haftet für Schäden?
Grundsätzlich ist zu sagen, dass Chatbots durch das Wesen des „Machine Learning“ zur Künstlichen Intelligenz (KI) gehören und somit – auch wenn sie zum Teil schon sehr „autark“ agieren – keine eigene Rechtspersönlichkeit haben. Daher muss am Ende immer der Betreiber/Verwender der Chatsoftware als natürliche oder juristische Person für den Chatbot haften. Prinzipiell haften dann Unternehmen für ihre Chatbots wie sie auch für Aussagen ihrer Mitarbeiter:innen haften würden.
Darüber hinaus muss sichergestellt werden, dass die im Rahmen des Chats zur Verfügung gestellten Kundendaten vor dem unberechtigten Zugriff Dritter geschützt sind und dass alle Datenschutzverordnungen eingehalten werden. Ist das nicht der Fall, muss das Unternehmen die Verantwortung – sprich die Haftung – dafür übernehmen.
Denkbar ist jedoch auch, dass in manchen Fällen das Unternehmen den entstandenen Schaden wiederum von einer dritten Partei – von dem:der Programmierer:in des Chatbots – auf dem Regressweg (auch Innenregress genannt) einfordern kann. Dabei muss entschieden werden, ob der Fehler oder Datenschutzverstoss auf Grund eines Programmierfehlers entstanden ist oder es an den „eingespeisten“ Inhalten bzw. Datenbeständen lag. Kurz gesagt: Liegt der Fehler im System oder wurde es falsch trainiert? Im Fall einer Sicherheitslücke muss ebenfalls geprüft werden, ob diese auf Grund eines Fehlers des ITlers oder der ITlerin entstanden ist. Das muss jedoch im Einzelfall entschieden werden und kann langwierige Rechtstreite nach sich ziehen.
Auch mit Chatbot richtig abgesichert
Wer einen Chatbot beispielsweise im Kundenservice eines Webshops oder Internetportals einsetzt, hat neben den Vorteilen also auch viele Risiken, denen er sich aussetzt. Deshalb ist es wichtig, auf eine zeitgemässe Absicherung zu setzen. Die Berufshaftpflichtversicherungen über exali.ch schützen Sie bei Abmahnungen auf Grund von Rechtsverstössen, zum Beispiel gegen das Wettbewerbsrecht oder Datenschutzgesetze (DSGVO), auch wenn sie durch oder mit einem Chatbot verursacht wurden. In diesen Fällen prüft der Versicherer auf eigene Kosten die schwierige Frage, ob die Forderung berechtigt ist, und übernimmt eine entsprechende Schadenersatzzahlung.
Wenn Sie als Programmierer:in Chatbot-Systeme programmieren, können Ihnen dabei Fehler passieren, die dafür sorgen, dass der Chatbots bei Ihrem Kunden oder Ihrer Kundin nicht richtig funktioniert oder es Sicherheitslücken gibt. Wenn der Kunde oder die Kundin eine eventuelle Schadenersatzforderung von Ihnen zurückverlangt, ist auch hier eine passende Berufshaftpflicht an Ihrer Seite. Die IT-Haftpflicht über exali.ch hilft bei der Klärung der Haftungsfrage und zahlt berechtigten Schadenersatz.