Zum Inhalt springen

Fehleranfällige KI Roaming-Rechnung wegen Chatbot-Fehler: Wer haftet?

3 GB Daten seien im Abo inklusive, schreibt der «Gomo»-Chatbot. Trotzdem erhält eine 14-Jährige eine Roaming-Rechnung.

Die Ausgangslage: Eine 14-Jährige fährt mit ihrer Klasse nach Frankreich für einen Sprachaufenthalt. Sie hat ein Handyabo der Salt-Tochter «Gomo». Ihr Vater will wissen, wie es dort mit der Nutzung der mobilen Daten aussieht. Und ob sie allenfalls noch ein Datenpaket kaufen müssen. Da ihm die Infos auf der «Gomo»-Webseite nicht weiterhelfen, erkundigt er sich über deren Chatkanal. Der hauseigene Chatbot schreibt: Ein Datenpaket von bis zu 3 Gigabyte sei im Abo eingeschlossen.

Das Problem: Es stellt sich nämlich heraus: Der Chatbot hat sich geirrt. Als die Tochter aus Frankreich zurückkehrt, flattert ihr eine Roaming-Rechnung über rund 44 Franken ins Haus. Und dies, obwohl sie eine deutlich kleinere Datenmenge als 3 GB verbraucht hatte. Es hätte bei diesem Abo also sehr wohl ein zusätzliches Datenpaket gebraucht. Dieses hätte er selbstverständlich auch gekauft, wenn er das gewusst hätte, sagt der Vater im SRF-Konsumentenmagazin «Espresso».

«Espresso» ist an Ihrer Meinung interessiert

Box aufklappen Box zuklappen

So reagiert «Gomo»: Beim nächsten Kontakt besteht der Kunde darauf, mit einem menschlichen Berater chatten zu dürfen. Ein solcher teilt ihm – einfach gesagt – mit, er hätte sich halt nicht mit einem Bot austauschen, sondern im Chat direkt einen Menschen verlangen sollen. Der Kunde findet, dass ihm die Telekomfirma unter diesen Umständen entgegenkommen sollte: «Sie hat ja schliesslich ihren Chatbot offenbar mit falschen Informationen gefüttert und müsste nun auch haften.»

Das Angebot: Die Salt-Tochter lässt sich nicht auf diese Diskussion ein und macht dem Kunden stattdessen ein Angebot: Wenn er ein teureres Abo löse – mit einer gewissen Datenmenge inklusive -, dann erlasse man ihm die Roaming-Gebühren. Das Abo kostet fünf Franken mehr pro Monat. Vater und Tochter gehen nicht darauf ein: «Wir brauchen das nicht.» Und weil er direkt mit der Anbieterin nicht weiterkommt, meldet sich der Vater bei SRF. Es gehe ihm dabei nicht um die rund 44 Franken, sondern um den Grundsatz, dass eine Firma für den Fehler des Chatbots haften müsse.

Die Kritik des Experten: «Ich bin der Meinung, dass ein Unternehmen für den Chatbot gradestehen müsste», sagt Martin Steiger, Experte für Recht im digitalen Raum. Diese Bots seien ja quasi auch Mitarbeitende dieser Firmen. Die Konsumentinnen und Konsumenten sollten ihrer Auskunft vertrauen können, so Steiger. Genauso wie bei einer Hotline mit Menschen. Der Experte hält deshalb die anfängliche Reaktion von «Gomo» oder die Haltung von Ricardo (siehe Kasten) für «äusserst fragwürdig». Er hofft nun, dass Unternehmen vermehrt auf kundenfreundliche Lösungen setzen. Und darauf, dass Bund und Parlament vorwärtsmachen bei der KI-Regulierung in der Schweiz.

Kein Einzelfall

Box aufklappen Box zuklappen

SRF will wissen, wie Salt bzw. «Gomo» generell mit diesem Problem umgeht. Die Medienstelle antwortet, das sei der erste Fall dieser Art. Das Problem ist aber auch schon bei anderen Firmen aufgetaucht. Etwa bei der Versteigerungsplattform Ricardo. Der «Beobachter» hat kürzlich über den Fall berichtet. Ein Kunde wollte vom hauseigenen Chatbot wissen, ob Gebühren anfallen, wenn er ein E-Bike gegen Barzahlung verkaufe. Der Bot verneinte.

Der Mann erhielt darauf eine 70-Franken-Gebührenrechnung. Ricardo hält trotz der Falschauskunft an der Forderung fest. In den Chatbot-Nutzungsrichtlinien werde darauf hingewiesen, dass die Antworten nicht immer vollständig seien. Und deshalb könne der Output des Chats auch nicht als verbindlich angesehen werden, wird eine Ricardo-Verantwortliche im «Beobachter» zitiert.

Die Reaktion auf die SRF-Anfrage: «Gomo» reagiert nicht. Dafür meldet sich schliesslich das Mutterhaus Salt. Dessen Medienstelle bestätigt den Fehler des Chatbots: «In diesem Fall kam es tatsächlich zu einer falschen Auskunft des Chatbots. Er hat zwei unterschiedliche Informationen im Produketbeschrieb miteinander vermischt bzw. verwechselt.» Dies sei ein Fehler einer früheren Version des Chatbots. Unterdessen habe man ihn «optimiert», dass das nun nicht mehr vorkommen sollte. Und Salt will dem Kunden entgegenkommen: Man zahle ihm die Roaming-Kosten selbstverständlich zurück.

Radio SRF 1, Espresso, 26.05.25, 8:10 Uhr

Meistgelesene Artikel