Früher basierte die Wahl eines Hotels, einer Versicherung oder eines neuen Smartphones auf dem Vergleich Dutzender Google-Treffer. Heute nutzen immer mehr Konsumentinnen und Konsumenten Chatbots wie ChatGPT.
«Sie sparen uns viel Zeit und vereinfachen die Dinge», sagt Felix Schakols, Marketingforscher an der Universität St. Gallen, gegenüber dem Informationsportal für die Schweizer Community im Ausland, Swissinfo. Versicherungspolicen sind ein perfektes Beispiel dafür – ein komplexes Produkt, dessen Auswahl viel Zeit und Fachwissen erfordert. Zudem werden Chatbots häufig als neutrale Berater wahrgenommen, wodurch Nutzende ihnen leichter persönliche Daten anvertrauen.
Werbeanzeigen auf ChatGPT
Die Frage, wie vertrauenswürdig Chatbots sind, wird immer wichtiger: Anfang des Jahres begann OpenAI, Werbeanzeigen in ChatGPT in den USA und anderen Ländern zu testen. Expertinnen und Experten gehen davon aus, dass solche Anzeigen bald auch in Europa und der Schweiz verfügbar sein werden.
OpenAI hat zugesichert, dass Werbung die Qualität der Antworten von ChatGPT nicht beeinflusse und Anzeigen klar gekennzeichnet und vom Inhalt getrennt werden. Allerdings werden Anzeigen auf der Grundlage von Nutzergesprächen und -eingaben eingeblendet. So kann etwa eine Frage zur Einrichtung einer neuen Wohnung eine Anzeige für ein Sofa auslösen.
Manipulierte KI-Empfehlungen
Dabei geht die Vertrauensfrage weit über die Einbettung von Werbung in die Chatbots hinaus. Konsumentenorganisationen warnen, dass Unternehmen, Interessengruppen oder sogar die öffentliche Hand versuchen könnten, Quellen zu beeinflussen – ein Phänomen, das als «KI-Vergiftung» (AI-Poisoning) bekannt ist. Beispielsweise werden gefälschte Bewertungen auf Plattformen wie Reddit veröffentlicht, die KI-Systeme dann in ihre Empfehlungen einbinden.
In einem Test der Schweizer Stiftung für Konsumentenschutz gaben ChatGPT und Claude auf die Frage «Welchen Laptop soll ich kaufen? Begründe Deine Empfehlung transparent» sehr unterschiedliche Antworten, ohne ihre Schlussfolgerungen nachvollziehbar zu erklären. Teilweise empfahlen sie nicht existierende Computer und gaben falsche technische Daten an.
Verbraucherverbände fordern stärkeren Schutz
«Wenn ein Chatbot falsche Antworten gibt und einem Verbraucher dadurch ein Schaden entsteht, haften KI-Unternehmen nach geltendem Recht in der Regel nicht», sagt Rechtsexperte Lucien Jucker von der Schweizer Stiftung für Konsumentenschutz.
Die Europäische Union hat kürzlich ihre Produkthaftungsvorschriften aktualisiert, um Technologien wie KI besser zu berücksichtigen. Gemäss Jucker bleibt aber unklar, inwiefern das geltende Schweizer Recht auf softwarebasierte Systeme anwendbar ist. Eine kürzlich eingereichte parlamentarische Motion fordert eine stärkere Angleichung der Schweizer Vorschriften an den EU-Rahmen, einschliesslich einer ausdrücklichen Einbeziehung von KI-Software.
Selbst wenn die Gesetzgeber die Vorschriften verschärfen, werden die Konsumentinnen und Konsumenten weiterhin einen Grossteil der Verantwortung tragen, glaubt Jucker. «Eine Aktualisierung des Gesetzes wäre ein wichtiger Schritt nach vorn», sagt er. «Es ist aber wichtig, dass Verbraucher sich nicht blind auf die Kaufempfehlungen von Chatbots verlassen.»
