KI und Kontrolle - Datenschützer warnt vor Überwachung mit Künstlicher Intelligenz

Datenschützer Adrian Lobsiger setzt sich mit den Gefahren der Künstlichen Intelligenz auseinander – und wünscht sich eine Grundsatzdiskussion.

Technologieverbote sind für eine liberale, technologieoffene Gesellschaft drastische Eingriffe. Trotzdem glaubt Datenschützer Adrian Lobsiger, dass die Politik bei der künstlichen Intelligenz (KI) gewisse rote Linien ziehen muss.

Allem voran das Thema automatische Gesichtserkennung werde sich in der öffentlichen Diskussion akzentuieren, sagt Lobsiger und ist überzeugt, dass hier niemand Zustände wie in China will, wo Sensoren und Kameras im öffentlichen Raum mittels künstlicher Intelligenz jede Bewegung überwachen.

Datenschützer Adrian Lobsiger: «Wenn die Bevölkerung weiss, dass überall Sensoren sind, kann das dazu führen, dass sie sich nicht mehr sicher fühlt. Denn sie kann nicht durchschauen, wie die Sensoren arbeiten und ob sie für, gegen oder mit der Bevölkerung sind.»

Keystone/Peter Schneider

Lobsiger fordert deshalb, dass der Bund aktiv wird, um zu verhindern, dass Gemeinden zum Beispiel nicht doch den öffentlichen Raum mittels Gesichtserkennung überwachen. «Es ist natürlich nicht auszuschliessen, dass das eine oder andere Gemeinwesen versucht sein könnte, auf seinem Territorium solche Einbrüche in die Bewegungsfreiheit einzuführen.»

Chat-Kontrolle zur Verbrecherjagd

Eine zweite explizite rote Linie würde Lobsiger bei der Überwachung von Chat-Verläufen ziehen. Hier muss der Datenschützer nicht bis China schauen, um auf heikle Entwicklungen hinzuweisen, sondern es reicht der Blick nach Brüssel. So diskutiert die EU aktuell, ob Telekom-Anbieter Chat-Verläufe mittels künstlicher Intelligenz überwachen sollen, um Verbrechen vorzubeugen.

Mit einer solchen Chat-Kontrolle würde die Telekom-Branche laut Lobsiger praktisch zu einer Erfüllungsgehilfin der Strafverfolgung – indem sie die Chats und Fotos auf den Smartphones mit KI flächendeckend untersucht.

Falls die EU eine solche Regelung erlässt, wächst der Druck. Die Schweiz sollte sich schon vorher darauf einigen, hier nicht mitzumachen.

Adrian Lobsiger Datenschützer

Dies sei ein zu drastischer Eingriff in den Persönlichkeitsschutz, warnt Lobsiger und weist darauf hin, dass die Diskussion in der EU Konsequenzen für die Schweiz haben wird.

Je nach Entscheid der EU werde der Druck auf die Schweiz zunehmen. Deshalb sollte sich die Schweiz schon vorher darauf einigen, hier nicht mitzumachen.

Wer spricht denn da?

Neben diesen grundsätzlichen Verboten stellen sich bei der künstlichen Intelligenz aber noch viel niederschwelligere Fragen, die mehr den konkreten Alltag vor dem Computer betreffen: «Der Hype bei der KI hängt damit zusammen, dass die Programme sprechen, chatten und kommunizieren. Entsprechend müsste der Mensch wissen, ober mit einem anderen Menschen, mit KI oder mit einer Mischform kommuniziert.»

Auch die Anbieter von künstlicher Intelligenz müssen die grundsätzlichen Datenschutzbestimmungen einhalten. Dazu gehören Transparenzregeln. Zugleich muss sichergestellt sein, dass KI die eingegeben Daten nicht einfach weitergibt.

Schwierige Kontrolle

Um das zu kontrollieren, diskutiert die EU eine Überwachungsbehörde. Auch das dürfte in der Schweiz ein Thema werden. Doch Lobsiger gibt zu bedenken: «Im jetzigen Zeitpunkt wäre es wohl sehr schwierig, das richtige Personal auf dem Markt zu rekrutieren, wenn ich die KI-Applikationen und die dazugehörigen Angaben der Hersteller flächendeckend überprüfen und genehmigen müsste.»

Eines erscheint nach den Ausführungen des Datenschützers offensichtlich: Die Schweiz ist noch nicht wirklich vorbereitet auf die künstliche Intelligenz. Sie muss noch zahlreiche grundsätzlichen Fragen diskutieren und beantworten.