«Predictive Policing» - Polizei-Software verdächtigt zwei von drei Personen falsch

Schweizer Polizeikorps setzen einen Algorithmus ein, der die Gefährlichkeit von Einzelpersonen stark überschätzt.

Das Wichtigste in Kürze

• Immer mehr Schweizer Polizeikorps setzen auf die Früherkennung von Gewaltverbrechen und registrieren «Gefährder» in polizeilichen Datenbanken. Darin befinden sich mittlerweile mehr als 3000 Personen .
• Deren Gefährlichkeit wird unter anderem mit einem computergestützten Prognoseinstrument eingeschätzt. Dieses neigt jedoch stark zur Überschätzung, wie eine Recherche von SRF zeigt.
• Verschiedene Strafverteidiger und Rechtsexperten kritisieren die aktuelle Entwicklung zur präventiven, computergestützten Polizeiarbeit.

Die neue Ära der Schweizer Polizeiarbeit begann mit einer regelrechten Hinrichtung. Im Sommer 2011 erschoss ein 59-jähriger Kosovare in Pfäffikon ZH zuerst seine Frau, dann die Leiterin des örtlichen Sozialamts. Der Täter war zuvor mit einem Kontaktverbot belegt worden – vergebens.

Der Fall ist Symptom einer traurigen Realität: Rund die Hälfte aller Tötungsdelikte werden im familiären Umfeld begangen, immer wieder erschüttern schwere Gewalttaten die Öffentlichkeit. Und oft waren die Täter bereits polizeilich bekannt, wären Warnsignale eigentlich vorhanden gewesen.

Was auf die Tat folgte, ist ebenfalls symptomatisch: Der mediale Zerriss und die Rechtfertigung seitens der Behörden. In derselben Woche noch titelte der «Blick» zugespitzt: «Behörden schieben sich gegenseitig die Schuld zu.» Die eifrigen Kommentarschreiber forderten einmal mehr die Abschaffung der «Kuscheljustiz». Wenig später hiess es im «Zürcher Oberländer», interne Abklärungen bei Staatsanwaltschaft und Zürcher Kantonspolizei seien bereits im Gang.

Die Antwort auf Fälle, die nicht hätten passieren dürfen

Fast sieben Jahre später ist das Nachhallen jener Abklärungen unüberhörbar. Als Antwort auf Pfäffikon hat der Kanton Zürich ein sogenanntes Bedrohungsmanagement aufgebaut. Er ist – zusammen mit dem Kanton Solothurn – Pionier auf dem Gebiet. Allein in den letzten drei Jahren folgten elf weitere Kantone. Dies geht aus einem bundesrätlichen Bericht vom letzten Oktober hervor.

Die Polizeien und deren politische Vorgesetzte wollen sich offenbar nicht länger anhören, dass sie zu wenig getan hätten – der Trend zu mehr präventiv ausgerichteter Polizeiarbeit nahm Fahrt auf.

Exemplarisch bei der Stadtpolizei Winterthur, wo Adjutant Oliver Wälchli die eigens dafür geschaffene Fachstelle leitet. Er macht nicht den typischen Anschein eines Polizisten – was nicht nur daran liegt, dass er keine Uniform trägt. Vielmehr wirkt er wie ein Sozialarbeiter, der vor allem eines macht: Reden. Und zwar mit sogenannten «Gefährdern». Aber der Reihe nach.

Reden, um eine Tat zu verhindern

Für Wälchli ist klar: Pfäffikon war das Schlüsselereignis, das die Behörden in Zürich zum Umdenken brachte. Heute gibt es im Kanton ein Netz von über 400 Ansprechpersonen bei Gemeinden, Ämtern, der KESB und weiteren Stellen. Diese melden Wälchli und seinen Kollegen die mutmasslichen Gefährder.

Das sind Personen, die zwar nicht verdächtigt werden, etwas getan zu haben – von denen aber «Warnsignale» ausgehen, dass sie etwas tun könnten. Beispielsweise die Ehefrau umbringen. Ein Warnsignal dafür könnte sein, dass sich der Mann immer wieder unbefugt Zutritt zur Wohnung der Frau verschafft oder diffuse Drohungen äussert.

Solche Leute will Wälchli genau kennen, damit er das Risiko für eine womöglich geplante Tat einschätzen – und diese verhindern kann. Sein wichtigstes Mittel dafür ist die «Gefährderansprache». Ein weiterer Begriff, der sich in der Polizeiarbeit aktuell wie ein Lauffeuer verbreitet.

Wälchli will vom Gefährder – fast immer ein Mann – wissen, wie dieser die Situation schildert und über welche «Ressourcen und Problemfelder» er verfügt: wie die momentane Arbeitssituation aussieht, ob Drogen konsumiert werden, ob beabsichtigt werde, die getrennt lebende Ehefrau erneut aufzusuchen. «Das ist der eigentliche Kern des Bedrohungsmanagements: versuchen, auf diese Faktoren Einfluss zu nehmen.»

Strafverteidiger: «Die Polizei wird ihre Machtposition benutzen»

An der Gefährderansprache gibt es auch Kritik. Gegenüber SRF bemängeln verschiedene Rechtsanwälte, dass sich die neue Praxis mehrheitlich ausserhalb des Strafrechts abspielt. Die Gefährder müssten ohne Verteidigung und ohne Kenntnis der strafprozessualen Rechte – zum Beispiel dem Schweigerecht – auskommen. Gegen sie laufe ja kein strafrechtliches Verfahren.

So meint zum Beispiel der Basler Strafverteidiger Alain Joset: «Die Polizei wird ihre Machtposition insofern benutzen, als betroffene Personen in ungezwungenem Austausch und ohne Anwalt dazu animiert werden, mitzuwirken und sich damit selbst zu belasten.» Es sei davon auszugehen, dass diese Abklärungen in späteren Strafverfahren gegen die Beschuldigten verwendet würden.

«Normalerweise erfährt der Betroffene gar nicht, dass er im Visier ist», fügt der Zürcher Rechtsanwalt Matthias Brunner hinzu. Eine Pflicht zur Offenlegung des angelegten Dossiers seitens der Polizei gebe es nicht, erst recht keine Belehrung über Beschwerderechte. «Der Betroffene hat schon ein Grundrecht auf Akteneinsicht, aber um mehr zu erfahren, braucht er viel Hartnäckigkeit.»

Brunner kritisiert den «geheimen» Charakter des Bedrohungsmanagements. Dieser vereitle eine wirksame Kontrolle durch die Betroffenen. Dementsprechend selten seien Fälle, in denen Gefährder sich an Anwälte wendeten, um Unterstützung zu erhalten.

Wälchli betont aber: «Die Angesprochenen sind zur Mitwirkung nicht verpflichtet und dürfen schweigen.» Es werde ihnen auch klar aufgezeigt, dass die Polizei sie auf dem Radar habe. Trotzdem reden die meisten. Der Polizist schildert einen Fall, wo ein «Querulant» richtiggehend froh war, dass «ihn endlich jemand ernst nimmt.» «Oft entsteht ein nachhaltiger und guter Kontakt», betont Wälchli. Die grosse Mehrheit der Gefährder sei kooperationswillig.

Aber welche sind wirklich gefährlich?

Wenn Algorithmen Gefährlichkeit voraussagen

Um das zu beantworten, nutzt Wälchli unter anderem die Software «Dynamisches Risiko-Analyse-System» (Dyrias), hergestellt von der deutschen Firma «Institut Psychologie und Bedrohungsmanagement».

Am weitesten verbreitet ist das Modul «Intimpartner», das das Risiko für schwere häusliche Gewalt gegen Frauen einschätzen soll. Es verlangt Ja-Nein-Antworten auf 39 Fragen, die Wälchli mithilfe der Informationen aus der Gefährderansprache und aus dem Aktenstudium beantwortet. Für eine Einschätzung muss lediglich etwas mehr als die Hälfte der Fragen beantwortet werden.

Die Antworten werden auf den Servern des deutschen Herstellers gespeichert und verarbeitet. Am Ende spuckt das System eine Gefahrenstufe von 0 bis 5 aus. Bei «4» zum Beispiel sind «massive Anzeichen für eine schwere Gewalttat vorhanden».

So schätzt Dyrias Gefährder ein

• 

  Dyrias-Intimpartner ist eine Online-Software, bei der 39 Ja-Nein-Fragen beantwortet werden müssen. Am Ende spuckt das System eine «Fallauswertung» aus, die sich auch ausdrucken lässt. Ein Exemplar davon liegt SRF vor.

  SRF

• 

  Die Software stellt unter anderem die Frage nach Alkohol- und Drogenkonsum.

  SRF

• 

  Auch die Arbeitssituation scheint für die Gefährlichkeitsprognose von Relevanz zu sein.

  SRF

• 

  Eifersucht ist ebenfalls ein Kriterium, das gemäss Dyrias eine Auswirkung auf die Gewaltbereitschaft haben kann.

  SRF

• 

  Gegen Ende des Fragebogens wird es konkreter: Wurde bereits Gewalt gegen die Betroffene ausgeübt?

  SRF

• 

  Am Schluss folgt die «Gesamteinschätzung». Hier erreicht der Gefährder die Stufe 4: «Massive Anzeichen für eine schwere Gewalttat sind vorhanden» – obwohl weniger als 10 von 39 Fragen mit «Ja» beantwortet wurden. Der Algorithmus scheint diese «Ja»-Antworten als gewichtige Warnsignale zu interpretieren.

  SRF

Es ist nicht so, dass er dem System blind vertraut, sagt Wälchli: «Oft bestätigt es einfach mein Bauchgefühl», das auf 20 Jahre Erfahrung aufbaue. Vielmehr helfe es dabei, die richtigen Fragen zu stellen. Auf die Frage, was die Konsequenzen einer hohen Risikostufe seien, bleibt er vage. Eine «4» oder «5» bedeute nicht, dass jemand gleich verhaftet werde.

Sicher ist: Basierend auf den Abklärungen der Polizei kann die Staatsanwaltschaft eine Untersuchungshaft oder andere einschneidende Massnahmen wie Kontakt- und Rayonverbot beantragen. Auch wenn kein konkreter Verdacht vorliegt, sondern einzig Warnsignale vorhanden sind.

«Predictive Policing» ist längst Realität

Wer als Gefährder gelistet ist, muss mit besonderer Aufmerksamkeit der Polizei rechnen – und zwar über einen Zeitraum von mindestens 10 Jahren. So lange werden die Vorabklärungen, Dyrias-Resultate und weitere Einschätzungen im Polizeirapportsystem gespeichert.

Aus Datenschutzgründen haben nur die jeweiligen Fachstellen bei den Zürcher Polizeien Zugriff auf diese Daten. Die wichtigsten Informationen erscheinen jedoch auf den Computern der Frontpolizisten, sobald diese es mit einem Gefährder zu tun haben.

Aktuell beschäftigt sich die Winterthurer Stadtpolizei mit 43 Gefährdern. Mit 29 von ihnen hat sie letztes Jahr Gefährderansprachen durchgeführt.

Die Entwicklung erinnert an ein Zauberwort, das gerade bei US-Polizeien häufig herumgeistert: «Predictive Policing». Die Verheissung ist gross: Die Vernetzung unter Behörden und Polizeien dient der Erkennung von gewaltbereiten Personen, bevor sie zur Tat schreiten.

«Predictive Policing»

Die vorausschauende Polizeiarbeit (engl. «Predictive Policing») stützt sich auf die Analyse von Daten, um Gefahrenherde zu erkennen und entsprechend zu reagieren. Im deutschsprachigen Raum ist bisher ausschliesslich von der Einbruchsbekämpfung die Rede – verschiedene Polizeikorps verwenden eine Software, um einbruchsgefährdete Gebiete zu identifizieren . Anders als bei der Risikoeinschätzung von Gefährdern werden hierbei aber keine persönlichen Daten ausgewertet.

Wer wirklich gefährlich ist und wer nur blufft, prognostiziert dann ein Algorithmus – objektiv, unabhängig von Amtsdünkel und Vorurteilen. Am Ende werden schwere Delikte verhindert, bevor sie passieren. So zumindest erhofft man sich das. Doch die Sache hat einen Haken.

Ein Instrument wie Dyrias hat zum erklärten Ziel, möglichst niemanden zu verpassen, der auch wirklich gefährlich ist. So ist in einer der wenigen öffentlichen Evaluationen des Systems von einer «exzellenten Erkennung von Hochrisikofällen» die Rede. Über 80 Prozent der zukünftigen Gewalttäter würden als solche entdeckt. Nur: Die Evaluation stammt vom Hersteller selber. Und sie verschweigt etwas.

Der Preis der Null-Risiko-Methode

Das Instrument muss auch darauf überprüft werden, wie viele der als gefährlich eingeschätzten Personen es in Wirklichkeit gar nicht sind. Umso höher dieser Prozentwert, desto wahrscheinlicher ein falscher Verdacht – mit all seinen Konsequenzen.

In der Evaluation des Herstellers fehlt diese Angabe. Es heisst lediglich, das Abschneiden des Algorithmus in diesem Bereich sei «zufriedenstellend». Daran zweifeln lässt eine andere, bisher unveröffentlichte Studie, die SRF vorliegt.

Studienautor Andreas Frei untersuchte darin 60 Männer, die während den Jahren 2000 bis 2012 psychiatrisch begutachtet worden waren. 39 von ihnen attestierte Dyrias im Nachhinein ein hohes Gewaltrisiko ab Stufe «4». Von diesen hatten letztendlich nur elf ein schweres Gewaltdelikt begangen – 28 Prozent. Das bedeutet: Zwei Drittel von denen, die Dyrias als hochgefährlich bezeichnete, schritten nie zur Tat.

Frei, heute tätig als Forensiker bei der Psychiatrie Basel-Landschaft, verwendet die Software trotzdem. Ausschlaggebend war ein Gutachten, das er ohne Dyrias verfasste und in dem er jemandem ein moderates Risiko attestiert hatte. Dieser wurde freigelassen und erschoss darauf seine Ehefrau.

Frei kam massiv unter Druck: seitens der Staatsanwaltschaft, aber insbesondere von den Medien. «Die Situation war sehr belastend – alles wurde auf das Gutachten abgeschoben.» Als er den Täter im Nachhinein durch Dyrias beurteilen liess, kam eine «5» heraus: «eine schwere Gewalttat kann jederzeit bevorstehen». Für ihn ein Augenöffner.

Heute «lasse» er «jeden durch Dyrias» – er verstehe die Software jedoch nur als Puzzlestück in einer ganzheitlichen, psychiatrischen Begutachtung. «Die fachgerechte, persönliche Beurteilung darf nicht vernachlässigt werden.»

Die einzige Evaluation, die nicht vom Hersteller stammt und öffentlich zugänglich ist, findet sich in der Dissertation von Juliane Gerth . Die Psychiaterin, die heute beim Zürcher Amt für Justizvollzug tätig ist, bemängelt dort ebenfalls die «starke Überschätzung des [...] Risikos.» Die Verhältnismässigkeit von Strategien, die basierend auf Dyrias-Prognosen erfolgen, sei zu hinterfragen, heisst es sinngemäss.

Hersteller: «Keine Überschätzung»

Nachdem Gerths Untersuchung 2015 in einem Fachmagazin publiziert worden war, ging der Hersteller in den Gegenangriff und bemängelte das Versuchsdesign . Als die Kritik prominent auf der Wikipedia-Seite zu Dyrias auftauchte, wurde sie zurückgestutzt und als Polemik abgetan. Autor der Änderung : Eine anonyme IP-Adresse, die sich in Darmstadt lokalisieren lässt – dem Sitz des Herstellers.

Auf Nachfrage von SRF sagt Jens Hoffmann, Dyrias-Geschäftsführer: «Die Studie hat nicht das untersucht, was Dyrias eigentlich vermessen will: das Risiko für Tötungsdelikte, nicht für allgemeine häusliche Gewalt.» So gesehen untermauere die Studie gerade die Aussagekraft von Dyrias.

Zu den Resultaten von Andreas Frei, die ebenfalls eine starke Überschätzungstendenz fanden, meint Hoffmann: «Die hoch eingeschätzten Personen, die kein Tötungsdelikt vollbracht hatten, sind trotzdem nicht unkritisch.» Man müsse auch bei diesen genau hinschauen. Insofern könne man nicht von einer Überschätzung reden. Hoffmann beteuert aber auch: «Wir sind konstant daran, die Software weiterzuentwickeln – und um jede externe Evaluation froh.»

«Nur ein Puzzlestück»

Von den 13 Kantonspolizeien und Verwaltungseinheiten, die sich gemäss bundesrätlichem Bericht ein Bedrohungsmanagement auf die Fahne schreiben, verwenden sechs Dyrias-Intimpartner (Glarus, Luzern, Schaffhausen, Solothurn, Thurgau und Zürich), dazu kommen die Stadtpolizeien Zürich und Winterthur.

Wie kam es zur Beschaffung von Dyrias?

Der Kanton Solothurn war 2013 der erste, der hierzulande ein Bedrohungsmanagement einführte. Der Dyrias-Hersteller war federführend bei dessen Konzeption, wie aus verschiedenen Dokumenten hervorgeht. Der damalige stellvertretende Polizeikommandant ist heute für die Firma tätig.

Fast zur selben Zeit machte man sich im Kanton Zürich an die Arbeit. Auch hier war die Firma hinter Dyrias massgeblich beteiligt. So rangiert unter den Autoren des Zürcher Leitfadens «Kantonales Bedrohungsmanagement» Geschäftsführer Jens Hoffmann. Der Werbeslogan «Erkennen – Einschätzen – Entschärfen» wurde eins zu eins als kantonaler Leitsatz übernommen.

In den Jahren darauf folgten weitere Polizeien dem Beispiel von Solothurn und Zürich – offenbar auch in der Wahl des Prognoseinstrumentes. Wie der Entscheid zur Beschaffung von Dyrias im Einzelfall ablief, lässt sich jedoch nur schwer nachvollziehen. In den parlamentarischen Debatten, die den manchmal nötigen Gesetzesänderungen vorangehen, waren Prognoseinstrumente bisher nie Thema.

Konfrontiert mit der Kritik an Dyrias fallen die Antworten der Polizei meist ähnlich aus: Jeder Gefährder werde einer Einzelfallbeurteilung durch geschultes Fachpersonal unterzogen – man sei nicht instrumentengläubig. Auch wisse man um die Überschätzungstendenz. Exemplarisch Reinhard Brunner, Chef Präventionsabteilung der Kantonspolizei Zürich: «Dass solche Softwares tendenziell überschiessen, wissen wir schon lange.»

Auch deswegen sei die vertiefte Auseinandersetzung zwingend, die Einschätzung mit Dyrias höchstens ein «Puzzlestück». Eine hohe Risikostufe in Dyrias sei aber dennoch ein Grund, jemanden genauer unter die Lupe zu nehmen – unter anderem mit weiteren Instrumenten oder durch forensische Psychiater. Verschiedene angefragte Polizeikorps betonen zudem, Dyrias käme längst nicht in allen Fällen zur Anwendung.

Tatsächlich ist Dyrias-Intimpartner nur einer von vielen Algorithmen, die Schweizer Polizeikorps zur Risikoprognose verwenden. Der bundesrätliche Bericht zum Bedrohungsmanagement redet von über 20 verschiedenen Instrumenten, die 2014 im Einsatz waren.

Im Gegensatz zu Dyrias sind die anderen Algorithmen jedoch mehrheitlich nachvollziehbar und transparent entwickelt. Beispiele dafür sind ODARA («Ontario Domestic Assault Risk Assessment»), SORAG («Sex Offender Risk Appraisal Guide») und VRAG («Violence Risk Appraisal Guide»). Doch auch an diesen gibt es Kritik.

«Die Kategorisierung entwickelt eine Sogwirkung»

Die Strafrechtsprofessorin Nadja Capus von der Universität Neuenburg setzt sich in ihrer Forschung mit der Verwendung von Prognoseinstrumenten auseinander – und stellt diese grundsätzlich in Frage: «Es wird Objektivität suggeriert, aber tatsächlich wird das Instrument von einem Menschen gefüttert – mitsamt seinen Wertungen, Einschätzungen und Interpretationen.» Das könne im Extremfall dazu führen, dass zwei Anwender beim gleichen Fall zu unterschiedlichen Ergebnissen kämen.

Und: «Natürlich werden diese Ergebnisse immer relativiert, aber die Kategorisierung entwickelt eine Sogwirkung.» Es könne schnell zu einer Stigmatisierung kommen. «Ich glaube gerne, dass jeweils eine Einzelfallbeurteilung erfolgt und die Prognoseergebnisse relativiert werden. Fakt ist aber, dass das teuer eingekaufte, aufwendig gefütterte Programm eine bestimmte Risikokategorie ausgespuckt hat.»

Das setzt die Beamten unter Druck, sagt Capus: «Wie kann man sich noch rechtfertigen, wenn man jemanden mit vermeintlich hohem Risiko laufen lässt – und dann wirklich etwas passiert?»

Nicht ganz so schwarz sieht das Polizist Wälchli. Auch die Staatsanwaltschaft und die Gerichte, die zum Beispiel eine U-Haft bewilligen müssen, hätten noch ein Wort mitzureden. Längst nicht alle Instanzen würden den Prognoseinstrumenten Glauben schenken. «Teilweise lehnen Staatsanwälte Risikoeinschätzungen von bestimmten Tools kategorisch ab.»

Problem erkannt?

Mitte Januar präsentierte die Zürcher Justizdirektorin Jacqueline Fehr im «Roten Turm» hoch über Winterthur «Octagon» . Das vom Amt für Justizvollzug eigens entwickelte Instrument soll weniger zur Überschätzung neigen.

Gegenüber dem Winterthurer Landboten gab Regierungsrätin Fehr offen zu: «Es hat viel zu viele Personen auf der Gefährderliste. Das neue Instrument erlaubt es, dass Leute auch einmal von der Liste entfernt werden können.»

Ist Octagon die Antwort auf ein System, das überall nur Gefahr sieht? Für Kantonspolizist Reinhard Brunner zumindest hat es sich in einem zweijährigen Testlauf bewährt.

Octagon helfe dabei, einen Fall von Anfang an strukturiert zu erfassen und die richtigen Fragen zu stellen. «Es prognostiziert im Gegensatz zu Dyrias kein Risiko, sondern zeigt uns konkrete Massnahmen auf.»

Mit einer Gefährlichkeitseinschätzung alleine kann die Polizei nicht viel anfangen, erklärt der Chef der Präventionsabteilung. So sei Dyrias in den letzten Jahren nur auf ein paar Dutzend Gefährder angewendet worden – hingegen werde mittlerweile jeder Fall mit Octagon durchleuchtet.

Und er ergänzt: «Wir führen immer wieder Schulungen für andere Polizeikorps durch, das Interesse ist gross.» Gut denkbar also, dass sich die Zürcher Eigenkonstruktion bald schweizweit durchsetzt. Gemäss Informationen, die SRF vorliegen, setzen mindestens drei weitere Kantonspolizeien das System bereits heute ein: Solothurn, Neuenburg und Tessin.

Dass Octagon bis anhin noch nicht unabhängig evaluiert worden ist, ist für Brunner kein Problem. «Im Gegenteil: Der Praxiserfolg ist ausschlaggebend.»