Amazon bietet seit 2016 übers Internet den kommerziellen Bildanalyse-Dienst «Rekognition» an. Mit dabei ist eine Funktion, die Gesichter erkennt. In den USA sammeln bereits zwei Strafverfolgungsbehörden erste Erfahrungen mit der Software.
Falscher Verdacht
Die Bürgerrechtsorganisation «American Civil Liberties Union» (ACLU) wollte deshalb wissen, wie genau «Rekognition» arbeitet. Sie liess das System die Bilder aller 586 Mitglieder des US-Parlaments mit einer Datenbank von 25’000 Polizeifotos vergleichen. In 28 Fällen meinte die Software irrtümlich, einen Abgeordneten wiederzuerkennen. Pikant dabei: Die Software machte bei Menschen mit dunkler Hautfarbe häufiger Fehler als bei Menschen mit hellem Teint.
Dieser Befund deckt sich mit den Erkenntnissen der Informatikerin Joy Buolamwini. Sie untersuchte, wie zuverlässig die kommerzielle Gesichtserkennung von Microsoft, IBM und der chinesischen Firma Face++ funktioniert. Alle drei Produkte täuschen sich bei Menschen mit dunkler Haut und bei Frauen häufiger – bei dunkelhäutigen Frauen betrug die Fehlerquote mehr als 45 Prozent – das ist marginal besser, als wenn man eine Münze werfen würde!
Wie ist es möglich, dass die Produkte von vier Konkurrenten die gleichen Schwächen aufweisen?
Maschinen lernen vom Menschen
Das Problem liege nicht an der Software selber, sondern an den Beispieldaten, meint Guido Schuster, Professor für Signalverarbeitung und Bildanalyse an der technischen Hochschule Rapperswil.
Viele Systeme, die mit künstlicher Intelligenz arbeiten, bringen sich ihre Fähigkeiten nämlich selber bei. «Der Computer darf selber lernen, was für ihn denn nützlich wäre, um eine Entscheidung zu treffen» sagt Guido Schuster.
In dieser Trainingsphase muss etwas schief gelaufen sein. «Wenn Amazon mit einem Datensatz trainiert, der vernünftig balanciert ist – mit schwarzen, weissen, asiatischen Männern und Frauen – dann sollte die Fehlerrate sich in den speziellen Fällen nicht gross unterscheiden» sagt Guido Schuster.
Die Grossen sind im Vorteil
IBM und Microsoft haben auf die Kritik reagiert und ihre Systeme überarbeitet. Amazon hingegen wirft den Testern vor, dass sie die Software nicht korrekt konfiguriert hätten.
Das vermag die Amazon-Kritiker in den USA nicht zu besänftigen. Sie fürchten, dass «Rekognition» in Zukunft bei weiteren Strafverfolgungsbehörden zum Einsatz kommt, weil der grösste Buchhändler der Welt gleichzeitig auch der grösste Anbieter von Informatikdienstleistungen ist, ein Vorteil bei der Akquirierung neuer Kunden.
