Zum Inhalt springen
Inhalt

Künstliche Intelligenz Amazon «Rekognition»: Gesichtserkennung mit Schlagseite

Computer treffen immer öfter wichtige Entscheidungen. Dabei agieren sie nicht immer neutral.

Legende: Audio Gesichtserkennung ist nur so gut wie die Trainingsdaten (Echo der Zeit) abspielen. Laufzeit 04:04 Minuten.
04:04 min

Amazon bietet seit 2016 übers Internet den kommerziellen Bildanalyse-Dienst «Rekognition» an. Mit dabei ist eine Funktion, die Gesichter erkennt. In den USA sammeln bereits zwei Strafverfolgungsbehörden erste Erfahrungen mit der Software.

Falscher Verdacht

Die Bürgerrechtsorganisation «American Civil Liberties Union» (ACLU) wollte deshalb wissen, wie genau «Rekognition» arbeitet. Sie liess das System die Bilder aller 586 Mitglieder des US-Parlaments mit einer Datenbank von 25’000 Polizeifotos vergleichen. In 28 Fällen meinte die Software irrtümlich, einen Abgeordneten wiederzuerkennen. Pikant dabei: Die Software machte bei Menschen mit dunkler Hautfarbe häufiger Fehler als bei Menschen mit hellem Teint.

Dieser Befund deckt sich mit den Erkenntnissen der Informatikerin Joy Buolamwini, Link öffnet in einem neuen Fenster. Sie untersuchte, wie zuverlässig die kommerzielle Gesichtserkennung von Microsoft, IBM und der chinesischen Firma Face++ funktioniert. Alle drei Produkte täuschen sich bei Menschen mit dunkler Haut und bei Frauen häufiger – bei dunkelhäutigen Frauen betrug die Fehlerquote mehr als 45 Prozent – das ist marginal besser, als wenn man eine Münze werfen würde!

Wie ist es möglich, dass die Produkte von vier Konkurrenten die gleichen Schwächen aufweisen?

Maschinen lernen vom Menschen

Das Problem liege nicht an der Software selber, sondern an den Beispieldaten, meint Guido Schuster, Professor für Signalverarbeitung und Bildanalyse an der technischen Hochschule Rapperswil.

Viele Systeme, die mit künstlicher Intelligenz arbeiten, bringen sich ihre Fähigkeiten nämlich selber bei. «Der Computer darf selber lernen, was für ihn denn nützlich wäre, um eine Entscheidung zu treffen» sagt Guido Schuster.

In dieser Trainingsphase muss etwas schief gelaufen sein. «Wenn Amazon mit einem Datensatz trainiert, der vernünftig balanciert ist – mit schwarzen, weissen, asiatischen Männern und Frauen – dann sollte die Fehlerrate sich in den speziellen Fällen nicht gross unterscheiden» sagt Guido Schuster.

Die Grossen sind im Vorteil

IBM und Microsoft haben auf die Kritik reagiert und ihre Systeme überarbeitet. Amazon hingegen wirft den Testern vor, dass sie die Software nicht korrekt konfiguriert hätten.

Das vermag die Amazon-Kritiker in den USA nicht zu besänftigen. Sie fürchten, dass «Rekognition» in Zukunft bei weiteren Strafverfolgungsbehörden zum Einsatz kommt, weil der grösste Buchhändler der Welt gleichzeitig auch der grösste Anbieter von Informatikdienstleistungen ist, ein Vorteil bei der Akquirierung neuer Kunden.

Keine wichtigen News verpassen

Erhalten Sie die wichtigsten Nachrichten per Browser-Push-Mitteilungen.

Push-Benachrichtigungen sind kurze Hinweise auf Ihrem Bildschirm mit den wichtigsten Nachrichten - unabhängig davon, ob srf.ch gerade geöffnet ist oder nicht. Klicken Sie auf einen der Hinweise, so gelangen Sie zum entsprechenden Artikel. Sie können diese Mitteilungen jederzeit wieder deaktivieren.

7 Kommentare

Navigation aufklappen Navigation zuklappen

Sie sind angemeldet als Who ? (whoareyou) (abmelden)

Wir haben Ihren Kommentar erhalten und werden ihn nach Prüfung freischalten.

Einen Kommentar schreiben

verfügbar sind noch 500 Zeichen

Mit dem Absenden dieses Kommentars stimme ich der Netiquette von srf.ch zu.

Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.