Zum Inhalt springen

Header

Inhalt

SRF Forward Vorurteile Künstlicher Intelligenz: So diskriminieren Algorithmen

Algorithmen sind nicht neutral. Ein Computer kann einen Menschen je nach Geschlecht, Hautfarbe oder anderen Merkmalen benachteiligen und entscheiden, wer einen Job oder Kredit bekommt.

Vom Einsatz Künstlicher Intelligenz erhoffte man sich auch objektivere Entscheidungen. Doch das erwies sich in vielen Fällen als Trugschluss. Algorithmen sind nicht neutral. Denn diese werden von Menschen gemacht, deren Vorurteile und blinde Flecken in die Programmierung mit einfliessen. 

So hat beispielsweise die Bildsoftware von Google vor ein paar Jahren Afroamerikaner*innen als Gorillas kategorisiert. Bei Amazon wiederum wollte die Personalabteilung mit der Hilfe eines Algorithmus die besten Jobbewerbungen herausfiltern. Dies ging schief: Die Software hat Frauen grundsätzlich schlechter bewertet als Männer. 

Warum eine Computerentscheidung diskriminiert oder nicht, ist gerade beim Einsatz von selbstlernenden Algorithmen nicht immer leicht herauszufinden: «Algorithmen stellen zwar selbst Regeln auf, aber sie kommunizieren diese nicht gegen aussen», sagt Julian Schmidli von SRF Data, «meistens weiss man gar nicht so genau, welche Regeln sie eigentlich aufgestellt haben. Sie sind eine Art Blackbox.» 

Expertinnen sind sich einig: Auf automatisierte Verfahren müssen wir in Zukunft nicht verzichten — jedoch brauchenAlgorithmen ethische Richtlinien. «Es ist meistens nicht die Technologie, die böse oder schlecht ist», sagt Mascha Kurpicz-Briki, Professorin für Data Engineering der Berner Fachhochschule, «es ist sehr viel mehr die Anwendung oder der Umgang damit». 

Wir bei SRF Forward fragen uns: Wie kommt es dazu, dass Algorithmen diskriminierend sein können und was hat das für Folgen für jeden und jede Einzelne von uns? Die Antworten darauf und Lösungen zum Problem erhältst du im Video.

SRF Forward

SRF Forward

Wir sind SRF Forward, Link öffnet in einem neuen Fenster, ein Team von jungen JournalistInnen. Wir recherchieren zu drängenden Themen unserer Zeit und bringen dich mit Einordnung und Hintergrund weiter. Wir wollen nicht nur wissen, was passiert. Wir wollen verstehen, warum es passiert. Gemeinsam mit dir schaffen wir einen Diskussionsraum und suchen nach Lösungsansätzen. Dabei werden wir selbst noch viel lernen. Jeden Mittwoch gibt es ein neues Video von uns, mit dem wir dich zum Nachdenken anregen und Debatten auslösen wollen. Die Welt ist kompliziert. Lass uns zusammen durchsteigen.

Jederzeit top informiert!
Erhalten Sie alle News-Highlights direkt per Browser-Push und bleiben Sie immer auf dem Laufenden.

Meistgelesene Artikel

Nach links scrollen Nach rechts scrollen

4 Kommentare

Navigation aufklappen Navigation zuklappen

Sie sind angemeldet als Who ? (whoareyou) (abmelden)

Kommentarfunktion deaktiviert

Uns ist es wichtig, Kommentare möglichst schnell zu sichten und freizugeben. Deshalb ist das Kommentieren bei älteren Artikeln und Sendungen nicht mehr möglich.