Zum Inhalt springen

Header

Inhalt

SRF Forward Vorurteile Künstlicher Intelligenz: So diskriminieren Algorithmen

Algorithmen sind nicht neutral. Ein Computer kann einen Menschen je nach Geschlecht, Hautfarbe oder anderen Merkmalen benachteiligen und entscheiden, wer einen Job oder Kredit bekommt.

Vom Einsatz Künstlicher Intelligenz erhoffte man sich auch objektivere Entscheidungen. Doch das erwies sich in vielen Fällen als Trugschluss. Algorithmen sind nicht neutral. Denn diese werden von Menschen gemacht, deren Vorurteile und blinde Flecken in die Programmierung mit einfliessen. 

So hat beispielsweise die Bildsoftware von Google vor ein paar Jahren Afroamerikaner*innen als Gorillas kategorisiert. Bei Amazon wiederum wollte die Personalabteilung mit der Hilfe eines Algorithmus die besten Jobbewerbungen herausfiltern. Dies ging schief: Die Software hat Frauen grundsätzlich schlechter bewertet als Männer. 

Warum eine Computerentscheidung diskriminiert oder nicht, ist gerade beim Einsatz von selbstlernenden Algorithmen nicht immer leicht herauszufinden: «Algorithmen stellen zwar selbst Regeln auf, aber sie kommunizieren diese nicht gegen aussen», sagt Julian Schmidli von SRF Data, «meistens weiss man gar nicht so genau, welche Regeln sie eigentlich aufgestellt haben. Sie sind eine Art Blackbox.» 

Expertinnen sind sich einig: Auf automatisierte Verfahren müssen wir in Zukunft nicht verzichten — jedoch brauchenAlgorithmen ethische Richtlinien. «Es ist meistens nicht die Technologie, die böse oder schlecht ist», sagt Mascha Kurpicz-Briki, Professorin für Data Engineering der Berner Fachhochschule, «es ist sehr viel mehr die Anwendung oder der Umgang damit». 

Wir bei SRF Forward fragen uns: Wie kommt es dazu, dass Algorithmen diskriminierend sein können und was hat das für Folgen für jeden und jede Einzelne von uns? Die Antworten darauf und Lösungen zum Problem erhältst du im Video.

SRF Forward

Box aufklappenBox zuklappen
SRF Forward

Wir sind SRF Forward, Link öffnet in einem neuen Fensterim Browser öffnen, ein Team von jungen JournalistInnen. Wir recherchieren zu drängenden Themen unserer Zeit und bringen dich mit Einordnung und Hintergrund weiter. Wir wollen nicht nur wissen, was passiert. Wir wollen verstehen, warum es passiert. Gemeinsam mit dir schaffen wir einen Diskussionsraum und suchen nach Lösungsansätzen. Dabei werden wir selbst noch viel lernen. Jeden Mittwoch gibt es ein neues Video von uns, mit dem wir dich zum Nachdenken anregen und Debatten auslösen wollen. Die Welt ist kompliziert. Lass uns zusammen durchsteigen.

Jederzeit top informiert!
Erhalten Sie alle News-Highlights direkt per Browser-Push und bleiben Sie immer auf dem Laufenden.
Schliessen

Jederzeit top informiert!

Erhalten Sie alle News-Highlights direkt per Browser-Push und bleiben Sie immer auf dem Laufenden. Mehr

Push-Benachrichtigungen sind kurze Hinweise auf Ihrem Bildschirm mit den wichtigsten Nachrichten - unabhängig davon, ob srf.ch gerade geöffnet ist oder nicht. Klicken Sie auf einen der Hinweise, so gelangen Sie zum entsprechenden Artikel. Sie können diese Mitteilungen jederzeit wieder deaktivieren. Weniger

Sie haben diesen Hinweis zur Aktivierung von Browser-Push-Mitteilungen bereits mehrfach ausgeblendet. Wollen Sie diesen Hinweis permanent ausblenden oder in einigen Wochen nochmals daran erinnert werden?

Meistgelesene Artikel

Nach links scrollen Nach rechts scrollen

3 Kommentare

Navigation aufklappen Navigation zuklappen
  • Kommentar von Johann Meier  (H.J. Meier)
    Wir stehen erst am Anfang dessen, was neuronale Netzwerke verändern werden. Selbst Mathematiker und Programmierer, mir macht die Zukunft mit KIs Sorgen. Maschinen lernen immer mehr von uns, und werden wohl noch mehr Anonymität und Geschwindigkeit in unsere Gesellschaft bringen. Dabei hätten wir eigentlich dringend das Gegenteil nötig!
  • Kommentar von René Baron  (René Baron)
    KI ist KEIN Algorithmus. Und weder KI noch Algorithmus helfen gegen die Faulheit, ein Thema zuerst mal richtig zu recherchieren, bevor man dazu eine Meinung hat.
  • Kommentar von dan beyeler  (khun_dan)
    liebes jung-team. bitte lasst den beitrag mal mittels KI oder ev. HI (human intelligenz) auf fehlende leerstellen prüfen, danke ;-)