Vom Einsatz Künstlicher Intelligenz erhoffte man sich auch objektivere Entscheidungen. Doch das erwies sich in vielen Fällen als Trugschluss. Algorithmen sind nicht neutral. Denn diese werden von Menschen gemacht, deren Vorurteile und blinde Flecken in die Programmierung mit einfliessen.
So hat beispielsweise die Bildsoftware von Google vor ein paar Jahren Afroamerikaner*innen als Gorillas kategorisiert. Bei Amazon wiederum wollte die Personalabteilung mit der Hilfe eines Algorithmus die besten Jobbewerbungen herausfiltern. Dies ging schief: Die Software hat Frauen grundsätzlich schlechter bewertet als Männer.
Warum eine Computerentscheidung diskriminiert oder nicht, ist gerade beim Einsatz von selbstlernenden Algorithmen nicht immer leicht herauszufinden: «Algorithmen stellen zwar selbst Regeln auf, aber sie kommunizieren diese nicht gegen aussen», sagt Julian Schmidli von SRF Data, «meistens weiss man gar nicht so genau, welche Regeln sie eigentlich aufgestellt haben. Sie sind eine Art Blackbox.»
Expertinnen sind sich einig: Auf automatisierte Verfahren müssen wir in Zukunft nicht verzichten — jedoch brauchenAlgorithmen ethische Richtlinien. «Es ist meistens nicht die Technologie, die böse oder schlecht ist», sagt Mascha Kurpicz-Briki, Professorin für Data Engineering der Berner Fachhochschule, «es ist sehr viel mehr die Anwendung oder der Umgang damit».
Wir bei SRF Forward fragen uns: Wie kommt es dazu, dass Algorithmen diskriminierend sein können und was hat das für Folgen für jeden und jede Einzelne von uns? Die Antworten darauf und Lösungen zum Problem erhältst du im Video.
Wir sind SRF Forward, ein Team von jungen JournalistInnen. Wir recherchieren zu drängenden Themen unserer Zeit und bringen dich mit Einordnung und Hintergrund weiter. Wir wollen nicht nur wissen, was passiert. Wir wollen verstehen, warum es passiert. Gemeinsam mit dir schaffen wir einen Diskussionsraum und suchen nach Lösungsansätzen. Dabei werden wir selbst noch viel lernen. Jeden Mittwoch gibt es ein neues Video von uns, mit dem wir dich zum Nachdenken anregen und Debatten auslösen wollen. Die Welt ist kompliziert. Lass uns zusammen durchsteigen.
