Zum Inhalt springen
Inhalt

Problematische Hilfe Facebook will mit künstlicher Intelligenz Suizide verhindern

Eine neue Software erkennt auf Facebook suizidgefährdete Nutzer und schlägt Alarm. Nach einer erfolgreichen Testphase in den USA wird der neue Dienst jetzt weltweit ausgerollt. Ausser in Europa.

Screenshots eines Facebook-Livestreams.
Legende: Wenn Facebook glaubt, ein Nutzer sei suizidgefährdet, erscheint eine Nachricht: «Wir wollen dir Hilfe anbieten». Facebook

Dass Facebook Suizidprävention betreibt, ist nicht neu: Seit 10 Jahren – so das Unternehmen – arbeitet Facebook an «Suicide Prevention Tools», an Suizidpräventionsmassnahmen.

Dabei holt sich das Netzwerk Hilfe von Experten: Facebook arbeitet eng mit Hilfsorganisationen zusammen. Ziel ist, suizidgefährdete Nutzer früh zu erkennen und ihnen zu helfen.

Facebook macht das nicht nur aus Nächstenliebe: Es gab mehrere, tragische Fälle, bei denen Menschen sich vor laufender Kamera umbrachten – übertragen im Livestream auf Facebook. Keine gute Werbung für das soziale Netzwerk.

Die Software liest mit

Neu ist jetzt die künstliche Intelligenz, die Facebook entwickelt hat, um suizidale Nutzer zu erkennen.

Die Software scannt Timelines der Nutzer, zum Beispiel nach Signal-Wörtern und Phrasen wie «Ich will nicht mehr leben» oder «Ich hasse mein Leben, ich kann nicht mehr».

Auch indirekte Hinweise werden als mögliche Signale erkannt. Das sind zum Beispiel Kommentare von anderen Nutzern wie «Geht es dir gut?» oder «Brauchst du Hilfe?».

Screenshots eines Facebook-Livestreams.
Legende: Bei Facebook kann ich auch selbst Alarm schlagen, wenn ich glaube, einer meiner Freunde ist suizidgefährdet. Facebook

Software schlägt Alarm

Sobald die Software Alarm geschlagen hat, übernimmt ein Mensch: Ein Facebook-Mitarbeiter prüft den Fall und entscheidet, wie man weiter vorgeht.

Facebook kann dem betroffenen Nutzer eine Nachricht schicken und ihm konkret Hilfe anbieten («Ruf einen Notfalldienst an» oder «Sprich mit einem Freund»).

Die Hilfe von Facebook geht aber auch so weit, dass die Mitarbeiter die Behörden alarmieren können. Facebook nennt das «Wellness Checks». In einer Testphase wurden in den USA letzten Monat 100 solcher Checks von Facebook ausgelöst – mit Erfolg, so das Unternehmen.

Facebook will nur helfen

Timelines mitlesen? Wegen eines verdächtigen Facebook-Posts die Polizei alarmieren? Facebook CEO-Zuckerberg Mark Zuckerberg sieht darin kein Problem.

Die neue Software zur Suizidprävention kann Leben retten – und damit scheint jeglicher Eingriff in die Privatsphäre gerechtfertigt.

Die EU sieht darin sehr wohl ein Problem. Daher wird das neue Suicide Prevention Tool weltweit ausgespielt – ausser in der EU, wie Facebook in einer Mitteilung verkündete, Link öffnet in einem neuen Fenster. Ob die Schweiz als Teil von Europa in diesem Fall auch als Teil der EU gilt, lässt Facebook offen.

Brauchen Sie jemand, der Ihnen zuhört? Beraterinnen und Berater der «Dargebotenen Hand», Link öffnet in einem neuen Fenster sind jederzeit unter der Telefonnummer 143 erreichbar.

Screenshot

Wir sprechen über aktuelle Geschichten und Debatten im Internet. Von Montag bis Donnerstag um 17.40 Uhr in der Rubrik «Screenshot» bei Radio SRF 2 Kultur.