Die Facebook-Tochter Instagram verwendete ein Bild, in dem eine Nutzerin mit den Worten „Bevor ich dich töte, werde ich dich vergewaltigen“ bedroht wurde, auf Facebook als Werbung, um Nutzer zu gewinnen, berichtet der „Guardian“. Eine Reporterin der Zeitung hatte das Bild vor mehr als einem Jahr als Beispiel für Gewalt gegen Frauen auf dem Online-Netzwerk veröffentlicht. Ihrer Schwester wurde es auf Facebook als Anreiz angezeigt, Instagram zu besuchen.

Keine Vorkehrungen gegen Hate Speech bei Instagram

Warum der Instagram-Algorithmus das Bild auswählte ist unklar. Es habe einige Likes und Kommentare erhalten, möglicherweise sei dies der Grund, vermutet der „Guardian“. Da es heute technisch problemlos möglich sei, in Bilder eingebettete Wörter zu analysieren, müsse davon ausgegangen werden, dass Instagram keine Vorkehrungen getroffen habe, um Hassreden zu identifizieren und zumindest für Werbung auszufiltern.

Eine Instagram-Sprecherin entschuldigte sich für die Werbeeinschaltung („Wir wollen nicht, dass irgendjemand eine solcher Erfahrung macht“) und verwies auch darauf, dass sie lediglich den Facebook-Freunden der Posterin angezeigt würden.

Facebook-Algorithmen bereits seit Jahren in der Kritik

Facebooks Algorithmen und Werbe-Tools sorgen immer wieder für Unmut. 2014 musste sich das Unternehmen dafür entschuldigen, dass es im automatisch generierten Jahresrückblick („Year in review“) eines Nutzers eine Reihe von Bildern seiner verstorbenen Tochter präsentierte. Das blieb kein Einzelfall. Erst vergangene Woche wurde nach einem Bericht des US-Magazins ProPublica bekannt, dass über von dem Online-Netzwerk algorithmisch berechnete und vorgeschlagene Kategorien Werbung an Antisemiten adressiert werden konnte.