Flüchtlinge, Gewalt, Holocaust: So moderiert Facebook
Geleakte Handbücher der Facebook-Moderatoren zeigen Umgang mit problematischem Material
Facebook ist ein Abbild der Gesellschaft und seiner Grausamkeiten. Um viel kümmern müssen sich die Moderatoren des sozialen Netzwerks. Es gibt Rache-Pornos von Ex-Freunden, Gewalt gegen Tiere, Kindesmissbrauch und Rassismus. Zu allem hat Facebook Regeln ausgearbeitet: Waffen, Selbstverletzung, Sex. Es gibt sogar Handbücher zum Umgang mit Wettbetrug und Kannibalismus.
Das zeigen mehr als 100 interne Handbücher und Folien zum Training der Facebook-Moderatoren, die dem britischen »Guardian« zugespielt wurden. In den letzten Tage hat die Zeitung Schritt für Schritt einzelnen Dokumente veröffentlicht. Sie geben einen Einblick, wie das soziale Netzwerk die Beiträge seiner zwei Milliarden Nutzer moderiert. Und deren Beiträge bedeuten viel Arbeit für Facebook. Laut einem Dokument in der Sammlung müssen weltweit mehr als 6,5 Millionen Meldungen moderiert werden. Im Durchschnitt nur 10 Sekunden Zeit haben die 4500 Content-Moderatoren des Internetkonzerns, wenn sie gemeldete Beiträge oder Fotos prüfen. Mittels einfacher Regeln, etwa wie genau und detailliert eine Morddrohung oder Anschlagsdrohung ist, sollen die Moderatoren so in Sekundenschnelle über die Frage »löschen oder nicht?« entscheiden.
Helfen sollen dabei unter anderem Beispielsätze und Bilder, neben denen in grün »erlaubt« und »verboten« steht. Nur Texte oder Bilder mit »glaubhaften« Drohungen, die detailliert und zielgerichtet sind, sollen demnach gelöscht werden. Eine allgemeine Aussage, wie »Trete eine Person mit roten Haaren«, wird bei einer Meldung des Postings nicht gelöscht.
Und es gibt bei Facebook Kategorien »geschützter Personen« und Gruppen sowie solcher, die es nicht sind. Die Drohung »Jemand sollte Trump erschießen« muss gelöscht werden, weil Trump als Staatsoberhaupt einer geschützten Kategorie angehört. Sexuelle Orientierung ist eine solche Kategorie bzw. genauer gesagt sind etwa Bisexuelle und Homosexuelle geschützt. Nicht geschützt sind politische Ideologien wie »Republikaner«, »Demokraten« oder »Sozialisten«.
Migranten und Geflüchtete dagegen sind für Facebook nur eine »quasi-geschütze« Gruppe. Gewaltaufrufe gegen oder »Vergleiche mit Tieren, Kriminellen und Dreck« sollen gelöscht werden. Doch in seinem Handbuch zum Thema schreibt Facebook auch: »Wir wollen den Leuten erlauben, breite Diskussionen über heiße Themen in kommenden Wahlen zu führen«. Beispiele für erlaubte generelle Aussagen sind zum Beispiel »Der Islam ist eine Religion des Hasses« und »Haltet die geilen Migranten von unseren Töchtern fern«.
Gegen Zensur hat sich Facebook bei Selbstverstümmelung entschieden. Man wolle »Menschen, die Leiden und den Selbstmord versuchen, nicht bestrafen«, wenn diese mittels Facebook auf sich aufmerksam machen würden. Und die Zahl der Nutzer steigt, die Facebook für suizidale Zwecke nutzen. In einem Dokument aus dem letzten Sommer gibt der Konzern an, in einem Zeitraum von zwei Wochen 4531 Fälle moderiert zu haben. In einer Zwei-Wochen-Periode 2016 habe es sogar 5016 Fälle gegeben. Offenbar befürchten die Facebook-Moderatoren Nachahmer der mittlerweile berüchtigten Serie »13 Reasons Why« – ein Netflix Drama über den Selbstmord einer Teenagerin.
So hätten Nutzer Selbstmorde auch live auf Facebook gestreamt. Das wolle man erlauben, um Freunden die Möglichkeit zur Hilfe zu geben. Gleichzeitig sollen die Moderatoren die Sicherheitsbehörden verständigen, damit auch diese helfen. Wenn keine Gelegenheit zur Hilfe mehr besteht, sollen Videos aber gelöscht werden, um potentiellen Nachahmern kein Material zu liefern.
Facebook gibt an, das Ziel von Meinungsfreiheit mit dem Vorgehen gegen »Hate Speech« ausbalancieren zu wollen. Ein 16-seitiges Handbuch zeigt, wie der Internetkonzern mit dem Thema Holocaust umgeht. Darin ist von der Notwendigkeit zu lesen, die »lokalen Gesetze in einigen Ländern zu respektieren«, genauer gesagt, die »aktiv« bei Unterlassung gegen Facebook vorgehen würden. Nur in vier von 14 Ländern, wo Holocaustleugnung verboten ist, sind die Facebook-Moderatoren demnach angewiesen, entsprechendes Material zu zensieren. Konkret ist dies in Deutschland, Frankreich, Österreich und Israel der Fall.
Ein weiteres Feld auf dem Facebook besonders hierzulande unter Druck geraten ist, ist das Thema Sex und Nacktheit. Man wolle »generellen Ausdruck von Begehren, aber nicht explizite sexuelle Details« erlauben, heißt es in einem Handbuch zum Thema. Trotz »Free The Nipple«-Protesten sind Bilder weiblicher Nippel weiterhin nicht erlaubt, männliche dagegen schon.
Doch Facebook reagiert auch auf öffentlichen Druck und hat seine Guidelines überarbeitet. Für Fälle wie das »Vietnam girl«, das berühmte Foto aus dem Vietnam Krieg, auf dem ein nacktes junges Mädchen weinend über eine Straße läuft und das Facebook vergangenen September zensierte, als die norwegische Zeitung Aftenposten es auf ihrem Cover in Gedenken an den Vietnamkrieg benutzte, sollen nun als »berichtenswerte Ausnahme« erlaubt sein.
Auch will Facebook künstlerische Nacktheit, etwa in historischen Bildern und Statuen, nun zulassen. Anfang Januar war ein Fall international bekannt geworden, bei dem das soziale Netzwerk eine italienische Stadtführerin aufforderte, ein Foto zu löschen, das eine nackte Statue des antiken Gottes Neptun zeigte.
Das »nd« bleibt. Dank Ihnen.
Die nd.Genossenschaft gehört unseren Leser*innen und Autor*innen. Mit der Genossenschaft garantieren wir die Unabhängigkeit unserer Redaktion und versuchen, allen unsere Texte zugänglich zu machen – auch wenn sie kein Geld haben, unsere Arbeit mitzufinanzieren.
Wir haben aus Überzeugung keine harte Paywall auf der Website. Das heißt aber auch, dass wir alle, die einen Beitrag leisten können, immer wieder darum bitten müssen, unseren Journalismus von links mitzufinanzieren. Das kostet Nerven, und zwar nicht nur unseren Leser*innen, auch unseren Autor*innen wird das ab und zu zu viel.
Dennoch: Nur zusammen können wir linke Standpunkte verteidigen!
Mit Ihrer Unterstützung können wir weiterhin:
→ Unabhängige und kritische Berichterstattung bieten.
→ Themen abdecken, die anderswo übersehen werden.
→ Eine Plattform für vielfältige und marginalisierte Stimmen schaffen.
→ Gegen Falschinformationen und Hassrede anschreiben.
→ Gesellschaftliche Debatten von links begleiten und vertiefen.
Seien Sie ein Teil der solidarischen Finanzierung und unterstützen Sie das »nd« mit einem Beitrag Ihrer Wahl. Gemeinsam können wir eine Medienlandschaft schaffen, die unabhängig, kritisch und zugänglich für alle ist.
