Das Meta-Logo; der Aufsichtsrat des Unternehmens denkt über die Mäßigung des Ausdrucks „Vom Fluss zum Meer“ nach. Foto von Getty Images
Von Mira Fox
6. Juni 2024
Als Metas Oversight Board, das über umstrittene Moderationsentscheidungen auf der Plattform entscheidet, die Öffentlichkeit aufforderte, sich dazu zu äußern, ob „from the river to the sea“ als Hassrede betrachtet werden sollte, bekamen sie Tausende von Antworten — die zweithöchste Zahl, die sie je erhalten haben. (Die höchste Zahl erhielt Trump durch sein vorübergehendes Verbot der Plattform.)
Ein übergroßer Anteil dieser Antworten kam von Juden, die in dem Satz, der zum Sinnbild der pro-palästinensischen Bewegung geworden ist, eine existentielle Bedrohung sehen.
„Ich glaube, sie reagieren in so großer Zahl, weil ihnen dieses Thema so wichtig ist“, sagt Steven Terner, ein geopolitischer Berater, der gebeten wurde, den Experten von Meta Source in dieser Angelegenheit zu helfen.
Seit dem Angriff der Hamas auf Israel am 7. Oktober herrscht ein Krieg an zwei Fronten: eine natürlich in Gaza und die andere online. Und die Debatte „vom Fluss bis zum Meer“ steht im Mittelpunkt.
Viele proisraelische Aktivisten verstehen den populären Ruf als Aufruf zur Zerstörung des einzigen jüdischen Staates der Welt. Propalästinensische Aktivisten hingegen sehen jeden Versuch, ihr Engagement zu kontrollieren, als Versuch, Palästinenser zu entmenschlichen oder zu zensieren. Und Plattformen wie Meta, die Muttergesellschaft von Facebook und Instagram, vermitteln diese Debatten.
Nun soll das Oversight Board, ein Team, das Metas Inhaltsmoderation überprüft und verfeinert, drei Fälle über Beiträge mit der Phrase. Diese wurden alle von verschiedenen Benutzern als Verstoß gegen Verbote von Hassreden, Aufrufen zur Gewalt oder Unterstützung gefährlicher Organisationen gemeldet. Die Beiträge sind unterschiedlicher Art – einer ist ein offener Brief, einer ein Kommentar und einer ein Video – und einer wurde von 8 Millionen Menschen gesehen, während ein anderer nur von rund tausend Menschen gesehen wurde. Bei der ersten Moderationsprüfung durften alle online bleiben.
Laut einer Erklärung des Oversight Boards hat Meta seine Richtlinien zu diesem Begriff nach dem 7. Oktober überprüft, aber „stellte fest, dass ohne zusätzlichen Kontext nicht der Schluss gezogen werden kann, dass „vom Fluss zum Meer“ stellt weder einen Aufruf zur Gewalt noch einen Aufruf zum Ausschluss einer bestimmten Gruppe dar, noch ist er ausschließlich mit der Unterstützung der Hamas verbunden.“ Aufgrund der öffentlichen Proteste beschloss das Aufsichtsgremium dennoch, eine eingehendere Bewertung vorzunehmen.
Von welchem Fluss zu welchem Meer?
Bei der Verhandlung des Falls gewährte das Aufsichtsgremium der Öffentlichkeit eine Frist zur Kommentierung, in der sowohl normale Benutzer als auch Experten ihre Meinung äußern konnten. Die Resonanz war überwältigend.
Die Anti-Defamation League reichte eine Stellungnahme Er argumentierte, dass der Ausdruck eine Hassrede darstelle, wies darauf hin, dass er in der Charta der Hamas verwendet wird, und forderte die Plattform auf, Beiträge mit diesem Ausdruck zu zensieren, da er „dazu führt, dass sich Mitglieder der jüdischen und proisraelischen Gemeinschaft unsicher und ausgegrenzt fühlen.“
Mittlerweile hat der Rat für amerikanisch-islamische Beziehungen (Council on American-Islamic Relations, CAIR) eine Erklärung abgegeben, in der es heißt, dass „kein vernünftiger Mensch“ den Ausdruck als antisemitisch bezeichnen würde. Es argumentiert, dass es sich dabei um freie Meinungsäußerung handele und daher stehen bleiben sollte.
„Die Prinzipien der freien Meinungsäußerung sollten die Nutzer sozialer Medien dazu bringen, Ideen miteinander zu diskutieren, und sich nicht gegenseitig zum Schweigen zu bringen“, so CAIRs Stellungnahme zu lesen, und fügte hinzu, dass die Organisation auch die Meta-Polizeiarbeit gegen Israelis, die sich für einen jüdischen Staat vom Fluss bis zum Meer einsetzen, nicht unterstütze.
Da sich jedoch nicht genügend Experten einbrachten, beauftragte Meta eine Firma mit der Recherche. Und so erhielt Jonathan Sarna, Professor für jüdische Geschichte an der Brandeis University in Boston, die Anfrage.
„Wenn es Ausdrücke mit mehreren möglichen Bedeutungen gibt, sind sie alle umstritten“, sagte Sarna gegenüber Meta. „Da wir wissen, dass es im Arabischen noch weitere Wörter gibt“ – Sarna bezieht sich hier auf die arabische Version des Gesangs, die übersetzt „Vom Wasser zum Wasser, Palästina ist arabisch“ bedeutet – „ist es wahr, dass selbst für viele Leute, die es auf Englisch verwenden, ‚wird frei sein‘ ‚wird frei sein von Juden‘ bedeutet.“
„Obwohl ich ganz genau weiß, dass manche Leute es nicht so meinen, wenn sie es verwenden, denke ich, dass es angesichts der Tatsache, dass es auf der Welt genügend andere Ausdrücke gibt, mit denen man ausdrücken kann, was man denkt, durchaus vernünftig ist, Einschränkungen vorzunehmen, anstatt sich an Hassreden mitschuldig zu machen“, schloss er.
Die Blackbox der Moderation
Meta hat in der Vergangenheit mit der Moderation des israelisch-palästinensischen Konflikts zu kämpfen gehabt, einschließlich der Entfernung von Beiträgen, die sich auf die al-Aqsa-Moschee beziehen, weil sie angeblich den Terrorismus unterstützt. Das Verbot der Unterstützung „gefährlicher Organisationen und Einzelpersonen“ führt häufig dazu, dass pädagogische oder journalistische Beiträge entfernt werden – wie zum Beispiel ein Washington Post Artikel, der einen Überblick über den israelisch-palästinensischen Konflikt gibt, der wurde entfernt für die Diskussion über die Hamas als Teil der Geschichte der Region – während andere zurücklassen die offenkundig von Hass geprägt sind, wie etwa ein Beitrag, in dem alle Bewohner des Gazastreifens als „wilde Horde“ bezeichnet werden.
Beide Entscheidungen wurden nach einer Untersuchung durch das Aufsichtsgremium aufgehoben. Das Gremium befasst sich jedoch nicht mit der überwiegenden Mehrheit der Fälle; in den ersten Jahren seines Bestehens verhandelte es 186 Fälle. Um das in den Kontext zu setzen: in einem Quartal 2022haben Benutzer 193.137 Beiträge zur Überprüfung eingereicht.
Die obigen Beispiele scheinen auch relativ eindeutig – es scheint offensichtlich, dass ein journalistischer Beitrag, der die Geschichte der Hamas erklärt, nicht dasselbe ist wie eine Unterstützung. Dennoch waren die anfänglichen Entscheidungen der Moderatoren falsch. Wie kann Meta also eine so fragwürdige Formulierung wie „vom Fluss zum Meer“ zuverlässig moderieren?
Generell hat Meta Schwierigkeiten, konsequent zu moderieren, und das Aufsichtsgremium hat wiederkehrende Probleme festgestellt. Neutrale pädagogische oder journalistische Beiträge werden regelmäßig gelöscht, weil sie terroristische Organisationen benennen, und in zahlreichen Entscheidungen betont das Gremium die Gefahr, die mit der Entfernung journalistischer Beiträge verbunden ist.
„Dies ist ein wiederkehrendes Problem, das besonders häufig während des Israel-Hamas-Konflikts auftrat.„, schrieb das Gremium in der Entscheidung, mit der ein Interview eines Journalisten mit einem Hamas-Führer wieder freigegeben wurde. Und, so fügte es hinzu, derartige Fehler „schränken die freie Meinungsäußerung der Nutzer und den Zugang der Öffentlichkeit zu Informationen erheblich ein und beeinträchtigen den öffentlichen Diskurs.“
Allerdings sind die politischen Empfehlungen des Oversight Board nicht bindend. Meta ist nicht verpflichtet, die vom Board angekündigten Verfahren zu ändern und hat sich aufgrund der damit verbundenen Kosten auch schon oft dagegen entschieden.
Die Moderation von Meta beruht auf einer Mischung aus algorithmischer Moderation und schnellen Entscheidungen durch Moderatorteams, die Tausende von Posts durchgehen; sie sind oft nicht direkt bei Meta angestellt, sondern werden von Vertragspartnern oder Subunternehmern beauftragt.
Darüber hinaus ist der Prozess eine Blackbox. Als ich darum bat, mit jemandem über den Überprüfungsprozess für „From the River to the Sea“ zu sprechen, schickte mir ein Meta-Sprecher eine kurze Erklärung, die wenig Aufschluss gab: „Obwohl wir bei der Entwicklung all unserer Richtlinien auf die Sicherheit achten, wissen wir, dass sie mit globalen Herausforderungen verbunden sind, und wir holen regelmäßig Input von Experten außerhalb von Meta ein, darunter auch vom Oversight Board.“
Fehlender Kontext
Während die Entscheidung, ein Video mit offener körperlicher Gewalt zu verbieten, recht einfach erscheinen mag, gibt es in den sozialen Medien auch viele subtilere Entscheidungen, die ein tiefgreifendes Wissen über die Materie erfordern – wie etwa die sich ständig weiterentwickelnden Hundepfeifen und verschlüsselten Referenzen, die Hassgruppen verwenden. Doch die Tausenden von Mitarbeitern, die weltweit mit diesen Entscheidungen betraut sind, müssen ihre Entscheidungen oft treffen, ohne den relevanten Kontext zu sehen; ein Moderator erzählt Das Markup früher in diesem Jahr dass sie in einer Reihe von Beiträgen oft nur einen einzigen Beitrag sehen würden.
Und im Gegensatz zu den direkten Mitarbeitern von Meta handelt es sich bei den Moderationsteams nicht um gut bezahlte, bequeme Technikjobs; Berichterstattung von Der Rand im Jahr 2019 fand heraus, dass Moderatoren in den USA weniger als 30.000 Dollar im Jahr verdienen, ihre Toilettenpausen überwacht und zeitlich festgelegt werden und sie bei ihrer Arbeit kaum bis gar keine Unterstützung erhalten. Kurz gesagt, sie sind keine Experten, die in der Lage sind, sorgfältige Entscheidungen zu komplizierten Themen zu treffen, die ein tiefes Verständnis der Geschichte oder Geopolitik des Nahen Ostens erfordern, und ihnen wird auch nicht die Zeit gegeben, ihre Entscheidungen sorgfältig abzuwägen.
Selbst wenn Experten hinzugezogen werden, verfügen sie oft nur über wenige Informationen. Steven Terner, der Geopolitikexperte, der Experten für „Vom Fluss bis zum Meer“ sucht, wurde von einem Subunternehmer von Meta angeheuert, nicht von Meta selbst. Und er wusste kaum mehr über das Projekt, als man auf der Website des Oversight Board nachlesen konnte.
„Ich bin Mitglied in verschiedenen Expertennetzwerken von Unternehmen, die solche Projekte übernehmen“, erzählte er mir über Zoom. „Ich weiß nicht wirklich, wer die anderen Experten sind. Ich weiß nur, dass ich eine E-Mail bekommen habe, in der ich gefragt wurde, ob ich an dem Projekt teilnehmen möchte.“
Terner, der 20 Antwortende finden sollte, verschickte eine E-Mail an seine Kontakte. Schnell wurde klar, dass seine E-Mail ein Eigenleben entwickelt hatte und sich weit über sein eigenes Netzwerk hinaus verbreitete. Er sagte, er habe E-Mails von Leuten erhalten, die er nie getroffen hatte und die den Expertenaufruf in ihren Alumni-Gruppen oder über E-Mail-Listenserver gesehen hatten.
„Nach zwei Tagen hatte ich Hunderte“, sagte er. Aber, fügte er hinzu, „sie deuteten an, dass die Antwortenden nicht vielfältig genug seien. Die meisten meiner Antwortenden kamen aus jüdischen Interessengruppen und dem Klerus“, obwohl er klarstellte, dass dies nicht direkt gesagt wurde – und von seiner Seite unbeabsichtigt war.
Für Terner war dies nicht das erste Mal, dass er an einem derartigen Projekt arbeitete. Er sagte, dass er seit Beginn des Krieges Medienkritiken und Übersetzungen für Social-Media-Unternehmen durchgeführt habe. Er wird Tausende von Videos erhalten, die sich im Internet verbreitet haben, und gebeten werden, diese zu übersetzen und zu erklären.
„Es war cool, wurde sehr gut bezahlt, aber Videos anzuschauen – der Inhalt konnte anstößig sein, es konnte Unsinn sein, es konnte gewalttätig sein, es konnte verstörend sein“, sagte Terner. „Ich vermisse es nicht.“
Obwohl Terner nicht entscheidet, welche Beiträge stehen bleiben und welche entfernt werden, sind seine Informationen wahrscheinlich ausschlaggebend für Moderatoren, die sonst keinen Kontext für die Videos hätten. Das ist hilfreich – es ist sicherlich besser, als keine Experteninformationen zu haben –, aber Terner sagte, er fühle sich auch nicht in der Lage, die Videos vollständig zu kontextualisieren.
„Ich denke, es ist irgendwie problematisch, so abgeschnitten zu sein, weil man manchmal nicht wirklich versteht, wonach man sucht“, sagte er.
Besonders bei einer viel diskutierten Formulierung wie „vom Fluss bis zum Meer“ ist der Kontext oft entscheidend. Wurde die Formulierung in dem Beitrag wie üblich in „Palästina wird frei sein“ fortgeführt? War dies mit dem erklärten Wunsch verbunden, Israel zu zerstören, oder handelte es sich um einen vagen Beitrag über die Beendigung des Krieges? Waren die Beiträge tatsächlich Israelis und äußerten den Wunsch, dass Israel das Land zwischen dem Jordan und dem Mittelmeer kontrolliert?
Vielleicht wird das Aufsichtsgremium beschließen, einen Präzedenzfall zu schaffen und den Ausdruck zu verbieten, unabhängig vom Kontext. Aber das scheint unwahrscheinlich; fast alle Moderationsentscheidungen scheinen kontextbezogen zu sein. Leider bekommen diejenigen, die jeden Tag die eigentlichen Entscheidungen treffen, keinen davon.
Ich hoffe, Ihnen hat dieser Artikel gefallen. Bevor Sie gehen, möchte ich Sie bitten, den preisgekrönten gemeinnützigen Journalismus des Forward in dieser kritischen Zeit zu unterstützen.
Mehr denn je brauchen amerikanische Juden unabhängige Nachrichten, denen sie vertrauen können, mit Berichterstattung, die von Wahrheit und nicht von Ideologie bestimmt ist. Wir dienen Ihnen, nicht irgendeiner ideologischen Agenda.
In einer Zeit, in der andere Redaktionen schließen oder ihre Produktion einschränken, hat der Forward seine Paywall entfernt und zusätzliche Ressourcen investiert, um vor Ort in Israel und den USA über die Auswirkungen des Krieges, den zunehmenden Antisemitismus und die Proteste auf den Universitätsgeländen zu berichten.
Leser wie Sie machen das alles möglich. Unterstützen Sie unsere Arbeit, indem Sie Forward-Mitglied werden und sich mit unserem Journalismus und Ihrer Community verbinden.
Machen Sie eine Spende in beliebiger Höhe und werden Sie noch heute Forward-Mitglied. Sie unterstützen unsere Mission, die Geschichte der amerikanischen Juden umfassend und fair zu erzählen.
— Rachel Fishman Feddersen, Herausgeberin und CEO
