Das Versäumnis von Facebook, nicht-englischen Sprachen Aufmerksamkeit zu schenken, lässt Hassreden florieren

0

The Conversation ist eine unabhängige Quelle für Nachrichten und Meinungen, die aus der akademischen und Forschungsgemeinschaft stammen und direkt der Öffentlichkeit zur Verfügung gestellt werden.Unser Team von professionellen Redakteuren arbeitet mit Experten von Universitäten, CSIRO und Forschungsinstituten zusammen, um ihr Wissen für die breite Öffentlichkeit zugänglich zu machen.Der Zugang zu unabhängigem, qualitativ hochwertigem, authentifiziertem und erklärendem Journalismus untermauert eine funktionierende Demokratie.Unser Ziel ist es, ein besseres Verständnis für aktuelle Ereignisse und komplexe Sachverhalte zu ermöglichen.Und hoffentlich eine bessere Qualität des öffentlichen Diskurses und der Gespräche ermöglichen.

Wenn Sie wie viele australische Muslime Hassreden an Facebook gemeldet haben und eine automatische Antwort erhalten haben, die besagt, dass sie nicht gegen dieGemeinschaftsstandards , Sie sind nicht allein.

Wir und unser Team sind die ersten australischen Sozialwissenschaftler, die durch die Forschungspreise für Inhaltspolitik von Facebook finanziert werden, mit denen wir Hassreden auf LGBTQI+-Community-Seiten untersucht habenfünf asiatische Länder: Indien, Myanmar, Indonesien, die Philippinen und Australien.

Wir haben uns über einen Zeitraum von 18 Monaten drei Aspekte der Regulierung von Hassrede im asiatisch-pazifischen Raum angesehen.Zuerst haben wir das Gesetz über Hassrede in unseren Fallstudienländern kartiert, um zu verstehen, wie diesem Problem rechtlich begegnet werden könnte.Wir haben auch untersucht, ob Facebooks Definition von „Hassrede“ alle anerkannten Formen und Kontexte für dieses beunruhigende Verhalten umfasst.

Darüber hinaus haben wir die Content-Regulierungsteams von Facebook kartiert und mit den Mitarbeitern darüber gesprochen, wie die Richtlinien und Verfahren des Unternehmens funktionieren, um neue Formen von Hass zu erkennen.

Obwohl Facebook unsere Studie finanziert hat, können wir aus Datenschutzgründen keinen Zugriff auf einen Datensatz der entfernten Hassreden gewähren.Wir konnten daher nicht testen, wie effektiv die hauseigenen Moderatoren Hass klassifizieren.

Stattdessen haben wir Beiträge und Kommentare von den drei wichtigsten öffentlichen LGBTQI+-Facebook-Seiten in jedem Land erfasst, um nach Hassreden zu suchen, die entweder von den maschinellen Intelligenzfiltern der Plattform oder menschlichen Moderatoren übersehen wurden.

Wir haben die Administratoren dieser Seiten zu ihren Erfahrungen mit der Moderation von Hass befragt und darüber, was Facebook ihrer Meinung nach tun könnte, um Missbrauch zu reduzieren.

Sie sagten uns, dass Facebook ihre Berichte über Hassreden oft ablehnt, selbst wenn der Beitrag eindeutig gegen seine Gemeinschaftsstandards verstößt.In einigen Fällen wurden Nachrichten, die ursprünglich entfernt wurden, bei Berufung erneut gepostet.

Die meisten Seitenadministratoren sagten, dass der sogenannte „Flagging“-Prozess selten funktioniert und sie ihn als entmachtend empfanden.Sie wollten, dass Facebook sie mehr konsultiert, um eine bessere Vorstellung davon zu bekommen, welche Arten von Missbrauch sie gepostet sehen und warum sie in ihrem kulturellen Kontext Hassreden darstellen.

Weiterlesen: Die Rache der Moderatoren: Die Online-Mitarbeiter von Facebook haben es satt, wie Bots behandelt zu werden

Facebook hat seit langem ein Problem mit dem Ausmaß und Umfang von Hassreden auf seiner Plattform in Asien.Während zum Beispiel einige Hindu-Extremisten gesperrt wurden, hat sie ihre Seiten online gelassen.

Während unserer Studie stellten wir jedoch erfreut fest, dass Facebook seine Definition von Hassrede erweitert hat, die nun ein breiteres Spektrum an hasserfülltem Verhalten erfasst.Es erkennt auch ausdrücklich an, dass das, was online passiert, Offline-Gewalt auslösen kann.Wir haben festgestellt, dass andere Vorschriften wie Cybersicherheit oder Gesetze zur religiösen Toleranz verwendet werden könnten, um gegen Hassreden vorzugehen, aber stattdessen eher dazu verwendet werden, politische Meinungsverschiedenheiten zu unterdrücken.

Wir kamen zu dem Schluss, dass Facebooks Problem nicht darin besteht, Hass zu definieren, sondern bestimmte Arten von Hass nicht identifizieren zu können, wie z. B. in Minderheitensprachen und regionalen Dialekten.Es reagiert auch oft nicht angemessen auf Benutzerberichte über Hassinhalte.

Medienberichte haben gezeigt, dass Facebook Schwierigkeiten hat, Hass in Minderheitensprachen automatisch zu identifizieren.Es hat versäumt, seinen eigenen Moderatoren Schulungsmaterialien in lokalen Sprachen zur Verfügung zu stellen, obwohl viele aus Ländern des asiatisch-pazifischen Raums stammen, in denen Englisch nicht die Muttersprache ist.

Insbesondere auf den Philippinen und in Indonesien haben wir festgestellt, dass LGBTIQ+-Gruppen einem inakzeptablen Maß an Diskriminierung und Einschüchterung ausgesetzt sind.Dazu gehören Morddrohungen, Angriffe auf Muslime und Drohungen mit Steinigung oder Enthauptung.

Auf indischen Seiten konnten Facebook-Filter Erbrechen-Emojis nicht erfassen, die als Reaktion auf schwule Hochzeitsfotos gepostet wurden, und lehnten einige sehr klare Berichte über Verleumdung ab.

In Australien hingegen haben wir keine unmoderierten Hassreden gefunden, sondern nur andere Arten von unsensiblen und unangemessenen Kommentaren.Dies könnte darauf hindeuten, dass weniger Missbrauch gepostet wird oder dass es eine effektivere englischsprachige Moderation von Facebook oder Seitenadministratoren gibt.

In ähnlicher Weise erlebten LGBTIQ+-Gruppen in Myanmar sehr wenig Hassreden.Wir sind uns jedoch bewusst, dass Facebook hart daran arbeitet, Hassreden auf seiner dortigen Plattform zu reduzieren, nachdem es dazu verwendet wurde, die muslimische Minderheit der Rohingya zu verfolgen.

Außerdem ist die Geschlechterdiversität in Myanmar wahrscheinlich kein so brisantes Thema wie in Indien , Indonesien und den Philippinen.In diesen Ländern sind LGBTIQ+-Rechte stark politisiert.

Facebook hat einige wichtige Schritte zur Bekämpfung von Hassreden unternommen.Wir sind jedoch besorgt, dass COVID-19 die Plattform dazu gezwungen hat, stärker auf Maschinenmoderation angewiesen zu sein.Auch das zu einer Zeit, in der Hass nur in etwa 50 Sprachen automatisch erkannt werden kann – obwohl in der Region täglich Tausende gesprochen werden .

Unser Bericht an Facebook enthält mehrere wichtige Empfehlungen, um seinen Ansatz zur Bekämpfung von Hass auf seiner Plattform zu verbessern.Insgesamt haben wir das Unternehmen aufgefordert, sich regelmäßiger mit verfolgten Gruppen in der Region zu treffen, damit es mehr über Hass in ihren lokalen Kontexten und Sprachen erfahren kann.

Dies muss zusammen mit einer Erhöhung der Zahl der Länderpolitikspezialisten und internen Moderatoren mit Fachwissen über Minderheitensprachen erfolgen.

Als Spiegel der Bemühungen von in Europa muss Facebook auch seinen vertrauenswürdigen Partnerkanal entwickeln und bekannt machen.Dies bietet sichtbare, offizielle Partnerorganisationen zur Meldung von Hassreden, über die Menschen in Krisen wie den Anschlägen auf die Moschee in Christchurch Hassaktivitäten direkt an Facebook melden können.

Im Allgemeinen möchten wir, dass Regierungen und NGOs zusammenarbeiten, um einen regionalen Prozess zur Überwachung von Hassreden in Asien einzurichten, ähnlich dem von der Europäischen Union organisierten .

Lesen Sie mehr: Warum Facebook seinen eigenen „Obersten Gerichtshof“ für die Beurteilung von Inhalten geschaffen hat – 6 beantwortete Fragen

Fiona R Martin und Aim Sinpeng von der University of Sydney erhielten zusammen mit Katharine Gelber und Kirril Shields von der University of Queensland Content Policy on Social Media Research Funding von Facebook.Martin ist außerdem leitender Ermittler des vom australischen Forschungsrat finanzierten Discovery-Projekts “Platform Governance: Rethinking Internet Regulation as Media Policy” (DP190100222).

, Anteile an einem Unternehmen oder einer Organisation besitzen oder Gelder von einem Unternehmen oder einer Organisation erhalten, das von diesem Artikel profitieren würde, und hat keine relevanten Verbindungen über seine akademische Ernennung hinaus bekannt gegeben.

Die Konversation ist eine unabhängige Quelle für Nachrichten und Ansichten,aus der akademischen und Forschungsgemeinschaft und direkt an die Öffentlichkeit geliefert. Unser Team von professionellen Redakteuren arbeitet mit Experten von Universitäten, CSIRO und Forschungsinstituten zusammen, um ihr Wissen für die breite Öffentlichkeit zugänglich zu machen. Zugang zu unabhängigen, hochwertigen, authentifizierten, erklärendenJournalismus untermauert eine funktionierende Demokratie. Unser Ziel ist es, ein besseres Verständnis für aktuelle Ereignisse und komplexe Sachverhalte zu ermöglichen und hoffentlich eine bessere Qualität des öffentlichen Diskurses zu ermöglichenGespräche.

.

Share.

Leave A Reply