‘Verlorene Erinnerungen’: Kriegsverbrecherbeweise durch KI-Mäßigung bedroht

0

Doch in diesem Monat begann der 21-Jährige automatisierte E-Mails von YouTube <Youtube Inc> zu erhalten, in denen er gewarnt wurde, dass seine Videos gegen die Richtlinie verstießen und gelöscht werden würden. Bis zu diesem Monat seien mehr als ein Dutzend seiner Videos entfernt worden, sagte er.

NEW YORK/AMMAN, 19. Juni (Thomson Reuters Foundation) – Von Bombenanschlägen und Protesten bis zur Eröffnung eines neuen Gesundheitszentrums dokumentiert der studentische Journalist Baraa Razzouk seit Jahren das tägliche Leben in Idlib, Syrien, und stellt die Videos auf seinem YouTube-Konto ein.

Von Avi Asher-Schapiro und Ban Barkawi

Doch diese KI-aktivierten Werkzeuge laufen Gefahr, Menschenrechts- und historische Dokumentationen wie Razzouks Videos mit problematischem Material wie terroristischen Inhalten zu verwechseln – insbesondere in kriegszerstörten Ländern wie Syrien und Jemen, warnten Aktivisten für digitale Rechte.

YouTube, Facebook und Twitter warnten im März davor, dass Videos und andere Inhalte fälschlicherweise aufgrund von Richtlinienverstößen entfernt werden könnten, da sie aufgrund der Coronavirus-Pandemie gezwungen waren, ihre Büros zu leeren und sich auf automatisierte Takedown-Software zu verlassen.

“Es ist wirklich wichtig, die (syrischen) Proteste in Videos zu dokumentieren. Ebenso wichtig ist es, die Angriffe der Regimekräfte zu dokumentieren”, sagte er der Thomson Reuters Foundation in einem Telefoninterview. “Das ist etwas, das ich für die Welt dokumentiert hatte, und jetzt ist es gelöscht.

Tun Sie mir einen Gefallen: Bitte TEILEN Sie diesen Beitrag.

Falsche Aufnahmen bedrohen Inhalte wie Videos, die von internationalen Gremien wie dem Internationalen Strafgerichtshof und den Vereinten Nationen als formaler Beweis für Rechtsverletzungen verwendet werden, sagte Dia Kayyali von der Digital Rights Group Witness.

“Sie ist oft nicht in der Lage, die historischen, politischen oder sprachlichen Einstellungen der Beiträge zu beurteilen … Menschenrechtsdokumente und gewalttätige extremistische Vorschläge sind allzu oft nicht zu unterscheiden”, sagte er in einem Telefoninterview.

“KI ist notorisch kontextblind”, sagte Jeff Deutch, ein Forscher für Syrian Archive, eine gemeinnützige Organisation, die Videos aus Konfliktgebieten im Nahen Osten archiviert.

“Es ist ein perfekter Sturm”, sagte der Tech- und Advocacy-Koordinator.

Nachdem die Thomson Reuters Foundation Razzouks Konto bei YouTube markiert hatte, sagte ein Sprecher, die Firma habe die Videos irrtümlich gelöscht, obwohl gegen die Entfernung durch ihr internes Verfahren kein Einspruch erhoben wurde. Sie haben nun 17 der Videos von Razzouk wiederhergestellt.

“Bei dem riesigen Volumen an Videos auf unserer Website machen wir manchmal den falschen Anruf”, sagte der Sprecher in einem Kommentar per E-Mail. “Wenn wir darauf aufmerksam gemacht werden, dass ein Video irrtümlich entfernt wurde, handeln wir schnell, um es wiederherzustellen.

ABGESCHLOSSEN

Letztes Jahr versprachen Social-Media-Unternehmen, extremistische Inhalte zu blockieren, nachdem auf Facebook ein Terroranschlag auf einen Bewaffneten, der 51 Menschen in zwei Moscheen in Christchurch, Neuseeland, tötete, als Livestream übertragen wurde.

Mit Hilfe automatisierter Software entfernt YouTube jährlich Millionen von Videos, und Facebook löschte im vergangenen Jahr mehr als 1 Milliarde Konten wegen Regelverstößen wie dem Posten terroristischer Inhalte.

In den letzten Jahren sind Social-Media-Plattformen unter zunehmenden Druck von Regierungen geraten, gewalttätige Inhalte und Desinformationen schnell von ihren Plattformen zu entfernen – und damit ihre Abhängigkeit von KI-Systemen zu erhöhen.

Unternehmen wie Facebook haben sich auch verpflichtet, Fehlinformationen über den Ausbruch des Coronavirus zu entfernen, die zu drohenden körperlichen Schäden beitragen könnten.

Doch das oberste Gericht des Landes lehnte diese Woche den größten Teil eines Gesetzentwurfs ab, der die Giganten der sozialen Medien gezwungen hätte, alle hasserfüllten Inhalte innerhalb von 24 Stunden zu entfernen.

Die Regierungen sind diesem Beispiel gefolgt und der französische Präsident Emmanuel Macron hat versprochen, Frankreich zu einem Vorreiter bei der Eindämmung der Verbreitung illegaler Inhalte und falscher Informationen auf Social-Media-Plattformen zu machen.

Social-Media-Firmen legen in der Regel nicht offen, wie häufig ihre KI-Tools fälschlicherweise Inhalte entfernen.

VERFOLGEN VON INHALTEN

Dieser Druck in Verbindung mit einer verstärkten Abhängigkeit von der künstlichen Intelligenz während der Pandemie gefährde insbesondere den Inhalt der Menschenrechte, sagte Kayyali.

Daher hat die Gruppe des syrischen Archivs ihre eigenen Daten verwendet, um die zeitliche Entwicklung der Löschungsrate von Menschenrechtsdokumenten über Verbrechen in Syrien, das von fast einem Jahrzehnt Krieg heimgesucht wurde, annähernd abzuschätzen.

“Unsere Untersuchungen deuten darauf hin, dass sich seit Anfang des Jahres die Rate der Inhaltslöschungen von syrischen Menschenrechtsdokumentationen auf YouTube etwa verdoppelt hat (von 13% auf 20%)”, sagte Deutch und bezeichnete den Anstieg als “beispiellos”.

Die Gruppe kennzeichnet Konten, die Menschenrechtsinhalte auf Social-Media-Plattformen veröffentlichen, und archiviert die Beiträge auf ihren Servern. Um die Rate der Löschungen zu schätzen, führen sie jeden Monat ein Skript aus, das den ursprünglichen Beitrag anpingt, um zu sehen, ob er entfernt wurde.

Im Mai stellte das syrische Archiv fest, dass mehr als 350.000 Videos auf YouTube verschwunden waren – gegenüber 200.000 im Mai 2019, darunter Videos von Luftangriffen, Protesten und der Zerstörung von Häusern der Zivilbevölkerung in Syrien.

Deutch sagte, er habe in anderen vom Krieg zerrütteten Ländern der Region, darunter Jemen und Sudan, Content-Übernahmen gesehen. “Nutzer in Konfliktgebieten sind anfälliger”, sagte er.

Anfang dieses Monats begannen die Syrer jedoch, den Hashtag “Facebook kämpft gegen die Revolution von Syran” zu verwenden.
*** Übersetzt mit www.DeepL.com/Translator (kostenlose Version) ***

Share.

Leave A Reply