Im Vergleich: Social-Media-Plattformen veröffentlichen Transparenzberichte zu geblocktem Content

 

Facebook, Twitter, Youtube und Google+ haben die gesetzlich vorgeschriebenen Transparenzberichte zu Meldungen nach dem Netzwerkdurchsetzungsgesetz veröffentlicht. Die Zahlen beziehen sich auf den Zeitraum vom 1. Januar bis 30. Juni 2018.

Alle Plattformen machen Angaben zur Zahl der Beschwerden, die nach dem NetzDG eingereicht wurden. Diese stammen sowohl von individuellen Nutzern als auch unabhängigen Beschwerdestellen. Außerdem wird offen gelegt, wie viele Inhalte gelöscht oder für Nutzer in Deutschland geoblockt wurden und wie groß die jeweils mit der Moderation beauftragten Teams sind.

Youtube

Anzahl der Beschwerden: 214.827 (User: 144.836 | Beschwerdestellen: 69.991)
Anzahl entfernter/gesperrter Inhalte: 58.297 (User: 42.025 | Beschwerdestellen: 16.272)

Bei Youtube werden alle nach dem NetzDG gemeldeten Inhalte auf die 22 im Gesetz enthaltenen Straftatbestände sowie auf die Community-Richtlinien geprüft. Letzteres erfolgt im ersten Schritt. Nach NetzDG wird im Anschluss geprüft. Verstößt der gemeldete Inhalt gegen die Plattform-Richtlinien, wird er gelöscht. Inhalte, die nach einem der 22 Straftatbestände als rechtswidrig eingestuft werden, werden für Deutschland geoblockt. Diesen Weg gehen auch Google+, Facebook und Twitter.

Google+ und Youtube teilen sich ein Moderationsteam von etwa 100 Personen. Für die NetzDG-Beschwerden wurde ein Dienstleister engagiert. Die beiden Google-Netzwerke gehen im Meldeverfahren einen anderen Weg als die anderen Plattformen: Die 22 Straftatbestände, die im Netzwerkdurchsetzungsgesetz zusammen gefasst werden, wurden in sieben Kategorien unterteilt. Google begründet das mit einer Vereinfachung für die meldenden Nutzer. Einzelne Gesetze können in mehreren Kategorien auftauchen.

Youtube setzt außerdem auf verschiedene Mechanismen, um rechtswidrige Inhalte und Verstöße gegen die hauseigenen Richtlinien aufzuspüren. Dazu gehört die Verwendung von Hashes zur automatischen Erkennung von terroristischen und kinderpornographischen Inhalten, die zuvor bereits gesperrt wurden; Machine Learning zur automatisierten Erkennung extremistischer Inhalte und Meldungen durch User.

Die meisten gemeldeten Inhalte, die eine Maßnahme des Moderationsteams zur Folge hatte, verstießen gegen die Community-Richtlinien und wurden entfernt. Der geringere Anteil wurde nach dem NetzDG in Deutschland zurückgehalten. Das heißt allerdings nicht, dass nicht auch ein Anteil der gelöschten Inhalte rechtswidrig war. Die Moderatoren prüfen nur im ersten Schritt auf diese Verstöße.

Quelle: Google

Google+

Anzahl der Beschwerden: 2.769 (User: 2.741 | Beschwerdestellen: 28)
Anzahl entfernter/gesperrter Inhalte: 1.277 (User: 1.257 | Beschwerdestellen: 20)

Google+ hat mehr als 2 Millionen angemeldete Nutzer in Deutschland und fällt damit unter das NetzDG. Die Zahl der aktiven User dürfte dennoch deutlich geringer sein. Einen Google+-Account erhält man beim Anlegen eines Google-Kontos, etwa zur Nutzung von Youtube oder Google Docs, automatisch.

Da Beschwerden bei Youtube und Google+ vom selben Moderationsteam betreut werden, gleichen sich alle Verfahrensweisen.

Quelle: Google

Facebook

Anzahl der Beschwerden: 886 (User: 773 | Beschwerdestellen: 113)
Anzahl gemeldeter Inhalte: 1.704
Anzahl entfernter/gesperrter Inhalte: 362

Bei Facebook können, wie auf den anderen Plattformen, mehrere Inhalte auf einmal als Verstoß gegen das NetzDG gemeldet werden. Allerdings macht nur Facebook die Unterscheidung zwischen Beschwerden (insgesamt 886) und der Anzahl gemeldeter Inhalte (insgesamt 1.704).

Facebooks Moderationsteam besteht nach Angaben des Unternehmens aus etwa 65 Personen. Im ersten Schritt werden Meldungen bei Facebooks deutschem Dienstleistungspartner Arvato grprüft. Erfolgt keine Entfernung nach den Community-Richtlinien, werden alle Fälle an das Legal Takedown Request Operations Team weitergegeben, das die Inhalte auf Rechtsverstöße prüft. In unklaren Fällen werden unternehmensinterne Juristen konsultiert.

Zur Mehrsprachigkeit des Moderationsteams schreibt Facebook:

Die Mitglieder des Teams verfügen über breit gefächerte sprachliche Kompetenz, darunter Deutsch, Englisch, Französisch, Türkisch und Arabisch, um der Sprachenvielfalt der deutschen Bevölkerung Rechnung zu tragen.

Unerwähnt bleiben die 2 bis 3 Millionen Menschen in Deutschland, die Russisch sprechen.

Die geringe Zahl der Beschwerden, gerade im Vergleich zu Youtube und Twitter, lässt sich durch Facebooks Meldeverfahren für Beschwerden nach dem NetzDG erklären. Während Beschwerden bei Youtube direkt über die bekannte Meldefunktion neben Videos und Kommentaren gemeldet werden können, müssen Facebook-Nutzer ein eigenes Formular nutzen, das nicht direkt über die Posts oder Kommentare aufrufbar ist.

Quelle: Facebook | NetzDG-Meldeformular

Twitter

Anzahl der Beschwerden: 264.818 (User: 244.064 | Beschwerdestellen: 20.754)
Anzahl entfernter/gesperrter Inhalte: 28.665 (User: 27.112 | Beschwerdestellen: 1.533)

Auch bei Twitter werden Meldungen jeweils nach Verstößen gegen die Community-Richtlinien und das NetzDG geprüft und entsprechend gelöscht oder für User in Deutschland gesperrt.

Bei Twitter arbeiten etwa 50 Personen an der Bearbeitung der Beschwerden. Der größte Anteil der beanstandeten Inhalte wurde als volksverhetzend gemeldet.

Quelle: Twitter

Vergleich: Schwierig.

Auf allen vier Plattformen können Beschwerden über mehrere Inhalte in einer Meldung zusammengefasst werden. Weil aber nur Facebook Auskunft über die Anzahl der Beschwerden und zusätzlich der Anzahl gemeldeter Inhalte macht, gestaltet sich ein Vergleich zwischen den Plattform schwierig. Wenn der durchschnittliche User auf Youtube jeweils ein Video meldet, der durchschnittliche Twitter-User aber drei Tweets, sähen die Verhältnisse zwischen Meldungen und Maßnahmen deutlich anders aus.

Youtube Google+ Facebook Twitter
Beschwerden 214.827 2.769 886 264.818
Entfernte & gesperrte Inhalte 58.297 1.277 362 28.665

Interessant ist das Verhältnis von zuständigen Moderatoren und zu bearbeitenden Beschwerden: Youtube und Google+ teilen sich ein Moderationsteam zur Bearbeitung von Beschwerden nach dem NetzDG. Das Team umfasst etwa 100 Menschen. Die Zahl der Beschwerden liegt zusammengefasst bei 217.596 im Zeitraum von Januar bis Ende Juni 2018. Facebook beschäftigt etwa 65 Personen mit NetzDG-Beschwerden. Deren Gesamtzahl liegt bei 886. Bei Twitter waren 50 Personen mit der Bearbeitung von insgesamt 264.818 Beschwerden betraut.

Die Transparenzberichte variieren deutlich in ihrem Umfang. Die Dokumentation von Google+ und Youtube umfasst zusätzlich noch eine Reihe von Beispielen für gemeldete Inhalte. Beispielsweise wurde eine Rede von Angela Merkel sowohl als terroristischer Inhalt als auch als Hassrede gemeldet. Sie spricht im Video über die Zugehörigkeit des Islams zu Deutschland. Youtubes weniger überraschende Entscheidung: Das Video ist in Deutschland weiterhin abrufbar.

Twitters Transparenzbericht fällt am sparsamsten aus: Die zehn Seiten sind mit einer ganzen Sammlung großflächiger Screenshots zur Erklärung des Meldeverfahrens gefüllt.

Ein Ranking der Berichte nach ihrer Wortzahl:

Youtube 5.525
Facebook 3.624
Google+ 3.118
Twitter 969

Das Bundesjustizministerium hat allem Anschein nach für die Darstellung der Zahlen keine konkreten Vorgaben gegeben, sodass die Transparenzberichte jeweils recht unterschiedlich daher kommen. Um die Zahlen zwischen den Plattformen vergleichen zu können, ist jeweils einiger Aufwand nötig. Twitters Übersicht zu den nach den jeweiligen Straftatbeständen gemeldeten Inhalten wurde als Bild in den Bericht eingefügt. Damit ist er nicht durchsuchbar. Im Fall von Youtube und Google+ lassen sich keine Rückschlüsse auf die Entscheidungen nach den jeweiligen Straftatbeständen ziehen.


Gemeldete Verstöße im Überblick

Hier als Google Doc zur freien Verwendung.

Youtube

Beschwerden Entfernte/gesperrte Inhalte
Hassrede/Politischer Extremismus 75.892 24.804
Persönlichkeitsrechtverletzung oder Beleidigung 45.190 11.428
Pornografische Inhalte 27.308 7.338
Ungeeignete oder gefährliche Inhalte 22.813 2.765
Gewalt 21.349 3.964
Privatsphäre 12.460 4.673
Terroristische oder verfassungswidrige Inhalte 9.815 3.325

Google+

Beschwerden Entfernte/gesperrte Inhalte
Hassrede/Politischer Extremismus 1.121 554
Persönlichkeitsrechtverletzung oder Beleidigung 564 196
Terroristische oder verfassungswidrige Inhalte 409 245
Pornografische Inhalte 249 121
Privatsphäre 153 35
Gewalt 138 77
Ungeeignete oder gefährliche Inhalte 135 49

Facebook

Paragraph Beschwerden Entfernte/gesperrte Inhalte
Beleidigung (§ 185) 460 114
Üble Nachrede (§ 186) 407 90
Verleumdung (§ 187) 342 66
Volksverhetzung (§ 130) 247 74
Öffentliche Aufforderung zu Straftaten (§ 111) 123 26
Bedrohung (§ 241) 119 31
Belohnung und Billigung von Straftaten (§ 140) 95 21
Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen (§ 201a) 95 16
Beschimpfung von Bekenntnissen, Religionsgesellschaften und Weltanschauungsvereinigungen (§ 166) 92 24
Gewaltdarstellung (§ 131) 86 18
Störung des öffentlichen Friedens durch Androhung von Straftaten (§ 126) 83 16
Verwenden von Kennzeichen verfassungswidriger Organisationen (§ 86a) 66 21
Verbreiten von Propagandamitteln verfassungswidriger Organisationen (§ 86) 64 13
Fälschung beweiserheblicher Daten (§ 269) 56 3
Bildung krimineller oder terroristischer Vereinigungen (§§ 129 – 129b) 30 0
Landesverräterische Fälschung (§ 100a) 27 1
Anleitung zur Begehung einer schweren staatsgefährdenden Gewalttat (§ 91) 26 1
Vorbereitung einer schweren staatsgefährdenden Gewalttat (§ 89a) 24 2
Verbreitung, Erwerb und Besitz kinderpornographischer Schriften (§ 184b in Verbindung mit § 184d) 19 0

Twitter

Paragraph Beschwerden Entfernte/gesperrte Inhalte
Volksverhetzung (§ 130) 82.095 10.191
Beleidigung (§ 185) 75.925 4.882
Üble Nachrede (§ 186) 16.474 503
Öffentliche Aufforderung zu Straftaten (§ 111) 12.179 2.363
Beschimpfung von Bekenntnissen, Religionsgesellschaften und Weltanschauungsvereinigungen (§ 166) 10.867 943
Verleumdung (§ 187) 10.082 309
Bedrohung (§ 241) 8.241 1.323
Verbreiten von Propagandamitteln verfassungswidriger Organisationen (§ 86) 7.416 1.019
Verwenden von Kennzeichen verfassungswidriger Organisationen (§ 86a) 6.505 2.522
Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen (§ 201a) 6.034 242
Bildung krimineller oder terroristischer Vereinigungen (§§ 129 – 129b) 5.770 840
Verbreitung, Erwerb und Besitz kinderpornographischer Schriften (§ 184b in Verbindung mit § 184d) 4.846 1.505
Belohnung und Billigung von Straftaten (§ 140) 4.394 619
Störung des öffentlichen Friedens durch Androhung von Straftaten (§ 126) 4.254 539
Gewaltdarstellung (§ 131) 3.719 513
Fälschung beweiserheblicher Daten (§ 269) 2.167 21
Vorbereitung einer schweren staatsgefährdenden Gewalttat (§ 89a) 1.257 143
Landesverräterische Fälschung (§ 100a) 1.170 21
Anleitung zur Begehung einer schweren staatsgefährdenden Gewalttat (§ 91) 933 147

Englische Version hier.

Schreibe einen Kommentar

Pflichtfelder sind mit * markiert.