Foto: Samuel Zeller | Unsplash
Facebook, Twitter, Youtube und Google+ haben die gesetzlich vorgeschriebenen Transparenzberichte zu Meldungen nach dem Netzwerkdurchsetzungsgesetz veröffentlicht. Die Zahlen beziehen sich auf den Zeitraum vom 1. Januar bis 30. Juni 2018.
Alle Plattformen machen Angaben zur Zahl der Beschwerden, die nach dem NetzDG eingereicht wurden. Diese stammen sowohl von individuellen Nutzern als auch unabhängigen Beschwerdestellen. Außerdem wird offen gelegt, wie viele Inhalte gelöscht oder für Nutzer in Deutschland geoblockt wurden und wie groß die jeweils mit der Moderation beauftragten Teams sind.
Youtube
Anzahl der Beschwerden: 214.827 (User: 144.836 | Beschwerdestellen: 69.991)
Anzahl entfernter/gesperrter Inhalte: 58.297 (User: 42.025 | Beschwerdestellen: 16.272)
Bei Youtube werden alle nach dem NetzDG gemeldeten Inhalte auf die 22 im Gesetz enthaltenen Straftatbestände sowie auf die Community-Richtlinien geprüft. Letzteres erfolgt im ersten Schritt. Nach NetzDG wird im Anschluss geprüft. Verstößt der gemeldete Inhalt gegen die Plattform-Richtlinien, wird er gelöscht. Inhalte, die nach einem der 22 Straftatbestände als rechtswidrig eingestuft werden, werden für Deutschland geoblockt. Diesen Weg gehen auch Google+, Facebook und Twitter.
Google+ und Youtube teilen sich ein Moderationsteam von etwa 100 Personen. Für die NetzDG-Beschwerden wurde ein Dienstleister engagiert. Die beiden Google-Netzwerke gehen im Meldeverfahren einen anderen Weg als die anderen Plattformen: Die 22 Straftatbestände, die im Netzwerkdurchsetzungsgesetz zusammen gefasst werden, wurden in sieben Kategorien unterteilt. Google begründet das mit einer Vereinfachung für die meldenden Nutzer. Einzelne Gesetze können in mehreren Kategorien auftauchen.
Youtube setzt außerdem auf verschiedene Mechanismen, um rechtswidrige Inhalte und Verstöße gegen die hauseigenen Richtlinien aufzuspüren. Dazu gehört die Verwendung von Hashes zur automatischen Erkennung von terroristischen und kinderpornographischen Inhalten, die zuvor bereits gesperrt wurden; Machine Learning zur automatisierten Erkennung extremistischer Inhalte und Meldungen durch User.
Die meisten gemeldeten Inhalte, die eine Maßnahme des Moderationsteams zur Folge hatte, verstießen gegen die Community-Richtlinien und wurden entfernt. Der geringere Anteil wurde nach dem NetzDG in Deutschland zurückgehalten. Das heißt allerdings nicht, dass nicht auch ein Anteil der gelöschten Inhalte rechtswidrig war. Die Moderatoren prüfen nur im ersten Schritt auf diese Verstöße.
Quelle: Google
Google+
Anzahl der Beschwerden: 2.769 (User: 2.741 | Beschwerdestellen: 28)
Anzahl entfernter/gesperrter Inhalte: 1.277 (User: 1.257 | Beschwerdestellen: 20)
Google+ hat mehr als 2 Millionen angemeldete Nutzer in Deutschland und fällt damit unter das NetzDG. Die Zahl der aktiven User dürfte dennoch deutlich geringer sein. Einen Google+-Account erhält man beim Anlegen eines Google-Kontos, etwa zur Nutzung von Youtube oder Google Docs, automatisch.
Da Beschwerden bei Youtube und Google+ vom selben Moderationsteam betreut werden, gleichen sich alle Verfahrensweisen.
Quelle: Google
Anzahl der Beschwerden: 886 (User: 773 | Beschwerdestellen: 113)
Anzahl gemeldeter Inhalte: 1.704
Anzahl entfernter/gesperrter Inhalte: 362
Bei Facebook können, wie auf den anderen Plattformen, mehrere Inhalte auf einmal als Verstoß gegen das NetzDG gemeldet werden. Allerdings macht nur Facebook die Unterscheidung zwischen Beschwerden (insgesamt 886) und der Anzahl gemeldeter Inhalte (insgesamt 1.704).
Facebooks Moderationsteam besteht nach Angaben des Unternehmens aus etwa 65 Personen. Im ersten Schritt werden Meldungen bei Facebooks deutschem Dienstleistungspartner Arvato grprüft. Erfolgt keine Entfernung nach den Community-Richtlinien, werden alle Fälle an das Legal Takedown Request Operations Team weitergegeben, das die Inhalte auf Rechtsverstöße prüft. In unklaren Fällen werden unternehmensinterne Juristen konsultiert.
Zur Mehrsprachigkeit des Moderationsteams schreibt Facebook:
Die Mitglieder des Teams verfügen über breit gefächerte sprachliche Kompetenz, darunter Deutsch, Englisch, Französisch, Türkisch und Arabisch, um der Sprachenvielfalt der deutschen Bevölkerung Rechnung zu tragen.
Unerwähnt bleiben die 2 bis 3 Millionen Menschen in Deutschland, die Russisch sprechen.
Die geringe Zahl der Beschwerden, gerade im Vergleich zu Youtube und Twitter, lässt sich durch Facebooks Meldeverfahren für Beschwerden nach dem NetzDG erklären. Während Beschwerden bei Youtube direkt über die bekannte Meldefunktion neben Videos und Kommentaren gemeldet werden können, müssen Facebook-Nutzer ein eigenes Formular nutzen, das nicht direkt über die Posts oder Kommentare aufrufbar ist.
Quelle: Facebook | NetzDG-Meldeformular
Anzahl der Beschwerden: 264.818 (User: 244.064 | Beschwerdestellen: 20.754)
Anzahl entfernter/gesperrter Inhalte: 28.665 (User: 27.112 | Beschwerdestellen: 1.533)
Auch bei Twitter werden Meldungen jeweils nach Verstößen gegen die Community-Richtlinien und das NetzDG geprüft und entsprechend gelöscht oder für User in Deutschland gesperrt.
Bei Twitter arbeiten etwa 50 Personen an der Bearbeitung der Beschwerden. Der größte Anteil der beanstandeten Inhalte wurde als volksverhetzend gemeldet.
Quelle: Twitter
Vergleich: Schwierig.
Auf allen vier Plattformen können Beschwerden über mehrere Inhalte in einer Meldung zusammengefasst werden. Weil aber nur Facebook Auskunft über die Anzahl der Beschwerden und zusätzlich der Anzahl gemeldeter Inhalte macht, gestaltet sich ein Vergleich zwischen den Plattform schwierig. Wenn der durchschnittliche User auf Youtube jeweils ein Video meldet, der durchschnittliche Twitter-User aber drei Tweets, sähen die Verhältnisse zwischen Meldungen und Maßnahmen deutlich anders aus.
| Youtube | Google+ | |||
| Beschwerden | 214.827 | 2.769 | 886 | 264.818 |
| Entfernte & gesperrte Inhalte | 58.297 | 1.277 | 362 | 28.665 |
Interessant ist das Verhältnis von zuständigen Moderatoren und zu bearbeitenden Beschwerden: Youtube und Google+ teilen sich ein Moderationsteam zur Bearbeitung von Beschwerden nach dem NetzDG. Das Team umfasst etwa 100 Menschen. Die Zahl der Beschwerden liegt zusammengefasst bei 217.596 im Zeitraum von Januar bis Ende Juni 2018. Facebook beschäftigt etwa 65 Personen mit NetzDG-Beschwerden. Deren Gesamtzahl liegt bei 886. Bei Twitter waren 50 Personen mit der Bearbeitung von insgesamt 264.818 Beschwerden betraut.
Die Transparenzberichte variieren deutlich in ihrem Umfang. Die Dokumentation von Google+ und Youtube umfasst zusätzlich noch eine Reihe von Beispielen für gemeldete Inhalte. Beispielsweise wurde eine Rede von Angela Merkel sowohl als terroristischer Inhalt als auch als Hassrede gemeldet. Sie spricht im Video über die Zugehörigkeit des Islams zu Deutschland. Youtubes weniger überraschende Entscheidung: Das Video ist in Deutschland weiterhin abrufbar.
Twitters Transparenzbericht fällt am sparsamsten aus: Die zehn Seiten sind mit einer ganzen Sammlung großflächiger Screenshots zur Erklärung des Meldeverfahrens gefüllt.
Ein Ranking der Berichte nach ihrer Wortzahl:
Youtube 5.525
Facebook 3.624
Google+ 3.118
Twitter 969
Das Bundesjustizministerium hat allem Anschein nach für die Darstellung der Zahlen keine konkreten Vorgaben gegeben, sodass die Transparenzberichte jeweils recht unterschiedlich daher kommen. Um die Zahlen zwischen den Plattformen vergleichen zu können, ist jeweils einiger Aufwand nötig. Twitters Übersicht zu den nach den jeweiligen Straftatbeständen gemeldeten Inhalten wurde als Bild in den Bericht eingefügt. Damit ist er nicht durchsuchbar. Im Fall von Youtube und Google+ lassen sich keine Rückschlüsse auf die Entscheidungen nach den jeweiligen Straftatbeständen ziehen.
Gemeldete Verstöße im Überblick
Hier als Google Doc zur freien Verwendung.
Youtube
| Beschwerden | Entfernte/gesperrte Inhalte | |
| Hassrede/Politischer Extremismus | 75.892 | 24.804 |
| Persönlichkeitsrechtverletzung oder Beleidigung | 45.190 | 11.428 |
| Pornografische Inhalte | 27.308 | 7.338 |
| Ungeeignete oder gefährliche Inhalte | 22.813 | 2.765 |
| Gewalt | 21.349 | 3.964 |
| Privatsphäre | 12.460 | 4.673 |
| Terroristische oder verfassungswidrige Inhalte | 9.815 | 3.325 |
Google+
| Beschwerden | Entfernte/gesperrte Inhalte | |
| Hassrede/Politischer Extremismus | 1.121 | 554 |
| Persönlichkeitsrechtverletzung oder Beleidigung | 564 | 196 |
| Terroristische oder verfassungswidrige Inhalte | 409 | 245 |
| Pornografische Inhalte | 249 | 121 |
| Privatsphäre | 153 | 35 |
| Gewalt | 138 | 77 |
| Ungeeignete oder gefährliche Inhalte | 135 | 49 |
| Paragraph | Beschwerden | Entfernte/gesperrte Inhalte |
| Beleidigung (§ 185) | 460 | 114 |
| Üble Nachrede (§ 186) | 407 | 90 |
| Verleumdung (§ 187) | 342 | 66 |
| Volksverhetzung (§ 130) | 247 | 74 |
| Öffentliche Aufforderung zu Straftaten (§ 111) | 123 | 26 |
| Bedrohung (§ 241) | 119 | 31 |
| Belohnung und Billigung von Straftaten (§ 140) | 95 | 21 |
| Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen (§ 201a) | 95 | 16 |
| Beschimpfung von Bekenntnissen, Religionsgesellschaften und Weltanschauungsvereinigungen (§ 166) | 92 | 24 |
| Gewaltdarstellung (§ 131) | 86 | 18 |
| Störung des öffentlichen Friedens durch Androhung von Straftaten (§ 126) | 83 | 16 |
| Verwenden von Kennzeichen verfassungswidriger Organisationen (§ 86a) | 66 | 21 |
| Verbreiten von Propagandamitteln verfassungswidriger Organisationen (§ 86) | 64 | 13 |
| Fälschung beweiserheblicher Daten (§ 269) | 56 | 3 |
| Bildung krimineller oder terroristischer Vereinigungen (§§ 129 – 129b) | 30 | 0 |
| Landesverräterische Fälschung (§ 100a) | 27 | 1 |
| Anleitung zur Begehung einer schweren staatsgefährdenden Gewalttat (§ 91) | 26 | 1 |
| Vorbereitung einer schweren staatsgefährdenden Gewalttat (§ 89a) | 24 | 2 |
| Verbreitung, Erwerb und Besitz kinderpornographischer Schriften (§ 184b in Verbindung mit § 184d) | 19 | 0 |
| Paragraph | Beschwerden | Entfernte/gesperrte Inhalte |
| Volksverhetzung (§ 130) | 82.095 | 10.191 |
| Beleidigung (§ 185) | 75.925 | 4.882 |
| Üble Nachrede (§ 186) | 16.474 | 503 |
| Öffentliche Aufforderung zu Straftaten (§ 111) | 12.179 | 2.363 |
| Beschimpfung von Bekenntnissen, Religionsgesellschaften und Weltanschauungsvereinigungen (§ 166) | 10.867 | 943 |
| Verleumdung (§ 187) | 10.082 | 309 |
| Bedrohung (§ 241) | 8.241 | 1.323 |
| Verbreiten von Propagandamitteln verfassungswidriger Organisationen (§ 86) | 7.416 | 1.019 |
| Verwenden von Kennzeichen verfassungswidriger Organisationen (§ 86a) | 6.505 | 2.522 |
| Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen (§ 201a) | 6.034 | 242 |
| Bildung krimineller oder terroristischer Vereinigungen (§§ 129 – 129b) | 5.770 | 840 |
| Verbreitung, Erwerb und Besitz kinderpornographischer Schriften (§ 184b in Verbindung mit § 184d) | 4.846 | 1.505 |
| Belohnung und Billigung von Straftaten (§ 140) | 4.394 | 619 |
| Störung des öffentlichen Friedens durch Androhung von Straftaten (§ 126) | 4.254 | 539 |
| Gewaltdarstellung (§ 131) | 3.719 | 513 |
| Fälschung beweiserheblicher Daten (§ 269) | 2.167 | 21 |
| Vorbereitung einer schweren staatsgefährdenden Gewalttat (§ 89a) | 1.257 | 143 |
| Landesverräterische Fälschung (§ 100a) | 1.170 | 21 |
| Anleitung zur Begehung einer schweren staatsgefährdenden Gewalttat (§ 91) | 933 | 147 |
Englische Version hier.