Fünf Jahre NetzDG: Was tun gegen Hassrede im Internet?

Illustration "große Finger zeigen auf eine Person"
Autorin: Carola Hoffmeister 09.08.2022

Das Gesetz zur Verbesserung der Rechts­durch­setzung in sozialen Netz­werken, kurz NetzDG, wurde 2017 verabschiedet. Der damalige Justiz­minister Heiko Maas wollte damit eine rechtliche Grundlage für das Löschen von Hass­kommentaren in sozialen Netzwerken schaffen und dadurch die Unternehmen bei Hassrede und digitaler Gewalt in die Pflicht nehmen. Jetzt wird es durch den Digital Services Act weitgehend abgelöst. Nadine Brömme von das NETTZ, der Vernetzungs­stelle gegen Hate Speech, und Sina Laubenstein von der Gesellschaft für Freiheitsrechte (GFF) ziehen Bilanz in einem Gespräch über das umstrittene Gesetz, das im Februar eine neue Novellierung erfuhr: Unternehmen sollen straf­rechtlich relevante Inhalte nun nicht nur löschen, sondern auch beim Bundes­kriminal­amt (BKA) melden.

Welche Bilanz ziehen Sie nach fünf Jahren NetzDG, Nadine Brömme und Sina Laubenstein?

Sina Laubenstein: Als es mit dem NetzDG losging und es die ersten Gespräche über ein solches Gesetz geben sollte, war ich begeistert, dass das Thema endlich ernst genommen wird. Denn 2016 und 2017 hieß es bei Gesprächen mit Vertreter*innen aus Politik, Straf­verfolgung oder Medien über digitale Gewalt und Hassrede im Netz häufig: „Du bist doch selbst schuld, wenn du mit Hass­kommentaren konfrontiert wirst. Logg dich einfach aus den sozialen Netz­werken aus und klapp den Laptop zu!“ Doch aus heutiger Sicht sehe ich das NetzDG eher kritisch. In erster Linie, weil private Unternehmen die Entscheidung darüber treffen, was als straf­rechtlich relevant erachtet wird.

Das heißt, die Unternehmen löschen eigen­initiativ oder auf Meldung hin Beiträge von ihren Plattformen – Verleumdungen zum Beispiel, Beleidigungen und Volks­verhetzung.

Nadine Brömme: Genau. Vor fünf Jahren haben wir in erster Linie über Hatespeech gesprochen. Seit der Pandemie gibt es noch mehr Hass­rede und Desinformation. Dass sich beides nicht trennen lässt, sehen wir am Beispiel von Renate Künast. Die Grünen-Politikerin hatte gegen den Facebook-Konzern Meta geklagt, weil dort ein Falsch­zitat von ihr kursierte. Nun müssen auf gerichtliche Anweisung hin auch Varianten des Zitats entfernt werden. Vielleicht verschwinden dank des NetzDG mehr Inhalte als früher. Durch die Zunahme an Desinformation, Falsch­nachrichten und Verschwörungs­erzählungen kommen aber auch immer mehr Inhalte hinzu. Die Rechts­durch­setzung funktioniert nicht.

Sina Laubenstein
© Ahmed Ali

Sina Laubenstein ist Politik­wissen­schaftlerin und arbeitet seit 2021 bei der Gesellschaft für Freiheits­rechte zum Thema digitaler Gewalt­schutz. Bei den Neuen deutschen Medien­macher*innen leitete sie zuvor das Projekt „Die Würde des Menschen ist unhassbar – No Hate Speech“, das unter anderem die Umsetzung der Europarats-Initiative No Hate Speech Movement in Deutschland umfasst. Außerdem berät sie zivil­gesell­schaftliche und politische Akteurinnen und Akteure zu Strategien im Umgang mit Extremismus und Online-Hatespeech.

Illustration "große Finger zeigen auf eine Person"
© iStock
Nadine Brömme
© Andi Weiland

Nadine Brömme beschäftigt sich seit mehr als zehn Jahren mit digitaler Kommunikation und begleitet digitale Transformations­prozesse für zivil­gesell­schaftliche Organisationen und Unternehmen. Ihr besonderes Interesse gilt dem Einfluss der Digitalisierung auf den gesell­schaftlichen Diskurs. Dieser Frage geht sie seit 2017 im betterplace lab als Co-Leiterin für das NETTZ nach, der Vernetzungs­stelle gegen Hate Speech.

Einer Studie zufolge begegnet jede*r Dritte Hass­kommentaren im Internet.

Nadine Brömme: Wir alle müssen uns bewusst machen, dass tagtäglich Menschen wegen ihrer Hautfarbe, ihrer Religions­zugehörigkeit oder ihrer sexuellen Identität angegriffen werden. Oder schlicht deshalb, weil sie ihre Meinung äußern. Das betrifft auch Menschen wie Sina und mich. Wir sind zwar weiße Frauen und damit sicher ein Stück weit privilegiert. Aber wir setzen uns für demokratische Werte ein, und auch das ist ein Grund, im Netz angegriffen zu werden.

Sina Laubenstein: Ich war gerade erst auf einer Veranstaltung, auf der es darum ging, dass digitale Gewalt immer noch als After­thought zu analoger Gewalt gedacht wird. Digitale Gewalt ist jedoch nicht zweitrangig, sondern steht auf einer Ebene mit analoger Gewalt. Das Bewusstsein dafür ist zwar gewachsen, aber noch keine Selbst­verständlichkeit – insbesondere bei Straf­verfolgungs­behörden.

In den fünf Jahren, in denen es das NetzDG gibt, ist es wirklich nur begrenzt gelungen, Dinge zu verbessern. Die Dynamik im Netz ist einfach sehr schnell und die gesetzliche Ebene sehr langsam.

Sina Laubenstein

Inwiefern hilft das NetzDG?

Nadine Brömme: Es ist natürlich schon wegweisend, dass es ein Instrument gibt, das den digitalen Raum reglementieren soll. Wobei es die bestehende Rechts­durch­setzung ist, die nun auf das Digitale über­tragen werden soll. Aber ich sehe es ähnlich kritisch wie Sina. Es gibt beispiels­weise eine Unter­suchung vom Counter Extremism Project, die zeigt, dass der „notice and take down“-Ansatz nicht wirklich funktioniert. YouTube hat Zugang zu illegalen Videos, die in einer Stichprobe gemeldet wurden, nur zu 35 Prozent gesperrt oder gelöscht. Facebook hat die gemeldeten Fotos zwar gesperrt, aber damit im Zusammen­hang stehende rechts­widrige Inhalte blieben bestehen.

Sina Laubenstein: In den fünf Jahren, in denen es das NetzDG gibt, ist es wirklich nur begrenzt gelungen, Dinge zu verbessern. Die Dynamik im Netz ist einfach sehr schnell und die gesetzliche Ebene sehr langsam.

Liegt es an der Trägheit der Behörden, dass es nicht gut funktioniert? Dass die Polizei Straftaten im Netz nicht richtig ernst nimmt, ergab ja auch das Experiment von Jan Böhmermann in der Satire­sendung „ZDF Magazin Royale“ Ende Mai.

Sina Laubenstein: Teilweise – genau das hat die Böhmermann-Recherche gezeigt. Es braucht also noch viel Sensibilisierung bei der Polizei und bei Straf­verfolgungs­behörden. Die Digital­unternehmen wehren sich aber auch sehr stark dagegen, aktiv zu werden. Das sehen wir seit Februar deutlich bei der Novellierung des Netz­werk­durch­setzungs­gesetzes, nach der die Unternehmen straf­rechtlich relevante Inhalte nicht nur löschen, sondern auch beim Bundes­kriminal­amt (BKA) melden sollen. Dadurch sollen Täter*innen tatsächlich verfolgt und bestraft werden können. De facto findet diese Umsetzung der Novellierung allerdings nicht statt. Gleich­zeitig muss diese Novellierung auch kritisch betrachtet werden, denn durch die Weiterleitung der Unternehmen an das BKA entsteht dort ja eine riesige Datenbank.

Nadine Brömme: Die Motivation, die strafbaren Inhalte weiter­zu­verfolgen und nicht zu löschen, ist ja eine richtige. Nicht zuletzt für Analyse­zwecke – wenn es etwa um die Frage geht, wie Accounts, von denen Hassrede ausgeht, zusammen­hängen. Aber genau wie Sina sehe ich eine Heraus­forderung in der Vorrats­daten­speicherung.

Plakat "Fight Hate" mit Regenbogenfarben
© Unsplash

Aber wenn das NetzDG und seine Anpassung nicht wie gewünscht Menschen vor Hassrede im Internet schützen, was kann dann getan werden? Die Gesellschaft für Freiheits­rechte (GFF) schlägt beispielsweise Account-Sperren vor.

Sina Laubenstein: Dieses Sperren von Accounts, die für rechts­widrige Äußerungen missbraucht werden, gehört zu einem Entwurf für das digitale Gewalt­schutz­gesetz der GFF. Demzufolge soll die Verantwortung für die Durch­setzung dieser Maßnahmen nicht bei den privaten Unternehmen, sondern beim Staat liegen. Auch diese Sperren sind letztlich nur ein weiterer Baustein in der Konstruktion, die es braucht, um gegen digitale Gewalt und Hassrede vor­zu­gehen. Ein weiterer wichtiger Baustein, der häufig ausgelassen wird und der aber in unserem Entwurf zum digitalen Gewalt­schutz­gesetz ganz zentral ist, ist die Frage, wie Betroffene unter­stützt werden können. Bei allem Diskutieren über die Identifikation der Täter*innen und die Pflicht der Plattformen muss auch dafür gesorgt werden, dass es bundes­weit genug Beratungs­strukturen für Betroffene von digitaler Gewalt gibt. Und wie lassen sich Justiz- und Straf­verfolgungs­behörden sensibilisieren? Immer wieder höre ich von Betroffenen, dass sie zur Polizei gehen und die Mitarbeitenden einfach nicht erkennen, wenn eine Aussage sexistisch, rassistisch oder antisemitisch ist. Dadurch können Betroffene retraumatisiert werden. Auch Angehörige brauchen möglicher­weise Unter­stützung – wenn etwa die eigene Tochter Zielscheibe von digitaler Hassrede wird.

Nadine Brömme: Das trifft sich mit unserem Ansatz bei das NETTZ, der Vernetzungs­stelle gegen Hate Speech. Nur das Zusammen­spiel unterschiedlicher Interventionen und Präventions­ansätze gegen Hass im Netz kann etwas bewirken. Denn keine zivil­gesellschaftliche Organisation, kein gesetzliches Instrument, keine Polizei­behörde kann allein etwas gegen Hass unternehmen, es braucht wirklich diese vielfältigen Ansätze und eine interdisziplinäre Zusammen­arbeit. Das ist tatsächlich eine Heraus­forderung, weil es dafür wenig Ressourcen gibt.

Müssten jenseits von zivilgesellschaftlichem Engagement und persönlicher Eigen­verantwortung nicht dennoch die Unter­nehmen stärker in die Pflicht genommen werden? Algorithmen in sozialen Platt­formen generieren Filter­blasen. Und wenn ich einmal auf Quer­denker*innen-Abwege geraten bin, wird mir verstärkt vergleich­barer Content in den Thread gespült – so der Eindruck.

Nadine Brömme: Dazu fällt mir ein Gespräch mit Frances Haugen ein, der Whistle­blowerin, die zahlreiche Dokumente ihres ehemaligen Arbeit­gebers Facebook veröffentlicht hat. Ihren Schilderungen zufolge wird der schmale Grat zwischen Gewinn­maximierung und gesellschaftlicher Verantwortung beim Meta-Konzern immer finanziell entschieden. Gleich­zeitig hat sie deutlich gemacht, dass es oftmals ganz einfache technische Lösungen gäbe. Abends könnte beispiels­weise der Thread bei Instagram verlangsamt werden. So müssten Jugendliche vor dem Schlafen­gehen weniger belastende Informationen verarbeiten. Denn laut einer internen Untersuchung befördert der Konsum von Instagram vor allem bei jungen Mädchen Depressionen und Ess­störungen. Solche Vorschläge werden aber nicht umgesetzt.

Sina Laubenstein: Ich greife hier das Stichwort Transparenz auf. Wir wissen einfach viel zu wenig. Es gibt diese Berichte, dass Empfehlungs­algorithmen immer radikalere und extremere Nachrichten in die Timeline spülen. Aber letztlich bleibt es spekulativ. An diesem Punkt müsste angesetzt und die Forschung zu den Funktions­weisen der Algorithmen erlaubt und voran­getrieben werden. Vor allem im Hinblick darauf, wie krass die Auswirkungen auf Individuen und die Gesprächskultur sind.


Das NETTZ

Das NETTZ ist die Vernetzungsstelle gegen Hate Seech, die digitale Zivil­courage fördert und für eine positive Debatten- und Meinungs­kultur im Netz eintritt. Akteurinnen und Akteure der Zivil­gesellschaft werden als „Community der Gegen­rede“ gefördert und unter­stützt.
www.das-nettz.de