KoolKill

Netzwerkdurchsetzungsgesetz: Bundestag entscheidet über umstrittenes Gesetz gegen Hasskriminalität

Netzwerkdurchsetzungsgesetz: Bundestag entscheidet über umstrittenes Gesetz gegen Hasskriminalität

Der Bundestag will am heutigen Donnerstag ein Gesetz zur besseren Bekämpfung des Rechtsextremismus und der Hasskriminalität beschließen. Der Entwurf sieht eine Reform des Netzwerkdurchsetzungsgesetzes (NetzDG) vor, um eine bessere Strafverfolgung bei Hasskriminalität zu ermöglichen.

Kern dieses Vorhabens ist die Einführung einer Meldepflicht für Soziale Netzwerke. Sie sollen künftig bestimmte potenziell strafbare Inhalte direkt an das Bundeskriminalamt melden. Bisher mussten die Posts lediglich gelöscht werden. Das BKA soll diese dann prüfen und gegebenenfalls ermitteln. Dabei geht es beispielsweise um Posts mit volksverhetzenden Inhalten sowie Androhungen von schwerer Körperverletzung oder Mord.

Im ZDF-Morgenmagazin am Donnerstag verteidigte Bundesjustizministerin Christine Lambrecht (SPD) das Gesetz. Meinungsfreiheit und Demokratie seien in Gefahr, Menschen würden mundtot gemacht, da sie eingeschüchtert werden und sich aus dem Diskurs zurückziehen. Diejenigen, die online Hass verbreiten, dürften sich in Zukunft nicht mehr sicher fühlen, sondern müssten mit Konsequenzen rechnen.

Quick Freeze als Ausweg aus der Sofortmeldung

Renate Künast begrüßt zwar, dass die Bundesregierung gegen Rechtsextremismus aktiv wird, ist aber mit dem Meldeweg an das BKA nicht zufrieden. Die Grünenpolitikerin fordert stattdessen ein zweistufiges Verfahren, in dem zunächst die Daten per Quick Freeze gesichert werden. Sollte das BKA den konkreten Anfangsverdacht bestätigen, könnten die Daten anschließend an die Behörde weitergegeben werden. Dazu hat die grüne Bundestagsfraktion einen Änderungsantrag eingebracht.

Auch der Bundesdatenschutzbeauftragte Ulrich Kelber hatte die Umsetzung der Meldungen an das BKA als Kernpunkt kritisiert. Er schlug in einer Stellungnahme zum Gesetz ebenfalls eine Quick-Freeze-Lösung vor.

Der Rechtsausschuss des Bundestags hatte zuletzt eine Beschlussempfehlung erarbeitet, die den ursprünglichen Gesetzentwurf noch erweitert. So soll das „BKA im Rahmen seiner Zentralstellenaufgabe berechtigt werden, bei Telemediendiensteanbietern die Login-IP-Adressen von Urhebern strafbarer Internetinhalte abzufragen“. Nicht alle Anbieter fallen unter das NetzDG und das BKA soll auch bei Inhalten, die nicht gemeldet werden, sondern die es auch bei eigenen Recherchen findet, die IP-Adresse herausbekommen können. So soll auch vermieden werden, dass Nutzer gezielt auf Plattformen ausweichen, die nicht laut NetzDG zur Meldung verpflichtet wären.

Auf Staatsanwaltschaften kommt viel Arbeit zu

Ein großes Fragezeichen besteht darin, wie die Justiz mit dem absehbar steigenden Ermittlungsaufkommen zurechtkommen soll. Der Geschäftsführer des Deutschen Richterbunds Sven Rebehn schätzte gegenüber dem RedaktionsNetzwerk Deutschland, dass auf die Staatsanwaltschaften jährlich etwa 150.000 neue Fälle zukommen würden. „Die Länder müssen die Strafjustiz deutlich verstärken“, fordert er. „Für Gerichte und Staatsanwaltschaften, die schon heute am Limit arbeiten, wird das neue Gesetz ein Kraftakt.“

Das Gesetz gegen Hasskriminalität ist Teil des Maßnahmenpakets gegen Rechtsextremismus, das nach dem Attentat von Halle angekündigt wurde. Parallel dazu läuft ein weiteres Gesetzgebungsverfahren, das ebenfalls Änderungen am NetzDG enthält. Diese Zweigleisigkeit führt zu Problemen. In einer Sachverständigenanhörung am Mittwoch äußerten sich Experten skeptisch. Der Medienrechtler Marc Liesching machte auf Konflikte zwischen beiden Entwürfen aufmerksam und bemerkte, dass es nicht praxistauglich sei, von zwei Seiten an einem Gesetz zu arbeiten.

Reconquista Internet: Neue Studie zeigt Wirksamkeit von Gegenrede im Netz

Reconquista Internet: Neue Studie zeigt Wirksamkeit von Gegenrede im Netz

Eine neue Studie deutet darauf hin, dass organisierte Gegenrede tatsächlich ein wirksames Mittel gegen Hass im Netz sein könnte. Wissenschaftler:innen aus dem Umfeld des Santa Fe Institute haben untersucht, wie sich Gegenrede in den sozialen Medien auf Hassrede auswirkt. Grundlage für die Erkennung von Hassrede und Gegenrede waren deutschsprachige Tweets aus den Netzwerken der rechten Trollarmee Reconquista Germanica sowie deren Gegenentwurf Reconquista Internet, der von Fernsehmoderator Jan Böhmermann initiiert wurde.

„Die Studie belegt erstmals empirisch, was wir mit ‚Reconquista Internet‘ praktisch erfahren haben: Wer organisierten Hass, rassistische Hetze oder die cleveren Diskursverschiebungskampagnen rechtsextremistischer Netzwerke im Internet erfolgreich bekämpfen will, muss wissen, wie diese verdeckten Manipulationsnetzwerke arbeiten, sie analysieren und gegen sie aktiv werden“, sagt Böhmermann netzpolitik.org.

Wirksamkeit von Gegenrede war bislang kaum erforscht

Der Informatiker Keyan Ghazi-Zahedi hat während seiner Zeit am Max-Planck-Institut in Leipzig an der Studie gearbeitet, gemeinsam mit vier Kolleg:innen aus den USA – unter ihnen auch eine Soziologin und sogar ein Epidemienforscher. Am Santa Fe Institute in New Mexico, an dem Wissenschaftler:innen aus unterschiedlichen Disziplinen zusammenkommen und vor allem sogenannte komplexe Systeme erkunden. „Unsere zentrale Frage war: Bringt Gegenrede im Internet etwas?“, sagt Ghazi-Zahedi.

Bis zu der Studie, die seit Anfang Juni als Preprint vorliegt, war dies kaum erforscht. Es habe hierzu schlichtweg keine groß angelegten Untersuchungen gegeben, schreiben die Forschenden.

Hassrede kann ein Algorithmus noch vergleichsweise leicht erkennen, womöglich schon anhand des verwendeten Schimpfwortvokabulars. Doch bei Gegenrede ist dies deutlich schwieriger. Die Datensätze, um eine KI wirksam trainieren zu können, hätten gefehlt. Dieses Problem wollen die Wissenschaftler:innen nun gelöst haben.

Fündig geworden sind sie dabei in Deutschland. „Neben organisierten rechten Troll-Gruppen gab es hier erstmals eine organisierte Gegenrede-Gruppe“, so Ghazi-Zahedi. Dies ermöglichte es den Wissenschaftler:innen, die Wechselbeziehung zwischen Hass- und Gegenrede zu erforschen.

Der rechte Mob bläst zum Trollsturm

Die Geschichte dieser der Studie zufolge einzigartigen Situation geht zurück bis in die Zeit vor der Bundestagswahl 2017. Damals bildete sich über den Chatanbieter Discord das rechte Netzwerk Reconquista Germanica. Angeführt von einem Mann, der sich Nikolai Alexander nannte und als „Oberbefehlshaber“ inszeniert hatte, organisierten Rechtsextremist:innen hier über Monate hinweg sogenannte Trollstürme.

In konzertierten Aktionen fluteten sie die sozialen Medien mit zum Teil menschenverachtender Propaganda, posteten massenhaft Kommentare voller Hass unter den YouTube-Videos politisch Andersdenkender. Einige Hashtags brachten sie in die Trending Topics auf Twitter, mitunter kaperten sie bereits bestehende mit ihren eigenen rassistischen Botschaften.

Reconquista Germanica ruft zu einer Kampagne gegen deinen ARD-Film auf (Februar 2018).
Reconquista Germanica ruft zu einer Kampagne gegen einen ARD-Film auf (Februar 2018). Alle Rechte vorbehalten Screenshot Daniel Laufer

Auch der Verfassungsschutz beschäftigte sich mit dem Netzwerk. Zeitweise verkehrten mindestens 300 Nutzer:innen auf dem Discord-Server, insgesamt sollen es mehrere Tausend gewesen sein. Weil Manipulation von Anfang an ein Teil der Strategie war, ist unklar, wie groß Reconquista Germanica wirklich war. Indem sie Sockenpuppen-Konten einsetzten, wollten die Rechtsextremist:innen gezielt den Anschein erwecken, die Gruppe sei viel größer als sie es war. Mehrfach löschte Discord ihren Server.

Die Zivilgesellschaft schlägt zurück

Im April 2018 rief der Fernsehmoderator Jan Böhmermann in seiner Sendung dann zu einer Art Gegenbewegung auf. Im „Neo Magazin Royale“ forderte er seine Zuschauer:innen dazu auf, dem neuen Discord-Server Reconquista Internet beizutreten. Genau wie Reconquista Germanica systematisch Hassrede verbreitet hatte, sollte sich dort nun der Widerstand bilden – in Form von organisierter Gegenrede in den sozialen Medien und zivilgesellschaftlichem Engagement.

Jan Böhmermann verkündet im Neo Magazin Royale den Start von Reconquista Internet (April 2018).
Jan Böhmermann verkündet im Neo Magazin Royale den Start von Reconquista Internet (April 2018). Alle Rechte vorbehalten Screenshot/ZDF

„Hass, Hetze und Diskursmanipulation sind die wichtigste und erfolgreichste Strategie rechtsradikaler Verfassungsfeinde“, sagt Böhmermann. „Ihre extremistischen Netzwerke im Internet sind gegenwärtig die größte Gefahr für unser friedliches Zusammenleben und die freiheitlich-demokratische Grundordnung – auch für unser nicht-digitales, echtes Leben.“

Schon nach wenigen Wochen tummelten sich bei Reconquista Internet mehr als 60.000 Mitglieder. Sie tauschten Hass-Postings aus und unterstützten die Betroffenen, indem sie ihnen öffentlich beisprangen.

„Wir wollten von Anfang an Vernunft ins Internet bringen und den Diskurs zivilisieren“, sagt Lorenz Schmidt. „Wenn Unrecht passiert, ist es wichtig, dass man einschreitet und etwas sagt.“ Lorenz Schmidt ist Teil eines nach eigenen Angaben etwa zehnköpfigen Kernteams und Administrator des Discord-Servers. Er heißt eigentlich anders, sein Name ist der Redaktion bekannt. Zu seinem Schutz schreiben wir ihn nicht.

„Gerade zu Beginn haben wir versucht, die Leute zu motivieren“, sagt Schmidt. Inzwischen hat das Engagement von Reconquista Internet in den sozialen Medien ihm zufolge jedoch nachgelassen, viele der Mitglieder sind nicht mehr auf dem Discord-Server aktiv. Stattdessen hätten sich einige kleinere Gruppierungen gefunden, die sich verselbstständig hätten, spezialisiert etwa auf Gegenrede auf Facebook, Twitter oder YouTube. „Reconquista Internet war der Funken, der diese Leute aktiviert hat“, sagt Schmidt.

Wie Reconquista Germanica hat auch Reconquista Internet Spuren im Netz hinterlassen. Den Wissenschaftler:innen hinter der neuen Studie ist es nun offenbar gelungen, diese zu erfassen und auszuwerten. Mehr als neun Millionen Tweets haben sie hierfür gesammelt.

Zwei Datensätze, um die KI-Erkennung zu trainieren

Etwa die Hälfte davon stammte von Konten, die im Zusammenhang standen mit der rechten Trollarmee Reconquista Germanica. Um sie zu erkennen, hielten die Forschenden Ausschau nach bestimmten Kennzeichen, zum Beispiel dem Emoji eines roten Kreuzchens, mit dem sich viele Rechte auf Twitter selbst markiert hatten.

Die übrigen Tweets stammten den Wissenschaftler:innen zufolge aus dem Umfeld von Reconquista Internet. Um die Konten dahinter zu identifizieren, analysierten sie das Netzwerk von rund hundert Nutzer:innen, deren Mitgliedschaft bei Reconquista Internet bekannt war. Die Funde filterten sie anschließend unter anderem nach für die Gruppe typischen Merkmalen in der Selbstbeschreibung auf Twitter.

Mit den beiden Datensätzen trainierten die Forschenden den Machine-Learning-Algorithmus ihres Erkennungssystems.

Was ist Hassrede? Was ist Gegenrede?

Nun mussten sie Wege finden, in der Vielzahl von Tweets Hass- und Gegenrede zu identifizieren.

Deshalb legten die Wissenschaftler:innen eine sogenannte Vertrauensschwelle fest: Nur wenn ihr System sozusagen überzeugt war, einen Tweet mittels einer sprachlichen Analyse als Hass- oder Gegenrede erkannt zu haben, sollte es diesen auch als solchen klassifizieren. Obwohl sich dies bei Gegenrede als deutlich schwerer herausgestellt habe, sagt Ghazi-Zahedi: „Unser KI-System hat gelernt, was typische Aussagen von Hass-Accounts oder von Gegenrede-Accounts sind.“

Um die antrainierten Fähigkeiten ihres KI-Systems zu überprüfen, rekrutierten die Forschenden über die Crowdworking-Plattform Mechanical Turk schließlich 55 Menschen. Mithilfe eines Tests des Goethe-Instituts stellten sie sicher, dass diese die deutsche Sprache gut genug verstanden.

Dann bewerteten die Testpersonen insgesamt 5.000 zufällig aus den Datensätzen ausgewählte Tweets, nach einer Skala von eins („mit hoher Wahrscheinlichkeit Gegenrede“) bis fünf („mit hoher Wahrscheinlichkeit Hassrede“). Neutrale Inhalte lagen in der Mitte der Skala.

Die Ergebnisse waren vielversprechend: Bei Hassrede stimmten die Bewertungen der Testpersonen den Forschenden zufolge nahezu perfekt mit denen der KI überein. Auch bei Gegenrede sei diese Übereinstimmung sehr stark gewesen. „Das zeigt, dass Gegenrede allgemein von Menschen und KI schwerer zu identifizieren ist. Wir glauben, dass könnte daran liegen, dass Gegenrede vielfältiger ist“, so Ghazi-Zahedi.

Mit dem Algorithmus 200.000 Konversationen untersucht

Als nächstes untersuchten die Wissenschaftler:innen, wie sich Hassrede und Gegenrede mit der Zeit verändert hatten. Hierzu erstellten sie einen dritten Datensatz und sammelten etwa 200.000 Konversationen aus den Jahren 2013 bis 2018, die unter den Tweets großer Konten entstanden waren, wie der Tagesschau, der Journalistin Nicole Diekmann oder der Grünen-Politikerin Katrin Göring-Eckardt. Allesamt waren sie bekannt dafür, Ziel von Hassrede geworden zu sein.

Die Wissenschaftler:innen ist es gelungen, Tweets innerhalb von Konversationen nach Hassrede (rot), Gegenrede (blau) und neutraler Rede (weiß) filtern.
Die Wissenschaftler:innen ist es gelungen, Tweets innerhalb von Konversationen nach Hassrede (rot), Gegenrede (blau) und neutraler Rede (weiß) filtern. Alle Rechte vorbehalten arXiv:2006.01974

Anhand der Bewertungen, die das KI-System den einzelnen Antworten gegeben hatte, errechneten sie das Verhältnis von Hass-, Gegen- und neutraler Rede.

In dem Zeitraum, als Reconquista Internet aktiv wurde, veränderten sich die Anteile von Hass- und Gegenrede.
In dem Zeitraum, als Reconquista Internet aktiv wurde, veränderten sich die Anteile von Hass- und Gegenrede. Alle Rechte vorbehalten arXiv:2006.01974

Die Ergebnisse zeigten, dass das Verhältnis von Gegenrede im April und Mai 2018 deutlich zunahm – also in der Zeit, in der Reconquista Internet gegründet worden war. Im Juli 2018 lag der Anteil von Gegenrede schließlich sogar über dem von Hassrede. „Wir können nicht sagen, dass das Erscheinen von Reconquista Internet das ausgelöst hat, weil wir keine Kausalität bewiesen haben“, sagt Keyan Ghazi-Zahedi.

Mit der Zunahme von Gegenrede wurde Hassrede weniger stark ausgeprägt.
Mit der Zunahme von Gegenrede wurde Hassrede weniger stark ausgeprägt. Alle Rechte vorbehalten arXiv:2006.01974

Zugleich stellten die Forschenden fest, dass sowohl Hass- als auch Gegenrede im Juli 2018 im Durchschnitt weniger stark ausgeprägt waren. Dies deute darauf hin, dass organisierte Gegenrede tatsächlich helfen kann, den polarisierten und hasserfüllten Diskurs im Netz auszugleichen.

Gegenrede führt zu zivilisiertem Diskurs

Die Studie geht auch der Frage nach, welchen Einfluss die Frequenz von Hass- oder Gegenrede auf den späteren Verlauf von Twitter-Konversationen haben. Hierzu untersuchten die Wissenschaftler:innen Twitter-Konversationen, in denen sie jeweils mehr als zehn Tweets mit Hass- und Gegenrede identifiziert hatten.

„Wir sehen, dass Hass mit dem Auftreten von Gegenrede abgenommen hat. Da gibt es einen Zusammenhang“, so Ghazi-Zahedi. Ihre Ergebnisse deuten darauf hin, dass auf Gegenrede häufiger neutrale Rede folgt als auf Hassrede. „Gegenrede ist anscheinend effektiver darin einen zivilisierten Diskurs herbeizuführen, wenn sie organisiert ist.“

Ghazi-Zahedi und seine Kolleg:innen hoffen nun, dass ihre Forschung dazu beitragen wird, die Dynamik hinter Hass- und Gegenrede besser zu verstehen. Womöglich könnte dann sogar die Zivilgesellschaft in den stark polarisierten USA vom Erfolg von Reconquista Internet lernen.

Neue Strategien für die Gegenrede im Netz

Den Wissenschaftler:innen liegen Datensätze vor, die Rückschlüsse darauf zulassen, welche Strategien gegen den Hass im Netz wann erfolgversprechend sind. So ließe sich wohl eine Art Leitfaden entwickeln. „Man könnte zum Beispiel zeigen, wann es Sinn ergibt, einzeln und mit Fakten zu argumentieren oder wann man besser zu zehnt dagegenhält und die Konfrontation sucht“, sagt Ghazi-Zahedi.

Auch ohne eine solche empirische Basis hat Reconquista Internet hierzu bereits Kenntnisse gesammelt. Lorenz Schmidt zufolge beschäftigte sich die Gruppe intensiv mit Argumentationsmustern und Manövern, um Hass im Netz zu begegnen. „Wichtig ist glaube ich, dass jeder erstmal nur das macht, was er sich selbst zutraut“, so Schmidt. „Es gibt natürlich auch Beiträge, bei denen ich empfehlen würde, sie dem Rechtsstaat zu überlassen und anzuzeigen.“

Aus diesem Grund konzentriert sich das ehrenamtliche Team hinter Reconquista Internet heute auf das Projekt „Hass melden“ – eine Plattform, über man strafrechtlich relevante Internetbeiträge zur Anzeige bringen kann. „Laute Gegenrede, Deplatforming in Kooperation mit den sozialen Netzwerken und die Zusammenarbeit mit Staatsanwaltschaft, Polizei und anderen zuständigen Behörden funktionieren“, sagt Jan Böhmermann. Bei Reconquista Internet ist er schon seit dem Sommer 2018 nicht mehr selbst aktiv, seine Rolle hat sich zu der eines Schirmherrn gewandelt.

Der Einfluss, den rechter Hass auf die Gesellschaft hat, ist indes nicht weniger gefährlich geworden. Eine Befragung des Meinungsforschungsinstituts YouGov in Hessen ergab, dass Hassrede im Netz das Meinungsbild verzerren kann, indem sie viele Menschen davon abhält, ihre politische Meinung zu äußern. Extreme Ansichten des rechten Rands wirken verbreiteter als sie es tatsächlich sind, wenn sie unwidersprochen stehen bleiben.

Die neue Studie aus den USA hat nun offenbar die Wirksamkeit eines Gegengifts nachgewiesen.