KoolKill

Facebook und Parteien: Bei Hass-Kommentaren liegt die AfD vorn

Facebook und Parteien: Bei Hass-Kommentaren liegt die AfD vorn

Dieser Beitrag von Bastian Rosenzweig ist ein Auszug seiner wissenschaftlichen Forschung an der Otto-Friedrich-Universität Bamberg. Rosenzweig studiert an der Friedrich-Schiller-Universität Jena Philosophie im Master. Zuvor absolvierte er ein Bachelorstudium in Kommunikationswissenschaft, Philosophie und Soziologie in Bamberg, in dessen Rahmen er sich mit Online Hate Speech beschäftigte.


Spätestens seit dem Mord an Walter Lübcke im Juni 2019 ist klar, dass sich die Auswirkungen von Online Hate Speech nicht nur auf das Internet beschränken. Das rechtsextrem motivierte Attentat wird von einer Flut an Hasskommentaren begleitet – sowohl davor als auch danach. Während im Vorfeld unter anderem die ehemalige CDU-Politikerin Erika Steinbach und die rechtsextreme Website PI-News wiederholt mit einem vier Jahre alten Video Hetze gegen Lübcke betrieben und in den Kommentaren Morddrohungen gegen ihn veröffentlicht wurden, äußern Nutzer:innen im Nachhinein Freude über den Tod des Politikers.

In einer aktuellen Studie der Landesanstalt für Medien NRW geben rund drei Viertel der Befragten an, im Internet schon einmal Hassrede wahrgenommen zu haben. Bei den 14- bis 24-jährigen sind es sogar 94 Prozent. Um ein Bild davon zu bekommen, wie es speziell im politischen Kontext mit Hate Speech aussieht, wurden die Facebook-Seiten der sieben aktuell im Bundestag vertretenen Parteien wissenschaftlich untersucht. Analysiert wurde unter anderem, wie sich Hasskommentare auf die verschiedenen Parteien verteilen, wo sie am häufigsten »geliket« werden, auf welche Themen sie sich beziehen und gegen wen sie gerichtet sind.

Was ist Hate Speech?

Hate Speech wird in der gängigen Literatur definiert als der sprachliche Ausdruck von Hass gegen eine bestimmte Gruppe. Sie ist abzugrenzen von harter Kritik und individuellen Beleidigungen. Von ersterer unterscheidet sie sich dadurch, dass sie nicht kritisieren, sondern herabwürdigen will. Von letzterer unterscheidet sie sich durch den Bezug auf eine ganze Gruppe statt einer einzelnen Person.

Hassrede zielt darauf ab, eine Gruppe von Menschen aufgrund von Merkmalen herabzusetzen, die deren Mitglieder (vermeintlich) teilen. Dafür wird nicht zwingend die ganze Gruppe als solche angesprochen. In vielen Fällen wird eine einzelne Person adressiert, allerdings in ihrer Rolle als (vermeintliches) Mitglied dieser Gruppe. Die Person muss sich dafür nicht selbst als Mitglied dieser Gruppe ansehen. Oftmals werden beispielsweise Muslim:innen als eine einzelne homogene Gruppe dargestellt, die kollektiv handelt und die gleichen Interessen verfolgt. Eine verwerfliche Tat einer einzelnen dieser Gruppe zugeordneten Person wird dann der ganzen Gruppe vorgeworfen. Die Eigenschaften, die der Gruppe zugeschrieben werden, müssen demnach auch nicht wirklich zutreffen. Mitunter besteht Hate Speech direkt in der Zuschreibung von unzutreffenden negativ konnotierten Merkmalen.

Für die wissenschaftliche Untersuchung wurde aus 4.447.947 per Netvizz (pdf) gesammelten Facebook-Kommentaren, die im Untersuchungszeitraum von 2016 bis 2018 auf den Seiten der aktuell im Bundestag vertretenen Parteien veröffentlicht worden sind, eine einfache Stichprobe gezogen. Zweite-Ebene-Kommentare, also Kommentare, die sich auf andere Kommentare (und nicht auf die ursprünglichen Posts) beziehen, wurden nicht berücksichtigt.

Das Ausmaß

Der Anteil an veröffentlichten (und von den Seitenbetreibenden nicht entfernten) Hasskommentaren beträgt 4,33 Prozent, der Anteil an „normalen“ Beleidigungen liegt bei 1,9 Prozent. In Anbetracht der Tatsache, dass sich 35,84 Prozent der Ursprungsposts nicht um politische Themen drehen, sondern nur aus parteibezogenen Inhalten wie Mitgliederwerbung, Feiertagswünschen oder Terminankündigungen bestehen, scheint dieser Wert relativ hoch. Zudem können Kommentare bei Facebook (im Gegensatz zu Twitter) von den Seiteninhaber:innen entfernt werden. Der ursprüngliche Anteil ist also vermutlich wesentlich höher.

Während der Anteil an Hasskommentaren bei FDP und SPD mit jeweils unter einem Prozent am niedrigsten ausfällt, ist er bei der AfD mit 6,79 Prozent mit Abstand am höchsten. Danach folgen Grüne (4,76 Prozent), Linke (3,38 Prozent), CSU (3,25 Prozent) und CDU (2,69 Prozent). Beleidigungen finden sich mit einer Quote von 2,94 Prozent ebenfalls am häufigsten bei der AfD.

Hate Speech pro Jahr und Partei
Hasskommentare in den Kommentarspalten der Parteien, pro Jahr und Partei. – Bastian Rosenzweig

Ist Hate Speech ein rechtes Phänomen?

In einem Großteil der Theorien zu Hate Speech wird davon ausgegangen, dass eine Äußerung nur dann Hassrede sein kann, wenn sie sich gegen eine historisch schlechter gestellte Gruppe (zum Beispiel Jüd:innen, Frauen, Transpersonen oder Migrant:innen) richtet. Da die Abneigung gegen solche Gruppen tendenziell im konservativen bis rechtsextremen Milieu zu finden ist, wäre Hate Speech laut solcher Definitionen prinzipiell eher ein rechtes Phänomen.

Auch die Wirkung von Hate Speech kommt eher rechtsgerichteten Kreisen zugute. Da Hassrede auf individueller Ebene ähnlich wie Mobbing wirkt und dadurch letztendlich zum sozialen beziehungsweise politischen Rückzug der Betroffenen führen kann, verzerrt es auch den politischen Diskurs. Minderheiten, die in politischen Debatten sowieso schon eine geringere Chance haben, Gehör zu finden, werden noch stärker marginalisiert. Die Machtungleichheiten zwischen den verschiedenen gesellschaftlichen Gruppen werden durch Hassrede potenziell weiter verstärkt.

Wer hasst wen?

Am häufigsten folgen Hasskommentare auf Posts zu den Themen Frauenrechte (15,38 Prozent), Terrorismus (11,32 Prozent), Rechtsextremismus (10,91 Prozent), Migration (8,05 Prozent) und Straftaten & innere Sicherheit (8,00 Prozent). Die Themen sagen allerdings nichts über die Motivation der Verfasser:innen aus, da die Hassrede ja in verschiedene Richtungen gehen könnte. So gibt es zwar beispielsweise einen hohen Anteil an Hate Speech unter Posts zum Thema Frauenrechte, dieser richtet sich allerdings in keinem einzigen Fall gegen Frauen. Daraus kann man jedoch nicht schließen, dass solche Kommentare nicht verfasst wurden, da sie eventuell nur eher gelöscht werden als andere Arten von Hasskommentaren. (Das Thema Frauenrechte wird am häufigsten von der AfD adressiert, allerdings immer in Bezug auf Migranten oder Muslime, die jene angeblich bedrohen.)

Themen, die Hasskommentare nach sich ziehen
Themen, die Hasskommentare nach sich ziehen. – Bastian Rosenzweig

Aussagekräftiger ist die Frage nach den betroffenen Gruppen. Opfer der Hasskommentare sind mit Abstand in den meisten Fällen Migrant:innen mit 46,67 Prozent. Danach folgen Politiker:innen im Allgemeinen (14,44 Prozent), Muslim:innen (12,22 Prozent), Linke (10,00 Prozent) und Umweltschützende beziehungsweise Grüne (7,78 Prozent). Frauen, Jüd:innen oder Christ:innen sind als Gruppe unter anderem nicht betroffen. Dies muss aber nicht unbedingt daran liegen, dass gegen sie kein Hass besteht, denn welche Gruppe in einem Hasskommentar adressiert wird, hängt auch von den Posts ab, auf die sie reagieren. Zudem haben die Seitenbetreiber:innen die Möglichkeit, Kommentare zu entfernen und könnten so zum Beispiel Hate Speech gegen Migrant:innen stehen lassen, während Hassrede gegen Jüd:innen entfernt wird.

Betroffene Gruppen nach Jahr. – Bastian Rosenzweig

Insgesamt lässt sich von den betroffenen Gruppen durchaus auf eine rechtsradikale Einstellung eines Großteils der Kommentierenden schließen. Migrant:innen, Muslim:innen, Linke, Umweltschützer:innen und Medienvertreter:innen gehören zu den klassischen Feindbildern rechtsradikaler Personen.

Dass, wie von Seiten der AfD beispielsweise gern behauptet wird, Konservative beziehungsweise Rechte ebenso diskriminiert werden wie alle anderen, trifft übrigens nicht zu: Rechte sind nur in 1,11 Prozent der Fälle von Hate Speech betroffen. Im Gegenteil sind knapp drei Viertel der Hasskommentare entweder eindeutig (Hate Speech gegen Migrant:innen und Flüchtlingshelfer*innen) oder wahrscheinlich (Hate Speech gegen Muslim:innen, Linke oder LGBTQIA-Personen) rechtsextrem motiviert.

Politische Einordnung der Hasskommentare. – Bastian Rosenzweig

Die Rolle der AfD

Der AfD kommt beim Thema Hasskommentare eine Sonderrolle zu. In ihren Kommentarspalten findet sich der größte Anteil an Hasskommentaren, und das ist kein Zufall. Zum einen könnte die Partei ganz einfach solcherlei Kommentare löschen, was sie aber seltener tut als andere Parteien. Auch ist die AfD die einzige der etablierten Parteien, die in ihrem Facebook-Auftritt keine Kommentarregeln eingebettet hat. Hate Speech wird bei der AfD also zumindest in weiten Teilen geduldet.

Zum anderen bleibt es aber nicht bei der Duldung. Die Partei scheint mit ihrer Facebook-Seite auch eine Art Echokammer für entsprechende Ansichten zu bilden. Darauf deutet einerseits die Tatsache hin, dass Hasskommentare bei der AfD mit Abstand am häufigsten „geliket“ werden. Während bei CDU, FDP, den Linken und der SPD Hasskommentare seltener mit „Gefällt mir“ markiert werden als Nicht-Hasskommentare, ist es bei CSU, Grünen und der AfD umgekehrt, wobei auch hier die AfD mit deutlichem Abstand vorne liegt. Während das Like-Verhältnis zwischen Hasskommentaren und nicht Hasskommentaren bei der CSU bei 2,3 zu 1,87 und bei den Grünen bei 2,17 zu 1,81 liegt, wird Hate Speech bei der AfD mit 5,97 zu 2,89 mehr als doppelt so oft mit „Gefällt mir“ markiert wie normale Beiträge.

Dazu kommt, dass die AfD aktiv die Verbreitung von Hate Speech antreibt, indem sie selbst als einzige Partei regelmäßig Beiträge postet, die Hassrede enthalten. Da auf normale Posts nur in 4,23 Prozent der Fälle Hasskommentare folgen, auf Hassposts hingegen doppelt so häufig (8,47 Prozent), ist es plausibel zu behaupten, dass die Partei auch durchaus selbst zu dem hohen Anteil an Hassrede auf ihrer Facebook-Seite beiträgt. Hate Speech scheint also zumindest auf Facebook ein stark rechtes Phänomen zu sein.


Hier ist die vollständige Untersuchung mit dem Titel Hasskommentare auf den Facebook-Seiten deutscher Parteien – Eine Inhaltsanalyse (pdf).

Netzwerkdurchsetzungsgesetz: Bundestag entscheidet über umstrittenes Gesetz gegen Hasskriminalität

Netzwerkdurchsetzungsgesetz: Bundestag entscheidet über umstrittenes Gesetz gegen Hasskriminalität

Der Bundestag will am heutigen Donnerstag ein Gesetz zur besseren Bekämpfung des Rechtsextremismus und der Hasskriminalität beschließen. Der Entwurf sieht eine Reform des Netzwerkdurchsetzungsgesetzes (NetzDG) vor, um eine bessere Strafverfolgung bei Hasskriminalität zu ermöglichen.

Kern dieses Vorhabens ist die Einführung einer Meldepflicht für Soziale Netzwerke. Sie sollen künftig bestimmte potenziell strafbare Inhalte direkt an das Bundeskriminalamt melden. Bisher mussten die Posts lediglich gelöscht werden. Das BKA soll diese dann prüfen und gegebenenfalls ermitteln. Dabei geht es beispielsweise um Posts mit volksverhetzenden Inhalten sowie Androhungen von schwerer Körperverletzung oder Mord.

Im ZDF-Morgenmagazin am Donnerstag verteidigte Bundesjustizministerin Christine Lambrecht (SPD) das Gesetz. Meinungsfreiheit und Demokratie seien in Gefahr, Menschen würden mundtot gemacht, da sie eingeschüchtert werden und sich aus dem Diskurs zurückziehen. Diejenigen, die online Hass verbreiten, dürften sich in Zukunft nicht mehr sicher fühlen, sondern müssten mit Konsequenzen rechnen.

Quick Freeze als Ausweg aus der Sofortmeldung

Renate Künast begrüßt zwar, dass die Bundesregierung gegen Rechtsextremismus aktiv wird, ist aber mit dem Meldeweg an das BKA nicht zufrieden. Die Grünenpolitikerin fordert stattdessen ein zweistufiges Verfahren, in dem zunächst die Daten per Quick Freeze gesichert werden. Sollte das BKA den konkreten Anfangsverdacht bestätigen, könnten die Daten anschließend an die Behörde weitergegeben werden. Dazu hat die grüne Bundestagsfraktion einen Änderungsantrag eingebracht.

Auch der Bundesdatenschutzbeauftragte Ulrich Kelber hatte die Umsetzung der Meldungen an das BKA als Kernpunkt kritisiert. Er schlug in einer Stellungnahme zum Gesetz ebenfalls eine Quick-Freeze-Lösung vor.

Der Rechtsausschuss des Bundestags hatte zuletzt eine Beschlussempfehlung erarbeitet, die den ursprünglichen Gesetzentwurf noch erweitert. So soll das „BKA im Rahmen seiner Zentralstellenaufgabe berechtigt werden, bei Telemediendiensteanbietern die Login-IP-Adressen von Urhebern strafbarer Internetinhalte abzufragen“. Nicht alle Anbieter fallen unter das NetzDG und das BKA soll auch bei Inhalten, die nicht gemeldet werden, sondern die es auch bei eigenen Recherchen findet, die IP-Adresse herausbekommen können. So soll auch vermieden werden, dass Nutzer gezielt auf Plattformen ausweichen, die nicht laut NetzDG zur Meldung verpflichtet wären.

Auf Staatsanwaltschaften kommt viel Arbeit zu

Ein großes Fragezeichen besteht darin, wie die Justiz mit dem absehbar steigenden Ermittlungsaufkommen zurechtkommen soll. Der Geschäftsführer des Deutschen Richterbunds Sven Rebehn schätzte gegenüber dem RedaktionsNetzwerk Deutschland, dass auf die Staatsanwaltschaften jährlich etwa 150.000 neue Fälle zukommen würden. „Die Länder müssen die Strafjustiz deutlich verstärken“, fordert er. „Für Gerichte und Staatsanwaltschaften, die schon heute am Limit arbeiten, wird das neue Gesetz ein Kraftakt.“

Das Gesetz gegen Hasskriminalität ist Teil des Maßnahmenpakets gegen Rechtsextremismus, das nach dem Attentat von Halle angekündigt wurde. Parallel dazu läuft ein weiteres Gesetzgebungsverfahren, das ebenfalls Änderungen am NetzDG enthält. Diese Zweigleisigkeit führt zu Problemen. In einer Sachverständigenanhörung am Mittwoch äußerten sich Experten skeptisch. Der Medienrechtler Marc Liesching machte auf Konflikte zwischen beiden Entwürfen aufmerksam und bemerkte, dass es nicht praxistauglich sei, von zwei Seiten an einem Gesetz zu arbeiten.

Reconquista Internet: Neue Studie zeigt Wirksamkeit von Gegenrede im Netz

Reconquista Internet: Neue Studie zeigt Wirksamkeit von Gegenrede im Netz

Eine neue Studie deutet darauf hin, dass organisierte Gegenrede tatsächlich ein wirksames Mittel gegen Hass im Netz sein könnte. Wissenschaftler:innen aus dem Umfeld des Santa Fe Institute haben untersucht, wie sich Gegenrede in den sozialen Medien auf Hassrede auswirkt. Grundlage für die Erkennung von Hassrede und Gegenrede waren deutschsprachige Tweets aus den Netzwerken der rechten Trollarmee Reconquista Germanica sowie deren Gegenentwurf Reconquista Internet, der von Fernsehmoderator Jan Böhmermann initiiert wurde.

„Die Studie belegt erstmals empirisch, was wir mit ‚Reconquista Internet‘ praktisch erfahren haben: Wer organisierten Hass, rassistische Hetze oder die cleveren Diskursverschiebungskampagnen rechtsextremistischer Netzwerke im Internet erfolgreich bekämpfen will, muss wissen, wie diese verdeckten Manipulationsnetzwerke arbeiten, sie analysieren und gegen sie aktiv werden“, sagt Böhmermann netzpolitik.org.

Wirksamkeit von Gegenrede war bislang kaum erforscht

Der Informatiker Keyan Ghazi-Zahedi hat während seiner Zeit am Max-Planck-Institut in Leipzig an der Studie gearbeitet, gemeinsam mit vier Kolleg:innen aus den USA – unter ihnen auch eine Soziologin und sogar ein Epidemienforscher. Am Santa Fe Institute in New Mexico, an dem Wissenschaftler:innen aus unterschiedlichen Disziplinen zusammenkommen und vor allem sogenannte komplexe Systeme erkunden. „Unsere zentrale Frage war: Bringt Gegenrede im Internet etwas?“, sagt Ghazi-Zahedi.

Bis zu der Studie, die seit Anfang Juni als Preprint vorliegt, war dies kaum erforscht. Es habe hierzu schlichtweg keine groß angelegten Untersuchungen gegeben, schreiben die Forschenden.

Hassrede kann ein Algorithmus noch vergleichsweise leicht erkennen, womöglich schon anhand des verwendeten Schimpfwortvokabulars. Doch bei Gegenrede ist dies deutlich schwieriger. Die Datensätze, um eine KI wirksam trainieren zu können, hätten gefehlt. Dieses Problem wollen die Wissenschaftler:innen nun gelöst haben.

Fündig geworden sind sie dabei in Deutschland. „Neben organisierten rechten Troll-Gruppen gab es hier erstmals eine organisierte Gegenrede-Gruppe“, so Ghazi-Zahedi. Dies ermöglichte es den Wissenschaftler:innen, die Wechselbeziehung zwischen Hass- und Gegenrede zu erforschen.

Der rechte Mob bläst zum Trollsturm

Die Geschichte dieser der Studie zufolge einzigartigen Situation geht zurück bis in die Zeit vor der Bundestagswahl 2017. Damals bildete sich über den Chatanbieter Discord das rechte Netzwerk Reconquista Germanica. Angeführt von einem Mann, der sich Nikolai Alexander nannte und als „Oberbefehlshaber“ inszeniert hatte, organisierten Rechtsextremist:innen hier über Monate hinweg sogenannte Trollstürme.

In konzertierten Aktionen fluteten sie die sozialen Medien mit zum Teil menschenverachtender Propaganda, posteten massenhaft Kommentare voller Hass unter den YouTube-Videos politisch Andersdenkender. Einige Hashtags brachten sie in die Trending Topics auf Twitter, mitunter kaperten sie bereits bestehende mit ihren eigenen rassistischen Botschaften.

Reconquista Germanica ruft zu einer Kampagne gegen deinen ARD-Film auf (Februar 2018).
Reconquista Germanica ruft zu einer Kampagne gegen einen ARD-Film auf (Februar 2018). Alle Rechte vorbehalten Screenshot Daniel Laufer

Auch der Verfassungsschutz beschäftigte sich mit dem Netzwerk. Zeitweise verkehrten mindestens 300 Nutzer:innen auf dem Discord-Server, insgesamt sollen es mehrere Tausend gewesen sein. Weil Manipulation von Anfang an ein Teil der Strategie war, ist unklar, wie groß Reconquista Germanica wirklich war. Indem sie Sockenpuppen-Konten einsetzten, wollten die Rechtsextremist:innen gezielt den Anschein erwecken, die Gruppe sei viel größer als sie es war. Mehrfach löschte Discord ihren Server.

Die Zivilgesellschaft schlägt zurück

Im April 2018 rief der Fernsehmoderator Jan Böhmermann in seiner Sendung dann zu einer Art Gegenbewegung auf. Im „Neo Magazin Royale“ forderte er seine Zuschauer:innen dazu auf, dem neuen Discord-Server Reconquista Internet beizutreten. Genau wie Reconquista Germanica systematisch Hassrede verbreitet hatte, sollte sich dort nun der Widerstand bilden – in Form von organisierter Gegenrede in den sozialen Medien und zivilgesellschaftlichem Engagement.

Jan Böhmermann verkündet im Neo Magazin Royale den Start von Reconquista Internet (April 2018).
Jan Böhmermann verkündet im Neo Magazin Royale den Start von Reconquista Internet (April 2018). Alle Rechte vorbehalten Screenshot/ZDF

„Hass, Hetze und Diskursmanipulation sind die wichtigste und erfolgreichste Strategie rechtsradikaler Verfassungsfeinde“, sagt Böhmermann. „Ihre extremistischen Netzwerke im Internet sind gegenwärtig die größte Gefahr für unser friedliches Zusammenleben und die freiheitlich-demokratische Grundordnung – auch für unser nicht-digitales, echtes Leben.“

Schon nach wenigen Wochen tummelten sich bei Reconquista Internet mehr als 60.000 Mitglieder. Sie tauschten Hass-Postings aus und unterstützten die Betroffenen, indem sie ihnen öffentlich beisprangen.

„Wir wollten von Anfang an Vernunft ins Internet bringen und den Diskurs zivilisieren“, sagt Lorenz Schmidt. „Wenn Unrecht passiert, ist es wichtig, dass man einschreitet und etwas sagt.“ Lorenz Schmidt ist Teil eines nach eigenen Angaben etwa zehnköpfigen Kernteams und Administrator des Discord-Servers. Er heißt eigentlich anders, sein Name ist der Redaktion bekannt. Zu seinem Schutz schreiben wir ihn nicht.

„Gerade zu Beginn haben wir versucht, die Leute zu motivieren“, sagt Schmidt. Inzwischen hat das Engagement von Reconquista Internet in den sozialen Medien ihm zufolge jedoch nachgelassen, viele der Mitglieder sind nicht mehr auf dem Discord-Server aktiv. Stattdessen hätten sich einige kleinere Gruppierungen gefunden, die sich verselbstständig hätten, spezialisiert etwa auf Gegenrede auf Facebook, Twitter oder YouTube. „Reconquista Internet war der Funken, der diese Leute aktiviert hat“, sagt Schmidt.

Wie Reconquista Germanica hat auch Reconquista Internet Spuren im Netz hinterlassen. Den Wissenschaftler:innen hinter der neuen Studie ist es nun offenbar gelungen, diese zu erfassen und auszuwerten. Mehr als neun Millionen Tweets haben sie hierfür gesammelt.

Zwei Datensätze, um die KI-Erkennung zu trainieren

Etwa die Hälfte davon stammte von Konten, die im Zusammenhang standen mit der rechten Trollarmee Reconquista Germanica. Um sie zu erkennen, hielten die Forschenden Ausschau nach bestimmten Kennzeichen, zum Beispiel dem Emoji eines roten Kreuzchens, mit dem sich viele Rechte auf Twitter selbst markiert hatten.

Die übrigen Tweets stammten den Wissenschaftler:innen zufolge aus dem Umfeld von Reconquista Internet. Um die Konten dahinter zu identifizieren, analysierten sie das Netzwerk von rund hundert Nutzer:innen, deren Mitgliedschaft bei Reconquista Internet bekannt war. Die Funde filterten sie anschließend unter anderem nach für die Gruppe typischen Merkmalen in der Selbstbeschreibung auf Twitter.

Mit den beiden Datensätzen trainierten die Forschenden den Machine-Learning-Algorithmus ihres Erkennungssystems.

Was ist Hassrede? Was ist Gegenrede?

Nun mussten sie Wege finden, in der Vielzahl von Tweets Hass- und Gegenrede zu identifizieren.

Deshalb legten die Wissenschaftler:innen eine sogenannte Vertrauensschwelle fest: Nur wenn ihr System sozusagen überzeugt war, einen Tweet mittels einer sprachlichen Analyse als Hass- oder Gegenrede erkannt zu haben, sollte es diesen auch als solchen klassifizieren. Obwohl sich dies bei Gegenrede als deutlich schwerer herausgestellt habe, sagt Ghazi-Zahedi: „Unser KI-System hat gelernt, was typische Aussagen von Hass-Accounts oder von Gegenrede-Accounts sind.“

Um die antrainierten Fähigkeiten ihres KI-Systems zu überprüfen, rekrutierten die Forschenden über die Crowdworking-Plattform Mechanical Turk schließlich 55 Menschen. Mithilfe eines Tests des Goethe-Instituts stellten sie sicher, dass diese die deutsche Sprache gut genug verstanden.

Dann bewerteten die Testpersonen insgesamt 5.000 zufällig aus den Datensätzen ausgewählte Tweets, nach einer Skala von eins („mit hoher Wahrscheinlichkeit Gegenrede“) bis fünf („mit hoher Wahrscheinlichkeit Hassrede“). Neutrale Inhalte lagen in der Mitte der Skala.

Die Ergebnisse waren vielversprechend: Bei Hassrede stimmten die Bewertungen der Testpersonen den Forschenden zufolge nahezu perfekt mit denen der KI überein. Auch bei Gegenrede sei diese Übereinstimmung sehr stark gewesen. „Das zeigt, dass Gegenrede allgemein von Menschen und KI schwerer zu identifizieren ist. Wir glauben, dass könnte daran liegen, dass Gegenrede vielfältiger ist“, so Ghazi-Zahedi.

Mit dem Algorithmus 200.000 Konversationen untersucht

Als nächstes untersuchten die Wissenschaftler:innen, wie sich Hassrede und Gegenrede mit der Zeit verändert hatten. Hierzu erstellten sie einen dritten Datensatz und sammelten etwa 200.000 Konversationen aus den Jahren 2013 bis 2018, die unter den Tweets großer Konten entstanden waren, wie der Tagesschau, der Journalistin Nicole Diekmann oder der Grünen-Politikerin Katrin Göring-Eckardt. Allesamt waren sie bekannt dafür, Ziel von Hassrede geworden zu sein.

Die Wissenschaftler:innen ist es gelungen, Tweets innerhalb von Konversationen nach Hassrede (rot), Gegenrede (blau) und neutraler Rede (weiß) filtern.
Die Wissenschaftler:innen ist es gelungen, Tweets innerhalb von Konversationen nach Hassrede (rot), Gegenrede (blau) und neutraler Rede (weiß) filtern. Alle Rechte vorbehalten arXiv:2006.01974

Anhand der Bewertungen, die das KI-System den einzelnen Antworten gegeben hatte, errechneten sie das Verhältnis von Hass-, Gegen- und neutraler Rede.

In dem Zeitraum, als Reconquista Internet aktiv wurde, veränderten sich die Anteile von Hass- und Gegenrede.
In dem Zeitraum, als Reconquista Internet aktiv wurde, veränderten sich die Anteile von Hass- und Gegenrede. Alle Rechte vorbehalten arXiv:2006.01974

Die Ergebnisse zeigten, dass das Verhältnis von Gegenrede im April und Mai 2018 deutlich zunahm – also in der Zeit, in der Reconquista Internet gegründet worden war. Im Juli 2018 lag der Anteil von Gegenrede schließlich sogar über dem von Hassrede. „Wir können nicht sagen, dass das Erscheinen von Reconquista Internet das ausgelöst hat, weil wir keine Kausalität bewiesen haben“, sagt Keyan Ghazi-Zahedi.

Mit der Zunahme von Gegenrede wurde Hassrede weniger stark ausgeprägt.
Mit der Zunahme von Gegenrede wurde Hassrede weniger stark ausgeprägt. Alle Rechte vorbehalten arXiv:2006.01974

Zugleich stellten die Forschenden fest, dass sowohl Hass- als auch Gegenrede im Juli 2018 im Durchschnitt weniger stark ausgeprägt waren. Dies deute darauf hin, dass organisierte Gegenrede tatsächlich helfen kann, den polarisierten und hasserfüllten Diskurs im Netz auszugleichen.

Gegenrede führt zu zivilisiertem Diskurs

Die Studie geht auch der Frage nach, welchen Einfluss die Frequenz von Hass- oder Gegenrede auf den späteren Verlauf von Twitter-Konversationen haben. Hierzu untersuchten die Wissenschaftler:innen Twitter-Konversationen, in denen sie jeweils mehr als zehn Tweets mit Hass- und Gegenrede identifiziert hatten.

„Wir sehen, dass Hass mit dem Auftreten von Gegenrede abgenommen hat. Da gibt es einen Zusammenhang“, so Ghazi-Zahedi. Ihre Ergebnisse deuten darauf hin, dass auf Gegenrede häufiger neutrale Rede folgt als auf Hassrede. „Gegenrede ist anscheinend effektiver darin einen zivilisierten Diskurs herbeizuführen, wenn sie organisiert ist.“

Ghazi-Zahedi und seine Kolleg:innen hoffen nun, dass ihre Forschung dazu beitragen wird, die Dynamik hinter Hass- und Gegenrede besser zu verstehen. Womöglich könnte dann sogar die Zivilgesellschaft in den stark polarisierten USA vom Erfolg von Reconquista Internet lernen.

Neue Strategien für die Gegenrede im Netz

Den Wissenschaftler:innen liegen Datensätze vor, die Rückschlüsse darauf zulassen, welche Strategien gegen den Hass im Netz wann erfolgversprechend sind. So ließe sich wohl eine Art Leitfaden entwickeln. „Man könnte zum Beispiel zeigen, wann es Sinn ergibt, einzeln und mit Fakten zu argumentieren oder wann man besser zu zehnt dagegenhält und die Konfrontation sucht“, sagt Ghazi-Zahedi.

Auch ohne eine solche empirische Basis hat Reconquista Internet hierzu bereits Kenntnisse gesammelt. Lorenz Schmidt zufolge beschäftigte sich die Gruppe intensiv mit Argumentationsmustern und Manövern, um Hass im Netz zu begegnen. „Wichtig ist glaube ich, dass jeder erstmal nur das macht, was er sich selbst zutraut“, so Schmidt. „Es gibt natürlich auch Beiträge, bei denen ich empfehlen würde, sie dem Rechtsstaat zu überlassen und anzuzeigen.“

Aus diesem Grund konzentriert sich das ehrenamtliche Team hinter Reconquista Internet heute auf das Projekt „Hass melden“ – eine Plattform, über man strafrechtlich relevante Internetbeiträge zur Anzeige bringen kann. „Laute Gegenrede, Deplatforming in Kooperation mit den sozialen Netzwerken und die Zusammenarbeit mit Staatsanwaltschaft, Polizei und anderen zuständigen Behörden funktionieren“, sagt Jan Böhmermann. Bei Reconquista Internet ist er schon seit dem Sommer 2018 nicht mehr selbst aktiv, seine Rolle hat sich zu der eines Schirmherrn gewandelt.

Der Einfluss, den rechter Hass auf die Gesellschaft hat, ist indes nicht weniger gefährlich geworden. Eine Befragung des Meinungsforschungsinstituts YouGov in Hessen ergab, dass Hassrede im Netz das Meinungsbild verzerren kann, indem sie viele Menschen davon abhält, ihre politische Meinung zu äußern. Extreme Ansichten des rechten Rands wirken verbreiteter als sie es tatsächlich sind, wenn sie unwidersprochen stehen bleiben.

Die neue Studie aus den USA hat nun offenbar die Wirksamkeit eines Gegengifts nachgewiesen.