Political Influence Through Social Media is Growing, But Slowly

Political Influence Through Social Media is Growing, But Slowly

Guest post by Jacob N. Shapiro, Diego Martin, and Julia Ilhardt

Last week, FBI Director Christopher Wray testified that Russia is using social media, state-run media outlets, and fake online journals to damage Vice President Biden’s chances in the upcoming presidential election. The week before, the US Treasury sanctioned Russian and Ukrainian nationals for interfering in American politics. And earlier this month we learned that the Internet Research Agency was trying to recruit writers for fake news sites intended to influence American politics.

None of this should be surprising. Back in August, the Director of the National Counterintelligence and Security Center announced that: “Russia is using a range of measures to primarily denigrate former Vice President Biden and what it sees as an anti-Russia ‘establishment’”. Two days before that, the State Department’s Global Engagement Center detailed Russia’s online disinformation infrastructure. On July 20, Democratic legislators warned of a potential campaign targeting Congress; on July 14, social media analytics firm Graphika reported on Russia’s “Secondary Infektion” campaign that targeted multiple countries in the last six years; and early in the COVID-19 crisis, EU officials found evidence that Russia was using disinformation to worsen the impact of the pandemic.

As disturbing as the current situation is, the United States is far from alone in being a target of state-sponsored disinformation. During the 2019 pro-democracy protests in Hong Kong, fake accounts linked to the Chinese government tried to muddle online discourse. And during the Libyan National Army’s efforts to capture the capital city of Tripoli in 2019, Twitter was flooded with pro-insurgency hashtags originating in Gulf Countries and Egypt.

So how widespread is this problem? Which states are employing these techniques, and who are they targeting?

To find out, we spent the last two years collecting data on 76 state-backed foreign influence efforts from 2011-2019, as well as 20 domestic operations—i.e., when governments use social media manipulation against their own population. Unlike traditional propaganda, these campaigns include the creation of content designed to appear as though it is produced by normal users in the target states. We released the first report on our data in July of 2019, documenting 53 foreign influence efforts, and just released an updated report. Over the past year, we’ve identified a number of significant trends in the use and organization of influence efforts. Here are the key takeaways.

Influence Efforts for Hire

There are dozens of marketing groups specializing in online content, and in recent years some have begun executing political influence efforts.

Take Archimedes Group, a marketing firm based in Israel. The firm’s specialty is “winning campaigns worldwide,” and when Facebook removed a network of accounts linked to the company in May 2019, the political targets ranged across Africa, Latin America, and Southeast Asia. In contrast to the St. Petersburg-based Internet Research Agency whose only documented customer is the government of Russia, Archimedes Group produces content to support a wide range of political goals while obscuring the involvement of state actors.

A similar political marketing firm is Smaat, a Saudi Arabian company operating out of downtown Riyadh. In addition to marketing for clients like Coca Cola and Toyota, Smaat also works for the Saudi Arabian government. In a now-removed Twitter network, Smaat’s fake social media accounts interspersed commercial content with pro-Saudi political messaging.

Not only does the use of these firms make it hard to identify the actors behind social media manipulation, but it also allows states to engage in political interference without having to develop digital infrastructure.

Further obfuscating government involvement in disinformation campaigns is the trend towards hiring local content creators. Networks linked to Russian oligarch Yevgeny Prigozhin—who was indicted during the Mueller investigation—paid people in Madagascar and Mozambique to manage election-related Facebook pages. Such tactics make it challenging to distinguish foreign interference from genuine local discourse.

Common Content for Local Audiences

In 13 Central Asian countries in 2019, residents following Facebook pages for Latvian travel or the President of Tajikistan may have unknowingly consumed content from government-linked Russian media outlets. By distributing stories from sources like Sputnik and TOK on pages that omitted or obscured the link to Russia, this campaign spread narratives sympathetic to the Kremlin’s foreign policy initiatives.

The Russian network targeting Central Asia was part of a wider move towards efforts that pushed common content to specific locations. In the first version of our report, only two out of 53 foreign influence efforts targeted multiple countries at once. Nine out of 23 additional campaigns in our 2020 report did so. Like Russia, Saudi Arabia and the United Arab Emirates have mounted multi-year efforts to promote sweeping, nationalistic content adapted to resemble domestic discourse in multiple countries. And growing evidence suggests China has begun a broad social media campaign targeting the Chinese diaspora in multiple countries since 2017.

Cases involving widespread distribution of common content are, in some sense, an updated form of propaganda. Disinformation or biased stories adopt an air of local authenticity. Attacking countries do not need to invest as much effort into the creation of generic content as they would for country-specific campaigns.

State-Backed Disinformation on the Domestic Front

Even in democracies, governments sometimes employ media consultancies to justify their policies and damage opposition politicians. In Mexico, for example, branches of the government have paid fake media outlets to amplify stories in favor of the Institutional Revolutionary Party (PRI). During the presidency of Enrique Peña Nieto from 2012-2018, pro-PRI Twitter accounts were so common that they came to be dubbed “Peñabots.”

While foreign influence efforts have been dominated by six countries, particularly Russia and Iran, we found 20 domestic influence efforts spread across 18 countries going back to 2011. In almost all cases, domestic interference has sought to suppress political dissent. Countries such as Vietnam were overt about this goal, with the creation of a cyber military unit called Task Force 47 operating under the Vietnam People’s Army that sought to discredit opposition narratives. Alternatively, government officials in Malta directed social media trolling and hate speech via secret Facebook groups.

Our inclusion criteria required influence campaigns to be directly connected to a government or ruling party. Although political parties in some democracies engage in social media manipulation, these parties are not necessarily representative of the state. For instance, in India, both Prime Minister Narendra Modi’s Bharatiya Janata Party and the Indian National Congress have long made use of influence operations. Similarly, disinformation originating with firms like Cambridge Analytica does not constitute an influence operation in our study unless explicitly linked with governments.

What’s Next?

Online influence efforts are becoming an increasingly widespread tool for both domestic politics and foreign interference. The commercialization of these campaigns could make them easier to access and, in some cases, harder to identify. But the problem of state-back influence efforts is not yet pervasive.

In fact, we found two positive trends in our report. First, only Russia initiated new influence efforts in 2019, and second, Russia initiated only three new efforts in 2019, compared to eight in 2018. This is promising given the widespread capacity for executing influence efforts, and the number of countries who would like to shape US politics, and suggests something is holding countries back from using fake online activity to interfere in their rivals’ politics.

But a global norm needs to be reinforced. At the moment, there is little international collaboration on monitoring social media platforms and no multilateral push to create strong prohibitions on cross-border influence campaigns. And with the US presidential election less than two months away, the threat of foreign interference is being brought squarely to the fore.

Jacob N. Shapiro is professor of politics and international affairs at Princeton University, Diego Martin is a PhD Student in economics at Purdue University, and Julia Ilhardt is a senior in the School of Public and International Affairs at Princeton University.

IT-Security: Warum es so gefährlich war, dass Hacker über Twitters interne Systeme prominente Accounts steuern konnten

IT-Security: Warum es so gefährlich war, dass Hacker über Twitters interne Systeme prominente Accounts steuern konnten

Am Mittwochabend haben unbekannte Angreifer zahlreiche prominente und verifizierte Accounts auf Twitter übernommen und dabei Tweets abgesetzt, die zu einer Bitcoin-Abzocke führten. Unter den Accounts waren der ehemalige US-Präsident Barack Obama wie auch der demokratische Präsidentschaftskandidat Joe Biden. Betroffen waren neben Prominenten wie Kanye West oder Bill Gates auch Accounts großer Unternehmen wie Apple und Uber, außerdem prominente Kryptowährungsaccounts wie Coinbase, Binance und Gemini.

Bei den gehackten Promi-Accounts nutzten die Angreifer jeweils individuell angepasste Tweets nach dem gleichen Schema, bei anderen nicht-verifizierten Accounts wurde mit Copy-Paste gearbeitet.

Screenshot Scam-Tweet
Screenshot des Tweets, den der Account von Joe Biden absetzte. Alle Rechte vorbehalten Joe Biden / Screenshot

Mit dem an den Hack angeschlossenen Bitcoin-Betrug erbeuteten die Angreifer fast 120.000 US-Dollar. Ob die die Angreifer Zugriff auf die privaten Nachrichten der Accounts hatten oder im Hintergrund viele Daten abgesaugt haben, ist nicht bekannt. Diese Daten könnten für Erpressungen oder andere Zwecke genutzt werden.

Twitter bestätigt Angriff auf interne Systeme

Schon früh berichtete der IT-Security-Reporter Joseph Cox von Motherboard mit Verweis auf zwei anonyme Quellen darüber, dass Screenshots des internen Twitter-Admin-Panels aufgetaucht seien. Laut seinem Bericht hat Twitter die Screenshots dieses Panels gelöscht und die Accounts derer gesperrt, die diese Screenshots verbreiteten.

Internes Adminpanel Twitter

Dass die Angreifer Zugriff auf die internen Systeme von Twitter hatten, bestätigte das Unternehmen mittlerweile: Twitter geht davon aus, einen „koordinierten Social-Engineering-Angriff“ aufgedeckt zu haben, mit dem erfolgreich Mitarbeiter:innen mit Zugang zu internen Systemen und Werkzeugen ins Visier genommen wurden.

Motherboard berichtet in einem weiteren Artikel, dass die Angreifer einen Twitter-Angestellten bezahlt hätten, um Zugriff zu erlangen.

Der erlangte Zugang sei laut Twitter genutzt worden, „um die Kontrolle über viele gut sichtbare (einschließlich verifizierte) Konten zu übernehmen und in ihrem Namen zu twittern“. Twitter untersuche, welche anderen böswilligen Aktivitäten die Angreifer möglicherweise durchgeführt haben oder auf welche Informationen sie zugegriffen hätten.

Twitter habe die betroffenen Konten gesperrt und die geposteten Tweets der Angreifer gelöscht. Im Zug der Maßnahmen sei auch „Funktionalität für eine viel größere Gruppe von Konten eingeschränkt“ worden, gemeint sind damit unter anderem alle verifizierten Accounts. Sie konnten über Stunden nicht mehr twittern. Intern habe Twitter Schritte unternommen, um den Zugang der Mitarbeiter zu Systemen und Instrumenten während der Dauer der Untersuchung einzuschränken, heißt es weiter im Twitter-Thread zu der Attacke.

Sicherheitspolitische Bedeutung

Mit so einem umfassenden Zugriff auf bedeutende Accounts sind ganz andere Dinge möglich als nur ein banaler Bitcoin-Betrug, bei dem gerade einmal 12 Bitcoin gewonnen wurden. Deswegen wirft der Hack vor allem Fragen der internationalen Sicherheit auf.

Einerseits hätten die Angreifer die Accounts von offiziellen Repräsentanten, Außenminister:innen, Botschaften oder Nachrichtenorganisationen für koordinierte und orchestrierte Tweets nutzen können – um damit zum Beispiel zwischenstaatliche Konflikte anzufeuern. Gegen die Möglichkeiten eines solchen Kommunikationsangriffs mit verifizierten Top-Accounts muten Troll-Farmen und Propaganda-Accounts zur Diskurs-Beeinflussung wie Kindergarten an.

Wie aufgrund der schnellen und manchmal missverständlichen Kommunikation auf Twitter internationale Konflikte eskalieren könnten, hat gerade in dieser Woche das King’s College London in der Studie „Escalation by Tweet“ (PDF) beschrieben. Denkbar sind mit einem so umfangreichen Zugriff auf Unternehmensaccounts aber auch größere Börsenbewegungen und Spekulationsgewinne mit Insiderwissen.

Auf der anderen Seite war auch Twitters Reaktion gefährlich: Für mehrere Stunden ließ Twitter alle verifizierten Accounts mit dem blauen Haken nicht mehr twittern. Das betrifft auch viele offizielle Accounts von Polizeien und staatlichen Stellen, die sich in der schnellen Kommunikation auf den privaten Kurznachrichtendienst verlassen und nicht mehr twittern konnten.

Die Tweetsperre für verifizierte Accounts führte unter anderem dazu, dass beispielsweise Medien sich neue Accounts erstellten, die sie mittels Retweets ihrer verifizierten Accounts zur Verbreitung von Nachrichten nutzten.

Nutzer:innen nehmen es mit Humor

Twitter wäre nicht Twitter, wenn viele Nutzer:innen den Angriff nicht mit Humor genommen hätten. So wurde die mehrstündige Abwesenheit der verifizierten Accounts, Promis und Politiker als „sturmfreie Bude“ interpretiert. Andere freuten sich, dass endlich Trump einmal für ein paar Stunden nicht twittern durfte oder beklagten sich ironisch, dass sie zensiert worden seien.

Soziale Medien: Warum Polizeibehörden nicht beliebig twittern dürfen

Soziale Medien: Warum Polizeibehörden nicht beliebig twittern dürfen

Friedrich Schmitt ist Jurist und wissenschaftlicher Mitarbeiter am Institut für Öffentliches Recht der Universität Freiburg. Dieser Artikel basiert auf einer im Jahrbuch Informationsfreiheit und Informationsrecht 2019 erschienen Untersuchung zur polizeilichen Öffentlichkeitsarbeit auf Twitter.

Friedrich Schmitt zum Auftreten der Behörden in Sozialen Netzwerken Alle Rechte vorbehalten Theresa Dilg

Wer im Internet nach der Polizei sucht, merkt schnell: Viele Polizeibehörden haben die sozialen Medien für sich und ihre Öffentlichkeitsarbeit entdeckt. Sie bedienen sich auf Twitter, Facebook und Instagram oft eines informellen Umgangstons und kommunizieren scheinbar auf Augenhöhe mit privaten Nutzer:innen. Aus der Perspektive des Verfassungsrechts hat polizeiliche Öffentlichkeitsarbeit aber nicht in erster Linie „locker“ oder „lustig“ zu sein. Polizeiliche Kommunikation muss vor allem rechtsstaatlichen Mindeststandards genügen, die Grundrechte achten und mit der Freiheit der öffentlichen Meinungsbildung vereinbar sein.

Polizeibehörden haben keine Meinungsfreiheit

Unter der Ordnung des Grundgesetzes ist der Einzelne grundsätzlich frei, seine Freiheit wird nur punktuell durch Ge- und Verbote beschränkt. Der Staat ist dagegen nie im eigentlichen Sinne „frei“, seine Befugnisse richten sich nach rechtlich festgelegten Kompetenzen und außerhalb dieser Kompetenzen dürfen staatliche Stellen – das heißt auch die Polizei – nicht tätig werden.

Im Gegensatz zu Individuen sind staatliche Stellen deshalb keine Träger von Grundrechten und haben insbesondere keine Meinungsfreiheit. Im Gegenteil: Der Staat ist an die Grundrechte gebunden, das heißt, er muss die Grundrechte der Bürger:innen achten und schützen. Polizeibehörden können sich in der Konsequenz nicht auf „ihre“ Meinungsfreiheit oder andere Grundrechte berufen, wenn sie sich im Rahmen ihrer Öffentlichkeitsarbeit beispielsweise auf Twitter äußern.

Öffentlichkeitsarbeit ist nur in den Grenzen der Kompetenzordnung zulässig

Nach der Rechtsprechung des Bundesverfassungsgerichts ist die staatliche Öffentlichkeitsarbeit gleichwohl „in Grenzen nicht nur verfassungsrechtlich zulässig, sondern auch notwendig“. Die Öffentlichkeitsarbeit – und dies schließt die Öffentlichkeitsarbeit in den sozialen Medien ein – ist deshalb das Recht und die Pflicht aller staatlichen Stellen, auch der Polizeibehörden.

Dieses Recht gilt allerdings nur in den Grenzen der gesetzlichen Kompetenzordnung: Das heißt, Polizeibehörden dürfen nur im Rahmen ihrer gesetzlichen Aufgabe, Gefahren für die öffentliche Sicherheit und Ordnung abzuwehren, Öffentlichkeitsarbeit betreiben. Außerhalb dieses – ohnehin weiten – Aufgabenkreises dürfen Polizeibehörden nicht handeln und folglich auch nicht kommunizieren. Praktisch bedeutet dies, dass sich Polizeibehörden keineswegs beliebig zu jedem Thema einlassen dürfen: Fotos von niedlichen Tieren gehören grundsätzlich nicht zum polizeilichen Aufgabenkreis.

Polizeibehörden müssen neutral, sachlich und richtig kommunizieren

Die polizeiliche Öffentlichkeitsarbeit unterliegt außerdem der staatlichen Pflicht zu neutraler, sachlicher und richtiger Kommunikation. Damit sind Grenzen für die polizeiliche Öffentlichkeitsarbeit verbunden.

Das Gebot staatlicher Neutralität wird in der Rechtsprechung des Bundesverfassungsgerichts vor allem als Gebot politischer Neutralität ausgelegt. Für Berufsbeamt:innen gilt grundsätzlich: „Beamtinnen und Beamte dienen dem ganzen Volk, nicht einer Partei. Sie haben ihre Aufgaben unparteiisch und gerecht zu erfüllen und ihr Amt zum Wohl der Allgemeinheit zu führen.“

Wenn also polizeiliche Twitter-Profile den Accounts politischer Parteien, von ausgewählten Glaubensgemeinschaften oder sonst eindeutig partikular engagierten Organisationen folgen, so verstößt dieses Verhalten gegen den Grundsatz der staatlichen Neutralität. Polizeibehörden dürfen sich im Rahmen ihrer Öffentlichkeitsarbeit – egal ob offline oder online – weder politisch noch religiös positionieren.

Nach dem Gebot der Sachlichkeit sind staatliche Informationen mit angemessener Zurückhaltung mitzuteilen. Nicht vereinbar mit diesem Grundsatz sind diffamierende oder verfälschende Darstellungen. Wenn sich die Polizei München unter dem Hashtag #WiesnWache dennoch eines lockeren Plaudertons und Kraftausdrücken bedient oder sich neuerdings über Menschen lustig macht, die sich nach der Reichweite von Beschränkungen aufgrund der Corona-Pandemie erkundigen, verstößt die Behörde deshalb gegen das Sachlichkeitsgebot.

Die Praxis polizeilicher Öffentlichkeitsarbeit zeigt, dass Social-Media-Aktivitäten für Verstöße gegen das Gebot der Richtigkeit anfällig sind. Polizeiliche Fehlinformationen bergen dabei Gefahren für den Prozess der freien und öffentlichen Meinungsbildung, der auf eine zutreffende Tatsachengrundlage angewiesen ist. Vertieft werden diese Gefahren durch den Umstand, dass die Öffentlichkeit staatlichen Informationen regelmäßig besondere Glaubwürdigkeit zuschreibt und deshalb ihr Vertrauen schenkt.

Konkrete Beispiele für polizeiliche Verstöße gegen das Gebot der Richtigkeit sind vor diesem Hintergrund eine (Falsch-)Meldung zu Molotowcocktails, die nie flogen, ein Tweet zu einem elektrischen Türknauf, der nicht mit dem Stromnetz verbunden war, oder die nur mutmaßende Zurechnung einer Straftat zu einer Demonstration. Kommt es zu polizeilichen Fehlinformationen, sind diese richtig zu stellen.

Polizeiliche Öffentlichkeitsarbeit darf nicht in Grundrechte eingreifen

Polizeibehörden müssen bei ihrer Öffentlichkeitsarbeit darüber hinaus die Grundrechte von möglicherweise betroffenen Personen achten. Insofern werden die Grundrechte vor allem praktisch relevant, wenn die Polizei in ihrer Öffentlichkeitsarbeit Versammlungen thematisiert oder kommentiert: Am Beispiel einer polizeilichen Fotoveröffentlichung, die eine Versammlung und dabei erkennbar einzelne Teilnehmer:innen abbildete, hat die jüngere Rechtsprechung zum einen erkannt, dass die damit verbundenen Grundrechtseingriffe rechtswidrig sind: Es gibt keine Befugnisnorm, die die Polizei zu Grundrechtseingriffen im Rahmen ihrer Öffentlichkeitsarbeit ermächtigt.

Zum anderen führt der Zweck „Öffentlichkeitsarbeit“ keineswegs zu einer Besserstellung der Polizei: Der mit den Veröffentlichungen verbundene „Abschreckungs- und Einschüchterungseffekt“ bleibt davon nicht nur unberührt, die Versammlungsteilnehmer:innen müssen in den Worten des Gerichts vielmehr „mit einem erheblich gesteigerten Verbreitungsgrad der Lichtbilder und einem entsprechend breiten […] Bekanntwerden ihrer Versammlungsteilnahme rechnen“.

Im Klartext bedeutet dies: Polizeibehörden dürfen Bildnisse von Versammlungsteilnehmern nicht für ihre Öffentlichkeitsarbeit bei Twitter (oder anderen sozialen Medien) veröffentlichen.

Missliebige Äußerungen erlauben keine Blockierungen

Enge Grenzen ziehen die Grundrechte im Übrigen, wenn Polizeibehörden einzelne Twitter-Profile blockieren. Zwar sind polizeiliche Stellen unstreitig dazu befugt, auf Grundlage ihres „virtuellen Hausrechts“ andere Nutzer:innen von ihren Profilen auszuschließen. Die Rechtsprechung hat aber mit Blick auf die Social-Media-Präsenzen öffentlich-rechtlicher Rundfunkanstalten Voraussetzungen für die Ausübung des „virtuellen Hausrechts“ entwickelt, die auch für Polizeibehörden gelten (dürften).

Die wesentliche Bedingung für Blockierungen sind danach „Störungen der Aufgabenwahrnehmung“. Welches Verhalten aber „stört“, richtet sich nicht maßgeblich nach der jeweiligen Netiquette, sondern ist in Übereinstimmung mit den Grundrechten zu bestimmen: Äußerungen, die von der Meinungsfreiheit geschützt werden, sind grundsätzlich keine „Störungen“, sondern die Ausübung verfassungsrechtlich gesicherter Freiheit. Dies gilt auch für überspitzte und missliebige Äußerungen – denn gerade die Kritik an staatlichen Stellen steht nach der gefestigten Rechtsprechung des Bundesverfassungsgerichts unter dem besonderen Schutz des Grundgesetzes.

Die Deutungshoheit über polizeiliches Handeln liegt bei der Gesellschaft

Die Öffentlichkeitsarbeit ist zwar das Recht und die Pflicht aller staatlichen Stellen. Es ist deshalb im Grundsatz nicht zu beanstanden, dass viele Polizeibehörden Gebrauch von den Möglichkeiten sozialer Medien machen. Dabei darf aber nicht aus dem Blick geraten, dass es sich bei der polizeilichen Öffentlichkeitsarbeit um die Ausübung hoheitlicher Gewalt handelt, die nur in den Grenzen des (Verfassungs-)Rechts zulässig ist und sich deshalb nicht „frei“ auf Twitter und Co. entfalten kann.

Wenn die scheinbar „auf Augenhöhe“ – tatsächlich aber von einer mit Hoheits- und Zwangsbefugnissen ausgestatteten Behörde – praktizierte Öffentlichkeitsarbeit der Polizei dabei auf die Erlangung der Deutungshoheit über polizeiliches Handeln zielt, so ist schließlich mit dem Bundesverfassungsgericht darauf hinzuweisen: In einer Demokratie muss sich die Willensbildung „vom Volk zu den Staatsorganen, nicht umgekehrt von den Staatsorganen zum Volk hin, vollziehen“. Mit anderen Worten: Die Berichterstattung und der Diskurs über polizeiliches Handeln sind gesellschaftliche Vorgänge, die die Polizei weder an sich ziehen noch steuern darf.

Die Polizeibehörden sollten sich deshalb auf die Erfüllung ihrer gesetzlichen Aufgaben beschränken und nicht zum Akteur im Prozess der öffentlichen Meinungsbildung aufschwingen.