Welche Auswirkungen eine maximal 140 Zeichen lange Falschmeldung bei Twitter haben kann, hat die Welt im Dezember 2015 erfahren. Durch einen irrtümlich abgeschickten Tweet der britischen "Financial Times" mit einer Falschmeldung zur Geldpolitik der EZB schoss der Euro für kurze Zeit in die Höhe. Auch wenn dieser Fall ein Versehen war, zeigt er doch, wie einflussreich Topthemen in den sozialen Medien sind.
Doch immer häufiger stecken hinter den Trends nicht Menschen, sondern Softwareroboter, die auf Twitter, Instagram & Co. gezielt Inhalte verbreiten. Wie die Programme das machen und welche Gefahren sich daraus ergeben, erklärt Politikwissenschaftler Simon Hegelich im Interview.
WirtschaftsWoche Online: Herr Hegelich, jeder zweite Klick im Internet soll auf das Konto von autonomen Softwarerobotern, kurz Bots, gehen. Wir Menschen sind also schon lange nicht mehr alleine im Netz?
Simon Hegelich: Das stimmt. Mit den Zahlen, wie viele autonom agierende Programme sich im Internet tummeln, ist das aber so eine Sache. Dass 50 Prozent oder gar zwei Drittel des gesamten Datenverkehrs im Internet von Bots produziert werden soll, liegt vor allem an den großen Crawlern wie Google, die ununterbrochen das Netz durchsuchen. Das produziert jede Menge Traffic. Geht es nach Facebook, Google oder Microsoft, werden Bots ganz bald auch in Messengern eingesetzt. Die Vision ist, dass wir mit Hilfe eines Chatbots mit unserem Computer oder Smartphone interagieren und reden können, wie mit einem anderen Menschen.
In diesem Fall wüsste der Nutzer, dass er mit einem Roboter kommuniziert. Oft ist das aber nicht der Fall, zum Beispiel in den sozialen Medien. Da treiben bösartige Bots ihr Unwesen.
Die Rede ist von Social Bots. Das sind Programme, die vorgeben, Menschen zu sein. Sie betreiben Fake-Profile, um beispielsweise Daten von Nutzern abzugreifen oder gezielt Spam sowie politische Parolen zu verbreiten. Wie hoch das Aufkommen dieser Bots ist, kann man nicht genau sagen. Denn die meisten werden gar nicht erst entdeckt. Auf Instagram sind beispielsweise extrem viele Bots, bei Facebook etwas weniger und Twitter ist wiederum voll von Bots. Generell ist es so, dass sich Bots in jede öffentliche Diskussion in den sozialen Medien einmischen. Entweder hängen sie sich an trendige Hashtags, um Spam zu verbreiten, oder sie kommentieren, retweeten oder liken Inhalte, um eine bestimmte Meinung zu pushen.
Zur Person
Simon Hegelich ist Professor für Political Data Science an der Hochschule für Politik an der Technischen Universität München. Er verbindet in seiner Forschung Politikwissenschaften mit Computerwissenschaften und ist Experte im Bereich Social Bots. Im vom Bund geförderten Forschungsprojekt "Social Media Forensics" analysiert Hegelich, welchen Einfluss Social Bots in einer Demokratie haben und wie der Nutzer sie besser erkennen kann. Zusätzlich bloggt er regelmäßig zum Thema Bots.
Was ist das gefährliche an Social Bots?
Ich sehe drei Risiken. Zunächst die Manipulation von Trends: Schon für zweistellige Beträge kann sich jeder Tausende von neuen Twitter-Followern kaufen. Denn wer mehr Follower hat, hat mehr Einfluss - die eigenen Inhalte werden prominenter in den sozialen Medien angezeigt.
Dann gibt es die Strategie, einzelne Gruppen zu manipulieren. Das zeigte sich gut am Beispiel des Russland-Ukraine-Konflikts. Bei einem Botnetz ist es zum Beispiel so, dass 90 Prozent der Inhalte sexistische Kommentare oder Sportnachrichten sind. Damit sollen junge Männer erreicht werden. Denn die übrigen zehn Prozent sind faschistische Propaganda.
Und als drittes Problem sehe ich die 1:1 Manipulation von Privatleuten. Ein Bot wird auf eine Person abgestellt, studiert ihr Profil und entwickelt sich mit den Informationen quasi zum perfekten Freund, der im Anschluss mit dem Nutzer in Kontakt tritt. Das ist eine sehr subtile Art der Manipulation, die auf Privatmenschen zugeschnitten ist. Das Schlimme: Aufwändiger ist diese Herangehensweise nicht. Denn wenn man es einmal geschafft hat, einen Bot auf bestimmte Dinge zu trainieren, kann man mit dem selben Programm Millionen Bots mit den gleichen Eigenschaften steuern. Preiswert und schnell.
Britische Forscher der Oxford Universität haben im Vorfeld des EU-Referendums in Großbritannien untersucht, wie stark Social Bots in die Brexit-Diskussion auf Twitter eingreifen. Das Ergebnis: Ein Drittel der Tweets geht auf automatisierte Programme zurück. Haben die Bots den Ausgang der Wahl manipuliert?
Natürlich haben Bots ein großes Potenzial, Meinungen zu beeinflussen. Die These, die Bots hätten das Referendum manipuliert, lässt sich aber allein durch die Datenlage dieser Studie nicht stützen. Die Forscher haben lediglich herausgefunden, dass sich viele automatisierte Accounts an das Brexit-Thema drangehängt haben.
So hat ein großer Prozentteil der analysierten Fake-Profile Pro- und Contra-Hashtags gleichzeitig verwendet. Das deutet darauf hin, dass es wohl Bots gewesen sind, die beispielsweise Werbung für russische Videos machen, und an ihren Post den trendigen Hashtag Brexit dranhängen, um Aufmerksamkeit zu bekommen.
Laut dieser Studie haben die meisten Bots auf Twitter für einen Brexit Stimmung gemacht. In Großbritannien benutzen hauptsächlich jüngere Menschen Twitter. Hätten die Bots die Wahl manipuliert, dann hätte gerade diese Altersgruppe mehrheitlich für den Brexit stimmen müssen. Das war aber nicht der Fall.
Bots auf Twitter: Nachrichtendienst auf der Kippe
Wie gefährlich sind Social Bots generell für die Demokratie, zum Beispiel bei Wahlen?
Das Beeinflussungspotenzial von Social Bots ist sehr, sehr groß. Es gibt häufig Entscheidungen, wie zum Beispiel das EU-Referendum, die Bundespräsidenten-Wahl in Österreich oder die US-Präsidentschaftswahl, wo es ziemlich knapp wird. Kleine Effekte könnten das Wahlergebnisse bestimmen. Selbst wenn Bots nicht besonders effektiv sind, würde auch ein ein bisschen effektiverer Bot ausreichen, um Wahlen zu entscheiden. Zudem haben Bots das Potenzial durch gezielte Falschmeldungen den Börsenkurs zu manipulieren.
Die beliebtesten Instant Messenger im Überblick
...mit 1 Milliarde User.
...mit 900 Millionen User.
...mit 853 Millionen User.
...mit 697 Millionen User.
Die Strategien der Manipulation werden auch immer besser und die Bots von Tag zu Tag schlauer. Beim Brexit waren es eher Spambots, die sich nur an den Hashtag Brexit dranhängen wollten. In Amerika gibt es aber beispielsweise ein Netz von Bots, die hauptsächlich rassistische und antisemitische Witz erzählen. Zwischendurch wird dann Donald Trump beleidigt. Vermutlich steckt dahinter eine relativ geschickte Strategie: Man generiert Programm für eine bestimmte Zielgruppe. In diesem Fall gehen die Bot-Macher davon aus, dass die Trump-Wähler eher Gefallen an rassistischen Äußerungen haben. Man spricht sie mit diesen Witzen positiv an, um ihnen dann Trump madig zu machen.
Hat so etwas Erfolg?
Das weiß man nicht genau. Wir untersuchen aktuell, wie stark andere Nutzer von solchen Strategien beeinflusst werden. Dafür gibt es auf jeden Fall einige Indizien. Die größte Gefahr ist, dass Manipulation über Umwege stattfindet. Die Bots beeinflussen Trends. Dann schaut sich irgendwer die Trends an, ohne die Inhalte zu lesen, und lässt sich davon beeinflussen. Beispielsweise könnte jemand denken, dass die Brexit-Befürworter eindeutig vorne liegen und geht dann nicht mehr wählen.
Egal welcher Trend gerade angesagt ist: In dem Moment, in dem Aufmerksamkeit generiert wird, hängen sich die Bots automatisch dran. Sie suchen danach, was gerade trendig ist, nehmen diesen Hashtag und verbreiten ihren Spam.
Gerade Spambots sind nervig. Könnten sie dem Internet zum Verhängnis werden?
So schlimm wird es nicht. Ich könnte mir aber durchaus vorstellen, dass der Nachrichtendienst Twitter unter die Räder kommt, weil dort massenhaft Bots unterwegs sind. Und wenn ich als User irgendwann keinen Nutzen mehr darin sehe, bei Twitter zu sein, verlasse ich die Plattform. Zumal andere Netzwerke Twitter verstärkt Konkurrenz machen.
Wie präsent ist das Thema Manipulation der sozialen Medien durch Bots in der Politik?
Es wird an allen möglichen Ecken versucht, politischen Einfluss über solche Methoden zu nehmen. Inwiefern dass dann gelingt, ist in den Sozialwissenschaften schwer zu sagen. Man weiß nie, was passiert wäre, wenn es diese Einflussnahme nicht gegeben hätte. Die Betreiber erhoffen sich aber etwas und es ist simpel und extrem günstig, Bots zu betreiben. Manch ein Akteur gibt dann 2000 Euro für seine Botarmee aus - schaden kann es ihm ja nicht.
So können Sie sich vor Fake-Profilen schützen
Der nächste große Wahlkampf steht im November an: Die Präsidentschaftswahlen in den USA. Wie schätzen Sie die Lage in den sozialen Medien hinsichtlich Bots ein?
Es hat eine totale Professionalisierung stattgefunden. Es gibt viele Unternehmen, die Social-Media-Analysen machen plus X. Was das X ist, weiß man nicht genau. Eine PR-Firma hat erst vor wenigen Monaten erklärt, dass sie eine Million Dollar dafür verwendet, Hillary Clinton ein positives Image in den sozialen Medien zu verschaffen. Ihr quasi eine Trollarmee aufzubauen. Was genau die Firma macht, weiß man nicht. Nach der Ankündigung sind viele Facebook-Seiten von Konkurrent Bernie Sanders zusammengebrochen.
Außerdem ermöglicht Facebook es den Parteien in den USA, personalisierte, passgenaue Wahlwerbung zu schalten - gegen viel Geld. Die Parteien können Facebook anhand der Wahllisten melden, welche Realpersonen sie unterstützen. Facebook gleicht die Echtnamen mit den Facebook-Namen ab und ermöglicht gezielte Werbung, sogenanntes Microtargeting. Obama hat diese Möglichkeit auch bereits bei der vergangenen Präsidentschaftswahl genutzt, um unter anderem schwarze Frauen in ländlichen Gebieten zu erreichen. Dabei reicht es schon aus, die Menschen am Wahltag an die Abstimmung zu erinnern, um die Massen zu mobilisieren.
In der Vergangenheit gab es ja auch Fälle, in denen deutschen Politikern nachgesagt wurde, sich beispielsweise Fake-Follower gekauft zu haben. Wie verbreitet ist das Phänomen Social Bots in der deutschen Politiklandschaft?
Es wird noch relativ wenig betrieben. Die Parteien fangen erst jetzt an, darüber nachzudenken. Das wäre schon ein Skandal bei uns, wenn zum Beispiel Frau Merkel eine Million Euro dafür ausgeben würde, um in allen sozialen Plattformen ein positives Bild von sich herzustellen. In Amerika ist das anders. Die Deutschen sind sehr vorsichtig. Irgendeine Partei wird aber damit anfangen und große Erfolge mit den Bots haben. Dann ist der Bann gebrochen und anderen ziehen nach.
Was muss ich tun, um nicht auf einen Bot reinzufallen? Wie kann ich mich als Privatperson schützen?
Generell gilt: Vorsichtig sein. Sachen, die einem merkwürdig vorkommen, hinterfragen. Der gesunde Menschenversstand lehrt mich, dass Qualität und Quantität irgendwie zusammengehören. Wenn ich etwas mehrmals höre, muss auch etwas dran sein, denken wir. Diese Gleichung geht im Internet aber nicht mehr auf. Wenn etwas millionenfach geteilt wurde, muss nicht unbedingt etwas Wahres dran sein. Das muss sich jeder klar machen.
Man sollte immer skeptisch werden, wenn merkwürdige Muster auffallen. Eine ältere Dame, die gerne Facebook nutzt, hat mir neulich erzählt, dass sie immer Freundschaftsanfragen von amerikanischen Soldaten bekommt. Wenn das einmal passiert, kann das ein Zufall sein. Aber wenn sich ein Muster abzeichnet, steckt ein Programm dahinter. Oft tarnen sich die Bots auch hinter Profilen von gutaussehenden Frauen. Die Fotos ähneln sich stark. So etwas sollte man am besten sofort blockieren.
Müsste die Politik härter durchgreifen, vielleicht ein Gesetz gegen Bots erlassen?
Es muss auf jeden Fall etwas passieren. Was genau, da bin ich mir noch nicht sicher. Als erstes müsste eine offene Debatte darüber angestoßen werden. Es ist nicht alles negativ. Viele Dinge, wie die Chatbot-Idee für Messenger, finde ich spannend. Sie vereinfacht unseren alltäglichen Umgang mit Computer und Smartphone, wenn dahinter nicht eine perfide Geschäftsidee steht, nämlich sich zwischen Nutzer und Dienstanbieter schalten, um Daten abzufangen. Hier muss es mehr Transparenz geben. Ein vorschnelles, generelles Verbot halte ich nicht für sinnvoll. Zumal die Betreiber solcher Bots nicht in Deutschland oder Europa sitzen, sondern oft am anderen Ende der Welt.
