Welche Auswirkungen eine maximal 140 Zeichen lange Falschmeldung bei Twitter haben kann, hat die Welt im Dezember 2015 erfahren. Durch einen irrtümlich abgeschickten Tweet der britischen "Financial Times" mit einer Falschmeldung zur Geldpolitik der EZB schoss der Euro für kurze Zeit in die Höhe. Auch wenn dieser Fall ein Versehen war, zeigt er doch, wie einflussreich Topthemen in den sozialen Medien sind.
Doch immer häufiger stecken hinter den Trends nicht Menschen, sondern Softwareroboter, die auf Twitter, Instagram & Co. gezielt Inhalte verbreiten. Wie die Programme das machen und welche Gefahren sich daraus ergeben, erklärt Politikwissenschaftler Simon Hegelich im Interview.
WirtschaftsWoche Online: Herr Hegelich, jeder zweite Klick im Internet soll auf das Konto von autonomen Softwarerobotern, kurz Bots, gehen. Wir Menschen sind also schon lange nicht mehr alleine im Netz?
Simon Hegelich: Das stimmt. Mit den Zahlen, wie viele autonom agierende Programme sich im Internet tummeln, ist das aber so eine Sache. Dass 50 Prozent oder gar zwei Drittel des gesamten Datenverkehrs im Internet von Bots produziert werden soll, liegt vor allem an den großen Crawlern wie Google, die ununterbrochen das Netz durchsuchen. Das produziert jede Menge Traffic. Geht es nach Facebook, Google oder Microsoft, werden Bots ganz bald auch in Messengern eingesetzt. Die Vision ist, dass wir mit Hilfe eines Chatbots mit unserem Computer oder Smartphone interagieren und reden können, wie mit einem anderen Menschen.
In diesem Fall wüsste der Nutzer, dass er mit einem Roboter kommuniziert. Oft ist das aber nicht der Fall, zum Beispiel in den sozialen Medien. Da treiben bösartige Bots ihr Unwesen.
Die Rede ist von Social Bots. Das sind Programme, die vorgeben, Menschen zu sein. Sie betreiben Fake-Profile, um beispielsweise Daten von Nutzern abzugreifen oder gezielt Spam sowie politische Parolen zu verbreiten. Wie hoch das Aufkommen dieser Bots ist, kann man nicht genau sagen. Denn die meisten werden gar nicht erst entdeckt. Auf Instagram sind beispielsweise extrem viele Bots, bei Facebook etwas weniger und Twitter ist wiederum voll von Bots. Generell ist es so, dass sich Bots in jede öffentliche Diskussion in den sozialen Medien einmischen. Entweder hängen sie sich an trendige Hashtags, um Spam zu verbreiten, oder sie kommentieren, retweeten oder liken Inhalte, um eine bestimmte Meinung zu pushen.
Zur Person
Simon Hegelich ist Professor für Political Data Science an der Hochschule für Politik an der Technischen Universität München. Er verbindet in seiner Forschung Politikwissenschaften mit Computerwissenschaften und ist Experte im Bereich Social Bots. Im vom Bund geförderten Forschungsprojekt "Social Media Forensics" analysiert Hegelich, welchen Einfluss Social Bots in einer Demokratie haben und wie der Nutzer sie besser erkennen kann. Zusätzlich bloggt er regelmäßig zum Thema Bots.
Was ist das gefährliche an Social Bots?
Ich sehe drei Risiken. Zunächst die Manipulation von Trends: Schon für zweistellige Beträge kann sich jeder Tausende von neuen Twitter-Followern kaufen. Denn wer mehr Follower hat, hat mehr Einfluss - die eigenen Inhalte werden prominenter in den sozialen Medien angezeigt.
Dann gibt es die Strategie, einzelne Gruppen zu manipulieren. Das zeigte sich gut am Beispiel des Russland-Ukraine-Konflikts. Bei einem Botnetz ist es zum Beispiel so, dass 90 Prozent der Inhalte sexistische Kommentare oder Sportnachrichten sind. Damit sollen junge Männer erreicht werden. Denn die übrigen zehn Prozent sind faschistische Propaganda.
Und als drittes Problem sehe ich die 1:1 Manipulation von Privatleuten. Ein Bot wird auf eine Person abgestellt, studiert ihr Profil und entwickelt sich mit den Informationen quasi zum perfekten Freund, der im Anschluss mit dem Nutzer in Kontakt tritt. Das ist eine sehr subtile Art der Manipulation, die auf Privatmenschen zugeschnitten ist. Das Schlimme: Aufwändiger ist diese Herangehensweise nicht. Denn wenn man es einmal geschafft hat, einen Bot auf bestimmte Dinge zu trainieren, kann man mit dem selben Programm Millionen Bots mit den gleichen Eigenschaften steuern. Preiswert und schnell.
Britische Forscher der Oxford Universität haben im Vorfeld des EU-Referendums in Großbritannien untersucht, wie stark Social Bots in die Brexit-Diskussion auf Twitter eingreifen. Das Ergebnis: Ein Drittel der Tweets geht auf automatisierte Programme zurück. Haben die Bots den Ausgang der Wahl manipuliert?
Natürlich haben Bots ein großes Potenzial, Meinungen zu beeinflussen. Die These, die Bots hätten das Referendum manipuliert, lässt sich aber allein durch die Datenlage dieser Studie nicht stützen. Die Forscher haben lediglich herausgefunden, dass sich viele automatisierte Accounts an das Brexit-Thema drangehängt haben.
So hat ein großer Prozentteil der analysierten Fake-Profile Pro- und Contra-Hashtags gleichzeitig verwendet. Das deutet darauf hin, dass es wohl Bots gewesen sind, die beispielsweise Werbung für russische Videos machen, und an ihren Post den trendigen Hashtag Brexit dranhängen, um Aufmerksamkeit zu bekommen.
Laut dieser Studie haben die meisten Bots auf Twitter für einen Brexit Stimmung gemacht. In Großbritannien benutzen hauptsächlich jüngere Menschen Twitter. Hätten die Bots die Wahl manipuliert, dann hätte gerade diese Altersgruppe mehrheitlich für den Brexit stimmen müssen. Das war aber nicht der Fall.
