WiWo App 1 Monat für nur 0,99 €
Anzeigen

Hass auf Facebook Ein Gesetz, keine Lösung

Auf Facebook wuchert der Hass. Mit einem neuen Gesetz will Justizminister Heiko Maas dagegen vorgehen. Doch lösen kann das Problem nur Facebook-Chef Mark Zuckerberg selbst.

  • Artikel teilen per:
  • Artikel teilen per:
Ein Gesetz soll den Hass auf dem Portal eindämmen.

Es braucht nur wenige Klicks, um auf Facebook Zeuge einer Steinigung zu werden. Wackelige Bilder zeigen, wie ein Dutzend Männer um einen anderen Mann steht, der am Boden kauert. Sie holen mit ihren Oberkörpern aus, um Steine auf ihn zu werfen. Ein Stein fliegt, ein zweiter, unzählige mehr. Der Mann zu ihren Füßen schlägt die Arme über dem Kopf zusammen, doch sie werfen immer wieder. Alle paar Sekunden ein neuer Stein, bis der Mann sich nicht mehr rührt. Bereits 40 000 Menschen haben sich das Handyvideo aus einer Wüste angeschaut.

Ein anderes Video zeigt einen kleinen Jungen. Er flieht durch ein Badezimmer vor einem Mann. Der Kleine klettert in eine Badewanne, sucht Schutz. Dann ist er ausgeliefert, als der Erwachsene mit flacher Hand auf ihn einschlägt. Gleicher Tag, andere Bilder: Eine Frau sitzt auf der Bank vor einer Hauswand. Plötzlich baut sich eine Gruppe von Männern vor ihr auf. Sie haben Schuhe in ihrer Hand, mit denen sie auf sie schlagen.

Das alles sind Beiträge aus geschlossenen Facebook-Gruppen, in die man nur durch Akzeptanz bestimmter Administratoren gelangt. Darunter stehen Kommentare, so austauschbar wie einfältig in ihrer Botschaft: „Wenn wir nichts tun, haben wir auch in Deutschland solche Zustände. Vorsicht vor Muslimen!“ Unter dem Pseudonym „Marco“ hat sich die WirtschaftsWoche in den vergangenen Wochen in solchen Gruppen umgesehen. Ein Pseudo-Account mit Deutschlandflagge als Profilbild genügt, schon wird „Marco“ in Gruppen aufgenommen, die sich als die dunkelsten Ecken Facebooks herausstellen; in denen Menschen die NS-Diktatur verherrlichen, gegen Ausländer hetzen oder einfach Brutalität zeigen.

Hetzpost: Totenkopfmütze, Beschriftung

Das Netzwerk löscht sie, sobald sie gemeldet und überprüft wurden. Doch oft vergehen bis dahin Tage, allzu oft passiert gar nichts, und in den geschlossenen Gruppen meldet niemand die Inhalte.

Der Mann, der diese Refugien zur Verfügung stellt, weiß das. Facebook-Chef Mark Zuckerberg schrieb jüngst ein Manifest mit dem Titel: „Building Global Community“. Facebook überprüfe über hundert Millionen Inhalte jeden Monat, heißt es da. „Wir sind so groß, dass selbst ein kleiner Prozentsatz an Fehlern eine Vielzahl an schlechten Erfahrungen auslösen kann,“ Die Einsicht ist also da. Nur: Wer sich wie „Marco“ in den dunklen Ecken auf Facebook umschaut, sich Zugang zu geschlossenen Gruppen verschafft, in denen gesteinigt, gehetzt und gehasst wird, merkt: Zwischen Einsicht und Umsetzung klafft eine Lücke, die Extremisten jeglicher Coleur mit Propaganda und Gesetzesverstößen füllen.

Selten gab es ein Unternehmen, das in so kurzer Zeit so mächtig wurde wie Facebook. 1,9 Milliarden Mitglieder hat Zuckerberg in seine Welt gelockt, mehr als eine Milliarde davon nutzen die Plattform täglich. Nun aber werden Menschen dort brutal verhöhnt, Politiker mit Morddrohungen beschimpft. Selbst das Terrornetzwerk „IS“ rekrutiert auf Facebook. Lange hat das Netzwerk dem unentschlossen zugeschaut. Man verurteilte, wenn – wie im US-Wahlkampf – gefälschte Nachrichten verbreitet wurden, richtete aber ein Gremium zum Kampf gegen Lügenpropaganda erst ein, als es fast schon zu spät war; man mokierte sich über Werbetreibende, die von der guten Reichweite von Diffamierungsnachrichten profitierten, änderte die zugrunde liegende Technik aber erst nach Monaten; man gelobte Besserung, wenn Politik und Gerichte die Auswüchse beklagten, zog dann aber wachsweiche Konsequenzen.

Weil man die Dinge zum Teil nicht ernst nahm; weil in einem Netzwerk dieser Größe so viele Probleme wuchern, dass man nicht alle gleichzeitig bekämpfen kann; weil man unsicher war, ob man überhaupt die Verantwortung für Inhalte auf der eigenen Seite übernehmen solle. Und: weil das alles Geld bringt, sehr viel Geld.

So aber verstrich auch sehr viel Zeit. Womöglich zu viel. Und deswegen wächst in Europa der Unmut über Facebook. Es gab das schon in der Vergangenheit: Als Microsoft oder Google groß und größer wurden, entzündete sich Kritik an der Macht der Techkonzerne. Beide Riesen ignorierten dies so lange, bis vor allem Microsoft von der EU-Kommission zu Millionenstrafen verurteilt wurde, die das Geschäft empfindlich trafen. Nun steht Facebook vor seinem „Microsoft-Moment“, an dem der politische Druck so zunimmt, dass er auf Dauer das Geschäft schädigen kann. Während bei der Verbreitung von Fake News vor allem gesellschaftliche und ethische Fragen zu diskutieren sind, haben sich Politik und Justiz in Sachen Gesetzesverstöße entschieden, den Konzern in die Pflicht zu nehmen.

Das Netz prägt die Meinung: Jüngere setzen bei Nachrichten stärker auf soziale Netze. (zum Vergrößern bitte anklicken)

Deshalb sind Verfassungsschutz, Bundeskriminalamt und Landesämter auf Facebook aktiv. Das BKA hat vor sechs Jahren drei Einsatztruppen geschaffen, die rechtsextreme, linksextreme und islamistische Straftaten im Netz aufspüren sollen. Die Landeskriminalämter schicken eigene Onlinepolizisten auf Streife ins Netz. Die Polizei NRW hat gerade erst eine neue Ausschreibung veröffentlicht: Die Beamten suchen 36 neue Mitarbeiter für die Cyberfahndung.

Auch Facebook beschäftigt mittlerweile Hunderte Mitarbeiter und Subunternehmen, die Bilder und Videos sichten, um das Verbotene und Widerliche zu löschen. Daten der EU-Kommission vom Dezember zeigen aber, dass Facebook nur 28,3 Prozent der gemeldeten Hass-Postings löscht, obwohl man sich schon im Mai 2016 auf einen freiwilligen Verhaltenskodex zur Bekämpfung von illegaler Onlinehetze mit Facebook und anderen Techkonzernen geeinigt hatte. Zwar ist unklar, wie aussagekräftig diese Daten sind, schließlich weiß kein Mensch, ob der Anteil der wirklich gefährlichen Inhalte unter den Beschwerden eher bei 30 oder eher bei 90 Prozent liegt. Doch der deutsche Justizminister Heiko Maas (SPD) will das nicht mehr hinnehmen. Ein von seinem Haus in Auftrag gegebenes Monitoring kommt zu dem Schluss: Das Löschen der meisten rechtswidrigen Inhalte binnen 24 Stunden wird nur von YouTube eingehalten, nicht aber von Facebook und Twitter.

Gesetzentwurf zur Regulierung sozialer Medien

Um Maas’ tiefere Beweggründe zu verstehen, muss man ein Jahr zurück in die Vergangenheit. Im März 2016 sitzt der Minister im Fonds seiner Dienstlimousine, gerade hat er einen Auftritt in Bad Kreuznach hinter sich gebracht. Es ist damals noch nicht lange her, dass er die Pegida-Bewegung eine „Schande“ genannt hat. Immer wieder hat Maas seitdem gegen Rechte Stellung bezogen. Seitdem wird er online bedroht. Er drückt sich tief in den Ledersitz, während der Wagen durch das Städtchen rollt, seine Hände knetet er in den Taschen seines Anzugs, als er darüber spricht. „Im Netz sterbe ich jeden Tag“, sagt er dann. „Die Hemmschwellen sinken.“

Trotzdem hat Maas sich sehr viel Zeit gelassen, tätig zu werden. Diese Woche erst – nach langem Drängen der CDU und aus den eigenen Reihen – legte Maas seinen Gesetzentwurf zur Regulierung sozialer Medien vor. Natürlich ist dies nicht nur gegen Facebook gerichtet, aber vor allem. „Die mit den sozialen Netzwerken vereinbarten Selbstverpflichtungen haben sich als nicht ausreichend erwiesen“, heißt es in dem Entwurf. „Es werden weiter zu wenige strafbare Inhalte gelöscht. Und sie werden nicht schnell genug gelöscht“, sagt Maas.

Maas will gesetzlich die Pflicht verankern, „ständig verfügbare“ Verfahren einzurichten, um Beschwerden melden zu können. Offensichtlich strafbare Inhalte sollen innerhalb von 24 Stunden aus dem Netz sein, in komplizierteren Fällen binnen sieben Tagen. Dazu sieht der Entwurf Bußgelder von 5 bis 50 Million Euro vor. SPD-Digitalfachmann Lars Klingbeil ist froh, dass der Minister jetzt noch vor der Bundestagswahl – zum letztmöglichen Zeitpunkt, weil sein Gesetzentwurf nun zur dreimonatigen Prüfung nach Brüssel muss, bevor der Bundestag ihn endgültig verabschieden kann – endlich vorangeht: „Auf freiwilliger Basis ist bei den sozialen Netzwerken zu wenig passiert. Deshalb müssen wir als Gesetzgeber jetzt den Druck erhöhen.“

Auch andernorts, in der Rue de Genève im Herzen Brüssels, steht Facebook unter Beobachtung. Konkret erwägt die EU-Kommission klarere Vorgaben, damit Unternehmen illegale Inhalte schneller löschen. Die Behörde will im Mai und Dezember überprüfen, wie sich die Lösch-Zahlen seit dem 2016 vereinbarten freiwilligen Verhaltenskodex entwickeln. „Wenn wir bis Dezember keinen deutlichen Fortschritt sehen, dann werden wir eine Regulierung vorlegen“, sagt dazu ein Insider aus der EU-Kommission. Allerdings gilt für Brüssel wie für Berlin: Die Details sind aufgrund des schmalen Grats zwischen Verhindern von Verleumdung und Zensur auch in Europas Zentrale hoch umstritten.

Die deutsche Wirtschaftsministerin Brigitte Zypries (SPD) merkte bereits an: „Die Verantwortlichkeit der Plattformbetreiber derart auszuweiten, dass sie einer Privatisierung der Rechtsdurchsetzung gleichkommt“, halte sie ökonomisch und gesellschaftspolitisch für besorgniserregend.

Facebook-Chef Zuckerberg hat seine Gegenargumente auch schon vorgetragen: Facebook werde die Menschheit einen, nicht spalten. Regulierung sei deswegen das falsche Mittel. Allerdings darf man ihm, neben ehrlicher Betroffenheit, auch einen gewissen ökonomischen Interessenkonflikt unterstellen: Denn Zuckerberg hat die Geister selbst herbeibeschworen, die er jetzt einfangen will. Und das lässt sich nirgendwo besser erleben als beim Abgleiten in die abgeschotteten Denkräume – die Filter Bubbles, die er in seinem Post selbst scharf kritisiert.

Je mehr rechten Gruppen „Marco“ beitritt, umso mehr verändert sich die Realität, wie „Marco“ sie auf Facebook wahrnimmt, ins Abstruse. In dieser Welt ist SPD-Kanzlerkandidat Martin Schulz eine vom jüdischen Finanzinvestor George Soros bezahlte Marionette. Angela Merkel wird von Rabbinern gesteuert, und in Frankreich herrscht Krieg, was die Medien geheimhalten. Und diese eigene Welt aus Lügen und Hass verstärkt sich mit jedem Klick. Als „Marco“ die Seiten „Gegen Masseneinwanderung“, „NPD“, „Islam Nein Danke“ abonniert, bekommt er vom Facebook-Algorithmus die Foren „Deutsches Reich“ oder „Politisch Inkorrekt“ vorgeschlagen.

Dieser Strudel des Bösen, in den Facebook „Marco“ zieht, dient einem einfachen Interesse: Auf je mehr gleichgesinnte Inhalte Nutzer treffen, desto länger bleiben sie. Und je mehr sie dort verweilen und klicken, desto mehr Werbeerlöse kann Facebook erzielen.

Mit diesem Mechanismus ist Facebook zum Werbewunder aufgestiegen mit 28 Milliarden Dollar Umsatz und 10 Milliarden Gewinn. „Zuckerberg hat die finanziellen Interessen von Facebook zu lange über die Interessen der Nutzer gestellt“, zetert ein Vertreter eines Konkurrenten.

Verhängnisvolle Posts, die den Job kosten können
Ein Auktionator bei einer Kunstauktion mit dem Hammer den Zuschlag. Quelle: dpa
Wer seinen Ausbilder als Menschenschinder und Ausbeuter bezeichnet, fliegt Quelle: Fotolia
Hamburger Band Deichkind Quelle: dpa
„Ab zum Arzt und dann Koffer packen“Urlaub auf Rezept? Eine Auszubildende aus Nordrhein-Westfalen schrieb bei Facebook: "Ab zum Arzt und dann Koffer packen." Das las der Ausbilder und fand es gar nicht komisch. Er kündigte der Auszubildenden fristlos. Sie zog vor Gericht. Das Argument der Verteidigung lautete übrigens, dass die Auszubildende wegen ihrer Hautkrankheit Neurodermitis Urlaub bräuchte. Spätestens als die aber sagte: "Ich hätte eh zum 31. Mai gekündigt" war klar, woher der Wind weht. Beide Parteien einigten sich auf eine Zahlung von 150 Euro ausstehenden Lohn und ein gutes Zeugnis. Quelle: dapd
Facebook-Nutzung trotz Kopfschmerzen Quelle: Fotolia
"Speckrollen" und "Klugscheißer" Quelle: AP
Eine Lehrerin bezeichnete sich als "die Aufseherin von künftigen Kriminellen" Quelle: dpa

In Würzburg gibt es einen Mann, der Zuckerberg wegen solcher Mechanismen am liebsten im Gefängnis sehen würde. Rechtsanwalt Chan-jo Jun hat mehrfach gegen Facebook geklagt. Der Vorwurf: Hasskriminalität und Verleumdung in über 500 Fällen. Im vergangenen März schon stellte er Strafanzeige, in Hamburg. Doch die Hamburger Staatsanwaltschaft verweigerte Ermittlungen mit dem Hinweis, dass angesichts der verzweigten Unternehmensstruktur von Facebook deutsches Recht nicht anwendbar sei. Jun zog daraufhin zur Staatsanwaltschaft München I, die sich derzeit aber mit ähnlichen Bedenken plagt und die zudem noch zweifelt, ob sie sich überhaupt für Hamburger Vorgänge interessieren sollte.

Jun erkundigte sich deswegen beim bayrischen Justizminister, ob man Facebook in Deutschland strafrechtlich belangen könne. Die schriftliche Antwort aus dem Ministerium ist eindeutig: Die Geltung deutschen Strafrechts könne nicht „mit der Begründung verneint werden, es fehle an einem innerstaatlichen Tatort“. Übersetzt: Selbst wenn Facebooks Server außerhalb der Bundesrepublik stehen, findet doch das Verbrechen – in diesem Fall das Nichtlöschen – in Deutschland statt. Die Staatsanwaltschaft vermeldet dennoch weiteren Beratungsbedarf. Und gerade erst urteilte das Landgericht Würzburg in einem ähnlichen, ebenfalls von Jun vorangetriebenen Fall, Facebook hafte nicht für Inhalte, die andere auf seiner Plattform verbreiten.

Probleme bei der Bändigung Facebooks

Es gibt neben überforderten Richtern, Staatsanwälten und Politikern allerdings noch ein weiteres Problem bei der Bändigung Facebooks: Aus einem Studentennetzwerk ist heute ein Netzwerk herangewachsen, das inzwischen in gut 200 Ländern tätig ist. Und in all diesen Ländern gibt es unterschiedliche Vorstellungen, was tolerabel ist. In den USA etwa darf man Nazis verherrlichen. Bisher galten im Facebook-Universum universelle „Gemeinschaftsstandards“. In Zukunft sollen die Nutzer selbst die Kuratoren ihrer Facebook-Welt werden. In den Einstellungen soll jeder selbst bestimmen, wie viel Gewalt etwa sie oder er verträgt. Aber werden jene, die in ihre eigenen Welten aus Hass und Lügen abdriften, nicht erst recht in Paralleluniversen verschwinden?

In „Marcos“ Gruppe „Deutschland den Deutschen“ hat ein Nutzer ein Bild von Adolf Hitler hochgeladen, der Kommentar dazu: „Adolf, Du fehlst“. Darunter ein Comic von Männern, die den Davidstern erbrechen. Wenige Minuten später kann „Marco“ beobachten, wie jemand das Foto einer Hakenkreuz-Fahne hochlädt. In anderen Gruppen kommunizieren die Nutzer mit Nazicodes, um sich nicht strafbar zu machen. Viele Beiträge, die „Marco“ verfolgt, enden mit SH (Sieg Heil) oder HH (Heil Hitler). Untereinander sind die Mitglieder so freundlich, wie Facebook in seiner Vision skizziert.

Sie nutzen die Plattform, um sich gegenseitig gute Nacht zu wünschen („Gute Nacht, Kameraden“, „Dir auch gute Nacht und SH“), ein paar motivierende Worte für den Arbeitstag zu schicken oder sich über historische Soldatenbilder zu freuen. Zu den beliebtesten Objekten zählen Stahlhelme mit „Kampfschäden“.

Nutzerzahlen der bekanntesten sozialen Medien

Facebook will nun künstliche Intelligenz (KI) einsetzen, um solche Fotos, Videos und Sprüche, sobald sie in einem Land verboten sind, herauszufiltern. „Wir hoffen, einige dieser Fälle schon 2017 so handhaben zu können“, postete Zuckerberg. „Aber andere werden noch in vielen Jahren nicht möglich sein.“ Simon Hegelich, der an der Schnittstelle zwischen Politik und Big Data in München forscht, sagt: Derzeit seien selbst die besten KI-Systeme noch überfordert, Gewalt aus Videos herauszufiltern. Denn diese selbstlernende Technologie sei noch nicht in der Lage, verdächtiges Datenmaterial auch in einen Kontext zu stellen. Das funktioniere derzeit lediglich bei Pornografie, da es einen großen Datenfundus als Referenzrahmen dazu gebe.

Wissenschaftler wie Hegelich gehen davon aus, dass es noch lange dauern werde, bis aus der selbstlernenden KI eine „echte künstliche Intelligenz“ entstehe, die solche Zusammenhänge herstellen kann.

Auch Martin Drechsler, der als Chef der Freiwilligen Selbstkontrolle von Multimedia-Anbietern schon einiges erlebt hat, sagt: „Facebook beschäftigt mit die besten Experten der Welt für künstliche Intelligenz, aber das Filtern verbotener Inhalte ist technologisch derzeit vor allem für Videos noch sehr schwer.“ Zwar sei Facebook in Deutschland lange nicht sehr kooperativ gegenüber Behörden und Politik aufgetreten. Allerdings findet Drechsler auch, dass politischer Aktionismus im Kampf für mehr Netzhygiene fehl am Platz ist: „Das Management hat verstanden, dass es handeln muss.“

Deswegen solle man lieber mit als gegen das Unternehmen versuchen, das Problem zu beheben. „In Berlin ist die Erkenntnis inzwischen gereift, dass die Gefahr recht groß ist, beim Versuch der Regulierung Zensur zu betreiben“, sagt Drechsler.

Und so muss man wohl sagen: So lange, wie eine technische Lösung nicht möglich ist, ist eine umfassende Kontrolle Facebooks kaum möglich. Die Hoffnung, wenn Facebook einmal gemeldete Inhalte innerhalb von 24 Stunden lösche, werde alles gut, ist naiv. Studien haben ergeben, dass die Verbreitung am besten gestoppt wird, wenn Inhalte innerhalb der ersten zwei Stunden gelöscht werden. Danach ist Eile egal, der Inhalt längst gestreut.

Die Geschichte des Aufstiegs von Facebook handelt deshalb auch davon, wie offene Gesellschaften von Turbo-Aufsteigern wie Zuckerberg einfach überrollt werden. „Niemand kann beim Programmieren voraussehen, wie die dadurch entstehenden technologischen Umbrüche die Gesellschaft später beeinflussen werden“, gibt ein Topentwickler aus dem Valley zu.

Zuckerberg hat mit Barack Obama posiert, er wird weltweit wie ein Popstar hofiert. In diesem Jahr will Zuckerberg alle 50 US-Bundesstaaten besuchen. Manche glauben, er bereite sich auf ein Leben in der Politik vor. Es ist deswegen der Gründer selbst, der das größte Interesse daran hat, dass Facebook die freundliche Plattform zur Verbesserung der Welt bleibt, als die er das Unternehmen einst schuf. Er muss dafür vor allem selbst aktiv werden, dafür Sorge tragen, dass sein Netzwerk nicht schneller wächst als die Möglichkeiten, es zu kontrollieren. Der Mann ist gerade Anfang 30 und steht nun doch vor seinem ganz persönlichen „Microsoft-Moment“: Findet er eine Antwort auf die geballte Kritik in Europa oder nicht? Findet er sie nicht, drohen ihm Einschnitte, dabei hängen 23 Prozent seines Umsatzes am alten Kontinent. Microsoft und Google mussten einst teuer bezahlen, als sie die Europäer ignorierten.

Der Facebook-Chef könnte also gewarnt sein: Zuckerberg muss sich selbst zähmen lernen, weil in offenen Gesellschaften es kein anderer kann.

Was sonst passiert, konnte man auch in der Facebook-Realität von „Marco“ sehen: Als jemand nach der Meinung zur Grünen-Politikerin Claudia Roth fragte, ploppten Kommentare auf wie: „Der gehört eine Kugel verpasst“, oder „Ich will sie tot sehen“. Dieser Strang stand in keiner geheimen Gruppe. Er war für jedermann einsehbar.

© Handelsblatt GmbH – Alle Rechte vorbehalten. Nutzungsrechte erwerben?
Zur Startseite
-0%1%2%3%4%5%6%7%8%9%10%11%12%13%14%15%16%17%18%19%20%21%22%23%24%25%26%27%28%29%30%31%32%33%34%35%36%37%38%39%40%41%42%43%44%45%46%47%48%49%50%51%52%53%54%55%56%57%58%59%60%61%62%63%64%65%66%67%68%69%70%71%72%73%74%75%76%77%78%79%80%81%82%83%84%85%86%87%88%89%90%91%92%93%94%95%96%97%98%99%100%