Big Data und die Folgen Heiko Maas kämpft gegen Algorithmen

Erst vor wenigen Tagen hat der Bundestag das umstrittene Gesetz gegen Hass im Netz verabschiedet. Jetzt hat Justizminister Heiko Maas Algorithmen im Visier – die gut gehüteten Geheimnisse der Internetkonzerne.

  • Teilen per:
  • Teilen per:
Der Ruf nach schärfere Regeln für die Netzwirtschaft wird lauter. Quelle: dpa

Berlin „Daten sind der Rohstoff der Zukunft“, dieser Satz von Bundeskanzlerin Angela Merkel (CDU), gefallen im vergangenen Jahr beim Tag der deutschen Industrie, hat viele Kritiker der Datensammelwut mancher Unternehmen alarmiert. Denn anders als die Kanzlerin befürchten sie, dass Big Data, die Auswertung großer Datenmengen, nicht mehr Vorteile, sondern eher mehr Nachteile bringt.

Und in der Tat: Um den Kunden besser zu verstehen und konkurrenzfähig zu bleiben, setzen Unternehmen zunehmend auf das Sammeln, Verknüpfen und Auswerten mitunter persönlicher und sensibler Daten. Daraus werden Algorithmen entwickelt, mit deren Hilfe die Entscheidungen von Nutzern beeinflusst werden können. Dass damit nicht nur Chancen, sondern viele Risiken verbunden sind, hat die Politik schon vor Jahren erkannt, aber keinen echten Regulierungsbedarf gesehen. Das soll sich nun ändern.

Erste Ideen skizzierten die drei SPD-Bundesminister Brigitte Zypries (Wirtschaft), Andrea Nahles (Arbeit) und Heiko Maas (Justiz und Verbraucherschutz) vor wenige Wochen in einem 80-seitigen Positionspapier zur Digitalpolitik. Darin geht um die künftige Regulierung von Plattformen wie dem Fahrdienstleister Uber oder dem Übernachtungsvermittler Airbnb, um Verbraucherrechte in der digitalen Welt, um die Zukunft der Arbeit und Cybersicherheit.

In dem Papier wird auch der Einsatz von selbstlernenden Algorithmen thematisiert, etwa das mit dieser Technologie Menschen diskriminiert werden könnten. Vor allem, wenn Algorithmen Prognosen über menschliches Verhalten treffen, Entscheidungen beeinflussen oder sie vorbereiten. Deshalb regten die Minister schon damals eine Kontrollinstanz für Algorithmen an. „Wir werden deshalb Regulierungsansätze entwickeln, die es möglich machen, die Auswirkungen von bestimmten Algorithmen zu überprüfen“, heißt es in dem Papier.  „Ziel ist ein verlässlicher rechtlicher Ordnungsrahmen, der einen Korridor für Innovationen erhält, jedoch dem Einsatz von potenziell diskriminierenden Algorithmen auch regulatorische Grenzen setzt.“

Nach diesem ersten Aufschlag, konkretisiert Bundesverbraucherminister Maas jetzt das Bestreben, die Macht der Algorithmen künftig scharfen rechtlichen Vorgaben zu unterwerfen. „Ich glaube, wir brauchen ein digitales AGG, ein Antidiskriminierungsgesetz für Algorithmen – gegen digitale Diskriminierung und für vorurteilsfreies Programmieren“, sagte Maas laut einem dem Handelsblatt vorliegenden Redemanuskript bei der Konferenz „Digitales Leben –Vernetzt. Vermessen. Verkauft? #Werte #Algorithmen #IoT“ am Montag in Berlin. Technischer Fortschritt dürfe nicht zu gesellschaftlichem Rückschritt führen, betonte der Minister. Deshalb sei ein rechtlicher Ordnungsrahmen notwendig, „der viel Raum für Innovationen bietet, aber den Einsatz von diskriminierenden Algorithmen verhindert“.

In seiner Grundsatzrede „Zusammenleben in der digitalen Gesellschaft“ begründete Maas seinen Vorstoß mit den unzähligen Daten, die inzwischen im Umlauf sind und teilweise für geschäftliche Zwecke genutzt würden. „Wenn diese Big Data digital ausgewertet werden, kann es schnell Gewinner und Verlierer geben“, sagte der Minister. Wenn etwa soziale oder wirtschaftliche Scoring-Verfahren eingesetzt würden, könne daraus eine „gefährlichen Gleichung“ werden, nach der positive Daten Vorteile und Teilhabe und negative Daten, Nachteile und Ausgrenzung bedeuteten. „Schon heute“, so Maas, „beeinflussen Algorithmen viele Entscheidungen – sowohl im Geschäftsleben als auch politisch und sozial.“

So würden der Preis eines Flugtickets, die Kreditwürdigkeit eines Verbrauchers oder der Zugang eines Kunden zu bestimmten Versicherungstarifen immer öfter individuell von Algorithmen bestimmt. „Und bei bestimmten Kundenhotlines werden angeblich nur noch Anrufer durchgestellt, die von einem Algorithmus als wohlhabend eingestuft werden“, erklärte der Minister.

Für „besonders gefährlich“ hält es Maas, wenn digitale Scoring-Verfahren nicht nur kommerzielle, sondern soziale oder politische Ziele verfolgen. Als Beispiel nannte er die USA. Dort würden Bewerbungen durch Algorithmen vorsortiert, und die Justiz lasse mancherorts sogar die Rückfallwahrscheinlichkeit von Straftätern von Algorithmen prognostizieren.


Verbrauchschützer loben Maas-Vorstoß

Als weiteres Negativbeispiel führte der Minister China an. Dort würden in ausgewählten Regionen für jeden Bürger rund 5.000 verschiedene Behördendaten digital zusammengeführt, um seine „soziale Zuverlässigkeit“ zu errechnen. „Für die Angepassten gibt es Privilegien, bei abweichendem Verhalten gibt es Sanktionen, vom Ausreiseverbot bis hin zu Bildungsschranken für die Kinder“, erläuterte Maas.

Für den Minister liegt damit auf der Hand:  „Wenn Daten, die aus unserem Verhalten gewonnen werden, so weitreichende Schlussfolgerungen erlauben, müssen wir Licht in dieses digitale Dunkel bringen.“ Jeder müsse erfahren und auch kontrollieren können, was genau mit seinen Daten passiere. „Deshalb brauchen wir mehr Transparenz von Algorithmen. Und wir brauchen eine behördliche Kontrolle, um die Funktionsweise, Grundlagen und Folgen von Algorithmen überprüfen zu können“, sagte Maas.

Die Pläne des Ministers würden insbesondere auch Internet-Konzerne wie Facebook und Google betreffen. Den Suchmaschinenkonzern hatte der SPD-Politiker schon vor fast drei Jahren aufgefordert, seinen Suchalgorithmus „transparent“ zu machen. „Am Ende geht es darum, wie transparent die Algorithmen sind, die Google benutzt, um seine Suchergebnisse zu sortieren“, sagte der SPD-Politiker seinerzeit der „Financial Times“. „Wenn eine Suchmaschine einen solchen Einfluss auf die wirtschaftliche Entwicklung hat, dann ist dies eine Angelegenheit, mit der wir uns befassen müssen.“

Hintergrund von Maas Forderung war damals ein Streit zwischen der EU-Kommission und dem US-Konzern. 2010 hatte Brüssel ein Wettbewerbsverfahren eingeleitet, weil Konkurrenten Google vorwerfen, seine Suchergebnisse so zu manipulieren, dass Ergebnisse von Diensten, die Google selbst betreibt, höher und prominenter angezeigt werden als Ergebnisse der Konkurrenz. Beispiele sind Googles Shopping-Dienst und der Service Google Flights für Flugreisen. Vergangene Woche griff die EU-Kommission dann mit einem Rekord-Bußgeld durch. Der Internet-Riese soll 2,42 Milliarden Euro zahlen, weil er Konkurrenten bei der Produkt-Suche benachteiligt habe.

Tatsächlich bergen Geschäftsmodelle, die stark auf Algorithmen basieren, großes Wachstumspotenzial. Nach Ansicht vieler Experten sind Unternehmen, die datenbasiert arbeiten, besonders erfolgreich. Dabei muss es nicht immer um sensible Informationen gehen. Eine Anfang Dezember vergangenen Jahres veröffentlichte Studie der Unternehmensberatung McKinsey kam zu dem Ergebnis, „dass das wirtschaftliche Potenzial durch die Nutzung großer Datenmengen noch lange nicht ausgeschöpft ist“. Demnach werden Lösungen auf Basis von Big Data derzeit von Unternehmen aktuell nur zu rund 30 Prozent realisiert.

„Weltweit verdoppelt sich die Menge verfügbarer Daten alle drei Jahre“, erklärte Analytics-Experte Peter Breuer von McKinsey anlässlich der Studie. Digitale Plattformen, vernetzte Sensoren und Milliarden von Smartphones generierten kontinuierlich neue Informationen. Gleichzeitig seien die Kosten für Datenspeicherung stetig gesunken und die Auswertungsmöglichkeiten durch immer leistungsfähigere Computer gewachsen. „Unternehmen, die Daten und Datenanalyse nutzen, um Probleme zu lösen, haben schon heute einen enormen Wettbewerbsvorteil. Sie gestalten ihre Prozesse effizienter und verstehen die Kunden besser.“ Firmen, die nicht aus der digitalen Welt kommen, sollten diese Fähigkeiten schnell aufbauen, um nicht abgehängt zu werden, so Breuer.

Diese Entwicklung lief bislang an der Politik weitgehend vorbei. Umso größer dürfte für Maas in dieser Hinsicht die Unterstützung von Verbraucherschützern sein. Zumal auch der Chef des Verbraucherzentrale Bundesverbands (VZBV), Klaus Müller, schon lange Handlungsbedarf sieht. Erst kürzlich forderte Müller anlässlich des Deutschen Verbrauchertags in Berlin eine neue Institution zur Überwachung von Computer-Entscheidungen in sensiblen Bereichen. „Wir brauchen einen Algorithmen-Tüv“, sagte Müller seinerzeit dem Handelsblatt.

Als Beispiel verwies der VZBV-Chef auf die Diesel-Affäre. „Der Motor und die Bremsen sind weiter wichtig, aber die Software ist es zunehmend auch.“ Der Betrug habe dort gesteckt. „Wir brauchen eine unabhängige Stelle, die in der Lage ist, die Algorithmen zu überprüfen. Das könnte auch eine zertifizierte private Institution sein.“


Union für „kluge Datenpolitik im Sinne der Menschen“

Maas ist noch ein weiterer Aspekt wichtig. „Wenn digitale Produkte und Prozesse Sicherheitslücken aufweisen, dann müssen die Verantwortlichkeiten zwischen Herstellern, Dienstleistern und Verbrauchern klarer als bisher geregelt werden“, sagte er. Die Risiken müssten fair verteilt sein. Erst vor wenigen Tagen hätten Unternehmen und Behörden auf der ganzen Welt einen massiven Cyberangriff mit Schadprogrammen auf ihre Netzwerke abwehren müssen. „Und je mehr alltägliche Geräte im sogenannten Internet der Dinge digital miteinander kommunizieren, desto höher sind die Sicherheitsrisiken, derer sich viele Nutzer noch gar nicht bewusst sind“, so Maas.

Deshalb seien europaweit geltende Vorschriften zur IT-Sicherheit nötig, die verpflichtende Mindestanforderungen definierten und durch ein Marktaufsichtssystem kontrolliert würden, forderte der Minister. „Außerdem“, so Maas weiter, „könnte durch die Einführung eines freiwilligen Gütesiegels für internetfähige Produkte mehr Transparenz über die jeweiligen Sicherheitseigenschaften hergestellt werden.“

In der Union werden indes vor allem die Vorteile von Big Data betont. Damit könnten intelligente Verkehrssteuerungssysteme, effizientere Energieversorgung oder eine bessere Gesundheitsversorgung geschaffen werden. „Für all diese Lösungen braucht man große Datenmengen, sonst sind sie nicht valide“, sagte die Vize-Chefin der Unions-Bundestagsfraktion, Nadine Schön (CDU) schon Ende letzten Jahres dem Handelsblatt.  Dies sei aber kein Widerspruch zum Recht auf informationelle Selbstbestimmung oder zur Frage der Datensicherheit. „Diesem Bedürfnis muss durch entsprechendes Big-Data-Management Rechnung getragen werden.“

Im Übrigen seien nicht alle personenbezogenen Daten per se als kritisch einzustufen, gab Schön zu bedenken. Für die Mobilität könnten sie beispielsweise großen Nutzen bringen. „Auch kann so viel wie möglich mit anonymen und pseudonymisierten Daten gearbeitet werden.“ Nötig seien daher Transparenz auf der Grundlage klarer Kriterien und harte Strafen bei Verstößen gegen diese Standards.

Die CDU-Politikerin plädierte seinerzeit für eine „innovationsoffene Datenpolitik 4.0“. „Nur so können entsprechende Geschäftsmodelle auch in Deutschland entstehen, nach unseren Standards“, sagte Schön. „Schränken wir den Umgang mit Daten ein, indem wir krampfhaft am System der Datensparsamkeit festhalten, dann entstehen die Geschäftsmodelle in den USA oder Asien – nach dortigen Standards. Das kann niemand wollen“, betonte sie. Daher seien verantwortungsvolle Standards und Kriterien des Datenmanagements statt Datensparsamkeit eine „kluge Datenpolitik im Sinne der Menschen“.

Maas hält ein „Transparenzgebot für Algorithmen“ insbesondere auch mit Blick auf die sozialen Netzwerke für unabdingbar, damit Nutzer „verlässlich“ einschätzen könnten, ob das Netz versuche, sie zu beeinflussen. Und damit auch jeder entscheiden könne, welche Filter und Personalisierungen er in der digitalen Welt akzeptieren wolle und welche nicht. Denn, so Maas: „Wenn unter dem Mantel der technischen Neutralität und Objektivität Trefferlisten und die Anzeige von Nachrichten und Postings politisch manipuliert werden, dann bleibt die demokratische Selbstbestimmung auf der Strecke“.

Was Maas stört, ist der Umstand, das auf Kommunikationsplattformen wie Facebook, einzelne Botschaften durch Algorithmen sortiert, personalisiert oder gefiltert würden, wodurch ein „Effekt der permanenten Selbstbestätigung“ gefördert werde. „Früher hieß das Tunnelblick“, erläuterte der Minister. „Heute sind es die „Echokammer“ und die „Filter-Blase“, die dafür sorgen, dass wir nur noch auf Positionen treffen, die uns in der eigenen Meinung bestärken – egal wie absurd die im Einzelfall sein mag.“ Selbst die Anhänger der „Flat Earth“-Theorie bekämen permanent neue Belege aus dem Netz, die ihre Theorie bestätigten, dass die Erde tatsächlich eine Scheibe sei.

Neben den rechtlichen Fragen, die Maas mit Blick auf Algorithmen geregelt haben will, möchte der Minister bei dem Thema wissenschaftliche Expertise deutlich mehr Gewicht geben. „Denn wie soll die Gesellschaft der Technik Regeln setzen, wenn der Sachverstand dafür nur in betroffenen Unternehmen vorhanden ist?“, sagte Maas. „Deshalb sollte die nächste Bundesregierung eine „Digital-Agentur“ gründen, um im Austausch mit Wissenschaft, Wirtschaft und Verbrauchern mehr Expertise zu erlangen – über Algorithmen, über das Internet der Dinge und das Leben in der digitalen Welt.“

© Handelsblatt GmbH – Alle Rechte vorbehalten. Nutzungsrechte erwerben?
Zur Startseite
-0%1%2%3%4%5%6%7%8%9%10%11%12%13%14%15%16%17%18%19%20%21%22%23%24%25%26%27%28%29%30%31%32%33%34%35%36%37%38%39%40%41%42%43%44%45%46%47%48%49%50%51%52%53%54%55%56%57%58%59%60%61%62%63%64%65%66%67%68%69%70%71%72%73%74%75%76%77%78%79%80%81%82%83%84%85%86%87%88%89%90%91%92%93%94%95%96%97%98%99%100%