Berlin Was tun gegen die Macht der Algorithmen? Bundesjustizminister Heiko Maas (SPD) brachte erst vor kurzem scharfe rechtliche Vorgaben ins Spiel. „Ich glaube, wir brauchen ein digitales AGG, ein Antidiskriminierungsgesetz für Algorithmen – gegen digitale Diskriminierung und für vorurteilsfreies Programmieren“, sagte Maas im Sommer bei einer Konferenz in Berlin.
Hinter dem Vorstoß steht die Sorge, dass die unzähligen Daten, die inzwischen im Umlauf sind und teilweise für geschäftliche Zwecke genutzt werden, zu einem Bumerang für die Menschen werden können. Wenn etwa soziale oder wirtschaftliche Scoring-Verfahren eingesetzt würden, könne daraus eine „gefährlichen Gleichung“ werden, nach der positive Daten Vorteile und Teilhabe und negative Daten, Nachteile und Ausgrenzung bedeuteten. „Schon heute“, so Maas damals, „beeinflussen Algorithmen viele Entscheidungen – sowohl im Geschäftsleben als auch politisch und sozial.“
Eine Regulierung der Algorithmen würde insbesondere auch Internetkonzerne wie Facebook und Google betreffen. Den Suchmaschinenkonzern hatte Maas schon vor fast drei Jahren aufgefordert, seinen Suchalgorithmus „transparent“ zu machen. „Am Ende geht es darum, wie transparent die Algorithmen sind, die Google benutzt, um seine Suchergebnisse zu sortieren“, sagte der SPD-Politiker seinerzeit der „Financial Times“. „Wenn eine Suchmaschine einen solchen Einfluss auf die wirtschaftliche Entwicklung hat, dann ist dies eine Angelegenheit, mit der wir uns befassen müssen.“
Das sieht nicht nur Maas so. Der Wissenschaftliche Dienst des Bundestages sieht inzwischen auch Bedarf für eine schärfere Kontrolle der von den Internetunternehmen verwendeten Algorithmen. Zu diesem Ergebnis kommt ein Gutachten der Parlamentsjuristen, das dem Handelsblatt vorliegt. Die Verwendung eines Algorithmus durch Diensteanbieter ist dabei gar nicht das Problem, sondern dessen inhaltliche Ausgestaltung.
Von Belang ist etwa, welche Faktoren das Ergebnis einer Suchanfrage bei Google beeinflussen. Oder auch die Frage, wie sich Falschmeldungen, Hasskommentare oder „Filterblasen“auf demokratische Entscheidungen auswirken? Und ob der Nutzer einen Anspruch darauf hat zu erfahren, nach welchen Kriterien seine personalisierten „Newsfeed“ und Werbeanzeigen ausgewählt werden. Die zentrale Frage dabei ist allerdings, ob seitens der Diensteanbieter ein Recht zur Geheimhaltung der Algorithmen-Codes besteht.
Das die Politik sich dem Thema annimmt, liegt für die Parlamentsjuristen auf der Hand. „Dies lässt sich mit der herausragenden Relevanz derartiger Plattformen begründen“, heißt es in der Expertise. Suchmaschinen stellten für den Internetnutzer die zentralen Zugangs-Vermittler von Web-Inhalten dar, während der Newsfeed sozialer Netzwerke für viele Nutzer eine der wichtigsten Quellen zur kulturellen und politischen Meinungsbildung sei. „Das Beeinflussungs- und Missbrauchspotential ist bei den dort verwendeten Algorithmen dementsprechend am größten, woraus sich auch das große Transparenzsinteresse der Internetnutzer in diesem Bereich ergibt.“
Nach derzeitiger Rechtslage stünden die Nutzer solcher Plattformen zwar „nicht schutzlos“ da, schreiben die Experten in ihrem Gutachten unter Hinweis auf das Telemediengesetz sowie das Wettbewerbsrecht. Beides könne „in gewissen Konstellationen auf algorithmen-gesteuerten Plattformen Anwendung“ finden. „Dennoch besteht Bedarf an weiterführenden Regelungen im Bereich der Algorithmenkontrolle“, betonen die Juristen. Insbesondere dann, wie es in dem Gutachten weiter heißt, „wenn wettbewerbliche Marktmechanismen nicht zu einem angemessenen Angebot von Diensten mit hinreichend transparenten Selektionskriterien führen“. Bei den gegebenen Markverhältnissen sei das derzeit offenbar der Fall.
Auch Merkel für mehr Transparenz bei Algorithmen
Die europarechtlichen Möglichkeiten für eine Regulierung halten die Experten für nicht weitgehend genug. Die im nächsten Jahr in Kraft tretende EU-Datenschutzgrundverordnung habe zwar „grundsätzlich das Potential, für mehr Transparenz im Umgang mit Algorithmen im Internet zu sorgen“, schreiben sie. Allerdings habe das Gutachten gezeigt, „dass bei der Erreichung des Ziels, das Wissens- und Machtungleichgewicht zwischen Nutzer und Dienste-Anbieter aufzulösen und gleichzeitig mehr Transparenz und Nutzerautonomie zu schaffen, algorithmen-spezifische Gesetzgebung ebenfalls ein gangbarer Weg sein kann“.
Justizminister Maas bekräftigte vor diesem Hintergrund seine Forderung nach einem Antidiskriminierungsgesetz für Algorithmen. „Technischer Fortschritt darf nicht zu gesellschaftlichem Rückschritt führen, und deshalb brauchen wir einen rechtlichen Ordnungsrahmen, der viel Raum für Innovationen bietet, aber den Einsatz von diskriminierenden Algorithmen verhindert“, sagte Maas dem Handelsblatt. Nötig sei zudem ein Transparenzgebot für Algorithmen. „Nutzerinnen und Nutzer müssen verlässlich einschätzen können, ob das Netz versucht, sie zu beeinflussen, und sie müssen selbstbestimmt entscheiden können, welche Filter und Personalisierungen sie in der digitalen Welt akzeptieren wollen und welche nicht.“
Auch der SPD-Netzpolitiker Lars Klingbeil betonte, kein Mensch dürfe zum Objekt eines Algorithmus werden. „Deswegen brauchen wir verpflichtende Vorgaben zur Transparenz, wie Plattformen Inhalte selektieren und gewichten“, sagte der Bundestagsabgeordnete dem Handelsblatt.
Die Datenschutz-Grundverordnung schreibe zwar grundsätzlich das Recht fest, dass man keiner Entscheidung unterworfen werde, die auf automatisierten Entscheidungen wie etwa Algorithmen beruhen. Auch die Betroffenenrechte seien gestärkt worden. Aber, so Klingbeil: „Angesichts der Dominanz und Marktmacht von Google, Facebook und Co. sowie angesichts ihres Einflusses auf öffentliche Meinungsbildung brauchen wir über das Wettbewerbs- und Datenschutzrecht hinausgehende Verpflichtungen zur Transparenz.“ Gütesiegel, wie etwa ein Algorithmen-TÜV, könnten hierbei eine wichtige Ergänzung sein.
Neu ist diese Idee einer staatlichen Überprüfung einer Internetdienstleistung in Form eines Algorithmen-TÜVs nicht. Bei Partnerbörsen im Internet werden derartige Prüfsiegel bereits seit 2005 vergeben, geben die Bundestagsjuristen zu bedenken. Das Ergebnis sei mehr Vertrauen der Nutzer in die Dienste des Plattformbetreibers. „Anhand eines auf Testergebnissen beruhenden Gütesiegels könnten sich zum einen die Nutzer besser orientieren, zum anderen würde lauter am Markt agierenden Unternehmen die Möglichkeit gegeben, sich besser zu profilieren und von unseriösen Konkurrenten abgrenzen zu können“, urteilen die Experten.
In der neuen Legislaturperiode könnte das Algorithmen-Thema wieder auf die Tagesordnung kommen. Zumal sich auch schon Kanzlerin Angela Merkel (CDU) offen dafür gezeigt hat, Algorithmen kritisch in den Blick zu nehmen. „Ich persönlich bin auch der Meinung, dass Algorithmen transparenter sein müssen, sodass interessierten Bürgern auch bewusst ist, was eigentlich mit ihrem Medienverhalten und dem anderer passiert“, hatte Merkel im vergangenen Jahr auf den Medientagen in München gesagt.
