Künstliche Intelligenz: „Je mehr KI genutzt wird, desto weniger wollen die Leute wissen, wie sie funktioniert“
Jan Schoenmakers ist der Gründer des Daten-Spezialisten Hase+Igel.
WirtschaftsWoche: Herr Schoenmakers, in Ihrer Arbeit analysieren Sie mit Künstlicher Intelligenz sehr, sehr große Datenmengen und treffen damit sehr präzise Aussagen. Wie funktioniert das?
Jan Schoenmakers: Analytische KI lebt im Grunde in der wunderbaren Welt der Statistik, die uns ermöglicht, aus dem Wust an Daten die Zusammenhänge zu erkennen – gerade auch die, die einem als Mensch nicht offensichtlich gewesen wären. Wir Menschen haben keinen besonders guten statistischen Sinn. Wir haben Empathie, Improvisationstalent und viele weitere menschliche Stärken. Aber eine korrekte Einschätzung statistischer Zusammenhänge gehört nicht dazu. Hier übertreffen uns Algorithmen bei Weitem. Dabei macht eine KI im Grunde nichts anderes als unser Gehirn: Wir holen Informationen in unseren Körper rein, wir führen sie im Gehirn zusammen und wir transformieren sie zu etwas, was wir verstehen können. Analog dazu erhebt und integriert unsere KI Daten, findet Zusammenhänge, rechnet damit Szenarien durch und sagt am Ende: So sieht es aus und das wird als nächstes passieren. Doch dabei bleibt sie, anders als wir, immer nüchtern und fokussiert – uns Menschen stehen dagegen oft unsere eigenen Klischees, Verallgemeinerungen und Schludrigkeiten im Weg.
Durch Ihre Analysen konnten Sie aus diesen Datenmengen beispielsweise aufzeigen, dass ein Unternehmen viele Mitarbeiter abbaute, obwohl es das öffentlich nicht kommunizierte. Wie geht das?
Ein Unternehmen ist digital ziemlich nackt, sämtliche Handlungen hinterlassen digitale Spuren. Wenn ein Unternehmen Stellen aufbaut, dann hat es irgendwo Stellenanzeigen im Netz. Wenn es Werbung schaltet, dann kann man das nachvollziehen. Unternehmen werden von allen möglichen Leuten bewertet, Mitarbeitern, Kunden, Lieferanten etc., auch das steht im Netz. Es ist über Daten des Online-Verkehrs nachvollziehbar, wie viele Leute die Webseite des Unternehmens aufrufen, wie viele nach ihm suchen und Vieles mehr.
Ist das alles legal?
Zweifelsfrei ja. Privatpersonen sind durch die DSGVO davor geschützt, dass man beliebig Profile über sie erstellt. Und das ist auch gut so, das finde ich wichtig. Aber Unternehmen haben keine Persönlichkeit, also auch keinen Persönlichkeitsschutz. Solange man die Marke nicht verletzt und Informationen nicht illegal beschafft, darf man von Unternehmen beliebig Profile bilden. Dementsprechend können wir natürlich messen, wie viele Stellen das Unternehmen ausschreibt. Wie verhält sich das im Vergleich zu anderen Unternehmen der Branche? Besuchen weniger Leute die Karriere-Webseite des Unternehmens? Kommen in der Berichterstattung Themen wie „baut Stellen auf“ oder „baut Stellen ab“ vor? Schnellen an den Standorten des Unternehmens Suchen nach neuen Jobs hoch, während das Unternehmen selbst keine Stellen anbietet? Und selbstverständlich: Wenn Leute entlassen werden, sind sie in der Regel sauer und der eine oder andere wird diesem Ärger digital Luft machen. Das sind alles Daten, die man zusammenführen kann, um damit beispielsweise eine Entlassungswelle aufzudecken.
Das ist natürlich vor allem für Mitarbeiter und Medien interessant. Lassen sich solche KI-Analysen auch von Unternehmen sinnvoll einsetzen?
Unternehmen sind sogar diejenigen, die solche KI am meisten einsetzen – und das nicht nur bei der Bewertung möglicher Kunden, Lieferanten oder Übernahmekandidaten: In Zusammenarbeit mit dem Bundeswirtschaftsministerium und zwei renommierten deutschen Unis entwickeln wir derzeit eine KI, die die Netzwerke hinter gefälschten Industrieprodukten aufdecken kann. Wenn jemand zum Beispiel gefälschte Komponenten für Windräder auf den Markt bringt, kann die KI erkennen, dass es sich wahrscheinlich um eine Fälschung handelt. Und sie kann erkennen, welche Händler und Seilschaften dahinterstecken. Somit können wir Unternehmen frühzeitig warnen, dort nicht einzukaufen und die kriminellen Netzwerke lassen sich zielsicherer ausheben. Akteure, die gefälschte Waren anbieten, sind für die Justiz hierzulande schwierig zu fassen. Umso wichtiger sind solche Warnsysteme.
Das müssen Sie genauer erklären: Wie kann eine KI erkennen, dass ein Unternehmen Fälschungen auf den Markt bringt?
Ich darf nicht alle Details verraten, weil wir damit den Fälschern zu viel Tipps geben würden, aber ein paar Dinge kann ich erzählen. Nehmen wir den Automobilzulieferer Schaeffler, der Teil dieses Konsortiums ist. Der hat in jedem Land autorisierte Händler mit entsprechenden Zertifikaten. Ein Fälscher bekommt per se kein Produktzertifikat. Deshalb klauen sich solche Verbrecher sie entweder von den Websites autorisierter Händler oder fälschen sie. Die KI sucht deshalb nach Unstimmigkeiten in den Zertifikaten. Ist der Code korrekt – und gibt es ihn jeweils nur ein einziges Mal? Auch auf Unternehmensebene überprüfen unsere Algorithmen die Angaben: Steht zum Beispiel die vermeintliche Fabrik mitten in einem Wohngebiet und gehört die Handelsregisternummer in Wirklichkeit einem anderen Unternehmen?
Damit überführt man aber noch keinen Fälscher.
Das stimmt, wir gehen natürlich weiter. So beziehen wir etwa auch Zolldaten in die KI-Analyse ein. Nehmen wir beispielsweise ein Unternehmen, das in Ecuador Komponenten für Windräder anbietet. Wenn wir sehen, das Unternehmen verkauft diese Teile, importiert aber nichts von dem angeblichen Hersteller oder einem seiner autorisierten Händler - dann müssen die ja irgendwo anders herkommen. Wenn er dann noch entlang von Routen liefert, über die auch bekannterweise Drogen, Waffen usw. geschmuggelt werden, dann wird’s interessant. Das ist ein Indizienprozess, mit dem immer klarer wird: da kann was nicht stimmen. Die Algorithmen geben somit einen Score für Verdachtsmomente, mit dem die Ampel immer roter leuchtet.
Welchen rechtlichen und moralischen Schranken sehen Sie für ihre Arbeit?
Rechtliche Schranken sind überall dort gesetzt, wo es um Daten von Privatpersonen geht, die nicht anonymisiert sind. Ich darf in Daten niemals so reinzoomen, dass ich daraus etwa plausibilisieren kann, wo einzelne Personen wohnen oder wie sie heißen – es sei denn, diese haben dem ausdrücklich zugestimmt. Wir wollen anonyme Aussagen darüber treffen, wie sich Menschen verhalten, was sie an einem Ort politisch oder wirtschaftlich wollen: Lohnt sich dort Breitbandausbau? Soll ich hier eine Zahnarztpraxis aufmachen? Das sind alles legitime Anliegen, für die wir niemanden ausspionieren müssen.
Seit dem Skandal um die KI-Analysen des Unternehmens Cambridge Analytica im Auftrag der US-Republikaner wird vor allem der Einsatz solcher Instrumente im politischen Raum kritisch gesehen. Sie haben da wenig Berührungsängste: In der der Corona-Pandemie hat ihr Unternehmen Analysen für das Gesundheitsministerium erstellt.
Das stimmt nicht ganz: Wir haben Auswertungen vorgenommen, die wir dem Gesundheitsministerium anschließend vorlegten – aber wir haben das nicht im Auftrag der Regierung gemacht. Grundsätzlich spricht aus meiner Sicht aber nichts dagegen, für Institutionen, Ministerien oder Behörden zu arbeiten, das tun wir auch. Aber bei Arbeiten für einzelne Parteien sind wir sehr vorsichtig. Bisher haben wir da keine Anfrage angenommen. Das heißt nicht, dass wir es prinzipiell nicht tun würden, aber wir schauen uns das in ethischer Hinsicht genau an: Was wollen wir mit den Daten machen? Und wenn damit zum Beispiel in einer Weise in den Wahlkampf eingegriffen werden soll, die wir nicht sauber finden, dann stellen wir da auch unsere Instrumente nicht zur Verfügung. Daten sollten ein Instrument sein für bessere Entscheidungen in Markt und die Demokratie – niemals eine Waffe in der Hand Einzelner, die damit ihre Gegner verprügeln oder Menschen manipulieren.
So ganz generell würden das wohl die meisten Menschen unterschreiben. Aber verstehen die Leute überhaupt, was die KI da tut?
Wir haben das jüngst in einer Studie untersucht, dafür haben wir bis ins Jahr 2019 zurück analysiert, wie sich Deutsche, Österreicher und Schweizer zu KI informieren. Was googeln sie dazu? Was lesen Sie dazu in Medien? Worauf reagieren sie? Wie diskutieren sie im Social Web? Damit haben wir erkannt, wie sich diese Muster über die Jahre verändern – und zwar zum schlechteren, was das Verständnis für KI betrifft.
Wie meinen Sie das?
Was wir bei KI beobachten, unterscheidet sich von anderen Technologien. Je mehr KI genutzt wird, desto weniger wollen die Leute verstehen, wie sie funktioniert. Das ist sehr unüblich. Dass wir als Anwender oft nicht verstehen, wie unsere Technik funktioniert, ist normal: Kaum einer kann sein Auto selbst reparieren, kaum einer kann beim Smartphone auch den Akku oder das Display tauschen. Aber was man bei einer neuen Technologie in der Regel sieht, ist, dass sich die Leute damit so beschäftigen, dass sie eine grobe Idee haben, wie es funktioniert, und dass sie sich mit Begeisterung Fachvokabular aneignen. Das hatten wir bei jeder großen technologischen Welle gesehen, eben auch bei den Smartphones, wo Leute begannen, sich darüber auszutauschen, ob dieser oder jener Prozessor verbaut ist, welches Betriebssystem besser ist und was die besten Tricks sind, damit der Akku länger hält. Aber bei KI ist es genau der umgekehrte Fall: Das Interesse, sich mit den zugrundeliegenden Technologien zu beschäftigen und darüber zu lernen, stagniert oder geht sogar zurück – und teilweise auch die Bereitschaft der Industrie, in tiefere technische Anwendungen zu investieren, die mehr erfordern als ein Prompt in einem Browser. Wir werden also quasi in Sachen KI immer naiver und abhängiger von Produkten, die wir nicht verstehen. Deshalb begrüße ich ausdrücklich, dass die EU im AI Act einen großen Fokus auf die Erklärbarkeit und Transparenz von KI legt.
Lesen Sie auch: Wie Unternehmen ihre Mitarbeiter fit für KI machen
