Vernetzte Industrie Wie Forscher den Missbrauch künstlicher Intelligenz verhindern wollen

Der Mensch in den Fängen der Maschine. Quelle: Illustration: Leander Assmann

2020 werden rund 50 Milliarden Sensoren und Maschinen vernetzt sein. Wie verhindern wir, dass sie bei ihrem Einsatz in Autos, der Medizin und in Fabriken manipuliert werden?

Die Software Cogito ist so etwas wie das digitale Pendant zu einem Privatdetektiv. Während sich Ermittler aus Fleisch und Blut in schattige Hauseingänge drücken müssen, um zu erfahren, mit wem sich ihre Zielpersonen treffen, wird Cogito im Netz aktiv. Die Software erkennt anhand digitaler Spuren etwa, wer mit wem wann in welchem Restaurant zu Abend gegessen hat – selbst wenn die Teilnehmer konspirativ vorgehen und zuvor alles tun, um ihr Treffen geheim zu halten.

Das Programm analysiert belanglos wirkende Facebook-Posts und Instagram-Bildchen, mit denen inzwischen viele Menschen Einblick in ihre Gewohnheiten gewähren, kombiniert zahlreiche Informationen im Netz mit anderen frei zugänglichen Daten, etwa auf Nachrichtenseiten, in Bildergalerien oder Rezensionen, und simuliert menschliche Lern- und Denkprozesse.

„Unsere Software stocherte ins Leere, gäbe es nicht eine gigantische Verfügbarkeit von Daten, die sie mit ihren Fähigkeiten verknüpft. Erst das schafft die Grundlage unserer Analysen“, sagt Stefan Welcker, Deutschlandchef der Softwarefirma Expert System, die Cogito vertreibt. Den Großteil des Umsatzes erwirtschaftet die Firma im Sicherheitsbereich. Sie leiste „konkrete Unterstützung bei taktischen und strategischen Verteidigungs- und Geheimdienstaktivitäten“. Etwa indem sie Milliarden öffentlich verfügbarer Daten, wie Einträge in sozialen Netzwerken, auf Hinweise untersucht, die auf ein Verbrechen deuten könnten.

Software wie Cogito geht die Arbeit nie aus, im Gegenteil: Sie wird künftig auf noch viel mehr Daten zugreifen können als bisher. Nachdem die Digitalisierung den privaten Alltag durchdrungen hat, erfasst sie nun viele Aspekte des Geschäftslebens mit seinen digitalen Prozessketten vom Produktdesign über die Fertigung bis hin zur Wartung von Maschinen. Bis 2020 werden mehr als 50 Milliarden Geräte, Sensoren oder Maschinen miteinander kommunizieren, schätzt die Unternehmensberatung Deloitte. Das bisher von Computern gebildete Internet wandelt sich zum Internet der Dinge – und liefert damit noch mehr Daten.

Künstliche Intelligenz trägt dazu bei, aus diesen Daten Wissen zu generieren. Denkbar ist, dass Sensoren in Autos helfen, Verkehrswege zu entlasten und Staus zu verhindern. Dass sich Krankheiten dank des Datenfundus schneller diagnostizieren und zielgerichteter kurieren lassen. Und dass vernetzte Maschinen produktiver und zuverlässiger denn je arbeiten. Der gewaltige Fluss an Informationen wird möglicherweise ein Segen sein. Aber was, wenn die Daten missbraucht würden? Wenn Konzerne oder Staaten die Maschinen manipulierten und die Privatsphäre der Bürger verletzten?

Die Sieger des Innovationspreises 2018
In der Münchener In-Location Kesselhaus trafen sich Deutschlands innovativste Unternehmen am Freitag zur 9. Verleihung des Deutschen Innovationspreises. Geladen hatten neben der WirtschaftsWoche auch Accenture, Daimler und EnBW. Quelle: Stefan Obermeier
Die TV-Journalistin Dunja Hayali moderierte die Veranstaltung vor rund 250 geladenen Gästen aus Wirtschaft, Politik und Wissenschaft. Quelle: Stefan Obermeier
WirtschaftsWoche-Herausgeberin Miriam Meckel beschrieb den enormen Wissens- und Innovationsschub der vergangenen Dekaden und verglich die Kreativität der Menschen mit der digitaler Hirne. Künstliche Intelligenz sei keine Bedrohung, sondern schaffe Freiräume für menschliche Innovationskraft. Quelle: Stefan Obermeier
Bundeswirtschaftsminister Peter Altmaier (CDU) unterstrich die Bedeutung staatlicher Innovationsförderung für die Leistungsstärke der deutschen Wirtschaft. Er hatte zudem einen persönlichen Wunsch für eine bahnbrechende Erfindung: Spaghetti Carbonara, die nicht dick machen, sondern dafür sorgen, dass man nach dem Verzehr Italienisch sprechen kann. Quelle: Stefan Obermeier
Obi Felten, Chefstrategin bei Google X (Mitte), wurde von WirtschaftsWoche-Innovationschefin Léa Steinacker (links) und Herausgeberin Miriam Meckel (rechts) als „Future Thinker“ geehrt. Felten gab den Gästen einen Crashkurs in Innovationsmanagement. „Wenn Sie einen Affen wollen, der auf einer Säule steht und Goethe rezitiert, dann suchen Sie zuerst den Affen. Wie man eine Säule baut, wissen wir alle.“ Quelle: Stefan Obermeier
Scheinwerfer an: In der ehemaligen Industrieanlage im Münchner Norden wurden die Sieger des diesjährigen Innovationspreises ordentlich gefeiert. Quelle: Stefan Obermeier
Frank Riemensperger, Vorsitzender der Accenture-Ländergruppe Deutschland, Österreich und Schweiz, präsentierte die Sieger der Kategorie „Großunternehmen“. Quelle: Stefan Obermeier
Adidas erhielt den begehrten Preis für seine Speed Factory, in der Turnschuhe aus dem 3-D-Drucker entstehen. Konzernchef Kasper Rorsted (zweiter von links) brachte seinen Mann für Innovationen, Jan Hill (dritter von links), samt Team mit. Dann hatte Laudator Frank Riemensperger eine Überraschung parat. Er holte… Quelle: Stefan Obermeier
…noch einen zweiten Sieger auf die Bühne: Thyssen-Krupp-Chef Heinrich Hiesinger. Der nahm den Preis für den seillosen Aufzug Multi in Empfang. Erstmals hatte sich die Jury… Quelle: Stefan Obermeier
…dafür entschieden, zwei Großunternehmen auszuzeichnen. Eines, das wie Thyssen-Krupp für die deutsche Ingenieurskunst steht. Und eines, das wie Adidas den Aufbau datengestützter Geschäftsmodelle vorantreibt. Beide Zutaten braucht die deutsche Wirtschaft. Das Sieger-Duo: Kasper Rorsted (links) und Heinrich Hiesinger. Quelle: Stefan Obermeier
Laudator in der Kategorie „Mittelstand“ war Bernhard Beck, Vorstandsmitglied des Energieversorgers EnBW. Quelle: Stefan Obermeier
Der Preis ging an Buderus Guss. Das Unternehmen hat eine Bremsscheibe entwickelt, die nicht nur für weniger Feinstaub in der Luft sorgt, sondern auch noch das ideale Bauteil für Elektroautos ist, wie Geschäftsführer Gerhard Pfeifer (zweiter von links) dem Publikum erläuterte. Quelle: Stefan Obermeier
Wilko Stark, Leiter Strategie bei Daimler, schlug den Bogen vom Erfinder des ersten Motorwagens zu den Gewinnern der Kategorie „Start-ups“. Quelle: Stefan Obermeier
So sehen Sieger aus: Wilko Stark (links) sucht den Schulterschluss mit Coldplasmatech. Das Team aus Greifswald um Gründer Carsten Mahrenholz (zweiter von links) hat ein High-Tech-Pflaster entwickelt, das selbst multiresitente Keime abtötet und so bei der Heilung chronischer Wunden hilft. Das war preiswürdig. Quelle: Stefan Obermeier
Die Sprachkünstlerin Dominique Marci reimte den Gästen die Highlights des Abends zusammen. Quelle: Stefan Obermeier

Die bevorstehende Vernetzung von Büros, Fabriken und Lieferketten zwingt Politiker und Hersteller, das Nebeneinander von Mensch und Maschine neu auszutarieren. Es gilt, eine Art Gesellschaftsvertrag des Digitalzeitalters zu schaffen. Der die Grenzen der künstlichen Intelligenz bestimmt. Und der die Systeme rechtlich davor schützt, in die Hände von Kriminellen und Despoten zu fallen, die Algorithmen manipulieren, Bürger steuern, Geldströme umlenken und Lösegelder von Firmen erpressen.

Eine erste Ahnung des digitalen Bedrohungspotenzials gab die Cyberkriminellen-Gang Avalanche, deren bösartiges Bot-Netz Ende 2016 in einem koordinierten Zugriff von Ermittlern aus 39 Staaten ausgehoben wurde. Allein in Deutschland hatten die Angreifer mehr als 50 000 Computer per Software manipuliert, um Konten zu plündern. Der geschätzte Schaden betrug rund sechs Millionen Euro; weltweit waren es mehrere 100 Millionen Euro.

Automatisierte Schadprogramme, sogenannte Bots, können sich jeder Art vernetzter Technik bemächtigen. Sie laufen sogar auf handelsüblichen Webcams. Verbraucher bekommen zumeist gar nicht mit, dass etwa ihre Kamera ferngesteuert wird und sie filmt. Oder dass dieselbe Kamera für einen konzertierten Angriff auf Industrieanlagen missbraucht wird. Vielfach genügt dazu ein Internetanschluss, um Schadsoftware einzuschleusen.

Schnelligkeit vor Sicherheit

In Überwachungskameras aus China hat der finnische Sicherheitsanbieter F-Secure 18 teils kritische Sicherheitslücken gefunden. „Die Sicherheit wurde bei diesen Produkten komplett ignoriert“, sagt Harry Sintonen, Experte bei F-Secure. Offenbar ging es dem Hersteller nur darum, das Gerät schnell fertigzustellen und auf den Markt zu werfen. „Diese Kameras sollen mehr Sicherheit zu Hause bieten – während sie gleichzeitig das virtuelle Heim unsicherer machen“, ärgert sich Sintonen.

Schnell statt sicher – für Fachleute ist das ein bekanntes Problem. Es dringt mit der voranschreitenden Vernetzung immer weiter in Alltag und industrielle Produktion vor. Die bald schon milliardenfach in Maschinen, Autos, Straßenlaternen, Türöffnern und vielem mehr verbauten Sensoren, Funkchips und smarten Stecker werden primär aus asiatischen Quellen stammen – und sicher nicht immer mit Blick auf maximale Sicherheit konstruiert sein. „Sensoren können altern, unter Umwelteinflüssen leiden, aber natürlich auch manipuliert werden“, warnt Hans Dieter Schotten, Chef des Forschungsbereiches Intelligente Netze am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Kaiserslautern.

Schotten und sein Team wollen, dass die gigantische Vernetzung künftig mehr Segen als Fluch sein wird – gerade mit Blick auf die vernetzte Industrie 4.0. Zu den zahlreichen Werkzeugen, die die Experten auf der Jagd nach Softwaremanipulationen nutzen, gehören Mikrofone in Industriemaschinen, um die Betriebsgeräusche der im Innern liegenden Kurbeln, Wellen oder Lager zu überwachen. Ändert sich der Klang, sehen die Forscher genauer nach: Verschleißt die Maschine – oder hat jemand via Internet einen Schadcode eingeschleust, der die Technik stören, vielleicht sogar zerstören soll?

Wie findig Angreifer mitunter sind, zeigt ein Fall aus den USA: Dort konnten Forscher die Steuersoftware eines Geländewagens knacken: Sie attackierten das Empfangsmodul, das Stauwarnungen und Musik empfängt – und konnten den Wagen zum Stehen bringen. Helfen gegen solche Attacken könne eine Art digitale Selbstkontrolle der Maschinen, sagt Schotten. So, wie es sie bei Computern schon gibt, die E-Mail-Dienste abwickeln. Versendet ein Rechner plötzlich ungewöhnlich viel Spam, fällt das auf, die Maschine bekommt ein schlechtes Rating – und wird vom Netz getrennt.

Schottens Team erforscht die Strategien der Angreifer auch mit einem sogenannten „Honeynet“. Dieses Rechnersystem täuscht Angreifern vor, ein kompromittierbares Gerät zu sein. In Wahrheit dient die Lock-Kulisse einem anderen Ziel: Sie soll helfen, das Verhalten der Kriminellen nachzuvollziehen, ihre Methoden und Ziele zu beobachten und zu analysieren.

Künftig möchte der Wissenschaftler solche Honigtöpfe regulär in Netzwerken installieren – als eine Art Frühwarnsystem für Angriffe. Denn Schotten ist sich sicher, dass die Attacken massiv zunehmen werden. Er plädiert deshalb für eine strikte Trennung der Systeme. „Die Technologie, mit der wir Anlagen steuern, und diejenige, mit der wir sie absichern, dürfen nicht vermischt werden, das schafft unkalkulierbare Risiken“, warnt der Wissenschaftler.

Fest steht: Alle Vorkehrungen sind nicht mehr als – Vorkehrungen. „Es bleibt immer ein Wettlauf zwischen den Cyberkriminellen und uns“, sagt Expert-System-Chef Welcker und skizziert ein aktuelles Dilemma: „Unseriöse Internetdienstanbieter haben ihren Sitz oft in Rechtsräumen, die schwer zu erreichen sind.“ Mit nationalen Regelungen komme man nicht weit. Welcker plädiert deshalb für internationale Regeln und Bündnisse für ein sichereres Netz.

Schluss mit der Abschottung

Ein erster Schritt in diese Richtung ist die Initiative Partnership on AI, zu deren Gründungsmitgliedern IT-Schwergewichte wie Google, Amazon, IBM, Facebook oder Microsoft gehören. Den Unternehmen scheint bewusst, dass maschinelle Intelligenz zu einer Bedrohung werden kann. Dass die Maschinen, statt menschliche Entscheidungen zu unterstützen, auch Katastrophen auslösen könnten – wenn sie manipuliert werden.

Auch in der Polizeiarbeit. Die Behörden suchen etwa nach Mitteln und Wegen, wie sie die Zahl der Wohnungseinbrüche in Deutschland senken können. Dabei setzen sie auch auf Methoden des „Predictive Policing“: Computer sollen mit statistischen Prognosen helfen, Einbrüche in gefährdeten Gegenden zu verhindern. In Baden-Württemberg nutzen die Beamten dazu in einem Pilotprojekt die Software Precobs des Instituts für musterbasierte Prognosetechnik aus Oberhausen. Noch zielt sie nur darauf, dass Polizeibeamte in Vierteln öfter Streife fahren, die als gefährdet identifiziert sind.

Künftig könnte Software vielleicht auch bei Kapitalverbrechen zum Einsatz kommen. In einigen US-Städten lässt die Justiz bereits die Rückfallwahrscheinlichkeit von Gefangenen von der Software berechnen, die dann empfiehlt, ob Anträge auf vorzeitige Entlassung abgelehnt werden sollen oder nicht. Was aber, wenn Kriminelle die Algorithmen steuern, die die Polizeiarbeit steuern?

„Roboter sind für den Einsatz am Kunden komplett unpraktisch“
Roboter Robby Pepper Quelle: AP
Die Gäste sind begeistert. „Er ist wie eine echte Person, er ist wirklich gut“, sagt etwa Mihail Slanina aus Moldau nach einer der ersten Schichten Robbys. „Er spricht, er hat mir sogar die Hand geschüttelt.“ Quelle: AP
Entwickelt wurde Robby von der japanischen Firma Softbank Robotics Quelle: AP
Die Verwendung von Robotern für Service-Aufgaben in Bereichen wie dem Tourismus kann die menschlichen Beschäftigten entlasten Quelle: REUTERS
Der Verband der Robotik-Industrie und Robotik-Forschungsinstitute ITR mit Sitz in Frankfurt rechnet damit, dass der Verkauf von professionellen Service-Robotern bis 2020 jedes Jahr um 20 bis 25 Prozent wächst. Im vergangenen Jahr wurden rund 79.000 Exemplare abgesetzt. Sie kommen nicht nur wie Robby für Informationszwecke zum Einsatz, sondern auch für Sicherheitsaufgaben, Reinigung, Medizin oder in der Logistik. Quelle: REUTERS
„Abgesehen davon, dass man die Kunden mit der technischen Neuerung vertraut macht, ist die aktuelle Verwendung von Robotern für den Einsatz am Kunden komplett unpraktisch und sehr einfach, weil die Vertreter der Künstlichen Intelligenz zu dumm sind für alles, was über die Zeit und das Wetter hinausgeht“, sagt Richard Windsor, Technologie-Experte aus London. Quelle: REUTERS
Die aktuellen Grenzen der Humanoiden würden auch von der Tatsache belegt, dass die beiden Hersteller der aus Expertensicht besten Systeme für Künstliche Intelligenz, Google Assist und das chinesische DuerOS, derzeit keine solchen Roboter bauten, sagt Windsor. Er erwartet, dass die heutigen Roboter verschwinden werden, wenn der Reiz des Neuen verflogen sei - um dann wieder aufzutauchen, wenn die Technologie besser sei. Dazu müsse man jedoch noch viele Daten sammeln. Quelle: AP
Giorgio Metta, stellvertretender wissenschaftlicher Direktor des italienischen Technologieinstituts IIT, sagt, der wirkliche Nutzen werde erst ins Spiel kommen, wenn die Service-Roboter Dinge aufheben und selbstständig Objekte bewegen können, wenn sie etwa kleine Gegenstände in Zimmer oder Unterlagen in andere Büros bringen können. Quelle: AP
Die öffentliche Akzeptanz ist dabei ein wichtiger Faktor. Während sich die Menschen in Japan oder den USA schon etwas an den Kontakt mit Robotern in Einkaufszentren oder im Service gewöhnt haben, ist das Experten zufolge in Europa noch nicht so ausgeprägt. In Schottland etwa musste Fabio, ein Bruder von Robby, wieder stillgelegt werden. Die Kunden in dem Lebensmittelladen waren nicht bereit, mit Fabio zu interagieren. Quelle: AP
Das Autohaus Cayu in Brescia hat einen weiteren Verwandten Robbys aus der Softbank-Familie angestellt Quelle: AP
„In unserer Branche sehe ich allerdings nicht, dass der menschliche Aspekt, Empathie und der Wohlfühlfaktor von einer Maschine ersetzt werden“, sagt Andreas Barchetti, Manager des Autohauses. Es gehe darum, dass der Roboter die Menschen anziehe, wiederkehrende Informationsaufgaben übernehme und eine Aura von technischem Fortschritt schaffe. Doch um Autos zu verkaufen, braucht man laut Barchetti „natürlich noch immer uns Insider aus Fleisch und Blut.“ Quelle: AP

Die im Partnership on AI beteiligten Firmen setzen sich deshalb dafür ein, dass die Anbieter solcher Systeme tiefere Einblicke in ihre Technik gewähren. Abschottung funktioniere im digitalen Zeitalter nicht mehr. Standards müssen auch bei der künstlichen Intelligenz definiert und offengelegt werden: Was genau tut ein Algorithmus? Wie funktioniert er? Solche Fragen müssten Softwareentwickler mit Blick auf Datenschutz und Datensicherheit eindeutig beantworten, fordern die Partner. Doch bisher allerdings halten sich nicht einmal alle Firmen selbst an die sich selbst auferlegten Vorgaben.

Erfolg werden solche Industrieinitiativen ohnehin nur haben, wenn sich auch alle Nutzer des Internets der Dinge der Risiken einer hochgradig vernetzten Welt bewusst sind. Wenn sie nicht länger auf ihren Smartphones Schnüffeldienste zulassen und über x-beliebige Apps Auskunft darüber geben, wo – auf den Meter genau – sie sich gerade befinden.

Michael Kranawetter, Leiter der Abteilung Sicherheit bei Microsoft Deutschland, fordert mehr Aufklärung. Die meisten Leute wüssten schlicht nicht, wie wichtig es sein kann, mit Daten sparsam zu sein, und wie sie im Alltag weniger Datenspuren hinterlassen können. Daher sollten „Grundprinzipien der Programmierung Einzug in die Stundenpläne der Schulen erhalten“. In einer vernetzten Welt sei nur derjenige ein mündiger Bürger, der weiß, welche Spuren er hinterlasse – und der verbergen könne, mit wem er wo zu Abend isst. n

© Handelsblatt GmbH – Alle Rechte vorbehalten. Nutzungsrechte erwerben?
Zur Startseite
-0%1%2%3%4%5%6%7%8%9%10%11%12%13%14%15%16%17%18%19%20%21%22%23%24%25%26%27%28%29%30%31%32%33%34%35%36%37%38%39%40%41%42%43%44%45%46%47%48%49%50%51%52%53%54%55%56%57%58%59%60%61%62%63%64%65%66%67%68%69%70%71%72%73%74%75%76%77%78%79%80%81%82%83%84%85%86%87%88%89%90%91%92%93%94%95%96%97%98%99%100%