WiWo App Jetzt gratis testen
Anzeigen

Vernetzte Industrie Wie Forscher den Missbrauch künstlicher Intelligenz verhindern wollen

Der Mensch in den Fängen der Maschine. Quelle: Illustration: Leander Assmann

2020 werden rund 50 Milliarden Sensoren und Maschinen vernetzt sein. Wie verhindern wir, dass sie bei ihrem Einsatz in Autos, der Medizin und in Fabriken manipuliert werden?

Die Software Cogito ist so etwas wie das digitale Pendant zu einem Privatdetektiv. Während sich Ermittler aus Fleisch und Blut in schattige Hauseingänge drücken müssen, um zu erfahren, mit wem sich ihre Zielpersonen treffen, wird Cogito im Netz aktiv. Die Software erkennt anhand digitaler Spuren etwa, wer mit wem wann in welchem Restaurant zu Abend gegessen hat – selbst wenn die Teilnehmer konspirativ vorgehen und zuvor alles tun, um ihr Treffen geheim zu halten.

Das Programm analysiert belanglos wirkende Facebook-Posts und Instagram-Bildchen, mit denen inzwischen viele Menschen Einblick in ihre Gewohnheiten gewähren, kombiniert zahlreiche Informationen im Netz mit anderen frei zugänglichen Daten, etwa auf Nachrichtenseiten, in Bildergalerien oder Rezensionen, und simuliert menschliche Lern- und Denkprozesse.

„Unsere Software stocherte ins Leere, gäbe es nicht eine gigantische Verfügbarkeit von Daten, die sie mit ihren Fähigkeiten verknüpft. Erst das schafft die Grundlage unserer Analysen“, sagt Stefan Welcker, Deutschlandchef der Softwarefirma Expert System, die Cogito vertreibt. Den Großteil des Umsatzes erwirtschaftet die Firma im Sicherheitsbereich. Sie leiste „konkrete Unterstützung bei taktischen und strategischen Verteidigungs- und Geheimdienstaktivitäten“. Etwa indem sie Milliarden öffentlich verfügbarer Daten, wie Einträge in sozialen Netzwerken, auf Hinweise untersucht, die auf ein Verbrechen deuten könnten.

Software wie Cogito geht die Arbeit nie aus, im Gegenteil: Sie wird künftig auf noch viel mehr Daten zugreifen können als bisher. Nachdem die Digitalisierung den privaten Alltag durchdrungen hat, erfasst sie nun viele Aspekte des Geschäftslebens mit seinen digitalen Prozessketten vom Produktdesign über die Fertigung bis hin zur Wartung von Maschinen. Bis 2020 werden mehr als 50 Milliarden Geräte, Sensoren oder Maschinen miteinander kommunizieren, schätzt die Unternehmensberatung Deloitte. Das bisher von Computern gebildete Internet wandelt sich zum Internet der Dinge – und liefert damit noch mehr Daten.

Künstliche Intelligenz trägt dazu bei, aus diesen Daten Wissen zu generieren. Denkbar ist, dass Sensoren in Autos helfen, Verkehrswege zu entlasten und Staus zu verhindern. Dass sich Krankheiten dank des Datenfundus schneller diagnostizieren und zielgerichteter kurieren lassen. Und dass vernetzte Maschinen produktiver und zuverlässiger denn je arbeiten. Der gewaltige Fluss an Informationen wird möglicherweise ein Segen sein. Aber was, wenn die Daten missbraucht würden? Wenn Konzerne oder Staaten die Maschinen manipulierten und die Privatsphäre der Bürger verletzten?

Die Sieger des Innovationspreises 2018
In der Münchener In-Location Kesselhaus trafen sich Deutschlands innovativste Unternehmen am Freitag zur 9. Verleihung des Deutschen Innovationspreises. Geladen hatten neben der WirtschaftsWoche auch Accenture, Daimler und EnBW. Quelle: Stefan Obermeier
Die TV-Journalistin Dunja Hayali moderierte die Veranstaltung vor rund 250 geladenen Gästen aus Wirtschaft, Politik und Wissenschaft. Quelle: Stefan Obermeier
WirtschaftsWoche-Herausgeberin Miriam Meckel beschrieb den enormen Wissens- und Innovationsschub der vergangenen Dekaden und verglich die Kreativität der Menschen mit der digitaler Hirne. Künstliche Intelligenz sei keine Bedrohung, sondern schaffe Freiräume für menschliche Innovationskraft. Quelle: Stefan Obermeier
Bundeswirtschaftsminister Peter Altmaier (CDU) unterstrich die Bedeutung staatlicher Innovationsförderung für die Leistungsstärke der deutschen Wirtschaft. Er hatte zudem einen persönlichen Wunsch für eine bahnbrechende Erfindung: Spaghetti Carbonara, die nicht dick machen, sondern dafür sorgen, dass man nach dem Verzehr Italienisch sprechen kann. Quelle: Stefan Obermeier
Obi Felten, Chefstrategin bei Google X (Mitte), wurde von WirtschaftsWoche-Innovationschefin Léa Steinacker (links) und Herausgeberin Miriam Meckel (rechts) als „Future Thinker“ geehrt. Felten gab den Gästen einen Crashkurs in Innovationsmanagement. „Wenn Sie einen Affen wollen, der auf einer Säule steht und Goethe rezitiert, dann suchen Sie zuerst den Affen. Wie man eine Säule baut, wissen wir alle.“ Quelle: Stefan Obermeier
Scheinwerfer an: In der ehemaligen Industrieanlage im Münchner Norden wurden die Sieger des diesjährigen Innovationspreises ordentlich gefeiert. Quelle: Stefan Obermeier
Frank Riemensperger, Vorsitzender der Accenture-Ländergruppe Deutschland, Österreich und Schweiz, präsentierte die Sieger der Kategorie „Großunternehmen“. Quelle: Stefan Obermeier

Die bevorstehende Vernetzung von Büros, Fabriken und Lieferketten zwingt Politiker und Hersteller, das Nebeneinander von Mensch und Maschine neu auszutarieren. Es gilt, eine Art Gesellschaftsvertrag des Digitalzeitalters zu schaffen. Der die Grenzen der künstlichen Intelligenz bestimmt. Und der die Systeme rechtlich davor schützt, in die Hände von Kriminellen und Despoten zu fallen, die Algorithmen manipulieren, Bürger steuern, Geldströme umlenken und Lösegelder von Firmen erpressen.

Eine erste Ahnung des digitalen Bedrohungspotenzials gab die Cyberkriminellen-Gang Avalanche, deren bösartiges Bot-Netz Ende 2016 in einem koordinierten Zugriff von Ermittlern aus 39 Staaten ausgehoben wurde. Allein in Deutschland hatten die Angreifer mehr als 50 000 Computer per Software manipuliert, um Konten zu plündern. Der geschätzte Schaden betrug rund sechs Millionen Euro; weltweit waren es mehrere 100 Millionen Euro.

Automatisierte Schadprogramme, sogenannte Bots, können sich jeder Art vernetzter Technik bemächtigen. Sie laufen sogar auf handelsüblichen Webcams. Verbraucher bekommen zumeist gar nicht mit, dass etwa ihre Kamera ferngesteuert wird und sie filmt. Oder dass dieselbe Kamera für einen konzertierten Angriff auf Industrieanlagen missbraucht wird. Vielfach genügt dazu ein Internetanschluss, um Schadsoftware einzuschleusen.

Inhalt
Artikel auf einer Seite lesen
© Handelsblatt GmbH – Alle Rechte vorbehalten. Nutzungsrechte erwerben?
Zur Startseite
-0%1%2%3%4%5%6%7%8%9%10%11%12%13%14%15%16%17%18%19%20%21%22%23%24%25%26%27%28%29%30%31%32%33%34%35%36%37%38%39%40%41%42%43%44%45%46%47%48%49%50%51%52%53%54%55%56%57%58%59%60%61%62%63%64%65%66%67%68%69%70%71%72%73%74%75%76%77%78%79%80%81%82%83%84%85%86%87%88%89%90%91%92%93%94%95%96%97%98%99%100%