Die Software Cogito ist so etwas wie das digitale Pendant zu einem Privatdetektiv. Während sich Ermittler aus Fleisch und Blut in schattige Hauseingänge drücken müssen, um zu erfahren, mit wem sich ihre Zielpersonen treffen, wird Cogito im Netz aktiv. Die Software erkennt anhand digitaler Spuren etwa, wer mit wem wann in welchem Restaurant zu Abend gegessen hat – selbst wenn die Teilnehmer konspirativ vorgehen und zuvor alles tun, um ihr Treffen geheim zu halten.
Das Programm analysiert belanglos wirkende Facebook-Posts und Instagram-Bildchen, mit denen inzwischen viele Menschen Einblick in ihre Gewohnheiten gewähren, kombiniert zahlreiche Informationen im Netz mit anderen frei zugänglichen Daten, etwa auf Nachrichtenseiten, in Bildergalerien oder Rezensionen, und simuliert menschliche Lern- und Denkprozesse.
„Unsere Software stocherte ins Leere, gäbe es nicht eine gigantische Verfügbarkeit von Daten, die sie mit ihren Fähigkeiten verknüpft. Erst das schafft die Grundlage unserer Analysen“, sagt Stefan Welcker, Deutschlandchef der Softwarefirma Expert System, die Cogito vertreibt. Den Großteil des Umsatzes erwirtschaftet die Firma im Sicherheitsbereich. Sie leiste „konkrete Unterstützung bei taktischen und strategischen Verteidigungs- und Geheimdienstaktivitäten“. Etwa indem sie Milliarden öffentlich verfügbarer Daten, wie Einträge in sozialen Netzwerken, auf Hinweise untersucht, die auf ein Verbrechen deuten könnten.
Software wie Cogito geht die Arbeit nie aus, im Gegenteil: Sie wird künftig auf noch viel mehr Daten zugreifen können als bisher. Nachdem die Digitalisierung den privaten Alltag durchdrungen hat, erfasst sie nun viele Aspekte des Geschäftslebens mit seinen digitalen Prozessketten vom Produktdesign über die Fertigung bis hin zur Wartung von Maschinen. Bis 2020 werden mehr als 50 Milliarden Geräte, Sensoren oder Maschinen miteinander kommunizieren, schätzt die Unternehmensberatung Deloitte. Das bisher von Computern gebildete Internet wandelt sich zum Internet der Dinge – und liefert damit noch mehr Daten.
Künstliche Intelligenz trägt dazu bei, aus diesen Daten Wissen zu generieren. Denkbar ist, dass Sensoren in Autos helfen, Verkehrswege zu entlasten und Staus zu verhindern. Dass sich Krankheiten dank des Datenfundus schneller diagnostizieren und zielgerichteter kurieren lassen. Und dass vernetzte Maschinen produktiver und zuverlässiger denn je arbeiten. Der gewaltige Fluss an Informationen wird möglicherweise ein Segen sein. Aber was, wenn die Daten missbraucht würden? Wenn Konzerne oder Staaten die Maschinen manipulierten und die Privatsphäre der Bürger verletzten?
Die bevorstehende Vernetzung von Büros, Fabriken und Lieferketten zwingt Politiker und Hersteller, das Nebeneinander von Mensch und Maschine neu auszutarieren. Es gilt, eine Art Gesellschaftsvertrag des Digitalzeitalters zu schaffen. Der die Grenzen der künstlichen Intelligenz bestimmt. Und der die Systeme rechtlich davor schützt, in die Hände von Kriminellen und Despoten zu fallen, die Algorithmen manipulieren, Bürger steuern, Geldströme umlenken und Lösegelder von Firmen erpressen.
Eine erste Ahnung des digitalen Bedrohungspotenzials gab die Cyberkriminellen-Gang Avalanche, deren bösartiges Bot-Netz Ende 2016 in einem koordinierten Zugriff von Ermittlern aus 39 Staaten ausgehoben wurde. Allein in Deutschland hatten die Angreifer mehr als 50 000 Computer per Software manipuliert, um Konten zu plündern. Der geschätzte Schaden betrug rund sechs Millionen Euro; weltweit waren es mehrere 100 Millionen Euro.
Automatisierte Schadprogramme, sogenannte Bots, können sich jeder Art vernetzter Technik bemächtigen. Sie laufen sogar auf handelsüblichen Webcams. Verbraucher bekommen zumeist gar nicht mit, dass etwa ihre Kamera ferngesteuert wird und sie filmt. Oder dass dieselbe Kamera für einen konzertierten Angriff auf Industrieanlagen missbraucht wird. Vielfach genügt dazu ein Internetanschluss, um Schadsoftware einzuschleusen.
Schnelligkeit vor Sicherheit
In Überwachungskameras aus China hat der finnische Sicherheitsanbieter F-Secure 18 teils kritische Sicherheitslücken gefunden. „Die Sicherheit wurde bei diesen Produkten komplett ignoriert“, sagt Harry Sintonen, Experte bei F-Secure. Offenbar ging es dem Hersteller nur darum, das Gerät schnell fertigzustellen und auf den Markt zu werfen. „Diese Kameras sollen mehr Sicherheit zu Hause bieten – während sie gleichzeitig das virtuelle Heim unsicherer machen“, ärgert sich Sintonen.
Schnell statt sicher – für Fachleute ist das ein bekanntes Problem. Es dringt mit der voranschreitenden Vernetzung immer weiter in Alltag und industrielle Produktion vor. Die bald schon milliardenfach in Maschinen, Autos, Straßenlaternen, Türöffnern und vielem mehr verbauten Sensoren, Funkchips und smarten Stecker werden primär aus asiatischen Quellen stammen – und sicher nicht immer mit Blick auf maximale Sicherheit konstruiert sein. „Sensoren können altern, unter Umwelteinflüssen leiden, aber natürlich auch manipuliert werden“, warnt Hans Dieter Schotten, Chef des Forschungsbereiches Intelligente Netze am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Kaiserslautern.
Schotten und sein Team wollen, dass die gigantische Vernetzung künftig mehr Segen als Fluch sein wird – gerade mit Blick auf die vernetzte Industrie 4.0. Zu den zahlreichen Werkzeugen, die die Experten auf der Jagd nach Softwaremanipulationen nutzen, gehören Mikrofone in Industriemaschinen, um die Betriebsgeräusche der im Innern liegenden Kurbeln, Wellen oder Lager zu überwachen. Ändert sich der Klang, sehen die Forscher genauer nach: Verschleißt die Maschine – oder hat jemand via Internet einen Schadcode eingeschleust, der die Technik stören, vielleicht sogar zerstören soll?
Wie findig Angreifer mitunter sind, zeigt ein Fall aus den USA: Dort konnten Forscher die Steuersoftware eines Geländewagens knacken: Sie attackierten das Empfangsmodul, das Stauwarnungen und Musik empfängt – und konnten den Wagen zum Stehen bringen. Helfen gegen solche Attacken könne eine Art digitale Selbstkontrolle der Maschinen, sagt Schotten. So, wie es sie bei Computern schon gibt, die E-Mail-Dienste abwickeln. Versendet ein Rechner plötzlich ungewöhnlich viel Spam, fällt das auf, die Maschine bekommt ein schlechtes Rating – und wird vom Netz getrennt.
Schottens Team erforscht die Strategien der Angreifer auch mit einem sogenannten „Honeynet“. Dieses Rechnersystem täuscht Angreifern vor, ein kompromittierbares Gerät zu sein. In Wahrheit dient die Lock-Kulisse einem anderen Ziel: Sie soll helfen, das Verhalten der Kriminellen nachzuvollziehen, ihre Methoden und Ziele zu beobachten und zu analysieren.
Künftig möchte der Wissenschaftler solche Honigtöpfe regulär in Netzwerken installieren – als eine Art Frühwarnsystem für Angriffe. Denn Schotten ist sich sicher, dass die Attacken massiv zunehmen werden. Er plädiert deshalb für eine strikte Trennung der Systeme. „Die Technologie, mit der wir Anlagen steuern, und diejenige, mit der wir sie absichern, dürfen nicht vermischt werden, das schafft unkalkulierbare Risiken“, warnt der Wissenschaftler.
Fest steht: Alle Vorkehrungen sind nicht mehr als – Vorkehrungen. „Es bleibt immer ein Wettlauf zwischen den Cyberkriminellen und uns“, sagt Expert-System-Chef Welcker und skizziert ein aktuelles Dilemma: „Unseriöse Internetdienstanbieter haben ihren Sitz oft in Rechtsräumen, die schwer zu erreichen sind.“ Mit nationalen Regelungen komme man nicht weit. Welcker plädiert deshalb für internationale Regeln und Bündnisse für ein sichereres Netz.
Schluss mit der Abschottung
Ein erster Schritt in diese Richtung ist die Initiative Partnership on AI, zu deren Gründungsmitgliedern IT-Schwergewichte wie Google, Amazon, IBM, Facebook oder Microsoft gehören. Den Unternehmen scheint bewusst, dass maschinelle Intelligenz zu einer Bedrohung werden kann. Dass die Maschinen, statt menschliche Entscheidungen zu unterstützen, auch Katastrophen auslösen könnten – wenn sie manipuliert werden.
Auch in der Polizeiarbeit. Die Behörden suchen etwa nach Mitteln und Wegen, wie sie die Zahl der Wohnungseinbrüche in Deutschland senken können. Dabei setzen sie auch auf Methoden des „Predictive Policing“: Computer sollen mit statistischen Prognosen helfen, Einbrüche in gefährdeten Gegenden zu verhindern. In Baden-Württemberg nutzen die Beamten dazu in einem Pilotprojekt die Software Precobs des Instituts für musterbasierte Prognosetechnik aus Oberhausen. Noch zielt sie nur darauf, dass Polizeibeamte in Vierteln öfter Streife fahren, die als gefährdet identifiziert sind.
Künftig könnte Software vielleicht auch bei Kapitalverbrechen zum Einsatz kommen. In einigen US-Städten lässt die Justiz bereits die Rückfallwahrscheinlichkeit von Gefangenen von der Software berechnen, die dann empfiehlt, ob Anträge auf vorzeitige Entlassung abgelehnt werden sollen oder nicht. Was aber, wenn Kriminelle die Algorithmen steuern, die die Polizeiarbeit steuern?
Die im Partnership on AI beteiligten Firmen setzen sich deshalb dafür ein, dass die Anbieter solcher Systeme tiefere Einblicke in ihre Technik gewähren. Abschottung funktioniere im digitalen Zeitalter nicht mehr. Standards müssen auch bei der künstlichen Intelligenz definiert und offengelegt werden: Was genau tut ein Algorithmus? Wie funktioniert er? Solche Fragen müssten Softwareentwickler mit Blick auf Datenschutz und Datensicherheit eindeutig beantworten, fordern die Partner. Doch bisher allerdings halten sich nicht einmal alle Firmen selbst an die sich selbst auferlegten Vorgaben.
Erfolg werden solche Industrieinitiativen ohnehin nur haben, wenn sich auch alle Nutzer des Internets der Dinge der Risiken einer hochgradig vernetzten Welt bewusst sind. Wenn sie nicht länger auf ihren Smartphones Schnüffeldienste zulassen und über x-beliebige Apps Auskunft darüber geben, wo – auf den Meter genau – sie sich gerade befinden.
Michael Kranawetter, Leiter der Abteilung Sicherheit bei Microsoft Deutschland, fordert mehr Aufklärung. Die meisten Leute wüssten schlicht nicht, wie wichtig es sein kann, mit Daten sparsam zu sein, und wie sie im Alltag weniger Datenspuren hinterlassen können. Daher sollten „Grundprinzipien der Programmierung Einzug in die Stundenpläne der Schulen erhalten“. In einer vernetzten Welt sei nur derjenige ein mündiger Bürger, der weiß, welche Spuren er hinterlasse – und der verbergen könne, mit wem er wo zu Abend isst. n
