Sie lesen einen Beitrag aus dem neuen „ada“-Magazin. Mehr Informationen über „ada“ finden sie hier.
Ein einzelner Mann, klein, verletzlich, verloren. Er trägt ein weißes Hemd und eine schwarze Hose. In jeder Hand hält er eine Tüte, als käme er vom Einkaufen. Dieser Mann steht mitten auf der achtspurigen „Straße des Langen Friedens“ und versperrt einer Reihe Kampfpanzern den Weg. Der vorderste Panzer rangiert rückwärts und seitwärts, um an dem Mann vorbeizukommen, doch dieser springt zur Seite. Einige Sekunden passiert gar nichts. Dann klettert der Mann, weiter beide Tüten in der Hand, an dem Panzer hoch, steckt den Kopf durch die Luke und versucht, mit dem Fahrer zu diskutieren.
Die Bilder von dem Bürger, der im Jahr 1989 die Panzer aufhält, gehören zu den eindrücklichsten Dokumenten der Studentenproteste in Peking. Sämtliche Bilder des Zwischenfalls sind in China zensiert, und nur eine Minderheit der Chinesen hat sie je zu Gesicht bekommen. Ebenso ist die Identität das Mannes bis heute unbekannt. Doch sein direkter Gegner von damals ist gerade wieder groß in der Öffentlichkeit: der Panzer vom Typ 59.
Das Kriegsgerät soll demnächst eine Verjüngungskur erleben, als computergesteuerter Kampfroboter. Die Flotte der 5000 T59-Panzer könne „ein zweites Leben in Form von unbemannten Kampffahrzeugen erhalten, wenn sie mit künstlicher Intelligenz ausgestattet werden“, sagt Liu Qingshan, Chefredakteur der Fachzeitschrift „Panzer und gepanzerte Fahrzeuge“. Aus den schrottreifen Raupenfahrzeugen sollen blitzschnell entscheidende, vernetzte Maschinen werden, die Daten mit Satelliten, Drohnen und anderen automatisierten Einheiten austauschen.
Chinas Armeetechniker hauchen derzeit nicht nur Panzern Intelligenz ein, sondern auch Drohnen, U-Booten und anderen Waffen. Die Führung lässt diese Projekte mit Hochdruck vorantreiben, sie sieht ihr Land in einem neuen Rüstungswettlauf mit anderen Militärmächten. „Armeen rund um den Globus befinden sich in einem Rennen der Einführung von Robotern zu Lande, zu Wasser und in der Luft“, schreibt Paul Scharre, ein US-Offizier, der am Center for a New American Security die Folgen der Veränderung in der Kriegsführung erforscht. Die KI sei die neue Atombombe.
„Die technische Entwicklung hat uns an die Schwelle einer entscheidenden Veränderung des Verhältnisses des Menschen zum Krieg gebracht“, sagt Scharre. Er führt als Beispiel ein eigenes Erlebnis aus einem Afghanistan-Einsatz an. Die Taliban hatten ein Mädchen zum Auskundschaften vorgeschickt. Nach juristischer Definition wäre es Teilnehmerin an Kampfhandlungen. Ein Kampfroboter hätte das Kind, seiner Programmierung folgend, erschießen können, was die menschlichen Soldaten keine Sekunde in Erwägung zogen. Ebenso hätte sich eine Gruppe voll automatisierter Panzer vom Typ 59 wohl kaum von einem einzelnen Mann aufhalten lassen. Smarte Software und selbstlernenden Algorithmen können Leistungen erbringen, an denen der Mensch alleine bisher scheiterte. Aber sie bieten diese Leistung auch jedem, der die smarten Maschinen zu nutzen weiß. Unabhängig davon, ob dessen Absichten nun besonders gut oder besonders böse sind.
Das digitale Wettrüsten
Algorithmen könnten also ein Baustein der digitalen Diktatur sein, die in China entsteht – genauso wie Polizeiroboter, die derzeit in die Erprobung gehen. Die hohe Bedeutung von selbstlernender und -handelnder Software für die chinesische Führung zeigt sich in deren Personalpolitik. Anfang Mai ließ sich Präsident Xi Jinping mit General Li Deyi abbilden, einem IT-Experten, der plötzlich eine zentrale Rolle in den Rüstungsanstrengungen der Volksbefreiungsarmee spielt. Li ist Informatiker, und wenn er gerade keine Uniform trägt, tritt er als Präsident des Chinesischen Verbands Künstliche Intelligenz auf. Er hält dann Vorträge über KI-Anwendungen in allen Lebensbereichen von Autos bis zur Schulausbildung. Das Treffen fand an der Akademie für Militärwissenschaften statt, wo Präsident Xi sich über die Fortschritte in der Umsetzung des KI-Programms für die Streitkräfte informierte. Das Ziel der Strategen: Den Amerikanern an den entscheidenden Stellen immer überlegen zu sein.
China hat als autoritäres Regime eine Reihe von Vorteilen. Die Führung kann auch gewagte Rüstungsprogramme durchziehen, ohne dem Parlament Fragen beantworten zu müssen. Auch die Befindlichkeiten von Bürgern spielen keine Rolle. Die Armee kann daher ohne Beschränkungen forschen und entwickeln. In Europa dagegen hat das Europaparlament erst Anfang Juli eine Resolution gegen Maschinen erlassen, die Gewalt ohne menschliche Einwirkung anwenden können. In Großbritannien ist eine Diskussion um die Definition „tödlicher autonomer Waffensysteme“ entbrannt. In einem offenen Brief warnt ein Zusammenschluss von Technikfirmen und Bürgergruppen dort vor einer „Dehumanisierung des Krieges“. Selbst im technikfreundlichen Südkorea hat das Ministerium für Handel, Industrie und Energie eine „Charta Roboterethik“ erlassen, die es den Maschinen verbietet, Menschen zu schaden.
Und besonders laut läuft die Debatte in den USA. Apple-Mitgründer Steve Wozniak, Tesla-Chef Elon Musk und 3000 weitere Führungskräfte aus der Welt des Silicon Valley haben sich in einer öffentlichen Erklärung gegen die Entwicklung von Waffen ausgesprochen, die selbsttätig töten. Sie fordern ihre Regierung auf, ein Wettrüsten mit autonomen Waffen zu verhindern.
Erst die Armee, dann der Staat
Doch genau das könnte schon zu spät sein. Militärs und Politiker in den USA, China und Russland begründen ihre höheren Ausgaben und ethisch fragwürdigen Neuerungen mit den Anstrengungen der Konkurrenz. „Wer im Bereich KI führt, wird der Herrscher der Welt“, sagte Russlands Präsident Wladimir Putin. Der unter seiner Herrschaft entwickelte Kampfpanzer „T-14 Armata“ ist bereits automatisiert: im Geschützturm werkeln keine Soldaten mehr, ein Mechanismus lädt die Munition nach und dreht die Kanone in beliebige Richtungen.
Noch weiter ist das Pentagon, der derzeitige Technikführer im Bereich Militär und smarte Software. Die Amerikaner bringen den Drohnen gerade bei, sich im Schwarm selbst zu organisieren wie Bienen oder Vögel. Diese „Gremlins“ sollen ihre Missionen eigenständig durchziehen, sobald ein Transportflugzeug sie ausgesetzt hat. Noch befinden sich die Gremlins auf der Stufe der Grundlagenforschung, das Schwarmverhalten sieht beeindruckend aus, doch von eigenständigem Entscheiden sind die Drohnen noch ein Stück weit entfernt.
Die USA forschen hier gleichwohl auf zwei Ebenen. Völlige Autonomie ist derzeit zumindest offiziell nicht das Ziel. Denn das Pentagon kann den Druck der Öffentlichkeit nicht ignorieren, Sicherheitsmechanismen einzubauen. Es hat versprochen, für den Einsatz tödlicher Gewalt immer noch einen Menschen dazwischenzuschalten. Die chinesische Führung muss sich dagegen nicht mit Zweiflern auseinandersetzen. Präsident Xi als Oberbefehlshaber und Chef der Militärkommission hat das letzt Wort. Für ihn ist der Fall klar: China hat nur Vorteile zu erwarten, wenn es auf KI setzt.
Der Offizier Chen Hanghui von der Armeehochschule in Nanjing hat in einem – inzwischen aus dem Netz gelöschten – Aufsatz bereits darüber nachgedacht, wie „künstliche Intelligenz die Regeln der Kriegsführung verändert“. Er ist zu dem Schluss gekommen, dass hier eine „technologische Singularität auf dem Schlachtfeld“ bevorstehe. Den Begriff „technologische Singularität“ verwenden Informatiker, um die Folgen einer schnellen Weiterentwicklung zu beschreiben, die einen Lebensbereich völlig umkrempelt. Auf die Kriegsführung bezogen rechnet Chinas Armee also mit einem Moment in der Zukunft, ab dem eine Truppe alten Stils keine Chance gegen ein durchautomatisiertes Heer hat. Um auf die in eigenständiger Schwarmintelligenz organisierten US-Drohnen antworten zu können, arbeitet China etwa gerade an einer ähnlichen Technik, die unbemannte U-Boote entsenden kann.
Erst die Armee, dann der Staat
Profite im Form ziviler Anwendungen sind ebenfalls zu erwarten. Schon jetzt arbeiten der Privatsektor und die staatlichen Rüstungsfirmen zusammen, um Wissen auszutauschen. „China ist hier sehr wettbewerbsfähig aufgestellt“, sagt John Sneller, Luftfahrtexperte bei der Forschungsfirma IHS Markit. Ein Beispiel ist die Firma Megvii, die im Pekinger Technikviertel Zhongguancun sitzt. Ihre Spezialität ist Software für Gesichtserkennung, die auf neuronalen Netzen basiert. Sie erkennt Personen auch auf unscharfen Bilder und in Menschenmengen mit Tausenden von Leuten absolut zuverlässig. Ihr größter Kunde ist der Staat: In Peking fängt die Polizei inzwischen reihenweise Verbrecher, die einfach nur den Fehler gemacht haben, in Sichtweite einer Kamera die Straße herunterzugehen.
Ein autoritär geführter Staat verschafft sich auf diese Weise einen soliden technischen Vorsprung. Der Gedanke einer absoluten Technikführerschaft Chinas klingt für viele Beobachter paradox. In ihrer Erfahrung ist Demokratie mit überlegener Technik verbunden. „Der Grund für Chinas Erfolge in KI und Data Mining ist jedoch gerade das Fehlen des Datenschutzes“, sagt Dong Tao, China-Ökonom bei der Großbank Credit Suisse. Allein die Kommunikations-App WeChat verarbeite täglich sieben Milliarden Fotos, die dem Staat und den KI-Forschern potenziell zur Verfügung stehen.
Immerhin gibt aber auch ein robotertechnisch aufgerüstetes System die Diplomatie nicht ganz auf: Die nächste Anwendung für intelligente Software soll Chinas Außenpolitik sein. Das Außenministerium plant gerade ein Pilotprojekt für den Einsatz von künstlicher Intelligenz in der internationalen Strategie, berichtet die „South China Morning Post“. Die Rechner können jeden Gesprächsfetzen nutzen, den hellhörige Mikrofone auf Empfängen und Partys auffangen. Das Ziel ist ein „Unterstützungssystem“ für strategische Entscheidungen. Die Frage ist dann nur: Wenn Algorithmen künftig Soldaten und andere Algorithmen Diplomaten ersetzen – wie lässt sich dann verhindern, dass nur noch Maschinen mit Maschinen über die Geschicke von Menschen verhandeln?
