Serie Wirtschaftswelten 2025: Werden uns Roboter töten?
Seit dem Sieg über Japan im Jahr 1945 ist es der Menschheit gelungen, keine Atomwaffen mehr einzusetzen. Ein Erfolg, den damals die meisten Intellektuellen nicht für möglich gehalten hätten.
Das ging nur, weil allen Menschen die Gefahr der Atomwaffen bewusst war. Jeder erinnerte sich an die Bilder des zerstörten Hiroshima und nahm sie als mahnendes Beispiel. Doch in der Debatte um das Verhältnis von Mensch und Maschine fehlen solche Bilder.
Atomenergie hat manchmal Vorteile, Atomwaffen sind immer gefährlich. Bei Computern und Robotern ist es ähnlich - sie können Leben erschaffen, aber auch den Tod bringen.
Wird es uns gelingen, diesen Zwiespalt im Blick zu behalten? Einen gesunden Mittelweg zu finden zwischen den Chancen und den Gefahren? Die Erfahrung lehrt: Genau das fällt den meisten Menschen schwer. Sie sind entweder komplett für oder gegen etwas.
Nachgebaute Seelen
Maschinen werden niemals eine echte Seele haben, doch sie werden über beeindruckende Imitate solcher Seelen verfügen. Und diese nachgebauten Seelen werden enorme Fähigkeiten haben. Sie werden intelligent sein, logisch denken und planen können, Emotionen verspüren.
Grenzen werden all diesen Fähigkeiten allein von der Software und der Technologie gesetzt – und vom gesunden Menschenverstand der zuständigen Ingenieure.
Ich vergleiche unseren Geist gerne mit Punkten auf einem Spektrum. Am einen Ende stehen rationale Gedanken, am anderen Ende reine Gefühle, also Emotionen und Wahrnehmungen.
Meistens ist unser Seelenzustand eine Mischung aus Denken und Fühlen. Wenn wir denken, handeln wir aktiv: Wir lösen ein Problem, fassen einen Plan, beschließen eine Reaktion. Wenn wir fühlen, sind wir eher passiv. Wir entscheiden uns nicht für Gefühle. Sie passieren einfach.
Nehmen wir zum Beispiel Glück. Das ist ein passiver Zustand. Er kann sich rein seelisch äußern, aber auch körperlich. Dann fühlen wir etwa ein Kitzeln oder Wärme. Aber auch Schmerz oder Kälte sind Gefühle, die uns zustoßen. Sie sind eher Empfindungen als Emotionen, aber auch sie sind Gefühle. Wir müssen dafür gar nichts tun – außer zu existieren.
Doch auch wenn wir nur existieren, unterscheiden wir uns von anderen Dingen. Wir sind vielleicht passiv, aber wir sind bei Bewusstsein. Wir reagieren auf unsere Umwelt. Genauso wie Eis, das auf Wärme reagiert, indem es schmilzt. Oder Stahl, das auf Wasser reagiert, indem es rostet. Für diese Reaktionen sorgt das Wesen von Eis und Stahl. Und genauso reagiert unsere Seele auf die jeweilige Umgebung.
Doch kein Computer kann den Prozess des Schmelzens auslösen. Keine Software kann Rosten verursachen – weil Schmelzen und Rosten physikalische Prozesse sind, die von den Eigenschaften von Eis und Stahl abhängen.
Genauso wenig kann eine Software subjektive Erfahrungen auslösen. Denn sie sind immer abhängig vom Zusammenspiel von Körper und Geist.
Und Fakt ist: Wir wissen nicht genau, wie diese Erfahrungen zustande kommen. Vielleicht werden wir das eines Tages wissen, vielleicht nie. Aber das ist zweitrangig. Viel wichtiger ist: Subjektive Erfahrungen sind nicht berechenbar. Hinter ihnen steckt keine mathematische Funktion, sondern zumindest teilweise immer ein physikalischer Prozess.
Doch das Leben ist nicht berechenbar. Kein noch so ausgefeilter Computer kann Erlebnisse und Gefühle nachbilden. Aber genau diese Erfahrungen machen uns Menschen aus.
Eines Tages werden wir künstliche Seelen erschaffen, die sich ungefähr so verhalten, als hätten sie Bewusstsein und Gefühle. Aber das werden keine echten Gefühle sein.
Eine Mutter, die ein kleines Kind weinen sieht, wird etwas spüren. Diese Gefühle können wir untersuchen – genauso wie die Reaktion, die daraus folgt. Vielleicht spricht sie das Kind an oder nimmt es auf den Arm. Auf genau solche Reaktionen können wir auch einen Roboter programmieren. Wir können ihm eine Art Mitleidsskala einbauen, damit er ab einem bestimmten Wert eingreift.
Doch echte menschliche Gefühle haben unvorhersehbare Folgen. Manchmal sind sie gut, manchmal schlecht. Software kann solche Gefühle niemals erschaffen. Sie kann sich der Seele immer nur annähern – noch nicht heute, aber eines Tages. Wie nah die Software dabei echten Gefühlen kommt, ist noch unklar.
Relativ klar ist hingegen, dass Software keine Probleme mit logischem Denken haben wird. Sobald die technischen Schwierigkeiten beseitigt sind, wird ein künstliches Gehirn mit einem IQ von 10.000 genauso leicht zu erschaffen sein wie eines mit einem IQ von 100 oder 1.000.
Die Technologie ist so gefährlich wie nie zuvor
Die Seele des Roboters könnte im Gegensatz zur menschlichen Seele einige Schwächen haben, vielleicht ist sie von ihr auch kaum zu unterscheiden. Wir wissen es nicht. Aber wir wissen, dass reines Denken – die Fähigkeit zu logischen, vernünftigen, rationalen, abstrakten Gedanken –, leicht zu kopieren ist. Vermutlich ist es sogar leicht zu übertreffen.
Ein Roboter mit einem IQ von 10.000 würde auf die Menschen herabsehen wie wir es bei Fischen, Würmern Mücken tun. Deren Leben bedeutet uns etwas. Aber unser Leben bedeutet ihnen nichts.
Niemand, egal wie stark oder schwach seine moralischen Instinkte auch sein mögen, empfindet Fischen oder Würmern gegenüber echte Zuneigung. Dafür unterscheidet sich ihr vermeintliches Seelenleben zu stark von unserem.
Die meisten Menschen, darunter auch intelligente, nachdenkliche, gütige Menschen, haben kein Problem damit, Fische zu essen oder Mücken zu töten. Genauso werden Roboter mit einem IQ von 10.000 auf die Menschen blicken.
Ingenieure, die diese Roboter bauen, sehen das als aufregende Herausforderung. Technologen wollen eben immer die mächtigsten Maschinen erfinden. Deshalb ist es auch Teil der menschlichen Natur, mächtige Roboter zu bauen.
Bloß: Wir wissen nicht, wie diese superintelligenten Roboter auf Menschen reagieren. Vielleicht sehen sie uns als eine Kuriosität oder als Tribut an die Umwelt. Wahrscheinlicher ist jedoch, dass sie menschliches Leben zufällig zerstören, ohne weiter darüber nachzudenken.
Die Menschen haben bewiesen, dass sie mit gefährlicher Technologie leben können, ohne sich gleich umzubringen. Doch die Welt ist auf einem heiklen Pfad unterwegs. Die Technologie ist derzeit so gefährlich wie nie zuvor. Und deshalb bin ich besorgt.
