Wirtschaftswoche: Herr Carr, Computer und Algorithmen übernehmen immer mehr Aufgaben für uns. Werden wir zu den Sklaven unserer Smartphones?
Nicholas Carr: Wir verlassen uns in vielen Situationen in unserem täglichen Leben zu stark auf Computer. Das zeigt sich besonders deutlich, seitdem wir alle einen Computer in unserer Hosentasche griffbereit mit uns herumschleppen. Wir schätzen den Komfort, die Effizienz und den Zeitvorsprung, den uns neue Technologien zweifellos ermöglichen. Aber wir übersehen dabei oft, was alles auf der Strecke bleibt. Wir lassen den Computer immer mehr Dinge erledigen - bemerken dabei aber nicht, dass wir glücklicher waren, als wir diese Dinge noch selbst gemacht haben.
Zur Person
Nicholas Carr ist ein US-amerikanischer Wirtschaftsjournalist und Bestseller-Autor. Er schreibt für das "New York Times Magazine" und das "Wall Street Journal" über die gesellschaftlichen Auswirkungen, die mit digitalen Technologien einhergehen. Sein Buch "Wer bin ich, wenn ich online bin" wurde in 23 Sprachen übersetzt. Im September 2014 erschien sein jüngstes Werk: Abgehängt. Wo bleibt der Mensch, wenn Computer entscheiden. 19,90 Euro. ISBN 978-3-446-44032-6. Carl Hanser Verlag, München.
Zum Beispiel?
Wenn Sie jahrelang ein Auto mit Gangschaltung gefahren sind und dann auf Automatik wechseln, fühlen Sie sich zunächst total befreit. Ihr linker Fuß muss nicht mehr kuppeln, Ihre rechte Hand klebt nicht mehr ständig am Schaltknüppel. Doch nach einiger Zeit schlägt die Freude, weniger zu tun zu haben, in ein anderes Gefühl um: in Langeweile. Die Koordination von Hand und Fuß mit Gas, Bremse, Kupplung und Schaltknüppel beansprucht uns in genau dem richtigen Ausmaß. Sie überfordert uns nicht, aber sie unterfordert uns auch nicht. Der Glücksforscher Mihály Csíkszentmihályi hat herausgefunden, dass wir nach kaum einer Tätigkeit so dankbar und glücklich sind wie nach dem Autofahren.
Ich bin sehr froh, dass es Leute gibt, die an Autos arbeiten, die ohne menschliche Hilfe fahren können. Aber ich glaube nicht, dass es im menschlichen Leben ausschließlich um Sicherheit geht. Die meisten von uns sind lieber Fahrer als Passagier. Noch dazu sind wir weit davon entfernt, dass autonome Fahrzeuge in allen denkbaren Situationen reibungslos funktionieren. Für eine lange Zeit werden wir weiterhin Menschen in den Fahrprozess einbinden müssen – zumindest als Rückversicherung, um zur Not eingreifen zu können. Wir müssen wachsam bleiben und versuchen mit unserer Aufmerksamkeit nicht zu sehr abzuschweifen, sonst versagen wir, wenn wir wirklich gebraucht werden – wenn die Maschine plötzlich ausfällt.
Wiegen uns Computer in ein falsches Gefühl von Sicherheit?
Ja, in unserem Streben nach Sicherheit und Effizienz gehen wir womöglich zu weit. Die US-amerikanische Luftfahrtbehörde FAA hat vergangenes Jahr einen Report veröffentlicht, der nahelegt, dass unsere Piloten nicht mehr genug Erfahrung im manuellen Fliegen haben. Sie verlassen sich so sehr auf die Computer und Bordinstrumente, dass sie ihre eigenen Flugfähigkeiten und Instinkte verlieren. Wenn wir die Verantwortung für das Flugzeug und die Passagiere wieder stärker auf die Piloten anstatt auf die Computer verlagern, würden wir vielleicht sicherer fliegen, als dies jetzt der Fall ist.
Heute gibt es weit weniger Flugzeugabstürze als noch vor 15 oder 20 Jahren. Technologische Errungenschaften haben dazu doch wesentlich beigetragen.
Absolut. Die Automatisierung in der Luftfahrt ist eine Erfolgsgeschichte. Aber im Laufe der vergangenen 100 Jahre Fluggeschichte haben wir die Arbeit Stück für Stück vom Mensch zur Maschine verlagert. Und heute sehen wir, dass wir vielleicht einen Schritt zu weit gegangen sind. Selbst wenn Automation prinzipiell begrüßenswert ist, heißt das ja nicht gleich, dass jede weitere Automatisierung auch hilfreich ist. Ab einem bestimmten Punkt ziehen wir die menschliche Expertise zu stark zurück und machen die Dinge dadurch unsicherer als zuvor.
"Wir neigen dazu, Computern sehr schnell zu vertrauen"
Sie meinen, manche Unfälle gäbe es gar nicht, wenn der Mensch wieder mehr zu sagen hätte?
Wir neigen dazu, Computern sehr schnell zu vertrauen. Wenn Computer zuverlässig arbeiten, haben wir keinen Grund, an ihnen zu zweifeln. In der Folge werden wir faul und verlassen uns auf die Technik. Forscher sprechen hier von einem gewissen Wohlbehagen, das mit Automatisierung einhergeht. Es liegt in der menschlichen Natur: Wenn wir glauben, dass jemand anderes – ganz gleich ob eine Maschine oder eine andere Person – unsere Arbeit erledigt, dann werden wir weniger achtsam. Und das kann fatale Folgen haben. 2009 stürzte eine Air-France-Maschine, die von Rio de Janeiro nach Paris flog, in den Atlantik. 228 Menschen starben. Aus den Stimmaufzeichnungen und den Daten der Black-Box wissen wir, dass die Piloten mit Autopilot geflogen sind. Als die Luftgeschwindigkeitssensoren plötzlich versagten, weil sie eingefroren waren, schaltete sich das Autopilotensystem ab. Die Piloten waren ohne die Technik völlig überfordert und machten gravierende Fehler, die letztlich zu dem Absturz führten.
Riskieren wir umgekehrt nicht auch das Leben von Menschen, wenn wir Automatisierung unterlassen und all den technischen Möglichkeiten bewusst weniger Beachtung schenken?
Absolut. Mein Argument richtet sich nicht gegen Automatisierung. Ich plädiere nur für weise und vorsichtige Automatisierung. Denn Mechanisierung und neue Computer-Technologien haben oft unerwartete Auswirkungen. Die meisten Menschen glauben, dass wenn man einen Teilaspekt eines Arbeitsablaufs automatisiert, die restlichen Aspekte einfach so weiterlaufen wie bisher.
Ein Irrglaube?
Ja. Es ist ein Mythos zu glauben, man könne einzelne Aspekte isoliert vom Gesamtprozess automatisieren. Jedes Mal, wenn wir Teilbereiche einer Arbeit automatisieren, verändern wir damit automatisch den gesamten Job. Und das führt oft zu unerwarteten Effekten, die die Konstrukteure der Technologien so überhaupt nicht vorhergesehen haben.
Zum Beispiel?
In den USA haben viele Krankenhäuser die handgeschriebene Krankenakte durch eine digitale Akte ersetzt. In der Theorie gibt es viele Gründe dafür: Etwa um sich leichter eine zweite Meinung von einem Kollegen einholen zu können. Alles was man wissen muss, um eine Diagnose stellen zu können, ist ja nur einen Klick entfernt. In der Praxis hat sich aber herausgestellt, dass die digitale Krankenakte unerwartete Auswirkungen auf das Arzt-Patienten-Verhältnis hat. Studien zeigen, dass sobald ein Arzt damit anfängt, den Computer in seine Untersuchung einzubinden, die Aufmerksamkeit für die Patienten drastisch zurückgeht. Anstatt mit den Patienten zu reden, starren die Ärzte 25 bis 50 Prozent der Zeit auf den Computerbildschirm.
Überbewerten wir die Vorteile von Automatisierung?
Ja, bleiben wir einfach bei dem Medizinbeispiel. Viele Krankenhausmanager suchen einen Weg, überflüssige und teure Patiententests zu reduzieren. Durch die Digitalisierung der medizinischen Aufzeichnungen haben sie gehofft, die Anzahl der unnötigen Tests einzudämmen. Die Möglichkeit auf bereits in der Vergangenheit durchgeführte Röntgenbilder oder Bluttests der Patienten zuzugreifen, würde die Anordnung von neuen Tests vielfach überflüssig machen. Die Kosten für das Spital würden sinken – soweit die Theorie. Doch oft tritt genau der gegenteilige Fall ein. Die Kosten steigen. Eine Studie, die 2012 im Fachblatt „Health Affairs“ publiziert wurde, zeigt: Da es durch den Computer so einfach ist, neue Tests anzuordnen und man sie in kürzester Zeit auf dem Bildschirm vor sich hat, werden insgesamt mehr statt weniger unnötiger Tests angeordnet.
"Maschinen ersetzen weit mehr als simple Fließbandarbeiten"
Bleiben wir bei dem Thema Kosten. Die Geschichte lehrt uns, dass Computer und Maschinen bestimmte Jobs hinfällig werden lassen. Das Marktforschungsunternehmen Gartner prognostizierte jüngst, das bis 2025 jeder dritte Job durch Roboter oder Drohnen ersetzt wird. Sehen Sie das ähnlich düster?
Ich glaube nicht, dass die Annahme realistisch ist, dass Roboter und Computer bis 2025 fähig sein werden, alles für uns zu tun. Maschinen unterliegen noch immer großen Limitierungen. Ihnen fehlen Kreativität, kritisches Denken, der gesunde Menschenverstand und die Fähigkeit, die Welt in allen Zusammenhängen zu verstehen. Das können nur wir Menschen. Und diese Hürden werden Computer in der vorhersehbaren Zukunft nicht überbrücken.
Trotzdem verändern Computer und Algorithmen unsere Arbeitswelt.
Absolut. Interessant dabei ist, dass Computer nicht mehr nur die körperlich anstrengenden Jobs ersetzen, sondern auch Tätigkeiten erledigen, die bisher von gut ausgebildeten Wissensarbeitern durchgeführt wurden. Maschinen ersetzen mittlerweile weit mehr als die simplen Fließbandarbeiten. Das sehen wir etwa bei Anwälten und Richtern. Durch spezielle Textanalyseprogramme können Computer Tausende Dokumente scannen und Dossiers für Rechtsfälle erstellen. Früher musste man dafür viele talentierte Leute rekrutieren, die stapelweise Dokumente durchleuchteten und nach Zusammenhängen für den jeweiligen Einzelfall suchten. Die Tendenz ist klar: Immer mehr gut bezahlte Mittelklasse-Jobs werden automatisiert. Und auf der anderen Seite sehen wir nicht, dass Computer die Arbeitsplatzverluste ausgleichen können. Computer haben bis jetzt noch keine großen Kategorien von neuen, gut bezahlten Jobs geschaffen.
Verschärft die Automatisierung und Mechanisierung unserer Arbeitswelt die wachsende Ungleichheit in unserer Gesellschaft?
Ja. Ich glaube, dass ist einer der Gründe, warum wir zumindest in den USA mit Einkommensungleichheiten und immer stärkeren Vermögensunterschieden kämpfen. Die neuen Technologien erlauben es, den Profit in den Händen von ein paar Leuten zu konzentrieren. In der Vergangenheit hat die Industrialisierung und Mechanisierung der Arbeit zu steigender Produktivität geführt. Und die Unternehmen waren sehr gut darin, sicherzustellen, dass die steigende Produktivität auch großen Teilen der Gesellschaft zugute kam. Die zusätzlichen Profite wurden unter vielen Arbeitern aufgeteilt. Es entstand breiter Wohlstand. Wenn wir uns dagegen heute das System ansehen, das Konzerne wie Google kreiert haben, dann sehen wir auf einmal ein viel stärkeres Gefälle. Offensichtlich verschärfen Computer und Automatisierung die soziale Ungleichheit. Denn die Produktivitätsgewinne werden nicht mehr unter einer Vielzahl von Mittelklassearbeitern aufgeteilt. Es ist paradox: Obwohl das Bruttoinlandsprodukt steigt, profitieren immer weniger Menschen davon. Und Computer sind ein Grund für diese Entwicklung.
Sind die Nachteile von Automatisierungsprozessen größer als die Vorteile?
Ich habe ich keine Ahnung, wie man das berechnen sollte. Insofern beschäftige ich mich mit dieser Fragestellung nicht. Die Diskussion über Automatisierung wird dort spannend, wo wir ins Detail gehen. Grobe Pseudo-Kalkulationen machen hingegen wenig Sinn.
"Computer und Smartphones eröffnen uns neue, fantastische Welten"
Müssen wir misstrauischer gegenüber neuen Technologien werden?
Menschen sind von Natur aus enthusiastisch im Umgang mit neuen Technologien. Und das ist gut so. Ich bin es auch. Denn Computer und Smartphones eröffnen uns neue, fantastische Welten. Aber wir müssen unseren Enthusiasmus mit mehr Skepsis kombinieren. Computer machen unser Leben nicht immer einfacher, besser und glücklicher. Wenn wir zu enthusiastisch sind, werden wir leicht von der Technologie geblendet. Das öffnet der Manipulation Tür und Tor. Wenn wir uns von Software abhängig machen, machen wir uns auch abhängig von den Unternehmen, die diese Software herstellen. Ich finde die Vorstellung befremdlich, den Algorithmen von Google, Apple und Facebook ausgeliefert zu sein. In vielen Fällen sind Googles Algorithmen nützlich. Aber was ist, wenn wir uns beispielsweise umfassend zu einem Thema informieren wollen, um uns eine eigene Meinung zu bilden? Finden wir dann über Google wirklich alle notwendigen Informationen und Ansichten dazu? Was ich damit sagen will: Computer-Programme spiegeln immer auch die Interessen und Bedürfnisse der Unternehmen wieder, die sie entwickeln. Die Technologie ist nur so gut, wie ihre Programmierer.
Werden wir Computer und Automatisierung in Zukunft weiser nutzen?
Nur dann wenn wir unsere Einstellung ändern. Im Moment stellen wir die Interessen des Computers über diejenigen der Menschen. Wir müssen aber darauf achten, dass wir im Streben, alles effizienter und sicherer zu machen, nicht als Nebeneffekt die menschlichen Talente und Fähigkeiten auslöschen. Derzeit befinden wir uns auf einem Weg, wo wir zu oft sagen: "Lass uns doch auch das noch automatisieren." Das untergräbt die menschlichen Fähigkeiten. Wir sollten uns viel mehr fragen: Was können wir Menschen gut und welche Fähigkeiten sind so wertvoll, dass wir sie erhalten sollten? Erst daraus ergibt sich die Frage: Bei welchen Tätigkeiten ist es sinnvoll, ein System mit Computern aufzubauen, dass uns Menschen unterstützt? Wenn wir Computer in Zukunft klüger einsetzen wollen, müssen wir unsere Denkweise ändern – hin zu einer Automatisierung, bei der der Mensch im Mittelpunkt steht.
Sie klingen nicht gerade sehr optimistisch.
Ich bin pessimistisch - aber voller Hoffnung, dass wir uns verändern können.
