WirtschaftsWoche: Herr Floridi, wird uns künstliche Intelligenz arbeitslos machen?
Luciano Floridi: Oh ja, das sollte sie!
Wie bitte?
Natürlich. Denken Sie an die vielen Menschen mit unerfreulichen Jobs. Sie müssen jeden Tag stundenlang etwas tun, das sie eigentlich nicht mögen, immer mit Blick auf den Feierabend und das Wochenende. Ihr Arbeitsleben ist in keiner Weise bereichernd. Wir sind nicht dafür da, so zu arbeiten. Wenn künstliche Intelligenz all diese Tätigkeiten übernimmt, wäre das doch großartig. Wie mein Geschirrspüler: Er nimmt mir Arbeit weg, aber bin ich deshalb unglücklich? Natürlich nicht.
Zur Person
Luciano Floridi ist Professor für Philosophie und Informationsethik an der Universität Oxford. Er gehört unter anderem zum Experten-Beirat für Google zum Recht auf Vergessenwerden.
Sie wären vermutlich unglücklich, wenn auch Ihr Einkommen wegbricht.
Genau das ist der Punkt. Das Problem ist nicht die Arbeitslosigkeit. Das Problem ist der Einkommensverlust. Wenn also bestimmte Jobs von künstlicher Intelligenz ausgeübt werden, müssen wir entweder neue Tätigkeiten für die Erwerbslosen finden, oder wir müssen ihnen ein Einkommen schaffen. Wir sollten über ein Grundeinkommen nachdenken. Ich träume von einer Zukunft, in der jeder ein Rentner sein kann, ohne in Ruhestand gehen zu müssen.
Und wer soll diese schöne, lebenslange Rente bezahlen?
Wir brauchen schlichtweg mehr Verteilung und Bewegung des Reichtums, den wir mit neuen Technologien generieren. Stellen Sie sich Folgendes vor: Eine Hightechfirma benutzt künstliche Intelligenz, wird extrem erfolgreich und erwirtschaftet ein großes Vermögen. Wenn wir es vernünftig hinbekommen, wird solch ein Unternehmen entsprechend mehr Steuern zahlen. Davon wiederum könnten wir ein Grundeinkommen generieren, das die Menschen ausgeben, um Produkte und Dienstleistungen zu kaufen. So wird das Ganze zur Win-win-Situation.
Das klingt utopisch. Unternehmen werden dorthin ziehen, wo sie weniger Steuern zahlen und mehr Geld verdienen.
Natürlich, doch es könnte ein regulatorisches Ideal sein. Ein Zustand, den wir nie erreichen, aber immer anstreben. Seit der Erfindung des Rads war es stets unser Ziel, nicht mehr zu arbeiten. In einer berühmten Passage von Dantes „Divina Commedia“ erinnert uns Ulysseus daran: „Ihr seid nicht da, um wie Tiere zu leben. Ihr sollt nach Tugend und nach Wissen streben.“
Glauben Sie denn, dass Ihr Job sicher ist?
Philosophie ist der zweitälteste Beruf der Welt, ich werde bestimmt nicht durch eine smarte App ersetzt werden. Alle Aktivitäten, bei denen es auf Intelligenz im Sinne von menschlicher Flexibilität und Feingefühl ankommt, können nicht von Robotern ausgeführt werden. In allen anderen Industrien wird es einen massiven Umbruch geben.
Die Entwicklungsstufen Künstlicher Intelligenz
Der britische Informatiker entwickelt den nach ihm benannten Test. Er soll ermitteln, ob eine Maschine denken kann wie ein Mensch. Ein russischer Chat-Roboter soll ihn 2014 erstmals bestanden haben.
Experten einigen sich auf den Begriff "Künstliche Intelligenz". Der Rechner IBM 702 dient ersten Forschungen.
Katerstimmung bei den Forschern: Die Fortschritte bleiben hinter den Erwartungen zurück. Computer sind zu langsam, ihre Speicher zu klein, um die Daten von Bildern oder Tönen zu verarbeiten. Budgets werden gestrichen, erst ab 1980 geht es wieder voran.
Der Supercomputer von IBM siegt im Schachduell gegen Weltmeister Garry Kasparov. Die Maschine bewertete 200 Millionen Positionen pro Sekunde. 2011 siegt IBMs Software Watson in der Quizsendung "Jeopardy".
Der KI-Forscher sagt in einem Buch für das Jahr 2045 den Moment der "Singularität" voraus: Die Rechenleistung aller Computer erreicht die aller menschlichen Gehirne. Seit 2012 arbeitet Kurzweil für Google an KI-Systemen.
Ein Google-Programm beschreibt präzise in ganzen Sätzen, was auf Fotos zu sehen ist. Nahrungsmittelkonzern Nestlé kündigt an, 1000 sprechende Roboter namens Pepper in seinen Kaffeeläden in Japan als Verkäufer einzusetzen. Physiker Stephen Hawking warnt: KI könne eines Tages superschlau werden – und die Menschheit vernichten.
Computer sind schlau wie Menschen – und machen sogar Witze. Fabriken, Verkehr und Landwirtschaft sind nahezu komplett automatisiert.
Welche Jobs sind am meisten gefährdet?
Alle Arten von Routinejobs. Und am Ende können Sie fast jeden Job in eine Serie von immer gleichen Tätigkeiten aufteilen. Das gilt auch im digitalen Raum, ob Literaturrecherche, Homepages bauen oder Produkte evaluieren. Es werden Bereiche betroffen sein, die wir bislang als komplett sicher einstufen. Es gibt Experimente, in denen künstliche Intelligenz ein Krebsgeschwür besser erkannt hat als erfahrene Onkologen. Andere Algorithmen wiederum schreiben Sportberichte so, dass man sie nicht von denen der Journalisten unterscheiden kann.
Also wird es auch Menschen betreffen, die ihren Job lieben.
Ja, das wird passieren. Das wird im Zweifel für den Einzelnen ein Problem sein, nie aber für die gesamte Gesellschaft – je nachdem, wie gut wir den damit generierten Reichtum verteilen. Und gleichzeitig wird es viele neue Tätigkeiten geben. Dinge, die wir uns heute noch nicht einmal vorstellen können.
"Die Menschen profitieren nicht vom technischen Fortschritt"
Warum fürchten wir den technischen Fortschritt so sehr?
Es ist eine anthropologische Angst, die in uns steckt. In Erwartung des Unbekannten, des Ungewissen, des Unerwarteten sind wir immer besorgt. Wir sollten darüber hinwegkommen und uns wie Erwachsene verhalten. Denn das reale Problem ist die Art, wie wir unsere derzeitigen Gesellschaften gestaltet haben. Das schnelle und große Anhäufen von Reichtum bei einigen wenigen. Wir haben es nicht geschafft, eine konsumorientierte Gesellschaft zu bilden, die Wohlstand und Fortschritt fair verteilt.
Sie glauben also, wenn wir ein anderes Wirtschaftssystem hätten, wären wir nicht so argwöhnisch hinsichtlich künstlicher Intelligenz?
Ich denke ja. Die Menschen profitieren nicht vom technischen Fortschritt. Viel Geld stagniert in einem lokalen Minimum, die Zirkulation funktioniert nicht. Die meisten glauben, dass das nur ein soziales Thema ist. Aber es ist eben auch ein ökonomisches und ein politisches Problem. Denn großer Reichtum in wenigen Händen bedeutet gleichzeitig starkes politisches Gewicht. Eine Demokratie kann darunter nur leiden.
Hilfe, ein Roboter klaut meinen Job!
Dass die Zeichen der Zukunft auf digital stehen - geschenkt. Doch ein Journalist der britisch-amerikanischen Webseite Mashable hat darüber einen Artikel veröffentlicht, welche Jobs schon im nächsten Jahr von Robotern ersetzt werden könnten. Das Ergebnis ist überraschend: Ein Blick in die Gegenwart zeigt, dass die Zukunft oft schon da ist.
Sie heißen Scooba 230 oder Braava 380: Roboter, die selbstständig den Boden saugen oder wischen, gibt es schon seit ein paar Jahren. Aber bei aufwendigen Reinigungen, wie zum Beispiel das Entfernen von Bakterien und Keime, war der Mensch bislang unersetzbar. Doch das ändert sich zunehmend. In einem kalifornischen Krankenhaus ist bereits ein Putzroboter im Einsatz, der gezielt zur Bekämpfung von Keimen programmiert wurde. Mithilfe von UV-Licht befreit er das Hospital von Bakterien und Schimmel.
Ob E-Learning oder Moocs: Die größten Bildungstrends der letzten Jahre fanden nicht in den Klassenräumen statt, sondern im Internet. Doch dass der Beruf des Lehrers aussterben könnte – daran haben bislang nur die wenigsten gedacht. In einer Schule im US-amerikanischen Connecticut, lernen Kindern mit Robotern – und das sehr erfolgreich. Zwar kann der Roboter noch keinen Lehrer ersetzen, aber er bringt immerhin die Qualifizierung eines Lehr-Assistenten mit.
Der vierfache Weltfußballer Lionel Messi kann ihn nicht bezwingen. Drei Mal nimmt er Anlauf und schießt mit voller Wucht auf das Tor – doch der Torwart hält den Ball. Jedes Mal. Doch nicht Manuel Neuer, Iker Casillas oder Gianluigi Buffont bewachen das Netz, sondern ein sonderlich grinsender Roboter. Jetzt arbeiten japanische Wissenschaftler an einem Roboter, der neben dem Fangen auch Werfen, Rennen und sich richtig positionieren kann. Das wäre dann der erste Roboter, der in der Lage wäre, in einer Mannschaft mit anderen Menschen zu spielen.
Kranke zu pflegen kann nicht nur psychisch belastend sein, sondern auch körperlich. Etwa um den Patienten aufzuhelfen, sich umzudrehen oder umzubetten. In einem Krankenhaus in Singapur erledigt das nun ein Roboter. Das wohl intelligenteste Bett der Welt unterstützt den Patienten bei den Bewegungen und schätzt selbstständig die Geschwindigkeit ein.
Wer im US-amerikanischen San Jose den Orchard Supply Hardware Store betritt, wird von einer rollenden weißen Säule namens OSHbot begrüßt. Der Roboter hat ein kleines Display mit integrierter Kamera, in das die Kunden ihre Wünsche äußern können. Zum Beispiel, indem sie eine bestimmte Schraube vor die Kamera halten. OShbot identifiziert die Schraube und führt den Kunden dann direkt zum entsprechenden Regal. Auch über die Lagerbestände weiß er zu jeder Zeit Bescheid.
Ein Video von Oshbot: http://www.mercurynews.com/business/ci_26815593/robots-helping-customers-at-san-jose-orchard-supply
In einem Hotel in der US-amerikanischen Stadt Cupertino, mitten im Tech-Paradies Silicon Valley gelegen, begleitet ein Roboter namens SaviOne, die Gäste des Drei-Sterne-Hotels Aloft in ihre Zimmer. In diesem Jahr befand sich das Projekt noch in der Testphase, ab 2015 soll eine kleine Armee von Robotern die Gäste der Starwood-Hotelkette, zu der auch das Aloft gehört, glücklich machen.
Schauspieler müssen sich jede Rolle hart erkämpfen, bei so gut wie jedem Casting ist die Konkurrenz groß. Und künftig wird sie noch größer. In diesem Jahr wurde eine Rolle in der Theateraufführung von Franz Kafkas „Die Verwandlung“ von einem Roboter gespielt. Gregor Samsa, der sich eines Morgens in ein Ungeziefer verwandelt sieht, wacht in der neuen Interpretation als Roboter auf.
In einem Flugzeug ist schon viel automatisiert – doch so ganz ohne Piloten aus Fleisch und Blut ging es bislang nicht. Das will das Advance Institute of Science and Technology in Südkorea ändern. Pibot ist ein Roboter mit Armen, Beinen und einem Kopf. Und soll ein Flugzeug durch schwierige Manöver fliegen. Im nächsten Jahr wird das wahrscheinlich noch nicht möglich sein, zumindest nicht im normalen Passagierverkehr. Aber Pibots Zeit wird kommen, und wahrscheinlich schneller als heute gedacht.
Der Physiker Stephen Hawking oder Microsofts Forschungschef Eric Horvitz warnen vor den Gefahren künstlicher Intelligenz.
Schlechte News verkaufen sich einfach besser. Wenn zwei prominente Leute davor warnen, dass künstliche Intelligenz die Welt beherrschen wird, dann ist das natürlich eine Story. Ich sage hingegen: Diese Technologie wird unser Leben beeinflussen, und ein Computer wird immer besser Schachspielen als ich. Doch sobald es Feueralarm gibt, renne ich raus und der Computer nicht.
Wir könnten ihn doch entsprechend programmieren.
Klar, aber dann kommt ein Hochwasser oder jemand ruft spaßeshalber „Feuer“ – gleiches Problem. Es sind Maschinen, die in einer bestimmten Zeit mit bestimmten Ressourcen bestimmte Aufgaben erfüllen. Wir müssen dringend die Science-Fiction-Szenarien vergessen. Schließlich haben wir ernsthafte Probleme zu lösen, und zwar schnell.
An was denken Sie?
Wir müssen künstliche Intelligenz so gestalten, dass wir als Mensch im Mittelpunkt stehen. Es gibt von Churchill das Zitat „Wir formen unsere Gebäude, danach formen sie uns“; die gleiche Gefahr sehe ich in der Infosphäre. Der Mensch muss als Zweck, nie als Mittel oder Ressource behandelt werden, um Kant zu zitieren.
Kontrollieren nicht Algorithmen längst große Teile unseres Alltags. In den USA hängt etwa meine Kreditwürdigkeit davon ab, wie ein Algorithmus mich einstuft. Ist das moralisch verwerflich oder Techbusiness?
Das ist ein großes Problem. Algorithmen haben häufig signifikante Tendenzen und Vorurteile. Häufig ist ihr Ergebnis ein anderes, je nach Geschlecht, Hautfarbe oder der Herkunft eines Menschen. Ich finde, sie sollten transparent und zugänglich sein, sodass wir den Output abhängig von verschiedenen Faktoren überprüfen können. Doch das ist auch eine Aufgabe, für die wir Technik nutzen können. Wir sollten Technologie nicht stoppen, sondern sicherstellen, dass sie vernünftig eingesetzt wird.
Wo die Maschine den Mensch ersetzt
Die folgenden Branchen und Berufe werden laut der Studie "The future of employment" von Forschern der Oxford University mit hoher Wahrscheinlichkeit in einigen Jahren von Automatisierung erfasst werden – in Gestalt von Maschinen, Robotern oder Programmen, ganz oder in Teilen.
- Taxifahrer
- Chauffeure
- Busfahrer, allgemeine Beförderung, U-Bahnen
- Kuriere
- Piloten
Quelle: The future of employment, Oxford University
- Schwertransporte
- Lokführer
- Kranführer
- Baggerfahrer
- Logistiker, Disponenten, Lagertätigkeiten
- Analysten
- Finanzmathematiker
- Buchhaltung/Rechnungswesen
- Steuerberater
- Controller
- gefährliche Berufe
- Arbeiter in Diamant- und Metallminen
- Buchhaltung/Rechnungswesen
- Konstruktion, Wartung, Reparatur, Installation
- Verpackungswesen
- Uhrreparaturen
- Controller
- Laborarbeiten
- Diagnostik
- Biologen
- Pflegekräfte
- Operateure in der Medizin
- Bedienungen
- Call-Center (alle Bereiche), Telefonagenten
- Makler
- Landschaftsgärtner
- Parkwächter
- Düngen, Säen, Ernten
- Einzelhandel: Verkäufer, Kassierer
- Journalisten (Teile der Sportberichterstattung, Roboterjournalismus)
- Anwälte, Anwaltsgehilfen
- Berufe in Hotels und Großküchen
- Bibliothekare
- Straßenbau
Andererseits kann man mit digitalen Informationen auch Kriminalität und Terror bekämpfen. Die russische Polizei nutzt bereits eine Gesichtserkennungs-App, die Fahndungsfotos mit den Bildern in sozialen Netzen abgleicht.
Die Frage ist doch: Wie weit möchten wir unsere Menschenrechte einschränken, um sicherzustellen, dass es keine Kriminalität gibt? Es gibt daher Dinge, die wir zwar tun können, aber nicht zulassen sollten – auch wenn es der Sicherheit dient. Das untergräbt die Basis unseres sozialen Lebens, es untergräbt unsere Freiheiten und unsere grundlegenden Werte. Das ist es nicht wert.
"Wir sehen eine Veränderung des Gefühls für Privatheit"
Als Brexit-Wahlkämpfer kürzlich eine Website mit Wahlversprechen löschten, zeigten Sie auf Twitter einen Weg, wie man die Inhalte weiterhin findet. Seit Jahren plädieren Sie für ein öffentliches Internetarchiv. Warum ist das so entscheidend?
Löschen ist ein politischer Akt. Wenn Menschen versuchen, Dinge aus der Infosphäre zu entfernen, versuchen sie, unser Gedächtnis zu verändern. Wir dürfen das nicht zulassen. Geschichte ist entscheidend, um ein Gefühl dafür zu bekommen, was richtig und falsch lief und welche Fehler gemacht wurden. Deshalb müssen wir die Infosphäre schützen. Wir brauchen daher dringend Initiativen, die alles protokollieren, was online abläuft.
Klingt grauenhaft. Alles sichtbar, für immer.
Verstehen Sie mich nicht falsch. Ich spreche ausschließlich über öffentliche Informationen: Medieninhalte, Politikeraussagen, Wahlkämpfe. Dinge, die die Menschen bewusst sichtbar gemacht haben. Es geht darum, Geschichte zu protokollieren. Wir sollten jederzeit die Möglichkeit haben, in der Infosphäre zurückzugehen, um nachzusehen, was jemand tatsächlich gesagt hat. Ich meine damit keine privaten Informationen und Inhalte.
Dennoch könnte das unser Verhalten verändern. Wer traut sich heute noch, laut zu singen, wenn das Gegenüber ein Smartphone zückt? Niemand will peinlicher YouTube-Star sein.
Ja, wir sehen eine Veränderung des Gefühls für Privatheit. Wir haben als Gesellschaft stets neue Antworten auf die Frage, was öffentlich ist, was nicht und für wen. Für meine Großmutter war Küssen in der Öffentlichkeit undenkbar. Für meine Eltern schon okay. Und heute sind viele Menschen diesbezüglich völlig freizügig und gleichzeitig total sensibel und zurückhaltend, wenn es um ihre persönlichen Interessen geht. Es bedeutet nicht das Ende der Privatsphäre, es bedeutet eine andere Privatsphäre.
Doch in der Infosphäre sind die Folgen von Sichtbarkeit dauerhafter.
Das ist eben ein kultureller Wandel. Die Gesellschaft wird das von alleine lernen, so wie wir gelernt haben, sicher über Straßen zu kommen. Die jetzige Generation wird der nächsten beibringen, wie man in diesem Mix aus Online- und Offlinerealität am besten unterwegs ist.
Sie gehören zum Google-Expertenrat zum sogenannten Recht auf Vergessenwerden. Kollidiert Googles Größe nicht mit Ihrem Ansatz, die Macht großer Konzerne im Netz einzudämmen?
Ja, aber der Konzern ist nicht das einzige Gebilde, das zu viel Macht konzentriert. Ich denke auch an Amazon, Apple und Facebook. Sie haben das Machtvakuum gefüllt, das die Politik versäumt hat. Als das Internet etwas signifikant Alltägliches wurde, begriff die politische Klasse nicht, dass diese digitale Revolution mehr ist als ein sozialer Wandel. Nun ist diese Infosphäre in der Hand weniger privater Konzerne. Sie beeinflussen gleichzeitig, was in der analogen Welt passiert. Die erste Erscheinung des türkischen Präsidenten Erdoğan nach dem gescheiterten Putschversuch war in der FaceTime-App auf einem Apple iPhone. Ich bin besorgt, dass diejenigen, die Kontrolle über entscheidende Fragen haben, die Antworten und letztlich die Realität gestalten.
"Algorithmen entscheiden schon heute, was für uns Realität ist"
Warum ist es so schwierig, da Regelungen zu finden?
Momentan versuchen wir, lokale Gesetze und Regeln auf das Internet anzuwenden. Das ist aus meiner Sicht anachronistisch. Stattdessen sollten wir für die Infosphäre eine internationale Vereinbarung schaffen, so wie wir Konventionen für internationale Gewässer haben. Das wird auch eines Tages so kommen, auch wenn ich das vermutlich nicht mehr erleben werde.
Ich würde gerne Ihre Meinung zu drei Statements hören, die der Google-Algorithmus vorschlägt, wenn ich in das Suchfeld eintippe: „Algorithmen werden...“ Erstens: „...immer zu einer korrekten Lösung führen“.
Das ist natürlich Unsinn. Algorithmen sind von Menschen gemacht, sie werden also immer Fehler und Vorbehalte haben. Wo man Müll reinsteckt, kommt Müll raus. Ein Algorithmus kann einen Schaden verursachen, gleichzeitig ist er dafür verantwortlich. Menschen sind es, die einem Algorithmus das Kommando überlassen. Menschen sind es, die ihn nicht entfernen. Menschen sind es, die ihm unkritisch folgen. So ist es am Ende immer unsere volle Verantwortung, wenn etwas schiefgeht.
Zweiter Google-Vorschlag: „Algorithmen werden... die Talentsuche verändern“.
Man kann Algorithmen sinnvoll einsetzen, wenn man 100 Menschen für ein Callcenter sucht. Sobald es jedoch um ein komplexes Jobprofil geht, werden wir keinen geeigneten Algorithmus finden, der ohne menschliche Hilfe den geeigneten Kandidaten findet. Talent ist ein Konzept wie Intelligenz, Freundschaft oder Weisheit. Ideen, die wir verstehen, aber nicht scharf definieren ergo messen und automatisieren können.
Zustimmung zur Aussage: "Ich sehe meine Privatsphäre durch die Nutzung digitaler Technologien bedroht"
74 Prozent
78 Prozent
83 Prozent
74 Prozent
67 Prozent
81 Prozent
85 Prozent
68 Prozent
Und der dritte Vorschlag: „Algorithmen werden... die Welt beherrschen“.
Tatsächlich entscheiden Algorithmen schon heute, was für uns Realität ist. Sie schlagen uns vor, Skifahren zu gehen, weil wir uns für Skifahren interessieren. Solche Tendenzen verstärken sich selbst. Dadurch werden wir weiter Alpinsport machen und gar nicht mehr auf die Idee kommen, an den Strand zu fahren. Algorithmen kreieren Echo-Räume. Wir riskieren, in Filterblasen zu leben, einfach weil es so bequem ist. Wir sollten das nicht tun, ich bin da jedoch pessimistisch. Aber an diesem Punkt heißt das Problem nicht künstliche Intelligenz. Sondern menschliche Faulheit und Dummheit.