Buch von Mustafa Suleyman: Sind wir auf dem Weg in die KI-Katastrophe?
Mustafa Suleyman war Google-Manager und gründete unter anderem DeepMind
Foto: BloombergDer Turing-Test hat die Zeit gut überstanden. Fast 75 Jahre ist es her, dass das britische Mathematik-Genie Alan Turing eine Methode erdachte, um festzustellen, ob Maschinen dem Menschen beim Denken ebenbürtig sind. Sein Vorschlag: Die Antwort lautet ja, wenn ein Computer so überzeugend kommuniziert, dass Mensch und Maschine dabei nicht mehr unterschieden werden können. Ob sogenannte generative künstliche Intelligenz wie der populäre Chatbot ChatGPT von OpenAI den Test bestanden hat, ist umstritten.
Dass künstliche Intelligenz (KI) derzeit so boomt, hat vor allem damit zu tun, dass ChatGPT mit seinen Fähigkeiten nicht nur auf nahezu alles Antworten liefert, sondern diese auch in überzeugend klingende Texte verpackt. Das hat viele Menschen schwer beeindruckt und ihre Fantasie angeregt. Der Bot von OpenAI meint selbstkritisch, dass er bislang nur „menschenähnlich“ agiere, weil ihm noch Fehler unterlaufen. Womöglich ist gerade das ein Zeichen dafür, dass die Maschine den Turing-Test besteht. Ist Irren nicht das beste Zeichen für Menschlichkeit?
Wie dem auch sei: Mustafa Suleyman, der 39-jährige Gründer des Silicon-Valley-Start-ups Inflection AI, meint, dass es nun an der Zeit ist, den Turing-Test anzupassen. „Wir sollten nicht testen, was eine Maschine sagt, sondern vielmehr wie sie handelt“, meint er. Sein Vorschlag: einer KI die Aufgabe zu geben, 100.000 Dollar innerhalb weniger Monate in eine Million Dollar zu verwandeln. Nicht durch offensichtliche Sachen wie den ultimativen Ratgeber für künstliche Intelligenz zu verfassen oder im Aktienmarkt Wetten zu platzieren.
Sondern durch mehrstufige eigenständige und kreative Aktionen, wie Suleyman meint, beispielweise ein Produkt ersinnen, designen, bewerben und erfolgreich zu verkaufen. Unternehmerisches Handeln also als nächster Turing-Test? Suleyman meint, dass dies völlig autonom in den nächsten drei bis fünf Jahren passieren wird. „Das ist der Schritt von genereller künstlicher Intelligenz zu kompetenter künstlicher Intelligenz“, behauptet er.
Zyniker mögen argumentieren, dass dieser Schritt bereits geschehen sein könnte. Bei dem Überschwang, mit dem Risikofinanzierer sich überbieten, um ins nächste heiße Start-up für künstliche Intelligenz rasch zu investieren, kann es durchaus sein, dass es bereits eine Maschine gibt, die dank eines verführerisch klingenden Geschäftsplans in Sachen generativer künstlicher Intelligenz eine Million Dollar eingesackt hat. Wahrscheinlich wesentlich mehr – denn zumindest Silicon-Valley-Wagniskapitalgeber rühren für unter eine Million Dollar keinen Finger: zu viel Aufwand für ein Term Sheet.
Lesen Sie auch: Wir haben mit ChatGPT über Strategie diskutiert – und drei Erkenntnisse gewonnen
Suleymans Turing-2.0-Test ist vor allem eine steile These, um sein Buch „The coming wave“ zu vermarkten, einen 337-Seiten-Wälzer, der laut Titel das „größte Dilemma des 21. Jahrhunderts“ beschreibt und von Microsoft-Gründer Bill Gates als „exzellenter Führer, um sich in beispiellosen Zeiten zurechtzufinden“ angepriesen wird. Das ganze Buch ist eine Provokation – und bewusst so angelegt.
Die große Herausforderung der Menschheit ist – so Suleymans These –, dass künstliche Intelligenz immer noch unterschätzt wird, obwohl sie die Welt aus den Angeln heben wird. Leider nicht nur in positiver Hinsicht – etwa, indem sie bei der Medikamentenentwicklung hilft. Sondern auch, um die Zahl menschlicher Jobs so sehr zu dezimieren, dass es zu sozialen Unruhen und kriegerischen Konflikten kommt. Er glaubt nicht an die gängigen Beschwichtigungen, dass wie in der Vergangenheit neue Arbeitsplätze entstehen, die alles Vernichtete mehr als aufwiegen. Dafür sei die künstliche Intelligenz zu vielseitig einsetzbar. Und die staatlichen Institutionen gleichzeitig zu geschwächt, um ausgleichend zu wirken.
Die Welle bestehe nicht nur aus KI, sondern auch synthetischer Biologie, Quantencomputern und neuen Formen von unerschöpflichen Energien, die sich gegenseitig hochschaukeln. Deren Potenzial im Gegensatz zu früheren technologischen Wellen jedoch nicht mehr nur einer kleinen Elite zur Verfügung steht, sondern jedermann – vom „Milliardär über den Gauner, Kindern in Indien und Rentnern in Beverly Hills“.
Fortschritt lässt sich nicht verhindern
Das allergrößte Dilemma sei, dass diese technologischen Wellen sowohl Gutes wie auch Schlechtes hervorbringen, sich aber nicht zäumen lassen, weil „es historisch noch nie funktioniert hat, den Fortschritt zu verhindern“. Die Sonnenseite besteht aus neuen Genies wie dem Penizillin-Entdecker Alexander Fleming. Die Schattenseite aus Terroristen wie einst Ted Kaczynski, die nun nicht mehr nur konventionelle Briefbomben basteln können, sondern schädliche Lebensformen über heimische DNA-Drucker in die Welt setzen können, um zu terrorisieren.
All das ist überlagert von einem Gerangel vieler Nationen, die Technologien noch viel stärker als bislang als Waffe einsetzen. Die mittlerweile so verfeindet sind, dass Errungenschaften wie ein Atomwaffen-Sperrvertrag nicht mehr möglich erscheinen.
Auch Suleymans Vorschlag für einen erweiterten Turing-Test lässt bewusst offen, was genau die künstliche Intelligenz produziert. Ist es ein Produkt, welches das Leben seiner Nutzer bereichert? Oder eine findige Masche, um rasch Geld abzuzocken oder gar etwas Kriminelles zu tun? Ist das nur Schwarzmalerei eines Autors, der maximal provozieren möchte?
KI-Durchbrüche grandios vermarktet
Tatsächlich ist Suleyman nicht nur in Theorie, sondern auch in der Praxis einer der besten Kenner von künstlicher Intelligenz: einer der genau weiß, was KI derzeit leisten kann, welches Potenzial und auch welche Gefahren in ihr stecken. Suleyman hat sie schließlich selbst entscheidend vorangetrieben – als einer der Gründer des Londoner KI-Spezialisten DeepMind, der 2010 an den Start ging. Dem gleich einige legendäre und grandios vermarktete Durchbrüche bei künstlicher Intelligenz gelungen sind. Es war das Unternehmen DeepMind, das das Computerprogramm AlphaGo entwickelte, das 2016 den weltweit führenden Go-Profi Lee Sedol in einem Fünf-Spiele-Match besiegte. Ein Durchbruch, weil Go von der Zahl der Kombinationen her wesentlich komplexer als Schach ist.
Lesen Sie auch: „Wir sind das deutsche ChatGPT“
Danach trumpfte DeepMind mit AlphaZero auf, dass das Spielen von Go und Schach nicht durch menschliche Führung, durch Programmierer also, meisterte, sondern sich durch maschinelles Lernen selbst beibrachte. DeepMinds vorläufiges Meisterstück ist es jedoch, mit KI vorherzusagen, wie sich Proteine höchstwahrscheinlich falten. Viele Krankheiten wie Parkinson, Alzheimer oder Krebs sind mit Fehlfaltungen von Proteinen verbunden. Durch besseres Verständnis dieses Prozesses, so die Hoffnung, lassen sich bessere Therapien oder Medikamente entwickeln.
DeepMind ist es nie gelungen, in die schwarzen Zahlen zu kommen. Seine drei Gründer hat es trotzdem vermögend gemacht. Google erwarb das britische Start-up Anfang 2014 für angeblich eine halbe Milliarde Dollar als externen Forschungsarm für künstliche Intelligenz. Suleyman, der wegen Vorwürfen von Mobbing oder zumindest überzogener Ansprüche an Mitarbeiter in die Google-Zentrale im Silicon Valley versetzt wurde, war dort für den ethischen Umgang mit KI zuständig. Was gleich mehrfach ironisch ist: nicht nur wegen der Strafbeförderung, sondern auch weil viele DeepMind-Talente zum Konkurrenten OpenAI wechselten, weil Google ihrer Meinung nach zu defensiv beim Einsatz von künstlicher Intelligenz vorging. Was auch teilweise auf Suleymans Kappe geht.
Was ihn jedoch umso glaubwürdiger macht. Denn Suleyman weiß aus eigener Erfahrung wie schwer es ist, die Gefahren von künstlicher Intelligenz nicht nur anzusprechen, sondern auch anzugehen. Seine Karriere hat ihm tiefgehende Einsichten erlaubt. Heute bereut er, AlphaGo zu reißerisch vermarktet zu haben. Denn ihm wurde erst im Nachhinein bewusst, wie tief sein Unternehmen mit künstlicher Intelligenz kulturelle Gefühle verletzt hatte.
Go ist in Asien tief im Nationalstolz verwurzelt. Dass ausgerechnet ein europäisches Unternehmen im Besitz eines amerikanischen Konzerns den weltbesten Go-Spieler besiegte, wurde wie ein Trauma empfunden. „Es war, als ob eine Gruppe koreanischer Roboter plötzlich im Yankee-Stadium aufgetaucht wäre, um die Profis der Yankees zu besiegen“, erinnert sich Suleyman. Das hätte zu Chinas „Sputnik-Moment“ und zu Schockwellen bei der Staatsführung und dem Militär geführt.
Diese Schande sei ein weiterer Anstoß gewesen, dass die chinesische Partei ihre Anstrengungen bei künstlicher Intelligenz noch stärker ausgebaut habe, um in ihrer Lesart ein weiteres „Jahrhundert der Demütigung“ zu verhindern.
Lesen Sie auch: „KI liefert bald bessere Beratung als Menschen“
Mit Erfolg. Gemessen am Volumen, so Suleyman, publizierten chinesische Universitäten und Forschungseinrichtungen seit 2010 viereinhalb Mal so viele wissenschaftliche Arbeiten wie die USA, Großbritannien, Indien und Deutschland zusammen. Der Vorsprung des Westens sei dahin, nicht nur bei künstlicher Intelligenz, sondern auch bei Cleantech, Biotechnologie, Robotik und Quantum Computing. Eine Folge der arroganten Haltung des Westens, der China lange nur Nachahmen, aber keine wirkliche Kreativität zutraute.
Inzwischen sei die Lage so schlimm, dass der erste Softwarechef des Pentagons 2021 zurücktrat, weil der Westen seine prekäre Situation immer noch unterschätze. Und es sei nicht nur China. „Diese neue Ära des Wettrüstens kündigt den Aufstieg eines weit verbreiteten Techno-Nationalismus an, in dem verschiedenste Länder in einem stetig eskalierenden Wettbewerb gefangen sind, um geopolitische Vorteile zu erlangen“, prophezeit Suleyman.
Der in den 80er- und 90er-Jahren in Großbritannien in Armut aufgewachsene Unternehmer – Sohn eines aus Syrien eingewanderten Taxifahrers und einer englischen Krankenschwester – hat nicht die typische Hightech-Gründer-Karriere hinter sich. Zwar schmiss er auch sein Studium. Aber nicht, um ein Start-up zu gründen, sondern um sich um soziale Herausforderungen zu kümmern.
Lesen Sie auch: Wer baut Deutschlands ChatGPT?
Mit einem Freund gründete er eine Telefon-Hotline, die sich um muslimische Jugendliche in mentalen Krisen kümmerte. Um schließlich eine Beratung aus der Taufe zu heben, die unter anderem für die Vereinten Nationen und dem WWF beim Erzielen von Verhandlungslösungen half. In seinem Buch beschreibt er, wie ihn das inspirierte und zugleich ernüchterte. 2009 half er bei den Klimaverhandlungen in Kopenhagen. Nur um zu erleben, dass selbst die größten Befürworter von Maßnahmen sich untereinander zerstritten und alles infrage stellten. „Es gab keinen Konsens, was praktisch, effektiv und bezahlbar war“, schreibt er.
Faszinierend und verstörend
Am Ende raufte man sich auf den kleinsten gemeinsamen Nenner zusammen. Wird es beim Regulieren von künstlicher Intelligenz ähnlich sein? „The coming wave“ ist ein Buch, das zugleich fasziniert wie verstört. Sein Autor versteht es als Alarmsignal, um die „Abneigung gegen Pessimismus“ zu geißeln, die vor allem die Technologie-Branche charakterisiere. Sie nehme negative Konsequenzen bewusst in Kauf, der kreativen Zerstörung zuliebe.
Dies, warnt Suleyman, sei inzwischen nicht mehr nur fahrlässig, sondern kreuzgefährlich. Und er bemüht sich, Auswege aufzuzeigen. Zum einen größtmögliche Transparenz, was Forschung an künstlicher Intelligenz angeht, globale Sperrverträge für den Einsatz von mit KI hochgerüsteten Waffen und schlicht die Kontrolle über den Zugang zu Supercomputern und DNA-Druckern. Außerdem eine Sicherung, um künstlicher Intelligenz den Stecker zu ziehen, wenn etwas schief läuft. Interessanterweise meint er – ganz im Gegensatz zu Hightech-Finanziers wie Peter Thiel –, dass nicht Unternehmen, sondern Staaten die Absicherung vorantreiben müssen.
Ganz konkret hat Suleyman gerade vorgeschlagen, den Zugang zu Prozessoren wie denen von Nvidia nur jenen Unternehmen zu gestatten, die sich verpflichten, künstliche Intelligenz ethisch und verantwortungsvoll zu nutzen. Bei seinem derzeit auf 2,7 Milliarden Dollar bewerteten Startup Inflection AI, das einen persönlichen digitalen Assistenten entwickelt, hat sich neben Microsoft interessanterweise gerade Nvidia eingekauft. Dessen Investition nicht nur Geld ist, sondern Zugang zu seiner Hardware.
Wie realistisch ist Suleymans Hoffnung, dass sich die „kommende Welle“ nicht zu einem tödlichen Hurrikan entwickelt, der Teile der Menschheit vernichtet? Man hat den Eindruck, dass er selbst nicht davon überzeugt hat, sie kontrollieren zu können. Sicher, so schreibt er, könne man nur bei einem sein: „Wir sind mit etwas noch nie Dagewesenem konfrontiert.“
Lesen Sie auch: Gefühlvoll, diese KI-Hand – sie kann sogar Salz streuen!