„Glaub mir, ich habe es mit meinen eigenen Augen gesehen, der ukrainische Präsident Selenskyj hat den Befehl zur Kapitulation gegeben.“ Wer weiß, ob dieser Satz Mitte März in Kiew oder Odessa gefallen ist, als ein Video des ukrainischen Präsidenten auftauchte, der die Bürger der Ukraine dazu aufrief, die Waffen niederzulegen. Das Problem: Dieses Video war auf beeindruckende Art gefälscht, es war ein sogenanntes Deepfake. Können wir alle in Zukunft unseren Augen nicht mehr trauen? Gehen wir in eine schöne neue Fake-Welt? Schreibt der Kolumnist diesen Text gerade selbst oder lesen Sie gerade den Output einer künstlichen Intelligenz?
Wir haben uns schon immer schwer getan, eine objektive Wahrheit zu akzeptieren. Alternative Fakten gibt es überall: Die Geschichte wird von Siegern geschrieben. Unterschiedliche Telegram-Kanäle zeichnen ein völlig anderes Bild des Kriegs in der Ukraine. Die US-Wahlen waren für die einen gefälscht und für die anderen ein Ausdruck der Rückkehr zu amerikanischer Zurechnungsfähigkeit. Stalin ließ den in Ungnade gefallenen Trotzki lange vor Photoshop aus Bildern retuschieren. Mit den Wundern der digitalen Technologie entstehen neue Möglichkeiten, die Wahrheit unter Beschuss zu nehmen. Alle Formen von Medien, ob Video, Audio, Bilder oder Text, können mit zunehmender Genauigkeit synthetisch hergestellt werden. Diese synthetischen Medien, oder Deepfakes, werden mit hoher Rechenleistung von künstlicher Intelligenz und neuronalen Netzen erzeugt – sozusagen das Photoshop des 21. Jahrhunderts.
Die Wahrscheinlichkeit ist hoch, dass Sie schon einmal solche Deepfakes gesehen haben. Auf TikTok gibt es eine Deepfake-Version von Tom Cruise, der auf skurrile Weise aus seinem Leben erzählt. Für den Kinofilm Rogue One: A Star Wars Story wurde das Gesicht der jungen Prinzessin Leia auf eine Schauspielerin projiziert und somit eine 30 Jahre alte Figur zum Leben erweckt. Oder kennen Sie schon diese Version der TV-Serie Friends, in der Nicolas Cage alle Hauptdarsteller spielt? Diese Beispiele hören sich lustig und harmlos an, aber es gibt eine weniger harmlose Seite von Deepfakes. Im Podcast zu dieser Kolumne habe ich mit Henry Ajder gesprochen, ein an der Universität Cambridge ausgebildeter Fachmann für Deepfakes und bereits ein Veteran in dieser jungen Industrie. Ajder hat in einer Studie herausgefunden, dass 96 Prozent aller Deepfakes pornographisches Material sind – Gesichter von meist weiblichen Prominenten werden auf Darstellerinnen mit Hilfe von künstlicher Intelligenz projiziert. Mittlerweile ist diese Technologie auch für Menschen ohne Programmierkenntnisse zugänglich, so dass auch nicht-prominente Menschen mit pornographischen Deepfakes gedemütigt werden sollen. Offensichtlich werden Deepfakes auch für klassischen Betrug genutzt. Im Jahr 2019 hat ein Betrüger mit Hilfe eines Deepfakes die Stimme des Geschäftsführers eines deutschen Unternehmens gefälscht, und mit dieser Fälschung einen Mitarbeiter angewiesen 220.000 Euro zu überweisen – mit Erfolg.
Die gesellschaftlichen Folgen von Deepfakes sind potenziell noch einschneidender. Was wäre passiert, wenn die Demonstranten, die im Januar des Jahres 2021 das US-amerikanische Kapital gestürmt haben, ein gefälschtes Video von Donald Trump auf Ihre Smartphones bekommen hätten, der sie zum Äußersten anstachelt? Würde ein Deepfake-Video von Tesla-CEO Elon Musk, in dem er seinen Rücktritt ankündigt, einen Ausverkauf der Tesla-Aktie bewirken, auf den Betrüger im Vorfeld gewettet hätten? Deepfakes können „ein massiver Brandbeschleuniger für die Desinformation unserer Zeit sein“, so Ajder.
Es sind aber nicht nur Anwendungsfälle beunruhigend, in denen falsche Tatsachen vorgespielt werden – mittels Deepfakes werden auch eigentlich wahre Tatsachen zu möglichen Fakes. So hielt der Präsident von Gabun, Ali Bongo, im Jahr 2019 seine traditionelle Neujahrsansprache, doch für viele Bürger von Gabun wirkte diese Ansprache gestelzt, irgendwie anders als sonst. Bongo hatte wenige Wochen zuvor einen Schlaganfall erlitten und wurde im Ausland behandelt, was einige dieser merkwürdigen Verhaltensweisen erklären könnte. Für viele Gabuner begann mit diesem Video aber die Spekulation: War dieses Video ein Fake? Lebte Bongo überhaupt noch? Wurde er still und heimlich abgesetzt? Auch das gabunische Militär vermutete einen Deepfake, und versuchte einen letztlich erfolglosen Coup d'état, der erste in Gabun seit 1964 und wahrscheinlich der erste weltweit wegen eines vermuteten Deepfake-Videos. Die Episode stellt die grundsätzliche Frage: Was ist die Wahrheit überhaupt? Deepfakes unterminieren den Begriff der Wahrheit, wie wir ihn kennen.
Lesen Sie auch: Deutschland fehlen Schlüsseltechnologien für die Zukunft
Kann es dennoch nützliche Anwendungsfälle von Deepfakes und synthetischen Medien geben? Die obigen Beispiele lassen vermutlich jeden Leser emphatisch Nein schreien, doch für Deepfake-Experten Henry Ajder sind die positiven Beispiele fast endlos. Synthetisch erzeugte Stimmen können Menschen, die ihre Stimme verloren haben, ein Stück ihres normalen Lebens zurückgeben. Deepfakes können in Videospielen gesprochene Dialoge immer wieder neu erzeugen, um Spieler bei Laune zu halten. Die größte Wirkung könnten synthetische Medien aber vermutlich im Marketing erzielen. Veritone ist ein US-amerikanisches Technologieunternehmen, das mit einem Produkt die Stimmen von prominenten Athleten, Influencern und Schauspielern lizenziert und synthetisch erzeugt. Brad Pitt müsste dann nicht mehr in das Aufnahmestudio kommen und mehrere Male das Werbe-Skript einlesen bis es sich richtig anhört – Werbetreibende können mit Veritones Produkt Brad Pitts Stimme einfach lizenzieren, in mehrere Audio-Werbespots an einem Tag einbauen und in verschiedenen Sprachen übersetzen lassen, ohne dass der Schauspieler sein Haus je verlassen muss.
Bei der Stimme hört es natürlich nicht auf: Ganze Social-Media-Influencer können mittlerweile komplett künstlich erzeugt werden. In Korea lässt Rozy über 125.000 Follower an ihrem Lifestyle teilhaben – dabei ist sie genauso virtuell wie Imma aus Japan, die sogar über 350.000 Follower hat. Mit die beeindruckendste Technologie hat das 2017 gegründete Unternehmen Synthesia, das unter anderem von Google finanziert ist. Synthesia bietet „text-to-video“ an, Nutzer geben einfach einen Text vor, der dann von einem von über 40 computergenerierten Avataren fotorealistisch vorgelesen wird. Derzeit arbeitet Synthesia vor allem mit Unternehmen zusammen, die beispielsweise Trainingsvideos, Erklärvideos oder interne Kommunikation animieren lassen. Das muss aber nicht so bleiben: „Wir bauen eine Welt, in der jeder einen Film in der Qualität von Hollywood am eigenen Laptop erschaffen kann“ – erklärt Victor Riparbelli, Gründer und CEO von Synthesia die große Vision seines Start-ups.
Gehen wir also mit voller Kraft in eine schöne, neue, synthetische Welt? Überwiegen die möglichen guten Anwendungszwecke von Deepfakes oder sollten wir die Technologie aufgrund der Gefahren verbieten? Lassen wir die künstliche Intelligenz doch selber sprechen – hier erklärt „Jonathan“ für die Leser dieser Kolumne, was die Zukunft für uns bereithält – und ob der Kolumnist oder eine künstliche Intelligenz diesen Text verfasst hat.
