KI-Betrug im Internet: Wenn ein gefälschter Dirk Müller auf Betrugstour geht
Betrug im Internet funktioniert heute wie früher Fernsehwerbung. Nach dem Motto: „Das Gesicht kenn’ ich, mal hören, was er zu sagen hat.“ Das gilt auch für das Thema Geldanlage.
Ob Fondsmanager Dirk Müller alias „Mr. Dax“ oder Finanz-Influencer Thomas Kehl: Ihre Identitäten sind bereits in einer neuen Form von Betrugsmaschen missbraucht worden. In gefälschten KI-Videos werben vermeintliche Prominente auf YouTube, Snapchat, TikTok, Instagram und Co. Auch Journalisten sind vor dem Trend nicht gefeit, das musste WirtschaftsWoche-Chefredakteur Horst von Buttlar am eigenen Leib erfahren.
Die Masche in den Videos ähnelt sich: In einem kurzen Video verspricht der vermeintliche Prominente leicht verdientes Geld all jenen, die ganz bestimmte Aktien oder Fonds kaufen. Dann wird im Video eine Chat-Gruppe oder Hotline empfohlen. Wer der Empfehlung folgt, landet in einem Netz organisierter Kriminalität, wie die WirtschaftsWoche kürzlich recherchiert hatte. Am Ende steht im schlimmsten Fall nicht nur der Verlust einer Menge Geld, sondern bei den missbrauchten Experten auch der ihres Rufs und Geschäfts.
„Über 300 betrügerische Accounts haben wir bisher bei Meta gemeldet, mit über 1000 Fake-Anzeigen“, berichtet Kehl in einem Video auf YouTube. Kehls Blog Finanzfluss kennt das Problem mit Betrugsmaschen im Internet eigenen Angaben bereits seit 2024, ab diesem Jahr hat dann die Verwendung von KI zugenommen. Im Gespräch mit der WirtschaftsWoche berichtet Dirk Müller: „Bei einem der ersten Fälle – einer Betrugsmasche via Telegram – hat das zuständige Gericht mir mitgeteilt, ich wäre aus ihrer Sicht kein Betroffener.“
Dabei hat der technische Fortschritt dazu geführt, dass die nun verwendeten Videos sowohl optisch als auch akustisch kaum noch als Fälschungen zu erkennen sind. Die persönliche Betroffenheit – Stichwort: Recht am eigenen Bild – liegt also auf der Hand. Die gute Qualität verleiht den Betrügern ein hohes Maß an Glaubwürdigkeit. Um die Öffentlichkeit und auch das eigene Image zu schützen, hat sich nicht nur Kehl, sondern auch Müller per Video an die Öffentlichkeit gewandt. „Ich habe gar keine WhatsApp-Gruppen (...)“, macht er dort klar. „Und ganz sicher machen wir keine Beratung auf Einzelaktienbasis oder etwas in diese Richtung.“
Kampf gegen Windmühlen
Um der Praxis Einhalt zu gebieten, bleiben den Betroffenen vor allem zwei Wege: die Klage gegen die Betrüger und der Weg über die Plattform, die die Anzeigen verbreitet. In beiden Fällen gibt es jedoch hohe Hürden.
Wer sich juristisch gegen die Verantwortlichen zur Wehr setzen will, muss diese erst einmal ausfindig machen. Laut Fondsmanager Müller wurde eine andere Klage wegen eines Telegram-Betrugs mit der Begründung abgewiesen, es bestehe keine Aussicht auf Erfolg. Er sieht die Justiz in dieser Hinsicht als überfordert an: „Es ist nicht zu gewinnen“, sagt er im Video.
Lesen Sie auch: EU verhängt Milliardenstrafe gegen Google
Dass die Ermittlungsbehörden hierzulande so schnell aufgeben, könnte auch an mangelnder internationaler Kooperation liegen. Eines der KI-Videos mit Müller, das bei Youtube als Anzeige verbreitet wurde, hatte eine in der chinesischen Sonderverwaltungszone Hongkong registrierte Firma in Umlauf gebracht. Ihr Sitz: ein Bürohochhaus im Stadtteil Wan Chai.
Eine Anfrage der WirtschaftsWoche bei den Ermittlungsbehörden – genauer gesagt der Joint Financial Intelligence Unit (JFIU) – ist eine Sackgasse. Die Behörde hält sich für nicht zuständig. Auf Nachfrage, wer denn für Finanzbetrug zuständig sei, verweist die JFIU auf die allgemeine Webseite der Polizei Hongkong.
Freund oder Feind?
Ähnlich äußert sich auch Thomas Kehl. Dabei sei das Problem bereits in der Breite angekommen. „So gut wie alle Finfluencer, die ich in diesem Sektor kenne, sind davon betroffen“, berichtet er. „Die Bearbeitung unserer Meldungen bei Meta erfolgt häufig erst mit Verzögerung.“ Das gelte sowohl für die Meldung auf der Plattform als auch für die Nutzung eines speziellen Brand-Rights-Protecting-Tools. Bis eine Löschung tatsächlich erfolgt, kann es demnach mehrere Tage dauern.
Internetriese Meta leugnet das Problem nicht. „Online-Betrugsmaschen nehmen sowohl in Umfang als auch in Komplexität zu. Dahinter stehen skrupellose, international agierende kriminelle Netzwerke, die mit ausgefeilten Methoden Menschen im Internet ins Visier nehmen“, teilt ein Sprecher des Unternehmens mit. Meta dulde derartige Inhalte nicht und investiere in Technologien, um Betrugsversuche effektiv zu unterbinden.
Schaut man sich auf den entsprechenden Info-Seiten um, so testet Meta automatische Gesichtserkennung als Mittel, um insbesondere „Celeb Bait Ads“ einzudämmen – also Anzeigen mit Promis als Lockmittel. Gleiches gilt für die Erkennung und das Erkennbarmachen von KI-Inhalten.
Trotz dieser Bemühungen sehen die Finfluencer von Finanzfluss die Plattformen noch lang nicht am Ziel: „Eine automatisierte Erkennung oder proaktive Löschung ähnlicher Anzeigen durch Meta konnten wir bislang nach unserem Gefühl nicht beobachten.“
Auch Google verweist auf Anfrage auf eine Reihe von Maßnahmen, die derartigen Betrug eindämmen sollen. Diese setzen einerseits auf Transparenz seitens der Werbetreibenden und auf eine Zertifizierung, speziell für Finanzdienstleistungen, die bereits seit 2021 auf den Weg gebracht wurde. Mit Verweis auf den Werbesicherheits-Bericht 2024 heißt es: „Wir haben über 5,1 Milliarden Anzeigen entfernt.“
Untätigkeit statt Recht
Selbst ein Erfolg auf dem Rechtsweg verläuft Müllers Erfahrung nach letztlich im Sande. „Eine einstweilige Verfügung des Landgerichts Hamburg – mit dem Ziel, Gruppen mit meinem Namen zu unterbinden – konnte erst nach drei Monaten zugestellt werden.“ Der Grund? WhatsApp hat nur eine irische, keine deutsche Meldeadresse. „Befolgt wird die Anordnung bis heute nicht.“ Wegen der Masse an Fakes sieht er kaum noch Sinn darin, echte Werbung zu schalten, da auch diese als Fake angesehen wird. „Irgendwann bist du einfach resigniert“, sagt er. „Gegen den Betrug wird aktuell nicht wirksam vorgegangen. Für mich ist das ein rechtsfreier Raum und damit eine Gefahr für unsere Demokratie.“
Die Finanzexperten werfen den Plattformbetreibern zudem vor, in einem Interessenskonflikt zu stehen. Unternehmen wie Google-Mutter Alphabet, TikTok-Inhaber ByteDance und Meta verdienen ihr Geld vor allem mit Werbung. Auch die Betrüger sorgen also für Einnahmen. Kehl sieht daher für die Plattformen wenig intrinsische Motivation, das Problem anzugehen. Inwieweit diese Sichtweise nun der Wahrheit entspricht, ist von außen kaum zu beurteilen. Fest steht aber, dass die Probleme mit Finanzbetrug in sozialen Netzwerken bisher nicht gelöst wurden.
Ein kleiner Trost für „Mr. Dax“: In Reaktion auf die Anfrage der WirtschaftsWoche zu einer bei YouTube verbreiteten, gefälschten Dirk-Müller-Anzeige teilt eine Google-Sprecherin mit: „Nach Überprüfung der Anzeigen haben wir diese entfernt und das zugehörige Werbekonto wegen Verstoßes gegen unsere Richtlinien gesperrt.“
Allzu groß dürfte die Freude jedoch nicht sein: Wenig später tauchten auf der Plattform unter neuem Namen weitere KI-Videos von Dirk Müller auf – der Sitz der Firmen dahinter: ebenfalls Hongkong.