Es war nur eine Frage der Zeit, bis Kriminelle beginnen würden, aus dem Hype um den KI-Bot ChatGPT Kapital zu schlagen. Schon Anfang des Jahres hatten Sicherheitsexperten gewarnt, dass und wie sich auch die Schattenwirtschaft im Netz die verblüffenden Fähigkeiten der digitalen Wissensmaschine zunutze machen könnten, um neue, besonders ausgefeilte Onlineattacken zu entwickeln.
Doch während das vor einem Vierteljahr noch mehr theoretische als praktische Bedrohungsszenarien waren, zeigt eine Analyse des IT-Sicherheitsdienstleisters Sophos nun, wie leicht es Kriminellen inzwischen fällt, sogar ganz ohne komplexe Cyberangriffe am KI-Boom mitzuverdienen. Sie machen sich dabei das große allgemeine Interesse an der jüngsten Version des KI-Sprachmodells GPT zunutze, um reihenweise arglose Smartphone-Nutzer über den Tisch zu ziehen.
Dabei nutzen die Betrüger mobile Anwendungen, die in Googles Playstore oder Apples iTunes-Store angeboten werden und den mobilen Zugriff auf den digitalen Konversationsdienst ChatGPT ermöglichen sollen. Während die Nutzung des Dienstes des US-Start-ups OpenAI über den Webbrowser kostenfrei ist, zielen die Betrüger darauf, App-Nutzer nach einer kurzen kostenfreien Testphase zum Abschluss eines Abonnements fürs Handy zu bewegen, und das mit hohen zwei- bis dreistelligen Jahresgebühren.
Das Vorbild dieser in der Sicherheitsszene als „Fleeceware“ bezeichneten Betrugsprogramme – der Begriff stammt vom englischen Verb „to fleece“, abzocken – sind klassische Abofallen, mit denen Betrüger im Netz seit langem leichtgläubigen Onlinern Hunderttausende von Euro abknöpfen. Im Fall der KI-Bots setzen die Kriminellen offenbar erfolgreich darauf, dass Handynutzer die faszinierend eloquenten Antwortfähigkeiten von ChatGPT unterwegs ohne Aufruf über den Browser nutzen wollen und dabei kostspielige Fußangeln in den Nutzungsverträgen von Betrugs-Apps wie „ChatGBT“ übersehen.
Dabei bieten die schnell gestrickten Chat-Apps oft faktisch keinerlei Mehrwert gegenüber dem direkten Zugriff auf ChatGPT. Die Handysoftware reicht die Nutzereingaben nur an die Programmschnittstelle des OpenAI-Bots weiter und zeigt anschließend die Antwort am Handydisplay an. „Um die Nutzer zum Abschluss eines kostenpflichtigen Abonnements für den im Grunde ja kostenfreien KI-Dienst zu bewegen, beschränken die Betrüger in der App oft die Abfragefunktionen auf ChatGPT deutlich“, sagt Sean Gallagher, Bedrohungsforscher beim britischen IT-Sicherheitsdienstleister Sophos. „Oder sie nerven die Nutzer der Apps durch ständige Werbeeinblendungen, die bei der Abo-Version entfallen.“
Das rechnet sich, wie Gallagher am Beispiel des von Apple mittlerweile aus dem Appstore verbannten vermeintlichen ChatGPT-Klons „Ask AI Assistant“ vorrechnet: Allein im März spülte das Programm seinen betrügerischen Hinterleuten mehr als 10.000 Dollar Aboerlöse in die Kasse – ohne dafür faktisch irgendeine Leistung zu erbringen. Ähnlich „profitable“ Betrugsprogramme fanden sich auch in Googles Playstore, die Sophos-Forscher.
Die Sicherheitsexperten raten Kunden, die in eine dieser KI-Abofallen getappt sind, die Apps nicht bloß zu löschen, „in der Regel laufen die Abonnements dann nämlich weiter“. Stattdessen sollten die Nutzer das Abo, soweit möglich, aus der App heraus zu stornieren versuchen und zudem über die Beschwerdefunktion der Appstores die Rückzahlung der Gebühren einfordern.
„Technisch betrachtet bewegen sich die Entwickler mit Ihren Fleeceware-Apps am Rande der von Google und Apple erlaubten Appstore-Regeln“, so der Experte. „Und weil die Betrüger nicht gegen Sicherheits- oder Datenschutzbestimmungen verstoßen, werden die Apps bei der Überprüfung für die Aufnahme in die Stores nur sehr selten abgelehnt“, moniert Gallagher einen allzu laxen Umgang der Storebetreiber.
Dass Apple oder Google dem Fleeceware-Phänomen künftig energisch einen Riegel vorschieben, erscheint daher unwahrscheinlich, schließlich basiert ihr Geschäftsmodell ja darauf, dass sie einen Teil der App- oder Abogebühren als Provision erhalten. Die von Sophos konkret monierte KI-Fleeceware hätten Apple und Google inzwischen gelöscht, bestätigt der Experte zwar. „Es ist aber davon auszugehen, dass immer wieder neue derartige Programme in den App-Stores auftauchten.“
Lesen Sie auch: Warum die Internetbank DKB für den Einsatz von Künstlicher Intelligenz 300.000 Euro Strafe zahlen muss
