KI-Bildergenerierung: Grok in der Kritik: Malaysia zieht gegen X vor Gericht
Malaysia will rechtlich gegen Elon Musks Plattform X und das Unternehmen xAI vorgehen wegen der vom KI-Chatbot Grok generierten sexualisierten Bilder. Hintergrund sind den Angaben zufolge Versäumnisse beim Schutz der Nutzerinnen und Nutzer. „Es wurden Anwälte beauftragt, und ein Gerichtsverfahren wird in Kürze eingeleitet“, teilte die malaysische Kommunikations- und Multimedia-Kommission (MCMC) mit.
Malaysia und Indonesien als weltweite Vorreiter
Bereits am Sonntag hatte Malaysia den Chatbot Grok gesperrt. Begründet wurde dies mit wiederholtem Missbrauch zur Erstellung und Verbreitung schädlicher Inhalte, darunter obszöne, sexuell explizite, anstößige und manipulierte Darstellungen ohne Einwilligung Betroffener. Am Samstag hatte auch Indonesien mit ähnlicher Begründung Grok vorübergehend blockiert. Die beiden Länder mit überwiegend muslimischer Bevölkerung sind mit diesem Schritt weltweit Vorreiter.
Besonders problematisch seien Inhalte gewesen, die Frauen und Minderjährige betreffen, teilte die MCMC weiter mit. Diese verstießen gegen malaysisches Recht. Die Behörde habe X Corp und xAI, die beide Techmilliardär Musk gehören, am 3. und 8. Januar zur Entfernung entsprechender Inhalte aufgefordert - darauf sei aber nicht reagiert worden.
Der Betreiber X Corp und das KI-Unternehmen xAI könnten auch dann haftbar gemacht werden, wenn die Inhalte von Nutzern erstellt worden seien, gab sich die MCMC überzeugt. Die Unternehmen hätten die Kontrolle über Gestaltung, Einsatz und Moderation des Chatbots sowie über Maßnahmen zur Risikobegrenzung. Zudem verwies die Behörde auf Defizite bei X bezüglich der Durchsetzung eigener Richtlinien.
Auch andere Länder reagieren
Bereits am Montag hatte die britische Medienaufsichtsbehörde Ofcom wegen von Grok erzeugter sexualisierter Bilder eine offizielle Untersuchung gegen X eingeleitet. Auch innerhalb der Europäischen Union war Musks Unternehmen in den vergangenen Tagen wegen solcher Bilder in die Kritik geraten.