Eine asiatische Päpstin, dunkelhäutige Wehrmachtssoldaten oder Wikinger mit modernen Prothesen – es ist erst wenige Tage her, dass solche mit Hilfe künstlicher Intelligenz erzeugten Bilder im Netz für Aufsehen sorgten. Die Software hatte Aufnahmen generiert, die technisch exzellent, im historischen oder gesellschaftlichen Kontext aber völlig unpassend und damit für Menschen sofort als das Fantasieprodukt einer Maschine erkennbar waren.
Doch längst nicht immer sind solche – im KI-Jargon auch als Halluzinationen bezeichneten – Erfindungen oder Falschdarstellungen so leicht erkennbar. Speziell bei schriftlichen Antworten fallen Halluzinationen vielfach nur Fachleuten auf. Wer, speziell im beruflichen Umfeld, KI-Antworten vertraut, läuft daher immer Gefahr, sich günstigstenfalls zu blamieren. Wie jener US-Anwalt, der im vergangenen Jahr ChatGPT nach Präzedenzfällen zu einem Verfahren befragte, die Antwort ungeprüft übernahm und vor Gericht erkennen musste, dass die KI alles erfunden hatte.
Um speziell Unternehmenskunden, die seine „Azure KI“ genannten generativen Softwaresysteme, Sprachmodelle oder Algorithmen einsetzen, besser gegen solch allzu kreative Einfälle der KI abzusichern, erweitert der Software-Konzern Microsoft seine KI-Plattform nun um eine Reihe zusätzlicher Filter und Prüfsysteme. Mit denen sollen die Kunden zum einen wirksamer als bisher unterbinden können, dass die KI bei Analysen oder Abfragen vorgebliche Fakten ausspuckt, die nicht durch belastbare Daten gestützt sind.
In verschiedenen Testszenarien bei der Präsentation der Software markierte das Kontrollmodul jeweils maschinell generierte Antworten, die nicht durch Belege in der Datenbasis der KI-Systeme gestützt waren. Warum Microsoft die rigide Faktenkontrolle nicht grundsätzlich bei allen KI-Abfragen aktiviert, begründet Sarah Bird, Produktchefin für die „Responsible AI“ genannten Schutzmodule, mit dem Zielkonflikt, dass – je nach Anwendungsszenario, etwa beim Entwickeln von Ideen – mitunter auch besonders kreative und fantasievolle Antworten der KI gewünscht seien. „Die Nutzer können das künftig nach Bedarf justieren.“
Schutzschild gegen Hacker und Hater
Andere Filter sollen zudem verhindern, dass Hacker oder andere Kriminelle KI-gestützte Sprach-Bots durch gezielte Aufforderungen – sogenannte Prompts – dazu verleiten, beispielsweise unangemessene Antworten zu geben, Schadcode für Cyberattacken zu programmieren oder etwa Hassbotschaften zu formulieren und zu verbreiten. Mit Hilfe individueller Regler lässt sich künftig einstellen, wie rigide die KI-Systeme etwa Antworten unterbinden sollen, die Gewaltbezug haben, Hassbotschaften enthalten, selbstverletzendes Handeln auslösen oder sexuell unangemessene Inhalte verbreiten sollen.
Neben solchen „Prompt-Injection“ genannten Angriffen sollen zusätzliche Filter auch sogenannte indirekte Attacken unterbinden. Bei dieser recht neuen Form des Missbrauchs von KI-Systemen versuchen Angreifer, die Algorithmen oder Sprach- und Wissensmodelle durch das Einspielen speziell modifizierter Dokumente zu beeinflussen. Zum einen, weil die zusätzlichen Informationen die Datenbasis der trainierten KI modifizieren, zum anderen, weil sich auch in den Dokumenten Arbeitsanweisungen für die künstliche Intelligenz verbergen können, die die Software anschließend ausführt.
„Wir nutzen die entsprechenden Technologien bereits selbst in den Copilot-Anwendungen im Unternehmen“, sagt Microsoft-KI-Spezialistin Bird. Im ersten Schritt integriere Microsoft sie nun auch in seine kommerziellen Produkte, „anschließend werden die Schutzfunktionen, so weit sinnvoll, auch Teil von KI-Angeboten wie dem Copilot in der Bing-Suche oder dem Edge-Browser für Konsumenten.“
Dass Microsoft mit den zusätzlichen Sicherheitsfunktionen auch versucht, Probleme einzudämmen, die ohne die Entwicklung auch der eigenen KI-Systeme womöglich gar nicht existierten, stellt Bird nicht in Abrede. Verlässliche und zuverlässige KI sei deshalb auch kein Zustand, sondern ein Prozess, der sich daraus ableitet, wie Menschen KI einsetzten, sagt die Managerin. „In dem Maße, in dem Anwender das enorme ökonomische und kreative Potenzial der Technik austesten, wird es immer auch Leute geben, die das in unangemessener Weise tun“, so Bird. „Deshalb schaffen wir entsprechende Sicherheitsmechanismen, mit denen sich das unterbinden lässt.“
Lesen Sie auch: Sind mobile KI-Assistenten das nächste große Ding?
