Herr Dierks, es gibt Apps, die prüfen sollen, ob ein Leberfleck bösartig ist, andere sollen Tinnitus behandeln. Überlassen Sie Diagnose und Behandlungsempfehlungen einer App oder einem Algorithmus, wenn Sie sich ernsthaft krank fühlen?
Nein. Die Diagnose selbst oder die Entscheidung über die Therapie überlasse ich keiner App und keinem Algorithmus. Aber Algorithmen, die qualitätsbasiert erarbeitet und systematisch weiterentwickelt werden, können als zusätzliche Informationsbasis für die Entscheidung eines Arztes dienen. Im Idealfall wird der Arzt seine Erkenntnisse aus der analogen Welt um die der digitalen erweitern und so eine bessere Diagnose treffen können.
Zur Person
Dierks ist Professor für Gesundheitssystemforschung, Doktor der Medizin und Rechtswissenschaft. Mit seiner Firma Dierks+Company leistet er Rechtsberatung in den Bereichen Digital Health, Medizinprodukte, Arzneimittel und Diagnostik. 2017 zeichnete ihn das „Handelsblatt“ als Pharmarecht-Anwalt des Jahres aus.
Sie wirken sehr optimistisch. Wie sieht die Qualitätssicherung im Bereich medizinischer Algorithmen aus?
Rechtlich gesehen sind solche Anwendungen Medizinprodukte – und zwar entweder solche, die Informationen sammeln, die zur Entscheidungsfindung beitragen oder solche, die selbstständig Diagnosen stellen. Spätestens mit Geltung der neuen Medizinprodukteverordnung im Jahr 2020 muss eine „Benannte Stelle“, zum Beispiel der TÜV, beide Arten von Produkten zertifizieren. Ohne eine solche Zertifizierung dürfen Anbieter sie nicht auf den Markt bringen. Die Zertifizierung garantiert noch nicht die Richtigkeit der Ergebnisse der Algorithmen, aber sie ist eine Qualitätssicherung. Eine Herausforderung zeichnet sich ab: wir haben aktuell zu wenig Zertifizierungsstellen, um mit der Vielzahl der neu entwickelten Anwendungen Schritt zu halten.
In Japan hat IBMs Künstliche Intelligenz Watson 2016 in lediglich zehn Minuten Daten und Gene einer Patientin mit den Daten von 20 Millionen anderen Krebspatienten verglichen und eine seltene Form von Leukämie diagnostiziert. Geben Ärzte zu viel von ihrer fachlichen Kompetenz an KI ab, wenn sie sich so sehr auf deren Diagnose verlassen?
Ich sehe darin keine Abgabe von Kompetenzen, sondern die Nutzung vorhandener Daten und Rechenkraft. Die Konzeption, genetische Daten zum Beispiel eines Tumors, der genetischen Disposition eines Patienten und die genetisch bedingten Eigenheiten seines Arzneimittelstoffwechsels in einer mehrdimensionalen Matrix zusammenzuführen, ist von Ärzten erdacht. Diese wachsende Datenfülle kann doch heute kein Mediziner allein bewältigen. Programme, die von Menschen gemacht sind und selbstständig lernen, ermöglichen es uns, die zahlreichen relevanten Informationen zu verarbeiten und auf den einzelnen Patienten zugeschnittene Ergebnisse zu berechnen. Das ist eine große Chance für die Medizin und dient dem Patienten.
Was glauben Sie, welche Rolle Big Data in der Medizin in fünf Jahren spielen wird?
Schon heute nutzen Ärzte Analysetools, die auf Big Data basieren, etwa in der Onkologie. Ich bin überzeugt davon, dass die Entwicklung deutlich rasanter vonstatten gehen wird, als wir uns das gerade vorstellen. Nicht nur in spezialisierten Zentren werden in spätestens zehn Jahren Künstliche Intelligenzen kontinuierlich von Ärzten genutzt. Und in naher Zukunft wird KI sicher auch zur Prävention und Therapie der multifaktoriellen Volkskrankheiten eingesetzt – etwa Diabetes, Herzkreislauferkrankungen oder chronische Atemwegsstörungen.
In Anbetracht dieser rasanten Entwicklung und all der Daten, die dafür benötigt werden – ist unsere Rechtslage für diese schnellen Fortschritte in der digitalen Medizintechnik gewappnet?
Noch nicht. Die Daten sind der wichtigste Rohstoff in der Medizin. Ihre Verfügbarkeit entscheidet maßgeblich über die Qualität der Behandlung. Die Herausforderung ist es, möglichst umfassend und strukturiert alle benötigten Daten für die Diagnostik, die ärztliche Entscheidung und die Begleitung einer Therapie zu bündeln. Der Patient selbst braucht die Möglichkeit, seine Daten zu verknüpfen und selbstständig zu entscheiden, wem er wann welche Daten zur Verfügung stellen möchte. Und der Patient muss darauf vertrauen können, dass seine Daten nicht nur geschützt werden, sondern auch verfügbar bleiben. Letzteres ist eine Frage der Datensicherheit und heute wichtiger denn je. Dies alles ist schon nach der gegenwärtigen Rechtslage lösbar – was noch fehlt ist die Interoperabilität der vorhandenen Patientenakten und ein Konsens in der Gesellschaft, dafür zu bezahlen. Für KI brauchen wir einen global konsentierten Rechtsrahmen, der sicherstellt, dass sie verfügbar, sicher, fair und effizient ist. Die Initiative der EU-Kommission hierzu ist ein erster wichtiger Schritt.
„Bald könnte es ein Haftungsfehler sein, KI nicht einzusetzen“
Schauen wir uns das im Detail an. Was passiert, wenn etwa meine Krankenversicherung künftig darauf bestehen sollte, die Kostenübernahme für bestimmte Präparate daran zu knüpfen, dass ich eine App kontrollieren lasse, ob ich das Präparat wie vorgegeben einnehme?
Stellen wir die Frage anders herum: Darf eine Krankenversicherung die Prämien der Versichertengemeinschaft für Medikamente ausgeben, die der Versicherte nicht einnimmt? Ich sehe nicht, warum eine Versicherung nicht Incentives für die Einnahme setzen sollte, wenn die Medikation ärztlich indiziert ist und der Patient einverstanden. Apps sind nicht nur für diesen Nachweis geeignet, sondern auch um überhaupt Therapietreue langfristig zu fördern.
Und wenn mein Arbeitgeber auf meine Gesundheitsdaten zugreifen möchte, weil er vermutet, ich täusche Krankheiten nur vor?
Eine solche Täuschungsvermutung entsteht doch nur, wenn das Vertrauen im Arbeitsverhältnis gestört ist. Die Einsicht in die Gesundheitsdaten ist deshalb für den Arbeitgeber kein Lösungsansatz. Wer seine Arbeitnehmer für den Zweck des Unternehmens begeistern kann, wird eine Firmenkultur schaffen, in der Täuschungen und Zugriff auf Gesundheitsdaten keinen Platz haben. Unabhängig davon gibt der Rechtsrahmen das auch nicht her.
Wenn genug Daten gesammelt und ausgewertet sind, lässt sich vielleicht irgendwann das Risiko bestimmen, an einer bestimmten Krankheit, etwa Demenz, zu erkranken. Befürchten Sie nicht, dass das dazu führen könnte, Risikogruppen einen bestimmten Lebensstil vorzuschreiben, damit sie nicht erkranken?
Zuerst einmal sehe ich eine große Chance darin, dass der Einzelne aktiv Prävention betreiben kann, in dem Wissen um seine eigene Veranlagung und den damit verbundenen Risiken, etwa an Diabetes zu erkranken. Zahlreiche Studien und Beobachtungen zeigen, dass eine individuelle Risikoprognose wesentlich mehr Verhaltensänderungen im positiven Sinne bewirkt als abstrakte Vorhersagen über die Schädlichkeit bestimmter Lebensweisen. Jemanden qua Gesetz zu zwingen, sein Leben anzupassen, halte ich aber für nicht tragbar. Die Entscheidung, ob jemand das diagnostiziert haben und ein verändertes Leben führen will, muss er selbst treffen dürfen.
Und wie sieht es mit der Verantwortlichkeit aus? Wenn ein Arzt etwa mithilfe von IBMs Watson eine Patientin auf Hautkrebs untersucht, Watson und der Arzt aber einen Tumor nicht rechtzeitig erkennen – wer ist dann verantwortlich, IBM oder der Arzt, der Watson herangezogen hat?
Heute bleibt letztlich der behandelnde Arzt in der Verantwortung, aus den von ihm erhobenen Befunden und den mit der Künstlichen Intelligenz zusätzlich erlangten Informationen eine Diagnose zu stellen, für die er dann auch einsteht. Ob im Schadensfall eine nachgelagerte Auseinandersetzung zwischen Arzt und Watson erfolgt, hängt von den Vertragsbedingungen der Nutzung ab. Solange Watson nur Unterstützung verspricht und keine Garantien abgibt, wird er nicht haften. Anders als beim Auto bleibt der Arzt dann „am Steuer“. Aber es wird auch schon bald die Zeit kommen, in der es ein Haftungsfehler sein wird, KI nicht einzusetzen.
Programmierer schreiben solche Algorithmen und beeinflussen damit auch wesentlich die moderne Medizin. Braucht es einen hippokratischen Eid für Entwickler?
Bei der Entwicklung medizinischer KI arbeiten Ärzte mit Informatikern und vielen anderen zusammen, das ist kein reiner IT-Prozess. Der Begriff „Eid“ erscheint mir auch etwas theatralisch. Aber: ärztliches Handeln darf nicht schaden – dieser Grundsatz muss auch für Software gelten, die im medizinischen Kontext eingesetzt wird. Hilfreicher als ein Eid wäre es, dass nicht nur die Anwendung selbst oder der Algorithmus einer Qualitätssicherung unterworfen wird, sondern auch die Entwickler und Anbieter der Software von der Benannten Stelle regelmäßig überprüft werden. Das kann auch dahin weiterentwickelt werden, dass nicht eine Vielzahl von Produkten sondern der Prozess der Herstellung zertifiziert wird. Die Engpässe bei der Zertifizierung ließen sich dadurch abbauen.
Der japanische Historiker Yuval Noah Harari sieht diese Entwicklung weniger positiv als Sie. Er glaubt, die Risiken der datengetriebenen Medizin überwiegen die Vorzüge. Er befürchtet, Menschen könnten gehackt werden. Computer würden die Menschen bald körperlich und seelisch besser kennen als sie sich selbst.
Solche Risiken gibt es, aber wir sind in der Pflicht, sie zu identifizieren und ihnen entgegenzuwirken. Ich zähle mich weder zu den Techno-Skeptikern noch zu den digitalen Utopisten, sondern setze auf das Beneficial AI-Movement: Die Entwicklung der KI in der Medizin lässt sich nicht aufhalten. Es ist an Ärzten, Programmierern und dem Gesetzgeber, letztlich an uns allen, dafür zu sorgen, dass KI zum Wohle der Menschen genutzt wird. Damit die Potenziale entwickelt und auch eingesetzt werden können, ist es erforderlich, dem Patienten die Kompetenz und Hoheit über seine Daten einzuräumen – wer könnte dies besser und verantwortlicher als er?
