Künstliche Intelligenz: Braucht KI eigene Gesetze?

Künstliche Intelligenz: Braucht KI eigene Gesetze?

Bild vergrößern

"Die bestehenden IT-Gesetze sind ausreichend", sagt IT-Rechtsexperte Jörg-Alexander Paul. Eigene KI-Regeln seien nicht nötig.

Autonomes Fahren, Chatbots, digitale Assistenten: Künstliche Intelligenz spielt in immer mehr Bereichen eine Rolle. Müssen deshalb für die KI neue Gesetze her? Ja, sagt Tesla-Gründer Elon Musk - und erntet Widerspruch.

Von Facebook und Siri über selbstfahrende Autos bis hin zum Pflegeroboter: Lernende Maschinen sind mitunter Zukunftsmusik, gehören aber auch längst zu unserem Alltag. Aus dem sie auch nicht mehr verschwinden werden.

Das Thema Künstliche Intelligenz beschäftigt die Menschen jedoch nicht nur auf positive Art: Tesla-Chef Elon Musk etwa warnt davor, dass unkontrollierbare künstliche Intelligenz die wohl größte Gefahr für die Menschheit darstelle. Er wünscht sich spezielle Gesetze für die Maschinen. Man könne bei lernenden Maschinen nicht den üblichen Weg gehen, dass Regeln erst festgelegt würden, wenn schlimme Sachen passiert seien. „Wenn wir bei künstlicher Intelligenz nur reagieren, kommt die Regulierung zu spät“, sagte er im Sommer vor US-Gouverneuren. Was sie denn machen wollten, wenn eine hochentwickelte Maschine einen Krieg starten würde, um den Preis bestimmter Aktien zu beeinflussen?

Anzeige

Jörg-Alexander Paul sieht die Rolle von KI in unserer Gesellschaft deutlich entspannter. „Mich wundert es immer, wenn nach neuen Gesetzen gerufen wird“, sagt der IT-Rechtsexperte und Partner der Wirtschaftskanzlei Bird & Bird. „Abgesehen vielleicht vom Strafrecht können wir allen Herausforderungen mit den bestehenden Gesetzen begegnen. Wir müssen sie nur anwenden.“

Joy Buolamwini "Algorithmen spiegeln uns wider"

In der Art, wie Software programmiert wird, liegt auch die Chance, tief verankerte menschliche Vorurteile auszurotten. Aber kann dies wirklich gelingen?

Joy Boulamwini Quelle: Presse

Hinter Forderungen wie der von Musk sieht er vor allem die Angst vor dem Unbekannten. „Ich bin mir ganz sicher: Sobald das erste autonome Fahrzeug einen Menschen verletzt, wird laut nach Verboten gerufen“, so der Rechtsexperte. Forderungen nach strengeren Regeln gibt es für smarte Autos bereits. So wünscht sich beispielsweise der frühere Verfassungsrichter Udo Di Fabio höhere Sicherheitsanforderungen an autonome Fahrzeuge.

In diesen Situationen möchten die Deutschen autonom fahren

  • Einparken

    63 Prozent aller Deutschen möchten die Kontrolle beim Einparken abgeben. Das ergab eine repräsentative Umfrage des Digitalverbands Bitkom aus dem Jahr 2015.

  • Stau auf der Autobahn

    45 Prozent möchten im Stau autonom fahren.

  • Fließender Autobahnverkehr

    Auf der Autobahn möchten 15 Prozent der Befragten die Kontrolle abgeben.

  • Stadtverkehr

    Neun Prozent möchten im Stadtverkehr autonom unterwegs sein.

  • Immer

    Sieben Prozent wollen auf allen Straßen die Kontrolle übers Fahren abgeben.

  • Nie

    27 Prozent möchten die Kontrolle gar nicht abgeben.

Andere geben sich überzeugt, dass autonome Autos sicherer sind, als die von Menschen gesteuerten. Da fast alle Unfälle auf menschliches Versagen zurückzuführen seien, reduziere sich die Unfallhäufigkeit durch autonomes Fahren, glaubt zum Beispiel Daimler-Entwicklungsvorstand Ola Källenius. Eine Frage, die Autobauer, Versicherer und Ethikkommission beim Thema umtreibt, ist die nach der Verantwortung – und nach den Entscheidungen, die Maschinen treffen könnten.

Oft wird die Frage diskutiert, was KI tun würde, wenn ein Unfall unvermeidbar sei und das Auto wahlweise einen jungen Menschen – vielleicht eine Mutter mit Kinderwagen – oder einen alten Menschen verletzen werde. Oder wie sich KI entscheiden würde: den gut gepanzerten SUV von Audi rammen oder die alte klapprige Studentenkiste?

Ethische Grundregeln für autonome Autos

  • 1. Sicherheit zuerst

    Teil- und vollautomatisierte Verkehrssysteme dienen zuerst der Verbesserung der Sicherheit aller Beteiligten im Straßenverkehr. Daneben geht es um die Steigerung von Mobilitätschancen und die Ermöglichung weiterer Vorteile. Die technische Entwicklung gehorcht dem Prinzip der Privatautonomie im Sinne eigenverantwortlicher Handlungsfreiheit.

    Quelle: Bundesverkehrsministerium

  • 2. Schutz von Menschen hat Vorrang

    Der Schutz von Menschen hat Vorrang vor allen anderen Nützlichkeitserwägungen. Ziel ist die Verringerung von Schäden bis hin zur vollständigen Vermeidung. Die Zulassung von automatisierten Systemen ist nur vertretbar, wenn sie im Vergleich zu menschlichen
    Fahrleistungen zumindest eine Verminderung von Schäden im Sinne einer positiven Risikobilanz verspricht.

  • 3. Die öffentliche Hand entscheidet

    Die Gewährleistungsverantwortung für die Einführung und Zulassung automatisierter und vernetzter Systeme im öffentlichen Verkehrsraum obliegt der öffentlichen Hand. Fahrsysteme bedürfen deshalb der behördlichen Zulassung und Kontrolle. Die Vermeidung von Unfällen ist Leitbild, wobei technisch unvermeidbare Restrisiken einer Einführung des automatisierten Fahrens bei Vorliegen einer grundsätzlich positiven Risikobilanz nicht entgegenstehen.

  • 4. Menschen müssen sich frei entfalten dürfen

    Die eigenverantwortliche Entscheidung des Menschen ist Ausdruck einer Gesellschaft, in der der einzelne Mensch mit seinem Entfaltungsanspruch und seiner Schutzbedürftigkeit im Zentrum steht. Jede staatliche und politische Ordnungsentscheidung dient deshalb der freien Entfaltung und dem Schutz des Menschen. In einer freien Gesellschaft erfolgt die gesetzliche Gestaltung von Technik so, dass ein Maximum persönlicher Entscheidungsfreiheit in einer allgemeinen Entfaltungsordnung mit der Freiheit anderer und ihrer Sicherheit zum Ausgleich gelangt.

  • 5. Technik soll Unfälle vermeiden

    Die automatisierte und vernetzte Technik sollte Unfälle so gut wie praktisch möglich vermeiden. Die Technik muss nach ihrem jeweiligen Stand so ausgelegt sein, dass kritische Situationen gar nicht erst entstehen, dazu gehören auch Dilemma-Situationen, also eine Lage, in der ein automatisiertes Fahrzeug vor der „Entscheidung“ steht, eines von zwei nicht abwägungsfähigen Übeln notwendig verwirklichen zu müssen. Dabei sollte das gesamte Spektrum technischer Möglichkeiten – etwa von der Einschränkung des Anwendungsbereichs auf kontrollierbare Verkehrsumgebungen, Fahrzeugsensorik und Bremsleistungen, Signale für gefährdete Personen bis hin zu einer Gefahrenprävention mittels einer „intelligenten“ Straßen-Infrastruktur – genutzt und kontinuierlich weiterentwickelt werden. Die erhebliche Steigerung der Verkehrssicherheit ist Entwicklungs- und Regulierungsziel, und zwar bereits in der Auslegung und Programmierung der Fahrzeuge zu defensivem und vorausschauendem, schwächere Verkehrsteilnehmer („Vulnerable Road Users“) schonendem Fahren.

  • 6. Pflicht zu autonomen Autos ist bedenklich

    Die Einführung höherer automatisierter Fahrsysteme insbesondere mit der Möglichkeit automatisierter Kollisionsvermeidung kann gesellschaftlich und ethisch geboten sein, wenn damit vorhandene Potentiale der Schadensminderung genutzt werden können. Umgekehrt ist eine gesetzlich auferlegte Pflicht zur Nutzung vollautomatisierter Verkehrssysteme oder die Herbeiführung einer praktischen Unentrinnbarkeit ethisch bedenklich, wenn damit die Unterwerfung unter technische Imperative verbunden ist (Verbot der Degradierung des Subjekts zum bloßen Netzwerkelement).

  • 7. Sach- und Tierschäden vor Personenschäden

    In Gefahrensituationen, die sich bei aller technischen Vorsorge als unvermeidbar erweisen, besitzt der Schutz menschlichen Lebens in einer Rechtsgüterabwägung höchste Priorität. Die Programmierung ist deshalb im Rahmen des technisch Machbaren so anzulegen, im Konflikt Tier- oder Sachschäden in Kauf zu nehmen, wenn dadurch Personenschäden vermeidbar sind.

  • 8. Dilemmata lassen sich nicht lösen

    Echte dilemmatische Entscheidungen, wie die Entscheidung Leben gegen Leben sind von der konkreten tatsächlichen Situation unter Einschluss „unberechenbarer“ Verhaltensweisen Betroffener abhängig. Sie sind deshalb nicht eindeutig normierbar und auch nicht ethisch zweifelsfrei programmierbar. Technische Systeme müssen auf Unfallvermeidung ausgelegt werden, sind aber auf eine komplexe oder intuitive Unfallfolgenabschätzung nicht so normierbar, dass sie die Entscheidung eines sittlich urteilsfähigen, verantwortlichen Fahrzeugführers ersetzen oder vorwegnehmen könnten. Ein menschlicher Fahrer würde sich zwar rechtswidrig verhalten, wenn er im Notstand einen Menschen tötet, um einen oder mehrere andere Menschen zu retten, aber er würde nicht notwendig schuldhaft handeln. Derartige in der Rückschau angestellte und besondere Umstände würdigende Urteile des Rechts lassen sich nicht ohne weiteres in abstrakt-generelle Ex-Ante-Beurteilungen und damit auch nicht in entsprechende Programmierungen umwandeln. Es wäre gerade deshalb wünschenswert, durch eine unabhängige öffentliche Einrichtung (etwa einer Bundesstelle für Unfalluntersuchung automatisierter Verkehrssysteme oder eines Bundesamtes für Sicherheit im automatisierten und vernetzten Verkehr) Erfahrungen systematisch zu verarbeiten.

  • 9. Alle Menschen sind gleich

    Bei unausweichlichen Unfallsituationen ist jede Qualifizierung nach persönlichen Merkmalen (Alter, Geschlecht, körperliche oder geistige Konstitution) strikt untersagt. Eine Aufrechnung von Opfern ist untersagt. Eine allgemeine Programmierung auf eine Minderung der Zahl von Personenschäden kann vertretbar sein. Die an der Erzeugung von Mobilitätsrisiken Beteiligten dürfen Unbeteiligte nicht opfern.

  • 10. Die Hersteller und Betreiber sind verantwortlich

    Die dem Menschen vorbehaltene Verantwortung verschiebt sich bei automatisierten und vernetzten Fahrsystemen vom Autofahrer auf die Hersteller und Betreiber der technischen Systeme und die infrastrukturellen, politischen und rechtlichen Entscheidungsinstanzen. Gesetzliche Haftungsregelungen und ihre Konkretisierung in der gerichtlichen Entscheidungspraxis müssen diesem Übergang hinreichend Rechnung tragen.

  • 11. Die Produkthaftung gilt

    Für die Haftung für Schäden durch aktivierte automatisierte Fahrsysteme gelten die gleichen Grundsätze wie in der übrigen Produkthaftung. Daraus folgt, dass Hersteller oder Betreiber verpflichtet sind, ihre Systeme fortlaufend zu optimieren und auch bereits ausgelieferte Systeme zu beobachten und zu verbessern, wo dies technisch möglich und zumutbar ist.

  • 12. Leitlinien entwickeln

    Die Öffentlichkeit hat einen Anspruch auf eine hinreichend differenzierte Aufklärung über neue Technologien und ihren Einsatz. Zur konkreten Umsetzung der hier entwickelten Grundsätze sollten in möglichst transparenter Form Leitlinien für den Einsatz und die
    Programmierung von automatisierten Fahrzeugen abgeleitet und in der Öffentlichkeit kommuniziert und von einer fachlich geeigneten, unabhängigen Stelle geprüft werden.

  • 13. Vollständige Vernetzung ist bedenklich

    Ob in Zukunft eine dem Bahn- und Luftverkehr entsprechende vollständige Vernetzung und zentrale Steuerung sämtlicher Kraftfahrzeuge im Kontext einer digitalen Verkehrsinfrastruktur möglich und sinnvoll sein wird, lässt sich heute nicht abschätzen. Eine vollständige Vernetzung und zentrale Steuerung sämtlicher Fahrzeuge im Kontext einer digitalen Verkehrsinfrastruktur ist ethisch bedenklich, wenn und soweit sie Risiken einer totalen Überwachung der Verkehrsteilnehmer und der Manipulation der Fahrzeugsteuerung nicht sicher auszuschließen vermag.

  • 14. IT-Sicherheit ist Grundlage

    Automatisiertes Fahren ist nur in dem Maße vertretbar, in dem denkbare Angriffe, insbesondere Manipulationen des IT-Systems oder auch immanente Systemschwächen nicht zu solchen Schäden führen, die das Vertrauen in den Straßenverkehr nachhaltig erschüttern.

  • 15. Datenautonomie gibt Geschäftsmodelle vor

    Erlaubte Geschäftsmodelle, die sich die durch automatisiertes und vernetztes Fahren entstehenden, für die Fahrzeugsteuerung erheblichen oder unerheblichen Daten zunutze machen, finden ihre Grenze in der Autonomie und Datenhoheit der Verkehrsteilnehmer. Fahrzeughalter oder Fahrzeugnutzer entscheiden grundsätzlich über Weitergabe und Verwendung ihrer anfallenden Fahrzeugdaten. Die Freiwilligkeit solcher Datenpreisgabe setzt das Bestehen ernsthafter Alternativen und Praktikabilität voraus. Einer normativen
    Kraft des Faktischen, wie sie etwa beim Datenzugriff durch die Betreiber von Suchmaschinen oder sozialen Netzwerken vorherrscht, sollte frühzeitig entgegengewirkt werden

  • 16. Es muss erkennbar sein, wenn ein autonomes System genutzt wird

    Es muss klar unterscheidbar sein, ob ein fahrerloses System genutzt wird oder ein Fahrer mit der Möglichkeit des „Overrulings“ Verantwortung behält. Bei nicht fahrerlosen Systemen muss die Mensch/Maschine-Schnittstelle so ausgelegt werden, dass zu jedem Zeitpunkt klar geregelt und erkennbar ist, welche Zuständigkeiten auf welcher Seite liegen, insbesondere auf welcher Seite die Kontrolle liegt. Die Verteilung der Zuständigkeiten (und damit der Verantwortung) zum Beispiel im Hinblick auf Zeitpunkt und Zugriffsregelungen sollte dokumentiert und gespeichert werden. Das gilt vor allem für Übergabevorgänge zwischen Mensch und Technik. Eine internationale Standardisierung der Übergabevorgänge und der Dokumentation (Protokollierung) ist anzustreben, um angesichts der grenzüberschreitenden Verbreitung automobiler und digitaler Technologien die Kompatibilität der Protokoll- oder Dokumentationspflichten zu gewährleisten.

  • 17. Abrupte Übergabe muss ausgeschlossen werden

    Software und Technik hochautomatisierter Fahrzeuge müssen so ausgelegt werden, dass die Notwendigkeit einer abrupten Übergabe der Kontrolle an den Fahrer („Notstand“) praktisch ausgeschlossen ist. Um eine effiziente, zuverlässige und sichere Kommunikation zwischen Mensch und Maschine zu ermöglichen und Überforderung zu vermeiden, müssen sich die Systeme stärker dem Kommunikationsverhalten des Menschen anpassen und nicht umgekehrt erhöhte Anpassungsleistungen dem Menschen abverlangt werden.

  • 18. Selbstlernende Systeme können erlaubt sein

    Lernende und im Fahrzeugbetrieb selbstlernende Systeme sowie ihre Verbindung zu zentralen Szenarien-Datenbanken können ethisch erlaubt sein, wenn und soweit sie Sicherheitsgewinne erzielen. Selbstlernende Systeme dürfen nur dann eingesetzt werden, wenn sie die Sicherheitsanforderungen an fahrzeugsteuerungsrelevante Funktionen erfüllen und die hier aufgestellten Regeln nicht aushebeln. Es erscheint sinnvoll, relevante Szenarien an einen zentralen Szenarien-Katalog einer neutralen Instanz zu übergeben, um entsprechende allgemeingültige Vorgaben, einschließlich etwaiger Abnahmetests zu erstellen.

  • 19. Im Notfall muss das Auto alleine bremsen können

    In Notsituationen muss das Fahrzeug autonom, d.h. ohne menschliche Unterstützung, in einen „sicheren Zustand“ gelangen. Eine Vereinheitlichung insbesondere der Definition des sicheren Zustandes oder auch der Übergaberoutinen ist wünschenswert.

  • 20. Digitale Bildung muss gewährleistet sein

    Die sachgerechte Nutzung automatisierter Systeme sollte bereits Teil der allgemeinen digitalen Bildung sein. Der sachgerechte Umgang mit automatisierten Fahrsystemen sollte bei der Fahrausbildung in geeigneter Weise vermittelt und geprüft werden.

Für Rechtsexperte Paul ist dieses Gedankenspiel nicht zielführend. Wenn ein menschlicher Fahrer bei einem unausweichlichen Unfall das Lenkrad nach rechts oder links reißt, wird nachher schließlich auch nicht gefragt: Hätten Sie nicht den Rentner erwischen können?

„Wir bewerten kein Leben. Wir entscheiden nicht, dass junge Menschen mehr wert sind als alte, oder kranke Menschen weniger wert sind, als gesunde. Insofern darf die Entscheidung – in einer unabwendbaren Situation – nicht richtig oder falsch sein. Weder beim Menschen noch bei KI“, sagt Paul.

Anzeige
Zur Startseite
-0%1%2%3%4%5%6%7%8%9%10%11%12%13%14%15%16%17%18%19%20%21%22%23%24%25%26%27%28%29%30%31%32%33%34%35%36%37%38%39%40%41%42%43%44%45%46%47%48%49%50%51%52%53%54%55%56%57%58%59%60%61%62%63%64%65%66%67%68%69%70%71%72%73%74%75%76%77%78%79%80%81%82%83%84%85%86%87%88%89%90%91%92%93%94%95%96%97%98%99%100%