Autonomes Fahren:

Autos im moralischen Dilemma? Im Kontext des Fernziels vollautonomer Fahrzeuge stellen sich zahlreiche Herausforderungen hinsichtlich des Fahrzeugverhaltens. Wie sollten sich autonome Systeme in kritischen Situationen verhalten? Lässt sich das gewünschte Verhalten eines autonomen Fahrzeugs in einer kritischen Situation überhaupt bestimmen? Brauchen wir eine Maschinenethik für autonome Fahrzeuge, und falls ja, wie gelangt man zu dieser? Das White Paper beleuchtet grundlegende Entscheidungsprobleme und regelbasierte

(„top

Lösungsansätze.

down“)

Dabei

als

zeigt

auch sich,

lernbasierte dass

trotz

(„bottom

up“)

mannigfaltiger

Herausforderungen der Weg zum vollautonomen Fahrzeug nicht nur möglich, sondern aus gesellschaftlicher Sicht sogar geboten ist.

Stuttgart, Juli 2015

© mm1, 2015

Autonome Fahrzeuge als moralische Herausforderung Wachsende Autonomie digitaler und vernetzter Systeme Digitalisierung und Automatisierung bestimmen unser Leben in zunehmendem Maße. Produkte und Dienstleistungen vernetzen sich untereinander und verlagern sich in die virtuelle Welt des Internets. Komplexe Algorithmen treffen automatisiert Entscheidungen und steuern Abläufe. Die Möglichkeit des Menschen zum selbstbestimmten Handeln auf Grundlage der eigenen Prinzipien, also die menschliche Autonomie, wird ergänzt um autonome künstliche Systeme. An diese übertragen wir Aufgaben, die wir selbst nicht (besser) ausführen können oder wollen.

Das autonome Fahrzeug als Leitbild der Automobilindustrie Digitalisierung und Automatisierung prägen auch die Automobilindustrie. Moderne Fahrzeuge verfügen über zahlreiche Assistenzsysteme, die den Fahrer passiv und aktiv bei seiner Fahraufgabe unterstützen. In letzter Konsequenz erfordert die Vollendung der Automatisierung, das autonome Fahrzeug, überhaupt keinen Fahrer mehr.1 Befürworter autonomer Fahrzeuge nennen zahlreiche Argumente für diese Technologie: Weniger Unfälle, besserer Verkehrsfluss, effizientere Ressourcennutzung, Zugang zu individueller Mobilität für bislang davon ausgeschlossene Personengruppen sowie Komfort- und Produktivitätsgewinne durch die während der Fahrt ermöglichten Nebentätigkeiten.2

Die Hürde der gesellschaftlichen Akzeptanz Doch haben autonome Fahrzeuge wirklich das Potenzial zum Markterfolg? Dafür muss ein Produkt in vier Dimensionen überzeugen: der Technologie, dem Kundennutzen, dem Geschäftsmodell sowie der gesellschaftlichen Akzeptanz. Unter gesellschaftlicher Akzeptanz ist das Ausbleiben von Widerstand gegen, oder gar eine wohlwollende Duldung der betrachteten Technologie bzw. deren Implementierung zu verstehen. Sie hängt davon ab, ob die Umsetzung der Technologie mit

Gesellschaftliche Normen bestimmen die Akzeptanz von neuen Technologien.

den bestehenden gesellschaftlichen und rechtlichen Normen vereinbar ist. Ethische Argumente fließen dabei häufig nicht einfach in eine Gesamtbetrachtung von Nutzen und Kosten ein, sondern fungieren als zu erfüllende Nebenbedingung. Der gesamtgesellschaftliche Nutzen mag noch so groß sein (z.B. Heilung neurologischer Krankheiten durch Stammzellenforschung), unethischer Technologieeinsatz wird von einem Großteil der Bevölkerung schlicht nicht geduldet. 1

Zu den Stufen der Automatisierung der Fahrfunktionen im Fahrzeug vgl. Gasser et al (2012).

2

Weitere Effekte könnten grundsätzliche Veränderungen in unserem Verhältnis zu Automobilen sein. Je nach Entwicklung kann dies das traditionelle Geschäftsmodell der Automobilindustrie stark verändern (Stichwort Nutzung statt Eigentum, vollautonome Taxidienste, etc.).

2

Autonomes Fahren – Autos im moralischen Dilemma?

Das moralische Dilemma bei autonomen Fahrzeugen Die Entwicklung autonomer Fahrzeuge ist ebenfalls von einer ethisch motivierten Debatte begleitet. Der Einführung solcher Fahrzeuge liegt das Versprechen zugrunde, die Anzahl von Personenschäden deutlich zu reduzieren. Auch bei zunehmender Automatisierung und Reife der Technologie wird jedoch die Gefahr von Unfällen weiterbestehen, z.B. aufgrund von Implementierungsfehlern, bekannten Systemgrenzen oder nicht beherrschbarer Verkehrssituationen. Allein dies stellt eine große Hürde für ihre gesellschaftliche Akzeptanz dar. Denn die Ansprüche an die Sicherheit und Verlässlichkeit autonomer Fahrzeuge werden gesellschaftlich ungleich höher sein als die Ansprüche gegenüber menschlichen Fahrern. Aber auch unter der Annahme perfekt funktionierender Systeme stellt sich die Frage nach der gewünschten Ausgestaltung des Fahrzeugverhaltens. Das Fahrzeug muss in jeder Verkehrssituation zurechtkommen, und zwar in einer Weise, die den gesellschaftlichen Anspruch an das „richtige“ Verhalten erfüllt. Voraussetzung für die Entwicklung geeigneter Algorithmen ist eine gewisse Einigkeit über ethische Grundprinzipien. Dass das Zustandekommen einer solchen Einigkeit aber fraglich ist, veranschaulicht das folgende Gedankenexperiment:3 Ein autonomes Fahrzeug fährt auf einer einspurigen Straße, die an der linken Seite an eine Leitplanke und an der rechten an einen Gehweg grenzt. Plötzlich betreten zwei Senioren die Straße. Unter normalen Umständen würde das Fahrzeug eine Vollbremsung einleiten oder die Geschwindigkeit deutlich reduzieren, um ein Ausweichmanöver über den (menschenleeren!) Gehweg einleiten zu können. Nehmen wir jedoch an, dass der verbleibende Bremsweg für eine Vollbremsung zu kurz ist und auf dem Gehweg eine Mutter mit ihrem Sohn spazieren geht. Das Fahrzeug muss also entscheiden: Soll es (A) auf der Straße bleiben und die Senioren oder (B) auf den Gehweg ausweichen und die Mutter mit ihrem Kind erfassen? Über die moralisch bessere Handlungsoption besteht Uneinigkeit. Einerseits ist zu bedenken, dass die Senioren bereits ein hohes Alter erreicht haben und die Mutter und insbesondere ihr Kind noch ein langes Leben vor sich haben (ergo Entscheidung für Option A). Auf der anderen Seite sind bei schweren Verletzungen die Überlebenschancen von jungen Menschen verglichen mit alten Menschen deutlich höher (Option B). Davon abgesehen kann jedoch auch argumentiert werden, dass jegliches Abwägen von Menschenleben unmoralisch ist, weswegen sich das Fahrzeug seinem Schicksal fügen und möglichst passiv agieren sollte, also Abbremsen und Räder geradestellen (gleichbedeutend mit A). Die Entwickler autonomer Fahrzeuge stehen somit vor einer scheinbar unlösbaren Aufgabe.

3

Dilemmata mit dieser Grundkonstruktion sind bekannt als „Sophie’s Choice“, benannt nach dem gleichnamigen Film von Alan J. Pakula (1982).

Autonomes Fahren – Autos im moralischen Dilemma?

3

Die Ansprüche an Sicherheit und Verlässlichkeit autonomer Fahrzeuge werden höher sein als gegenüber menschlichen Fahrern.

Die Divergenz moralischer Ansichten innerhalb der Gesellschaft stellt die Entwickler autonomer Fahrzeuge vor eine scheinbar unlösbare Aufgabe.

Welche der hier erwähnten moralischen Intuitionen sie auch integrieren: Ein großer Anteil der Bevölkerung wird diese Implementierung für moralisch verwerflich halten. Die Sicherstellung gesellschaftlicher Akzeptanz wäre somit gefährdet. Auf Grundlage dieser Erkenntnis kann die Marktfähigkeit autonomer Fahrzeuge in Frage gestellt werden. Im Folgenden wird jedoch dargelegt, dass in der normativen Diskussion zu diesem Thema die Zuspitzung auf moralische Dilemmata nicht hilfreich ist und diese auch nur begrenzt relevant sind.

Lösungsansätze aus ethischer Perspektive Die beispielhaft gegebenen Argumente für und gegen die Optionen A und B korrespondieren mit den beiden wohl bedeutendsten Ethiktheorien: Utilitarismus und Kantianismus. Beide Theorien sind nur schwer in der Praxis anwendbar.

Utilitarismus: Der Zweck heiligt die Mittel Der Utilitarismus bestimmt den moralischen Wert einer Handlung anhand deren Auswirkungen. Ausgeführt werden sollen die Handlungen, die den Nutzen für alle Menschen maximieren. Die Betrachtung der Konsequenzen sämtlicher Handlungsoptionen ist jedoch nicht möglich; zumindest nicht ohne Ziehung willkürli-

Eine utilitaristische Entscheidungslogik führt nicht zu konsensfähigem Fahrzeugverhalten.

cher räumlicher oder zeitlicher Grenzen.4 Auch wird kein System jemals unendlich großen Dateninput verarbeiten können . Darüber hinaus widersprechen die Handlungsimplikationen des Utilitarismus oft der moralischen Intuition. Man stelle sich ein autonomes Fahrzeug vor, welches unweigerlich mit einem von zwei Motorradfahrern (A und B) kollidieren wird. A trägt, anders als B, keinen Helm und hat durch sein rücksichtsloses Fahren die Gefahrensituation provoziert. B dagegen ist ein umsichtiger Motorradfahrer und zudem der Bruder des Fahrzeuginsassen. Der Nutzen wäre aus utilitaristischer Sichtweise maximiert, wenn das Auto den B ansteuert, da dieser mit seinem Helm höhere Überlebenschancen hat. Dies verletzt jedoch das Gerechtigkeitsgefühl vieler Menschen.

Die Anwendung des kategorischen Imperativs kollidiert im Ergebnis häufig mit moralischer Intuition.

Kantianismus: Handle pflichtkonform, egal was passiert Der Kantianismus fordert, das Handeln an gewissen Regeln zu orientieren5 (z.B. „Überfahre keine Menschen“), ungeachtet der Konsequenzen. Kants Kategorischer Imperativ verbietet es dabei, andere Menschen lediglich als Mittel zu einem Zweck (z.B. Rettung des Lebens Dritter) zu behandeln. 4

Im Kontext der Automobilindustrie lässt sich diese Problematik an einem von Ludwigsburger Filmstudenten erstellten und nicht autorisierten Werbespot gut darstellen. Vgl. "Filmstudenten benutzen Mercedes zum Tyrannenmord", in: HORIZONT, 23.08.2013. 5

Die zentrale Regel hat Kant in verschiedenen Formulierungen als kategorischen Imperativ formuliert: „handle so, als ob die Maxime deiner Handlung durch deinen Willen zum allgemeinen Naturgesetze werden sollte“ – Immanuel Kant, Grundlegung zur Metaphysik der Sitten (1785).

4

Autonomes Fahren – Autos im moralischen Dilemma?

Ein nach Kantianismus programmiertes autonomes Fahrzeug wäre somit unfähig, in Fällen extremer Abwägungen das kleinere Übel zu wählen. Es ist aber leicht eine Situation vorstellbar, in der die Anzahl der Menschen, die gerettet werden würde, so groß ist, dass unsere moralische Intuition das Schädigen eines Einzelnen erlaubt (z.B. vollbesetzter Bus vs. Alleinfahrer).

Ex ante bleibt das Dilemma ein Dilemma Wie sich zeigt, können weder Utilitarismus noch Kantianismus Lösungen für das beschriebene Dilemma anbieten, die mit der moralischen Intuition einer Mehrzahl der Menschen kompatibel sind. Diese moralischen Theorien sind somit aus Sicht der angestrebten gesellschaftlichen Akzeptanz ungeeignet für eine Top-Down Implementierung in autonome Fahrzeuge. Von den Programmierern dieser Fahr-

Wir sollten von den Programmierern autonomer Fahrzeuge nicht das Auflösen moralischer Dilemmata erwarten, wenn selbst in der Moralphilosophie keine Einigkeit herrscht.

zeuge sollte daher nicht das Auflösen moralischer Dilemmata erwartet werden, wenn selbst in der Moralphilosophie keine Einigkeit herrscht.

Ex post ist moralische Bewertung möglich Die retrospektive Betrachtung des Dilemmas ist dagegen unstrittig. Gemäß des allgemein akzeptierten Konzepts der moralischen Verantwortung ist der Mensch 6

nur dann moralisch verantwortlich, wenn drei Voraussetzungen erfüllt waren. So musste man beispielsweise in der Lage gewesen sein, das eingetretene Resultat nicht herbeizuführen, es musste also Wahlfreiheit zwischen mehreren zumutbaren Optionen bestehen. In der geschilderten Situation führt jede denkbare Handlungsalternative zu gravierenden Personenschäden und ist damit nicht zumutbar. Folglich ist der Fahrer – Mensch oder Maschine – im Dilemma für die verursachten Personenschäden moralisch nicht verantwortlich.

Lösungsansätze aus empirischer Perspektive Die Ausführungen zur Moraltheorie haben das dargestellte Dilemma unter moralischen Gesichtspunkten bewertet. Trotzdem bleibt die Frage: Wie sollte sich ein autonomes Fahrzeug in diesem Fall konkret verhalten? Zur Beantwortung wird nun eine pragmatische Perspektive eingenommen. Vier Lösungswege lassen sich dabei aufzeigen: erstens, das Berücksichtigen von Einführungsszenarien. Zweitens, das Berücksichtigen von Dynamik und Koordination. Drittens, das Primat der Vorsicht und Schadensminimierung. Viertens, das Implementieren nicht-deterministischer Entscheidungssysteme.

6

Es ist durchaus möglich, für eine Handlung und ihre Folgen moralisch nicht verantwortlich zu sein; dies bei gleichzeitigem Vorliegen kausaler oder strafrechtlicher Verantwortung.

Autonomes Fahren – Autos im moralischen Dilemma?

5

Ob ein unvermeidbarer Personenschaden durch Mensch oder Maschine verursacht wurde, sollte keinen Einfluss darauf haben, wie wir die Situation bewerten.

Das Dilemma vermeiden dank Einführungsszenarien Auch wenn ein in jeder denkbaren Verkehrssituation vollautonom agierendes Fahrzeug das Zielbild ist, so ist es nicht realistisch, zum Einführungstermin automatisierter Fahrfunktionen von einem „Big Bang“ auszugehen. Stattdessen wird die Einführung des hoch- und schließlich vollautomatisierten Fahrens schrittweise erfolgen; zunächst also auf bestimmte Szenarien beschränkt sein.7 Diese werden das autonome Fahren anfangs nur in definierten Verkehrsräumen zulassen. Zudem wird die manuelle Übernahme der Fahraufgabe durch die Fahrzeuginsassen weiterhin jederzeit möglich sein müssen.

In den Einführungsszenarien für hochautomatisiertes Fahren stellt sich das moralische Dilemma nicht.

Das wahrscheinlichste Einführungsszenario für autonome Fahrzeuge ist das Fahren auf definierten Autobahnabschnitten. Die Freigabe der Abschnitte erfolgt dabei auf Basis der Bewertung einer Vielzahl von Parametern und nur für definierte Zeiträume. Zudem ist davon auszugehen, dass das Auf- und Abfahren auf die Autobahn weiterhin manuell erfolgt. Die graduelle Einführung des autonomen Fahrens hilft bei der Frage nach der gesellschaftlichen Akzeptanz in Verbindung mit dem Ausgangsdilemma tatsächlich weiter: Auf einer Autobahn bewegen sich schließlich weder Frauen mit Kinderwagen, noch queren Senioren die Fahrbahn. Natürlich kann es auch hier zu kritischen Situationen kommen, in denen ein autonomes Fahrzeug über ein schadensminimierendes Vorgehen entscheiden muss. Während aber kein regelbasierter Algorithmus für das konkrete Abwägen zwischen „Kollision mit Kind“ und „Kollision mit Erwachsenem“ gefunden werden kann, ist für das Autobahnszenario durchaus ein regelbasierter Steuerungsmechanismus bestimmbar. Dieser könnte, stark vereinfacht, aussehen wie folgt: 1) Suche durch Anpassen der Längs- oder Querführung einen kollisionsfreien Pfad, 2) Ist ein solcher nicht auffindbar, wähle den Pfad mit der geringsten kinetischen Aufprallenergie (und vernichte durch eine Bremsung so schnell wie möglich kinetische Energie). Ein weiteres Argument, das im Falle der Einführungsszenarien das moralische Dilemma des autonomen Fahrzeugs entschärft, ist die Möglichkeit – und rechtliche Verpflichtung – des Passagiers auf dem Fahrersitz, jederzeit die Kontrolle über das Fahrzeug übernehmen zu können. Die rechtlichen Vorgaben entlasten die Entwickler dabei in letzter Konsequenz von der moralischen Verantwortung. Denn diese trägt als letzte Entscheidungsinstanz doch wieder der Mensch.

7

Vgl. zu den Automatisierungsstufen die Definitionen des Automatisierungsgrades von Fahrzeugen der Bundesanstalt für Straßenwesen (BASt) oder der Society of Automobile Engineers (SAE).

6

Autonomes Fahren – Autos im moralischen Dilemma?

Das Dilemma vermeiden mit koordinativen Systemen Beim Auftreten von Konflikten in einer Verkehrssituation ist die Lösungsfindung bekanntermaßen das Ergebnis des komplexen und dynamischen Verhaltens aller Beteiligten. Dabei ermöglicht Kommunikation sowohl die Konsensfindung als auch die nachfolgende Koordination. Diesen Gedanken nehmen beispielsweise Konzeptfahrzeuge auf, die mit einfachen Signalen anderen Verkehrsteilnehmern ihre Absichten kommunizieren.8 Dies beinhaltet die Abstimmung zwischen autonomen Fahrzeugen, aber auch zwischen autonomen Fahrzeugen und Fußgängern, konventionellen Fahrzeugen oder Verkehrsinfrastruktur. Koordinative Systeme stellen somit in Bezug auf die Dilemma-Vermeidung einen weiteren techni-

Die Lösungsfindung ist nicht nur Ergebnis des eigenen Verhaltens, sondern das Ergebnis des Verhaltens aller Beteiligten in einem komplexen und dynamischen System.

schen Lösungsansatz dar. Die Dynamik in der gemeinschaftlichen Problemlösung zeigt, dass die im Dilemma-Szenario implizit vorhandene Perspektive auf das autonome Fahrzeug als alleiniges und reaktiv handelndes Subjekt irreführend ist. Vielmehr befinden wir uns in einem Prozess der gemeinsamen Entscheidungsfindung und des abgestimmten Handelns.9 Dies erweitert das Lösungsspektrum in einer gegebenen Situation ganz erheblich. In diesem Fall heißt das: Eine Kollaboration zwischen Fahrzeug und Ampel könnte frühzeitig dafür sorgen, dass sich die Personen in einer sicheren Zone befinden. Des Weiteren könnten Warnsignale des Fahrzeugs sicherstellen, dass sich die Personen der akuten Gefahr bewusst werden und sich an eine sichere Stelle begeben.

Das Dilemma entschärfen mit vorsichtig agierenden Systemen Ein weiterer Lösungsansatz liegt in der Reduktion potenzieller negativer Konsequenzen („Dilemma-Entschärfung“). Denn die moralische Brisanz einer Entscheidung hängt in der menschlichen Wahrnehmung unmittelbar mit der Schwere der Konsequenzen zusammen. Bezogen auf die konkrete Dilemma-Situation ergibt sich daraus der moralische Imperativ einer defensiven Fahrweise autonomer Fahrzeuge, gekennzeichnet durch besondere Umsicht und das Nichtbeharren auf formal zustehende Rechte. Der wesentliche Einflussfaktor im städtischen Raum ist dabei die Geschwindigkeit. Denn bei einer Kollision ist die Aufprallgeschwindigkeit die wichtigste Determinante der Verletzungsschwere der Beteiligten. Eine Verminderung der Geschwindigkeit führt zu einer signifikanten Reduktion der potenziellen negativen Folgen und entschärft das beschriebene Entscheidungsdilemma deutlich. Zudem sinkt 8

Ein Beispiel sind die visuellen und akustischen Signale des Konzeptfahrzeugs Mercedes-Benz F 015.

9

Eine hier nicht näher ausgeführte Fragestellung dabei ist, wann eine Entscheidungsfindung solitär stattfinden sollte und wann eine Abstimmung mit weiteren Akteuren angestrebt werden sollte. Zu dieser Fragestellung siehe bspw. Tranni et al.: From Solitary to Collective Behaviours: Decision Making and Cooperation, in: Advances in Artificial Life, Springer Verlag, 2007, S. 575-584.

Autonomes Fahren – Autos im moralischen Dilemma?

7

Die moralische Brisanz der Entscheidung in einer DilemmaSituation entschärft sich durch die Reduktion der potenziellen Schäden.

mit geringerer Fahrzeuggeschwindigkeit auch die Wahrscheinlichkeit von Unfällen selbst. Im Kontext der Debatte plädieren die Autoren daher für eine Reduktion der Maximalgeschwindigkeit autonomer Fahrzeuge im städtischen Bereich auf höchstens 30 km/h.10 Hinsichtlich der gesellschaftlichen Akzeptanz autonomer Fahrzeuge stellt sich die Frage, ob eine solche Einschränkung positiv oder negativ wirkt. Aus Autorensicht ist eine insgesamt positive Wahrnehmung eines solchen Schrittes erreichbar. 11 Denn im Stadtverkehr zählt weniger die Maximalgeschwindigkeit, sondern die Durchschnittsgeschwindigkeit und die Konstanz des Verkehrsflusses. Je stärker die Durchdringung mit autonomen Fahrzeugen, umso flüssiger lässt sich dieser gestalten.

Letzten Endes müssen wir dennoch mit dem Dilemma umgehen können.

Das Dilemma auflösen mit nicht-deterministischen Systemen Trotz der dargestellten Ansätze zur Vermeidung und Abschwächung des Dilemmas ist nicht von der Hand zu weisen, dass es sich als im Stadtverkehr durchaus realistisch darstellt. Es ist also immer noch unumgänglich, in das autonome Fahrzeug eine Aktionskompetenz zu implementieren, die mit dem Entscheidungsproblem der Dilemma-Situation umgehen kann. An dieser Stelle endet die regelbasierte Denkweise in einer Sackgasse. Denn wie in der moraltheoretischen Betrachtung bereits ausgeführt, ist das Ausgangsdilemma gerade dadurch gekennzeichnet, dass keine allgemein akzeptierte Regel für das „richtige Handeln“ zu finden ist. Also kann auch keine solche Regel in Algo-

Regelbasierte Lösungsansätze führen in die Sackgasse.

rithmen übersetzt werden. Eine Alternative zum regelbasierten Lösungsweg eröffnet sich aus dem folgenden Gedanken: Ein vollautonomes Fahrzeug sollte sich verhalten wie ein perfekter Autofahrer, mithin den idealen Menschen imitieren. Wie also muss ein System beschaffen sein, dessen Funktionsweise sich prinzipiell am Menschen orientiert? Ein technischer Ansatz zur Nachbildung des menschlichen Gehirns sind künstliche neuronale Netze. Neuronale Netze verbinden eine Vielzahl von Neuronen (funktionale Einheiten), die Signale entgegennehmen, verarbeiten und je nach der Stärke der empfangenen Impulse in einen eigenen, an weitere Neuronen weiterzugebenden Impuls umwandeln.12 Aus der Architektur künstlicher neuronaler Netze ergeben sich grundsätzliche Eigenschaften, die denen des menschlichen 10

Wir gehen hier davon aus, dass die langsamere Geschwindigkeit den schwächeren Verkehrsteilnehmern und auch dem Fahrzeug mehr Reaktionszeit in potenziell kritischen Situationen ermöglicht. 11

Nicht unerwähnt sei die grundsätzliche Problematik, dass sich vollautonome Fahrzeuge vollständig an die geltenden Verkehrsregeln zu halten haben. Dies kann im Straßenverkehr tatsächlich zu mangelnder Akzeptanz durch die Selbstfahrer oder sogar zur Provokation risikobehafteter Fahrmanöver (z.B. Überholvorgänge) führen. 12

8

Eine hilfreiche Einführung zu neuronalen Netzen findet sich in http://www.dkriesel.com/science/neural_networks.

Autonomes Fahren – Autos im moralischen Dilemma?

Gehirns gleichkommen. So sind sie lern- und anpassungsfähig, arbeiten massiv parallel und sind robust gegen Störungen. Künstliche neuronale Netze arbeiten zudem nicht ausschließlich deterministisch, d.h. also nicht nur streng regelbasiert. Vielmehr arbeiten sie stochastisch, also mit Wahrscheinlichkeiten und einer systemimmanenten Unschärfe in ihrem Verhalten. Darüber hinaus können sie Probleme generalisieren, also konkrete Problemstellungen auf Basis der bereits in Form von Netzwerkverbindungen gespeicherten Informationen lösen, ohne jemals zuvor genau dieses konkrete Problem gelöst zu haben. Spätestens diese Eigenschaft erinnert an das moralische Dilemma: Obwohl wir es lösen müssen, wollen wir es letztlich nicht – zumindest nicht auf Basis starrer Regeln. Einige der dargestellten Eigenschaften lassen sich nun auf das konkrete Problem anwenden: Erstens kann ein neuronales Netz aufgrund seiner Fähigkeit zur Adaption angelernt werden. Das Anlernen ist beispielsweise möglich, indem das Netz mit Umweltsituationen konfrontiert wird, bei denen über die moralisch „beste“ Lösung Konsens herrscht. Ergebnis des Lernprozesses sind entsprechend modifizierte Verbindungseigenschaften zwischen den einzelnen Neuronen. Bildlich gesprochen lernt das neuronale Netz implizit die Wertvorstellungen, die den SollLösungen zugrunde liegen („du sollst keine Menschen schädigen“). Zweitens kann einem neuronalen Netz aufgrund seiner Fähigkeit zur Generalisierung ein Problem präsentiert werden, auf das wir selbst keine Lösung haben. Und genau dies entspricht der Situation im moralischen Dilemma. Das neuronale Netz ist in der Lage, die Situation zu erfassen und dank seiner Fähigkeit zur Generalisierung zu einer Handlungsanweisung zu kommen. Wie genau das neuronale Netz in der konkreten Situation zu seiner Lösung kommt, ist allerdings nicht mehr im Detail nachvollziehbar. Ähnlich, wie menschliche Entscheidungen zwar in ihrer Gänze verständlich sein mögen, die zellbiologischen Abläufe, die genau zu einer Entscheidung führen, aber schon allein aufgrund ihrer Komplexität niemals exakt nachvollzogen werden können. Bei der Implementierung eines künstlichen neuronalen Netzes zur Lösung des moralischen Dilemmas kommt somit ein Trick zum Einsatz: Es wird ein System entwickelt, welches dazu befähigt wird, das Problem zu lösen – ohne eine vorgegebene Lösung. Die Verantwortung für die Auflösung des Dilemmas wird dem autonomen Fahrzeug übertragen, ohne dass ein konkreter moralischer Rückgriff auf dessen menschlichen „Programmierer“ möglich ist – denn für das konkrete Entscheidungsproblem wurde ja niemals eine konkrete Antwort vorgegeben oder eine konkrete Handlungsanweisung (Regel) in Form eines Algorithmus implementiert. Das Fahrzeug „macht das Beste“ aus der Situation, im Rahmen seiner Möglichkeiten.

Autonomes Fahren – Autos im moralischen Dilemma?

9

Neuronale Netze sind in der Lage, dank der Fähigkeit zur Generalisierung zu einer Handlungsanweisung zu kommen.

Wird die Gesellschaft einen solchen Implementierungsansatz akzeptieren? Die Chancen dafür sind aus Autorensicht nicht abhängig von der konkreten Bearbeitung einer bestimmten Umweltsituation, sondern von der Funktionsweise im Ganzen, d.h. der allgemeinen Leistungsfähigkeit im Alltag. Sofern die vollautomatische Steuerung in den allermeisten Fällen (im Sinne eines „parts per million“ Anspruchs) gut funktioniert, dürfte auch Akzeptanz gegeben sein. Die Behandlung der übrigen Fälle wurde bereits im Kontext der moralischen Betrachtung ausgeführt.

Gesamtgesellschaftliche Perspektive Bei der Diskussion der ethisch-normativen Implikationen der Einführung autonomer Fahrzeuge darf die Begutachtung des Status Quo hinsichtlich normativ relevanter Kategorien wie bspw. Fahrsicherheit nicht ausbleiben. Dies bedeutet nicht, dass es als unwichtig abgetan werden kann, eine möglichst gute Lösung für obi-

Wenn autonome Fahrzeuge die Personenschäden im Straßenverkehr merklich senken, dann ist dies für die normative Bewertung von großer Bedeutung.

ges Dilemma anzubieten. Jedoch versperrt der zu starke Fokus auf spezifische und sehr seltene Situationen den Blick auf die globalen Vorteile der Technologie. Derzeit sterben allein auf deutschen Straßen jährlich etwa 3400 Menschen, etwa 400 000 werden verletzt.13 Etwa 90% aller Autounfälle sind zurückzuführen auf menschliches Fehlverhalten,14 ein Drittel davon ist bedingt durch Alkohol am Steuer.15 Wenn autonome Fahrzeuge in der Lage sind, Anzahl und/oder Schwere von Personenschäden im Straßenverkehr merklich zu senken, dann ist dies für die normative Bewertung von großer Bedeutung. Autonome Fahrzeuge werden dank einer Vielzahl von Sensoren sowie ausreichend Rechenleistung schneller auf Verkehrssituationen reagieren können, als es Menschen je in der Lage wären. Zudem sind sie, anders als Menschen, nie betrunken, müde, unaufmerksam oder erratisch in ihrem Verhalten. Es mag mit autonomen Fahrzeugen zwar zu technisch bedingten Unfällen kommen, in deren Folge auch Verkehrsteilnehmer zu Schaden kommen. Dennoch ist nicht davon auszugehen, dass diese in Häufigkeit und Schwere auch nur annähernd einen solchen Umfang haben werden wie solche, die heute durch menschliches Fehlverhalten verursacht werden. So ist davon auszugehen, dass allein in Deutschland bei einer Marktpenetration von 10% rund 120, bei 50% bereits 1200 Menschenleben pro Jahr gerettet werden können. 16

13

Statistisches Bundesamt: Zahl der Verkehrstoten im Jahr 2014 um 0,9% gestiegen (2015).

14

Hars, Alexander: Selbstfahrende Fahrzeuge: neun Thesen. In: Zeitschrift für die gesamte Wertschöpfungskette Auto-

mobilwirtschaft. 2015. Lin, Patrick: The Robot Car of Tomorrow May Just be Programmed to Hit you (2014). 15

Thierer, Adam; Hagemann, Ryan: Removing Roadblocks to Intelligent Vehicles and Driverless Cars (2014).

16

ebd.

10

Autonomes Fahren – Autos im moralischen Dilemma?

Fazit Für die Einführung autonomer Fahrzeuge ist die gesellschaftliche Akzeptanz ein wichtiger Faktor. Deshalb ist ein ernsthafter Diskurs darüber notwendig, wie sich solche Fahrzeuge verhalten sollen und welche Anwendungsgrenzen zu ziehen sind. Dieser Diskurs sollte sich nicht nur auf automatisierte Fahrzeuge beziehen, sondern allgemein auf die zunehmende Übertragung von Entscheidungs- und Handlungsautonomie an digitale und vernetzte Systeme.17 Nicht begründet ist aus unserer Sicht die Befürchtung, das dargestellte moralische Dilemma könne die gesellschaftliche Akzeptanz autonomer Fahrzeuge und damit auch deren Einführung verhindern. Auch wenn das Dilemma selbst a priori nicht auflösbar ist, so sind wir doch in der Lage dazu, technische Grenzen ebenso zu verstehen wie menschliche. Zudem haben wir die Möglichkeit, den Eintritt einer Dilemma-Situation zu vermeiden oder deren Konsequenzen abzuschwächen. Letztlich lässt es sich das Dilemma selbst in Form nicht-deterministischer Systeme sogar umschiffen; und zwar ohne es zu ignorieren. Und insgesamt beinhalten autonome Fahrzeuge das Versprechen, den Straßenverkehr gänzlich sicherer zu machen. In Zukunft stellt sich nicht mehr die Frage, ob autonome Fahrzeuge gesellschaftlich akzeptiert sind. Die Frage wird vielmehr sein, wie lange die Gesellschaft noch menschliche Fahrer akzeptiert.

17

Im Kontext der Nutzung künstlicher neuronaler Netze in sicherheitskritischen Anwendungen stellen sich grund-

sätzliche Fragen zum künftigen Verhältnis zwischen Mensch und Maschine. Der Fotograf Max Aguilera-Hellweg bringt dies wie folgt auf den Punkt: ”Ich bin mir nicht sicher, ob es mir gefällt, dass eine Maschine über Leben und Tod entscheidet. Es wird zwangsläufig Kollateralschäden geben. [...]. Die Wirklichkeit ist nie schwarz oder weiß. Sie besteht aus allen nur möglichen Graustufen. Und das gefällt mir. Jedes Mal wenn man etwas zu begreifen beginnt, tauchen neue Fragen auf. Unaufhörlich. Man stößt immer wieder auf eine neue Schicht die man nicht vermutet hat. An Robotern zu forschen heißt die Büchse der Pandora zu öffnen.“ (Zitat aus: Roboter – Noch Maschine oder schon Mensch? Marc Felix & Bruno Victor-Pujebet, Arte 2014)

Autonomes Fahren – Autos im moralischen Dilemma?

11

In Zukunft stellt sich nicht mehr die Frage, ob autonome Fahrzeuge gesellschaftlich akzeptiert sind. Die Frage wird vielmehr sein, wie lange die Gesellschaft noch menschliche Fahrer akzeptiert.

Über die Autoren: Volker Scholz ist Mitgründer und geschäftsführender Partner bei mm1 und verantwortet die mm1 Aktivitäten in den Bereichen Connected Car, Sustainable Innovation sowie Agile & Lean Startup. Marius Kempf ist Consultant bei mm1 mit Schwerpunkt Technikfolgenabschätzung bei Digitalisierung und Automatisierung.

Über mm1 mm1 ist die Beratung für Connected Business. Mit derzeit fünfzig Beratern unterstützen wir große Unternehmen, die allgegenwärtige Vernetzung von Menschen und Dingen erfolgreich in neue Angebote und effiziente Abläufe zu übersetzen. Wir begleiten bei der Entwicklung, Umsetzung und Vermarktung von Produkten und Dienstleistungen für eine zunehmend digitale Welt. Das Beratungsangebot reicht dabei von der Bearbeitung strategischer Fragen bis zur Sicherstellung der effizienten operativen Umsetzung, von der Konzeption neuer Geschäftsmodelle bis zur Anpassung bestehender Prozesse und Strukturen. Renommierte Unternehmen aus den Branchen Telekommunikation, Medien, Unterhaltungselektronik und Automobilbau zählen zum Kundenkreis von mm1. Das Unternehmen wurde 1997 gegründet und hat seinen Firmensitz in Stuttgart. Mehr Informationen finden Sie unter www.mm1.de.

mm1 Consulting & Management PartG Bolzstraße 6 70173 Stuttgart Tel.: +49 711 184210-0 [email protected]

12

Autonomes Fahren – Autos im moralischen Dilemma?