Julian Nida-Rümelin gehört zu den renommiertesten deutschen Philosophen.
+
Julian Nida-Rümelin gehört zu den renommiertesten deutschen Philosophen.

Verkehr

"Ein Auto kann nichts entscheiden"

Philosoph Nida-Rümelin spricht im Interview über schwierige ethische Fragen des autonomen Fahrens.

Den Weg zum Treffpunkt in der Berliner Innenstadt muss man dem Münchener nicht erklären. Julian Nida-Rümelin hat schließlich selbst einige Jahre gleich um die Ecke im Kanzleramt gearbeitet. Sein Terminkalender ist voll, da bleibt nur ein Treffen morgens früh um acht Uhr. Doch Nida-Rümelin ist hellwach und hochkonzentriert, um seine Gedanken zu einem Thema zu erläutern, das immer komplizierter wird, je länger man sich damit beschäftigt.

Herr Nida-Rümelin, lassen Sie uns mit einem Gedankenexperiment beginnen: Eine Mutter sitzt in einem selbstfahrenden Auto. Ein Kind läuft plötzlich auf die Straße. Mögliche Ausweichvarianten: Eine Betonmauer oder zwei Rentner auf dem Gehweg. Was soll das Auto entscheiden?
Gar nichts.

Bitte was? Wir wollten mit Ihnen ein Interview über die Zukunft des autonomen Fahrens führen.
Das können wir. Aber ich bleibe dabei: Das Auto kann hier nichts entscheiden. Es existiert in der modernen Ethik eine rationalistische Tradition, die davon ausgeht, dass es immer eine beste Lösung gibt. Doch das halte ich für falsch. Wir befinden uns hier vielmehr in einer klassischen dilemmatischen Situation. Was immer getan wird, am Ende gibt es so oder so Opfer. Und derjenige, der entscheidet, lädt Schuld auf sich.

Aber irgendwie muss das Auto doch reagieren.
Wir könnten versuchen, den Wert des menschlichen Lebens zu bemessen und davon die Steuerung des Fahrzeugs abhängig machen. Ein Maßstab wäre, wie lange ein Mensch noch zu leben hat. Solche Berechnungsmethoden gibt es bereits. Wenn wir also nach einer solchen Methode die Menschenleben gegeneinander verrechnen, würde das Auto die Rentner überfahren. Aber stellen Sie sich vor, am Steuer sitzt selbst ein älterer Mensch. Dann müsste das Auto nach diesem Algorithmus den Fahrer opfern. Glauben Sie, dass irgendjemand ein Auto mit so einer Steuerung kaufen würde?

Wohl nicht. Aber die Zahl der Opfer beziehungsweise die der Verschonten könnte ein Maßstab sein.
Dürfen Ärzte einen jungen Motorradfahrer nach einem Unfall aufgeben, weil mit seinen Organen vier Menschen gerettet werden können? Natürlich nicht. Sie müssen mit allen Mitteln versuchen, ihn zu retten. Wir dürfen in einem Rechtsstaat keine Menschenleben gegeneinander verrechnen. Das verstößt gegen die Menschenwürde. Völlig zu Recht hat das Bundesverfassungsgericht 2006 das Luftsicherheitsgesetz für verfassungswidrig erklärt, das einen Abschuss eines Passagierflugzeugs erlaubt hätte, um so das Leben anderer Menschen zu retten.

Der Pilot in Ferdinand von Schirachs Buch „Terror“ wägt jedoch ab und verrechnet Menschenleben. Er entschließt sich am Ende, das von Terroristen entführte Passagierflugzeug abzuschießen, um 70 000 Stadionbesucher zu retten. Eine derartig schwierige Entscheidung zwischen möglichen Opfern könnte ein Algorithmus in einem selbstfahrenden Auto doch auch treffen?
Das würde aber bedeuten, dass wir eine gesetzliche Norm dafür schaffen müssen, denn ein Algorithmus muss schließlich auf irgendeiner Rechtsgrundlage stehen. Es macht einen riesigen Unterschied, ob es um die individuelle Entscheidung einer Person geht oder um eine Regel, nach der in derartigen Situationen generell gehandelt werden muss. Hier sind wir wieder beim verfassungswidrigen Luftsicherheitsgesetz. Es darf keine gesetzliche Regelung geben, die die Aufrechnung von Menschenleben vorschreibt. Infolgedessen darf es auch keine in Computern abgespeicherten Algorithmen geben, die diese Verrechnung vornehmen.

Aber noch einmal: Warum kann ein Steuerungscomputer nicht so programmiert werden, dass er die Zahl der Opfer minimiert?
Kant hat einmal gesagt, der Mensch habe keinen Wert, sondern eine Würde. Der Wert eines einzelnen Menschen ist unendlich. Deshalb kann auch die Zahl der Opfer kein Maßstab sein.

Stellen wir uns vor, in der eingangs erwähnten Unfallsituation steuert ein Mensch das Auto. Auch bei ihm läuft ein Entscheidungsprozess ab. Kann man dieses Verhalten nicht mit einem Computerprogramm nachbilden?
Das menschliche Gehirn arbeitet nicht nach bestimmten Algorithmen. Es gibt immer auch ein Element der Unberechenbarkeit im menschlichen Verhalten. Die Art, wie wir Gründe abwägen, ist nicht in die Computersprache übersetzbar.

Auch nicht mit künstlicher Intelligenz?
Nein, weil ich davon überzeugt bin, dass es nie wirklich intelligente Maschinen geben wird. Nach meiner Auffassung wird immer nur eine sogenannte schwache künstliche Intelligenz möglich sein. Computer können Intelligenz nur simulieren, das aber teilweise sehr gut.

Sie sprachen von der Unberechenbarkeit im menschlichen Verhalten. Ließe sich das nicht mit einem Zufallsgenerator simulieren?
So etwas wird unter Wissenschaftlern und Ingenieuren tatsächlich diskutiert. Ich halte es für absurd. Wie gesagt: Es ist ein Unterschied, ob ein einzelner Mensch in einer konkreten Situation eine Entscheidung trifft, oder ob ein bestimmtes Verhalten in einer Software angelegt ist. Diese müsste dann ja vom TÜV abgenommen und damit auch öffentlich diskutiert werden. Stellen Sie sich vor, ein Autohersteller räumt ein, dass die Software in Unfallsituationen per Zufall entscheidet. Es wird zwischen Menschenleben gewürfelt! Ein Zynismus sondergleichen. Das wird die Öffentlichkeit nicht akzeptieren. Und zwar zu Recht.

Ingenieure sagen, es werde überhaupt gar keine Ethik des autonomen Fahrens benötigt. Denn das selbstfahrende Auto werde darauf getrimmt, durch vorausschauendes Fahren Risiken auszuschließen. Ist die ethische Debatte, die wir gerade führen,  also überflüssig?
Ganz und gar nicht. Denn diese These mancher Techniker ist doch nur ein Selbstbetrug, um sich dieser Diskussion nicht stellen zu müssen. Selbst wenn ein Fahrzeug sehr vorsichtig fährt, wird es immer wieder kritische Entscheidungssituationen geben. Ein Kind, das plötzlich zwischen parkenden Autos auf die Straße rennt, werden sie nicht vermeiden können.

Verstehen wir Sie nach all Ihren Einwänden richtig, dass Sie autonomes Fahren für unmöglich halten?
Autonomes Fahren ist auf absehbare Zeit nicht machbar. Individuell gesteuerte Fahrzeuge und selbstfahrende Autos auf denselben Straßen werden uns vor große Probleme stellen. Das autonome Fahren ist auf speziell gesicherten Strecken wie zum Beispiel Autobahnen und in bestimmten Situationen, etwa bei Stop and Go, durchaus möglich. Aber das Fahrzeug, das keinerlei Intervention des Fahrers mehr zulässt, ist allenfalls vorstellbar bei einem kompletten Systemwechsel, bei dem der individuelle Autoverkehr ähnlich funktioniert wie heute zum Beispiel die Bahn: Sie steigen irgendwo in ein Auto ein, das sie dann durch ein zentrales Leitsystem gesteuert ans Ziel bringt. Dabei muss dann aber der Autoverkehr strikt von Fußgängern oder Radfahrern getrennt werden.

Das ist wohl eher eine Zukunftsvision.
Ja, derzeit geht der Trend im Gegenteil zu einer Mischung der Verkehre, um eine Beruhigung zu erreichen. So experimentieren Städte damit, gemeinsame Verkehrszonen für Autos, Radfahrer und Fußgänger zu schaffen, in denen so gut wie nichts mehr geregelt wird. Ich wage eine Prognose: Den vollautonomen Individualverkehr wird es in den nächsten 30 Jahren nicht geben.

Wenn das autonome Fahren nicht möglich ist, was halten Sie denn in nächster Zeit für umsetzbar?
Unbestritten ist, dass Assistenzsysteme sehr hilfreich sind, die Unfallgefahr zu senken. Sie können die Spur halten, rechtzeitig warnen oder bremsen. Aber die Verantwortung und die letzte Entscheidung müssen immer beim Fahrer bleiben. Das erfordert auch das Wiener Übereinkommen über den Straßenverkehr, das völkerrechtlich verbindlich ist. Nach der aktualisierten Fassung muss der Fahrer automatische Systeme jederzeit übersteuern oder ausschalten können.

Das berücksichtigt auch der Gesetzentwurf von Verkehrsminister Alexander Dobrindt zum autonomen Fahren. Sie teilen also die breit geäußerte Kritik nicht?
Der Gesetzentwurf ist schludrig gemacht und im Detail nicht durchdacht, aber die Grundlinie ist vernünftig: Es bleibt bei der Fahrerverantwortung und bei den Vorgaben der Wiener Verkehrskonvention. Wenn zum Beispiel die Verbraucherschützer beklagen, dass der Gesetzentwurf das automatisierte Fahren verhindert und nicht fördert, dann zeugt das eher von einem Missverständnis. Wir dürfen das Fahren nicht allein einem Computer überlassen. Genau das berücksichtigt der Gesetzentwurf.

Mit diesem Lob sind Sie allerdings eher allein. Wie würden Sie die aktuelle Diskussionslage in der Wissenschaft beschreiben?
Es gibt derzeit eine ungute Konfrontation zwischen vermeintlichen Fortschrittsfreunden, die alle Probleme für lösbar halten, und angeblichen Fortschrittsfeinden, die wie ich Bedenken äußern. Dabei bin ich durchaus optimistisch was den Einsatz neuer Technologien angeht. Doch wir wissen aus der Vergangenheit, wie wichtig eine frühzeitige kritische Auseinandersetzung damit ist, auch für die Akzeptanz in der Bevölkerung. Bei der Kernenergie beispielsweise ist das versäumt worden. Das sollte nicht noch einmal passieren.

Interview: Timot Szent-Ivanyi und Stefan Sauer                                                                             

Das könnte Sie auch interessieren

Kommentare