Software wägt Risiken während des autonomen Fahrens ab

Rund 2000 Szenarien mit kritischen Situationen wurden dabei getestet, verteilt auf unterschiedliche Straßentypen und Gebiete wie Europa, die USA und China. Die Forschungsarbeit, die im Fachjournal „Nature Machine Intelligence“ veröffentlicht wurde, entstand in Zusammenarbeit der Lehrstühle für Fahrzeugtechnik und für Wirtschaftsethik am Institute for Ethics in Artificial Intelligence (IEAI) der TUM.

Maximilian Geißlinger, Wissenschaftler am Lehrstuhl für Fahrzeugtechnik, erklärt den Ansatz so: „Bislang wurden autonome Fahrzeuge im Falle einer ethischen Fragestellung immer vor die Entscheidung ,entweder oder gestellt. Allerdings lässt sich der Straßenverkehr nicht in Schwarz und Weiß einteilen, sondern bedarf auch der Betrachtung der unzähligen Graustufen. Unser Algorithmus wägt verschiedene Risiken ab und trifft aus tausenden möglichen Verhaltensweisen eine ethische Entscheidung – und das in Sekundenbruchteilen.“

Die ethischen Rahmenbedingungen, an denen sich die Risikobewertung der Software orientiert, hat eine Expert:innenrunde im Auftrag der EU-Kommission 2020 in einem Empfehlungsschreiben definiert. Es beinhaltet Grundsätze wie den Schutz schwächerer Verkehrsteilnehmender und die Aufteilung von Risiko im gesamten Straßenverkehr. Damit diese Regeln in mathematische Berechnungen übertragen werden konnten, teilte das Forschungsteam Fahrzeuge und Personen im Verkehr anhand des von ihnen ausgehenden Risikos für andere und anhand ihrer unterschiedlichen Risikobereitschaft ein. Ein Lastwagen kann anderen Verkehrsteilnehmenden mehr Schaden zufügen, während er selbst in vielen Szenarien nur in kleinerem Maße beschädigt wird. Bei einem Fahrrad ist es umgekehrt. Im nächsten Schritt wurde dem Algorithmus vorgegeben, in den verschiedenen Verkehrssituationen ein maximal akzeptables Risiko nicht zu überschreiten. Außerdem wurden Variablen einkalkuliert, die aus der Verantwortung der Verkehrsteilnehmenden resultieren, beispielsweise sich an Verkehrsregeln zu halten.

Bisherige Ansätze behandelten kritische Situationen auf der Straße nur mit einer geringen Anzahl möglicher Manöver. Im Zweifel blieb das Fahrzeug einfach stehen. Durch die nun in den Code eingebrachte Risikobewertung entstehen mehr Freiheitsgrade bei weniger Risiko für alle, so die TU München.

Ein Beispiel: Ein autonomes Fahrzeug möchte ein Fahrrad überholen, auf der Gegenfahrspur kommt ihm ein Lkw entgegen. Alle vorhandenen Daten über die Umgebung und die einzelnen Beteiligten werden nun herangezogen. Lässt sich das Rad überholen, ohne in die Gegenfahrspur zu fahren und gleichzeitig genug Abstand zum Fahrrad zu halten? Welches Risiko besteht für welches Fahrzeug und welches Risiko bedeuten diese Fahrzeuge für einen selbst? Im Zweifel wird das autonome Gefährt mit der neuen Software immer warten, bis das Risiko für alle akzeptabel ist. Gefährliche Manöver werden vermieden, gleichzeitig bleibt das selbstständig fahrende Fahrzeug nicht urplötzlich stehen. Es gibt kein reines „Ja“ oder „Nein“ und Nein spielen keine Rolle, es findet eine Abwägung statt, die viele Optionen beinhaltet.

„Bislang wurden häufig traditionelle ethische Denkmuster gewählt, um Entscheidungen autonomer Fahrzeuge zu begründen. Das führte letztlich in eine Sackgasse, weil in vielen Verkehrssituationen nichts anderes übrig blieb, als ein ethisches Prinzip zu verletzen“, sagt Franziska Poszler, Wissenschaftlerin am Lehrstuhl für Wirtschaftsethik der TUM. „Wir dagegen betrachten den Verkehr mit der Risikoethik als zentralem Ausgangspunkt. Das ermöglicht uns, mit Wahrscheinlichkeiten zu arbeiten und differenzierter abzuwägen.“

Der Algorithmus wurde bislang in Simulationen validiert. Mit dem Forschungsfahrzeug Edgar auf Basis einjes VW T7 wird die Software künftig auch auf der Straße getestet.

Die Entwickler der TU München betonen, dass auch Algorithmen, die nach der Risikoethik handeln, zwar jegliche mögliche Situation abdecken und eine Entscheidung auf Basis von moralischen Prinzipien treffen, aber trotzdem keinen unfallfreien Straßenverkehr garantieren können. Künftig müssten zudem weitere Differenzierungen wie etwa kulturelle Unterschiede in den Entscheidungen der Software berücksichtigt werden. (aum)

Veröffentlicht am 03.02.2023

Autonomes FahrenSoftwareRisikoAlgorithmus