Autonomes Fahren

Unter autonomem Fahren (auch hochautomatisches bzw. vollautomatisiertes Fahren genannt; im engeren Sinne nur die höchsten Stufen der Automatisierungsgrade nach Level 4 und 5) ist die Fortbewegung von Fahrzeugen, mobilen Robotern und fahrerlosen Transportsystemen zu verstehen, die sich weitgehend autonom verhalten.[1] Vom Ursprung des Wortes her ist das Kraftfahrzeug schon immer autonom: Der Begriff „Automobil“ besagt, dass sich ein Gefährt, ohne geschoben oder von Tieren gezogen zu werden, wie von alleine fortbewegt. Seit in Fahrzeugen Mikroprozessorsysteme, Sensoren und Aktoren zusammenwirken, erfährt der Autonomiebegriff eine Präzisierung: Das Fahrzeug macht nicht den Fahrer autonom, sondern es fährt selbstständig.

Grundbegriffe

Autonomer Kleinbus
in Bad Birnbach Oktober 2017
von Easymile

Autonomes, elektrisches Shuttle in der Hofer Altstadt

Die Bundesanstalt für Straßenwesen[2][3] unterscheidet zwischen assistiertem, automatisiertem und autonomem Fahren. Fahrzeuge mit assistierenden und automatisierten Systemen, die sich ähnlich wie Flugzeuge im Autopilotmodus verhalten, können also Lenk-, Blink-, Beschleunigungs- und Bremsmanöver längs und quer der Fahrspur ohne menschliches Eingreifen durchführen. Abhängig vom Automatisierungsgrad spricht man bei den höchsten Stufen von autonomem Fahren (Hoch- und Vollautomatisierung, Level 4 und 5). Bereits in der zweiten Hälfte der fünfziger Jahre des 20. Jahrhunderts postulierte A. A. Kucher, seinerzeit leitender Ingenieur der amerikanischen Ford-Werke, als Mittel gegen die schwindenden Rohölreserven, zur Entlastung der Verkehrsadern und vor allem zur Senkung der steigenden Unfallzahlen die Forderung nach der Entwicklung einer Art elektronischer Autobahn für elektrisch betriebene Autos: „In den ‚Automobilen‘ von morgen wird es keine Abhängigkeit mehr von der menschlichen Reaktionsfähigkeit geben. Die Führung der Fahrzeuge wird über eine narrensichere elektronische Steuerung erfolgen.“ Pionier auf diesem Gebiet wurde dann Ernst Dickmanns, der in den frühen 1980er-Jahren mit Experimenten auf noch nicht für den Verkehr freigegebenen Autobahnabschnitten begann. Sein „Versuchsfahrzeug für autonome Mobilität und Rechnersehen“ VaMoRs (englisch VaMP) durchfuhr ab 1986 längere, verkehrsreiche Strecken teilweise autonom, jedoch noch mit starken Eingriffen durch den Fahrzeugführer. Die ersten seriennahen autonomen Fahrzeuge stellte Audi im Januar 2015 auf der CES in Las Vegas unter dem Begriff „pilotiertes Fahren“ vor. Sie fuhren mehrere hundert Kilometer Autobahn durch die Wüste von Nevada ohne jeglichen Eingriff durch die Person am Steuer.

Das fahrerlose Fahren bekam 2004 starken Auftrieb durch den DARPA-Wettbewerb in den USA, wo auch deutsche Automobilhersteller Preise gewannen.

Eine erste Anwendung des fahrerlos autonomen Fahrens ist das autonome Einparken. Der Fahrer sitzt dabei nicht mehr selbst im Fahrzeug, sondern aktiviert die Einparkautomatik von außen. Dies wurde seit ca. 2010 erprobt und 2015 als kurz vor der Serieneinführung stehende Anwendung angekündigt.[4] Allerdings befinden sich auch 2021 lediglich Systeme auf dem Markt, die eine ständige Überwachung durch den verantwortlichen Fahrzeugführer benötigen. Eine Spezialfunktionalität bietet das vollautomatisierte Valet-Parken. Hierbei wird das Fahrzeug wie beim Valet-Parken in einer Abstellzone abgestellt, fährt dann aber selbstständig, ohne menschliche Überwachung, aber ggf. unterstützt vom im Parkhaus installierter Technik zum Parkplatz.[5]

Das Beispiel eines anderen Fahrzeugtyps, der sich ohne Insassen und insbesondere ohne Fahrer fortbewegte, war der (nie auf dem Mars gelandete) sowjetische Marsroboter Prop-M von 1971 (siehe Mars (Raumsonde)). Mit dem „mobilen Roboter“, von dem hier die Rede ist, ist eine bewegliche Maschine gemeint. Die Aufgabe solcher Systeme besteht darin, dem Menschen mechanische Arbeit abzunehmen. Außerdem können sie mit ihrer Umgebung selbstständig agieren und sich in ihr bewegen. Mobile Roboter werden oft bereits dann als autonom bezeichnet, wenn sich die sie steuernde Software/Elektronik/Hardware „on board“ befindet. Der Roboter ist dann solange autonom, wie seine Energieversorgung dies zulässt. Dem Roboter Anweisungen zu übermitteln, wie oder welche Aufgabe er zu diesem oder jenem Zeitpunkt zu erledigen hat, beeinträchtigt nicht seine Autonomie. Ein Roboter gilt erst dann als vollständig autonom, wenn er in Bezug auf seine Energieversorgung autark ist.

Fahrzeuge, die für den Transport gedacht sind und ohne Fahrer auskommen, sind in der Industrie weit verbreitet. Mithilfe von Sensorik und Software zur Lokalisation, Navigation und Pfadplanung suchen sich diese mobilen Transportroboter auf einem fest definierten Gebiet ihre Wege selbständig.

Einige Universitäten richten Wettbewerbe mit kleinen Modellfahrzeugen aus, die autonom vorgegebene Strecken mit Hindernissen abfahren.[6]

Hochautomatisiertes Fahren (englisch Highly Automated Driving, HAD) bezeichnet einen Zwischenschritt zwischen assistiertem Fahren, bei dem der Fahrer durch zahlreiche (oft getrennte) Fahrerassistenzsysteme bei der Fahraufgabe unterstützt wird, und dem autonomen Fahren, bei welchem das Fahrzeug selbsttätig und ohne Einwirkung des Fahrers fährt.

Beim hochautomatisierten Fahren hat das Fahrzeug eine eigene Intelligenz, die vorausplant und die Fahraufgabe zumindest in den meisten Situationen übernehmen könnte. Mensch und Maschine führen zusammen das Fahrzeug, wobei der menschliche Fahrer jederzeit bestimmt, wie stark er eingreift und wie sehr er sich fahren lässt. Manchmal übernimmt das System aber auch selbständig einen Eingriff, den der Fahrer auch nicht rückgängig machen kann. Beispiele hierfür sind ABS und ESP.

Im Gegensatz zum rein autonomen Fahren bleibt der Fahrer durch die beständige Interaktion allerdings am Geschehen beteiligt und Herr der Lage. Andererseits wird er durch eine kontinuierlich vorhandene Assistenz entlastet und besonders in kritischen Situationen geeignet unterstützt. Derzeit scheint sich für das hochautomatisierte Fahren der Begriff „Pilotiertes Fahren“ zu etablieren. Audi hat sich auf der 16. internationalen Fachkonferenz „Fortschritte in der Automobilelektronik“ in Ludwigsburg als erster europäischer Automobilhersteller relativ konkret zu seinem Zeitplan rund um das pilotierte Fahren geäußert: Noch in diesem Jahrzehnt (also spätestens 2020) soll pilotiertes Fahren realisiert werden.

Die Begriffsbildung ist zurzeit noch nicht abgeschlossen, so dass noch keine einheitlichen Definitionen existieren, eine vergleichende Zusammenstellung wurde aber z. B. im Rahmen des EU-Projekts „AdaptIVe“ durchgeführt.[7]

In einer Arbeitsgruppe der Bundesanstalt für Straßenwesen (BASt) zu „Rechtsfolgen zunehmender Automatisierung“ wurde beispielsweise eine Differenzierung getroffen zwischen teilautomatisiertem Fahren, wo der Fahrer noch die vollständige Verantwortung für die Fahraufgabe innehat, ihn das Fahrzeug aber sowohl bei der Längs- als auch Querführung unterstützt. Beim hochautomatisierten Fahren kann der Fahrer die Verantwortung temporär an das Fahrzeug abgeben und sich anderen, fahrfremden Aufgaben widmen. Eine besondere Bedeutung hat dabei das so genannte Zeitbudget. Dies ist die Zeitspanne, die dem Fahrer verbleibt, um in problematischen Situationen wieder die Kontrolle des Fahrzeugs zu übernehmen und auf die Situation angemessen zu reagieren. Hierfür muss der Fahrer wieder einen Überblick über die aktuelle Verkehrssituation und das Geschehen um ihn herum erlangen, eine Entscheidung über eine angemessene Reaktion fällen und diese Ausführen. BMW geht dazu bspw. von 7 Sekunden aus. In der Wissenschaft gibt es Erkenntnisse, die in Abhängigkeit von der Situation Zeiten von mehr als 8 Sekunden für notwendig halten.[8] Hierbei ist zu beachten, dass das minimale Zeitbudget von unterschiedlichen Faktoren abhängt und sich demnach situationsbedingt und abhängig vom Fahrerzustand unterscheiden kann.

Eine Studie[9] der Unfallforschung der Versicherer hat gezeigt, dass 90 Prozent der Fahrer nach einer Fahrt, bei der sie durch eine Nebenaufgabe stark abgelenkt waren, nach 7 bis 8 Sekunden die Automation abschalteten. Untersucht man allerdings als Indikatoren des Situationsbewusstseins für die Fahrsituation den ersten Blick in den Spiegel und den Blick auf die Geschwindigkeitsanzeige, werden 12 bis 15 Sekunden benötigt.

Weiterhin zeigte sich, dass mit Ausnahme des ersten Blicks auf die Straße die Werte müder hochautomatisiert fahrender Fahrer mit diesen Werten vergleichbar sind. Allgemein erreichten die hochautomatisiert fahrenden Fahrer einen höheren Müdigkeitslevel als die manuellen Fahrer, und sie erreichten diesen Müdigkeitslevel außerdem früher. Eine hochautomatisierte Fahrt ohne Nebentätigkeiten sollte deshalb eine Dauer von 15 bis 20 Minuten nicht überschreiten. Längere Fahrdauern ohne Unterbrechung sind als nicht sicher einzustufen, da Fahrer nicht in der Lage sind, eine monotone Fahraufgabe über einen längeren Zeitraum zu überwachen ohne zu ermüden.

Visionen

Wiktor Wasnezows teilautonom fliegender Teppich (1880)

Die autonome Fortbewegung ist eine alte Vision der Menschheit. Wiktor Wasnezow malte 1880 einen zwar von einem Menschen geführten, aber im Wesentlichen autonom fliegenden Teppich.

Im Jahr 2035 könnten laut einer Studie der Unternehmensberatung Oliver Wyman teil- und vollautomatisierte Fahrzeuge zwischen 20 und 35 Prozent[10] der globalen Fahrzeugproduktion ausmachen. Das Fraunhofer-Institut IAO prognostizierte im November 2015 in einer Studie im Auftrag des Bundeswirtschaftsministeriums, das autonome Fahren werde „bereits vor 2025 technische Reife erlangen“ und danach eine „Wertschöpfung am Standort Deutschland in Höhe von 8,8 Milliarden Euro“ ausmachen.[11][12]

Im Dezember 2016 übergab die Deutsche Akademie der Technikwissenschaften (acatech) dem Bundesverkehrsministerium eine Studie, in der acatech nicht vor 2030 mit autonomen Fahrzeugen rechnet.[13] Gleichzeitig werden seit Oktober 2016 alle Tesla-Fahrzeuge mit einer Hardware ausgeliefert, die es zukünftig erlauben soll, die Fahrzeuge vollautonom, d. h. nach dem SAE Level 5 zu fahren. Die Prognose von Tesla, dass das autonome Fahren bereits im Jahr 2017 mit den Tesla-Fahrzeugen möglich sein wird, bewahrheitete sich nicht.[14] 2019 war auf der Tesla-Website zu lesen, dass das System einen autonomen Betrieb „unter fast allen Umständen“ ermöglichen solle.[15]

Automatisierungsgrade (Level)

Häufig wird kontinuierlich wirkende Automatisierung auch nach Automatisierungsgrad oder -level unterschieden. Der hier gültige Standard ist die SAE J3016 der SAE-International, einer Standardisierungsorganisation. Sie hat Arbeiten der BASt (Bundesanstalt für Straßenwesen[2]) weitergeführt. Hierbei werden die Fahrfunktionen in die Level 0 bis 5 eingeteilt. Die vorgeschlagenen einfachen Begriffe (assistierter, automatisierter und autonomer Modus) beschreiben Fahrerrollen und bleiben auch in Bezug auf frühere Bezeichnungen des VDA und der BASt konsistent und trennscharf.

Level der BASt, VDA und SAE-Standard J3016:[3]

Automatisierungsgrad Level 0: Selbstfahrer („Driver only“), der Fahrer fährt selbst (lenkt, beschleunigt, bremst etc.)
Automatisierungsgrad Level 1: Assistierter Modus. Bestimmte Assistenzsysteme helfen bei der Fahrzeugbedienung, beispielsweise der Abstandsregeltempomat (ACC).
Automatisierungsgrad Level 2: Assistierter Modus. Teilautomatisierung. Funktionen wie automatisches Einparken, Spurhalten, allgemeine Längsführung, Beschleunigen, Abbremsen werden von den Assistenzsystemen übernommen, z. B. vom Stauassistent.
Automatisierungsgrad Level 3: Automatisierter Modus. Der Fahrer muss das System nicht dauernd überwachen. Das Fahrzeug führt selbstständig Funktionen wie das Auslösen des Blinkers, Spurwechsel und Spurhalten durch. Der Fahrer kann sich anderen Dingen zuwenden, wird aber bei Bedarf innerhalb einer Vorwarnzeit vom System aufgefordert die Führung zu übernehmen. Der Gesetzgeber arbeitet darauf hin, Automatisierungsgrad-3-Fahrzeuge zuzulassen.
Automatisierungsgrad Level 4: Autonomer Modus. Hochautomatisierung. Die Führung des Fahrzeugs wird dauerhaft vom System übernommen. Werden die Fahraufgaben vom System nicht mehr bewältigt, kann der Fahrer aufgefordert werden, die Führung zu übernehmen.
Automatisierungsgrad Level 5: Autonomer Modus. Vollautomatisierung. Kein Fahrer erforderlich. Außer dem Festlegen des Ziels und dem Starten des Systems ist kein menschliches Eingreifen erforderlich. Das Fahrzeug kommt ohne Lenkrad und Pedale aus.

Das Modell der BASt unterscheidet ausschließlich nach assistiertem, automatisiertem und autonomem Modus. Im Fokus der Nutzerkommunikation stehen die Nutzer und deren fahrbezogenen Aufgaben.

Bis einschließlich Level 2 assistieren die Funktionen den Fahrern (Assistierter Modus). Im Level 3 (Automatisierter Modus) automatisieren die Funktionen die Fahraufgabe. Fahrzeuge, deren Systeme Level 3 erfüllen, können zeitweise selbstständig fahren, wobei die Fahrer nach Aufforderung und mit zeitlichem Vorlauf das Steuer wieder übernehmen. Damit gibt die Technik im Level 3 erstmals die Möglichkeit, fahrfremde Tätigkeiten während der Fahrt sicher auszuführen. Die Nutzung dieser technischen Möglichkeit ist mit dem im Jahre 2017 verabschiedeten Gesetz zum automatisierten Fahren in Deutschland auch rechtlich erlaubt. Ab Level 4 (Autonomer Modus) können Fahrzeuge selbstständig fahren, ohne dass die Fahrer übernehmen können müssen – die Funktionen sind also autonom bei der Ausführung der Fahraufgabe.

Von „Autonomem Fahren“ ist bei einem Automatisierungsgrad ab Level 4 die Rede.

Technische Entwicklung

Technisch hat sich das autonome Fahren aus den Fahrerassistenzsystemen entwickelt. Das früheste (1958) stammte von Chrysler und nannte sich Cruise Control (Tempomat). Es regelte die Längsbeschleunigung automatisch, jedoch ohne Kenntnis der umgebenden Fahrzeuge. Die vollautomatische Längsführung (Adaptive Cruise Control, ACC) berücksichtigt den Verkehr und stellt eine Form des teilautonomen Fahrens dar.

Der Prototyp von Mercedes-Benz, Future Truck 2025, fuhr auf der BAB A14 bei Magdeburg auch selbstständig im Kolonnenverkehr. Es handelt sich hier um Autonomiestufen (Level)-3-Autonomie, da das Fahrzeug auch Manöver wie Spurwechsel selbstständig unternehmen konnte und der Fahrer nicht dauerhaft die Fahrt überwachen musste.

Das Konzept Renault EZ-Ultimo soll Fahren auf Autonomiestufe 4 erreichen.

Das autonome Fahren gilt als Paradigmenwechsel, ist jedoch technisch ein evolutionärer Prozess. Voraussetzung ist das Vorhandensein von Sensoren (Radar, Video, Laser) und Aktoren (in der Motorsteuerung, der Lenkung, den Bremsen) im Fahrzeug. Die Autonomie selbst stellen Computer im Auto bereit, die die Sensordaten fusionieren, sich daraus ein Bild der Umwelt formen, automatische Fahrentscheidungen treffen und sie an die Aktoren weiterleiten. Zur Bewältigung der großen Datenmengen, etwa beim Erkennen von Verkehrszeichen, wird vor der Implementierung in die Fahrzeuge häufig maschinelles Lernen eingesetzt. Medientheoretiker fordern einen breiteren gesellschaftlichen Dialog über die Auswirkungen des autonomen Fahrens, insbesondere bei Dilemmasituationen, wo der Bordrechner Schaden nicht mehr vermeiden kann, sondern Schäden gewichten muss – im Grunde ethische Entscheidungen.[16]

Rechtlich steht dem autonomen Fahren das international verabschiedete Wiener Übereinkommen über den Straßenverkehr von 1968 entgegen, das in Art. 8 (5) explizit dem Fahrzeugführer die dauernde Fahrzeugbeherrschung vorschreibt. Seit 2015 wird eine Modifizierung des „Wiener Weltabkommens“ vorgenommen, um teilautonome Systeme zuzulassen. Das autonome Fahren ist derzeit nur zu Testzwecken mit Sondergenehmigung möglich. Beispielsweise hat Daimler für zwei seiner Freightliner Inspiration Trucks mit dem Highway Pilot System eine Lizenz für den Straßenverkehr im US-Bundesstaat Nevada erhalten.[17]

Im Dezember 2011 wurde bekannt, dass Google nach mehreren Jahren der Entwicklung ein US-Patent für die Technik zum Betrieb von autonomen Fahrzeugen gewährt wurde. Die Testflotte hatte nach Aussage des Unternehmens zu diesem Zeitpunkt bereits ca. 257.000 km (160.000 Meilen) unter begrenzter Einwirkung des Fahrers sowie mehr als 1600 km (1000 Meilen) ohne Fahrerbeteiligung zurückgelegt.[18] Im Mai 2012 erhielt Google in den USA die erste Zulassung eines autonomen Fahrzeugs für den Test auf öffentlichen Straßen des US-Bundesstaates Nevada. Bedingung war jedoch, dass sich eine Person hinter dem Steuer befindet, die notfalls eingreifen kann.[19] Das Google-Roboter-Auto soll aber bereits im Dezember 2013 sicherer gefahren sein als ein menschlicher Autofahrer.[20] Lange Zeit versuchte Google für sein laufend an hierfür gekauften Modellen von Toyota, Honda, Audi, Lexus und VW weiterentwickeltes Technikpaket Google Driverless Car einen passenden Autohersteller zu finden und favorisierte hierfür Tesla Motors.[21][22] Später begann Google jedoch, 100 hauseigene Elektro-Testfahrzeuge zu bauen und erste Prototypen dieses neuen Fahrzeugtyps ohne Lenkrad, Bremse und Gaspedal mit körperlich bedürftigen und anderen interessierten Personen zu testen.[23][24] Im Mai 2014 stellte Google sein Roboterauto erstmals einer Gruppe von Journalisten vor, die im Vergleich zwischen menschlichem Fahrer und selbstfahrendem System keinen Unterschied im Fahrverhalten mehr feststellen konnten. Google erklärte jedoch, dass das Fahren bei Regen und Schnee nach wie vor Probleme bereite. Das Robotersystem beruhe auf selbstständigem Lernen und selbstständiger Erfassung und Interpretation der Umgebung. Als Start für den Massenmarkt hatte Google-Mitgründer Sergey Brin im Mai 2014 das Jahr 2017 als Ziel für die USA angegeben.[25][26] Dieser Zeitpunkt konnte aber nicht eingehalten werden.

Im Juli 2014 fuhr in Deutschland ein Prototyp der Daimler AG (Future Truck 2025) auf dem damals noch nicht eröffneten Autobahnteilstück (BAB A14 nördlich von Magdeburg) völlig selbständig, insbesondere im Kolonnenverkehr, jedoch ohne autonomes Wechseln der Spur.[27] Am 2. Oktober 2015 fuhr erstmals ein seriennaher Lkw mit Teilautonomie (Ausnahmegenehmigung nach § 70 StVZO) auf einer öffentlichen Straße, und zwar der BAB A8 in Baden-Württemberg.[28][29]

2016 begann der experimentelle Einsatz von autonomen Kleinbussen im öffentlichen Nahverkehr, insbesondere mit Fahrzeugen der Marke Navya, in der Schweizer Gemeinde Sitten.[30] Ein ähnliches Projekt gab es in Lyon/Frankreich.[31] Seit Oktober 2016 werden alle Tesla-Fahrzeuge mit einer Hardware ausgeliefert, die es erlaubt, die Fahrzeuge zukünftig vollautonom, d. h. nach SAE Level 5 zu fahren.[14] Vorerst wird das System in einem „Schatten-Modus“ mitlaufen, d. h. ohne in den Fahrbetrieb einzugreifen, und die gesammelten Daten an Tesla zurücksenden, um die Fähigkeiten des Systems schrittweise zu verbessern, bis das System zur Freigabe mittels eines over-the-air upgrades bereit ist.[32] Tesla schätzte, dass ein komplett autonomes Fahren Ende 2017 möglich sein würde und plante eine Demonstrationsfahrt von San Francisco nach New York, bei der ein Fahrzeug die Strecke ohne Fahrer zurücklegen sollte.[33][34] Der Zeitplan konnte jedoch nicht eingehalten werden und die Testfahrt fand nicht statt.[35][36]

Ab Januar 2017 testet der Automobilzulieferer Delphi Automotive ein autonom fahrendes Demonstrationsfahrzeug. Das zusammen mit Mobileye entwickelte Fahrzeug soll auf einer rund 10 Kilometer langen Teststrecke im öffentlichen Verkehr von Las Vegas alltägliche Verkehrssituationen wie etwa Autobahnauf- und -abfahrten, Tunnelpassagen und dichten innerstädtischen Verkehr bewältigen.[37]

Im April 2017 kündigten Bosch und Daimler eine Kooperation an. Gemeinsam sollten autonome Fahrzeuge für das urbane Umfeld entwickelt werden. Im August 2021 wurde publik, dass die beiden Kooperationspartner ihr „Robo“-Projekt beenden.[38]

Im August 2017 stellte Audi auf der IAA mit der 4. Generation des Audi A8 das erste Serienfahrzeug mit Funktionen der Automatisierungsstufe 3 vor. Diese umfassen die hochautomatisierte Führung des Fahrzeuges auf Autobahnen bei Geschwindigkeiten unter 60 km/h und in Stausituationen. Dabei wird die gesamte Verantwortung über das Fahrzeug an den Staupiloten abgegeben und es besteht keine Kontrollpflicht durch den Fahrer. Im April 2020 gab Audi bekannt, aufgrund der weiterhin fehlenden ECE-Zulassung den Staupiloten in dieser Fahrzeuggeneration nicht mehr freizuschalten.[39] Daimler beantragte 2021 eine Level-3-Zertifizierung für seine S-Klasse, vorerst nur für Autobahnstrecken mit hohem Verkehrsaufkommen bis zu einer Höchstgeschwindigkeit von 60 km/h.[40]

Im Juli 2019 gab BMW bekannt, dass gemeinsam mit dem chinesischen IT-Unternehmen Tencent ein Rechenzentrum in der ostchinesischen Hafenstadt Tianjin gebaut werden soll. „BMW kann damit Lösungen für das autonome Fahren entwickeln, die besser zu den spezifischen Fahrbedingungen in China passen“, erklärte der China-Chef von BMW, Jochen Goller.[41][42]

Interaktionsdesign

Um die Interaktion intuitiver zu gestalten, werden verschiedene Design-Metaphern verwendet, wie die Kapitäns-Metapher oder die Horse-Metapher (der sogenannte H-Mode).

Bei der Kapitäns-Metapher soll sich der Fahrer als Kapitän fühlen, der nicht mehr selber sein Schiff bedient, sondern lediglich Anweisungen gibt, die dann ausgeführt werden. Die Horse-Metapher bedient sich der Vorstellung, dass der Fahrer wie ein Reiter in Interaktion mit seinem Pferd steht. Er kann zum Einen die Zügel anziehen (also z. B. das Lenkrad fester greifen) und sehr direkt bestimmen, was das Pferd, bzw. das Auto macht. Andererseits besitzt das Pferd eine eigene Intelligenz und bei losen Zügeln gibt der Reiter bzw. Fahrer nur Wünsche vor, die dann bei der Ausführung berücksichtigt werden. In Notfallsituationen, wenn der Reiter bzw. Fahrer z. B. abgelenkt ist, kann das Pferd bzw. das Auto auch selbstständig reagieren, um einen Unfall zu vermeiden. Gleichzeitig ist der Reiter bzw. Fahrer durch die sehr direkte Interaktion schnell „auf dem Laufenden“ und kann sich wieder aktiv an der Führung beteiligen.

Recht

Deutscher Verkehrsgerichtstag

Das autonome Fahren wirft schwierige haftungsrechtliche Fragen auf, die ethisch und rechtsphilosophisch beantwortet werden müssen.

Das Thema ist mehrmals vom Deutschen Verkehrsgerichtstag beraten worden. Die ständige Kommission des 53. Deutschen Verkehrsgerichtstags ging im Januar 2015 davon aus, dass die Technik einen wesentlichen Beitrag zur Verbesserung der Sicherheit und Leichtigkeit des Straßenverkehrs leisten könne. Eine vollständige und dauerhafte Einführung des Systems würde nach den derzeitigen rechtlichen Möglichkeiten aber nicht gegeben sein. Daneben wurde gefordert, dass der Fahrer selbst über die Nutzung des Systems entscheiden könne (Abschaltbarkeit) und jederzeit über den Automatisierungsgrad informiert werde. Der hochautomatisierte Fahrbetrieb müsse dann den Fahrer von Sanktionen und der Fahrerhaftung freistellen.[43]

Der 54. Deutsche Verkehrsgerichtstag im Januar 2016 endete mit einem Streitgespräch zum autonomen Fahren. Schwerpunkte der Diskussion waren der ethische Aspekt (wie soll der Algorithmus in „Dilemmasituationen“ reagieren) und die gesellschaftliche Akzeptanz.[44] Erschwert werden die Dilemma-Situationen dadurch, dass international verschiedene Rechts- und Werteverständnisse aufeinander treffen und man sich möglicherweise nicht auf eine gemeinsame Ethik einigen könne.[45]

Gesetzgebung in den USA

Die kalifornische Kraftfahrzeugbehörde DMV (California Department of Motor Vehicles) hat im Dezember 2015 bestimmt, dass autonome Fahrzeuge in dem US-amerikanischen Bundesstaat mit Lenkrad und Pedalen ausgestattet sein müssen. Fahrzeugführer müsse ein fahrtüchtiger Insasse mit Fahrerlaubnis sein, der jederzeit das Steuer übernehmen und in die Fahrt eingreifen könne. Google zeigte sich über diese Entscheidung „sehr enttäuscht“, weil sie die technischen Möglichkeiten der Fahrzeuge verkenne und den Markt für selbstfahrende Autos behindere. Außerdem werde so die Mobilität von Menschen, die kein Auto lenken können, beschränkt.[46]

Im Gegensatz dazu setzt der Bundesstaat Arizona bei der Regulierung selbstfahrender Autos auf eine im Vergleich zu anderen Bundesstaaten besonders liberale Gesetzgebung, um im Standortwettbewerb für Technologiefirmen attraktiv zu sein.[47] Im Herbst 2017 führte Waymo in Arizona die ersten selbstfahrenden Fahrzeuge ein, die vollständig ohne menschliche Überwachung auskommen. Der Fahrersitz kann unbesetzt bleiben. Allerdings werden diese Fahrzeuge bisher nur in einem dünn besiedelten Vorort von Phoenix eingesetzt, der bezüglich der Komplexität des Verkehrsgeschehens eher geringe Anforderungen an das Auto stellt.[48][49]

Gesetzgebung in Deutschland

Im Mai 2015 forderte der Bundesrat die Bundesregierung auf, zusätzlich zu einer Teilstrecke der südlichen Autobahn A9 zügig weitere Strecken für autonome Fahrtests zuzulassen.[50]

Seit dem Sommer 2016 arbeitete das Bundesverkehrsministerium an einem Gesetzesentwurf zum automatisierten Fahren. Ein Kernpunkt des Entwurfes bezog sich auf die Verkehrspflichten des Fahrzeugführers. Ihm sollte es erlaubt sein, dass er sich während der Fahrt abwenden dürfe, solange er jederzeit „wahrnehmungsbereit“ bleibe. Er müsste also sofort nach einer Aufforderung durch die Fahrautomatik wieder selbst das Lenkrad übernehmen. Weiterer Kernpunkt war die Neuregelung des Haftungsrisikos. Ungeklärt war, ob der Fahrzeugführer fahrlässig handeln würde, wenn er sich ganz auf die im Auto verbaute Technik verließe. Kritiker beschrieben den Gesetzesentwurf als politischen Aktionismus. Es fehle bisher an Substanz, und viele relevante Aspekte, z. B. bezüglich der Führerscheinausbildung, aber auch der Datenschutz sei nicht geregelt worden.[51] Eine im Ministerium angesiedelte Ethik-Kommission, an der Vertreter der Automobilindustrie und des ADAC sowie Verbraucherschützer unter Vorsitz des früheren Bundesverfassungsrichters Udo Di Fabio teilhaben sollten, hat Leitlinien für die Programmierung automatisierter Fahrsysteme entwickelt[52] und dies in einem Bericht zusammengefasst.[53]

Am 25. Januar 2017 beschloss die Bundesregierung einen Gesetzentwurf, der autonomes Fahren auf den Straßen des Landes unter bestimmten Voraussetzungen zulassen soll. Der Entwurf kam auch auf Drängen der Daimler AG zustande.[54][55] Das Gesetz zur Änderung des Straßenverkehrsgesetzes wurde am 30. März 2017 im Bundestag beschlossen. Demnach darf sich der Fahrzeugführer in einem entsprechend ausgestatteten Fahrzeug während des Fahrens „mittels hoch- oder vollautomatisierter Fahrfunktionen … vom Verkehrsgeschehen und der Fahrzeugsteuerung abwenden; dabei muss er derart wahrnehmungsbereit bleiben, dass er seiner Pflicht … jederzeit nachkommen kann.“[56] In dem Fahrzeug soll es eine Blackbox geben, die alle relevanten Daten aufzeichnet, sechs Monate lang speichert und danach löscht, es sei denn, das Fahrzeug wäre in einen Verkehrsunfall verwickelt gewesen; in diesem Fall blieben die Daten zur Ermittlung des Hergangs erhalten. Kritiker wiesen darauf hin, dass das neue Gesetz nicht nur viele Fragen offen lasse, sondern auch die Kernprobleme dadurch nicht gelöst worden seien.[57] Für den Verbraucher verbleibe es bei zu viel Rechtsunsicherheit. Auch die Vorratsdatenspeicherung der Fahrzeugdaten sei nicht im Sinne des Verbrauchers und nicht hinzunehmen.[58]

Am 28. Juli 2021 trat ein weiteres Gesetz zum autonomen Fahren in Kraft.[59] Mögliche Einsatzbereiche wären dabei etwa der Shuttle-Verkehr von einem festen Ziel zum nächsten oder der Verkehr zwischen zwei Verteilzentren (Hub2Hub-Verkehr). Das Gesetz regelt unter anderem, unter welchen Voraussetzungen Fahrzeugen dieser Art eine Betriebserlaubnis erteilt werden kann und wie Daten beim Betrieb der Kfz verarbeitet werden dürfen.[60]

Ethische Fragen

Da es auch bei autonomen/selbstfahrenden Straßenfahrzeugen Situationen geben kann, in denen Unfälle mit Personenschäden unvermeidbar sind, muss im Vorfeld entschieden werden, welchen Maximen ihr Verhalten in solchen Situationen folgen soll. Ein menschlicher Fahrer würde in einer plötzlichen Situation, wenn beispielsweise ein Kind auf die Straße läuft, instinktiv reagieren, ohne sich überhaupt aller relevanten Faktoren (etwa der Personen auf dem Bürgersteig) bewusst zu sein. Überlegungen, welches Handeln moralisch zu rechtfertigen ist, wird er nicht in der Lage sein zu tätigen. Allerdings trifft das bei autonomen/selbstfahrenden Autos nicht zu. Die Entscheidung, wie sich das Fahrzeug in welcher Situation zu verhalten hat, wird lange vor einem eventuellen Unfall getroffen. Diese Tatsache hat erhebliche Konsequenzen für die Bewertung eines Unfalles durch ein autonomes Auto.[61] So stellen sich beispielsweise folgende Fragen:

Kann eine Maschine die Situation überhaupt richtig bewerten, beispielsweise zwischen einem Puppenwagen und einem echten Kinderwagen unterscheiden?
Würde ein Aufrechnen von Menschenleben (utilitaristisch) eine unzumutbare Instrumentalisierung der „Geopferten“ darstellen?
Würde die Alternative, das autonome Fahrzeug selbst nebst Insassen zu opfern, die Akzeptanz der Technologie verringern?
Wenn ein Aufrechnen sinnvoll wäre, wie ist dies zu organisieren, also welche Kriterien spielen eine Rolle (z. B. die Anzahl von Menschen oder das Alter)?

Insbesondere die letztgenannte Frage ist Gegenstand aktueller Forschung.[62][63][64] Je stärker der Praxisbezug einer eventuellen Programmierung (in moralischen Fragen) einer Maschine wird, desto mehr häufen sich Probleme.

Ein Forschungsteam vom Max-Planck-Institut für Bildungsforschung, dem Massachusetts Institute of Technology (MIT) und der University of Exeter hat fast 5000 Menschen die Frage gestellt, wer schuld an einem Unfall habe, wenn bei der Fahrt mit einem teilautonomen Fahrzeug sowohl der Mensch als auch die intelligente Technik Fehler machten. Ergebnis: In Szenarien, in denen Mensch und Maschine sich die Kontrolle über das Fahrzeug teilten und beide einen Fehler machten, gaben die Befragten eher dem Menschen die Schuld an dem Unfall – unabhängig davon, ob er der erste oder zweite Fahrer war. Warum Menschen eher anderen Menschen die Schuld geben und nicht den autonomen Fahrzeugen, sei eine offene Frage, so die Forscher. Generell neigten Menschen dazu, Ursachen für Ereignisse eher anderen Menschen zuzuschreiben als dem Zufall oder der Umwelt. Ein von künstlicher Intelligenz gesteuertes Fahrzeug sei in der Vorstellung der Menschen – bisher – kein eigenständiger Akteur, der handeln und frei entscheiden könne. Deshalb tendierten Menschen dazu, Maschinen von der Schuld freizusprechen.[65][66]

Der Philosoph Richard David Precht verweist in seinem Essay Künstliche Intelligenz und der Sinn des Lebens (2020) darauf, dass der Begriff „Autonomes Fahren“ irreführend sei. Der Mensch, der in einem autonomen Fahrzeug sitze und gefahren werde, sei nicht autonom, sondern heteronom, also fremdbestimmt.[67][68]

Sicherheit

Ausfälle und Unfälle[69]
Hersteller	Gesamtstrecke in km	Eingriffe	Strecke km je Eingriff
Waymo	567.366	63	9006,0
GM Cruise	211.912	105	2018,0
Nissan	8.058	24	336,0
Zoox	3.611	14	258,0
Drive_ai	9.680	92	105,0
Baidu	3.137	43	73,0
Telenav	2.544	52	49,0
Aptiv	2.915	81	36,0
Nvidia	813	109	7,5
Valeo	888	212	4,2
Bosch	3.285	1.196	2,7
Mercedes-Benz	1.751	843	2,1

Die USA sind Vorreiter in der Erprobung autonomer Fahrzeuge. 2015 waren in Kalifornien 48 solcher PKW für den öffentlichen Verkehr zugelassen. Das California Department of Motor Vehicles (DMV), die staatliche KFZ-Zulassungsstelle, erteilt Fahrgenehmigungen und überwacht die Tests autonomer Fahrzeuge. Im Rahmen der Verordnung müssen Unternehmen, denen Genehmigungen für den Betrieb autonomer Fahrzeuge erteilt wurden, jährlich Berichte über Ausfälle und Unfälle einreichen, die dann vom DMV veröffentlicht werden.[70]

Googles vollautonome Autos waren in mehrere Unfälle verwickelt, meist innerhalb von Ortschaften[71][72]. In einem der bekannt gewordenen Fälle hat der autonome Algorithmus den Unfall verursacht.[73]

Am 7. Mai 2016 kam es zu einem tödlichen Unfall eines Fahrzeugs vom Typ Tesla Model S. Wie weit die Autonomie dieses Fahrzeugs tatsächlich ging, unterliegt seitdem Ermittlungen.[74] Der Tesla-Fahrer starb bei einer Kollision mit einem entgegenkommendem, nach links abbiegenden Sattelzug, ohne dass „Autopilot“ oder Fahrer eine Bremsung eingeleitet hätten. Das Fahrassistenz-System soll den Sattelauflieger mit einem hochhängenden Schild verwechselt haben. Die National Highway Traffic Safety Administration leitete formal Ermittlungen ein.[75][76][77]

Kritisch wurde 2019 die Vielzahl von Fällen bewertet, bei denen der Fahrer von Tesla-Autos den sogenannten Autopiloten übernehmen ließen, während der Fahrer sich etwa zum Schlafen legte. Dieses Verhalten entsprach nicht den Spezifikationen des Fahrzeugs und nicht den Richtlinien des Herstellers.[78]

Im März 2021 ermittelten US-Bundesbehörden nach eigenen Angaben in 23 aktuellen Unfällen von Tesla-Fahrzeugen, die mit der Funktion des Autonomen Fahrens in sicherem oder möglichem Zusammenhang standen.[79]

Sonstiges

Der Begriff Selbstfahrer (Selbstfahrendes Spezialfahrzeug) bezieht sich auf eine Transportplattform auf Rädern, die nicht notwendigerweise wie ein Lkw-Anhänger gezogen werden muss, sondern auch selbst mit einem Antriebsmotor ausgestattet ist. Ein solches Fahrzeug kann an weitere desselben Systems starr angekoppelt oder auch nur über Ladegut mit einem anderen gekoppelt sein. Diese Selbstfahrer werden typisch per Fernsteuerung von einem daneben gehenden Bediener gesteuert. Verschiedene Manöver wie Drehen am Stand oder Versetzen zur Seite können mittels automatisierter Abläufe abgerufen werden.

Mobilkrane haben mitunter Assistenzsysteme, die ein Aufnehmen von zu schwerer Last, die den Kranarm zum Knicken oder den Kran zum Kippen bringen könnte, abbrechen, oder das zu weite Ausladen einer bereits gehobenen Last.

Die Streckenaufnahme für einen Sondertransport mit großen Ausmaßen und/oder großem Gewicht wurden ehemals an Hindernissen, Engstellen und Kurven zuerst vermessen und der Transport unter genauer Beobachtung mit Lenkgefühl von erfahrenen Menschen händisch gefahren. Heute besteht die Möglichkeit Routen im Zuge einer Vorausbefahrung per 3D-Laserscan geometrisch präzise zu erfassen und eine Durchfahrt mit der bekannten Geometrie der Last rechnerisch zu simulieren.

Autonomes Fahren wird auch für Schienenwege entwickelt. Seit 1985/1986 pendelt die Dorfbahn Serfaus in Tirol in einem Tunnel als seilgezogene Luftkissenbahn zwischen vier Stationen völlig autonom insbesondere mit Skifahrern. Ein Abschnitt der für den Personenverkehr aufgelassenen Pinkatalbahn soll der Entwicklung autonom fahrender Schienenfahrzeuge dienen. Verschiedene U-Bahn-Linien fahren autonom, typisch sind Trennwände längs des Bahnsteigs mit Türen, die sich vor jeder Wagentür öffnen. In Wien wird zumindest eine Linie weitgehend autonom betrieben, dennoch sitzt eine Person im Führerstand, um den Bahnsteig zu überwachen.

Musikalische Rezeption

Das Thema wird musikalisch rezipiert:

Abwärts: Autonomes Fahren (2018)[80]
Deichkind: Endlich Autonom. Album Wer sagt denn das? (2019)

Literatur

Markus Maurer, J. Christian Gerdes, Barbara Lenz, Hermann Winner (Hrsg.): Autonomes Fahren. Springer Open 2015 (Hinweis des Verlags „The book is published with open acces at SpringerLink.com“), ISBN 978-3-662-45853-2.
Gereon Meyer, Sven Beiker (Hrsg.): Road Vehicle Automation. Springer International Publishing 2014, ISBN 978-3-319-05990-7 und Folgebände: Road Vehicle Automation 2 (2015), Road Vehicle Automation 3. (2016), Road Vehicle Automation 4. (2017), Road Vehicle Automation 5. (2018).
Marco Becker, Kamal Vaid: Selbst ist das Auto – automatisiertes und autonomes Fahren. Die Zukunft der Mobilität. Diplomica Verlag, Hamburg 2018, ISBN 978-3-96146-584-2.
C. Löper, J. Kelsch, F. O. Flemisch: Kooperative, manöverbasierte Automation und Arbitrierung als Bausteine für hochautomatisiertes Fahren. In: Gesamtzentrum für Verkehr Braunschweig (Hrsg.): Automatisierungs-, Assistenzsysteme und eingebettete Systeme für Transportmittel. GZVB, Braunschweig 2008, ISBN 978-3-937655-14-7, S. 215–237.
Bernd H. Oppermann, Jutta Stender-Vorwachs (Hrsg.): Autonomes Fahren – Rechtsfolgen, Rechtsprobleme, technische Grundlagen. 2. Auflage. C.H. Beck, München 2020, ISBN 978-3-406-73285-0 (501 S.).
Dirk Wüstenberg: Autonome Fahrzeuge im Personen- und Güterverkehr, in: Zeitschrift für das Recht der Transportwirtschwaft (RdTW) 2021, S. 330–333.

Weblinks

Einzelnachweise

altgriechisch αὐτονομία, autonomía, „Eigengesetzlichkeit, Selbstständigkeit“, aus αὐτός, autós, „selbst“ und νόμος, nómos, „Gesetz“
Die Bundesanstalt für Straßenwesen (BASt) hat in der Arbeitsgruppe „Rechtsfolgen zunehmender Fahrzeugautomatisierung“ eine Einteilung von 5 Stufen vorgenommen, wobei die Autonomiestufe 5 (fahrerloses Fahren) nicht enthalten ist. Vgl. Rechtsfolgen zunehmender Fahrzeugautomatisierung. In: bast.de. 2012, abgerufen am 16. September 2019.
Selbstfahrende Autos – assistiert, automatisiert oder autonom? In: bast.de. 11. März 2021, abgerufen am 26. April 2021.
Maximilian Schönherr: Einparken mit Fernbedienung. In: deutschlandfunk.de. 6. Mai 2015, abgerufen am 12. November 2019.
Vernetzte Parklösungen – Automated Valet Parking. In: bosch.com. Abgerufen am 20. September 2021.
siehe Carolo-Cup. In: wiki.ifr.ing.tu-bs.de. Technische Universität Braunschweig, abgerufen am 13. März 2019.
Deliverables. AdaptIVe-Dokumente zum Download. In: adaptive-ip.eu. Abgerufen am 10. April 2021 (englisch).
Übernahmezeiten beim hochautomatisierten Fahren, Damböck, BMW und TU München.
Müdigkeit und hochautomatisiertes Fahren.
Pascal Nagel: Die fünf Wertepools des autonomen Fahrens. In: car-it.com. 16. Juli 2015, abgerufen am 18. April 2019.
Andrej Cacilo: Riesenchance automatisiertes Fahren – Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO. In: www.iao.fraunhofer.de. 2. Dezember 2015, abgerufen am 12. Dezember 2015.
Stefan Krempl: „Hochautomatisiertes“ Fahren bis 2020 realisierbar. In: heise online. 21. November 2015, abgerufen am 12. Dezember 2015.
Nikolaus Doll: Die gespenstischen Visionen vom führerlosen Fahren. In: welt.de. 5. Dezember 2016, abgerufen am 24. Januar 2022.
Autopilot: Full Self-Driving Hardware on All Cars. Tesla Motors. Abgerufen am 21. Oktober 2016.
Autopilot. (Nicht mehr online verfügbar.) In: tesla.com. Archiviert vom Original am 1. November 2019; abgerufen am 6. November 2019 (Original nicht persistent; Zitat aus dem Archiv).
Bruno Gransche e. a.: Wandel von Autonomie und Kontrolle durch neue Mensch-Technik-Interaktionen. Grundsatzfragen autonomieorientierter Mensch-Technik-Verhältnisse. Fraunhofer-Institut ISI 2014
Weltpremiere auf US-Highway: Daimler Trucks bringt ersten autonom fahrenden Lkw auf öffentliche Straßen. In: media.daimler.com. 6. Mai 2015, abgerufen am 7. November 2019.
Artikel zum Google Driverless Car: Driverless car: Google awarded US patent for technology (englisch). In: BBC News, 15. Dezember 2011, abgerufen am 1. Mai 2014.
Artikel zur ersten Zulassung eines autonomen Fahrzeugs: Lisa Hemmerich: Nevada: Fahrerloses Auto von Google erhält erste Lizenz. In Web-Portal: netzwelt, 8. Mai 2012, abgerufen am 1. Mai 2014.
Data Shows Google’s Robot Cars Are Smoother, Safer Drivers Than You or I. In: MIT Technology Review. Abgerufen am 7. April 2016.
Artikel zur Kooperation von Google und Tesla: Matt Brian (7. Mai 2013) Elon Musk in talks with Google to bring driverless tech to Tesla cars. In Nachrichten-Website: The Verge, abgerufen am 29. Mai 2014.
Artikel zu einem möglichen Kauf von Tesla durch Google: Mike Kwatinetz: Why Google should acquire Tesla. In Nachrichten-Website: CNN Fortune, 3. März 2014, abgerufen am 29. Mai 2014.
Artikel zum Google-eigenen Auto ohne Lenkrad Selbstfahrende Autos: Google baut ein eigenes Auto. In Web-Nachrichtenticker: heise online, 28. Mai 2014, abgerufen am 29. Mai 2014.
A First Drive auf YouTube, 27. Mai 2014, abgerufen am 25. Februar 2019.
Artikel zu Googles selbstfahrendem Auto: Thomas Schulz Testfahrt in Google Self-Driving Car: Dieses Auto kommt ohne Sie aus. In Nachrichten-Website: Spiegel Online, 15. Mai 2014, abgerufen am 29. Mai 2014
Kritischer Artikel zum verlorenen Fahrspaß bei autonomen Autos: Sabine Stahl Testfahrt mit dem Google-Auto – Bei diesem Auto ist Langeweile das Ziel. Auf: Motor-Talk.de, 15. Mai 2014, abgerufen am 29. Mai 2014.
Autonomer Pionier. Mercedes-Benz Future Truck 2025. In: daimler.com. Abgerufen am 27. April 2021.
Michael Gerster: Autonomes Fahren – Daimler stellt selbst fahrenden Lkw vor. In: stuttgarter-nachrichten.de. 3. Juli 2014, abgerufen am 28. April 2020.
Deutschland-Premiere auf der A8 Lkw fährt erstmals alleine auf der Autobahn. In: www.swr.de/. Abgerufen am 3. Juli 2016.
Die SmartShuttles rollen in Uvrier weiter. Medienmitteilung. In: postauto.ch. 14. April 2021, abgerufen am 27. Juli 2021.
Serge Escalé: Les navettes autonomes de Navya débarquent à Lyon. In: itespresso.fr. 3. September 2016, abgerufen am 19. Januar 2020 (französisch).
Megan Guess: Teslas will now be sold with enhanced hardware suite for full autonomy. In: Ars Technica. 20. Oktober 2016, abgerufen am 19. Mai 2020 (englisch).
Nächstes Jahr fährt das Auto alleine nach New York. In: faz.net. 20. Oktober 2016, abgerufen am 10. Februar 2021.
Elisabeth Oberndorfer: Tesla stattet alle neuen Autos mit vollautonomer Fahrtechnologie aus. In: gruenderszene.de. 20. Oktober 2016, abgerufen am 16. November 2020.
Jürgen Stüber: Tesla-Fans warten vergeblich auf die autonome Testfahrt. In: gruenderszene.de. 3. Januar 2018, abgerufen am 6. Dezember 2018.
Daniel Sokolov: Tesla: Angekündigte autonome Fahrt ist ausgeblieben. In: heise online. Januar 2018, abgerufen am 15. November 2019.
CES 2017: Delphi und Mobileye präsentieren hochautomatisiertes Demo-Fahrzeug. In: automotive-technology.de. 28. Dezember 2016, abgerufen am 29. Januar 2019.
Christina Kunkel: Daimler und Bosch bauen doch keine Robotaxis. In: sueddeutsche.de. 10. August 2021, abgerufen am 25. Oktober 2021.
Autonomes Fahren – Audi verzichtet beim A8 auf den Autopiloten. In: handelsblatt.com. 29. April 2020, abgerufen am 28. August 2020.
Simon Hage, Martin Hesse: Autonomes Fahren – Die Aufholjagd der deutschen Autobauer. In: Der Spiegel. Nr. 40, 2021 (Volltext hinter Paywall [abgerufen am 29. Oktober 2021]).
BMW baut mit Tencent Rechenzentrum für autonomes Fahren in China. In: businessinsider.de. 19. Juli 2019, abgerufen am 7. Dezember 2019.
Autonomes Fahren: BMW findet Partner in China. In: dw.com. 19. Juli 2019, abgerufen am 15. Dezember 2019.
Empfehlungen. Arbeitskreis II. Automatisiertes Fahren. (PDF; 105 kB) Deutscher Verkehrsgerichtstag: 28. bis 30. Januar 2015 in Goslar; abgerufen am 14. März 2015.
Alec Pein: „Automatisierter Tod“ – Zum Abschluss ein Streitgespräch regionalHeute. Abgerufen am 9. Juni 2016
Welche Entscheidungen wollen wir Maschinen überlassen? (Nicht mehr online verfügbar.) In: dvr.de. 21. Juni 2016, archiviert vom Original am 18. September 2018; abgerufen am 15. März 2020.
Andreas Wilkens: Kalifornien: Neue Regeln für autonome Autos – und Google ist „sehr enttäuscht“. In: heise online. 17. Dezember 2015, abgerufen am 17. Dezember 2015.
Cecilia Kang: Where Self-Driving Cars Go to Learn. In: nytimes.com. 11. November 2017, abgerufen am 18. Dezember 2019 (englisch).
Youtube-Kanal von Waymo: Waymo’s fully self-driving cars are here, 7. November 2017, abgerufen am 13. November 2017.
CNN Money: Waymo tests self-driving cars without safety drivers auf YouTube, 7. November 2017, abgerufen am 31. Oktober 2020.
Bundesrat will Tests für autonomes Fahren ausweiten. In: heise online. 8. Mai 2015, abgerufen am 10. Mai 2015.
Ulla Fiebig: Gesetzentwurf zum automatisierten Fahren – Vertrauensfragen für den Autopiloten. (Nicht mehr online verfügbar.) In: tagesschau.de. 26. Juli 2016, archiviert vom Original am 27. Juli 2016; abgerufen am 12. August 2021.
Ethik-Kommission soll in Deutschland Fragen um Autopiloten klären. In: handelsblatt.com. 10. Juli 2016, abgerufen am 24. Juni 2020.
Bericht der Ethik-Kommission: Automatisiertes und vernetztes Fahren (PDF) Bundesministerium für Verkehr und digitale Infrastruktur. 20. Juni 2017. Abgerufen am 14. Januar 2019.
Bundeskabinett: Gesetzentwurf zum Automatisierten Fahren. In: autonomes-fahren.de. 25. Januar 2017, abgerufen am 18. Januar 2020.
Gesetz im Kabinett Bundesregierung vom 25. Januar 2017, abgerufen am 27. Januar 2017.
Beschlussempfehlung und Bericht des Ausschusses für Verkehr und digitale Infrastruktur (15. Ausschuss) zu dem Gesetzentwurf der Bundesregierung – Drucksachen 18/11300, 18/11534, 18/11683 Nr. 10 – Entwurf eines … Gesetzes zur Änderung des Straßenverkehrsgesetzes. (PDF; 281 kB) BT-Drucksache 18/11776 vom 29. März 2017.
Stefan Krempl: Automatisiertes Fahren: Bundestag beschließt Haftungsregeln und Datenspeicher. In: heise online. 30. März 2017, abgerufen am 30. März 2017.
Klaus Müller: Gesetz zum automatisierten Fahren verabschiedet: Weiterhin zu wenig Rechtssicherheit für Verbraucher. In: vzbv.de. Verbraucherzentrale Bundesverband, 30. März 2017, abgerufen am 17. November 2019.
BMVI - Gesetz zum autonomen Fahren tritt in Kraft. Abgerufen am 20. August 2021.
Gesetz zum autonomen Fahren (2021). Abgerufen am 20. August 2021.
Alexander Hevelke, Julian Nida-Rümelin: Selbstfahrende Autos und Trolley-Probleme: Zum Aufrechnen von Menschenleben im Falle unausweichlicher Unfälle De Gruyter, 2015, ISSN 1613-1142 (abgerufen über De Gruyter Online).
Leon R. Sütfeld, Richard Gast, Peter König, Gordon Pipa: Using Virtual Reality to Assess Ethical Decisions in Road Traffic Scenarios: Applicability of Value-of-Life-Based Models and Influences of Time Pressure. In: Frontiers in Behavioral Neuroscience. Juli 2017, doi:10.3389/fnbeh.2017.00122 (englisch).
Alexander Skulmowski, Andreas Bunge, Kai Kaspar, Gordon Pipa: Forced-choice decision-making in modified trolley dilemma situations: a virtual reality and eye tracking study. In: Frontiers in Behavioral Neuroscience. Nr. 8:426. Frontiers Media, Dezember 2014, doi:10.3389/fnbeh.2014.00426 (englisch).
Jean-François Bonnefon, Azim Shariff, Iyad Rahwan: The social dilemma of autonomous vehicles. 12. Oktober 2015, arxiv:1510.03346 (englisch).
Artur Krutsch: Teilautonomes Fahren: Geteilte Kontrolle, geteilte Verantwortung? Pressemitteilung des Max-Planck-Instituts für Bildungsforschung. In: idw-online.de. 1. November 2019, abgerufen am 14. April 2020.
Edmond Awad, Sydney Levine, Max Kleiman-Weiner, Sohan Dsouza, Joshua B. Tenenbaum, Azim Shariff, Jean-François Bonnefon & Iyad Rahwan: Drivers are blamed more than their automated cars when both make mistakes. In: Nature Human Behaviour. Band 4, Nr. 134–143, 2020, ISSN 2397-3374, doi:10.1038/s41562-019-0762-8 (englisch).
Richard David Precht, DER SPIEGEL: Richard David Precht: Vom Irrsinn, Maschinen Ethik einzuprogrammieren. Abgerufen am 23. August 2021.
Richard David Precht: Künstliche Intelligenz und der Sinn des Lebens: Ein Essay. Goldmann Verlag, 2020, ISBN 978-3-641-14191-2 (eingeschränkte Vorschau in der Google-Buchsuche [abgerufen am 3. März 2022]).
David Fickling: Don’t Break Things – Self-Driving Cars Need to Slow Down After Uber Crash. In: bloomberg.com. 20. März 2018, abgerufen am 19. Februar 2019 (englisch).
Testing of Autonomous Vehicles with a Driver. In: dmv.ca.gov. Abgerufen am 3. November 2019 (englisch).
Chris Urmson: The view from the front-seat of the Google self-driving car. In: Medium. 11. Mai 2015, abgerufen am 17. Mai 2015 (englisch, zitiert nach: Florian Rötzer: Google: „Bei keinem Unfall war das autonome Fahrzeug die Ursache“. Telepolis, 12. Mai 2015).
Jürgen Kuri (mit Material von dpa): Der Computer war’s nicht: Elf kleinere Unfälle mit Googles selbstfahrenden Autos. In: heise online. 12. Mai 2015, abgerufen am 17. Mai 2015.
Google driverless car hits bus in California. Abgerufen am 1. März 2017 (englisch).
Tesla ordnete das Fahrzeug als Autonomiestufe (Level) 2 ein, Mark Fields geht von einem Autonomiestufen (Level)-3-Fahrzeug aus. Vgl. Volvo autonomous car engineer calls Tesla’s Autopilot a ‘wannabe’
teslamotors.com
Tesla: Autopilot hielt Lastwagen-Anhänger für hohes Schild. sueddeutsche.de; abgerufen am 8. Juli 2016
Self-Driving Tesla Was Involved in Fatal Crash, U.S. Says. nytimes.com; abgerufen am 8. Juli 2016
Lora Kolodny, Michael Wayland: Watch Tesla drivers apparently asleep at the wheel, renewing Autopilot safety questions. 9. September 2019, abgerufen am 10. September 2019 (englisch).
Tesla’s Autopilot Technology Faces Fresh Scrutiny. In: nytimes.com. 23. März 2021, abgerufen am 10. Juli 2021 (englisch).
Smart Bomb bei Discogs

This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. The authors of the article are listed here. Additional terms may apply for the media files, click on images to show image meta data.

[1] tgriechisch αὐτονομία, autonomía, „Eigengesetzlichkeit, Selbstständigkeit“, aus αὐτός, autós, „selbst“ und νόμος, nómos, „Gesetz“

[:0-2] Die Bundesanstalt für Straßenwesen (BASt) hat in der Arbeitsgruppe „Rechtsfolgen zunehmender Fahrzeugautomatisierung“ eine Einteilung von 5 Stufen vorgenommen, wobei die Autonomiestufe 5 (fahrerloses Fahren) nicht enthalten ist. Vgl. Rechtsfolgen zunehmender Fahrzeugautomatisierung. In: bast.de. 2012, abgerufen am 16. September 2019.

[:1-3] Selbstfahrende Autos – assistiert, automatisiert oder autonom? In: bast.de. 11. März 2021, abgerufen am 26. April 2021.

[4] Maximilian Schönherr: Einparken mit Fernbedienung. In: deutschlandfunk.de. 6. Mai 2015, abgerufen am 12. November 2019.

[5] Vernetzte Parklösungen – Automated Valet Parking. In: bosch.com. Abgerufen am 20. September 2021.

[6] siehe Carolo-Cup. In: wiki.ifr.ing.tu-bs.de. Technische Universität Braunschweig, abgerufen am 13. März 2019.

[7] Deliverables. AdaptIVe-Dokumente zum Download. In: adaptive-ip.eu. Abgerufen am 10. April 2021 (englisch).

[8] Übernahmezeiten beim hochautomatisierten Fahren, Damböck, BMW und TU München.

[9] Müdigkeit und hochautomatisiertes Fahren.

[10] Pascal Nagel: Die fünf Wertepools des autonomen Fahrens. In: car-it.com. 16. Juli 2015, abgerufen am 18. April 2019.

[11] Andrej Cacilo: Riesenchance automatisiertes Fahren – Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO. In: www.iao.fraunhofer.de. 2. Dezember 2015, abgerufen am 12. Dezember 2015.

[12] Stefan Krempl: „Hochautomatisiertes“ Fahren bis 2020 realisierbar. In: heise online. 21. November 2015, abgerufen am 12. Dezember 2015.

[13] Nikolaus Doll: Die gespenstischen Visionen vom führerlosen Fahren. In: welt.de. 5. Dezember 2016, abgerufen am 24. Januar 2022.

[TeslaLevel5-14] Autopilot: Full Self-Driving Hardware on All Cars. Tesla Motors. Abgerufen am 21. Oktober 2016.

[15] Autopilot. (Nicht mehr online verfügbar.) In: tesla.com. Archiviert vom Original am 1. November 2019; abgerufen am 6. November 2019 (Original nicht persistent; Zitat aus dem Archiv).

[16] Bruno Gransche e. a.: Wandel von Autonomie und Kontrolle durch neue Mensch-Technik-Interaktionen. Grundsatzfragen autonomieorientierter Mensch-Technik-Verhältnisse. Fraunhofer-Institut ISI 2014

[17] Weltpremiere auf US-Highway: Daimler Trucks bringt ersten autonom fahrenden Lkw auf öffentliche Straßen. In: media.daimler.com. 6. Mai 2015, abgerufen am 7. November 2019.

[18] Artikel zum Google Driverless Car: Driverless car: Google awarded US patent for technology (englisch). In: BBC News, 15. Dezember 2011, abgerufen am 1. Mai 2014.

[19] Artikel zur ersten Zulassung eines autonomen Fahrzeugs: Lisa Hemmerich: Nevada: Fahrerloses Auto von Google erhält erste Lizenz. In Web-Portal: netzwelt, 8. Mai 2012, abgerufen am 1. Mai 2014.

[20] Data Shows Google’s Robot Cars Are Smoother, Safer Drivers Than You or I. In: MIT Technology Review. Abgerufen am 7. April 2016.

[21] Artikel zur Kooperation von Google und Tesla: Matt Brian (7. Mai 2013) Elon Musk in talks with Google to bring driverless tech to Tesla cars. In Nachrichten-Website: The Verge, abgerufen am 29. Mai 2014.

[22] Artikel zu einem möglichen Kauf von Tesla durch Google: Mike Kwatinetz: Why Google should acquire Tesla. In Nachrichten-Website: CNN Fortune, 3. März 2014, abgerufen am 29. Mai 2014.

[23] Artikel zum Google-eigenen Auto ohne Lenkrad Selbstfahrende Autos: Google baut ein eigenes Auto. In Web-Nachrichtenticker: heise online, 28. Mai 2014, abgerufen am 29. Mai 2014.

[24] A First Drive auf YouTube, 27. Mai 2014, abgerufen am 25. Februar 2019.

[autoA-25] Artikel zu Googles selbstfahrendem Auto: Thomas Schulz Testfahrt in Google Self-Driving Car: Dieses Auto kommt ohne Sie aus. In Nachrichten-Website: Spiegel Online, 15. Mai 2014, abgerufen am 29. Mai 2014

[26] Kritischer Artikel zum verlorenen Fahrspaß bei autonomen Autos: Sabine Stahl Testfahrt mit dem Google-Auto – Bei diesem Auto ist Langeweile das Ziel. Auf: Motor-Talk.de, 15. Mai 2014, abgerufen am 29. Mai 2014.

[27] Autonomer Pionier. Mercedes-Benz Future Truck 2025. In: daimler.com. Abgerufen am 27. April 2021.

[28] Michael Gerster: Autonomes Fahren – Daimler stellt selbst fahrenden Lkw vor. In: stuttgarter-nachrichten.de. 3. Juli 2014, abgerufen am 28. April 2020.

[29] Deutschland-Premiere auf der A8 Lkw fährt erstmals alleine auf der Autobahn. In: www.swr.de/. Abgerufen am 3. Juli 2016.

[30] Die SmartShuttles rollen in Uvrier weiter. Medienmitteilung. In: postauto.ch. 14. April 2021, abgerufen am 27. Juli 2021.

[31] Serge Escalé: Les navettes autonomes de Navya débarquent à Lyon. In: itespresso.fr. 3. September 2016, abgerufen am 19. Januar 2020 (französisch).

[32] Megan Guess: Teslas will now be sold with enhanced hardware suite for full autonomy. In: Ars Technica. 20. Oktober 2016, abgerufen am 19. Mai 2020 (englisch).

[33] Nächstes Jahr fährt das Auto alleine nach New York. In: faz.net. 20. Oktober 2016, abgerufen am 10. Februar 2021.

[34] Elisabeth Oberndorfer: Tesla stattet alle neuen Autos mit vollautonomer Fahrtechnologie aus. In: gruenderszene.de. 20. Oktober 2016, abgerufen am 16. November 2020.

[35] Jürgen Stüber: Tesla-Fans warten vergeblich auf die autonome Testfahrt. In: gruenderszene.de. 3. Januar 2018, abgerufen am 6. Dezember 2018.

[36] Daniel Sokolov: Tesla: Angekündigte autonome Fahrt ist ausgeblieben. In: heise online. Januar 2018, abgerufen am 15. November 2019.

[37] CES 2017: Delphi und Mobileye präsentieren hochautomatisiertes Demo-Fahrzeug. In: automotive-technology.de. 28. Dezember 2016, abgerufen am 29. Januar 2019.

[38] Christina Kunkel: Daimler und Bosch bauen doch keine Robotaxis. In: sueddeutsche.de. 10. August 2021, abgerufen am 25. Oktober 2021.

[39] Autonomes Fahren – Audi verzichtet beim A8 auf den Autopiloten. In: handelsblatt.com. 29. April 2020, abgerufen am 28. August 2020.

[40] Simon Hage, Martin Hesse: Autonomes Fahren – Die Aufholjagd der deutschen Autobauer. In: Der Spiegel. Nr. 40, 2021 (Volltext hinter Paywall [abgerufen am 29. Oktober 2021]).

[41] BMW baut mit Tencent Rechenzentrum für autonomes Fahren in China. In: businessinsider.de. 19. Juli 2019, abgerufen am 7. Dezember 2019.

[42] Autonomes Fahren: BMW findet Partner in China. In: dw.com. 19. Juli 2019, abgerufen am 15. Dezember 2019.

[43] Empfehlungen. Arbeitskreis II. Automatisiertes Fahren. (PDF; 105 kB) Deutscher Verkehrsgerichtstag: 28. bis 30. Januar 2015 in Goslar; abgerufen am 14. März 2015.

[44] Alec Pein: „Automatisierter Tod“ – Zum Abschluss ein Streitgespräch regionalHeute. Abgerufen am 9. Juni 2016

[45] Welche Entscheidungen wollen wir Maschinen überlassen? (Nicht mehr online verfügbar.) In: dvr.de. 21. Juni 2016, archiviert vom Original am 18. September 2018; abgerufen am 15. März 2020.

[46] Andreas Wilkens: Kalifornien: Neue Regeln für autonome Autos – und Google ist „sehr enttäuscht“. In: heise online. 17. Dezember 2015, abgerufen am 17. Dezember 2015.

[47] Cecilia Kang: Where Self-Driving Cars Go to Learn. In: nytimes.com. 11. November 2017, abgerufen am 18. Dezember 2019 (englisch).

[48] Youtube-Kanal von Waymo: Waymo’s fully self-driving cars are here, 7. November 2017, abgerufen am 13. November 2017.

[49] CNN Money: Waymo tests self-driving cars without safety drivers auf YouTube, 7. November 2017, abgerufen am 31. Oktober 2020.

[50] Bundesrat will Tests für autonomes Fahren ausweiten. In: heise online. 8. Mai 2015, abgerufen am 10. Mai 2015.

[51] Ulla Fiebig: Gesetzentwurf zum automatisierten Fahren – Vertrauensfragen für den Autopiloten. (Nicht mehr online verfügbar.) In: tagesschau.de. 26. Juli 2016, archiviert vom Original am 27. Juli 2016; abgerufen am 12. August 2021.

[52] Ethik-Kommission soll in Deutschland Fragen um Autopiloten klären. In: handelsblatt.com. 10. Juli 2016, abgerufen am 24. Juni 2020.

[53] Bericht der Ethik-Kommission: Automatisiertes und vernetztes Fahren (PDF) Bundesministerium für Verkehr und digitale Infrastruktur. 20. Juni 2017. Abgerufen am 14. Januar 2019.

[54] Bundeskabinett: Gesetzentwurf zum Automatisierten Fahren. In: autonomes-fahren.de. 25. Januar 2017, abgerufen am 18. Januar 2020.

[55] Gesetz im Kabinett Bundesregierung vom 25. Januar 2017, abgerufen am 27. Januar 2017.

[56] Beschlussempfehlung und Bericht des Ausschusses für Verkehr und digitale Infrastruktur (15. Ausschuss) zu dem Gesetzentwurf der Bundesregierung – Drucksachen 18/11300, 18/11534, 18/11683 Nr. 10 – Entwurf eines … Gesetzes zur Änderung des Straßenverkehrsgesetzes. (PDF; 281 kB) BT-Drucksache 18/11776 vom 29. März 2017.

[57] Stefan Krempl: Automatisiertes Fahren: Bundestag beschließt Haftungsregeln und Datenspeicher. In: heise online. 30. März 2017, abgerufen am 30. März 2017.

[58] Klaus Müller: Gesetz zum automatisierten Fahren verabschiedet: Weiterhin zu wenig Rechtssicherheit für Verbraucher. In: vzbv.de. Verbraucherzentrale Bundesverband, 30. März 2017, abgerufen am 17. November 2019.

[59] BMVI - Gesetz zum autonomen Fahren tritt in Kraft. Abgerufen am 20. August 2021.

[60] Gesetz zum autonomen Fahren (2021). Abgerufen am 20. August 2021.

[autoB-61] Alexander Hevelke, Julian Nida-Rümelin: Selbstfahrende Autos und Trolley-Probleme: Zum Aufrechnen von Menschenleben im Falle unausweichlicher Unfälle De Gruyter, 2015, ISSN 1613-1142 (abgerufen über De Gruyter Online).

[62] Leon R. Sütfeld, Richard Gast, Peter König, Gordon Pipa: Using Virtual Reality to Assess Ethical Decisions in Road Traffic Scenarios: Applicability of Value-of-Life-Based Models and Influences of Time Pressure. In: Frontiers in Behavioral Neuroscience. Juli 2017, doi:10.3389/fnbeh.2017.00122 (englisch).

[63] Alexander Skulmowski, Andreas Bunge, Kai Kaspar, Gordon Pipa: Forced-choice decision-making in modified trolley dilemma situations: a virtual reality and eye tracking study. In: Frontiers in Behavioral Neuroscience. Nr. 8:426. Frontiers Media, Dezember 2014, doi:10.3389/fnbeh.2014.00426 (englisch).

[64] Jean-François Bonnefon, Azim Shariff, Iyad Rahwan: The social dilemma of autonomous vehicles. 12. Oktober 2015, arxiv:1510.03346 (englisch).

[65] Artur Krutsch: Teilautonomes Fahren: Geteilte Kontrolle, geteilte Verantwortung? Pressemitteilung des Max-Planck-Instituts für Bildungsforschung. In: idw-online.de. 1. November 2019, abgerufen am 14. April 2020.

[66] Edmond Awad, Sydney Levine, Max Kleiman-Weiner, Sohan Dsouza, Joshua B. Tenenbaum, Azim Shariff, Jean-François Bonnefon & Iyad Rahwan: Drivers are blamed more than their automated cars when both make mistakes. In: Nature Human Behaviour. Band 4, Nr. 134–143, 2020, ISSN 2397-3374, doi:10.1038/s41562-019-0762-8 (englisch).

[67] Richard David Precht, DER SPIEGEL: Richard David Precht: Vom Irrsinn, Maschinen Ethik einzuprogrammieren. Abgerufen am 23. August 2021.

[68] Richard David Precht: Künstliche Intelligenz und der Sinn des Lebens: Ein Essay. Goldmann Verlag, 2020, ISBN 978-3-641-14191-2 (eingeschränkte Vorschau in der Google-Buchsuche [abgerufen am 3. März 2022]).

[69] David Fickling: Don’t Break Things – Self-Driving Cars Need to Slow Down After Uber Crash. In: bloomberg.com. 20. März 2018, abgerufen am 19. Februar 2019 (englisch).

[70] Testing of Autonomous Vehicles with a Driver. In: dmv.ca.gov. Abgerufen am 3. November 2019 (englisch).

[71] Chris Urmson: The view from the front-seat of the Google self-driving car. In: Medium. 11. Mai 2015, abgerufen am 17. Mai 2015 (englisch, zitiert nach: Florian Rötzer: Google: „Bei keinem Unfall war das autonome Fahrzeug die Ursache“. Telepolis, 12. Mai 2015).

[72] Jürgen Kuri (mit Material von dpa): Der Computer war’s nicht: Elf kleinere Unfälle mit Googles selbstfahrenden Autos. In: heise online. 12. Mai 2015, abgerufen am 17. Mai 2015.

[73] Google driverless car hits bus in California. Abgerufen am 1. März 2017 (englisch).

[74] Tesla ordnete das Fahrzeug als Autonomiestufe (Level) 2 ein, Mark Fields geht von einem Autonomiestufen (Level)-3-Fahrzeug aus. Vgl. Volvo autonomous car engineer calls Tesla’s Autopilot a ‘wannabe’

[75] teslamotors.com

[76] Tesla: Autopilot hielt Lastwagen-Anhänger für hohes Schild. sueddeutsche.de; abgerufen am 8. Juli 2016

[77] Self-Driving Tesla Was Involved in Fatal Crash, U.S. Says. nytimes.com; abgerufen am 8. Juli 2016

[78] Lora Kolodny, Michael Wayland: Watch Tesla drivers apparently asleep at the wheel, renewing Autopilot safety questions. 9. September 2019, abgerufen am 10. September 2019 (englisch).

[79] Tesla’s Autopilot Technology Faces Fresh Scrutiny. In: nytimes.com. 23. März 2021, abgerufen am 10. Juli 2021 (englisch).

[80] Smart Bomb bei Discogs