News Level 3: Honda bietet Staupiloten 2021 im neuen Legend an

[hemmi1982]

Bei Honda steht in der Pressemitteilung "sofort".
Bei Mercedes sind es mit dem System für 2021 dann 10 Sekunden.

Finde ich gut für den Fahrer 10 sek. aber wenn das Auto sagt oh ich weiß nicht was zu tun ist muss ich doch sofort eingreifen. Zehn Sekunden im Blindflug sind sehr lang.

Mein Ford Focus kann auch im Stau fahren. Nur Hand muss halt am Lenker sein. Steckt man aber eine Wasserflasche ins Lenkrad meckert er nicht mehr. Und nach stillstand muss erneut der Tempomat betätigt werden.

 

[7H0M45]

Bei Tempo 50, bei Sonnenschein und nur auf seiner Spur hat die Technik genug Zeit zum prüfen und berechnen, zudem kann er in Null Komma Nix zum stehen kommen. Aber bei Tempo 150 und Regen automatisch andere Fahrzeuge zu überholen ist extrem riskant. Wir Menschen erkennen Raser im Spiegel, das muss die KI auch können. Wir Menschen erkennen auch Fahrzeuge hinter anderen Fahrzeugen zb durch die Scheiben, das kann die KI nicht usw.

Generell sollte es aber möglich sein, das System auch bis 120km/h laufen zu lassen, halt ohne überholen. Das ist aber der richtige Weg was Honda macht.

Das mit Tempo 50 ist keine technische Limitierung sondern eine regulatorische. Warum sollte das Gerät das nur bis 120km/h können. Warum nicht bis 180km/h?

Die Software. Und die Hardware welche im stande ist die Aufgaben der Software schnell genug abzuarbeiten.

Das mit der Hardware lass ich gelten, wobei Tesla hier doch vor vielen Jahren schon großspurig behauptet hat, dass die Hardware schon Level 5 kann. Unabhängig davon stellt sich aber die Frage, welche Rechenleistung brauch ich für Level 5. Ab wann ist die Hardware schnell genug?

Das mit der Software kann ich nur halb gelten lassen. Zum einen war es nicht das was ich gemeint hab. Zum anderen gehe ich aber davon aus, dass so eine Software niemals fertig ist!

Das ist bekannt und durch googeln von SAE Level 5 zu erfahren. Kurzum:

L3: Fahrer muss in der Lage sein nach einer Zeit zu übernehmen.

L5: Ein eingreifen eines Fahrers ist NIE notwendig. Es benötigt keinen Fahrer, somit auch kein Lenkrad etc.

Das ist nur das übliche Level blabla. Das kann jeder ganz schlau daherreden. Die Frage ist. Was steckt denn dahinter? Wie unterscheiden sich die 2 Level in der Technik?

 

[Tulol]

Wunderschönes Märchen, schön erzählt, sauberer Handlungsbogen. Aber....ein Märchen.

Die KI entscheidet nicht, sie hat kein Gewissen. Sie befolgt stattdessen den Regelsatz den ihr die Entwickler vorgegeben haben. Und diese Entwickler wären dran wenn sie der KI eingeben würden dass Materialschaden höher zu werten ist als Schaden an Lebewesen.

Lies bitte noch mal was ich geschrieben habe. Offensichtlich hast du es bisher nicht.

 

[Hayda Ministral]

Da Du keine Fakten einbringst bleibt es dabei: Du hast ein Märchen erzählt. Ein schönes Märchen mit vielen Ausschmückungen, aber eben doch ein Märchen.

 

[n00p]

Das ist nur das übliche Level blabla. Das kann jeder ganz schlau daherreden. Die Frage ist. Was steckt denn dahinter? Wie unterscheiden sich die 2 Level in der Technik?

Top Frage, frag doch mal SpaceX (bevor sie wussten wie man eine selbstlandende Rakete baut), wie man eine selbstlandende Rakete baut: Weiß man nicht, weils das bisher nicht gibt, es gibt nur Annahmen.

Das ist kein Blabla, das ist das, was man momentan dazu weiß.
Man weiß nicht, welche Hardware benötigt wird um Level 5 zu realisieren. Auch wenn ein Herr Musk großspurig behauptet die HW würde ausreichen, man weiß es nicht (aktuell reicht es eher nicht). Aktuelle Prototypen gehen auf mehrfache Redundanz jedes Sensors, da kannst du dir gerne hochrechnen, was du benötigst.

Es gibt auch einen anderen Ansatz (eher Musk seiner), der behauptet, der Mensch kann alle Situationen mit zwei Augen bewältigen, somit müssten im Auto auch zwei Kameras ausreichen, den Rest erledigt die Software. Vielleicht wirds das geben, i don't think so.

Level 5 ist weit, weit entfernt. Es wäre erstaunlich wenn wir Level 4 noch vor 2030 sehen.

Deine anderen Fragen zeigen leider, dass dir die technische Weitsicht fehlt. Warum sollte das Auto das nicht bei 180 können, lol.

Lies bitte noch mal was ich geschrieben habe. Offensichtlich hast du es bisher nicht.

Er hat aber Recht. Diese Geschichte ist konstruiert und tritt im Realfall nicht ein. Dein autonom fahrendes Fahrzeug würde es nicht zu so einer Situation kommen lassen.

 

[Vrtra81]

Das Auto erkennt weitere Teilnehmer auf der Straße. Bremsen alleine reicht nicht.
Schaden am Menschen ist unausweichlich.
Die KI entscheidet jedoch lieber den Fahrer rechts gegen den Baum fahren zu lassen als in die anderen Passanten zu Rasen.
Eine gänzlich unemotionale, also rationale Entscheidung.

Weitere Teilnehmer, ich sehe das als mehrere Menschen an.

Wunderschönes Märchen, schön erzählt, sauberer Handlungsbogen. Aber....ein Märchen.

Die KI entscheidet nicht, sie hat kein Gewissen. Sie befolgt stattdessen den Regelsatz den ihr die Entwickler vorgegeben haben. Und diese Entwickler wären dran wenn sie der KI eingeben würden dass Materialschaden höher zu werten ist als Schaden an Lebewesen.

Sollte der Regelsatz nicht sein: So wenig Schaden wie möglich verursachen?
Alternative 1: In die weiteren Teilnehmer fahren (2-10 Menschen gefährdet je nachdem wie viele "weitere" sind)
Alternative 2: Überholen/Ausweichen und in Gegenverkehr kommen. Mindestens 2 Autos + mindestens 2 Menschen gefährdet
Alternative 3: Ein Baum am Straßenrand 1 Auto und Insassen gefährdet.

Je nach Anzahl der Insassen im Auto kann das Ergebnis anders sein. Bei nur 1 Fahrer wäre Alternative 3 womöglich diejenige die am wenigsten Schaden anrichtet.

Und ich habe es schon oft genug Erlebt das auf einmal irgendwelche Grüppchen einfach auf die Straße laufen, also ein Märchen sehe ich da nicht zwangsläufig.

 

[Oneplusfan]

Man weiß nicht, welche Hardware benötigt wird um Level 5 zu realisieren.

Das ist nicht das Hauptproblem, sondern eher ab welcher Fehlerquote man ein System als Level 5 akzeptiert. Um welchen Faktor muss das System sicherer sein als ein Mensch? Elon Musk rechnet da mit 200-300%. D.h. ein selbstfahrendes System müsste demnach "doppelt bis dreimal" so gut fahren wie ein Mensch (dies berechnet man anhand der Unfallrate). Aber das kann der Gesetzgeber auch anderes sehen und da kann auch jedes Land seine eigenen Anforderungen festlegen. Die Grundfrage wäre somit erstmal, ab wann man ein Level 5 System zulässt. Erst dann könnte man überhaupt was zu den Hardwareanforderungen sagen.

Aktuelle Prototypen gehen auf mehrfache Redundanz jedes Sensors

Das glaube ich haben die wenigsten Prototypen. Selbst Waymo hat nicht alle Sensoren redundant (obwohl deren Herangehensweise ist, alle Probleme mit Mapping und Sensoren zu erschlagen).

Es gibt auch einen anderen Ansatz (eher Musk seiner), der behauptet, der Mensch kann alle Situationen mit zwei Augen bewältigen, somit müssten im Auto auch zwei Kameras ausreichen, den Rest erledigt die Software.

Das hat in der Form niemand behauptet. Macht auch keinen Sinn, Teslas haben 8 Kameras, ein Radar und Ultraschallsensoren. Das was du meinst ist eher der Krieg Lidar + Visual vs. Visual only. Da muss man sich fragen, ob man sinnvolle Infos aus den Lidar Daten ziehen kann.

Level 5 ist weit, weit entfernt. Es wäre erstaunlich wenn wir Level 4 noch vor 2030 sehen.

Level 4 gibt es bereits heute, öffentlich zugänglich in Phoenix als Taxi-Service. Level 4 ist jetzt auch nicht unfassbar schwer, wenn man HD-Maps und Lidar zur Zentrierung verwendet.
Was Level 5 angeht ist das nochmal eine andere Story, weil die KI hier wirklich fahren können muss. Aber da sehe ich Tesla auf einem sehr guten Weg. Deren FSD Beta kann bereits das Meiste und die Fehler sollen sich mit jedem Update um 1/3 reduzieren. Wenn das System dann mit deren Supercomputer trainiert wird, dürfte es da relativ schnell Durchbrüche geben. Zumindest denke ich, dass wir nächstes bis übernächstes Jahr Parität mit dem Mensch sehen werden.

 

[Hayda Ministral]

Sollte der Regelsatz nicht sein: So wenig Schaden wie möglich verursachen?

Nochmal: Die KI hat kein Bewußtsein, trifft also keine Entscheidung. Sie folgt dem Regelwerk das ihr vorgegeben ist. Entsprechend hat der Schutz von Menschenleben absolute Priorität vor der Schadensminimierung am Material.

Deine "Alternativen" sind keine. Die KI hat kein Bewußtsein, sie zählt die Anzahl der erkannten Personenobjekte und berechnet die Wahrscheinlichkeit mit der sie diesen Objekten ausweichen kann. Das Manöver mit den wenigsten Personenschäden gewinnt.

Je nach Anzahl der Insassen im Auto kann das Ergebnis anders sein.

Es gibt derzeit keine KI die die Anzahl von Insassen im Auto zählt. Wunderschönes Märchen. Sehr schöner Handlungsbogen. Aber trotzdem nur ein Märchen.

 

[Tulol]

Deine "Alternativen" sind keine. Die KI hat kein Bewußtsein, sie zählt die Anzahl der erkannten Personenobjekte und berechnet die Wahrscheinlichkeit mit der sie diesen Objekten ausweichen kann. Das Manöver mit den wenigsten Personenschäden gewinnt.

Und wenn du mit deinem Auto zu dem geringsten Personenschaden zählst?

 

[Hayda Ministral]

Dann zählst Du mit Deinem Auto zu dem geringsten Personenschaden. Das sollte zwar selbsterklärend sein und keiner weiteren Ausführung bedürfen, aber trotzdem gerne geschehen.

Oder wolltest Du etwas anderes Fragen? Was genau wolltest Du fragen? Wolltest Du fragen welche rechtlichen Folgen sich für Dich ergeben wenn Du wissentlich und willentlich in eine Menschengruppe steuerst um einen zerkratzten Kotflügel zu vermeiden? War es das was Du wissen wolltest?

 

[Vrtra81]

Ich glaube Tulol und ich meinen genau das gleiche wie du, drücken uns nur anders aus.

Dann eben anders.
5 Menschen laufen auf die Straße:
Rechtzeitig bremsen? Ja > alles gut, Nein > Schaden reduzieren
Ausweichen? Ja
Links? Freie Spur > Nein, Gegenverkehr unberechenbar > Nein
Rechts? Ja aber Schäden möglich
Schäden geringer als nur Bremsen? Ja

Obendrein:
Die Insassen eines PKWs zu zählen ist wohl das kleinste Problem und das als Variable in die KI zu integrieren sollte wohl auch kein Hexenwerk sein.

 

[Hayda Ministral]

Dann eben anders.
5 Menschen laufen auf die Straße:
Rechtzeitig bremsen? Ja > alles gut, Nein > Schaden reduzieren
Ausweichen? Ja
Links? Freie Spur > Nein, Gegenverkehr unberechenbar > Nein
Rechts? Ja aber Schäden möglich
Schäden geringer als nur Bremsen? Ja

Tut mir leid, ich hab den Faden verloren. Was war der Gedankengang den Du transportieren wolltest?

Obendreinie Insassen eines PKWs zu zählen ist wohl das kleinste Problem

Tatsächlich? Na wenn Du es sagst...

 

[lorpel]

Autonomes fahren ist nicht möglich, Dank der StVO. Kaum jemand merkt es, aber wir brechen ständig die Regeln, damit der Verkehr nicht zum erliegen kommt. Eine KI darf das nicht.

 

[Moep89]

Dann zählst Du mit Deinem Auto zu dem geringsten Personenschaden. Das sollte zwar selbsterklärend sein und keiner weiteren Ausführung bedürfen, aber trotzdem gerne geschehen.

Das stünde aber grundlegenden Rechten entgegen. Dem Selbsterhaltungstrieb und dem Wunsch sein eigenes Leben zu schützen, wird regelmäßig höherer Rang eingeräumt als dem Leben anderer (bezogen auf dich selbst, nicht allgemein). Das zeigt sich z.B. am Prinzip des Eigenschutzes bei Polizei, Feuerwehr etc. oder der sehr eingeschränkten Pflicht zu helfen allgemein (RTW rufen reicht in aller Regel, Nachts anhalten oder gar aussteigen muss eine normale Person z.B. auch nicht)
Da kann also nicht einfach gerechnet werden. Ich als Fahrer würde (so fies das klingen mag) auch ganz klar erwarten, dass mein Auto IMMER mich und andere Insassen bevorzugt. IMMER. Das ist auch das einzig verlässliche Prinzip, da man sonst nie weiß woran man ist (Nach dem Motto: "Nimm du ihn, ich hab' ihn sicher"). Das wäre sonst ein wenig wie Anwälte, die nicht ihre Klienten (egal was sie getan haben) versuchen bestmöglich zu vertreten, sondern sich entscheiden was wohl "das Beste" wäre. Der Klient muss und darf erwarten, dass er immer Vorrang hat.

 

[DerDoJo]

Da kann also nicht einfach gerechnet werden. Ich als Fahrer würde (so fies das klingen mag) auch ganz klar erwarten, dass mein Auto IMMER mich und andere Insassen bevorzugt. IMMER.

Letztendlich wird es so sein. Sollte die Situation aufkommen wird am Ende folgendes programmiert werden:
-System erkennt Gefahr
-System berechnet die Möglichkeit des Aufpralls bei Vollbremsung und zeitgleich wird die Umgebung für ein Ausweichmaneuver gecheckt.
-Ist die Gefahrenbremsung ohne Aufprall möglich, wird diese durchgeführt.
-Ist das Ausweichen gefahrlos möglich (keine anderen Fahrzeuge, Mauern, keine Gefahr zu schleudern) wird ausgewichen.
- Ist das Ausweichen nicht möglich, wird der Anker geworfen und geradeaus darauf zugefahren.

Bei jeder anderen Variante sind zu viele Variablen im Spiel, welche für seltsame Ergebnisse sorgen würden. Die Gleichung muss auch für ein elektronisches System lösbar bleiben.
Ganz abgesehen davon, dass 90% der Menschen in so einer Situation nicht so rational reagieren würden.

 

[Hayda Ministral]

Das stünde aber grundlegenden Rechten entgegen.

Welchen?

Dem Selbsterhaltungstrieb und dem Wunsch sein eigenes Leben zu schützen

Wieso siehst Du Dein Leben in Gefahr wenn Du Dich "in Spuckweite" mit Fußgängern befindest? Dein Autonomes Fahrzeug wird Dich da wo Fußgänger unterwegs sind nicht mit einer Geschwindigkeit befördern die so hoch ist das Dein Leben, in eben diesem hochmodernen Fahrzeug, bei einem Unfall in Gefahr wäre.

Da kann also nicht einfach gerechnet werden. Ich als Fahrer würde (so fies das klingen mag) auch ganz klar erwarten, dass mein Auto IMMER mich und andere Insassen bevorzugt.

Du möchtest also doch über die rechtlichen Folgen diskutieren die sich ergeben wenn Du willentlich und in dem Kenntnis der Wahrscheinlichkeit dass andererseits Du nur eher geringe Unannehmlichkeiten zu befürchten hast in eine Menschengruppe hinein steuerst um Dich vor diesen Unannehmlichkeiten zu bewahren? Ist das wirklich das was Du vorhast?

 

[Moep89]

Welchen?

Eigenschutz, also Recht auf körperliche Unversehrtheit. Darf und soll jeder für sich selbst am höchsten bewerten. Niemand (von seeeehr speziellen Personen vllt. abgesehen) ist verpflichtet sich für andere Menschen zu opfern, nichtmal für hunderte. Die Diskussion über die Formel wann man selbst weniger wert wäre und das tun müsste würde ich auch gern sehen.

Wieso siehst Du Dein Leben in Gefahr wenn Du Dich "in Spuckweite" mit Fußgängern befindest? Dein Autonomes Fahrzeug wird Dich da wo Fußgänger unterwegs sind nicht mit einer Geschwindigkeit befördern die so hoch ist das Dein Leben, in eben diesem hochmodernen Fahrzeug, bei einem Unfall in Gefahr wäre.

2 Sekunden Google: https://www.presseportal.de/blaulicht/pm/138504/4517159, https://www.br.de/nachrichten/bayer...dstrasse-fussgaenger-von-auto-erfasst,S7idK4u, https://www.hanauer.de/region/schoeneck/unfall-schoeneck-main-kinzig-kreis-fussgaenger-landstrasse-auto-tot-toedlich-verunglueckt-polizei-zr-90062775.html, https://www.infranken.de/ueberregio...pe-ein-toter-drei-schwerverletzte-art-5103861

Fußgänger gibt es nicht nur in 30er Zonen.

Du möchtest also doch über die rechtlichen Folgen diskutieren die sich ergeben wenn Du willentlich und in dem Wissen dass andererseits Du nur eher geringe Unannehmlichkeiten zu befürchten hast in eine Menschengruppe hinein steuerst um Dich vor diesen Unannehmlichkeiten zu bewahren? Ist das wirklich das was Du vorhast?

Wie kommst du darauf, dass man lediglich "geringe Unannehmlichkeiten" zu befürchten hat? Das hat keiner so gesagt. Und ich glaube ich würde es als äußerst unangenehm empfinden frontal einen Baum oder eine Betonwand zu knutschen. Auch mit einem modernen Auto und auch mit "nur" 50 Km/h.

 

[Hayda Ministral]

Eigenschutz, also Recht auf körperliche Unversehrtheit. Darf und soll jeder für sich selbst am höchsten bewerten.

Dann sei das so. Dann darfst Du halt nur in Fahrzeugen fahren in denen Du selbst am Steuer sitzt.

Niemand (von seeeehr speziellen Personen vllt. abgesehen) ist verpflichtet sich für andere Menschen zu opfern

Es sei nochmal erwähnt: Die erwähnten Fußgänger steuert Dein autonomes Fahrzeug nicht mit einer Geschwindigkeit an die Dein Leben im Falle eines Unfalles ernsthaft in Gefahr bringen.

2 Sekunden Google: https://www.presseportal.de/blaulicht/pm/138504/4517159, https://www.br.de/nachrichten/bayer...dstrasse-fussgaenger-von-auto-erfasst,S7idK4u

Genau was ich sage. Im vorliegenden Fall wäre das autonome Fahrzeug nur so schnell gefahren dass es vor einem auf der Fahrbahn befindlichen Reh, Fußgänger, Baum,... stehen bleiben könnte.

https://www.infranken.de/ueberregio...pe-ein-toter-drei-schwerverletzte-art-5103861

"Der Autofahrer wurde leicht verletzt. Warum er gegen 16.30 Uhr in der Rechtskurve von der Fahrbahn abkam, ist laut Polizei noch unklar."

Das hat genau gar nichts mehr mit unserem Gedankenexperiment zu tun.

Und ich glaube ich würde es als äußerst unangenehm empfinden frontal einen Baum oder eine Betonwand zu knutschen. Auch mit einem modernen Auto und auch mit "nur" 50 Km/h.

Dann würde ich es an Deiner Stelle vermeiden in Autos ohne funktionierende Bremse einzusteigen.

 

[Moep89]

Dann sei das so. Dann darfst Du halt nur in Fahrzeugen fahren in denen Du selbst am Steuer sitzt.

Um MICH geht es wohl weniger (zumindest nicht ausschließlich). Die genannten Prinzipien sind fundamental und gelten für alle in Deutschland. Dagegen wird ein Autohersteller wohl eher nicht verstoßen wollen. Auch eine Einstellmöglichkeit á la "Wie viele Leben müssen in Gefahr sein damit ich (das Auto) ihres ernsthaft riskieren darf?" wird es sicher nicht geben.

Die erwähnten Fußgänger steuert Dein autonomes Fahrzeug nicht mit einer Geschwindigkeit an die Dein Leben im Falle eines Unfalles ernsthaft in Gefahr bringen.

Hä? Die Entscheidung wäre: Ausweichen (und ggf. Baum, Graben, Betonwand etc. erwischen) oder Draufhalten (und bremsen). Draufhalten wäre in dem Fall die Entscheidung FÜR die Fahrzeuginsassen.

Das hat genau gar nichts mehr mit unserem Gedankenexperiment zu tun.

Doch, auch da war die Geschwindigkeit hoch genug um potenziell lebensgefährliche Folgen für den Fahrer zu haben. Dass er nur leicht verletzt wurde in diesem konkreten Fall ändert daran nichts. Deine Aussage war pauschal diese hier:

Dein Autonomes Fahrzeug wird Dich da wo Fußgänger unterwegs sind nicht mit einer Geschwindigkeit befördern die so hoch ist das Dein Leben, in eben diesem hochmodernen Fahrzeug, bei einem Unfall in Gefahr wäre.

Und das ist Quatsch, denn Fußgänger können nahezu überall auftreten. Und dann gibt es ja auch noch diese komischen Dinger, die so ähnlich sind wie Fußgänger, aber irgendwie auch nicht. So'ne Art Hybridwesen mit Rädern. Wie hießen die noch gleich? Achja! Radfahrer. Findet man mittlerweile überall diese Biester, verbreiten sich rasend schnell.

Dann würde ich es an Deiner Stelle vermeiden in Autos ohne funktionierende Bremse einzusteigen.

Keine Angst, meine Bremsen erfahren keine Kompromisse. Aber was hat das mit dem Thema zu tun?

Übrigens braucht es gar keine Gedankenexperimente. Ganz konkretes Beispiel, mir selbst wiederfahren:

Seehr breite Landstraße ((m)eine Fahrspur deutlich breiter als die andere), Tempo 100. Gruppe von mehreren Radfahrern auf meiner Spur, hintereinander am rechten Fahrbahnrand. Konnte ich mit genügend Abstand (2m) überholen ohne meine Spur zu verlassen. Dicker Brummi auf Gegenfahrbahn. Plötzlich kommt ein überholendes Fahrzeug von vorne. Dachte wohl er könnte ruhig an für ihn unübersichtlicher Stelle überholen, weil die Straße im Zweifelsfall locker breit genug für 3 Fahrzeuge wäre. Dumm nur, dass er nichts von den Radlern wusste, wegen denen ich sehr weit links innerhalb meiner Spur fuhr. In diesem Fall ging alles glimpflich aus, weil ich erst neben dem ersten Radler (von hinten gesehen) war und mit Bremsen und Rüberziehen grade noch ausweichen konnte. Wäre ich schon beim 3ten oder 4ten gewesen, hätte ich entscheiden müssen ob ich die neben mir wegramme oder Frontal mit knapp 100 (minus bissl Bremsen) mit dem Überholer (guuute 100) zusammenrauschen will. Naja entschieden hatte ich eigtl. schon, denn dass noch passte ohne einen Radfahrer mitzunehmen war einfach Glück der Umstände. Wirklich gewusst habe ich das nicht. Ich hätte die auch abgeräumt.

 

[Meister_EDA]

Die KI entscheidet nicht, sie hat kein Gewissen. Sie befolgt stattdessen den Regelsatz den ihr die Entwickler vorgegeben haben. Und diese Entwickler wären dran wenn sie der KI eingeben würden dass Materialschaden höher zu werten ist als Schaden an Lebewesen.

Das betrifft hier einige Posts, aber ich picke mal die hier raus. Um das klarzustellen: Die "KI" ist heutzutage ziemlich sicher ein neuronales Netz das auf einer Datenbasis trainiert wird. Grob vereinfacht gesagt: Man zeigt dem Algorithmus Eingangsdaten und sagt was man als Ausgang erwarten würde und hoft, dass es dann mit der Zeit erkennt wie das am Besten zu lösen ist ohne nur die Eingangsdaten auswendig zu lernen (-> Abstraktion).

Das hat folgende Konsequenzen:

• Die "KI" hat kein Gewissen, aber sie hat auch für eine konkrete Situation keine Vorgaben von irgendeinem Entwickler! Man muss darauf hoffen, dass das System frühere Situationen korrekt abstrahiert hat um auf die aktuelle Situation zu reagieren. Das ist mehr Stochastik als von Entwicklern vorgegebene Regeln.
• Wie der Algorithmus auf eine konkrete neue/unbekannte Situation reagiert ist nicht vorhersehbar wenn das System ausreichend komplex ist - für Level 5 also definitiv. Man kann aus einem komplexen NN keine einfachen Regeln ableiten. Beispiel: Ob das System eine Vollbremsung veranlasst könnte dadurch beeinflusst sein, ob der Ball auf der Straße rot oder rosa ist. Es könnte sein, dass das NN in den Eingangsdaten hauptsächlich auf rote und grüne Bälle auf der Straße reagieren musste aber nie (oder zu selten) auf rosane und da beispielsweise rosa Blüttenblätter kein Problem sind wird nicht gebremst. Das ist ein technisch ernstes Problem, kein regulatorisches!
• Die Welt enthält unendlich viele Situationen: Fußgänger auf der Straße, betrunkener Fußgänger, Rehe, Kängarus, Vögel, Zeitungen, Plastiktüten, verlorene Ladungen von LKWs, Fahrräder auf Autos, ... Als Mensch fährt man über eine Zeitung einfach drüber - klar, man weiß ja dass das kein echtes Hindernis für das Auto darstellt. Das funktioniert aber nur weil man als Mensch weiß wie sich eine Zeitung verhält. Dafür sind wir aber auch 18 Jahre herumgelaufen und haben alles möglich angetatscht bis wir das erste Mal die Zündung umdrehen. Das muss man auch in das viel beschränktere NN quetschen, ansonsten muss man damit rechnen, dass eine Zeitung auf der Autobahn zur Vollbremsung führt.
• Weil es hier immer wieder zur Ansprache kam: Weniger Geschwindigkeit bedeutet natürlich auch weniger Risiko, weil a) mehr Zeit zum Reagieren für Fahrzeug und auch die restliche Umgebung und b) weniger kinetische Energie, also auch tendenziell weniger Schaden wenn was schief geht und vor allem ein drastisch kürzerer Bremsweg. Das heißt, die Lösung Vollbremsung ist bei sehr vielen Situationen problemlos durchführbar.