Gefahren durch automatische Assistenzsysteme

Jag

Beiträge
5.408
Hallo,
ich hab das Thema mal in "Liegeräder" gepackt, weil es sowohl Liegeräder als auch VMe betrifft (und VMe Liegeräder sind).
Da Liegeradfahrer (oder Fahrradfahrer generell?) zu einer Minderheit gehören, kann man davon ausgehen, dass diese bei der Entwicklung des autonomen Fahrens nicht berücksichtigt werden.
Deshalb meine Fragen:
- Welche Gefahren für uns wird es geben?
- Welche gibt es schon?
- Was können wir dagegen tun (vor allen Dingen technisch)?

Von Bremssystemen bei Lkws hab ich schon gehört und auch, dass die meistens auf der Autobahn ausgestellt werden. Bislang hatte ich mich von hinten nahenden Lkws gut beachtet gefühlt. Ist aber eine Standardsituation und wenn technisch bedingt der VMFahrer ignoriert werden würde, wäre es das Ende des VMFahrens.
 
Deshalb meine Fragen:
- Welche Gefahren für uns wird es geben?
- Welche gibt es schon?
- Was können wir dagegen tun (vor allen Dingen technisch)?
Diese Systeme dürften vielen VMs in den nächsten Jahren viele Sorgen machen haben die doch von hinten beste Tarnkappenformen.
Mein Abstandstempomat reagiert zuverlässig auf das Quest von @Ot_Be .

:cool:Ob der Notbrems-Assistent das auch täte werde ich nicht ohne seine Zustimmung testen:X3:

Gruß
Christoph
Die Gefahr ist sicherlich gegeben und ich weiß von einem VM Hersteller das der sich da durchaus Gedanke zu macht und auch schon Experimente macht.
@Christoph S konnte es teils entkräften zumindest beim Quest, bei Mango ,Hilgo und Strada sehe ich auch eher keine Problem die haben genug Fläche am Heck.
Modelle wie Milan, DF Alpha7/9 haben ein so schlankes Heck das die wie der Profileinlauf von Tarnkappenfliegern wirkt und da "rutschen" die Radarstrahlen dran ab, ob die Autos da bessere Systeme haben bleibt abzuwarten.
 
Dieser Fall von Google vor fünf (5!) Jahren hatte viele Radfahrer belustigt/besorgt. Seit dem sind aber noch viele Zeilen Code in den Algorithmus geflossen. Dennoch KI erkennt momentan nur das worauf es trainiert wurde. Deswegen bergen VMs & LR ein gewisses Risiko
 
Ist aber eine Standardsituation und wenn technisch bedingt der VMFahrer ignoriert werden würde, wäre es das Ende des VMFahrens.
Da wäre ich nicht ganz so pessimistisch, wenngleich natürlich die Gefahr besteht, dass alles, womit die KI nicht klar kommt, untergebuttert wird. Ich persönlich würde weniger technisch sondern eher politisch (Verbände, auch EU-Ebene) und rechtlich an die Sache herangehen. Ansonsten will noch irgendwer was verkaufen (zB nen Sender im Heck) und kriegt es hin, das über die politische Ebene verpflichtend zu machen - siehe Loibl-Reflektoren.

Leider ist die Beteiligungsphase zum Teil des Mobilitätsgesetzes in B zu 'neuer Mobilität' gerade durch, hätte ich gerne da reingeschoben: "Sicherstellen, dass alle Fahrzeuge im Verkehr sicher erkannt werden".
 
Von Assistenzsystemen würde ich nicht zuuu viel erwarten, die müssen nur existieren, damit man sie auf die Lister der Funktionen setzen kann und der Fahrer muss sich niemals auf sie verlassen können, da er selbst der Fahrer bleibt. Beim Autonomen fahren ist das anders, da muss das Auto jedes Hindernis und jeden Verkehrsteilnehmer erkennen. Hier kann also z.B. kein System verwendet werden, dass nur auf Metallische Gegenstände reagiert und Menschen oder Beton ignoriert. Auch darf es nicht jur auf bekannte Formen reagieren, die es klassifizieren kann. Ein System dass gegen einen Betonklotz brettert, weil er nicht als Autonoder Fahrrad erkannt wurde, dürfte nicht eingesetzt werden. Hier denke ich also, dass echtes Autonomes fahren, sobald es wirklich auf den Markt kommt für uns eher sicherer sein wird, weil das Auto eben nicht nur das sucht, was es kennt, anders als menschliche Fahrer. Die Zwischenzeit wird aber gefährlich, in der Menschen sich auf Systeme verlassen, die noch nicht bereit sind, sich auf sie zu verlassen. (Siehe Unfälle mit Teslas Autopilot, bei denen die Menschen Filme gucken oder Zeitung lesen und das Auto z.B. Feuerwehrautos übersieht und reinfährt.)

Als ich im Räderwerk war, erzählte Helge, dass sie sich über die Erfassung durch Abstandsmesser in Autos Gedabken machen und Ideen haben wie Metall-Netze im Inneren des Velomobils, die wie ein Radar-Spiegel wirken. Lidar-Systeme könnten vielleicht sehr gut auf Reflexfolie reagieren? Und Kameras müssten ja wohl im schlimmsten Fall mindestens die Leuchten wahrnehmen. Ultraschall könnte ich mir gut vorstellen, dass es von hinten (und vorne) nicht gut funktioniert. Da könnte man aber vielleicht auch einen Reflektor für die Hinterseite entwickeln, der ein stärkeres Anschlagen verursacht.
Ich habe auch schon in Autos gesessen, deren Einparkhilfe auf etwas Graß oder einen Zweig reagiert hat. - Da war allerdings die Entfernung natürlich schon ziemlich gering.
 
diese bei der Entwicklung des autonomen Fahrens nicht berücksichtigt werden.
Autonomes Fahren wird es in absehbarer Zeit sowieso nicht geben:
  • Es ist keine Kunst, Software zu schreiben, die in 99.9% der Fälle richtig liegt. Aber die Sonderfälle sind immer das Problem. Ich weiß nicht, wie es möglich sein soll, dafür eine Software zu schreiben, die in praktisch 100% der Fälle alles richtig analysiert.
  • Ich nehme an, eine Software für autonomes Fahren muss beweisbar sicher sein. D.h. einfach nur ein Training wie bei aktueller KI dürfte nicht reichen, sondern die 100% Zuverlässigkeit müssen bewiesen werden.
  • Rechtlich ist das bei uns auch überhaupt nicht möglich. Es muss einen Fahrer geben, der die Verantwortung trägt. D.h. autonomes Fahren braucht erst einmal eine grundlegende Gesetzesreform.
  • Jemand hat mal treffend gesagt, der größte Feind des autonomen Fahrens sind die Fahrerassistenzsysteme – denn ein menschlicher Fahrer plus Assistenzsystem ist unschlagbar gut; eine Assistenzsystem muss erst einmal genauso gut werden wie ein Assistenzsystem plus Mensch.
Bleiben noch die Assistenzsysteme:
  • Grundsätzlich machen sie das Fahren sicherer. Es ist einfach ein zusätzliches Augenpaar, das die Straße beobachtet.
  • Ich habe vor Autos mit Assistenzsystemen weniger Angst als vor normalen Autos mit Fahrern, die abgelenkt sind. Und von denen gibt es auch jetzt schon genug.
  • Natürlich wird ein Assistenzsystem Probleme mit Liegerädern haben – die Silhouette ist nun einmal schmal, und das macht es für eine Kamera genauso schwieriger wie für einen Menschen.
  • Was @Delta Hotel zu Radar schreibt, stimmt natürlich. Aber praktisch alle fortgeschrittenen Assistenzsysteme haben nicht nur einen Sensor-Typ, sondern mehrere – Radar, Kameras, Infrarot. Und das macht es in der Summe schon einmal sehr viel besser, weil das System ja bereits deutlich bessere Eingabedaten als ein Mensch bekommt. Auch wenn dabei die Analyse noch Schwächen hat – ein „nicht gesehen“ ist damit deutlich unwahrscheinlicher.
  • Wovor soll ich also mehr Angst haben – einem nicht perfekten Assistenzsystem, auf das sich die Menschen zu sehr verlassen, oder Menschen, die ganz ohne Assistenzsystem trotzdem während der Fahrt SMS schreiben?
  • => Ich hoffe mal: Wenn das Auto ein Objekt sieht, mit dem es nichts anfangen kann, wird es sich übervorsichtig/hilflos verhalten, statt es einfach auf Verdacht mal platt zu fahren.
 
Es ist keine Kunst, Software zu schreiben, die in 99.9% der Fälle richtig liegt. Aber die Sonderfälle sind immer das Problem. Ich weiß nicht, wie es möglich sein soll, dafür eine Software zu schreiben, die in praktisch 100% der Fälle alles richtig analysiert.
Schwierig. Solange die Erkennungsraten niedrig sind, kann man die Sicherheit dadurch erhöhen, dass man alles als "potentiell gefährlich" einstuft, was nicht erkannt wird. Aber wenn die Treffsicherheit ein gewisses Niveau erreicht hat und der Anteil von falsch-positiv und falsch-negativ erkannten Objekten vergleichbar wird, verlagert man das Problem mit Liegerädern nur von "nicht erkanntes Fahrrad" auf "falsch erkannte Warnbake" o.ä.

Mir wäre es gar nicht so unrecht, wenn von Straßenfahrzeugen z.B. eine gewisse Radar-Reflektivität verlangt wird. Selbst wenn man das an manchen Fahrzeugen extra anbauen müsste, wäre das ein "dummes" und passives Teil, das sich mit heutigen KFZ_Ausrüstungen trotzdem leicht erkennen ließe. Dann wären weitergehende Forderungen nach Transpondern oder Handys erstmal überflüssig, und im Gegensatz zu denen braucht ein Reflektor keine Batterien und ist schon technisch gar nicht in der Lage, Identifikationsdaten zu versenden.
 
Autonomes Fahren wird es in absehbarer Zeit sowieso nicht geben:
Dem stimme ich absolut zu, allerdings aus einem anderen Grund: Ein autonomes Fahrzeug wird sich an ALLE Verkehrsregeln halten muessen.* Es kann also nicht zu schnell fahren, im Ueberholverbot ueberholen oder zu wenig Abstand halten. Im Zweifel wird es genau das tun, was das oben verlinkte Google-Auto getan hat: Warten.
Auch brauchen autonome Autos mit ziemlicher Sicherheit keine 500 kW Leistung.
Boah, watt laaangweilig fuer unsere autoverrueckten Mitbuerger.:eek:

*Es sei denn unser Scheuer-Andi und seine Freunde kommen doch noch auf eine tolle Idee, die StVO zu revolutionieren.
 
Am problematischsten beim Autonomen Fahren sind jene Situationen, in denen ein Unfall nicht mehr vermeidbar ist und "moralisch" entschieden werden muss: Rammt das Auto den Rentner, oder das Kleinkind auf der anderen Seite? Den LKW, oder das Fahrrad auf der anderen Seite? Nach aktuellem Stand der Dinge wird in diesen Situationen immer der "Koolisionspartner" gewählt, der für den/die Insaßen des autonomen Fahrzeugs die geringste Gefahr darstellt, also in meinen Beispielen das Kleinkind bzw. das Fahrrad. Hier besteht der größte Diskussionsbedarf in meinen Augen.
 
Find ich gar nicht problematisch. Der Fall dürfte ziemlich selten vorkommen, weil im Gegensatz zum menschlichen Fahrer das autonome Auto in 99 von 100 dieser menschlich unvermeidbaren Fälle doch noch bremsen konnte. Wenn man für den Rest eine Zufallsfunktion nähme, wäre man schon an einer Stelle, wo sowohl 49 Kleinkinder als auch 49 Rentner sicher überleben. Währenddessen diskutiert man noch jahrelang und Jahr für Jahr sterben 99 Menschen, die man längst hätte retten können.
 
Mich hat vor geschätzt 10 Jahren mal ein Golf+ - Fahrer fast komplett plattgefahren, als ich mit dem Motorrad meines Bruders hinter ihm her fuhr, weil plötzlich Gegenverkehr auftauchte, er den Rückwärtsgang einlegte und volles Pfund Gas zurück gegeben hat. Der hat sich total auf seine Parksensoren verlassen, und mich nach dem Crash (so schnell konnte ich gar nicht hupen) auch noch angepflaumt, was ich denn angestellt hätte, seine Sensoren hätten mich gar nicht angezeigt. Erst der zwei Minuten zufällig auftauchende Kradpolizist hat ihn dann "einbremsen" können.

Ich halte den Menschen selbst immer noch für den größten Risikofaktor betreffend Gefährdungen:
  • Da gibt es diejenigen, die sich total auf die Technik verlassen - wurde gerade schon angesprochen - und ich erinnere mich da noch an die Meldung, als da zwei Pfosten in ihrem Tesla zum Nickerchen machen mit Fahrassistenzsystem und Lehnen nach hinten geklappt mit 140 km/h + in Kanada erwischt wurden. Laut Aussagen der Polizei sah man keine Insassen.
  • Bei der Realisierung vieler technischer Fortschritte ist der Einfluss der wirtschaftlichen / politischen Interessen, der Fahrzeugkosten und die Verkaufsstrategien nicht zu unterschätzen. Dieses ganze Drumherum des "Menschelns" beeinflusste oft weit mehr die fehlerfreie Realisierung von Technologien als durch deren individuelle physikalische und technische Grenzen.
  • Dann gibt es da noch die Unterschiede der Assistenzsysteme selbst (ABS kennt ja glücklicherweise jeder, Notbremsassistent, Spurhalteassistent, Autonomes Fahren, etc.), das, was die Systeme jeweils können. Können sie "aufwecken" oder aktiv eingreifen, und - viel wichtiger - dass der Mensch auch begreift, was das Auto gerade tatsächlich kann. Ich bin davon überzeugt, dass in Zukunft zu viele Leute ihre Assistenzsysteme nicht kennen werden, was diese können und was nicht. Es wird sicher auch eine Vielzahl unterschiedlicher Systeme geben, die marketingbedingt unterschiedliche Bezeichnungen tragen, deren Unterschiede für Laien nicht erkennbar sein werden. Von der sicheren Bedienung wollen wir mal gar nicht anfangen. (Ich dachte, das System wäre an.)
  • Was ich für grob fahrlässig halte, sind "autonome" Systeme, die sich auf die Aufmerksamkeit des Fahrers stützen. Das ist mM nur ein rechtlicher Kniff, damit das Fahrzeug die rechtliche Hürde nimmt. Wenns dann mal knallt - was kommt dann für eine Aussage? "So schnell hab ich nicht reagiert. Die Technik funktionierte bisher immer." Also - Auto an, Hirn aus. Das wäre für mich sogar nachvollziehbar, weil - auch ich würde so gesteuert, irgendwann gedanklich abschalten. Richtig gefährlich finde ich ein solches System in Kombination mit der älter werdenden Gesellschaft, die offenbar ihre eigene Blindheit gar nicht mehr erfasst.
Das alles wird noch für eine Menge Spaß sorgen.
 
Zuletzt bearbeitet:
Wenn man für den Rest eine Zufallsfunktion nähme, wäre man schon an einer Stelle, wo sowohl 49 Kleinkinder als auch 49 Rentner sicher überleben.

Das steht nicht zur Debatte, wegen des erwähnten Insaßenschutzes. Der ist nach aktuellem Stand der Ding weltweit dann der Faktor, der zur Entscheidung, mit wem (oder was - die Entscheidung könnte auch sein "Baum links oder schwangere Frau mit 2 Kleinkindern im Kinderwagen rechts" - nach aktuellem Stand wird die Frau mit den Kindern gewählt) kollidiert wird, führt.
 
Das steht nicht zur Debatte, wegen des erwähnten Insaßenschutzes. Der ist nach aktuellem Stand der Ding weltweit dann der Faktor, der zur Entscheidung, mit wem (oder was - die Entscheidung könnte auch sein "Baum links oder schwangere Frau mit 2 Kleinkindern im Kinderwagen rechts" - nach aktuellem Stand wird die Frau mit den Kindern gewählt) kollidiert wird, führt.
Das ist ja schon mal was anderes als zwei Personen. Aber auch das hier ist ein sehr theoretisches Beispiel, da ein automatisches System einfach direkt bremsen kann, während der menschliche Fahrer noch nicht mal realisiert hat, was gerade passiert. Es sei denn, auf der Autobahn steht plötzlich ein Baum, den eine schwangere Frau mit ihren Kindern da gerade gepflanzt hat.
 
Ich weiß nicht, wie es möglich sein soll, dafür eine Software zu schreiben, die in praktisch 100% der Fälle alles richtig analysiert.
100% muss garnicht sein, nur eben mindestens so gut wie der Mensch - und das ist doch recht bald machbar.

ein menschlicher Fahrer plus Assistenzsystem ist unschlagbar gut
Zumindest der aufmerksame Mensch. Aber im Duschschnitt überkompensieren die Menschen die zunehmenden Assitenzen mit abnehmender Aufmerksamkeit.

Ich hoffe mal: Wenn das Auto ein Objekt sieht, mit dem es nichts anfangen kann, wird es sich übervorsichtig/hilflos verhalten, statt es einfach auf Verdacht mal platt zu fahren.
Bei autonomen Systemen ganz sicher. Assistenzen könnten im Zweifelsfall nur piepsen und blinken und bis der Fahrer aufgewacht ist, ist der Unfall schon vorbei.

Währenddessen diskutiert man noch jahrelang und Jahr für Jahr sterben 99 Menschen, die man längst hätte retten können.
Ja, solange wir nicjt entscheiden können, wen wir retten, lassen wir alle sterben. :confused:

Das steht nicht zur Debatte, wegen des erwähnten Insaßenschutzes.
Dass das System die Insassen schützt, ist leider Vorraussetzung, damit es vom Eigentümer aktiviert wird. Aber wenn es aktiviert wird, verhindert es, dass einige dieser Unfälle überhaupt passieren. Damit ist auch ein egoistisches System für die Umwelt sicherer als kein System oder ein abgeschaltetes altruistisches System.
 
100% muss garnicht sein, nur eben mindestens so gut wie der Mensch - und das ist doch recht bald machbar.
Nein, das sehe ich anders.

Nicht ohne Grund werden in der Fahrschule nicht nur Verkehrsregeln gelehrt, sondern auch, warum manche Situationen gefährlich sind, d.h. das Hintergrundwissen, mit dem man Fehlverhalten und unerwartete Situationen versteht. Der Gesetzgeber erwartet also, dass der Autofahrer nicht nur die gezeigte Fahrweise erfolgreich nachäffen kann, sondern auch versteht, was er tut. Und das kann ein Computer nicht. Das, was wir heute als KI bezeichnen, hat nichts mit Verständnis zu tun – nur mit extrem guter Nachahmung des trainierten Verhaltens. Ohne das kleinzureden – mit Imitation und Vorurteilen kommt man sehr weit im Leben, und ein Computer, der das perfektioniert hat, umso weiter. Aber das löst eben nur die 99.99% Standardsituationen; und der Rest sind eben zu einem gewissen Teil Dinge, die man nur mit dem entsprechenden Hintergrundwissen lösen kann. Beispielsweise, dass es glatt sein kann, wenn es kurz zuvor Minusgrade hatte und im Wetterbericht was von Regen gesagt wurde. Und bei Blitzeis ist das trainierte Verhalten komplett nutzlos, weil es sehr viel rutschiger ist als sämtliche Trainingsdaten. Und selbst wenn die KI alles richtig macht, weiß sie nichts davon, wie sich ein Mensch falsch verhält, z.B. dass er erschrickt, zu heftig lenkt, und dadurch das Fahrzeug ausbricht.
 
Bitte verwendet nicht den Begriff "autonom"!

Die Maschinen sollen doch weiterhin unseren Gesetzten folgen, und nicht ihren eigenen.
 
Also bitte, den Begriff sollte man sehen, wie er ist, nämlich rein technisch. Autonom = Eigenständig; autonomes Fahrzeug = eigenständig fahrendes Fahrzeug. Hier eine politische Dimension in das Wort einzubringen ist unsinnig.
 
Es ist keine Kunst, Software zu schreiben, die in 99.9% der Fälle richtig liegt. Aber die Sonderfälle sind immer das Problem. Ich weiß nicht, wie es möglich sein soll, dafür eine Software zu schreiben, die in praktisch 100% der Fälle alles richtig analysiert.
Ich denke, den Anspruch von 100% wird auch irgendwann niemand mehr stellen. Wenn ich das mit Atomkraftwerken vergleiche: Die sollten 100% sicher sein; sind sie aber nicht; trotzdem werden sie betrieben. Höhere Ansprüche als an Atomkraftwerke für Fahrzeuge? - kann sein. Aber 100% für irgendwas zu garantieren wird unmöglich sein.
Da gibt es diejenigen, die sich total auf die Technik verlassen - wurde gerade schon angesprochen - und ich erinnere mich da noch an die Meldung, als da zwei Pfosten in ihrem Tesla zum Nickerchen machen mit Fahrassistenzsystem und Lehnen nach hinten geklappt mit 140 km/h + in Kanada erwischt wurden. Laut Aussagen der Polizei sah man keine Insassen.
Genau an sowas dachte ich. Dass die Technik zu gut funktioniert und man anfängt, sich auf sie zu verlassen, unabhängig davon, ob es gesetzlich erlaubt ist.
Aber praktisch alle fortgeschrittenen Assistenzsysteme haben nicht nur einen Sensor-Typ, sondern mehrere – Radar, Kameras, Infrarot.
Die Info wollte ich haben. Könnte man jetzt ein Gerät bauen, das es schafft, das Fahrzeug mit dem Bremsassitenten auf 50 m Abstand zu halten? (Natürlich nur, wenn man sonst rein bauartbedingt untergeht.)
 
Zurück
Oben Unten