Bli medlem i Norsk elbilforening og støtt driften av Elbilforum. Som medlem får du i tillegg startpakke, medlemsfordeler og gode tips om elbil og lading. Du blir med i et fellesskap som jobber for mindre utslipp fra veitrafikken. Medlemskap koster 565 kroner per år. elbil.no/medlemskap

Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?

Startet av Vesel, lørdag 13. juni 2020, klokken 20:53

« forrige - neste »

Vesel

Det klassiske etiske dilemmaet. Skal bilen programmeres til å alltid sette passasjerenes liv og helse først? Skal den prioritere å redde myke trafikanter siden de aldri selv forårsaker skade på andre? Eller skal den bruke mer sofistikerte algoritmer til å vurdere hva den bør foreta seg i en situasjon der skade på mennesker er uunngåelige, med mål om å oppnå minst mulig skade på mennesker totalt?

Mercedes har satt presedensen ved at de allerede har gått ut og sagt at bilene deres alltid vil prioritere sine egne passasjerer over andre trafikanter. Dermed er vi i en situasjon der alle bilprodusentene må gjøre det samme, både for rette opp i en skjev konkurransesituasjon og fordi når mennesker først har et valg, så er det helt naturlig at alle vil prioritere sin egen liv og helse over andres. For at Mercedes m.fl. skal kunne gjøre dette så forutsetter det at det ikke er reguleringer på plass innen dette dilemmaet blir relevant. Det felles beste er jo at bilen alltid prioriterer å redde flest mulig, oppnå minst mulig skade, uavhengig av hvem det måtte være den skader. Dermed er det naturlig at stater vil ønske å regulere dette.

Som utilitarist mener jeg i utgangspunktet at regulering må på plass, regulering som gjør at alle biler alltid må prioritere å redde flest mulig. Jeg lurer på hvordan andre ser på dette. Er det noen fordeler med andre alternativer?

Et annet spørsmål er om bilen skal vekte ulike liv opp mot hverandre. Skal f.eks. det å redde et friskt barn prioriteres over å redde en gammel person eller en rullestolbruker? Eller bør man unngå å i praksis si at ulike mennesker har ulik verdi? Jeg er mer usikker på dette. I helseøkonomi vektes ulike liv opp mot hverandre allerede, ved at verdien av leveår vektes etter hvor høy livskvalitet det vil ha (QALYs og DALYs).

Synspunkter?
Superfornøyd eier av en Tesla Model 3 siden mars 2019.
Long Range, AWD, blå, premium svart interiør, 19" Sport (sommer) + 18" Aero (vinter), AP + FSD.

Bydue 3.0 - el-sparkesykkel og hobbyprosjekt
Segway Minipro - selvbalanserende ståhjuling. Ta kontakt hvis du kan mekke kjettinger og snøplog til denne! 😂

OhmPaPa

Hvis en bil ikke prioriterer å redde egne passasjerer tror jeg få vil kjøpe den bilen.

Vesel

Sitat fra: OhmPaPa på lørdag 13. juni 2020, klokken 21:23
Hvis en bil ikke prioriterer å redde egne passasjerer tror jeg få vil kjøpe den bilen.
Nettopp. Det er derfor reguleringer bør på plass, for at det istedet skal bli flest mulig som får beholde livene sine.
Superfornøyd eier av en Tesla Model 3 siden mars 2019.
Long Range, AWD, blå, premium svart interiør, 19" Sport (sommer) + 18" Aero (vinter), AP + FSD.

Bydue 3.0 - el-sparkesykkel og hobbyprosjekt
Segway Minipro - selvbalanserende ståhjuling. Ta kontakt hvis du kan mekke kjettinger og snøplog til denne! 😂

RJK

Hvem prioriterer du, om du skulle havne i en slik situasjon? Eller venter du med avgjørelsen i mangel av evne eller vilje til å gjøre et valg helt frem til det er for seint? Eller stivner du og blir panisk?

En autonom bil skal analysere situasjonen etterhvert som den er i emning, og skal reagere logisk og konsekvent fra så tidlig at situasjonen du står ovenfor, ikke skal oppstå i første omgang.

Det inkluderer nedbremsing og unnamanøvrering. Systemet skal og bør beregne ut fra terrenget, slik at det å kjøre i grøfta kun er et alternativ om det ikke dreper eller skader de i bilen. Og som kjørende, så er det vel selvsagt et poeng at de i bilen er første prioritet. Dernest alle andre. Ellers gjør ikke bilen jobben sin, nemlig å transportere folk og gods fra a til b trygt, sikkert og komfortabelt.

Men altså, veldig mye skal og bør ha skjedd før man kommer så langt. Og det vil si at sjansen for at man kommer dithen at den må velge, vil være sterkt redusert i forhold til om det skjer med en person. Uoppmerksomhet skal altså ikke være mulig årsak ved autonomi.

Man kan selvsagt diskutere det at et menneske kan ta "ulogiske/noble" valg ved å f.eks. ofre seg selv for å redde en person med barnevogn eller unngå å treffe et barn eller et dyr. En viss algoritme kan selvsagt bakes inn for å ta visse valg, men bilen kan ikke velge å drepe passasjerer. Men som sagt, antallet situasjoner hvor et slikt valg vil være nødvendig/nødvendig, vil altså være skrekkelig mye mindre i antall.

Jeg tror vi aldri kommer til absolutt 0 trafikkdrepte, selv om alle kjøretøy ble autonome. Uforutsette ting vil skje, selv om de som lager systemene skal prøve å tenke ut alle mulige scenarier. F.eks. et plutselig synkehull dukker opp i veien rett foran bilen. Selv om bilen klarer å igangsette brems og unnamanøver, kan hullet bli så stort så raskt at det ikke er mulig å forhindre det å falle nedi. Samme med fjellras, bruhoppere etc.
Hyundai Kona Dark knight metallic med soltak - Kø# 2500, bil utlevert mars -19
Bosted Oslo

Vesel

Sitat fra: RJK på lørdag 13. juni 2020, klokken 22:22
Hvem prioriterer du, om du skulle havne i en slik situasjon? Eller venter du med avgjørelsen i mangel av evne eller vilje til å gjøre et valg helt frem til det er for seint? Eller stivner du og blir panisk?

En autonom bil skal analysere situasjonen etterhvert som den er i emning, og skal reagere logisk og konsekvent fra så tidlig at situasjonen du står ovenfor, ikke skal oppstå i første omgang.

Det inkluderer nedbremsing og unnamanøvrering. Systemet skal og bør beregne ut fra terrenget, slik at det å kjøre i grøfta kun er et alternativ om det ikke dreper eller skader de i bilen. (...)

Men altså, veldig mye skal og bør ha skjedd før man kommer så langt. Og det vil si at sjansen for at man kommer dithen at den må velge, vil være sterkt redusert i forhold til om det skjer med en person. Uoppmerksomhet skal altså ikke være mulig årsak ved autonomi.
De første årene vil det nok oppstå situasjoner hvor mennesker vil komme til skade i blant, men jeg tror også at de om noen menneskegenerasjoner kan bli ytterst sjeldne. Selv om en autonom bil kan bli langt mer trafikksikker enn et menneske, så vil det noen ganger oppstå helt uventa situasjoner hvor uhell er uunngåelige. Det er derfor jeg mener dette er et etisk dilemma som er verdt å tenke gjennom på forhånd.

I mange tilfeller vil det være andre trafikanters skyld at bilen blir presset opp i et hjørne. I slike situasjoner bør en vurdere å vektlegge mer å redde andre over den skyldige parten.

Jeg ser for meg at kjøretøy vil kommunisere seg i mellom i samtid og uhyre raskt finne ut av hvordan de skal forholde seg til hverandre for å unngå uhell, og også for å minimere skader når de først er uunngåelige.

Sitat
Og som kjørende, så er det vel selvsagt et poeng at de i bilen er første prioritet. Dernest alle andre. Ellers gjør ikke bilen jobben sin, nemlig å transportere folk og gods fra a til b trygt, sikkert og komfortabelt.
Og en stat gjør ikke jobben sin om den ikke regulerer dette til det felles beste. I Europa har vi tradisjoner for å ofre det som er best for enkeltindivider for det som er best for flest mulig. I et svakt, statsløst samfunn så ville Mercedes' løsning være valget man falt tilbake på, men i Europa er vi langt over det nivået nå og har blitt veldig flinke til å samarbeide mot løsninger som er for alles beste. Jeg ser for meg EU gå inn og regulere dette strengt.

Vi er riktig nok på et bilforum, men en må tenke på at det like gjerne er en selv eller noen en er i glad som vil være blant dem på den andre sida, blant de fem som kan bli ofret for at én person skal få leve.

Sitat
Man kan selvsagt diskutere det at et menneske kan ta "ulogiske/noble" valg ved å f.eks. ofre seg selv for å redde en person med barnevogn eller unngå å treffe et barn eller et dyr. En viss algoritme kan selvsagt bakes inn for å ta visse valg, men bilen kan ikke velge å drepe passasjerer. Men som sagt, antallet situasjoner hvor et slikt valg vil være nødvendig/nødvendig, vil altså være skrekkelig mye mindre i antall.
Mennesker har en sterk overlevelsesdrift, så det er naturligvis få som vil ønske å ta det irrasjonelle eller edle valget ved å ofre seg selv for fremmede. Det er derfor det aldri bør være opptil en selv.
Hvis bilen ikke dreper passasjerer så vil den drepe et større antall mennesker. Er det virkelig et bedre utfall? Selv om ti må dø for at én skal få leve?

Sitat
Jeg tror vi aldri kommer til absolutt 0 trafikkdrepte, selv om alle kjøretøy ble autonome. Uforutsette ting vil skje, selv om de som lager systemene skal prøve å tenke ut alle mulige scenarier. F.eks. et plutselig synkehull dukker opp i veien rett foran bilen. Selv om bilen klarer å igangsette brems og unnamanøver, kan hullet bli så stort så raskt at det ikke er mulig å forhindre det å falle nedi. Samme med fjellras, bruhoppere etc.
Nettopp.
Superfornøyd eier av en Tesla Model 3 siden mars 2019.
Long Range, AWD, blå, premium svart interiør, 19" Sport (sommer) + 18" Aero (vinter), AP + FSD.

Bydue 3.0 - el-sparkesykkel og hobbyprosjekt
Segway Minipro - selvbalanserende ståhjuling. Ta kontakt hvis du kan mekke kjettinger og snøplog til denne! 😂

pst

Selvkjørende biler får vi den dagen myndighetene aksepterer at juridisk ansvarlig fører er bilprodusenten ( programvaren ) og ikke , som nå , den som holder i rattet.
Blir lenge til....
2021 Porsche Taycan Turbo
2021 Opel Corsa-e
2021 Porsche Taycan 4S solgt
2020 Audi e-tron 55 Excl. solgt
2019 Audi RS5 Coupé solgt

mroek

Vi får heller ikke selvkjørende biler før det er etablert direkte datakommunikasjon mellom alle biler, slik at bilene ikke er avhengige utelukkende av sensorer/kameraer for å lese trafikken rundt seg. Jeg er 100% overbevist om at ingen av dem som har betalt Tesla for FSD noensinne vil oppleve dette i drift på de bilene som ruller på veien i dag.
Driver med 3D-design på hobbybasis. Legger ut diverse design på Cults 3D
Bil: Polestar 2, launch edition

Electric cars in Norway

Ja, det er et stykke igjen før vi har selvkjørende bilder. Les denne fra TU fra sept 2019 om temaet. https://www.tu.no/artikler/selvkjorende-biler-er-enna-en-drom-fortsatt-bare-pa-niva-2-av-5/467952

Men det er jo gøy da - at det går riktig vei :+1: :+1:

trikola

Avanserte redningsvester bør da også være konstruert slik at de løsner fra den personen som har den på seg for så å forflytte seg (vha av innebygd liten vannjet f eks.) til personer i vannet som trenger det mer. Merkelig diskusjon synes jeg.
TM3LR EAP+FSD 3.2019 "el Tekno Gigante"

Ketill Jacobsen

Vil tro at denne diskusjonen er veldig teoretisk. Hver dag er det livsfarlige situasjoner som bilister prøver å komme seg ut av det på best mulig måte. Kan ikke huske en gang å ha lest om en ulykke der andre er blitt ofret for at fører skal slippe billigst mulig unna. Nesten alltid prøver en å styre unna selv om det kan være en stor risiko knyttet til dette.

Vesel

Sitat fra: trikola på søndag 14. juni 2020, klokken 22:24
Avanserte redningsvester bør da også være konstruert slik at de løsner fra den personen som har den på seg for så å forflytte seg (vha av innebygd liten vannjet f eks.) til personer i vannet som trenger det mer. Merkelig diskusjon synes jeg.
Reductio ad absurdum. Ser en bort fra den praktisk gjennomførbarheten vet det her, så støter du på problemet med at det kun er en selv som er ansvarlig for å bruke redningsvest. Å gjøre slik du forslår, kan gjøre at flere dør, ettersom ansvar for bruk av redningsvest blir delt, en moralsk risiko.
I de tilfeller der andre trafikanter er ansvarlige for at et uungåelig uhell oppstår, så kan en vekte å prioritere ned vedkommende. En kan også argumentere for det motsatte, at myke trafikanter alltid bør prioriteres, siden de er de mest sårbare og aldri alene fører til at noen dør. Med biler og andre kjøretøy derimot, så er det en selv som har valgt å kjøre rundt i en drapsmaskin på 1,5 t.

Sitat fra: Ketill Jacobsen på mandag 15. juni 2020, klokken 01:02
Vil tro at denne diskusjonen er veldig teoretisk. Hver dag er det livsfarlige situasjoner som bilister prøver å komme seg ut av det på best mulig måte. Kan ikke huske en gang å ha lest om en ulykke der andre er blitt ofret for at fører skal slippe billigst mulig unna. Nesten alltid prøver en å styre unna selv om det kan være en stor risiko knyttet til dette.
Jeg er enig i at når en selv må foreta slike valg i løpet av brøkdelen av sekund, så er det like gjerne en selv en prioriterer ned. Dersom en får ta slike valg i god tid derimot, der tilfeldigheter ikke råder og en kan tenke rasjonelt og egennyttig, så vil de aller fleste prioritere seg selv først. Når andre først gjør dette, så vil det være irrasjonelt for andre å ikke gjøre det samme, og de burde nesten beskyttes mot seg selv ved at de ikke får det valget. Man ønsker et tit for tat-spill, slik at ingen blir utnyttet.

I denne artikkelen kaller journalisten det for et paradoks at folk sier de ønsker at biler skal beskytte fotgjengere over passasjerer i bilen, selv om de selv ikke ville kjøpt en slik bil. Jeg ser ikke på det som et paradoks. Det er helt naturlig. Det jeg tror de ønsker, er at reguleringer er på plass slik at ingen kan jukse. Det er trist at Mercedes allerede har sagt at de alltid vil prioritere sine passasjerer, for da kan andre bilprodusenter ikke gjøre noe annet enn å følge etter. De burde heller sagt det motsatte, og så heller brutt den linja ved første tilfelle der andre ikke gjør det samme. Er de åpen om dette, så kunne det satt en god presedens. Det ville blitt selvregulering bilprodusentene seg imellom. Selvregulering er langt fra uvanlig i næringslivet, der det brukes for å opprettholde kvaliteten på og ryktet til en bransje. Det er jo i bilbransjens egen interesse at bilene deres er sikrest mulig, og det vil de være ved å forårsake minst mulig skade. Er ikke bare fotgjengere det kan oppstå ulykker med, men kanskje enda oftere biler seg imellom.
Superfornøyd eier av en Tesla Model 3 siden mars 2019.
Long Range, AWD, blå, premium svart interiør, 19" Sport (sommer) + 18" Aero (vinter), AP + FSD.

Bydue 3.0 - el-sparkesykkel og hobbyprosjekt
Segway Minipro - selvbalanserende ståhjuling. Ta kontakt hvis du kan mekke kjettinger og snøplog til denne! 😂

Counterpointer

Sitat fra: Vesel på mandag 15. juni 2020, klokken 10:33
. En kan også argumentere for det motsatte, at myke trafikanter alltid bør prioriteres, siden de er de mest sårbare og aldri alene fører til at noen dør.
Plukker bare dette ene punktet og er djevelens advokat.

Så når en autonom bil møter en fotgjenger som bevist stiller seg i kjørebane (type suicidal) så skal den autonome bilen ofre sikkerheten til alle i bilen?
Det blir helt galt om firebarnsmoren som har hentet barn i barnehagen skal ofres fordi «John Doe» ikke orker å leve lenger og går foran bilen hennes når hun møter en lastebil i motgående i 80 sone og valget er mellom fotgjenger og møtende lastebil........

PS. Vet at du ikke nødvendigvis går inn for dette forslaget, men du nevner det.

Orbit

I følge spillteori, vil en ikke kunne oppnå den beste løsningen uten at alle partene kommuniserer åpent sine vurderinger, og forenes om hva hver enkelt skal gjøre for å minimere total skade (tilsvarende ACAS for fly i lufta). Se f.eks. denne: https://tv.nrk.no/program/KOID26009818

Selv om det kan tenktes at alle motorkjøretøy kommuniserer, vil myke trafikanter hverken kommunisere med et slikt system, ei heller få sine motoriske bevegelser overstyrt til å foreta en bestemt handling. Så da ender en med at autonome systemer til en viss grad må optimalisere for eget kjøretøy (som ikke alltid gir det beste samlede utfallet).

Så blir spørsmålet om slike autonome systemer likevel klarer å få ned antall skadde/drepte i trafikken, selv om det ikke alltid tar de beste valgene.
2016 BMW i3 94Ah
2019 Audi e-tron 55

Vesel

Sitat fra: knut.aulie på mandag 15. juni 2020, klokken 12:22
Sitat fra: Vesel på mandag 15. juni 2020, klokken 10:33
. En kan også argumentere for det motsatte, at myke trafikanter alltid bør prioriteres, siden de er de mest sårbare og aldri alene fører til at noen dør.
Plukker bare dette ene punktet og er djevelens advokat.

Så når en autonom bil møter en fotgjenger som bevist stiller seg i kjørebane (type suicidal) så skal den autonome bilen ofre sikkerheten til alle i bilen?
Det blir helt galt om firebarnsmoren som har hentet barn i barnehagen skal ofres fordi «John Doe» ikke orker å leve lenger og går foran bilen hennes når hun møter en lastebil i motgående i 80 sone og valget er mellom fotgjenger og møtende lastebil........

PS. Vet at du ikke nødvendigvis går inn for dette forslaget, men du nevner det.
Godt poeng, men etterhvert som bilene blir mer og mer intelligente så kan de kanskje vurdere hvor uforsiktig eller forsettelig den som forårsaker en situasjon er, og handle deretter. Det er derfor jeg mener at bilene bør legge vekt på hvem det er som er ansvarlig for at en situasjon oppstår, selv om målet i utgangspunktet er minst mulig skade totalt sett. Man ønsker, som jeg nevnte tidligere, å redusere moralsk risiko, som er noe som kan medføre stor urettferdighet og i verste fall at flere dør
Superfornøyd eier av en Tesla Model 3 siden mars 2019.
Long Range, AWD, blå, premium svart interiør, 19" Sport (sommer) + 18" Aero (vinter), AP + FSD.

Bydue 3.0 - el-sparkesykkel og hobbyprosjekt
Segway Minipro - selvbalanserende ståhjuling. Ta kontakt hvis du kan mekke kjettinger og snøplog til denne! 😂

RJK

Sitat fra: Vesel på mandag 15. juni 2020, klokken 14:08
Sitat fra: knut.aulie på mandag 15. juni 2020, klokken 12:22
Sitat fra: Vesel på mandag 15. juni 2020, klokken 10:33
. En kan også argumentere for det motsatte, at myke trafikanter alltid bør prioriteres, siden de er de mest sårbare og aldri alene fører til at noen dør.
Plukker bare dette ene punktet og er djevelens advokat.

Så når en autonom bil møter en fotgjenger som bevist stiller seg i kjørebane (type suicidal) så skal den autonome bilen ofre sikkerheten til alle i bilen?
Det blir helt galt om firebarnsmoren som har hentet barn i barnehagen skal ofres fordi «John Doe» ikke orker å leve lenger og går foran bilen hennes når hun møter en lastebil i motgående i 80 sone og valget er mellom fotgjenger og møtende lastebil........

PS. Vet at du ikke nødvendigvis går inn for dette forslaget, men du nevner det.
Godt poeng, men etterhvert som bilene blir mer og mer intelligente så kan de kanskje vurdere hvor uforsiktig eller forsettelig den som forårsaker en situasjon er, og handle deretter. Det er derfor jeg mener at bilene bør legge vekt på hvem det er som er ansvarlig for at en situasjon oppstår, selv om målet i utgangspunktet er minst mulig skade totalt sett. Man ønsker, som jeg nevnte tidligere, å redusere moralsk risiko, som er noe som kan medføre stor urettferdighet og i verste fall at flere dør

Hvordan kan du snakke om forsettlig eller ikke, når man snakker om full autonomi? Når ble bilens hjerne både dommer og jury?

Hovedpoenget er ikke å dele ut noen skyld og handle deretter, men å kjøre etter forholdene, og på en slik måte at uforutsette ting den kan kontrollere, ikke oppstå i første omgang. Gjerne i samband med en sentraliserende løsning som gjør at veier og biler "snakker sammen, om ikke direkte bil til bil.

Og om noe uforutsett likevel skulle skje, som en ekstern hendelse, så er første prioritet å unngå situasjonen helt og holdent ved enten bremse og stoppe, eller svinge unna. Og om nødvendig, til og med gasse på for å komme vekk fra eventuelt nærmende objekt.

Vi snakker da om de moralske valgene i svært marginale situasjoner, når valget står mellom et sammentreff og/eller utforkjøring eller  sammenstøt med andre elementer i veien. Er veien og terrenget av en slik art at en grøftekjøring er "trygt", så skal det velges før en velger et sammentreff.

Problemet oppstår når alle alternativ potensielt vil føre til personskade med fare for liv og/eller lemlestelse. Et sammenstøt med møtende bil, autovern eller fjellvegg i så lav fart at det først og fremst skader kjøretøy, bør da komme før det å treffe noe som identifiseres som et menneske. Dyr, derimot, skal og må få laver status. Selv om jeg elsker hunder, så er ethvert menneske mere verdt, og burde og være det i juridisk og moralsk forstand, selv om det er noens kjæledyr.

Da har vi begrenset dette ned til situasjoner der alt annet er vurdert, og eneste utfall man kan komme på, er da noe som vil føre til død eller lemlestelse. Enten for passasjerer i egen bil, passasjerer i møtende bil, eller myke trafikanter. Her vil antall spille en viss rolle, da fare for død og liv må gjelde færrest mulig. Altså må da en enkelt myk trafikant tape for en bil med minst tro passasjerer og to biler med en passasjer i hvert kjøretøy.

Når det da gjenstår spørsmålet mellom en passasjer i kjøretøyet som skal ta avgjørelsen, og en enslig myk trafikant, så mener jeg det vil være urimelig å forvente at kjøretøyet skal ofre sin passasjer, slik at da blir det den myke trafikanten som taper.

Og, nei, bortsett fra gjenkjennelse etter størrelse og/eller medbringende hjelpemidler, så tviler jeg på at bilen vil kunne se om det er et ungt eller gammelt menneske, om ikke disse og er registrert innen samme system. Det tror jeg blir problematisk å få til uten å bryte personvernregler.

Men igjen, da skal svært mye ha gått galt frem til vi når dette punktet. Og det burde vel være unødvendig å si, men autonomi som i fullt ut selvkjørende biler etter nivå 5, vil neppe komme før man har forbudt "dumme" kjøretøy på veiene, og at veier og kjøretøy i slike områder er oppdatert og i stand til å kommunisere via en sentralenhet, og derfor kan samarbeide for å unngå farlige situasjoner å oppstå.
Hyundai Kona Dark knight metallic med soltak - Kø# 2500, bil utlevert mars -19
Bosted Oslo

© 2024, Norsk elbilforening   |   Personvern, vilkår og informasjonskapsler (cookies)   |   Organisasjonsnummer: 982 352 428 MVA