Elbilforum.no

Populære temaer => Elbilen i Samfunnet => Emne startet av: Vesel på lørdag 13. juni 2020, klokken 20:53

Tittel: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Vesellørdag 13. juni 2020, klokken 20:53
Det klassiske etiske dilemmaet. Skal bilen programmeres til å alltid sette passasjerenes liv og helse først? Skal den prioritere å redde myke trafikanter siden de aldri selv forårsaker skade på andre? Eller skal den bruke mer sofistikerte algoritmer til å vurdere hva den bør foreta seg i en situasjon der skade på mennesker er uunngåelige, med mål om å oppnå minst mulig skade på mennesker totalt?

Mercedes (https://www.insider.com/mercedes-benz-self-driving-cars-programmed-save-driver-2016-10) har satt presedensen ved at de allerede har gått ut og sagt at bilene deres alltid vil prioritere sine egne passasjerer over andre trafikanter. Dermed er vi i en situasjon der alle bilprodusentene må gjøre det samme, både for rette opp i en skjev konkurransesituasjon og fordi når mennesker først har et valg, så er det helt naturlig at alle vil prioritere sin egen liv og helse over andres. For at Mercedes m.fl. skal kunne gjøre dette så forutsetter det at det ikke er reguleringer på plass innen dette dilemmaet blir relevant. Det felles beste er jo at bilen alltid prioriterer å redde flest mulig, oppnå minst mulig skade, uavhengig av hvem det måtte være den skader. Dermed er det naturlig at stater vil ønske å regulere dette.

Som utilitarist mener jeg i utgangspunktet at regulering må på plass, regulering som gjør at alle biler alltid må prioritere å redde flest mulig. Jeg lurer på hvordan andre ser på dette. Er det noen fordeler med andre alternativer?

Et annet spørsmål er om bilen skal vekte ulike liv opp mot hverandre. Skal f.eks. det å redde et friskt barn prioriteres over å redde en gammel person eller en rullestolbruker? Eller bør man unngå å i praksis si at ulike mennesker har ulik verdi? Jeg er mer usikker på dette. I helseøkonomi vektes ulike liv opp mot hverandre allerede, ved at verdien av leveår vektes etter hvor høy livskvalitet det vil ha (QALYs og DALYs).

Synspunkter?
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: OhmPaPalørdag 13. juni 2020, klokken 21:23
Hvis en bil ikke prioriterer å redde egne passasjerer tror jeg få vil kjøpe den bilen.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Vesellørdag 13. juni 2020, klokken 21:28
Sitat fra: OhmPaPa på lørdag 13. juni 2020, klokken 21:23
Hvis en bil ikke prioriterer å redde egne passasjerer tror jeg få vil kjøpe den bilen.
Nettopp. Det er derfor reguleringer bør på plass, for at det istedet skal bli flest mulig som får beholde livene sine.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: RJKlørdag 13. juni 2020, klokken 22:22
Hvem prioriterer du, om du skulle havne i en slik situasjon? Eller venter du med avgjørelsen i mangel av evne eller vilje til å gjøre et valg helt frem til det er for seint? Eller stivner du og blir panisk?

En autonom bil skal analysere situasjonen etterhvert som den er i emning, og skal reagere logisk og konsekvent fra så tidlig at situasjonen du står ovenfor, ikke skal oppstå i første omgang.

Det inkluderer nedbremsing og unnamanøvrering. Systemet skal og bør beregne ut fra terrenget, slik at det å kjøre i grøfta kun er et alternativ om det ikke dreper eller skader de i bilen. Og som kjørende, så er det vel selvsagt et poeng at de i bilen er første prioritet. Dernest alle andre. Ellers gjør ikke bilen jobben sin, nemlig å transportere folk og gods fra a til b trygt, sikkert og komfortabelt.

Men altså, veldig mye skal og bør ha skjedd før man kommer så langt. Og det vil si at sjansen for at man kommer dithen at den må velge, vil være sterkt redusert i forhold til om det skjer med en person. Uoppmerksomhet skal altså ikke være mulig årsak ved autonomi.

Man kan selvsagt diskutere det at et menneske kan ta "ulogiske/noble" valg ved å f.eks. ofre seg selv for å redde en person med barnevogn eller unngå å treffe et barn eller et dyr. En viss algoritme kan selvsagt bakes inn for å ta visse valg, men bilen kan ikke velge å drepe passasjerer. Men som sagt, antallet situasjoner hvor et slikt valg vil være nødvendig/nødvendig, vil altså være skrekkelig mye mindre i antall.

Jeg tror vi aldri kommer til absolutt 0 trafikkdrepte, selv om alle kjøretøy ble autonome. Uforutsette ting vil skje, selv om de som lager systemene skal prøve å tenke ut alle mulige scenarier. F.eks. et plutselig synkehull dukker opp i veien rett foran bilen. Selv om bilen klarer å igangsette brems og unnamanøver, kan hullet bli så stort så raskt at det ikke er mulig å forhindre det å falle nedi. Samme med fjellras, bruhoppere etc.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Vesellørdag 13. juni 2020, klokken 23:48
Sitat fra: RJK på lørdag 13. juni 2020, klokken 22:22
Hvem prioriterer du, om du skulle havne i en slik situasjon? Eller venter du med avgjørelsen i mangel av evne eller vilje til å gjøre et valg helt frem til det er for seint? Eller stivner du og blir panisk?

En autonom bil skal analysere situasjonen etterhvert som den er i emning, og skal reagere logisk og konsekvent fra så tidlig at situasjonen du står ovenfor, ikke skal oppstå i første omgang.

Det inkluderer nedbremsing og unnamanøvrering. Systemet skal og bør beregne ut fra terrenget, slik at det å kjøre i grøfta kun er et alternativ om det ikke dreper eller skader de i bilen. (...)

Men altså, veldig mye skal og bør ha skjedd før man kommer så langt. Og det vil si at sjansen for at man kommer dithen at den må velge, vil være sterkt redusert i forhold til om det skjer med en person. Uoppmerksomhet skal altså ikke være mulig årsak ved autonomi.
De første årene vil det nok oppstå situasjoner hvor mennesker vil komme til skade i blant, men jeg tror også at de om noen menneskegenerasjoner kan bli ytterst sjeldne. Selv om en autonom bil kan bli langt mer trafikksikker enn et menneske, så vil det noen ganger oppstå helt uventa situasjoner hvor uhell er uunngåelige. Det er derfor jeg mener dette er et etisk dilemma som er verdt å tenke gjennom på forhånd.

I mange tilfeller vil det være andre trafikanters skyld at bilen blir presset opp i et hjørne. I slike situasjoner bør en vurdere å vektlegge mer å redde andre over den skyldige parten.

Jeg ser for meg at kjøretøy vil kommunisere seg i mellom i samtid og uhyre raskt finne ut av hvordan de skal forholde seg til hverandre for å unngå uhell, og også for å minimere skader når de først er uunngåelige.

Sitat
Og som kjørende, så er det vel selvsagt et poeng at de i bilen er første prioritet. Dernest alle andre. Ellers gjør ikke bilen jobben sin, nemlig å transportere folk og gods fra a til b trygt, sikkert og komfortabelt.
Og en stat gjør ikke jobben sin om den ikke regulerer dette til det felles beste. I Europa har vi tradisjoner for å ofre det som er best for enkeltindivider for det som er best for flest mulig. I et svakt, statsløst samfunn så ville Mercedes' løsning være valget man falt tilbake på, men i Europa er vi langt over det nivået nå og har blitt veldig flinke til å samarbeide mot løsninger som er for alles beste. Jeg ser for meg EU gå inn og regulere dette strengt.

Vi er riktig nok på et bilforum, men en må tenke på at det like gjerne er en selv eller noen en er i glad som vil være blant dem på den andre sida, blant de fem som kan bli ofret for at én person skal få leve.

Sitat
Man kan selvsagt diskutere det at et menneske kan ta "ulogiske/noble" valg ved å f.eks. ofre seg selv for å redde en person med barnevogn eller unngå å treffe et barn eller et dyr. En viss algoritme kan selvsagt bakes inn for å ta visse valg, men bilen kan ikke velge å drepe passasjerer. Men som sagt, antallet situasjoner hvor et slikt valg vil være nødvendig/nødvendig, vil altså være skrekkelig mye mindre i antall.
Mennesker har en sterk overlevelsesdrift, så det er naturligvis få som vil ønske å ta det irrasjonelle eller edle valget ved å ofre seg selv for fremmede. Det er derfor det aldri bør være opptil en selv.
Hvis bilen ikke dreper passasjerer så vil den drepe et større antall mennesker. Er det virkelig et bedre utfall? Selv om ti må dø for at én skal få leve?

Sitat
Jeg tror vi aldri kommer til absolutt 0 trafikkdrepte, selv om alle kjøretøy ble autonome. Uforutsette ting vil skje, selv om de som lager systemene skal prøve å tenke ut alle mulige scenarier. F.eks. et plutselig synkehull dukker opp i veien rett foran bilen. Selv om bilen klarer å igangsette brems og unnamanøver, kan hullet bli så stort så raskt at det ikke er mulig å forhindre det å falle nedi. Samme med fjellras, bruhoppere etc.
Nettopp.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: pstsøndag 14. juni 2020, klokken 11:00
Selvkjørende biler får vi den dagen myndighetene aksepterer at juridisk ansvarlig fører er bilprodusenten ( programvaren ) og ikke , som nå , den som holder i rattet.
Blir lenge til....
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: mroeksøndag 14. juni 2020, klokken 13:29
Vi får heller ikke selvkjørende biler før det er etablert direkte datakommunikasjon mellom alle biler, slik at bilene ikke er avhengige utelukkende av sensorer/kameraer for å lese trafikken rundt seg. Jeg er 100% overbevist om at ingen av dem som har betalt Tesla for FSD noensinne vil oppleve dette i drift på de bilene som ruller på veien i dag.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Electric cars in Norwaysøndag 14. juni 2020, klokken 20:32
Ja, det er et stykke igjen før vi har selvkjørende bilder. Les denne fra TU fra sept 2019 om temaet. https://www.tu.no/artikler/selvkjorende-biler-er-enna-en-drom-fortsatt-bare-pa-niva-2-av-5/467952

Men det er jo gøy da - at det går riktig vei :+1: :+1:
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: trikolasøndag 14. juni 2020, klokken 22:24
Avanserte redningsvester bør da også være konstruert slik at de løsner fra den personen som har den på seg for så å forflytte seg (vha av innebygd liten vannjet f eks.) til personer i vannet som trenger det mer. Merkelig diskusjon synes jeg.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Ketill Jacobsenmandag 15. juni 2020, klokken 01:02
Vil tro at denne diskusjonen er veldig teoretisk. Hver dag er det livsfarlige situasjoner som bilister prøver å komme seg ut av det på best mulig måte. Kan ikke huske en gang å ha lest om en ulykke der andre er blitt ofret for at fører skal slippe billigst mulig unna. Nesten alltid prøver en å styre unna selv om det kan være en stor risiko knyttet til dette.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Veselmandag 15. juni 2020, klokken 10:33
Sitat fra: trikola på søndag 14. juni 2020, klokken 22:24
Avanserte redningsvester bør da også være konstruert slik at de løsner fra den personen som har den på seg for så å forflytte seg (vha av innebygd liten vannjet f eks.) til personer i vannet som trenger det mer. Merkelig diskusjon synes jeg.
Reductio ad absurdum. Ser en bort fra den praktisk gjennomførbarheten vet det her, så støter du på problemet med at det kun er en selv som er ansvarlig for å bruke redningsvest. Å gjøre slik du forslår, kan gjøre at flere dør, ettersom ansvar for bruk av redningsvest blir delt, en moralsk risiko (https://en.wikipedia.org/wiki/Moral_hazard).
I de tilfeller der andre trafikanter er ansvarlige for at et uungåelig uhell oppstår, så kan en vekte å prioritere ned vedkommende. En kan også argumentere for det motsatte, at myke trafikanter alltid bør prioriteres, siden de er de mest sårbare og aldri alene fører til at noen dør. Med biler og andre kjøretøy derimot, så er det en selv som har valgt å kjøre rundt i en drapsmaskin på 1,5 t.

Sitat fra: Ketill Jacobsen på mandag 15. juni 2020, klokken 01:02
Vil tro at denne diskusjonen er veldig teoretisk. Hver dag er det livsfarlige situasjoner som bilister prøver å komme seg ut av det på best mulig måte. Kan ikke huske en gang å ha lest om en ulykke der andre er blitt ofret for at fører skal slippe billigst mulig unna. Nesten alltid prøver en å styre unna selv om det kan være en stor risiko knyttet til dette.
Jeg er enig i at når en selv må foreta slike valg i løpet av brøkdelen av sekund, så er det like gjerne en selv en prioriterer ned. Dersom en får ta slike valg i god tid derimot, der tilfeldigheter ikke råder og en kan tenke rasjonelt og egennyttig, så vil de aller fleste prioritere seg selv først. Når andre først gjør dette, så vil det være irrasjonelt for andre å ikke gjøre det samme, og de burde nesten beskyttes mot seg selv ved at de ikke får det valget. Man ønsker et tit for tat-spill, slik at ingen blir utnyttet.

I denne (https://www.nature.com/articles/d41586-018-07135-0) artikkelen kaller journalisten det for et paradoks at folk sier de ønsker at biler skal beskytte fotgjengere over passasjerer i bilen, selv om de selv ikke ville kjøpt en slik bil. Jeg ser ikke på det som et paradoks. Det er helt naturlig. Det jeg tror de ønsker, er at reguleringer er på plass slik at ingen kan jukse. Det er trist at Mercedes allerede har sagt at de alltid vil prioritere sine passasjerer, for da kan andre bilprodusenter ikke gjøre noe annet enn å følge etter. De burde heller sagt det motsatte, og så heller brutt den linja ved første tilfelle der andre ikke gjør det samme. Er de åpen om dette, så kunne det satt en god presedens. Det ville blitt selvregulering bilprodusentene seg imellom. Selvregulering er langt fra uvanlig i næringslivet, der det brukes for å opprettholde kvaliteten på og ryktet til en bransje. Det er jo i bilbransjens egen interesse at bilene deres er sikrest mulig, og det vil de være ved å forårsake minst mulig skade. Er ikke bare fotgjengere det kan oppstå ulykker med, men kanskje enda oftere biler seg imellom.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Counterpointermandag 15. juni 2020, klokken 12:22
Sitat fra: Vesel på mandag 15. juni 2020, klokken 10:33
. En kan også argumentere for det motsatte, at myke trafikanter alltid bør prioriteres, siden de er de mest sårbare og aldri alene fører til at noen dør.
Plukker bare dette ene punktet og er djevelens advokat.

Så når en autonom bil møter en fotgjenger som bevist stiller seg i kjørebane (type suicidal) så skal den autonome bilen ofre sikkerheten til alle i bilen?
Det blir helt galt om firebarnsmoren som har hentet barn i barnehagen skal ofres fordi «John Doe» ikke orker å leve lenger og går foran bilen hennes når hun møter en lastebil i motgående i 80 sone og valget er mellom fotgjenger og møtende lastebil........

PS. Vet at du ikke nødvendigvis går inn for dette forslaget, men du nevner det.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Orbitmandag 15. juni 2020, klokken 12:44
I følge spillteori, vil en ikke kunne oppnå den beste løsningen uten at alle partene kommuniserer åpent sine vurderinger, og forenes om hva hver enkelt skal gjøre for å minimere total skade (tilsvarende ACAS for fly i lufta). Se f.eks. denne: https://tv.nrk.no/program/KOID26009818

Selv om det kan tenktes at alle motorkjøretøy kommuniserer, vil myke trafikanter hverken kommunisere med et slikt system, ei heller få sine motoriske bevegelser overstyrt til å foreta en bestemt handling. Så da ender en med at autonome systemer til en viss grad må optimalisere for eget kjøretøy (som ikke alltid gir det beste samlede utfallet).

Så blir spørsmålet om slike autonome systemer likevel klarer å få ned antall skadde/drepte i trafikken, selv om det ikke alltid tar de beste valgene.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Veselmandag 15. juni 2020, klokken 14:08
Sitat fra: knut.aulie på mandag 15. juni 2020, klokken 12:22
Sitat fra: Vesel på mandag 15. juni 2020, klokken 10:33
. En kan også argumentere for det motsatte, at myke trafikanter alltid bør prioriteres, siden de er de mest sårbare og aldri alene fører til at noen dør.
Plukker bare dette ene punktet og er djevelens advokat.

Så når en autonom bil møter en fotgjenger som bevist stiller seg i kjørebane (type suicidal) så skal den autonome bilen ofre sikkerheten til alle i bilen?
Det blir helt galt om firebarnsmoren som har hentet barn i barnehagen skal ofres fordi «John Doe» ikke orker å leve lenger og går foran bilen hennes når hun møter en lastebil i motgående i 80 sone og valget er mellom fotgjenger og møtende lastebil........

PS. Vet at du ikke nødvendigvis går inn for dette forslaget, men du nevner det.
Godt poeng, men etterhvert som bilene blir mer og mer intelligente så kan de kanskje vurdere hvor uforsiktig eller forsettelig den som forårsaker en situasjon er, og handle deretter. Det er derfor jeg mener at bilene bør legge vekt på hvem det er som er ansvarlig for at en situasjon oppstår, selv om målet i utgangspunktet er minst mulig skade totalt sett. Man ønsker, som jeg nevnte tidligere, å redusere moralsk risiko (https://en.wikipedia.org/wiki/Moral_hazard), som er noe som kan medføre stor urettferdighet og i verste fall at flere dør
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: RJKmandag 15. juni 2020, klokken 16:08
Sitat fra: Vesel på mandag 15. juni 2020, klokken 14:08
Sitat fra: knut.aulie på mandag 15. juni 2020, klokken 12:22
Sitat fra: Vesel på mandag 15. juni 2020, klokken 10:33
. En kan også argumentere for det motsatte, at myke trafikanter alltid bør prioriteres, siden de er de mest sårbare og aldri alene fører til at noen dør.
Plukker bare dette ene punktet og er djevelens advokat.

Så når en autonom bil møter en fotgjenger som bevist stiller seg i kjørebane (type suicidal) så skal den autonome bilen ofre sikkerheten til alle i bilen?
Det blir helt galt om firebarnsmoren som har hentet barn i barnehagen skal ofres fordi «John Doe» ikke orker å leve lenger og går foran bilen hennes når hun møter en lastebil i motgående i 80 sone og valget er mellom fotgjenger og møtende lastebil........

PS. Vet at du ikke nødvendigvis går inn for dette forslaget, men du nevner det.
Godt poeng, men etterhvert som bilene blir mer og mer intelligente så kan de kanskje vurdere hvor uforsiktig eller forsettelig den som forårsaker en situasjon er, og handle deretter. Det er derfor jeg mener at bilene bør legge vekt på hvem det er som er ansvarlig for at en situasjon oppstår, selv om målet i utgangspunktet er minst mulig skade totalt sett. Man ønsker, som jeg nevnte tidligere, å redusere moralsk risiko (https://en.wikipedia.org/wiki/Moral_hazard), som er noe som kan medføre stor urettferdighet og i verste fall at flere dør

Hvordan kan du snakke om forsettlig eller ikke, når man snakker om full autonomi? Når ble bilens hjerne både dommer og jury?

Hovedpoenget er ikke å dele ut noen skyld og handle deretter, men å kjøre etter forholdene, og på en slik måte at uforutsette ting den kan kontrollere, ikke oppstå i første omgang. Gjerne i samband med en sentraliserende løsning som gjør at veier og biler "snakker sammen, om ikke direkte bil til bil.

Og om noe uforutsett likevel skulle skje, som en ekstern hendelse, så er første prioritet å unngå situasjonen helt og holdent ved enten bremse og stoppe, eller svinge unna. Og om nødvendig, til og med gasse på for å komme vekk fra eventuelt nærmende objekt.

Vi snakker da om de moralske valgene i svært marginale situasjoner, når valget står mellom et sammentreff og/eller utforkjøring eller  sammenstøt med andre elementer i veien. Er veien og terrenget av en slik art at en grøftekjøring er "trygt", så skal det velges før en velger et sammentreff.

Problemet oppstår når alle alternativ potensielt vil føre til personskade med fare for liv og/eller lemlestelse. Et sammenstøt med møtende bil, autovern eller fjellvegg i så lav fart at det først og fremst skader kjøretøy, bør da komme før det å treffe noe som identifiseres som et menneske. Dyr, derimot, skal og må få laver status. Selv om jeg elsker hunder, så er ethvert menneske mere verdt, og burde og være det i juridisk og moralsk forstand, selv om det er noens kjæledyr.

Da har vi begrenset dette ned til situasjoner der alt annet er vurdert, og eneste utfall man kan komme på, er da noe som vil føre til død eller lemlestelse. Enten for passasjerer i egen bil, passasjerer i møtende bil, eller myke trafikanter. Her vil antall spille en viss rolle, da fare for død og liv må gjelde færrest mulig. Altså må da en enkelt myk trafikant tape for en bil med minst tro passasjerer og to biler med en passasjer i hvert kjøretøy.

Når det da gjenstår spørsmålet mellom en passasjer i kjøretøyet som skal ta avgjørelsen, og en enslig myk trafikant, så mener jeg det vil være urimelig å forvente at kjøretøyet skal ofre sin passasjer, slik at da blir det den myke trafikanten som taper.

Og, nei, bortsett fra gjenkjennelse etter størrelse og/eller medbringende hjelpemidler, så tviler jeg på at bilen vil kunne se om det er et ungt eller gammelt menneske, om ikke disse og er registrert innen samme system. Det tror jeg blir problematisk å få til uten å bryte personvernregler.

Men igjen, da skal svært mye ha gått galt frem til vi når dette punktet. Og det burde vel være unødvendig å si, men autonomi som i fullt ut selvkjørende biler etter nivå 5, vil neppe komme før man har forbudt "dumme" kjøretøy på veiene, og at veier og kjøretøy i slike områder er oppdatert og i stand til å kommunisere via en sentralenhet, og derfor kan samarbeide for å unngå farlige situasjoner å oppstå.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: cratirsdag 16. juni 2020, klokken 13:57
Sitat fra: pst på søndag 14. juni 2020, klokken 11:00
Selvkjørende biler får vi den dagen myndighetene aksepterer at juridisk ansvarlig fører er bilprodusenten ( programvaren ) og ikke , som nå , den som holder i rattet.
Blir lenge til....

Rettelse: Det skjer aldri (under de forutsetningene du her legger til grunn). Det finnes ikke et selskap i verden som er villig til å påta seg et slikt juridisk ansvar.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Sulletirsdag 16. juni 2020, klokken 16:32
Det skjer når ulykkesstatistikken tilsier det. Det vil være uansvarlig av myndighetene å ikke tillate teknologi som vil spare tusentalls liv.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: psttirsdag 16. juni 2020, klokken 21:57
De som har betalt for selvkjøringsegenskaper må jo ha troen på at de får nettopp det - uansett prioriteringer mht hvem som skal reddes  ;)

( Og det er klart ; hvis fartsgrensene skal tilpasses FSD kan det spares inn betraktelig på statorer og rotorer .. )
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: RJKtirsdag 16. juni 2020, klokken 22:18
Sitat fra: pst på tirsdag 16. juni 2020, klokken 21:57
De som har betalt for selvkjøringsegenskaper må jo ha troen på at de får nettopp det - uansett prioriteringer mht hvem som skal reddes  ;)

( Og det er klart ; hvis fartsgrensene skal tilpasses FSD kan det spares inn betraktelig på statorer og rotorer .. )

Uansett om de får det eller ikke før bilen selges eller kondemneres, så har de vært med på å sponse utviklingen. Det tror jeg har vært et poeng for mange, selv om de kanskje ikke trodde de ville se dette selv. Men så har man jo bakt inn noen features som frister til å betale for FSD, selv om man egentlig ikke ønsker FSD.

Selv kjører jeg ikke Tesla, men Tesla sin forskning på dette, tror jeg har pushet de andre til å satse hardere på dette enn det de egentlig ville ha gjort om Tesla ikke pushet på. Det er tross alt ikke bare å se bort fra dette, men man må holde følge med utviklingen for ikke å falle helt bakpå.

Så, varme tanker til alle de som har betalt for dette til tross for at de ikke har trodd de ville få oppleve dette med den bilen de kjøpte den utvidelsen til, og alle andre som har valgt å betale for dette. Dette tjener vi alle på.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Burgertirsdag 16. juni 2020, klokken 23:31
Sitat fra: cra på tirsdag 16. juni 2020, klokken 13:57
Rettelse: Det skjer aldri (under de forutsetningene du her legger til grunn). Det finnes ikke et selskap i verden som er villig til å påta seg et slikt juridisk ansvar.
Kan hende jeg bommer på hva du mener nå, men jeg erindrer både Volvo, Tesla m.fl har uttalt seg at de vil ha forsikringsansvar for selvkjørende biler når de kjører selv.

Angående prioritering på hva man skal treffe, stå på bremsen helt til det smeller om man ikke kan unngå ulykke vil statistisk sett gjøre det tryggere. Synes etikkdiskusjonen er litt avsporing, siden selvkjørende biler vil kjøre etter forholdene noe vi mennesker ikke er så gode til.

Det dukker ikke opp barn ved 80km/t vei, overholde 30km/t ved tettbygd og parkering inntil veien etc. Detter en betongkloss ut av en trailer i fart i mot i 80kmt og det ikke finnes noe rom for unnamanøvring, så vil man sannsyneligvis dø. Befinner det seg folk i nærheten som forhindrer unnamanøvre, så er det som regel 50kmt vei og man kan berge på at man får til å bremse.

NB: Betongklossen har ingen her sagt, men det var veldig sannsynelig scenario for en jeg diskuterte med for en stund siden så jeg tok den med. Betongkloss i 80km/t i mot, barnefamilie på veiskuldra og 80km/t vei....
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: turfsurfonsdag 17. juni 2020, klokken 06:40
Jeg tror ingen med vettet i behold kjøper en bil som har instruks om å ofre deg eller familien din i gitte situasjoner.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Amatørenonsdag 17. juni 2020, klokken 10:59
@turfsurf:  :+1: Ikke så lenge det finnes alternativer!
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Burgeronsdag 17. juni 2020, klokken 12:59
Sitat fra: turfsurf på onsdag 17. juni 2020, klokken 06:40
Jeg tror ingen med vettet i behold kjøper en bil som har instruks om å ofre deg eller familien din i gitte situasjoner.
For å få selvkjørte biler lovlig så antar man at de må minst være 10 gangen sikrere å kjøre enn å kjøre selv. Så med vettet i behold så kjøper man selvkjørende bil som er programmert til å ofre deg siden du fortsatt har 10% sjanse til å dø mot å kjøre selv. 10 gangen er noe som raskt vil bli bedre helt til det vil bli forbudt å kjøre selv på offentlig vei som privatperson.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: turfsurfonsdag 17. juni 2020, klokken 13:16
Sitat fra: Burger på onsdag 17. juni 2020, klokken 12:59
For å få selvkjørte biler lovlig så antar man at de må minst være 10 gangen sikrere å kjøre enn å kjøre selv. Så med vettet i behold så kjøper man selvkjørende bil som er programmert til å ofre deg siden du fortsatt har 10% sjanse til å dø mot å kjøre selv.
Om din bil er 10 ganger så sikker, så betyr det ikke at resten av trafikken er det. Hjelper ikke at din bil er sikrere hvis en semitrailer svinger over i kjørebanen din.

Uansett tror jeg du undervurderer mange folks tillit til egne ferdigheter, og overvurderer evnen til å tenke på fellesskapets gode. Hadde alle hatt slike evner ville ikke klimakrisen vært ett tema. Da hadde vil heller ikke kjørt bil i det hele tatt.

Jeg tror at å gå ut å si at bilen vil heller ofre deg og din familie enn en tilfeldig fotgjenger på gata vil være så godt som selvmord for en bilfabrikant. Å snakke om å ofre noen i det hele og store er en avsporing. Det handler om å designe både biler og infrastruktur slik at ulykker unngåes i det store og hele, og konsekvensen av de få som blir er minimale.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Leaf_2014fredag 19. juni 2020, klokken 00:38
For at selvkjøring skal være sikrere enn menneskelig sjåfør, så må den autonome bilen slå kombinasjonen menneskelig sjåfør + et lass av assistentsystemer: autobrems, filholder, overvåkning av at sjåfør følger med ++, egentlig kan den ha alt den autonome bilen har pluss årvåken sjåfør. Bilene i fremtiden vil ikke kunne bryte fartsgrenser eller kjøres i fylla.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: RJKfredag 19. juni 2020, klokken 05:06
Sitat fra: Leaf_2014 på fredag 19. juni 2020, klokken 00:38
For at selvkjøring skal være sikrere enn menneskelig sjåfør, så må den autonome bilen slå kombinasjonen menneskelig sjåfør + et lass av assistentsystemer: autobrems, filholder, overvåkning av at sjåfør følger med ++, egentlig kan den ha alt den autonome bilen har pluss årvåken sjåfør. Bilene i fremtiden vil ikke kunne bryte fartsgrenser eller kjøres i fylla.

Med autonom bil, på nivå 5, så er det bilen som kjører, og det kan ikke kalles fyllekjøring selv om alle i bilen er pære sørpe fulle.

Overstyring til å bryte fartsgrense må legges inn. Om det er medisinsk kritisk og bil bes om å kjøre til sykehus/legevakt med alvorlig syk passasjer, så skal systemet gi bilen prioritet, og forsvarlig fartsoverskridelse tillates.

Dermed vil rene ambulanser kun bli et tilskudd, og bilen kan opptre som midlertidig ambulanse uten medisinsk personell til stede. Samband med 113/911 vil da være operativt, slik at 113/911 kan samtale med passasjerene, og kanskje endog ha videoovervåkning.

Noe annet ville jo rett og slett være katastrofalt. Jeg ser for meg overskriften, "Passasjer døde i autonom bil fordi bilen nektet å rushe til sykehuset."
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: turfsurffredag 19. juni 2020, klokken 06:06
Sitat fra: RJK på fredag 19. juni 2020, klokken 05:06

Dermed vil rene ambulanser kun bli et tilskudd, og bilen kan opptre som midlertidig ambulanse uten medisinsk personell til stede. Samband med 113/911 vil da være operativt, slik at 113/911 kan samtale med passasjerene, og kanskje endog ha videoovervåkning.

Er nok en stund til vi ser autonome utrykningsbiler
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: RJKfredag 19. juni 2020, klokken 08:26
Sitat fra: turfsurf på fredag 19. juni 2020, klokken 06:06
Sitat fra: RJK på fredag 19. juni 2020, klokken 05:06

Dermed vil rene ambulanser kun bli et tilskudd, og bilen kan opptre som midlertidig ambulanse uten medisinsk personell til stede. Samband med 113/911 vil da være operativt, slik at 113/911 kan samtale med passasjerene, og kanskje endog ha videoovervåkning.

Er nok en stund til vi ser autonome utrykningsbiler

Hehehe! Var ikke helt det jeg ville frem til, men om de som er på bilen kun er medisinsk personell, så er det et mindre menneske i hver ambulanse, alternativt likt antall, men den siste kan bil mer innvolvert i det medisinske.

Det jeg tenkte på, er dersom du eller noen andre tilkaller en autonom taxi fordi man ikke har tid til å vente på ambulanse, så burde man få pri i køen om man sier det er nød, og man kan bruke denne til nødtransport, slik man tildels gjør med taxier per i dag og med privat bil.

Vi har et (veldig lite) fåtall saker der sjåfør har blitt fritatt for promillekjøring under dekke av nødrett. Er vel et krav om at det å vente på taxi/ambulanse/politibil ville gitt en større fare for at pasienten dør før man når sykehuset, og promillen skal vel og måtte være i det nedre skiktet, uten at det er en absolutt betingelse.

https://www.bt.no/nyheter/lokalt/i/WggRa/frikjent-for-fyllekjoering-med-16-i-promille

Se og punktet "nødrett" her:

https://www.bt.no/nyheter/lokalt/i/WggRa/frikjent-for-fyllekjoering-med-16-i-promille
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Leaf_2014fredag 19. juni 2020, klokken 11:33
Sitat fra: RJK på fredag 19. juni 2020, klokken 05:06
Med autonom bil, på nivå 5, så er det bilen som kjører, og det kan ikke kalles fyllekjøring selv om alle i bilen er pære sørpe fulle.

Men vil den autonome bilen på nivå 5 være tryggere enn samme bil med årvåken sjåfør som kan gripe inn?

Systemene som kommer i 2023 er beskrevet her: https://www.aftenposten.no/verden/i/0nVego/innen-tre-aar-vil-alle-nye-europeiske-biler-automatisk-bremse-for-deg-naar-du-kjoerer-over-fartsgrensen? og her https://ec.europa.eu/commission/presscorner/detail/en/IP_19_1793
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: RJKfredag 19. juni 2020, klokken 18:16
Sitat fra: Leaf_2014 på fredag 19. juni 2020, klokken 11:33
Sitat fra: RJK på fredag 19. juni 2020, klokken 05:06
Med autonom bil, på nivå 5, så er det bilen som kjører, og det kan ikke kalles fyllekjøring selv om alle i bilen er pære sørpe fulle.

Men vil den autonome bilen på nivå 5 være tryggere enn samme bil med årvåken sjåfør som kan gripe inn?

Systemene som kommer i 2023 er beskrevet her: https://www.aftenposten.no/verden/i/0nVego/innen-tre-aar-vil-alle-nye-europeiske-biler-automatisk-bremse-for-deg-naar-du-kjoerer-over-fartsgrensen? og her https://ec.europa.eu/commission/presscorner/detail/en/IP_19_1793

Det vil alltids komme an på programmeringen, hvor mange situasjoner som programmeres inn, og hvor raskt den klarer åbehandle alle dataene som må beregnes i øyeblikket.

Men jeg tror bestemt at et system som ikke faller for de vanlige feilene vi mennesker gjør, vil være overlegent i 99 % av tilfellene. Den ene prosenten går på systemfeil som kan skje, og da kan jo selvsagt resultantene bli langt værre enn et menneske alene kan klare, om det ikke er failsafe, dvs shutter ned bilen om slike feil skjer.

Et menneske med onde hensikter, vil i alle tilfeller være den største trusselen. Det være seg en hacker mot systemet eller en "kamikasepilot" som stjeler en trailer eller annet kjøretøy og begynner å kjøre ned mennesker, noe som er mulig i dag, men forhåpentligvis vil være umulig i fremtiden.

Den store faren med autonome biler og som vi ikke kan se bort fra, er faren for hacking av systemet. Derfor må det bygges inn sikkerhet for at store, ulogiske endringer ikke får skje. F.eks. at kartet endrer seg med mer enn en viss andel endringer, og disse endringene ikke kan plassere inn en bru der kartet som gjelder, viser et stup. Også andre slike endringer som vil være totalt urealistisk at plutselig oppstår, må godkjennes i flere nivåer.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: 1317142119mandag 22. juni 2020, klokken 14:52
Bare for å gjøre en ting krystallklart: en autonom bil på nivå 5 er ikke forhåndsprogrammert til å håndtere de situasjonene bilprodusenten tilfeldigvis kommer på. Forhåndsprogrammering fungerer på lukket skinnegående trafikk (f.eks. t-bane) siden den ikke har noen andre valg enn å gasse og bremse. Det fungerer ikke når systemet må vurdere situasjoner i flere dimensjoner. Det at vi har fått til å kjøre delvis autonome biler i enkelte byer, er kun fordi det er nøye utvalgte steder hvor alle forholdene er optimale for å kunne få det til. Det er langt mellom de bilene og en bil som skal kunne kjøre over alt uten menneskelig innblanding.

La det ikke være noen tvil: vi er mange år unna autonome biler på nivå 5. Kanskje mange tiår. Vi har drømt om dette siden i hvert fall 70-tallet og står fremdeles fast ved de etiske dilemmaene. Det Tesla sysler med er det samme enhver bilprodusent har i verktøykassen sin i dag. Forskjellen er at Tesla er villig til å ta høyere risiko enn lovgiverne (EU) er, og slipper løs bilene uten å ha 100% kontroll (ref dødsulykkene med Teslaer på "autopilot").

Dere vil med 100% sikkerhet se AI i andre produktgrupper før det kommer i biler, både fordi det vil spare samfunnet for enormt mye unødvendig ressursbruk og fordi det er mye som er vesentlig enklere for en AI å håndtere enn bilkjøring. Vi er ikke i nærheten engang av å utvikle AI i dag. Vi har vel alle hørt historiene om såkalte roboter som brått har blitt superrasister o.l.? Det eneste som kan løse autonome biler på nivå 5 er nettopp AI. Bilen må tenke selv og kunne ta avgjørelser basert på de sanseinntrykkene den får. Selv når vi har avklart de juridiske og etiske problemstillingene, så er vi årevis unna å faktisk få en maskin til å fungere som en menneskelig hjerne.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: turfsurfmandag 22. juni 2020, klokken 19:25
Må skille mellom generell AI og spesialiserte. Spesialisert AI har man allerede.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: 1317142119onsdag 24. juni 2020, klokken 09:06
Sitat fra: turfsurf på mandag 22. juni 2020, klokken 19:25
Må skille mellom generell AI og spesialiserte. Spesialisert AI har man allerede.
I så fall kan du gjerne utdype med hva du mener er "spesialisert AI" og hvor man finner det. Jeg håper ikke svaret er kundeservice, for det er tjenester som svarer på forhåndsbestemt forretningslogikk (les: overhodet ikke AI). Mange kaller det AI, men det er så langt unna selvtenkende maskiner som det er mulig å komme. Det er et buzzword for å gjøre det kult.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: PFonsdag 24. juni 2020, klokken 11:10
Helt enig, det finnes ikke noen maskin som i dag gjør valgt uten at det er programmert inn, kunstig AI er bare buzzword for at maskinen gjør forhåndsprogrammerte ting på litt større datautvalg.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Rævedilteronsdag 24. juni 2020, klokken 19:19
AlphaZero er et eksempel på spesialisert AI. Maskina vart kun lært sjakkreglene, og utvika sjølv dei beste strategiane ved å spela mot seg sjølv, og er i dag langt betre enn dei beste menneskeprogrammerte sjakkprogramma, den brukte 24 timer trening før den slo stockfish og dei andre.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: 1317142119torsdag 25. juni 2020, klokken 08:33
AlphaZero er uten tvil imponerende, men det er ikke AI. De bruker AI som buzzword fordi det er veien mot AI.

Den spilte millioner av kamper mot seg selv for å identifisere hvilke trekk som var best egnet til å vinne i ulike gitte situasjoner. Alt innenfor ekstremt strenge regler som definerer hva som er lov (sjakkreglene).

Den lagrer altså informasjonen i en database og henter ut riktig informasjon basert på hvor brikkene befinner seg.

En AI kan ikke trenes til hver tenkelige og utenkelige situasjon i den virkelige verden, for hver situasjon er unik. En AI må, som et menneske, håndtere nye situasjoner uten å ha erfaring med dem.

Det er forskjellen på AI og AlphaZero.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Rævediltertorsdag 25. juni 2020, klokken 09:46
At AlphaZero ikkje spesialisert AI er det vel kun i kommentarfelt ein kan få gehør for.
Resten av verden var ferdig med den diskusjonen i 1996 da DeepBlue slo Kasparov med AI teknologi (men noko enklere enn AlphaZero).
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: 1317142119torsdag 25. juni 2020, klokken 12:57
Sitat fra: Rævedilter på torsdag 25. juni 2020, klokken 09:46
At AlphaZero ikkje spesialisert AI er det vel kun i kommentarfelt ein kan få gehør for.
Resten av verden var ferdig med den diskusjonen i 1996 da DeepBlue slo Kasparov med AI teknologi (men noko enklere enn AlphaZero).
Er vel også bare i kommentarfelt man er overbevist om at AlphaZero er kognitiv intelligens.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Rævediltertorsdag 25. juni 2020, klokken 13:26
AlphaZero er eit dataprogram og er ikkje kognitiv intelligens, nei.
Men både læring og problemløsing er kognitive funksjoner og noko AlphaZero gjer, men ein seier som regel at den ha kognitive funksjoner.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: turfsurftorsdag 25. juni 2020, klokken 13:57
Sitat fra: 1317142119 på torsdag 25. juni 2020, klokken 08:33
En AI kan ikke trenes til hver tenkelige og utenkelige situasjon i den virkelige verden, for hver situasjon er unik. En AI må, som et menneske, håndtere nye situasjoner uten å ha erfaring med dem.
Det er vel akkurat der man definerer forskjellen mellom generell og spesialisert AI. En spesialisert AI håndterer nye oppgaver innenfor sitt felt (ny motstandere med nye strategier), mens generell AI håndterer alle typer utfordringer den støter på. Bilkjøring er ett begrenset område og vil derfor håndteres av en spesialisert AI. Noe som og er ønskelig. Man vil f.eks ikke ha en generell AI som finner ut at bilkjøring ikke er ønskelig fordi det ikke er bra for miljøet.

Det som gjør AlphaZero til en AI og ikke bare ett standard sjakkprogram er at den ikke bruker en database for oppslag mot tidligere spill, men faktisk kun lærer reglene og selv kommer opp med den beste strategien. Det ble og veldig synlig med at AlphaZero startet med trekk som ingen av de menneskelige mesterne ville funnet på å bruke.
Tittel: Sv: Selvkjørende biler. Hvordan skal bilen prioritere hvem den skal redde?
Skrevet av: Rævedilterfredag 26. juni 2020, klokken 07:31
AZ bruker heller ikkje (kun) brute force for å finne beste trekk, den analyserer kun ein brøkdel av mulige posisjoner fremover kontra eit standard program, men den finn i langt større grad dei beste trekka likevel. Interessant også at den ofrer brikker og speler aggressivt i langt større grad enn "standard" program og spelarar. 
Generelt er ein vel kun komme til 8 brikker sluttspel som er 100% beregnet med beste trekk (her kan oppslag brukes direkte) , alt før det må beregnes.