Naboens selvkjørende Tesla, en trussel mot «Mørkhudete kvinner»

[Premium19]

Artikkelen er skrevet av Line Berg, leder av jenteprosjketetbAda, Ntnu., og gjengitt i Adressa:

Hun skriver b.l.a. «Se for deg at naboens selvkjørende Tesla kjører ned gata. En hvit mann og en mørkhudet kvinne krysser gaten samtidig. Bilen er selvsagt programmert til å ikke kjøre på mennesker. Men om den må svinge unna - svinger den da unna den som helt sikkert er menneske eller svinger den unna den som kun er 68 prosent sannsynlighet menneske? Hva tror du? Og tror du vi ville hatt denne feilmarginen om det hadde vært et balansert utvalg av befolkninga som mater programmene og bestemmer hvordan informasjons skal tolkes?»

En smule uvitenhet blandet med fordommer mot hvite menn i Tesla, eller seriøs forskning? Trodde ikke det var mulig at en person med så mye utdanning kunne kveste ut av seg sånt vrøvl...

https://www.ntnu.no/ansatte/line.berg

https://www.adressa.no/meninger/ordetfritt/2020/02/21/Jeg-er-livredd-for-å-bli-påkjørt-av-naboens-selvkjørende-Tesla-21144669.ece

[Ingeniøren]

Men det er jo en reell problemstilling og en av årsaken til at autonome kjøretøy kun får kjøre i gangfart og vel fortsatt må ha fører. Om kjøretøyet ikke kan velge å ikke kjøre på noen hvem skal den kjøre på....

[pekle]

Enig i at innlegget var noe tynt. Men det er et partsinnlegg og har en forventet slagside. Hun er vel heller ikke forsker, men ansatt som prosjektleder. Ca. 1/3 av alle NTNUs ansatte er administrative.

Men det har gjentatte ganger vist seg at mange maskinlæringsalgoritmer ender opp med "rasebias" på grunn av skjeve læringsdata. Om Tesla klarer å unngå det så er det flott, men ikke trivielt å få til. Hva som er forventet oppførsel er også tildels kulturelt betinget. Se f.eks http://moralmachine.mit.edu/

[Ingeniøren]

Blir enklere i Kina. Der sortere man mennesker etter om man går på rødt lys eller ikke. Da er det bare å måke ned den med flest prikker - håper vi ikke kommer dit her, men...

[Lassi]

Jeg mener det er en avsporing å argumentere rundt at autonome biler skal måtte velge mellom barn og bestemødre eller peke ut den personen som likevel skal dø av  en alvorlig sykdom før vi kan tillate dem i trafikken.

Hvis bilen ikke kan gjøre en unnamanøver uten å skade andre må den rett og slett bare stoppe raskest mulig opp og så blir utfallet det det blir.

Jeg mener og at autonome biler ikke vil bli tillatt før vi kommer til det punktet hvor vi "aksepterer" at maskinen kan gjøre feil på samme måte som mennesker.

[Burger]

Tror svaret vil alltid være at den autonome bilen bremser maks når det ikke er mulig å unngå en ulykke. Autonome biler har fordelen at de kan programmeres til å kjøre etter forholdene og fartsgrense. Så vidt jeg vet så er det oftest foreldre som skal kjøre unger til barnehage/skole de som blir tatt i fartskontroll uten for nevnte barnehage/skole. Gjerne med biler parkert tett langs fortauet som er en klassisk felle for å faktisk kjøre på en unge.

Det blir veldig mye oppkonstruerte etiske problem når man snakker om selvkjørende biler, plutselig så dukker det opp mennesker man må kjøre ned uten å tenke at fartsgrensen er satt basert på hvor stor sannsynelighet det er for at det dukker opp mennesker. Stort sett så er fartsgrensen 30-50kmt der det ferdes mennesker langs veien og alvorlighetsgraden når man kjører på ett menneske går ned dess nærmere man kommer 0kmt.

Dette finner vi spor av i biler i dag. jeg vet at iallefall Nissan Leaf bremser ett par sekunder ekstra når den detekterer nødbremsning siden vi mennesker reagerer å slippe bremsen når vi nødbremser fordi det virker så voldsomt og/eller tror vi kan svinge unna. ABS bremser lar oss styre mens vi bremser.

En del argumentasjon er disse hytteveiene som har mye snø og er utfordrende, uten at man tenker at det blir tilnærmet gratis å ha selvkjørende brøytebiler gående døgnet rundt når forholdene tilsier dette. Vært artig å sett hvor mye man kan spare på diverse veier over 10 år dersom man slapp å betale brøytemannskap og sett hva man kunne invistere i for å gjøre det mulig å få automatisk brøyting.

Man glemmer også at man kan tenke nytt, den bila man leier for å bli kjørt frem til hytta kan stoppe når det blir for ufremkommelig og la en mer passende bil med enten belter/4wd etc ta over det siste stykket.

Selvkjørende biler vil ta liv, men dersom vi klarer å komme oss på 10% av drepte pr kjørte milliard km med selvkjøring i forhold til å la mennesker kjøre, så burde man se på å forby mennesker å kjøre.

[Premium19]

Hele artikkelen bygger mer opp under kjønnsforskjeller, enn raseforskjeller, og bygger samtidig opp under påstanden om at rike hvite menn (gjerne i Tesla), har laget en teknonologi som er kjønnsdiskriminerende mot verdens kvinner, og at mørkhudete kvinner kommer dårligst ut.

Kvinnen som har skrevet dette, tenker at Tesla er et synonym på selvkjørende bil, og alt det forferdelige som kan skje i fremtiden. Hun har ikke satt seg inn i hva en selvkjørende bil egentlig er, men ut fra sin egen fantasi maler hun en framtidscenario som likegjerne en Bmw, vw, eller Toyata kan være en del av. Jeg opplever derfor at artikkelen inneholder en passe dose fordommer mot bilmerket Tesla også, noe jeg forøvrig ser over alt i den Norske redaksjonelle presse.

[turfsurf]

Men det er jo en reell problemstilling og en av årsaken til at autonome kjøretøy kun får kjøre i gangfart og vel fortsatt må ha fører. Om kjøretøyet ikke kan velge å ikke kjøre på noen hvem skal den kjøre på....

Man trenger ikke å løse alle problemstillinger for å ta i bruk autonome biler. Så lenge de er vesentlig bedre en mennesker i snitt vil det holde. Så kan man iterere og stadig forbedre. Typisk felle ved å la det perfekte bli det godes fiende.

Det er jo ikke gitt hvordan ett menneske vil reagere i mange situasjoner heller...

[Elbil fundamentalist]

Hvis det er noe i det må det være rent tekniske forskjeller hvor kamera ser kontraster, hvor hvit hud mot gjennomsnittlig mørkere bakgrunn, vegetasjon husvegger etc. Det hun skiver er bare tull, må nesten bare se på det som humor. Hadde jeg vært stand-up komiker hadde jeg laget helt vilt mange vitser og sketsjer på en uttalelse som dette   
Dette var forrige uke, men hadde det vært denne uken ville jeg tipse nytt på nytt redaksjonen he-he

[ryback]

Machine Learning Bias er en kjent sak. De som utvikler MLen er høyt utdannede, priviligerte, som regel unge menn som viderefører sine egne fordommer i produktet de utvikler.
https://searchenterpriseai.techtarget.com/definition/machine-learning-bias-algorithm-bias-or-AI-bias

At selvkjørende biler kjører ned fotgjengere er også kjent. Uber kjørte ned en dame i fjor. Så vidt jeg husker så var det fordi de hadde lagt inn en forsinkelse i reaksjonen. Fotgjengeren trillet på en sykkel. Bilen gjenkjente fotgjengeren det som en fotgjenger og ventet på at forsinkelsestimeren skulle løpe ut før den reagerte. Før timeren hadde løpt ut så fant bilen ut, pga sykkelen, at det ikke var en fotgjenger allikevel og timeren ble resatt og sånn fortsatte den helt til den pløyde inn i fotgjengeren.

https://www.theguardian.com/technology/2018/may/08/ubers-self-driving-car-saw-the-pedestrian-but-didnt-swerve-report

Nå er nok innlegget skrevet litt vel fantastisk og krydret med litt Tesla for å få flere klikk, men problemstillingene hun tar opp er reelle.