FSD – vår tids største bløff?

[filtvet]

Helt enig med innlegg over. Litt som den gamle vitsen om damen som var så håpløs i matematikk og mente at det beste var å lære seg alle fasiter på regnestykker i matte....

[SurSnasen]

Så er jo denne relativt ferske videoen et godt eksempel på objektgjenkjennelse som ikke er helt patent ennå.

Bom tvers over veien, med røde lys, får den ikke med seg. Broa som er i ferd med å åpne seg ei heller, men gjengis tidvis som en trailer eller buss av grafikken. Før de også forsvinner fra grafikken, og veien vises som helt normal når brolemmen er helt oppe.


https://www.youtube.com/watch?v=zoKAX-F1t9U

[emurof]

Jobber med koding selv (Hardcore iflg Musk ) og en datamaskin kan bare forholde seg til masse tall ganget med andre tall. Mennesker forstår ila brøkdelen av et sekund hva som er "nytt" eller en ny fare.

Nei, mennesker både sanser og oppfatter feil hele tiden. Har du ikke hørt om optiske illusjoner?

Helt enig med innlegg over. Litt som den gamle vitsen om damen som var så håpløs i matematikk og mente at det beste var å lære seg alle fasiter på regnestykker i matte....

Men dette har ingenting med det Tesla driver med å gjøre.

[emurof]

Problemet med "AI" er at den sikkert kan huske alt som er skjedd tidligere, men kan null om det oppstår noe nytt, feks at den i usa bare peiser rett forbi en skolebuss som har "STOP" tegn på siden, eller ikke ser skilter "School road 25 mph".

Det er jo poenget. AI trenes opp så den kan gjenkjenne nye situasjoner. Jeg vet ikke hva denne skolebussen har med saken å gjøre, men FSD er altså ikke ferdig enda. Systemet må trenes opp enda mer.

Dessverre er ikke systemet så smart. Hele basisen for Tesla sin FSD/AP er at den kun gjenkjenner ting den har blitt lært, som betyr at den har blitt vist/sett det før. Skal den lære å se sykler, så blir den for eksempel foret med en million bilder av sykler, og kommer en sykkel som ikke ser ut som en av disse millionene av sykler (fordi det faktisk er en person som sitter på sykkelen, med ryggsekk med en paraply stikkende opp og et tre meter langt ventilasjonsrør under armen), så kan det hende at det ikke matcher tilstrekkelig i forhold til logaritmene Tesla har kodet inn, slik at den ikke forstår at det er en sykkel, eller et menneske, og kjører rett på. Det er dette som gjør at Teslaer har dundret inn i stillestående hindere midt på motorveien for eksempel. Fordi den ikke forstår hva den ser så kjører den bare rett på. Problemet er at Tesla kan ikke snu det motsatt heller, for det er masse den ikke forstår i hvert eneste bilde, så da ville ikke bilene kjørt en meter.

Nei, det stemmer ikke.

Det kan nok misforstås at Tesla sier at AP/FSD alltid kjører en strekning som om det var første gang - det er riktig, ingenting er hardcoded, men alt er basert på objektgjenkjenning som den allerede har lært, så alt den må forholde seg til langs veien (som den kjører på ny som første gang hver gang) må den allerede ha blitt fortalt/vist hvordan ser ut og hva det faktisk er. Dette var vel relativt revolusjonerende da Tesla satte i gang, fordi de ikke ville gjøre noe spesialbehandling av et vanskelig kryss for eksempel, som andre nok har gjort for å få til geografisk begrenset selvkjøring. Problemet er at tiden renner ut for Tesla med dagens sensorpakke, de er mange år bak hva de har lovet og tydeligvis trodd.

Igjen, dette stemmer ikke. FSD-betaen beveger seg hele tiden gjennom steder der det er ting den ikke har sett før. Den gjenkjenner for eksempel mennesker selv om de ikke ser identiske ut som andre mennesker systemet har sett før.

[emurof]

Så er jo denne relativt ferske videoen et godt eksempel på objektgjenkjennelse som ikke er helt patent ennå.

Bom tvers over veien, med røde lys, får den ikke med seg. Broa som er i ferd med å åpne seg ei heller, men gjengis tidvis som en trailer eller buss av grafikken. Før de også forsvinner fra grafikken, og veien vises som helt normal når brolemmen er helt oppe.


https://www.youtube.com/watch?v=zoKAX-F1t9U

Vi vet ikke hva bilen egentlig ser fordi det som vises på skjermen ikke viser alt bilen ser og oppfatter. Det utgjør bare en forsvinnende liten del av det bilen faktisk får med seg.

[OlaM]

Ting trenger ikke å se helt identisk ut, men fordi maskinlæring er såpass uberegnelig så kan man aldri vite når og hvordan den feiler. Ingen normalt fungerende mennesker vil slite med å se at dette er menneskefjes, men en modell for ansiktsgjenkjenning kan bli lurt:



"CV dazzle" er laget spesifikt for å lure ansiktsgjenkjenning, men spesielle former, lysforhold, fargemønstre og lignende kan også være nok til at mønsteret ikke blir fanget opp av modellen.

En annen ting er alle de måtene du bruker utenom-trafikal erfaring, empati og andre menneskelige egenskaper til å tolke trafikkbildet og beregne risiko. Du kan se på blinkende bremselys at en kar i høyrefeltet er hissig på grøten og kommer til å smette ut i venstrefeltet rett foran deg og du skjønner selvsagt hva som kan skje hvis en fotball kommer sprettende ut bak en hekk. Det må maskinlæring matche hvis den skal bli bedre enn mennesker til å kjøre i det menneskelige systemet som biltrafikken er, og det kommer ikke til å skje i nærmeste fremtid.

Og så er det andre ting som til stadighet oppstår. Vær og føre, når skal AIen innse at man burde snu og velge en annen fjellovergang eller avlyse turen? Eller nødsituasjoner, vil maskinlæringen bremse hvis noen vinker med begge armene i veikanten før en krapp sving? Kan den dirigeres mot en omkjøring av en politimann? Takler den omveier i det hele tatt? Kan den tolke "stengt felt"-lysene i taket på tunnelen? Listen med sånne situasjoner er veldig lang og alt må trenes spesifikt for med nøye kuraterte treningssett, slik vi fikk opplyst i detalj på AI-day.

Så lenge man anerkjenner at det må sitte et menneske bak rattet så trenger vi bare gode L2-systemer. Håper utviklingen fremover går mer mot støttesystemer som hjelper føreren holde oppmerksomheten på veien, ikke mot håpløse AI-fantasier.

[IbizaMan]

En annen ting er alle de måtene du bruker utenom-trafikal erfaring, empati og andre menneskelige egenskaper til å tolke trafikkbildet og beregne risiko. Du kan se på blinkende bremselys at en kar i høyrefeltet er hissig på grøten og kommer til å smette ut i venstrefeltet rett foran deg og du skjønner selvsagt hva som kan skje hvis en fotball kommer sprettende ut bak en hekk. Det må maskinlæring matche hvis den skal bli bedre enn mennesker til å kjøre i det menneskelige systemet som biltrafikken er, og det kommer ikke til å skje i nærmeste fremtid.

Og så er det andre ting som til stadighet oppstår. Vær og føre, når skal AIen innse at man burde snu og velge en annen fjellovergang eller avlyse turen? Eller nødsituasjoner, vil maskinlæringen bremse hvis noen vinker med begge armene i veikanten før en krapp sving? Kan den dirigeres mot en omkjøring av en politimann? Takler den omveier i det hele tatt? Kan den tolke "stengt felt"-lysene i taket på tunnelen? Listen med sånne situasjoner er veldig lang og alt må trenes spesifikt for med nøye kuraterte treningssett, slik vi fikk opplyst i detalj på AI-day.

Så lenge man anerkjenner at det må sitte et menneske bak rattet så trenger vi bare gode L2-systemer. Håper utviklingen fremover går mer mot støttesystemer som hjelper føreren holde oppmerksomheten på veien, ikke mot håpløse AI-fantasier.

Helt enig og godt oppsummert. Dette er noe av grunnen til at selvkjøring (FSD om du vil) ligger mange år fram i tid og kommer aldri til å oppleves i de Teslaer som finnes på norske veier i dag. Jeg håper fokuset snart endres fra selvkjøring til å bruke AI inn mot mer matnyttige funksjoner som f.eks. økt sikkerhet og reell hjelp til sjåføren. Vi må nok bare innse at det å kunne lene seg tilbake, lukke øynene og ta seg en lur på vei til hytta på fjellet vil forbli en fjern drøm enn så lenge, dessverre.

[daktari]

Enig, gode forklaringer over.

AIen er i grunn bare en fancy kalkis som gjenkjenner forskjeller i pixlenes relasjon til andre pixler i nærheten og sammenligner det med kjente mønstre, statistikk egentlig.

Det er ikke sikkert Tesla en
gang vet hva i bildet av en bil eller menneske AIen egentlig gjenkjenner.

Et morsomt eksempel er en elefant, som av oss gjerne gjenkjennes på snabelen men også mye annet, mens en spesifikk AI brukte halen for å skille den fra andre objekter. Så litt av hvert kan skje.

[filtvet]

Poenget er at tesla selger det som FSD - og Musk har lovet det i maaange år allerede.  Nå er fsd som en svigermor som maser på deg mens du forsøker å rette opp feilene den gjør - om du er rask nok.

[emurof]

Ting trenger ikke å se helt identisk ut, men fordi maskinlæring er såpass uberegnelig så kan man aldri vite når og hvordan den feiler. Ingen normalt fungerende mennesker vil slite med å se at dette er menneskefjes, men en modell for ansiktsgjenkjenning kan bli lurt:

Jada, og mennesker kan også bli lurt. Du har sikkert hørt om optiske illusjoner, som allerede nevnt.

En annen ting er alle de måtene du bruker utenom-trafikal erfaring, empati og andre menneskelige egenskaper til å tolke trafikkbildet og beregne risiko. Du kan se på blinkende bremselys at en kar i høyrefeltet er hissig på grøten og kommer til å smette ut i venstrefeltet rett foran deg og du skjønner selvsagt hva som kan skje hvis en fotball kommer sprettende ut bak en hekk. Det må maskinlæring matche hvis den skal bli bedre enn mennesker til å kjøre i det menneskelige systemet som biltrafikken er, og det kommer ikke til å skje i nærmeste fremtid.

Det er da ingenting i veien for at systemet kan lære seg dette.

Og så er det andre ting som til stadighet oppstår. Vær og føre, når skal AIen innse at man burde snu og velge en annen fjellovergang eller avlyse turen? Eller nødsituasjoner, vil maskinlæringen bremse hvis noen vinker med begge armene i veikanten før en krapp sving? Kan den dirigeres mot en omkjøring av en politimann? Takler den omveier i det hele tatt? Kan den tolke "stengt felt"-lysene i taket på tunnelen? Listen med sånne situasjoner er veldig lang og alt må trenes spesifikt for med nøye kuraterte treningssett, slik vi fikk opplyst i detalj på AI-day.

Jada. Håndsignaler ble vel til og med også nevnt konkret av FSD-teamet hos Tesla.

Så lenge man anerkjenner at det må sitte et menneske bak rattet så trenger vi bare gode L2-systemer. Håper utviklingen fremover går mer mot støttesystemer som hjelper føreren holde oppmerksomheten på veien, ikke mot håpløse AI-fantasier.

Det må ikke sitte et menneske bak rattet.

[emurof]

AIen er i grunn bare en fancy kalkis som gjenkjenner forskjeller i pixlenes relasjon til andre pixler i nærheten og sammenligner det med kjente mønstre, statistikk egentlig.

Du burde se AI Day 2 om igjen, for dette stemmer ikke.

[emurof]

Poenget er at tesla selger det som FSD - og Musk har lovet det i maaange år allerede.  Nå er fsd som en svigermor som maser på deg mens du forsøker å rette opp feilene den gjør - om du er rask nok.

De selger det som fremtidig FSD. Og nå er jo betaen i "wide release" i USA.

[Mobileum]

De selger det som fremtidig FSD.

Det gjorde de ikke fram til mars 2019.

[JorEl]

Ibizaman: ...Så lenge man anerkjenner at det må sitte et menneske bak rattet så trenger vi bare gode L2-systemer...

Mitt ståsted er: gi meg en AP som bare blir bedre og bedre. Vil ikke ha løsniger, som er beta-beta-beta-løsninger
Jeg trenger en AP/FSD-sjåfør, som takler alt, til han blir usikker, og gir beskjed om det, slik at jeg kan ta over. Stabil, trygg L2 er godt nok for meg. Fremtidig FSD er en investering. Her har Tesla ført sine kunder/"FSD-investorer" bak det elendige ryggelyset

[daktari]

Noterer meg at på lanseringen av semitraileren inatt var  det ikke snakk om selvkjøring.

Lastebil er jo en topp case man faktisk kunne hatt stor glede av selvkjøring, på semitrailer som kjører rolig på motorvei og der sjåføren er pålagt hviletid.

Vi får vel forskjellige forklaringer på dette.