FSD – vår tids største bløff?

[Kim-]

https://www.google.com/amp/s/amp.interestingengineering.com/tesla-shows-off-its-brand-new-ai-training-supercomputer

Tesla har fått seg ny supercomputer, sånn ca top 5 i verden. Kan de få fortgang nå, mon tro? 

[IbizaMan]

Her er en helt ny video der FSD-sjefen i Tesla, Andrej Karpathy, forteller om Tesla Vision og FSD:


https://www.youtube.com/watch?v=NSDTZQdo6H8

Her oppsummerer Dave Lee noen av punktene:


https://www.youtube.com/watch?v=THtpJG4k0Wc

Han er innom temaer som hvorfor radar ikke er nødvendig/ønskelig, med mer.

Som man kan se, skjer det mer bak kulissene enn folk tror.

Det er alltid interessant å følge Tesla sin utvikling av FSD men dessverre tolker jeg ikke dette så positivt som enkelte andre her på forumet.

Tesla bekrefter nå min mistanke over noen år, at de rett og slett ikke klarer å komme i mål med opprinnelig planlagt FSD teknologi. Dagens HW har rett og slett ikke nok krefter til å forholde seg til flere type sensorer samtidig og kompleksiteten det medfører er nok dessuten svært utfordrende for SW-gutta å forholde seg til.

Dette betyr at opprinnelig redundans ved å bruke flere type sensorer utgår og Tesla satser nå alt på kameraene sine. Dette kan potensielt sett forenkle programmeringsjobben og kanskje også redusere behovet for HW ytelse. Jeg tror imidlertid ikke det vil gjøre det og at Tesla fester for mye lit til hva dagens AI kan bidra med i forhold til autonome biler. Det Tesla gjør nå er nettopp det som blir sagt i videoen, to Double Down, noe som betyr at de øker risikoen for om de i det hele tatt kommer i mål med FDS. Men det ligger så klart en en oppside i billigere HW om de skulle få dette til.

Men hva skulle egentlig Tesla ha gjort når de innså at dagens HW ikke var kraftig nok til å komme i mål med opprinnelig planlagt design? Lage ny HW? Nei, dette hadde fått katastrofale følger for Tesla som firma og ikke et alternativ. Så forenkling var nok den eneste muligheten for å holde liv i FSD drømmen, altså kutte ut noen sensorer. Eller hadde Tesla reelt sett noe annet valg for ikke å gå overende? Tid for ettertanke.

Det store spørsmålet er jo selvfølgelig om Vision strategien i det hele tatt kommer i mål. Bruk av eksisterende kameraer har noen fordeler men også store svakheter. Og så ofrer de redundansen som jeg tror de ikke kommer utenom for å oppnå full FSD (la oss anta nivå 5 for diskusjonens del).

De bekrefter i videoen at de i løpet av den siste tiden har fått gode indikasjoner på at kameraene kan brukes til å vurdere dybde men at det krever enorme mengder data og trening for at dette skal fungere. De bekrefter også at det trenger corner-cases i denne prosessen og at dette kommer til å ta tid. Min tolkning av dette er at det i beste fall kommer til å ta mange år før dette kan brukes i Norge med tilstrekkelig grad av pålitelighet.

Videoene understreker at når Elon var så skråsikker på et FSD ville være Feature Complete mot slutten av 2019 så bommet han grovt. Den teknologien Tesla da jobbet med har de nå bekreftet at ikke vil fungere for å nå dette målet. Det betyr ikke at han bløffet men at han forskutterte noe han ikke hadde kontroll på dessverre.

Så blir det spennede å se hvordan det "nye" prosjektet til Elon vil utvikle seg i årene som kommer. Vinner han til slutt med sin Double Down strategi eller må han kaste kortene nok en gang? Bare tiden vil vise som de sier....


Oxford Languages: "double down" - strengthen one's commitment to a particular strategy or course of action, typically one that is potentially risky.

[daktari]

Her er en helt ny video der FSD-sjefen i Tesla, Andrej Karpathy, forteller om Tesla Vision og FSD:


https://www.youtube.com/watch?v=NSDTZQdo6H8

Her oppsummerer Dave Lee noen av punktene:


https://www.youtube.com/watch?v=THtpJG4k0Wc

Han er innom temaer som hvorfor radar ikke er nødvendig/ønskelig, med mer.

Som man kan se, skjer det mer bak kulissene enn folk tror.

Å se på investerings-influensere på Youtube er uinteressant.
Karpathy er derimot veldig interessant.
Dessverre fremkommer ikke så mye nytt. Det kan være lurt å stille noen kritiske spørsmål.
Kort fortalt har de brukt hele teamet, i 4-5 måneder til å erstatte radar med kamera. For å få til dette så har de samlet data fra flåten av biler. De måtte etablere en auto-labeling av dataene, hvor de både annoterer manuelt (supervised) og så fortsetter automatisk. De benchmarket annoteringen med radar (antagelig LIDAR også, men han sa ikke det). De har flere petabyte med læringsdata som må trene dette ene NN på verdens 5. største supercomputer (ikke Dojo, den er ikke ferdig). Så testet de det nye NN som altså bare håndterer fart, avstand og retning, i "shadow mode" hele 7 ganger før de er der at de kunne slippe det i beta. De har forøvrig mange grener av NN som gjør forskjellige ting, men han sa ikke hvor mange. Han sa også at de hadde eksperimentert mye med forskjellig teknologi for å fuse datastrømmene fra forskjellige kamereaer og har landet på noe de tror på.
De jobber forøvrig inkrementelt, og har mange NN i stacken, og disse er uavhengige og kan forbedres eller skiftes uavhengig av hverandre.
Karpathy mener at å jobbe med sensor fusion, altså at radardata og kameradata supplerer hverandre, ikke var ønskelig fordi de vil ha kun kameradata, men at de kunne gjort dette for å fjerne problemet med fantombremsing.

De kritiske spørsmålene blir jo da: vil de ta dette NN ut av beta, når, og hvor mange ekstra runder opptrening behøves?
Hvor mange NN i stacken er nå ferdige, og hvor mange mangler og hvor mange må forbedres? Hvor mange har de? Trenger de ytterligere 10 NN til á 5 måneder med hele teamets innsats, (=50 måneder) eller ingen?
Funker dette nye NN med europeiske biler og lastebiler? Hva med sykler, fotgjengere og dyr? Hva med natt, tåke og skitne kamera?
Hvem bruker de 4 sterkere supercomputerne, Waymo f.eks?
Har de andre samme problem som Tesla har med sensor fusion?
Når kommer FSD fiks ferdig?

Ellers er det jo kjent at Tesla har en relativt enkel radar fra 2014/16, andre merker bruker mer avanserte modeller. Samt at andre firmaer får jo til sensor-fusion mye bedre; eks. VAG med Audi og Id.4 som jeg har brukt selv - veldig lite fantombremsinger.

Oppsummert hadde Tesla en dårlig radar og ikke ønske om å fikse sensor fusion, de vedder 100% på kamera mens andre går andre veier. Det kan også være langt igjen til ekte FSD. Fra et investor-ståsted er det her potensiale for en relativt billig sensorpakke og skalerbar løsning, men også kjempehøy risiko og en massiv up front investering (supercomputer, 15-20 Pb datasenter, 1 mill biler osv.) som må til men som delvis er tatt.

[geear]

Det kan nok også tenkes at valgene til Tesla er farget av at de både må bygge om alle eksisterende FSD-biler, og endre design/produksjon av eksisterende, dersom de skal endre sensorpakken utover å fjerne radar. Den kan de ta ut av bruk også for oss med gamle FSD-biler. Andre kan endre fritt på sensorpakkene/løsningene sine, uten at det får noen konsekvens for eksisterende biler.

[daktari]

Enig. Det er jo sjelden at mange forskjellige sensorer/sanser er en ulempe. Unntatt for kostnader samt hvis man har lovt for mye i for lang tid.

[emurof]

Tror det når jeg får teste selv, kan ikke tolke så mye ut i fra super fans beta testere og utviklerne selv.
Kameraet bak frontruten kommer i alle fall til å trenge en nye regnsensor om den skal kjøre min bil, ellers går det rett i grøften:)

Nå handler ikke videoen om å teste selv, men litt bakgrunnsinfo om hva Tesla gjør og hvorfor de gjør det.

[emurof]

Tesla bekrefter nå min mistanke over noen år, at de rett og slett ikke klarer å komme i mål med opprinnelig planlagt FSD teknologi. Dagens HW har rett og slett ikke nok krefter til å forholde seg til flere type sensorer samtidig og kompleksiteten det medfører er nok dessuten svært utfordrende for SW-gutta å forholde seg til.

Hvor sier han at dagens HW ikke har nok krefter? Det han sier er at kamera alene er mye bedre, og at det er bedre å bruke ressursene på å kun jobbe med kamera enn med å bruke tid på noe som ikke gir bedre resultater.

Påstanden om at dagens HW ikke har nok krefter har null støtte i videoen. Hvorfor dikter du opp ting som ikke er i videoen?

Dette betyr at opprinnelig redundans ved å bruke flere type sensorer utgår og Tesla satser nå alt på kameraene sine. Dette kan potensielt sett forenkle programmeringsjobben og kanskje også redusere behovet for HW ytelse.

Nei, det trenger ikke å forenkle programmeringsjobben i det hele tatt. Eller det er ikke nødvendig at det gjør det. Poenget er at de velger å bruke ressursene der det faktisk er mest nyttig i stedet for å bruke tid og ressurser på noe som i realiteten ikke gir noen fordeler.

Men hva skulle egentlig Tesla ha gjort når de innså at dagens HW ikke var kraftig nok til å komme i mål med opprinnelig planlagt design? Lage ny HW? Nei, dette hadde fått katastrofale følger for Tesla som firma og ikke et alternativ. Så forenkling var nok den eneste muligheten for å holde liv i FSD drømmen, altså kutte ut noen sensorer. Eller hadde Tesla reelt sett noe annet valg for ikke å gå overende? Tid for ettertanke.

Hele det lange innlegget ditt er basert på det falske premisset om for svak HW, som altså ikke har støtte i videoen. Så hvorfor bruker du videoen som ikke bekrefter det du skriver, som springbrett for et langt innlegg som egentlig er ren spekulasjon fra din side?

[emurof]

Det kan være lurt å stille noen kritiske spørsmål.

Dette er ikke kritiske spørsmål, men de vanlige spekulasjonene som naturligvis alltid konkluderer med at alt bare er negativt og det er håpløst og det er ikke måte på hvor ille det er for Tesla.

Enig. Det er jo sjelden at mange forskjellige sensorer/sanser er en ulempe. Unntatt for kostnader samt hvis man har lovt for mye i for lang tid.

Det du sier er at mer alltid er bedre. Mer kompleksitet er bedre. Flere feilkilder er bedre. Pøse på med det ene og det andre er bedre.

Med andre ord, ikke tenke nytt, ikke forenkle om mulig, og så videre.

Slik tenker man når man ikke har tro på å tenke nytt. Samme holdning hadde hest og kjerre-elskerne i sin tid, og ICE-elskerne i dag.

[daktari]

Det kan være lurt å stille noen kritiske spørsmål.

Dette er ikke kritiske spørsmål, men de vanlige spekulasjonene som naturligvis alltid konkluderer med at alt bare er negativt og det er håpløst og det er ikke måte på hvor ille det er for Tesla.

Enig. Det er jo sjelden at mange forskjellige sensorer/sanser er en ulempe. Unntatt for kostnader samt hvis man har lovt for mye i for lang tid.

Det du sier er at mer alltid er bedre. Mer kompleksitet er bedre. Flere feilkilder er bedre. Pøse på med det ene og det andre er bedre.

Med andre ord, ikke tenke nytt, ikke forenkle om mulig, og så videre.

Slik tenker man når man ikke har tro på å tenke nytt. Samme holdning hadde hest og kjerre-elskerne i sin tid, og ICE-elskerne i dag.

Det er seriøst det største tullet jeg noensinne har hørt. En ny sensor vil jo ikke være en feilkilde? 8 kameraer er da 8 feilkilder, er det det du mener? Bør Tesla satser på 4 kameraer slik de sa i 2016 var nok for AP?

Tesla satser på bleeding edge sw som krever ekstrem HW der andre lett fikser sensor fusjon. Det er gambling, kanskje de lykkes. Fordelen er bare lavere kostnader til sensorer.

Igjen og igjen angriper du budbringeren istedenfor å ha argumenter. Prøv å bryt ut av TSLA-boblen din, slett alle cookies, lag ny profil på sosiale media. Legg bort "manifestet" du skriver. Lytt til hva Musk og Karpathy IKKE sier, og ikke anta noe foregår som ikke blir sagt. Det blir for dumt.

[JorEl]

Elon Musk er en ekte FANBOY.

Eller setter han rett og slett for høye mål? Høyere enn hva som er mulig, eller hva andre synes er umulig? Er han dum som tror på seg selv?
Ser vi hva han har gjort, så tror jeg vi har enda litt i vente.
I denne videosnutten handler det selvsagt om FSD og noen ukers ventetid.

https://youtu.be/TCQk6GYaVkk?t=470

[JorEl]

Nå er vi nede i en uke
https://www.teslarati.com/tesla-fsd-beta-v9-delay-fix-some-obvious-issues-elon-musk/

[Motorwatt]

Nå har ikke Tesla egentlig noe valg. De forpliktet seg tidlig til å montere kameraer på alle biler, og hevdet at maskinvaren var i stand til FSD. Og de har solgt hundretusenvis av biler med denne hardwaren. De har ikke råd til å oppgradere biler til nyere radarer, eller å sette nyere radarer i fremtidige biler. Jeg tror Tesla i utgangspunktet er tvunget til på en eller annen måte å prøve å få "bare visjon" til å fungere så godt de kan. Dagens radarer er atskillig bedre enn det de var i 2014, og det finnes nå 4D-radarer med mye større oppløsning. Så selv om Tesla har hatt to leverandører av radarer (Continental og Bosch), så har spesifikasjonene ikke endret seg.

En liten kuriositet fra 2016:

Tesla is preparing a significant upgrade to its autopilot technology for a future software update, the company announced today. The biggest change is in how the company uses its radar sensors. Previously, a camera and image processing system were the primary sensors, backed up by data from the radar system to verify its findings — but going forward, the camera and radar will work side by side to detect obstacles. The improvements are expected in Tesla Software Update 8.0, planned for release in the next few weeks.

A "geocoded whitelist" of objects like road signs and bridges will help prevent false positives (and thus automatic braking for no reason, which can be alarming and dangerous), and allow the system to notice the potential for crashes that might previously have been ignored. That's what happened earlier this year in a fatal Autopilot crash when the system ignored a truck making a left turn in front of a Tesla Model S in Autopilot mode. The car thought it would be passing under a road sign rather than realizing that there was an imminent crash threat.

The whitelist is a GPS-coded map of objects like overhead signs that do not pose any threat to the car, allowing the radar system to safely disregard them and not trigger the brakes unnecessarily.

[geear]

Det viser bare hvor lite ferdig det har vært. Fokus på å bruke radarene, som de nå fjerner igjen, og whitelist har de jo heller ikke lenger. Iallfall ikke om en skal tro på det Musk/Karpathy har sagt om at alle veier skal kjøres som om det var første gang.

[Magnus Hansen]

Dagens Elon tweet

Haha, FSD 9 beta is shipping soon, I swear!

Generalized self-driving is a hard problem, as it requires solving a large part of real-world AI. Didn't expect it to be so hard, but the difficulty is obvious in retrospect.

Nothing has more degrees of freedom than reality.

[Radial]

"didn't expect it to be so hard" ...🙄