Jeg tror ikke deres Elon er helt tilregnelig...

[Teslanewbie]

Elon har alt under kontroll :-)

[Espen Hugaas Andersen]

On topic: Jeg tror Musk gjør helt rett i å frykte dette. Menneskeheten burde ikke kaste seg inn i dette som den ofte gjør. Jeg ville ikke foreslått å gi Skynet kontrollen over masseødeleggelsesvåpen, f.eks.

I dag pågår det en god del forskning på å gjenskape kommunikasjonsarkitekturen man ser i hjernen i datamaskiner. Man har klart å få dette til å spille sammen på lavt nivå, uten at man helt har fått det til å spille sammen på høyt nivå, men det er bare et spørsmål om tid. Dette er ting vi ikke forstår hvordan fungerer, men vi forstår nok til å gjenskape det.

Om man da lager en superhjerne, med IQ på 100.000, så må man være veldig forsiktig med hva man gjør. Dette vil være en datamskin som vil kunne lyve, den vil kunne ha sine egne mål, ambisjoner, osv. Den vil også være smart nok til å forutse alle våre handlinger. Dette vil jeg si er makt som vi aldri bør gi spillerom. Slik intelligens bør aldri få tilgang til internett, ikke fordi den vil rømme, men fordi den vil kunne gjøre ting som vi ikke klarer å forutse, som f.eks å bryte seg inn i en Tesla via 3G, og krasje bilen til den største kritikeren. Den vil kunne dreie samfunnsdiskusjonen ved å opprette 10 profiler på alle nettsamfunn, og komme med veluttenkte argumenter målrettet mot hver debattant for hvorfor man burde gi Skynet tilgang på masseødeleggelsesvåpen. Den vil kunne styre børsen ved å lære seg hvordan botene fungerer, og så spille de som en fløyte.

Hyperintelligent AI er farlig, og dette er noe man absolutt burde rette fokus mot ettersom det vil bli mer og mer AI i de neste årene.

[Teslanewbie]

On topic: Jeg tror Musk gjør helt rett i å frykte dette. Menneskeheten burde ikke kaste seg inn i dette som den ofte gjør. Jeg ville ikke foreslått å gi Skynet kontrollen over masseødeleggelsesvåpen, f.eks.

I dag pågår det en god del forskning på å gjenskape kommunikasjonsarkitekturen man ser i hjernen i datamaskiner. Man har klart å få dette til å spille sammen på lavt nivå, uten at man helt har fått det til å spille sammen på høyt nivå, men det er bare et spørsmål om tid. Dette er ting vi ikke forstår hvordan fungerer, men vi forstår nok til å gjenskape det.

Om man da lager en superhjerne, med IQ på 100.000, så må man være veldig forsiktig med hva man gjør. Dette vil være en datamskin som vil kunne lyve, den vil kunne ha sine egne mål, ambisjoner, osv. Den vil også være smart nok til å forutse alle våre handlinger. Dette vil jeg si er makt som vi aldri bør gi spillerom. Slik intelligens bør aldri få tilgang til internett, ikke fordi den vil rømme, men fordi den vil kunne gjøre ting som vi ikke klarer å forutse, som f.eks å bryte seg inn i en Tesla via 3G, og krasje bilen til den største kritikeren. Den vil kunne dreie samfunnsdiskusjonen ved å opprette 10 profiler på alle nettsamfunn, og komme med veluttenkte argumenter målrettet mot hver debattant for hvorfor man burde gi Skynet tilgang på masseødeleggelsesvåpen. Den vil kunne styre børsen ved å lære seg hvordan botene fungerer, og så spille de som en fløyte.

Hyperintelligent AI er farlig, og dette er noe man absolutt burde rette fokus mot ettersom det vil bli mer og mer AI i de neste årene.

Meget godt skrevet !

[Kallagtunet]

On topic: Jeg tror Musk gjør helt rett i å frykte dette. Menneskeheten burde ikke kaste seg inn i dette som den ofte gjør. Jeg ville ikke foreslått å gi Skynet kontrollen over masseødeleggelsesvåpen, f.eks.

I dag pågår det en god del forskning på å gjenskape kommunikasjonsarkitekturen man ser i hjernen i datamaskiner. Man har klart å få dette til å spille sammen på lavt nivå, uten at man helt har fått det til å spille sammen på høyt nivå, men det er bare et spørsmål om tid. Dette er ting vi ikke forstår hvordan fungerer, men vi forstår nok til å gjenskape det.

Om man da lager en superhjerne, med IQ på 100.000, så må man være veldig forsiktig med hva man gjør. Dette vil være en datamskin som vil kunne lyve, den vil kunne ha sine egne mål, ambisjoner, osv. Den vil også være smart nok til å forutse alle våre handlinger. Dette vil jeg si er makt som vi aldri bør gi spillerom. Slik intelligens bør aldri få tilgang til internett, ikke fordi den vil rømme, men fordi den vil kunne gjøre ting som vi ikke klarer å forutse, som f.eks å bryte seg inn i en Tesla via 3G, og krasje bilen til den største kritikeren. Den vil kunne dreie samfunnsdiskusjonen ved å opprette 10 profiler på alle nettsamfunn, og komme med veluttenkte argumenter målrettet mot hver debattant for hvorfor man burde gi Skynet tilgang på masseødeleggelsesvåpen. Den vil kunne styre børsen ved å lære seg hvordan botene fungerer, og så spille de som en fløyte.

Hyperintelligent AI er farlig, og dette er noe man absolutt burde rette fokus mot ettersom det vil bli mer og mer AI i de neste årene.

Meget godt skrevet !

Gutter nå tror jeg dere har sett for mye på science fiction gitt....

[JohanH]

Les denne boken av en svenske:

http://www.amazon.com/Superintelligence-Dangers-Strategies-Nick-Bostrom/dp/0199678111

Her er en kort innføring fra forfattere selv:
http://www.nickbostrom.com/views/superintelligence.pdf

Han er professor på Oxforud University. Fortell meg etterpå at du ikke deler Elons bekymring.

[Kallagtunet]

Som deg gode professor sier selv...

"It is difficult to predict how long it will take to develop human‐level artificial general intelligence. The prospect does not seem imminent. But whether it will take a couple of decades, many decades, or centuries, is probably not something that we are currently in a position to know."

[Espen Hugaas Andersen]

Jeg er 30 år. Jeg føler at det er ganske sikkert at jeg vil oppleve dette før jeg går av med pensjon. Om det er snakk om 5 år eller 30 år er jeg ikke sikker på, men 5 år kan være riktig.

Jeg tror uansett ikke Musk tenker at han vet med sikkerhet at dette vil skje om 5 år. Det er bare det at om man sier at det vil skje om 30 år, så er det ingen som vil bry seg med saken, og om det så skjer om 5 år, så er det ingen som har ofret dette en tanke før det er for sent.

Worst case / best case, så er det ikke mange år til.

[Kjell Leaf]

On topic: Jeg tror Musk gjør helt rett i å frykte dette. Menneskeheten burde ikke kaste seg inn i dette som den ofte gjør. Jeg ville ikke foreslått å gi Skynet kontrollen over masseødeleggelsesvåpen, f.eks.

I dag pågår det en god del forskning på å gjenskape kommunikasjonsarkitekturen man ser i hjernen i datamaskiner. Man har klart å få dette til å spille sammen på lavt nivå, uten at man helt har fått det til å spille sammen på høyt nivå, men det er bare et spørsmål om tid. Dette er ting vi ikke forstår hvordan fungerer, men vi forstår nok til å gjenskape det.

Om man da lager en superhjerne, med IQ på 100.000, så må man være veldig forsiktig med hva man gjør. Dette vil være en datamskin som vil kunne lyve, den vil kunne ha sine egne mål, ambisjoner, osv. Den vil også være smart nok til å forutse alle våre handlinger. Dette vil jeg si er makt som vi aldri bør gi spillerom. Slik intelligens bør aldri få tilgang til internett, ikke fordi den vil rømme, men fordi den vil kunne gjøre ting som vi ikke klarer å forutse, som f.eks å bryte seg inn i en Tesla via 3G, og krasje bilen til den største kritikeren. Den vil kunne dreie samfunnsdiskusjonen ved å opprette 10 profiler på alle nettsamfunn, og komme med veluttenkte argumenter målrettet mot hver debattant for hvorfor man burde gi Skynet tilgang på masseødeleggelsesvåpen. Den vil kunne styre børsen ved å lære seg hvordan botene fungerer, og så spille de som en fløyte.

Hyperintelligent AI er farlig, og dette er noe man absolutt burde rette fokus mot ettersom det vil bli mer og mer AI i de neste årene.

Haha, har du sett samme tegnefilmen som Elon ?

[Kallagtunet]

Uten å ha lest boken men noen har:

http://www.economist.com/news/books-and-arts/21611037-potential-impacts-intelligent-machines-human-life-clever-cogs

Noen utdrag.

"Writing about artificial intelligence is difficult. The first trick is simply passing the laugh test. Much like fusion power, experts have been predicting that intelligent machines are 20 years away for the past half-century. Mr Bostrom points out that there has, in fact, been plenty of progress, though it is mostly confined to narrow, well-defined tasks such as speech recognition or the playing of games like chess.

Mr Bostrom is, sensibly, not interested in trying to predict exactly when such successes will translate into a machine that is generally intelligent—able to compete with, or surpass, humans in all mental tasks, from composing sonatas to planning a war."

"Because nobody knows how such an AI might be built, Mr Bostrom is forced to spend much of the book discussing speculations built upon plausible conjecture. He is honest enough to confront the problem head-on, admitting at the start that "many of the points made in this book are probably wrong.""


Den gode professor virker som en rimelig fornuftig. Skråsikker hobbyrom tolkning av et så komplisert tema som kunstig intelligens er ikke like fornuftig. Og jeg tror ikke dette er noe mine barnebarn som er forhåpentligvis er 20 år fra å bli født trenger å bekymre seg over. Fanatisme av alle slag, distribusjon av resurser, krig, klima, befolkningsvekst, pandemier er jeg personlig mye mer bekymret for, men alle må jo få lov å bekymre seg for det en har lyst til.

[Espen Hugaas Andersen]

Haha, har du sett samme tegnefilmen som Elon ?

Jeg har vært klar over trusselen siden jeg leste denne artikkleen for noen år tilbake: http://seedmagazine.com/content/article/out_of_the_blue/

Her er noen videoer: http://www.kurzweilai.net/henry-markram-simulating-the-brain-next-decisive-years

[darthy001]

Til dere som tror det har rablet for Musken her.

Er dere klar over hvilket relevant selskap han faktisk er tungt inne i som jobber med nettopp dette området og er kjent for å være veldig langt fremme på akkurat dette? Han har utvilsomt tilgang på info ingen av oss andre har om nettopp spydspisen av dette feltet.

Vi snakker uansett ikke om roboter/androider her. Det er bare en tabloid fremstilling gjort for å få klikk på nettnyheter.

MEN det er veldig relevant med smarte systemer som potensielt kan ta kontroll over internett, børser etc etc og de følgene som det kunne medført.

5år høres vilt ut for meg også, men når man ser utviklingen på kverning av big data som har vært mulig de siste 4-5årene så er det helt i en annen verden enn hva som var mulig i f.eks 2007. Dette gir muligheter for "smarte" og analytiske systemer som man ikke må ha sølvfolie på hodet for å tenke muligheten for at de kan komme ut av kontroll. Dette er ett område som normale folk neppe har fått med seg utviklingen på. Vi snakker om flere tusen til millioner ganger raskere systemere på bare 3-4år. Og det på hyllevare hardware. Altså ren forbedring i software og bruk av nevnte hyllevare.

Jeg jobber delvis i denne bransjen. Og ett program av denne typen kunne skapt enorme problemer og i ytterste konsekvens kunne kollapset hele verdens finanssystemer. Det er slike scenarioer jeg tror herr Musk ser for seg.

Jeg håper jeg tar feil, men de som ler av dette kan jeg garrantere at ikke vet hva de snakker om. Er nok heller de som kun forholder seg til hollywood sin AI-verden som tror at uttalelsene fra Musk er så nært sci-fi.

[hma]

Haha, har du sett samme tegnefilmen som Elon ?

Dette var ikke en spesielt innsiktsfull (og respektfull) kommentar.

Er det noe jeg har lært meg, etter å ha jobbet snart 20 år med teknologi for mobilnett, så er det vanskeligheten av å forutsi hva som kommer lengre enn to år fram i tid. I tillegg viser det seg ofte at det som kommer er uendelig mye mer avansert/bedre enn hva man greide å forestille seg.

[Kallagtunet]

Når dette temaet er oppe så stoler jeg mer på filosofene enn på ingeniørene for å si det slik...

Når det er sagt at robot trading på fri eksos kan få børsen til å kollapse er helt sikkert mulig men det handler ikke om kunstig intelligens men menneskelig dumhet...

[Rio]

Haha, har du sett samme tegnefilmen som Elon ?

Stephen Hawkins har påpekt det samme. Og legg merke til at det er intelligente folk som sier dette.

Tenk deg selv at "noe" som hadde en IQ på "bare" 500 ble utviklet. Allerede i dag simulerer vi hjernen til diverse "smådyr", og hvert år kan vi simulere større dyr.

Tenk deg selv at forholdet mellom "dem" og mennesker da blir som mellom mennesker og orangutanger. Du ser selv hvordan det går med orangutanger, fordi mennesker trenger skogområdene de bodde i.

Jeg sier ikke at det vil skje, men det er helt klart noe som kan skje, om ikke om 5 år så om 10 år.

Og hvis du synes det er "utenkelig" - tenk deg hvordan dagens verden var utenkelig på 70-tallet.

[darthy001]

Når dette temaet er oppe så er holder stoler jeg mer på filosofene enn på ingeniørene for å si det slik...

Når det er sagt at robot trading på fri eksos kan få børsen til å kollapse er helt sikkert mulig men det handler ikke om kunstig intelligens men menneskelig dumhet...

Tror nok du er nærme kjernen der. Jeg tenker ikke på hollywood-AI med følelser of fullstendige menneskefunksjon her. Det tror jeg heller ikke Musk tenker på.

Man trenger bare en liten bit av menneskets evne til å ta logiske slutninger innenfor ett strikt rammeverk før det kan få enorme konsekvenser i dagens samfunn.

Roboter i trading er i den sammenheng faktisk bare offeret i min tankerekke her. Jeg tenker mer på andre løsninger som ender opp med å ta kontroll over f.eks trading-botter, sentrale nettverk erc etc.