När kommer det bli dyrare att försäkra en icke autonom bil kontra en autonom bil?

[lbgu]

Rånrisken kanske går ner, ingen chaufför att hota till livet eller som kan vara ”insider”.

Tvärtom blir det ju lägre straff ifall det inte är människor man rånar utan bara tillgriper varor. Sen är garanterat en chaufför mycket mer oförutsägbar för rånaren. Kan vara beväpnad eller bara jävligt duktig på kampsport, kan köra lastbilen rätt in i rånarnas fordon m.m. Kan sluta i grov misshandel eller i värsta all dråp. Att plocka saker från en försvarslös lastbil är ju en barnlek i jämförelse.

Angående insider är det nog sällan det är den enskilde lastbilschauffören som tipsar utan någon som har bättre koll på vilka transporter det finns att välja på. En lastbilschaufför som satte i system om att tipsa om sin egen transport skulle nog rätt snart bli misstänkt. Typ varför rånar de alltid just honom.

 

[Byggmarodören]

Hjärnan är analog, inte digital, och har enormt mycket högre kapacitet för förståelse och flexibilitet. "AI" (neurala nätverk) är inte självlärande eller adaptiv på samma sätt och hanterar kaotisk och motsägelsefull information betydligt sämre. Ingen AI modell förstår egentligen vad den ser, människan som kör har en nivå av förståelse som inte blir lika förvirrad av något den aldrig har sett tidigare.
Jag misstänker att den riktiga anledningen Musk är emot lidar (och radar), är att det är mycket svårare att göra modeller som kan ta in data från olika källor och avgöra vilka källor man ska lita på i vilka sammanhang.

Kameror har sina fördelar, men trots sina nackdelar har människans syn också fördelar. Den sitter på ett rörligt huvud som är bakom vindrutan, inga vattendroppar, smuts eller spindlar på linsen, mycket bra på att reagera på rörelser även om upplösningen inte är jättehög. Låga upplösningen kompenseras av en inbyggd mönsterigenkänning som neurala nätverk bara försöker imitera.

Just det där med corner cases är det största problemet, människor hanterar dem mycket mycket bättre än AI modeller. Och det är svårt att träna en AI modell att hantera sådana, dels att det krävs mycket data från alla olika möjliga händelser, och dels att neurala nätverken inte nödvändigtvis alltid blir bättre med mer träning, inte sällan är det tvärtom.
Det är mycket lättare att träna ett nätverk att jobba som en människa i de allra vanligaste fall, men att få den samtidigt hantera konstiga saker blir svårt, och när man försöker göra den bättre att hantera konstiga saker kan det ofta ha en negativ påverkan på de vanliga fallen.

Sen är det ju så att autonom körning kanske inte behövs eller kan byggas på bara neurala nätverk på grund av de grundläggande problem det finns där. Regelbaserade system kommer nog behövas minst parallellt för att ta säkerhetskritiska beslut. Det är mycket utveckling kvar och det är inte bara att mata mer data i kamerabaserade nätverk som Tesla gör. Det är bra för marknadsföring men rigoröst är det inte.

Såna saker som att det är en vägkon på gatan. En människa kan hjälpligt klura ut om den ska vara där eller inte (har det varit storm så den kanske blåst dit, är den tillbucklad så nån redan kört på den och den flyttat sig...). Allt sånt är långt bortom vad ML kan hantera i dagsläget, så AI'n behöver istället förutsätta konen finns där av en anledning och därmed hantera situationen med bristfällig kunskap/troligen dåligt resultat.

Appropå mata in mer data i en ML. Det kan ju ge kul resultat a la en frekvent reklamskylt plötsligt får relevans. Tänk om en bil alltid började svänga in på McD varje gång den ser ett M tex, bara för tillräckligt många har gjort så tidigare

 

[cpalm]

Hjärnan är analog, inte digital, och har enormt mycket högre kapacitet för förståelse och flexibilitet.

Du krånglar till det...

Den mänskliga hjärnans förmåga att tolka sinnesintryck/"sensordata" är den enda avgörande skillnaden.
Dvs. det är i första hand en astronomisk analytisk utmaning och inte en sensorteknisk begränsning.

 

[John Carlson]

Du krånglar till det...

Den mänskliga hjärnans förmåga att tolka sinnesintryck/"sensordata" är den enda avgörande skillnaden.
Dvs. det är i första hand en astronomisk analytisk utmaning och inte en sensorteknisk begränsning.

Du missar poängen.
Precis på grund av den första så kommer system för autonom körning behöva ta all hjälp de kan få från bättre sensorer och inte försöka lösa problemet med bara kameror.

 

[Dowser4711]

Du missar poängen.
Precis på grund av den första så kommer system för autonom körning behöva ta all hjälp de kan få från bättre sensorer och inte försöka lösa problemet med bara kameror.

Jag tror att du missar poängen.
De behöver inte bli totalt felfria, de behöver bli (påtagligt) bättre än de genomsnittliga förarna.
Det dör över 3500 personer i trafikolyckor *varje dag*. Det är mestadels på grund av mänskliga förare.

 

[John Carlson]

Jag tror att du missar poängen.
De behöver inte bli totalt felfria, de behöver bli (påtagligt) bättre än de genomsnittliga förarna.
Det dör över 3500 personer i trafikolyckor *varje dag*. Det är mestadels på grund av mänskliga förare.

Vi håller nog inte med om det hur nära de är att vara påtagligt bättre.

Sen är det också så att automatiska system måste vara väldigt mycket bättre för att bli godkända utan att det blir förödande ansvarsproblem för tillverkare.

 

[Pin]

Vi håller nog inte med om det hur nära de är att vara påtagligt bättre.

Sen är det också så att automatiska system måste vara väldigt mycket bättre för att bli godkända utan att det blir förödande ansvarsproblem för tillverkare.

Autonoma fordon är inte största frågan vad gäller ansvar den dagen AI gör mer än vi människor.
Det är inte nödvändigtvis tillverkaren som har ansvaret.
Har tillverkaren av programvaran ansvaret idag när kommuner till del ersatt socialtjänsten med AI?

 

[John Carlson]

Autonoma fordon är inte största frågan vad gäller ansvar den dagen AI gör mer än vi människor.
Det är inte nödvändigtvis tillverkaren som har ansvaret.
Har tillverkaren av programvaran ansvaret idag när kommuner till del ersatt socialtjänsten med AI?

Jag hoppas verkligen att man inte ersätter mänskliga omdömet med AI. Väldigt dystopisk tanke.

 

[Dowser4711]

Jag hoppas verkligen att man inte ersätter mänskliga omdömet med AI. Väldigt dystopisk tanke.

Du har en väldigt hög åsikt om människors omdöme.
Har du träffat människor?

 

[Pin]

Jag hoppas verkligen att man inte ersätter mänskliga omdömet med AI. Väldigt dystopisk tanke.

Det är som sagt till viss del redan infört i några kommuner inom socialtjänsten.

Fler yrken står på tur. Det traditionella tre D (dirty, dull, dangerous) som ersattes av maskiner i industriella revolutionen tar nu staget att till del (inte nödvändigtvis ersätta helt och hållet) göra jobbet åt läkare, jurister och andra statusfyllda arbeten.

Det intressanta är att ingen tror att just deras jobb kan påverkas av AI. Själv tycker jag människa eller maskin är irrelevant när turingtestet passerats.

 

[John Carlson]

Du har en väldigt hög åsikt om människors omdöme.
Har du träffat människor?

Ja, jag tror faktiskt på människan.
Däremot har jag träffat många AI system och har något lägre åsikt om dem.
I det stora hela så tror jag alla dagar mer på oss människor än på AI system. Vi bör aldrig låta datasystem (och deras skapare - amerikanska bolag med miljardörägare) bestämma för oss.

 

[Dowser4711]

Ja, jag tror faktiskt på människan.
Däremot har jag träffat många AI system och har något lägre åsikt om dem.
I det stora hela så tror jag alla dagar mer på oss människor än på AI system. Vi bör aldrig låta datasystem (och deras skapare - amerikanska bolag med miljardörägare) bestämma för oss.

Det låter som att du stirrar dig blind på vad som hänt de senaste åren jämfört med vad som utlovats snarare än att se helheten och långsiktig utveckling.

Dvs, du fokuserar på den första delen av Amaras lag utan att ta hänsyn till den andra delen:
Vi tenderar att överskatta effekten av en teknologi på kort sikt och underskatta effekten på lång sikt.

 

[John Carlson]

Det låter som att du stirrar dig blind på vad som hänt de senaste åren jämfört med vad som utlovats snarare än att se helheten och långsiktig utveckling.

Dvs, du fokuserar på den första delen av Amaras lag utan att ta hänsyn till den andra delen:
Vi tenderar att överskatta effekten av en teknologi på kort sikt och underskatta effekten på lång sikt.

Jag har bara lite mer insyn i dessa system än genomsnittet och i min värld är lång sikt snarare 50-100 år än 10-20.

Oavsett så tror jag inte att det är bra för mänskligheten att överlåta för många beslut till datasystem. Det är mer en filosofisk fråga som handlar om vår frihet.

 

[Dowser4711]

Jag har bara lite mer insyn i dessa system än genomsnittet och i min värld är lång sikt snarare 50-100 år än 10-20.

Oavsett så tror jag inte att det är bra för mänskligheten att överlåta för många beslut till datasystem. Det är mer en filosofisk fråga som handlar om vår frihet.

Jag anser inte att trafiksäkerhet handlar om filosofi och frihet.

 

[John Carlson]

Jag anser inte att trafiksäkerhet handlar om filosofi och frihet.

Alla friheter kan berövas genom att hänvisa till säkerhet.