Bild
Nästa artikel

Tejptricket: Så enkelt kan Teslas bilar luras att köra för fort

Nyheter

Tesla bekräftar att ett enkelt knep kan få Autopilotsystemet att köra olagligt fort.

Nya bilar innehåller teknik och finesser som i princip var otänkbara för bara några år sedan, och Tesla har tagit det hela ett steg längre genom att lansera ett system som delvis gör bilen självkörande under vissa förhållanden – och som kan uppdateras på distans via nätet.

Autopilotsystemet kan fungera riktigt bra om förhållandena är de rätta. Men trots den avancerade tekniken kan tekniken vara lätt att lura, visar en grupp forskare på företaget McAfee.

Forskarna har tittat på hur Autopilotens kamerasystem hanterar olika situationer längs vägarna. Mer specifikt är det kamerasystemet från företaget Mobileye som testats, och som fanns i Tesla Model S och Model X fram till 2016.

Systemet kan läsa av hastighetsskyltar längs vägen och anpassa bilens hastighet. I USA finns vita hastighetsskyltar där det står "Speed limit 35" (drygt 55 km/h). Men när forskarna tejpade en liten tejpbit mitt i trean feltolkade bilens Autopilot skylten och trodde att hastigheten var 85 mph (cirka 135 km/h) vilket förstås är en stor skillnad.

Anledningen är att kamerorna och bilens mjukvara feltolkar den tejpade trean som en åtta.

Den här missen visar att vi trots all avancerad teknik ännu inte kan lita på att kamerasystemen i moderna bilar fungerar som de ska, och många av Vi Bilägares läsare har ju också vittnat om att exempelvis adaptiva farthållare och backkameror ofta blir satta ur spel vid regnigt eller smutsigt väder.


Det är förmodligen inte så troligt att någon sätter upp svarta tejpbitar på hastighetsskyltar för att lura halvautonoma bilar att köra olagligt fort, men experimentet visar också att vi ännu inte ska lita på systemen fullt ut – det är viktigt att föraren är alert och hänger med i körningen även när bilen tar hand om det mesta.

Tesla har bekräftat att systemet kan "luras" på det här sättet men det verkar inte aktuellt med någon uppdatering för att rätta till felet. Observera att nyare Teslabilar alltså har ett annat kamerasystem som fungerar annorlunda.

Kommentarer

#1
2020-02-20 10:47

Vad vill man visa med detta? En tillräckligt väl tejpad skylt kan ju lika gärna lura en mänsklig förare. Förvisso kan man väl hoppas att människor även har någon form av omdöme och kan avgöra vilken hastighet som är lämplig med hänsyn till omgivning, vägens beskaffenhet mm, men nog har man sett tillräckligt många exempel på motsatsen...

#2
2020-02-20 12:31

Jag är emot att systemet skall bestämma hur jag ska köra.
Helt enkelt jäkla skit system.
Om ja skall ändra från 90 till 70 så ska jag göra det och inte bilen.

När jag provade Ford focus st med märkes styrd adaptiv farthållare så missade bilen en 50 skylt i en ny så jag blåste på i 70.
Vilket jäkla skit system.
Gärna teknik som informerar men jag skall bestämma.

#3
2020-02-20 12:33

Kanske är en ide med flera informationskällor istället för skyltavläsning, GPS med skyltavläsning minskar risken för fel.

#4
2020-02-20 13:51

Men Stefl, i det aktuella fallet ovan har man ju inte gjort en åtta av trean, utan bara "förlängt inbuktningen" i trean. Det är ju ingen konst för oss att se att det fortfarande är just en trea - det finns ju inte på kartan att någon av oss skulle tolka den första siffran som en åtta. Det sämsta med att publicera sådant här, är att man ger allsköns puckon ett tips på hur man gör för att utsätta folk för livsfara. Att det sedan är ett amerikanskt halvfabrikat som är så här lättlurat, förvånar ju inte direkt.

#5
2020-02-20 14:10

Intelligentes: Märk med vad det står i texten, att detta gäller de tidiga Teslor med MobileEye:s teknik, de senare med Teslas egen teknik fungerar som de ska.......så det där med att du försökte återigen felaktigt få Tesla att verka sämst genom att kalla dem amerikanskt halvfabrikat. Hade vart intressant att veta vilken Tesla det är du kört så mycket att du har så pass mycket erfarenhet att komma med de påståenden du gör hela tiden. Köpte du ett tidigt måndagsexemplar? Eller är det helt enkelt så att du inte har nån erfarenhet alls och bara trollar runt för att du fått för dig nåt? Nä, så kan det väl knappast vara från någon som kallar sig intelligent.....

#6
2020-02-20 14:18

Oavsett vad bilen gör, och oavsett bil, så är det förarens skyldighet att ha kontroll över körningen.
Som Henrik skriver så är det inget bekymmer för de Tesla som säljs idag.

#7
2020-02-20 15:28

Intelligentes - jag menade som jag skrev att en "tillräckligt väl" tejpad skylt även kan lura en människa. Förhoppningsvis skulle väl ingen dra iväg i närmare 140 (motsv 85 mph) i den miljö som visas på filmen men det finns många ställen där man säkert skulle kunna luras att det är 80 när det är 60 etc. Min poäng var mest att även våra ögon kan bli lurade och att det måste till omdöme baserat på omgivningen och inte bara en skylt...

#8
2020-02-20 19:19

Så j-la korkat! Alla system går att lura! Vad ska med dem då till? Och betala dyra slantar för dem!

#9
2020-02-20 20:20

Alla människor går att lura!Sannolikt betydligt lättare än ett system.

#10
2020-02-20 23:19

Reverend: Ja, "systemet" (staten) lurar skjortan av människorna i det här landet! (Utom mig, givetvis.)

#11
2020-02-21 00:01

Benny. Alla system är i kombination av GPS och skylt kamera men det kan ändå bli fel.

#12
2020-02-21 06:53

@mso 1000
Fast om alla system är det så borde det inte bli fel (om inte både GPS och skylt har fel).
Om skylten visar ett värde och GPS;en ett annat så borde inte något av dom följas. En självkörande bil borde gå in i ett failsafe mode där den använder en lägre hastighet tills föraren själv får ta över.

#13
2020-02-22 11:54

Det var ju inte bra.

#14
2020-02-23 22:36

Benny.
GPS uppdateringarna är ofta fel och för gamla och ej uppdaterade.
Och skyltar kan sitta i vinkelfel eller med ett snö eller tunt is skikt på och då blir det läsfel.

Nä jag tycker det är sämst med ett system som styr farthållaren.
Det är föraren som skall bestämma utifrån det han ser.

Hej!

Vi har förståelse för att du använder adblocker, men hoppas att du kan stänga av den för vår sajt. Annonser är en förutsättning för att vi ska kunna fortsätta att driva sajten.