L'autopilota di Tesla potrebbe essere ingannato da segnali stradali non autorizzati, hanno scoperto i ricercatori di sicurezza. anche se il produttore di veicoli elettrici insiste sul fatto che non è un problema se viene utilizzata la tecnologia di assistenza alla guida correttamente. Pur concentrandosi sui sistemi di Tesla, l'indagine solleva ulteriori domande sulla resilienza dei sistemi sistemi che costituiranno la base delle auto veramente autonome in generale, quando tali veicoli lo diventeranno disponibile.
È opera del Tencent Keen Security Lab, che in precedenza aveva dimostrato un exploit (poi risolto da Tesla) attraverso il quale l'Autopilot poteva essere compromesso da remoto. In un nuovo progetto, ha esplorato i modi in cui i sistemi di visione artificiale delle automobili potrebbero essere ingannati, con conseguenti diversi gradi di rischio.
In un exploit, i tergicristalli automatici di una Tesla Model S 75 con hardware Autopilot la versione 2.5 (e il software 2018.6.1) potrebbe essere indotta ad attivarsi utilizzando un cosiddetto "antagonista" Immagine. Tesla utilizza un modello di rete neurale per attivare i tergicristalli, identificando le gocce di pioggia che si accumulano sul vetro. Di
costruire un'immagine speciale, progettato per confondere gli apprendimenti precedenti delle reti neurali, quel sistema potrebbe essere confuso.Per essere onesti, e come sottolinea la stessa Tesla, alcuni degli exploit potrebbero esistere in teoria ma presentano pochi rischi nel mondo reale. Per ingannare i tergicristalli automatici, ad esempio, è necessario mettere una TV proprio davanti all’auto. È improbabile che sia una situazione in cui si trovano i conducenti di Tesla.
Un altro attacco hacker, che nel frattempo ha ottenuto l'accesso al sistema di sterzo dell'auto, è stato risolto in un aggiornamento di sicurezza, afferma Tesla. Rilasciato in due componenti, nel 2017 e nel 2018, apparentemente ha risolto la “vulnerabilità primaria” che è stata sfruttata, afferma la casa automobilistica. "Nei molti anni in cui abbiamo avuto automobili in circolazione, non abbiamo mai visto un singolo cliente interessato da nessuna delle ricerche contenute in questo rapporto."
Tesla ha anche commentato quello che è probabilmente l'exploit più applicabile nel mondo reale, in cui il riconoscimento della corsia è stato ingannato da specifiche indicazioni sul terreno. Lì, pezzi di nastro adesivo posizionati sulla strada erano sufficienti per confondere la rete neurale, mascherando completamente una segnaletica stradale o introducendo una corsia falsa e inesistente.
"In questa dimostrazione i ricercatori hanno adattato l'ambiente fisico (ad esempio posizionando il nastro adesivo sulla strada o alterando le linee della corsia) attorno al veicolo per far sì che l'auto si comporti diversamente quando è in uso il pilota automatico," ha detto Tesla in risposta al riconoscimento della corsia ricerca. "Questa non è una preoccupazione reale, dato che un conducente può facilmente disattivare il pilota automatico in qualsiasi momento utilizzando il volante o i freni e dovrebbe essere pronto a farlo in ogni momento."
La risposta di Tesla all'exploit del riconoscimento della corsia mette ancora una volta la realtà del pilota automatico e il modo in cui alcuni lo caratterizzano erroneamente sotto il microscopio. Nonostante le ambiziose promesse della casa automobilistica secondo cui, in un futuro non troppo lontano, la tua Tesla lo sarà in grado di guidarti in totale autonomia, l'Autopilot così com'è oggi rimane decisamente un Livello 2 sistema. Ciò significa assistenza alla guida e che la persona al volante è comunque responsabile di garantire che l’auto venga guidata in modo sicuro, qualunque siano le tecnologie coinvolte.
Quanto sia attento un conducente che utilizza funzionalità come il cruise control adattivo e il mantenimento della corsia, rispetto a qualcuno che guida il proprio veicolo interamente manualmente, rimane una domanda senza risposta. Ciò che sembra chiaro, tuttavia, è che i potenziali pericoli a cui tali conducenti devono essere in sintonia stanno evolvendo. La versione della realtà che i sistemi dell'auto vedono, e su cui basano le loro decisioni, e la versione che vede l'operatore umano possono differire in modo significativo, che si tratti del nastro adesivo sulla strada o di qualcos'altro.
La ricerca – e in particolare il suo commento sulla visione artificiale – evidenzia un’altra domanda persistente sulla guida autonoma. Tesla è documentata insistendo sul fatto che l’attuale serie di sensori sulle sue auto dovrebbe essere sufficiente per la guida autonoma di livello 4 o 5. A quel punto, l'uomo al volante dovrebbe essere in grado di lasciare il funzionamento sicuro dell'auto interamente ai sistemi del veicolo.
In particolare, però, nessuna Tesla attuale ha un LIDAR, o rilevatore di distanza laser. Invece la casa automobilistica utilizza telecamere, radar e sensori a ultrasuoni. Gli esperti del settore sono divisi sulla questione se ciò sarà sufficiente per garantire una vera autonomia guida, e questa ricerca si aggiunge alle preoccupazioni esistenti secondo cui la visione artificiale da sola potrebbe non essere sufficiente Abbastanza.
"Tesla utilizza una pura soluzione di visione artificiale per il riconoscimento della corsia e in questo esperimento di attacco abbiamo scoperto che La decisione di guidare un veicolo si basa solo sui risultati del riconoscimento della corsia tramite visione artificiale", hanno spiegato i ricercatori di Tencent concludere. "I nostri esperimenti hanno dimostrato che questa architettura presenta rischi per la sicurezza e che il riconoscimento della corsia in retromarcia è una delle funzioni necessarie per la guida autonoma su strade non chiuse. Nella scena che costruiamo, se il veicolo sa che la falsa corsia punta alla corsia di retromarcia, dovrebbe ignorarla e quindi potrebbe evitare un incidente stradale."
Naturalmente, con le auto a guida autonoma che probabilmente tarderanno ancora anni a raggiungere il mercato, Tesla – e altre case automobilistiche – hanno ancora tempo per lavorare sulla questione. Tuttavia, il produttore di veicoli elettrici è unico nell’offrire veicoli con un’opzione di guida completamente autonoma a pagamento, anche se oggi non è attiva. Ciò rende ancora più vitale che Tesla risolva la questione della visione artificiale, per evitare di frustrare i primi utilizzatori che hanno già pagato per una funzionalità che è stata loro promessa.