Le auto autonome di Uber sono tornate e ne ho presa una per un giro

Tecnico


Le auto autonome di Uber sono tornate e ne ho presa una per un giro

Nella maggior parte delle lezioni di ragionamento morale, è probabile che ti imbatti nel dilemma del carrello. Esistono diverse versioni del problema filosofico, ma essenzialmente è questo: c'è un treno in corsa che sfreccia lungo i binari diretto verso cinque persone innocenti. Sei in piedi vicino a una leva e hai l'opportunità di deviare il treno, solo che c'è una sesta persona sul percorso divergente che sarà sicuramente colpito. Cosa fai?

Il pensiero prevalente è quello di sacrificare i pochi per salvare i molti, ma cosa succede se quella persona sola sulla pista deviata è tuo figlio? Cosa faresti allora?


E se chiedessimo a un robot di prendere le stesse decisioni, cosa sceglierà?

È una domanda che sorge sempre più frequentemente man mano che le macchine iniziano ad affrontare complesse attività umane come la guida. 'È la cosa quotidiana più complessa che fa la persona media', afferma il professor Raj Rajkumar del dipartimento di robotica della Carnegie Mellon University. Secondo Rajkumar, i veicoli a guida autonoma diventeranno un'industria multimiliardaria entro la fine di questo decennio: sono un sacco di carrelli robotici che si avvicinano a quelle cinque persone.

Ma la risposta alla versione AI del dilemma del carrello, come tutte le domande di buona etica, è un trucco: un robot idealmente non si troverebbe mai in questa situazione, o così ho imparato mentre completavo il mio corso di specialista di missione con il gruppo di tecnologie avanzate di Uber per pilotare loro veicoli autonomi. In sostanza, l'Università Uber, dove mi sono laureato nella sperimentazione di un primo software di guida autonoma per un eventuale futuro (leggi: speranza) in cui il robot in questione sarebbe stato abbastanza intelligente da tentare una guida autonoma non accompagnata.

Sono stato il primo civile invitato a partecipare al programma e ho fallito. Spettacolare. Non perché non fossi un buon guidatore (dovresti vedere le mie capacità di parcheggio parallelo) - ho anche frequentato il seminario di filosofia - ma perché il rigore del programma è cambiato radicalmente da quando è stato rilanciato in seguito all'incidente a cui fa riferimento il team ATG in toni sommessi come 'Tempe'.


Il 18 marzo 2018, a Tempe, in Arizona, Uber ha sperimentato la propria variazione nella vita reale del problema del carrello, quando una delle sue Volvo XC90 è scivolata verso il disastro. È stata la tempesta perfetta: l'operatore del veicolo era eccessivamente fiducioso nella tecnologia, prestando attenzione al suo cellulare anziché alla strada; il software di guida autonoma, ancora in una fase nascente, non è riuscito a identificare positivamente un ostacolo nel percorso diretto dell'auto; e un pedone ha tentato di percorrere a piedi una bicicletta attraverso un ampio viale adiacente all'autostrada di notte in un'area segnalata che vietava il jaywalking. Nessuno era mentalmente lì, umano o robot, per tirare la leva, e il jaywalker è stato ucciso, chiudendo all'istante il fiorente programma di veicoli autonomi di Uber.

Sarebbero passati ben nove mesi prima che il programma venisse rilanciato nel dicembre 2018 come una versione ridotta del suo precedente sé, concentrato principalmente su una pista di prova adiacente alla sede dell'ATG a Pittsburgh. (Anche San Francisco, Dallas e Toronto hanno piccoli gruppi di ricerca satellitare, ma Tempe rimane definitivamente chiuso.) E dalla lunga pausa è nata una nuova filosofia del programma che dà la priorità al calibro dei dati raccolti (anziché al volume). Sono stati definiti nuovi livelli di sicurezza e i corsi sono stati riqualificati per 'rispecchiare più da vicino la certificazione aeronautica', spiega Nick Wedge, responsabile dell'apprendimento e dello sviluppo di Uber ATG. In breve, sono stati innalzati gli standard di sicurezza precedentemente stabiliti, che includevano ulteriori riduzioni della latenza del sistema - i micro-ritardi nella comunicazione sensore-software-hardware dei veicoli autonomi - per garantire che 'Tempe' non si ripeta.

Il confronto con l'aviazione è appropriato, poiché l'uso della tecnologia autonoma sugli aerei commerciali è già all'ordine del giorno: i piloti gestiscono il rullaggio, i decolli e gli atterraggi, ma una volta in aria entra in gioco la tecnologia di pilotaggio automatico, monitorata dal ponte di volo. E poiché l'attuale modalità di trasporto con il miglior record di sicurezza, nonostante il disastro del Boeing 737 Max 8 legato al software, gli standard del settore aeronautico di gestione della valutazione del rischio sono diventati il ​​modello tanto necessario su cui l'emergente industria della guida autonoma ha posto la sua sicurezza struttura. Il cielo è anche, ovviamente, un ambiente controllato poiché ogni pilota segue un addestramento intensivo; un fattore limitante per la proliferazione di veicoli a guida autonoma a terra è semplicemente l'imprevedibilità degli altri esseri umani. È quello che ti dice tuo padre quando ti insegna a guidare in un parcheggio Walmart: 'Non sei preoccupato per te, sono gli altri guidatori!'

Da adolescente non avrei mai immaginato così disperato di ottenere il permesso di studente da mettere alla prova un giorno la tecnologia in corso di lavorazione che potrebbe, in un futuro non troppo lontano, rendere obsoleta una licenza. Dopo alcuni giorni preliminari di onboarding, briefing e conferenze sulla struttura aziendale di Uber, i tirocinanti (tutti tranne me sono dipendenti ATG) partecipano a un'intera settimana di intense operazioni manuali, familiarizzando con la Volvo XC90 e testandone le capacità sul cordone -fuori pista. Vengono praticate manovre di emergenza (come controllare i limiti stridenti delle rotture antibloccaggio), così come rigorosi esercizi di navigazione del percorso, parcheggio ed inversione di marcia: una rotazione dell'auto dal buco della serratura (tirando un'auto fuori da un parcheggio e infilandola di nuovo nello stesso spazio attraverso un ciclo quasi incredibilmente stretto) può essere considerata una delle cose più spiacevoli che ho fatto nella memoria recente.


'Molto di ciò che impari nella parte manuale del programma di addestramento per specialisti di missione alla fine si traduce nella gestione di un veicolo a guida autonoma', spiega Wedge. “Cose come i punti limite e le occlusioni sono davvero importanti”: termini che non ho mai sentito quando stavo imparando a guidare quando ero più giovane, ma sono fattori essenziali quando un guidatore determina il rischio. La necessità per tutti gli specialisti di missione di avere la totale padronanza manuale del veicolo è fondamentale perché sono attualmente l'intermediario tra il robot e il suo ambiente poiché il software continua ad adattarsi alle condizioni stradali in questa fase liminale. Il livello e il rigore della parte manuale del programma di formazione evidenzia anche l'evidente ironia del moderno viaggio su strada: se i conducenti regolari prendessero parte a un programma di formazione manuale di questo livello, saremmo già un enorme passo avanti verso l'autonomia a causa dell'enorme potenziale diminuzione dell'errore umano. Allora perché i conducenti regolari non vengono addestrati a un livello superiore in primo luogo?

La risposta è semplice: il modo in cui guidiamo oggi è stato ritenuto abbastanza buono. Le 35.000 morti veicolari annuali possono sembrare molte, ed è certamente devastante per le persone coinvolte, ma statisticamente, dovresti percorrere oltre 100.000.000 di miglia (che sono 390 anni di guida continua) prima che si verifichi un decesso. Quando rimuovi fattori limitanti come la guida distratta (sms), la guida alterata (ubriachezza) e l'affaticamento (gli specialisti della missione ATG possono stare al volante solo per due ore; erano 12 prima di Tempe), il cervello umano è naturalmente attrezzato per osservare, anticipare e reagire in scenari simili a carrelli; i cervelli dei robot a guida autonoma non sono ancora arrivati.

Puoi accendere l'interruttore sulla modalità di guida autonoma dell'auto durante la terza settimana di formazione specialistica di missione. Ed è questa parte del corso che ha visto il cambiamento di paradigma più palpabile da Tempe. Sebbene la misurazione sia soggettiva, le auto si guidano da sole in modo più difensivo ora - inizialmente Uber riponeva troppa fiducia nella mano umana come dispositivo di sicurezza - con rilevamento e tracciamento migliorati che distinguono meglio gli oggetti in movimento di forma insolita come pedoni e ciclisti.

Anche i metodi di acquisizione dei dati sono cambiati radicalmente da Tempe. Prima c'era la necessità di dimostrare i progressi attraverso ciò che il team ATG ora chiama 'land grab': un modo oggettivo per fornire aggiornamenti misurabili - miglia cronometrate - mentre le auto a guida autonoma ronzavano lungo i viali affollati, tentando di interagire con il mondo reale sciame di corpi in movimento. Piuttosto che esercitarsi in manovre, come una svolta a sinistra, il pensiero prevalente era quello di dare al software di guida robotica, con la sua infinita capacità di memoria, una comprensione meccanica di ogni strada, angolo e curva, come memorizzare milioni di frasi di una lingua straniera ma senza mai afferrare coniugazione o i fondamenti della struttura della frase.


Ora, la corsa all'oro per le miglia tracciate è stata sostituita con un approccio qualitativo all'apprendimento: insegna al software tutte le regole e le eccezioni della lingua straniera (come praticare ogni possibile tipo di svolta a sinistra su una pista di prova) e saprà come generare senza soluzione di continuità qualsiasi frase di cui ha bisogno (on the road). Man mano che il software apprende, opera solo entro i limiti del suo ambiente di insegnamento, testando nuovi punti dati come farebbe uno studente francese con il proprio insegnante prima di prendere un volo per Parigi: è un'operazione più lenta, ma Uber non sta più cercando di far bollire l'oceano.

Ed è qui che entra in gioco la domanda del carrello del robot. Come gli umani, l'intelligenza artificiale percepisce, prevede e reagisce agli scenari con cui si trova di fronte, ma la differenza sta nella sofisticatezza dei software di guida autonoma basati su applicazioni. Se ben sintonizzate, le sue capacità di previsione saranno così precise che un aspirante carrello automatizzato semplicemente non si troverà a sbattere contro cinque o una persona.

Non importa la prevalente sfiducia della società che abbiamo per le IA - che possiedono capacità decisionali umane ma senza il velo morale - le macchine possono adottare misure predittive per eliminare il rischio potenziale che in primo luogo mette in moto un dilemma del carrello. 'Con una visione costante a 360° del mondo circostante, i veicoli a guida autonoma operano senza problemi di prestazioni umane per prendere decisioni più sicure e informate su come reagire alle cose che accadono intorno', afferma Nat Beuse, responsabile della sicurezza di Uber. ATG. L'uso di tecnologie sovrumane come il lidar (rilevamento della luce e distanza), radar e telecamere supera i limiti sensoriali che i conducenti manuali possiedono intrinsecamente; essenzialmente, non esiste un punto cieco del robot. Questo alla fine rende obsoleto lo scenario del carrello perché il dilemma stesso presuppone un fallimento umano nella percezione, che innesca una previsione (cinque o una persona) e una reazione (scegliere un percorso); una visione del mondo accresciuta si impegna prima e con un ragionamento più approfondito per isolare le variabili negative prima che si trasformino in previsioni indesiderate.

Ma cosa succede quando il software fa i salti mortali? Gira continuamente sul mio laptop, quindi cosa facciamo se si verifica in un'auto a guida autonoma? Gran parte dei corsi autonomi riguarda quella che viene chiamata 'iniezione di guasto', ovvero la negoziazione di difetti creati appositamente nella tecnologia di guida autonoma in modo che la storia (cioè Tempe) non si ripeta. Il tempo necessario per riprendere il controllo del veicolo (muovendo il volante o premendo l'acceleratore o il freno restituisce le capacità di guida al pilota) è debitamente misurato in quanto arresti improvvisi e chiavi inglesi aiutano i tirocinanti ad esercitarsi a vagliare il loro tempo di reazione il più vicino possibile a zero secondi possibile, se dovesse capitare qualche intoppo nella vita reale sul campo. Affinare la prontezza del conducente è un fattore chiave per evitare incidenti nel viaggio verso una guida completamente autonoma poiché l'autocompiacimento dell'operatore è stata una delle principali cause dell'incidente di Tempe. 'La nostra tecnologia attuale richiede specialisti di missione altamente qualificati al volante in ogni momento e solo dopo aver verificato che il nostro sistema soddisfa il nostro caso di sicurezza esploreremo la guida completamente autonoma', aggiunge Wedge. E con il nuovo quadro di sicurezza post-Tempe preso in prestito dall'industria aeronautica, ogni rischio deve essere preso in considerazione (e una garanzia che il software non andrà in spiaggia) prima che un'auto senza conducente possa prendere il volo.

Se mi fossi laureato, sarei diventato parte di un team d'élite di Uber ATG che, finché la tecnologia non raggiunge una soglia di utilizzo accettabile, è alle prese con un altro dilemma filosofico che Wedge definisce il paradosso della sfiducia: 'Il successo del specialista di missione si basa sul vivere nello spazio grigio tra il tifo per il successo della tecnologia, ma aspettandosi che fallisca. Sei allo stesso tempo il suo campione più entusiasta, ma anche il suo più grande miscredente».

Ancora più strano, è l'idea che il successo totale del team di specialisti della missione, ottenendo quello che viene chiamato NVO (nessun operatore di veicoli), significhi eventuale ridondanza; essenzialmente stai preparando la tecnologia per renderti obsoleto. Quindi qual è la motivazione (dice lo scrittore nel campo del giornalismo in continua diminuzione)?

La risposta breve è che Uber non sta ancora lottando per un mondo di totale autonomia: lo sviluppo di regni di piste a guida autonoma è l'obiettivo attuale.

Dieci anni fa, erano tutte tattiche di guerriglia quando Uber si paracadutava sulle strade e cambiava i paradigmi dei trasporti in modo così drammatico che le città non avevano altra scelta che obbedire. Oggi, quegli yottabyte di dati utente sono diventati strumenti preziosi per le stesse destinazioni poiché isolano percorsi che sono pronti per l'autonomia; arterie ad alta densità in un dominio operativo comune in cui i veicoli a guida autonoma potrebbero alleviare il traffico, ridurre il potenziale di collisione e abbassare il prezzo del trasporto per il passeggero.

Le autostrade sono uno spazio particolarmente favorevole per l'autonomia, poiché si avvicinano al meglio alle condizioni di volo commerciale con le loro corsie lunghe e larghe, senza angoli o pedoni e un singolo flusso di veicoli in avanti.

Mentre le aziende automobilistiche come Tesla sperano di aumentare le vendite con le loro versioni sfarzose di 'pilota automatico' (che, per la cronaca, è una versione truccata del controllo automatico della velocità e non un'autonomia adeguata), Uber preferirebbe togliere l'auto da il tuo vialetto. Non sono stati emanati decreti drammatici per abbandonare completamente il tuo veicolo, ma un futuro prossimo ideale consentirebbe ai pendolari di seguire i condotti a guida autonoma verso il loro lavoro in centro. Il sogno, per ora, è usare l'autonomia per eliminare i sintomi di un ambiente sovraffollato come il collo di bottiglia dell'ora di punta, pur mantenendo le automobili manuali per le attività vicino a casa come la navigazione nelle strade secondarie e la spesa. E quando la tecnologia sarà pronta, solo i passeggeri cavalcheranno nell'auto robotica, riducendo i costi operativi di gestione del veicolo (che a sua volta riduce le tariffe per i passeggeri) poiché non ci sarebbe più il pilota che monitora la navigazione.

'I parcheggi saranno presto una traccia del passato', osserva Wedge, e i piani sono stati avviati da oltre un decennio con la proliferazione dell'app di condivisione del viaggio Uber. Ma è la piattaforma stessa, creata anche da Uber, che detiene la chiave del futuro sia per razionalizzare l'autonomia sia per aumentare la redditività: è la scacchiera su cui metteranno i loro pezzi tutti gli eventuali servizi di guida autonoma: prima le auto, poi i camion merci , e forse anche autobus. Ma per favore, niente carrelli.