Documente Guvernamentale Dezvăluie Detalii Despre Asistenții Umani ai Robotaxiurilor Tesla și Waymo
Companiile de vehicule autonome dezvăluie noi detalii despre programele lor de 'asistență de la distanță' esențiale pentru siguranță – dar rămân întrebări.
Sunt vehiculele autonome cu adevărat doar mașini mari, controlate de la distanță, cu oameni fără nume și fără chip în centre de apel îndepărtate care pilotează lucrurile din spatele consolelor? Pe măsură ce vehiculele și software-ul lor asemănător science fiction-ului se extind în mai multe orașe, teoria conspirației a explodat în jurul chat-urilor de grup și TikTok-urilor. A fost alimentată, în parte, de reticența companiilor de mașini autonome de a vorbi în termeni specifici despre oamenii care ajută roboții să funcționeze.
Dar luna aceasta, în documente guvernamentale depuse de filiala Alphabet, Waymo, și producătorul de automobile electrice Tesla, companiile au dezvăluit mai multe detalii despre oamenii și programele care ajută vehiculele atunci când software-ul lor devine confuz.
Detaliile programelor de 'asistență de la distanță' ale acestor companii sunt importante, deoarece oamenii care sprijină roboții sunt esențiali pentru a se asigura că mașinile conduc în siguranță pe drumurile publice, spun experții din industrie. Chiar și robotaxiurile care funcționează fără probleme de cele mai multe ori ajung în situații pe care sistemele lor autonome le consideră derutante. Vezi, de exemplu, o pană de curent din decembrie din San Francisco, care a oprit semafoarele din jurul orașului, blocând Waymo confuze în mai multe intersecții. Sau investigațiile guvernamentale în curs de desfășurare cu privire la mai multe cazuri în care aceste mașini au trecut ilegal pe lângă autobuze școlare oprite care descărcau elevi în Austin, Texas. (Acesta din urmă a determinat Waymo să emită o rechemare a software-ului.) Când se întâmplă acest lucru, oamenii scot mașinile din impas direcționându-le sau 'consiliindu-le' de la distanță. Aceste locuri de muncă sunt importante, deoarece, dacă oamenii le fac greșit, pot face diferența, să zicem, între o mașină care se oprește la semafor sau care trece pe roșu.
'În viitorul apropiat, vor exista oameni care vor juca un rol în comportamentul vehiculelor și, prin urmare, vor avea un rol de siguranță', spune Philip Koopman, cercetător în domeniul software-ului și al siguranței vehiculelor autonome de la Carnegie Mellon University. Una dintre cele mai dificile probleme de siguranță asociate cu conducerea autonomă, spune el, este construirea unui software care știe când să ceară ajutor uman. Cu alte cuvinte: dacă îți pasă de siguranța roboților, fii atent la oameni.
Oamenii de la Waymo
Waymo operează un serviciu de robotaxi cu plată în șase zone metropolitane – Atlanta, Austin, Los Angeles, Phoenix și zona Golfului San Francisco – și are planuri de a lansa în cel puțin 10 altele, inclusiv Londra, anul acesta. Acum, într-o postare pe blog și o scrisoare adresată senatorului american Ed Markey săptămâna aceasta, compania a făcut publice mai multe aspecte ale a ceea ce numește programul său de 'asistență de la distanță' (RA), care utilizează lucrători de la distanță pentru a răspunde solicitărilor de la software-ul vehiculului Waymo atunci când determină că are nevoie de ajutor. Acești oameni oferă date sau sfaturi sistemelor, scrie Ryan McNamara, vicepreședinte Waymo și șef global al operațiunilor. Sistemul poate folosi sau respinge informațiile pe care le furnizează oamenii.
'Agenții RA ai Waymo oferă sfaturi și sprijin Șoferului Waymo, dar nu controlează, nu direcționează și nu conduc direct vehiculul', scrie McNamara – negând, implicit, acuzația că Waymo sunt pur și simplu mașini controlate de la distanță.
Aproximativ 70 de asistenți sunt de serviciu în orice moment pentru a monitoriza aproximativ 3.000 de robotaxiuri, spune compania. Raportul scăzut indică faptul că mașinile fac o mare parte din munca grea. Waymo a confirmat, de asemenea, în scrisoarea sa ceea ce un director a declarat Congresului într-o audiere anterioară: jumătate dintre acești lucrători de asistență de la distanță sunt contractori din străinătate, din Filipine. (Compania spune că are alte două birouri de asistență de la distanță în Arizona și Michigan.) Acești lucrători sunt autorizați să conducă în Filipine, scrie McNamara, dar sunt instruiți cu privire la regulile rutiere din SUA. Toți lucrătorii de asistență de la distanță sunt testați pentru droguri și alcool la angajare, spune compania, iar 45% sunt testați pentru droguri la fiecare trei luni, ca parte a programului de testare aleatorie al Waymo. Compania spune că o echipă cu înaltă calificare cu sediul în SUA se ocupă de cele mai complexe interacțiuni de la distanță, inclusiv coliziuni, contacte cu forțele de ordine și călătorii și interacțiuni cu agențiile de reglementare. Compania a refuzat să comenteze dincolo de detaliile din scrisoarea sa.
Baby-sitterii Umani ai Tesla
Tesla operează un mic serviciu de robotaxi în Austin, Texas, din iunie trecut. Serviciul a început cu monitoare umane de siguranță așezate pe scaunele din față ale vehiculelor, gata să intervină dacă tehnologia ar fi mers prost. Luna trecută, CEO-ul Elon Musk a spus că compania a început să scoată aceste monitoare de pe scaunele din față. El a recunoscut că, deși compania a folosit 'mașini de urmărire' pentru a monitoriza și a interveni asupra software-ului, a început să opereze unele mașini fără această intervenție umană mai directă. (Un serviciu mai mare, dar încă limitat, de ride-hailing Tesla în zona Golfului operează cu șoferi umani la volan.)
Dar compania nu a dezvăluit multe despre oamenii care ajută vehiculele sale să iasă din impas sau despre modul în care fac treaba. Acum, într-o înregistrare depusă la Comisia pentru Utilități Publice din California săptămâna aceasta, managerul de program tehnic AI Tesla, Dzuy Cao, scrie că Tesla conduce două birouri de 'operatori de la distanță', cu sediul în Austin și zona Golfului. (Într-o aparentă săpătură a revelațiilor din Filipine ale Waymo, Cao subliniază că 'cere ca operatorii săi de la distanță să fie localizați pe plan intern'.) Compania spune că acești operatori sunt supuși unor verificări 'extinse' ale antecedentelor și unor teste de droguri și alcool și au permise de conducere americane valabile.
Dar Tesla încă nu a dezvăluit cât de des intervin acești operatori cu tehnologia sa de conducere autonomă și exact cum o fac. Tesla nu a răspuns solicitării WIRED de comentarii.
Detaliile acestor programe de la distanță ar putea determina dacă mașinile autonome îi protejează efectiv pe ceilalți de pe drum. 'Dacă există o persoană care poate face o greșeală care poate duce la un accident sau poate contribui la acesta, atunci aveți o problemă de siguranță cu care trebuie să vă confruntați', spune Koopman.