Un District Școlar a Încercat să Ajute Waymo să Opereze la Autobuzele Școlare. Nu a Funcționat
Incidentele din Austin ridică întrebări cu privire la modul în care mașinile autonome „învață” și se adaptează la mediul înconjurător.
Unul dintre presupusele avantaje ale tehnologiei mașinilor autonome este că fiecare mașină poate învăța din greșelile unui singur vehicul. Iată cum explică Waymo pe site-ul său: „Waymo Driver învață din experiențele colective acumulate în întreaga noastră flotă, inclusiv din generațiile anterioare de hardware.”
Dar în Austin, vehiculele Waymo s-au chinuit luni de zile să învețe cum să oprească la autobuzele școlare în timp ce șoferii preluau și lăsau copiii. Un oficial al Districtului Școlar Independent din Austin (AISD) a susținut că vehiculele au, în cel puțin 19 cazuri, au depășit „ilegal și periculos” autobuzele școlare ale districtului în timp ce luminile lor roșii clipeau și brațele de oprire erau extinse, în loc să se oprească complet, așa cum prevede legea. La începutul lunii decembrie, Waymo a emis chiar și o rechemare federală legată de incidente, recunoscând cel puțin 12 dintre ele în fața autorităților de reglementare federale de la Administrația Națională pentru Siguranța Traficului pe Autostrăzi (NHTSA), care supraveghează siguranța rutieră. Potrivit documentelor federale, inginerii companiei de vehicule autonome au „dezvoltat modificări software pentru a aborda comportamentul” cu săptămâni înainte. Dar chiar și după rechemare, incidentele de trecere a autobuzelor școlare au continuat, potrivit oficialilor școlii și unui raport al Consiliului Național pentru Siguranța Transporturilor (NTSB), un organism independent de supraveghere federală a siguranței care investighează și el situația.
Acum, e-mailurile și mesajele text dintre oficialii școlii și reprezentanții Waymo, obținute de WIRED printr-o cerere de înregistrări publice, arată eforturile pe care districtul școlar public Austin și Waymo le-au depus pentru a încerca să rezolve problema. AISD a găzduit chiar și un eveniment de „colectare a datelor” de o jumătate de zi într-o parcare a școlii la mijlocul lunii decembrie, arată documentele, cu mai mulți angajați adunând autobuze școlare și semnale de oprire de pe întreaga flotă, astfel încât compania de mașini autonome să poată colecta informații despre vehicule și luminile lor intermitente. Cu toate acestea, până la jumătatea lunii ianuarie, la mai bine de o lună mai târziu, districtul școlar a raportat că au avut loc cel puțin patru incidente suplimentare de trecere a autobuzelor școlare în Austin. „Datele pe care le-am colectat de la începutul anului școlar până la sfârșitul semestrului arată că aproximativ 98% dintre persoanele care primesc o încălcare nu mai primesc alta”, a declarat un oficial al departamentului de poliție al școlii filialei locale NBC în acea lună. „Asta ne spune că persoana învață, dar se pare că sistemul automatizat de șofer Waymo nu învață prin actualizările sale software, rechemarea sa, ce aveți, pentru că încă avem încălcări.”
Situația ridică întrebări cu privire la punctele oarbe curioase ale tehnologiilor autonome și la capacitatea industriei de a le compensa chiar și după ce au fost observate. Software-ul autonom s-a luptat mult timp cu recunoașterea luminilor de urgență intermitente și a dispozitivelor de siguranță rutieră cu brațe lungi și subțiri, inclusiv porți și brațe de oprire, spune Missy Cummings, care cercetează vehicule autonome la Universitatea George Mason și a servit ca consilier de siguranță la NHTSA în timpul administrației Biden. „Dacă [compania] nu a rezolvat asta acum câțiva ani, cu cât conduc mai mult, cu atât va fi o problemă mai mare”, spune ea. „Asta se întâmplă exact aici.”
Waymo nu a răspuns solicitărilor de comentarii ale WIRED. Un purtător de cuvânt al Districtului Școlar Independent din Austin a trimis WIRED la NTSB în timp ce incidentele sunt în curs de investigare. Un purtător de cuvânt al NTSB a refuzat să răspundă la întrebările WIRED în timp ce investigația sa continuă.
Depășire Ilegală
Până la mijlocul iernii anului 2025, oficialii AISD erau frustrați. Într-unul dintre cele 19 incidente invocate de un avocat al districtului într-o scrisoare lansată ulterior de autoritățile federale de reglementare a siguranței rutiere, un Waymo a trecut pe lângă un autobuz școlar care lăsa copiii „la doar câteva momente după ce un elev a traversat în fața vehiculului și în timp ce elevul era încă pe drum”. „În mod alarmant”, a scris avocatul, cinci dintre presupusele incidente au avut loc după ce Waymo a asigurat districtul că și-a actualizat software-ul pentru a remedia problema. Autoritățile de reglementare federale de la NHTSA au lansat deja o investigație asupra comportamentului. „Austin ISD evaluează toate remediile legale potențiale pe care le are la dispoziție și intenționează să ia toate măsurile necesare pentru a proteja siguranța elevilor săi, dacă este necesar”, a avertizat avocatul.
La doar câteva zile mai târziu, în aceeași zi de la începutul lunii decembrie, când știrile despre rechemarea Waymo au ajuns în știri, managerul de răspuns la urgențe și informare al Waymo, Rob Patrick, l-a sunat pe șeful adjunct al departamentului de poliție al districtului Austin, conform înregistrărilor obținute de WIRED. Patrick și Waymo au avut o propunere, conform unui e-mail pe care șeful adjunct, Travis Pickford, l-a trimis omologilor de la district: compania a vrut să colecteze date despre autobuzele școlare ale districtului, probabil pentru ca mașinile sale să poată identifica mai ușor când nu ar trebui depășite. „În mod specific, au vrut să-și concentreze colectarea de date pe semnalele de lumină galbenă și roșie de pe fiecare dintre autobuzele noastre școlare și pe capacitatea mașinilor lor de a le vedea la distanțe diferite”, a scris Pickford în e-mail. Până luni următoare, la trei zile mai târziu, oficialii transportului școlar au fost de acord să adune cel puțin șapte autobuze reprezentând toate modelele din flota sa de peste 550 de vehicule la complexul sportiv al școlii. Oficialii au transmis chiar și Waymo specificațiile configurației luminilor autobuzelor. Până la mijlocul după-amiezii de miercuri următoare, evenimentul de colectare a datelor s-a încheiat, iar Waymo a spus oficialilor școlii că compania are ceea ce are nevoie.
Dar incidentele de trecere a autobuzelor școlare Waymo nu s-au oprit. Un raport preliminar al NTSB publicat la începutul lunii martie a constatat că un incident ulterior, din 12 ianuarie, a avut loc după ce un asistent Waymo la distanță, un om din Michigan însărcinat cu „ajutarea” software-ului atunci când se lupta pe drum, a spus incorect robotaxi-ului că autobuzul școlar din fața sa nu avea semnale active. Șase vehicule au trecut pe lângă autobuzul școlar în timp ce era oprit, a spus agenția. Încă investighează.
La doar câteva zile după acele incidente din ianuarie, un Waymo a lovit un copil care traversa în fața vehiculului lângă o școală din Santa Monica, California. Se pare că copilul nu a fost rănit, iar Waymo a spus mai târziu că modelele sale au arătat că un șofer uman ar fi lovit copilul cu o viteză mai mare decât mașina sa.
Învățare Robotizată
Cummings, cercetătorul de vehicule autonome, spune că nu este surprinsă că evenimentul de colectare a datelor Waymo nu a rezolvat toate problemele sale cu autobuzele școlare. Poate dura săptămâni sau chiar luni pentru ca dezvoltatorii de software să folosească date noi pentru a antrena sistemele AI ale unei mașini autonome. Mai mult, datele colectate într-o parcare a unei unități sportive, în afara contextului în care conduc de obicei mașinile Waymo, ar putea să nu ajute prea mult. „Datele generate într-o parcare nu vor fi suficiente”, spune ea. Waymo, spune Cummings, „nu ar trebui să i se permită să opereze în jurul școlilor în timpul preluării și predării școlii până când nu rezolvă această problemă și o poate demonstra cu teste specifice.”
Philip Koopman, un cercetător de software și siguranță pentru vehicule autonome de la Universitatea Carnegie Mellon, spune că incidentele cu autobuzele școlare ar putea fi deosebit de dificile pentru software-ul Waymo, deoarece semnele de oprire înseamnă lucruri ușor diferite în contexte diferite. Există semnele de oprire la intersecții, semnele de oprire ținute în mâinile muncitorilor în construcții care dirijează traficul și semnele de oprire atașate la autobuzele școlare. Waymo încearcă să învețe software-ul „ceva foarte subtil”, spune el.
Întregul episod indică provocările complexe ale operării unui robot condus de software pe drumuri umane uneori imprevizibile. Predarea software-ului să conducă în siguranță 99% din timp este partea ușoară. Dar „ultimul 1% este foarte greu, pentru că încercăm să predăm o excepție”, spune Koopman. „Waymo se chinuie să predea mașinilor sale lecția pe care Waymo vrea să o învețe”, spune Koopman. „Nu este o surpriză. Asta urma să fie întotdeauna o problemă.”