Samořízený vůz Uberu, který srazil člověka, nepočítal s lidmi přecházejícími silnici

TLDR verze: Bylo uzavřeno vyšetřování loňské smrtící nehody, podle něhož palubní software špatně a málo vyhodnocoval chodce, kteří přecházejí vozovku mimo přechody. Uber však obviněn nebude – testovací řidička možná ano. Oznámení tu.

Kyberpunková nehoda

Byť jsme bránu do světa budoucnosti překonali letos v listopadu, kdy se odehrával prastarý Blade Runner, osobně beru spíše březen 2018 za významnější kyberpunkové datum! Došlo tehdy na nepříjemnou šlamastiku, když autonomní bourák Uberu naboural do devětačtyřicetileté bezdomovkyně, která přecházela v noci cestu. Krom toho, že to bylo poprvé, kdy se stala smrtelná nehoda člověka a stroje, situace disponovala i řadou kyberpunkových klišé. „Řidička“ i chodkyně měly obě kriminální minulost, chodkyně byla drogově závislá, auto testovala velká mezinárodní korporace… Prostě to bylo celé jako od Gibsona nebo Dicka.

Nehoda každopádně vyvolala debaty nad povahou, well, nehody. V zásadě se tušilo, že něco podobného bude nevyhnutelné. Typický samořízený vůz by, ideálně, měl nakonec být stejně dobrý či lepší než lidi – ale určitě nebude bezchybný. Nebylo ale jasné, jak by si auto vybavený lidary a dalšími udělátky nemohl chodkyně nevšimnout. Již loni v květnu přišly předběžné výsledky naznačující, že to byl nikoliv hardware, ale software auta, kdo si chodkyni spletl… s kusem igelitu.

Není to tak šílené, jak to nejspíše zní. Samořídící software Uberu (či obecně i každého podobného vozu) je totiž během své jízdy bombardován vjemy. U každého z nich je pak nutno určit, jestli je POHYBUJÍCÍ SE PŘEDMĚT 431 jenom kusem igelitu, přebíhajícím manažerem anebo nebrzdícím kamionem. Každý z artefaktů vyžaduje jinou reakci vozu. A osud (který samozřejmě neexistuje, takže jen ruka programátorova) tomu chtěl, že onu nešťastnou noc vůz vyhodnotil chodkyni poněkud špatně.

Nyní ale vyšetřování U.S. National Transportation Safety Board sumíruje událost zevrubněji. Ze čtyřistastránkové zprávy vyplývá, že software nebyl navržen pro detekci lidí přecházejících silnici mimo vyznačené přechody. Vůz navíc disponoval jednosekundovou prodlevou mezi detekcí problému a reakcí (tj. zabrzděním), aby v rámci testování nebrzdil i každého false positive signálu (čili kdyby si naopak spletl kus letícího igelitu s člověkem).


Doufám, že vám teď kontextová reklama nenabízí nějakou alternativní taxislužbu!

Chyba na všech stranách

Dle zprávy si tak autonomní systémy ve skutečnosti chodkyně povšimly zhruba už 5,6 sekundy před srážkou, ale vyhodnotily ji jako neživý objekt. Uber tak neubral. I v následných sekundách auto ženu dále detekovalo, ale mylné vyhodnocení trvalo až do poslední chvíle. A když si vůz „uvědomil“, že dojde na srážku, aktivovala se ona sekundová prodleva, které neštěstí zakončila. I proto vůz po sražení chodkyně ještě chvíli je dál.

NTSB rovněž zmiňuje řadu dalších, manažerských přešlapů – nedostatečný počet výzkumníků a odborníků věnujících se bezpečnosti, neodborné plány systému a podobně. Jedním z příkladů bylo snížení dvou testovacích řidičů na palubě auta na jednoho, na nějž došlo měsíc před nehodou.

Ukázalo se, že došlo i na dvě další nehody, kdy systém špatně vyhodnotil předměty, ale tyto se zjevně obešly bez smrtí. Celkem mezi zářím 2016 a březnem 2018 došlo na 37 nehod samořídících Uberů. Tady ale musím dodat, že vozy byly stále experimentálně testovány, jistá míra poruchovosti byla nasnadě. Proto měly „řidiče“. Ideálně dva.

Zástupci NTSB se nakonec rozhodli nestíhat Uber samotný (ten ostatně trestají jeho výdělky, či spíše prodělky), leč stále se zvažuje, zdali bude stíhána testovací řidička Rafaela Vasquez. Ta nevěnovala pozornost situaci na vozovce, protože sledovala na mobilu nějakou z amerických talentových šou. Stíhat se nejspíše bude spíše za to první, ale osobně bych řekl, že spíše ten druhý čin by si zasloužil elektrické křeslo.

Tak nějak lidsky lze samozřejmě chápat, že samořízený vůz člověka začne nudit a on má zmenšenou pozornost. Ale opět – proto se to hergot stále testovalo. Fakt zase je, že dva řidiči by se snáze udržovali v pozornosti. A na třetí stranu rovněž platí, že chodkyně vešla pod kola auta s takovou sebejistotou, že na nějaký softwarový error nejspíše došlo i v jejím operačním systému. Ale to už neposoudíme. Uberu tak jeho poprvé zůstane tak jako tak.

Ještě není konec

Za celou událostí ještě nejde o poslední tečku, protože během příštích týdnů proběhne ještě pár dalších slyšení. Pokud nedojde na něco zcela šokantního (třeba zjištění, že se auto po nehodě smálo), nejspíše o nich už psát nebudu.

O čem budu ale možná ještě psát, budou možné regulace, které můžou v důsledku finální zprávy nastat. Lze odhadovat, že výběr řidičů by měl být rigoróznější a palubní software bude potřeba ještě tak nějak doštelovat. Pokud v případě Uberu bral na zřetel chodce na přechodech (což asi bral), ale přiřazoval menší význam potenciálním lidským siluetám mimo přechody, zdálo by se, že řešení může být spíše snadnější.

Je ale znát, že tím hlavním trestem bude především snížená důvěra ve vývoj autonomních vozidel, který měl být (minimálně v případě Uberu) zkrátka o něco profesionálnější. Jestli za to tržní daň zaplatí Uber sám nebo celý koncept vozů, je předčasné soudit. Společnost ostatně pokračuje v testování dodnes, dokonce ani Arizona, kde na nehodu došlo, testy autonomních vozidel nezastavila. Do dnešního dne testuje podobné vozy před 40 společností a od března nedošlo na žádnou další vážnou nehodu. A to ačkoliv došlo na některé smrťáky u autopilota Tesly. Ten ale ještě „tím pravým“ samořízením není.

Pokud jste tak optimisti, bude snad příklad Uberu varovat zbytek konkurentů před tím, „jak věci nedělat“. Ale pokud jste pesimisti, můžete se obávat toho, že i velká společnost s relativně významným jménem může zeslonit některé elementární stránky podobného vývoje, udělat celou řadu přešlapů a způsobit tak medializovanou smrtelnou nehodu, která ji stojí část pověsti.

Což je ovšem ve srovnání s tím, jak všemocné si korporace představovali původní mistři kyberpunku, vlastně jistou perspektivou také optimistický náhled!

[LL]

O nynějším stavu samořízených vozů také ve videu níže:

Vědátor vzniká v dílně spolku studentů a popularizátorů vědy UP Crowd za podpory MUDRstart, který tvoří přípravné testy pro studenty vysokých škol – podpořte i vy drobákem mojí snahu informovat o vědě věčně & vtipně a přispějte mi v kampani na Patreonu.

A sledujte mojí snahu případně i na Facebooku či YouTube!

Diskuze