Odpočinout si za volantem a přenechat řízení vozidlu? Na vizi autonomních vozidel lákají automobilky už dlouho. Jestli má mít smysl, musí být ale alespoň tak dobrá jako řidiči. Podle jakých kritérií by se měla vozidla rozhodovat v případě nevyhnutelné srážky? Budou chránit posádku auta, nebo chodce? A proč je to mnohem vzdálenější budoucnost, než si myslíme? Povídali jsme si o tom s Jurajem Hvoreckým, členem etické komise Ministerstva dopravy pro posuzování otázek spojených s provozech automatizovaných a autonomních vozidel.
Nejčastěji skloňovaným termínem v etice autonomního řízení je bezpochyby tramvajové dilema. V tomto známém myšlenkovém experimentu jste postaveni před volbu: Obětovat jednoho člověka pro záchranu pěti lidí? Představte si, že stojíte u výhybky a vidíte tramvaj, která se řítí na pět pracovníků na koleji, kteří o tom nevědí. Máte možnost přehodit výhybku na vedlejší kolej, kde stojí jen jeden nic netušící dělník. Zatáhli byste za páku?
A co když před tuto volbu není postaven člověk, ale stroj, který řídí autonomní vozidlo? Jak chceme, aby se rozhodl v podobné situaci? Jak bychom ho měli naprogramovat pro případ nevyhnutelné kolize? Měl by zachránit skupinu chodců, nebo pasažéra v autě?
Tramvajové dilema není vyřešené a otázka je, zda jde vůbec vyřešit? Podle Hvoreckého v podstatě neexistuje správná odpověď. „Já osobně bych byl nejraději, kdyby si auta nemohla tímto způsobem vybírat. Stejně jako když já havaruji, tak si nevybírám. Je to souhrn náhodných okolností, které mě donutí reagovat nějakým způsobem. Proto není eticky v pořádku, aby existoval algoritmus výběru. Samozřejmě ho můžeme (nebo spíše musíme) vymyslet, akorát že se vždycky bude komplikovat dalšími okolnostmi. Rozhodnutí jsou vždy kontextuální.“
Dítě na jedné straně silnice vs. babička na druhé?
Jestli se mají v budoucnu autonomní vozidla nějak rozhodovat, musí jejich volby vyhovovat společenským normám. Kritérium počtu obětí je pravidlo, které v diskusi zpravidla funguje. „Když máte volit mezi smrtí pěti lidí a smrtí jednoho člověka, většina lidí vám řekne, že smrt pěti lidí je horší,“ říká Hvorecký. Proto by pravděpodobně dávalo smysl naprogramovat vozidlo tímto způsobem, protože i my sami bychom se tak rozhodli. Jak ale Hvorecký zdůrazňuje, záleží na kontextu situace. „Rozhodnete se tak jen do doby, než vám řeknu, že ten jeden člověk je shodou okolností váš tatínek. Budete schopni obětovat pět lidí proti členovi své rodiny, který má pro vás mnohem větší cenu? V tomto případě by většina lidí nechala tramvaj pokračovat směrem, kde stojí pět lidí.“
Podobně narazíme, pokud si jako hlavní kritérium zvolíme věk oběti. „Když si stanovíme, že budeme upřednostňovat smrt starších lidí před mladší generací, tak lidé odpoví dobře, to dává smysl. Jenže v momentě, kdy řeknete, aha, takže můžu přejet vaši babičku, zatímco pro vás cizí dítě, ze kterého vyroste vrah, přežije, už se vám to nelíbí,“ varuje Hvorecký. „V podstatě jakýkoliv argument pro či proti uvedete, můžu já uvést protiargument situace, ve kterém by to nefungovalo podle kritéria, které jste si právě zvolili, a výsledek by se vám nelíbil.“
A kdo by vůbec v takových případech nesl za nehodu odpovědnost? Majitel vozu, který věděl, jak je naprogramované? Nebo snad inženýr, který ho tak naprogramoval?
Mohl by být i sociální status jedním z principů výběru? „Umím si představit, že v opravdu daleké budoucnosti budou auta schopná člověka naskenovat, zjistit jeho rodné číslo a jeho sociální status, a možná budou vybírat podle toho. Otázka ale je, skutečně si tohle přejeme?“
Také je třeba vzít v potaz, že morální intuice jsou napříč světem jiné, některé kultury koukají spíše na blaho jednotlivce než kolektivu, jiné naopak berou celek jako důležitější. Proto by mohl v jednotlivých zemích být rozhodovací mechanismus odlišný. „Každý mocnější trh by si mohl nastavit vlastní kritéria. Ale jde jen o update softwaru, nebavíme se o tom, že by auta vypadala, nebo se v běžných situacích chovala jinak, kromě právě krizových okamžiků. Suverénní hráč jako je Evropská unie by mohl mít jednotný systém pravidel. Když byste například jeli z Evropy do Asie, mohli byste si stáhnout aktualizaci, ale to už jen spekuluji,“ říká Hvorecký.
Pro mnoho lidí není akceptovatelné, že by o jejich životě měl rozhodovat stroj. Hvorecký upozorňuje, že se najdou případy, kdy o nás stroje už dávno rozhodují, akorát si toho nejsme vědomi, nebo si to nechceme připustit.
„Připadá nám normální, že na cestách je nějaká úmrtnost. Je to akceptovatelná daň za to, že jezdíme pohodlně v autech. Když budou existovat systémy, které budou činit rozhodnutí za nás, je na nás, zda s tím chceme žít, či nikoliv. Obávaná představa, že pustíme na cestu autonomní vozidla a ty nás „pozabíjejí“, se už v nějakém omezeném smyslu odehrává, není to nic nového.“ Existují například algoritmy, které vyhodnotí, zda bude operace pacienta úspěšná, nebo ne. Pojišťovny mají zase algoritmy, zda vás pojistí, nebo nepojistí, a od toho se pak může odvíjet spousta aspektů vašeho života.
Rozhodování v krizových situacích je jedna věc, ale autonomní mobilita má návaznost na spoustu dalších společenských jevů. Bude environmentálně únosná? Nezpůsobí více sociální škody než užitku? Je možné, že autonomní vozidla zapříčiní rozpad silničního provozu, jak ho známe (například by mohly zmizet semafory, protože by se auta domlouvala přes integrované komunikační systémy), což by vedlo i proměnám urbanismu, dojezdové vzdálenosti do práce a mnoha dalším situacím. Nevzniknou potom ve společnosti ještě větší nerovnosti, než jaké momentálně máme?
Etika stranou, a co technologické překážky?
I kdybychom ale rozlouskli všechna morální dilemata, stále bychom neměli ani zdaleka vyhráno. Málokdo si uvědomuje, že na autonomní mobilitu nejsme datově připraveni. Autonomní systém musí zvládat obrovský objem dat, aby byl schopen jakéhokoliv rozhodování. Nejen toho, co má dělat v případě kolize, ale kam vůbec odbočit.
„Pokud máte Teslu na 5G síti a po Praze jich jezdí deset, tak se nic neděje, ale když to vynásobíte tisícem, tak zahltíte všechny možné kanály a způsobíte kolaps. Momentálně nemáme infrastrukturu, která by to dokázala zvládnout. Autonomní auta neuvidíme v provozu ještě dlouho, a není to proto, že nemáme rozhodovací algoritmy, ale protože nám chybí dokonalá infrastruktura,“ líčí Hvorecký.
Již zmíněná (částečně autonomní) Tesla sice jezdí, ale kde? V omezených podmínkách, konkrétně na dobře vyznačených dálnicích. „Ve chvíli, kdy takové autonomní auto vjede na špatně označené české cesty, nabourá se vám v první zatáčce. A je to pochopitelné,“ říká Hvorecký.
Pro to, aby autonomní vozidla mohla vyrazit do normálního provozu, potřebujeme perfektní značení všech silnic a okolí, nesmí se vozidlu dostat do cesty jakékoliv překážky, ani nemůže dojít k žádné nepředvídatelné situaci. Jenže jak to při výzvách, které jsou všude okolo nás, zajistit? Lidé nejezdí na kolech podle pravidel, děti běhají v blízkosti cest, kdykoliv vám může vběhnout na cestu zvíře, sem tam nefunguje semafor, nebo chybí značka…
„Automobilová doprava je pro nás z 99,999 procent bezpečná. Nemůžeme pustit do běžného provozu auto, které někam dojede s nižší úspěšností, to bychom byli sami proti sobě. Laťku jsme si sami nastavili velmi vysoko, a pak se divíme, že se těžko překonává,“ upřesňuje Hvorecký. Proč bychom si pouštěli na cesty něco, co je nebezpečnější než to, co už tam máme?
„Není náhoda, že automobilky neustále přesouvají termín, kdy začnou prodávat autonomní auta. Moc dobře vědí, že to není na pořadu dne. Koneckonců měli jsme s nimi jezdit už před deseti lety, ale realita je taková, že tomu nejsme ani blízko, a ještě dlouho nebudeme.“ Sám Hvorecký přiznává, že čím více se do problematiky autonomního řízení ponořuje, tím více skeptický je. „Jednou se autonomních vozidel pravděpodobně dočkáme, ale je to mnohem vzdálenější budoucnost, než si lidé myslí.“
Jak autonomní je zemědělství a letectví?
Tím se dostáváme k tomu, kde vůbec dává řešení bez řidiče smysl. Hvorecký radí začít menšími kroky, tím, co je dosažitelné. To jsou prostředí a situace, která jsou poměrně předvídatelná. Jedním z ideálních využití autonomní mobility je třeba zemědělství. Většina traktorů a kombajnů jsou už dnes autonomní stroje. „Funguje to dobře, protože na poli si můžete dovolit drobnou odchylku, není potřeba mít řádky na milimetry přesně,“ komentuje.
Nahrazení řidičů se nabízí také u dálkové kamionové dopravy. Většina kamionistů jede devadesátkou po dálnici a maximálně objedou někoho, kdo jede rychlostí osmdesát pět. „V tomto případě nebude problém vymyslet jednoduchý algoritmus, ať se nepředbíhají a jedou všichni nějakou rychlostí. Myslím, že práce řidiče kamionu je výrazně ohrožena,“ uvažuje Hvorecký. „Mohlo by se to řešit kombinovaně. Například autonomní kamion by sám ujel vzdálenost Norimberk-Zličín a na Zličíně by si ho řidič vyzvedl a odvezl ho do pražského depa na Smíchově. Protože na takové cestě už je potřeba vyhodnocovat složitější dopravní situace, zatímco u cesty Zličín-Norimberk není důvod, proč by nemohla být autonomně vyřešena. Očekávám to v řádu pár až deseti let,“ dodává.
Ostatně i letecká doprava je už mnoho let majoritně autonomní. Opět je to dáno tím, že ve vzduchu je spousta volného prostoru, šance na srážku je téměř nulová a povětrnostní podmínky se dají lehce predikovat. Hvorecký zmiňuje průzkum amerických aerolinek, ze kterého vyplynulo, že největším problémem letectví jsou „unudění piloti.“ „Dříve se uvádělo, že alespoň přistávají a vzlétají, ale už ani to není pravda. Dnešní piloti v podstatě jen zmáčknou knoflík a systém přesně ví, kam a jak letět a kde na metr přesně přistát. S nadsázkou se dá říct, že účelem pilotů je komunikace s řídicím střediskem a oznámit pasažérům, jaké je zrovna počasí v destinaci, kam letí.“
Abychom to nezlehčovali, jsou piloti v letadle samozřejmě právě pro případ, že se něco výjimečného stane. Jak ale víme díky dvěma nehodám boeingu 737 MAX (v rozmezí několika měsíců), kterou zapříčinilo problematické fungování systému MCAS, tak na pochybení systému nemusí stihnout zareagovat. I při nástupu na palubu tak odevzdáme své životy do rukou stroje, který o nás může rozhodnout, a často ne úplně šťastně. Jsme připraveni svěřit naše životy také autonomním autům?
PŘEČTĚTE SI: Budoucnost bezemisních letů? Z parkovišť budou letiště, s těžkými a drahými piloty se nepočítá, říká expert z ČVUT
