Autonomní auto nerozhodne o životě podle jednoho pravidla

Myšlenkový pokus zná každý: vůz se řítí k překážce a musí vybrat, koho zachrání. V autonomním provozu se z úvahy stává otázka pro programátory, výrobce a zákonodárce. Jednoduchá odpověď neexistuje, a proto se nabízejí čtyři přístupy, které mají každý jinou logiku i jiné slabiny.

Čtyři přístupy vedle sebe

Přístup	Základní myšlenka	Slabé místo
Minimalizace škody	Zvolit variantu s nejmenším počtem obětí	Počítá lidi jako čísla
Ochrana pasažérů	Vůz chrání lidi uvnitř	Ohrožuje chodce
Pravidla provozu	Vůz jedná podle předpisů, nehodnotí lidi	Dodržení pravidel může vést ke zbytečné újmě
Náhoda	Výběr bez kritéria	Veřejnost ji těžko přijme

Minimalizace škody

Utilitární logika říká, že lepší je zachránit více lidí než méně. Zní rozumně, dokud si nepředstavíte, že vůz obětuje jednoho cestujícího, aby ušetřil dva chodce. Kdo by si koupil auto, které se může rozhodnout proti němu? Právě proto bývá tento model oblíbený jako obecný princip, ale mnohem méně jako vlastnost auta, které si sami kupujete a do kterého posadíte děti. Další potíž je v údajích: vůz za zlomek vteřiny neví, kolik lidí je v druhém autě, ani v jakém jsou stavu, takže přesný výpočet je spíš teoretický.

Kdo určuje pravidla

Algoritmus nepíše filozof, ale tým inženýrů pod dohledem právníků. Pravidla pro schválení vozidel stanovují státy a mezinárodní organizace, výrobci je pak promítají do softwaru. Veřejnost by měla vědět, na jakých zásadách systém stojí, jinak vzniká nedůvěra. Návrhy proto zahrnují testování na uzavřených okruzích, zveřejňování zásad a dokumentaci rozhodovacích situací. Cílem není vytvořit dokonalého řidiče, ale systém, který je statisticky bezpečnější než člověk a jehož chování je předvídatelné.

Co si z toho odnést jako řidič

Dilema nemění nic na tom, že dnešní asistenční systémy jsou pomocníci, ne náhrada řidiče. Automatické nouzové brzdění, hlídání jízdního pruhu nebo adaptivní tempomat fungují za omezených podmínek a potřebují čisté senzory, dobré značení a pozornost. Před koupí vozu zjistěte, jaký stupeň automatizace nabízí, co od vás očekává a kdy předává řízení zpět. Kdo se na systém spoléhá víc, než výrobce slibuje, nese odpovědnost za následky sám.

Ochrana pasažérů

Výrobce má povinnost k zákazníkovi a ten očekává, že vozidlo bude chránit jeho. Jenže silnice sdílejí všichni a systém, který upřednostní posádku vždy, přenáší riziko na chodce a cyklisty. Zákonodárci by takový přístup těžko schválili a společnost ho nepřijme jako spravedlivý.

Pravidla místo hodnocení

Německá etická komise pro automatizované řízení v roce 2017 zdůraznila, že systém nesmí rozlišovat lidi podle věku, pohlaví nebo jiných osobních znaků. Zdůraznila také prioritu ochrany lidského života před majetkem. Pravidlový přístup tak zakazuje hodnotit, ale nestanoví, co udělat, když je újma nevyhnutelná.

Jak často se dilema doopravdy objeví

Přemýšlení o dilematu zastiňuje praktičtější otázku: jak nehodě předejít. Autonomní vůz sleduje okolí na více stran, nereaguje pozdě a nemá únavu. Většinou volí brzdění a snížení rychlosti, ne složité vyvažování obětí. Skutečný problém spočívá v ošetření chyb senzorů, v odpovědnosti při selhání a v nepředvídatelném chování lidí, ne v předem rozhodnuté volbě mezi dvěma tragédiemi.

Kdo ponese odpovědnost

Je-li auto řízeno systémem, nese následky výrobce, provozovatel, nebo řidič? Odpověď určuje stupeň automatizace. Dokud vozidlo vyžaduje dohled člověka, odpovídá řidič, u plně autonomních systémů se odpovědnost přesouvá k výrobci a provozovateli. Právní úpravy se stále vyvíjejí, proto je třeba sledovat aktuální předpisy.

Časté otázky

Rozhodují dnešní auta mezi oběťmi?

Ne. Dnešní asistenční systémy se snaží především snížit rychlost a vyhnout se kolizi, nevybírají mezi lidmi. Plně autonomní provoz je zatím omezený a o jeho pravidlech se stále jedná.

Může být rozhodnutí vozu legální?

Záleží na zemi. V mnoha státech se pravidla pro autonomní vozy teprve vytvářejí. Obecně platí, že hodnocení lidí podle věku či postavení bývá považováno za nepřípustné.

Existuje správná odpověď?

Žádná jednotná. Filozofové, právníci i inženýři se neshodnou, proto se řešení hledá v pravidlech, testování a veřejné diskusi, ne v jediném vzorci.

Zdroje

• Ministerstvo dopravy ČR
• Evropská komise, politika automatizované mobility
• Centrum dopravního výzkumu