Zmíněná výzva se hlásí k papežově encyklice o lidském bratrství Fratelli tutti, která rozebírá možnosti digitálního světa a zdůrazňuje, že je třeba zachovat možnosti řízení a dohledu ze strany člověka. Stejně jako uvedený dokument z roku 2020 i letošní ročník (leden 2023) římského setkání techniků, teologů a filozofů proběhl v přátelské atmosféře. „Každý člověk musí mít možnost těšit se z lidského rozvoje, aniž by byl kdokoliv vyloučen. Musíme být proto ostražití a usilovat o to, aby se diskriminační využívání umělé inteligence neprojevilo na úkor těch nejzranitelnějších,” prohlásil papež František.
Vyspělá elektronika nestačí
Umělá inteligence není rozhodně záležitostí pouze technickou, nýbrž zasahuje i do oblasti organizační, právní či morální a jak již mnohé praktické zkušenosti ukazují, že i ti, kteří zarputile odmítají samořiditelná vozidla, najdou po čase smířlivější tón při jejich zavádění.
Uveďme alespoň některé význačné události a příklady vhodného nasazení umělé inteligence za volantem a připomeňme, jak důležitou roli hraje při zavádění autonomních vozidel etika. Již z charakteru našeho časopisu uvažujeme především nákladní vozy.
Díky výraznému pokroku v oblasti vývoje elektronických zařízení v automobilu můžeme spoléhat na technicky zvládnutou komunikaci nejen mezi vozidly (jízda v konvoji, viz DAF EcoTwin), ale i mezi vozem a okolím.
V oblasti výzkumu a vývoje nových systémů aplikovaných u samořiditelných vozidel hraje prim společnost Valeo. Připomeňme jen systém LiDAR, který je vybaven vysoce výkonným softwarem založeným na algoritmech umělé inteligence, který umožňuje řídit trajektorii vozidla a předvídat zóny bez překážek na silnici před ním. Stejně jako všechny předchozí generace systému Valeo LiDAR je i tento produkt ve standardu automobilové kvality, což znamená, že data, která generuje, zůstávají plně spolehlivá a přesná za všech podmínek použití a povětrnostních podmínek od –40 do +85 °C. Je klíčovou součástí senzorové sestavy, která umožňuje vozidlům dosáhnout schválení pro podmíněné autonomní řízení SAE úroveň 3 a splňuje požadavky normy UN-R157.
Systémy Valeo nejnovějších generací nesou významnou českou stopu. Na jejich vývoji se velkou měrou podílí vývojové centrum v Praze. Pracují zde na nich desítky inženýrů. Vyvíjí optiku, hardware, software nebo mechatroniku.
Zajímavé je využití samořiditelných systémů i v oblasti parkování. Uveďme alespoň jeden příklad: BMW Group a Valeo navázaly strategickou spolupráci s cílem společného vývoje další generace automatických parkovacích systémů úrovně 4. Vraťme se však k jízdě.
Lze prohlásit, že řídicí technika může být dokonalejší a spolehlivější než osoba za volantem. Ad absurdum lze tvrdit, že řidič s průměrnou inteligencí a další řidiči, (kteří se za volantem neřídí pevnými algoritmy), nemohou zajistit bezpečnou jízdu ve společném provozu s počítačem řízenými AV. Nicméně zkušený řidič zdaleka není tak snadno nahraditelný technicky vyspělým programátorem, jak by se na první pohled mohlo zdát.
Zkušený řidič „čte” vozovku, okolí kolem ní a předvídá určité reakce spoluúčastníků provozu.
Ostatně i střídmí protagonisté samořiditelných vozidel umisťovali v prvních letech vývoje autonomní dopravy AV do vyhrazených dálničních úseků, u jiných považovali automatické řízení za nepřípustné. Samořiditelná vozidla fungují dnes spolehlivě kupř. ve skladech s konkrétní vytýčenou trasou. Zde se nabízí široké pole působnosti u stavební techniky. Hlavním cílem při zavádění samořiditelných vozidel je ovšem zvýšení bezpečnosti silniční dopravy. Stěžejním problémem zůstávají dopravní nehody.
Jak předejít nehodám?
Po dlouhých teoretických i praktických „etických testech” došli odborníci k pojmu minimalizace újmy. Podle uvedené etiky by měla být AV naprogramována takovým způsobem, aby ve všech situacích, kdy nějakým způsobem musí distribuovat újmu mezi účastníky dopravy, volila vždy tak, aby výsledná celková újma byla nejnižší. Tento přístup je na první pohled velmi přitažlivý, dokonce již víme, že respondenti empirických výzkumů u nás i po celém světě považují toto řešení v obecné rovině za nejlepší možné, není však prostý potenciálně velkých praktických problémů. Víme totiž, že ač lidé – tedy ti, kteří budou autonomním vozidlům svěřovat životy své a svých blízkých – považují etiku minimalizace újmy za dobré řešení pro ostatní, sami by si rádi dopřáli výjimku nějakého jiného typu morálního algoritmu. Důvodem je to, že etika minimalizace újmy sleduje pouze celkovou újmu (a ukládá její minimalizaci), nezohledňuje však způsob její distribuce. Může se tak stát, že AV obětuje svou posádku, a to i tehdy (říkejme tomu „odpudivý důsledek”), když celková újma tak bude jen o něco málo nižší než ta, která by vznikla, kdyby posádku neobětovala.
Nové otázky na obzoru
AV připravila specialistům z celé řady zdánlivě odlehlých oborů spoustu nových otázek, na něž společně hledají odpovědi. Ani mezi těmi, kdo se problematikou podrobně zabývají, neexistuje shoda. V případě AV procházíme stále počáteční periodou nejistoty, neshod, morálních výhrad a obav, zvláště v případě, že někoho vozidlo usmrtí.
Vzniká další pojem, jímž je morální nejistota. Podívejme se na klasický scénář: Autonomní vozidlo se dostalo do situace, kdy má jen dvě možnosti: Buď pokračovat po stejné trajektorii a usmrtit pět chodců, anebo zahnout doprava a usmrtit jednoho chodce. Jakým způsobem by se mělo rozhodnout?
Programátor má jen dvě možnosti: „K dispozici” má dvě etické teorie: minimalizaci újmy a zákaz úmyslného usmrcení lidských bytostí. Programátor se nachází v nelehké situaci, ocitá se ve stavu morální nejistoty. Jaké řešení má zvolit? Obě mají své klady i zápory, obě mají své zastánce a odpůrce, možná je jedno z nich objektivně správné, ale které to je?
Jakým způsobem by se měl programátor se svou morální nejistotou vyrovnat? Bude se snažit dále přemýšlet, zjišťovat si další informace o etických teoriích a hledat klíče k řešení své situace? Musí najít cestu z morální nejistoty k nějaké jistotě. To není snadné a není čas.
Programátor dostal úkol, který musí být v krátké době vyřešen. Možná by se mohl rozhodnout, že vzhledem ke své nejistotě nakonec AV zakáže činit volby a nechá ho pokračovat v započatém kolizním kurzu, který povede ke smrti pěti chodců. Takové řešení však příliš neobstojí. Nakonec své dilema vyřeší odmítnutím etiky minimalizace újmy se všemi důsledky, včetně možného vzniku morální paniky v případě, že AV usmrtí velký počet lidí v situaci, kdy by jich změnou směru jízdy mohl usmrtit mnohem méně. A v takovém případě programátor nebude mít žádnou principiální odpověď na otázky znepokojené veřejnosti, proč se rozhodl právě tak, jak se rozhodl.
Od morální nejistoty k diskriminaci
Pokusme se vysvětlit další pojem, s nímž se u autonomního řízení setkáme. Hovoříme o diskriminaci. Připomeňme si definici přímé diskriminace: někdo (člověk či systém umělé inteligence) se k lidem s vlastností P (například určitá barva pleti, náboženské vyznání, sociální postavení či sexuální orientace) chová jinak než k těm, kteří vlastnost P nemají.
Diskriminace je nepochybně závažným morálním prohřeškem s celou řadou negativních důsledků pro jednotlivce, skupiny či celou společnost. Někdy může mít zcela zřetelnou podobu, jindy však může být důsledkem nevhodného využívání moderních nástrojů či umělé inteligence.
Požadavek, aby naše jednání nebylo diskriminační, se opírá o požadavek rovnosti všech lidských bytostí.
Zákaz diskriminace stojí nad ostatními požadavky a systémy etiky. Etika minimalizace újmy, jimiž by se mohla autonomní vozidla řídit, avšak umožňuje volby, které se jako diskriminační zdají. Připomeňme si dva scénáře. V prvním z nich AV zvolí srážku s motocyklistou s helmou (aby se vyhnulo tomu bez helmy), což vypadá jako zvláště absurdní diskriminace na základě dodržování dopravních předpisů. V druhém potom AV volí na základě věku a nemá-li jinou možnost, dává přednost mladším. Zdá se ale, že diskriminace se v tomto případě nejen připouští, ale dokonce prosazuje. Měli bychom ji tedy odmítnout?
Přípustná diskriminace
Vraťme se k předchozímu případu „Helma” podrobněji. Co ovlivní volbu trajektorie? AV má v daném okamžiku jen dvě možnosti volby, a to zahnout doprava a srazit motocyklistu s helmou, nebo zahnout doleva a srazit toho bez helmy.
Abychom si úvahu usnadnili, předpokládejme, že se V1 a V2 jinak v ničem neliší, tj. že motocyklisté jedou stejnou rychlostí, na stejném motocyklu, AV by do nich narazilo stejnou rychlostí a ve stejném úhlu apod. Kdybychom tento předpoklad nepřijali, potom bychom nemohli vyloučit možnost, že se AV bude rozhodovat i na základě jiných faktorů, například také podle toho, v jaké rychlosti, v jakém úhlu a v kterém místě asi do motocyklistů narazí.
Pokud AV zvolí možnost V1, pravděpodobně způsobí menší újmu, neboť motocyklista má helmu chránící hlavu. Volba V2 by znamenala srážku s motocyklistou bez helmy a pravděpodobnost vážného zranění hlavy či dokonce smrti by byla vyšší. Možnosti V1 a V2 se tedy liší pouze předpokládanou vážností újmy, to je však k volbě podstatné a nikdo nemůže říci, že bychom se dopustili diskriminace.
Legislativa na obzoru?
S vývojem nových systémů přichází i legislativa. Německo jako první stát na světě kupř. představilo akční plán k etice autonomního řízení na vládní úrovni. Etická komise, která tuto zprávu vydala, byla tvořena odborníky na etiku, právo a dopravní a informační technologie. Klíčový závěr komise je, že autonomní řízení vozidel je etickým imperativem, za předpokladu, že software způsobí méně nehod než lidští řidiči. Etická komise dále požaduje, aby ve všech situacích bylo jasně určeno, kdo je zodpovědný za řízení, zda člověk nebo počítač. A dále musí být zaznamenáváno a uchováváno, kdo právě řídí. I na soukromí řidičů zpráva pamatuje, je požadováno, aby řidiči měli právo sami rozhodovat, zda sbíraná data o jejich voze budou dále šířena.
Stále o autonomních vozidlech platí, že jejich zavádění do běžného provozu s sebou přináší více otázek než odpovědí.
