Nástupu aut, která se honosí systémy, schopnými nahradit živého řidiče, jsme svědky každý den. Tesla, Volvo, Google i ostatní automobilky vyvíjejí programy nahrazující lidskou složku za volantem. Spolu s překonáváním technologických bariér k dosažení tohoto cíle, je však nutné překonat i ty etické bariéry a to bude možná komplikovanější. Posuďte sami.
Filozofové debatují o podobných morálních problémech už roky, ale diskuse jsou nyní mnohem praktičtěji aplikovatelné na případu počítačem řízených aut, jejichž nástup se očekává v několika dalších letech.
Výrobci samořídících aut budou potřebovat odpovědi na otázky plynoucí z tak zvaného Trolejového problému. V originále je dilema popsané takto. Nezajištěný vagón se řítí směrem k pěti lidem a vy můžete zatáhnout za výhybku a změnit cestu vozu. Kde bude zabitý jen jeden člověk. Měli byste obětovat jednoho člověka k záchraně pěti?
Mnoho lidí věří, že ano, ale tento morální „instinkt“ se může v dalších scénářích zkomplikovat. Pokud například stojíte na malém mostě pro pěší a vidíte, jak se pod vámi řítí tentýž vozík na pět lidí. Vedle vás stojí velmi mohutný muž a vy víte, že jeho váha by stačila na zastavení toho vozíku. Je morální ho strčit přes okraj mostu, zastavit jím vozík a zachránit pět lidí?
Trolejový problém je často debatován, právě protože je to jasný případ tense mezi naší morální povinností nepoškodit a naší morální povinností nedělat špatné věci.
Sjet z útesu
Když byli lidé dotázání, jak by se auto mělo vypořádat se situací, kde zemře pasažér nebo chodec, pokud je smrt jednoho z nich v dopravní situaci nevyhnutelná, více lidí rozhodlo, že auto by mělo být naprogramováno k neublížení chodci, tedy zabít svého řidiče. Podrobnou studii můžete nalézt zde.
Výzkumníci, vedeni psychologem Jeanem-François Bonnefonem z Toulouské ekonomické univerzity, prezentovali sérii kolizních scénářů 900 účastníkům výzkumu. Zjistili, že 75% lidí rozhodlo, že auto by mělo vždy stočit svůj směr a „zabít/ohrozit“ pasažéra, i když by zachránilo jen jednoho chodce.
Zastánci „staré“ filozofické školy připomínají, že to co vede naše morální akce, je maximální štěstí maximálního množství lidí tedy teorie známá jako Prospěchářská. Ta je založen na předpokladu, že auto s autopilotem by mělo udělat jakoukoli akci, která by zachránila co největší počet lidí, bez ohledu na to zda budou oběti pasažéři či chodci. Pokud by mělo být zabito pět lidí sedících v autě, nebo jeden chodec na ulici, mělo by auto pokračovat v pohybu i kdyby to znamenalo náraz do nevinného chodce.
Kdo je zodpovědný?
Filozofové, přiklánějící se k Trolejové teorii, namítají, že Prospěchářský přístup je příliš surový. A že správná morální akce, nezvažuje pouze následky akce, ale také zvažuje kdo je morálně zodpovědný.
Helen Frowe, profesorka praktické filozofie na Stockholmské univerzitě vypracovala celou sérii studií týkajících se trolejového problému a říká, že výrobci samoříditelných aut by je měli programovat tak, aby ochránili nevinné kolemjdoucí, jelikož ti v autě, nesou při vstupu do vozidla větší zodpovědnost za jakékoli nebezpečí.
Etika se však mimořádně komplikuje, když Froweniny argumenty ukáží na rozdílné morální akce než u Prospěchářské teorie. Například samoříditelné auto může obsahovat 4 pasažéry, nebo například dvě děti na zadních sedadlech. Jak se v tu chvíli mění morální kalkulace? Jestliže jsou pasažéři v automobilu dospělí, Frowe věří, že by měli zemřít a vyhnout se jednomu chodci, protože dospělí měli na výběr vstoupit do auta. Mají tedy větší morální odpovědnost.
Ačkoli Frowe věří, že děti nejsou morálně zodpovědné, stále se pře, že není morálně obhajitelné zabít tři lidi kvůli záchraně dvou dětských životů.
Lepší než nic
Ubozí softwaroví designeři (a bezpochyby také právníci), kteří se snaží vyřešit tyto problémy, protože to může být ještě komplikovanější. Co když bude chodec, při pohybu na silnici, jednat nedbale a nerozvážně, nebo vstoupí autu do cesty úmyslně s úmyslem zabít pasažéry uvnitř (hollywoodští scénáristé startují své psací stroje). Do chvíle než samoříditelná auta nebudou moci posoudit chodcovy záměry, je tato etická hříčka velmi těžce řešitelná.
Filozofové jsou velmi daleko od řešení celého problému, navzdory výsledkům výzkumů i diskutování každého byť drobného etického detailu. Například, je více nemorální úmyslně strhnout auto do osamělého chodce, který nic nedělá, při vyhnutí se autem, srážce s několika lidmi? Bývalý filozof z Las Angelské univerzity Warren Quinn explicitně odmítá prospěchářskou teorii a to proto, že morálně by se mělo maximalizovat štěstí. Místo toho tvrdí, že akce, které cíleně a úmyslně poškozují ostatní, jsou eticky horší, než nepřímá akce, která vede k poškození.
Samozřejmě, že auta budou velmi zřídka v situacích, kde jsou pouze dvě možné akce a kde bude auto moci vypočítat se stoprocentní přesností, že jejich rozhodnutí povede k zabití člověka a dostatečným množstvím samoříditelných aut na silnici, to bude ještě nepravděpodobnější. Každé ze samoříditelných aut by však mělo být schopné rozeznat možná rizika a umět se s nimi vypořádat.
Výrobci aut budoucnosti musí tedy ještě odhalit svůj postoj k těmto problémům, ale vzhledem k nedostatku filozofické shody se zdá velmi nepravděpodobné, že najdou univerzální přijatelné řešení.
Komentáře
Přidat komentář