Rzecz o moralności rzeczy

Opinia, zgodnie z którą samosterujące się samochody będą miały znacznie niższy wskaźnik wypadkowości niż jeżdżące dziś po drogach auta, cieszy się dużą popularnością. Naukowcy z University of Michigan Transportation Reserach Institute postanowili sprawdzić jej słuszność, analizując stosunek liczby wypadków, w których brały udział samosterujące się pojazdy do miliona przejechanych mil. I chociaż wynikające z ich badania dane przemawiają na niekorzyść autonomicznych samochodów – te uczestniczyły bowiem średnio w 9.1 wypadków na milion mil, podczas gdy dla „tradycyjnych” samochodów wskaźnik ten wyniósł 4.1 – naukowcy zaznaczają, że ograniczona ilość danych nie pozwala na razie na wyciągnięcie wniosków dotyczących faktycznego wskaźnika wypadkowości autonomicznych pojazdów. Co najważniejsze jednak, w żadnym z analizowanych przypadków wina za kolizję nie leżała po stronie samosterujących się aut. 

Mimo to, nie ulega wątpliwości, że wypadki drogowe z udziałem autonomicznych pojazdów to rzecz nieunikniona – szczególnie dopóty, dopóki będą one dzieliły drogi z autami kierowanymi przez człowieka. I tu wyłania się dylemat etyczny – oznacza to bowiem, że prędzej czy później tego typu samochody będą musiały podjąć decyzje moralne, która dotychczas były zarezerwowane raczej dla człowieka i na pewno nie była to czynność podejmowana na masową skalę przez roboty. Dla zilustrowania o jakiej decyzji mowa, dobrze jest przyjrzeć się hipotetycznemu przykładowi. Wyobraźmy sobie, że samosterujący się samochód zmierza w stronę grupy przechodniów. Jedyna opcja, by uniknąć kolizji, to gwałtowny skręt, którego efektem będzie zderzenie ze ścianą oraz śmierć kierowcy oraz pasażerów siedzących w aucie. Jaką decyzję powinien „podjąć” samochód? 

Dylemat wagonika

 

Sytuacja ta bardzo przypomina stosowany w filozofii dylemat wagonika, nazywany też dylematem zwrotnicy, wprowadzony przez Philippę Foot. W podstawowej wersji eksperymentu osoby badane zapoznają się z opisem hipotetycznej sytuacji, w której wagonik kolejki wyrwał się spod kontroli i z dużą szybkością jedzie po torach kolejowych. Na wprost niego znajduje się pięciu ludzi, którzy zostali przywiązani do torów przez szalonego filozofa. Osoba badana może jednak przestawić zwrotnicę, tak, by skierować wagonik na drugi tor, do którego przywiązana jest tylko jedna osoba. 

Powstało wiele wariantów dylematu, włączając w to sytuację, w której osoba badana może zepchnąć stojącego na kładce nad torami grubasa, sprawiając, że wagonik się zatrzyma, jednak we wszystkich wersjach eksperymentu decyzja sprowadza się do wyboru między utylitaryzmem, a deontologią. Ten pierwszy kierunek, opisywany szeroko przez Johna Stuarta Milla, zakłada, że powinniśmy zawsze postępować w taki sposób, który przyniesie szczęście największej liczbie ludzi. Czyli, w przypadku testu wagonika, zwrotnica powinna zostać przestawiona tak, by ucierpiała na tym tylko jedna osoba. Innymi słowy, w sytuacji potencjalnej kolizji samosterującego się samochodu z grupą przechodniów, pojazd powinien wybrać „mniejsze zło” i wjechać w ścianę. Z drugiej strony, zgodnie z założeniami deontologii, niektóre wartości są zawsze prawdziwe – morderstwo zawsze będzie złe i nigdy nie powinniśmy dopuścić się zabicia drugiego człowieka. Przyjmując ten system wartości zgadzamy się więc z tym, że w teście wagonika zwrotnica powinna zostać na swoim miejscu – zmiana może i uratowałaby pięć osób, ale spowodowałaby aktywne zabicie jednej, jeśli zaś chodzi o samosterujące się pojazdy, te nie powinny być zaprogramowane w taki sposób, by poświęcać życie kierowcy, niezależnie od tego, ile osób mogłoby to uratować.

Utylitarny samochód? Nie, dziękuję

 

Jak można się domyślać, odpowiedź na pytanie o to, jaki system wartości powinny „przyjmować” autonomiczne samochody nie jest prosta, szczególnie, że przedstawiona powyżej sytuacja jest raczej przejrzysta, co rzadko kiedy zdarza się w realnym życiu. Z tego względu naukowcy pod przewodnictwem Jeana–Françoisa Bonnefona z Toulouse School of Economics postanowili sprawdzić, jak do opisanego problemu ustosunkują się potencjalni użytkownicy samosterujących się pojazdów. Uczestnikom badania zaprezentowano różne scenariusze wypadku drogowego, pytając ich, jak w każdej z sytuacji powinien zachować się samochód. Spośród 900 badanych, 75 proc. osób uznało, że pojazd winien wybrać opcję poświęcenia życia kierowcy i pasażerów, nawet jeśli miałoby to uratować jednego przechodnia. Niestety, okazało się również, że jakkolwiek podejście utylitarystyczne było wybierane przez większość badanych, oni sami nie wyrażali chęci zakupu tak zaprogramowanego pojazdu. Jest to całkowicie zrozumiałe – kiedy na szali leży nasze życie, poświęcenie go raczej nie jest kuszącym rozwiązaniem, nawet, jeśli miałoby to oznaczać uratowanie innych.

Odpowiedzialni kierowcy?

 

Oczywiście, kolejne pytanie brzmi: kto powinien ponosić odpowiedzialność za wypadek spowodowany przez autonomiczny pojazd? I tu zdania są podzielone. Jedni twierdzą, że wina będzie leżała po stronie kierowców – ci bowiem, decydując się na zakup takiego samochodu, zdawali sobie sprawę z ryzyka z tym związanego. Inni argumentują, że takie podejście sprawia, iż duże grupy potencjalnych odbiorców – niepełnosprawni, niedowidzący, starsi itp. – nie będą mogły korzystać z pojazdów, które mogłyby pozwolić im na uniezależnienie się od opiekunów. 

Wydaje się więc, że inżynierowie konstruujący autonomiczne pojazdy – czy to ci zatrudnieni przez Google’a, czy ci pracujący dla Audi – stoją przed bardzo trudnym zadaniem. Wprowadzanie nowoczesnych rozwiązań technologicznych to bowiem jedno, a decyzja o tym, jaki system wartości powinien „przyjąć” stworzony przez nich samochód, to znacznie poważniejsza kwestia. I chociaż stwierdzenie, że również na nich spoczywa odpowiedzialność za każdy kolejny poważny wypadek jest nieco przesadzone, niewykluczone, że znajdą się tacy, którzy właśnie w ten sposób będą postrzegać całą sytuację, np. domagając się odszkodowań od firmy.