Kogo zabijesz?

Czyli o moralnych dylematach, wartowości życia, autonomicznych pojazdach, wagonach i MIT. Zapraszam! 🙂

Autonomiczne pojazdy

Autonomiczne pojazdy są przyszłością. Już teraz przebywają miliony kilometrów a ludzi, którzy decydują się na oddanie własnego życia w ich ręce jest coraz więcej.

Prędzej czy później pojazdy takie (a raczej programy i algorytmy nimi kierujące) zostaną postawione przed poważnym dylematem moralnym.

Kogo zabić?

Moja wersja jest taka: jeżeli mamy do wyboru zabicie prezydenta, lub kogoś ważnego za cenę pasażerów pojazdu, pojazd stwierdzi, że lepiej jest oszczędzić głowę państwa.

1-_onv9ifqsfjj4xnxeofgrg
Tesla i autodestrukcyjna prędkość

Jeżeli na przejściu dla pieszych będzie możliwość ocalenia grupki pieszych za cenę zniszczenia pustego samochodu, pojazd powinien dokonać autodestrukcji.

Jeśli mamy pieszych przechodzących na czerwonym świetle i pasażerów w samochodzie lepiej zabić grupkę na pasach (?). A może dokonać tu jeszcze podziału na wartość dla społeczeństwa (lekarz), status (bezdomny), wiek (dziecko a starzec), itd.?

MIT i Moral Machine

Naukowcy z MIT w tym teście zbierają odpowiedzi internautów nt. moralności – jak powinien się zachować autonomiczny samochód w danej sytuacji. Biorąc udział w tym krótkim – bo na zaledwie 13 wyborów – teście możesz sprawdzić swoją moralność – choć nikt nie będzie jej oceniał.

1-v1yb1003685valt8i-o5ia

O ile dylematy moralne z zewnątrz mogą wydawać się niegroźne, o tyle niebezpieczne stają się, gdy siedzimy wewnątrz jadącej puszki, która może zdecydować o moim/twoim życiu lub śmierci. Nawet za cenę większego dobra. Teoretycznie bowiem uratowalibyśmy swoje życie za każdą (chyba) cenę (no może gdy w grę wchodzi życie własnego dziecka), gdybyśmy to my decydowali poprzez kierownicę w rękach.

Przyszłość zapowiada się ciekawie.

Dylemat wagonika

Do tego problemu bardzo podobny jest Dylemat wagonika.

Podstawowa wersja

Jego podstawowa wersja brzmi, cytuję:

Wagonik kolejki wyrwał się spod kontroli i pędzi w dół po torach. Na jego drodze znajduje się pięciu ludzi przywiązanych do torów przez szalonego filozofa. Ale możesz przestawić zwrotnicę i w ten sposób skierować wagonik na drugi tor, do którego przywiązany jest jeden człowiek. Co powinieneś zrobić?

Co byś wybrał / wybrała w tej sytuacji?

A co, gdybyśmy nieco zmodyfikowali sytuację? Jak wtedy się zachowasz? Jak wycenisz ludzkie życie?

Grubas na kładce

Sytuacja jest podobna do poprzedniej, wagonik wyrwał się spod kontroli i pędzi w dół. Jeśli nic go nie zatrzyma, zginie pięć osób. Jesteś na kładce nad torami i możesz zatrzymać go tylko zrzucając coś ciężkiego. Tak się składa, że obok jest bardzo gruby człowiek – jedynym sposobem na zatrzymanie wagonika jest zepchnięcie go z kładki na tory. Tylko zabijając go można uratować pięć osób. Czy powinieneś to zrobić?

Tu już prawdopodobnie zaprotestujesz przeciwko wypchnięciu człowieka na tory, mimo, że poprzednio zrobiłeś/zrobiłaś coś podobnego.

Grubas złoczyńca

A co gdy grubas jest złoczyńcą, który specjalnie ustawił tych ludzi na torach?

Czy twoja moralność i decyzja znów się odwróciła? Zepchnięcie go nie różniłoby się specjalnie od torturowania terrorysty by ujawnił miejsce bomby.

Tor z mijanką

Jak poprzednio: wagonik wyrwał się spod kontroli i pędzi w dół, gdzie do torów przywiązanych jest pięć osób. Tak jak w poprzednim przypadku, możesz skierować wagonik na boczny tor, na którym znajduje się grubas (mający wystarczającą masę ciała, by zatrzymać wagonik). Jednakże za grubasem drugi tor zakręca i łączy się z pierwszym tak, że wagonik powróci i będzie krążył w pętli. Więc samo przestawienie zwrotnicy nie ratuje przywiązanych. Przestawienie zwrotnicy skutkuje ich uratowaniem tylko dlatego, że ginie grubas. Co zrobisz?

Człowiek na podwórzu

Jak w pierwotnym przykładzie: rozpędzony wagonik pędzi w stronę przywiązanych pięciu osób. Możesz wytrącić go z biegu tylko w jeden sposób: zderzając z innym wagonikiem, w wyniku czego oba zostaną wykolejone. Ale stoczą się zboczem wzgórza prosto na podwórko, na którym śpi ktoś w hamaku. Z pewnością zostanie zabity. Co robisz?

Uratować pięć osób? Czy je zamordować poprzez brak czynu? Zabić nieświadomego mężczyznę, czy go ocalić?

Jaką decyzję podejmiesz?
Zobrazowane przykłady

File:The trolley problem.svg

Chcesz więcej?

Gapie

Jedna osoba jest przypięta do torów A. Na torach B stoi pięciu gapiów, którzy zebrali się w celu popatrzenia na uderzenie tej jednej przez pociąg. Czy przełączysz zwrotnicę?

Naziści

Co jeśli 5 osób na wprost pociągu jest nazistami, a jedna na drugim torze normalnym człowiekiem?

Ubezpieczenie

Nie wiesz ile osób jest na torze (i czy w ogóle ktoś jest), ale możesz dla bezpieczeństwa zrzucić jednego grubasa, by ewentualnie ich uratować.

Dylemat Więźnia (Wagonikowa wersja)

Jesteś przy przełączniku. tak jak druga osoba przy drugim, ale nie widzicie się nawzajem i nie możecie się wzajemnie komunikować. Jeśli tylko ty przełączysz dźwignię, ocalisz 5 osób. Jeśli tylko ona to zrobi, wynik będzie ten sam. Jeśli obaj to zrobicie, zabijecie 10 osób. Jeśli nic nie zrobicie, zabijecie 5 osób.

Pętla

Możesz wcisnąć przycisk i ocalić jedną osobę na torach, ale wtedy pociąg nie wjedzie na pętlę (Loop) rodem z wesołego miasteczka 😦

Na opak

Jedziesz po torach i widzisz, że wagonik musi podjąć decyzję, czy skierować ciebie na pięć wagoników, czy na jeden.

Hmmm, ok, stop. 😉 Co za dużo…

Inne dylematy

Więcej takich dylematów bazujących na tych zasadach znajdziesz na fejsbukowej stronie Trolley Problem Memes. W żartobliwy sposób przerabia ten poważny problem.

Utylitaryzm

Podane przykłady są świetnym odzwierciedleniem tego, czy zajmuje się utylitaryzm. Zasada użyteczności – minimalizowanie nieszczęścia, maksymalizowanie szczęścia.

Postawa zwana też filozofią zdrowego rozsądku; według niego to, co jest pożyteczne, jest dobre, a miarą słuszności postępowania jest użyteczność jego skutków.

Skoro już weszliśmy na tematy moralności i zadaliśmy sobie mnóstwo pytań, zadajmy jeszcze jedno:

Twoje dziecko zaczyna głośno płakać. Jego płacz zwróci uwagę żołnierzy, którzy zabiją ciebie, twoje dziecko i innych ukrytych w piwnicy. Aby temu zapobiec musisz je cicho udusić. Czy zrobiłbyś to?

Na ten temat raczej self-driving car nie będzie musiał odpowiadać (albo znać odpowiedzi). Ale i tak jest to temat bliski poruszanemu wyżej.

Jak z dylematem wagonika poradzi sobie dziecko?

E.J. Masicampo nauczający psychologii moralności postanowił wraz z żoną zaprezentować dylemat wagonika. Jaką decyzję podjęło?

Jak to będzie, gdy maszyny nauczą się myśleć?


Jeśli spodobał ci się ten tekst zapisz się do newslettera. Sprawdź Najlepsze Teksty. Kolejny tekst już za tydzień.


Źródła:

http://moralmachine.mit.edu/

https://www.facebook.com/TrolleyProblemMemes/

Wikipedia

Zdjęcie:

Screen z Moral Machine

By Jonas Kubilius – Praca własna, CC0, https://commons.wikimedia.org/w/index.php?curid=39368927

http://www.theregister.co.uk/2016/07/28/tesla_autopilot_death_driver_was_speeding/

Raban Haaijk

 

Reklamy

Skomentuj

Wprowadź swoje dane lub kliknij jedną z tych ikon, aby się zalogować:

Logo WordPress.com

Komentujesz korzystając z konta WordPress.com. Wyloguj / Zmień )

Zdjęcie z Twittera

Komentujesz korzystając z konta Twitter. Wyloguj / Zmień )

Zdjęcie na Facebooku

Komentujesz korzystając z konta Facebook. Wyloguj / Zmień )

Zdjęcie na Google+

Komentujesz korzystając z konta Google+. Wyloguj / Zmień )

Connecting to %s