Dość przypadkowo trafiłam na platformę The Moral Machine. Wiedziona ciekawością zaczęłam robić test i szybko mnie zdenerwował ze względu na powtarzający się nierozwiązywalny schemat znany szerzej jako dylemat wagonika. Żeby skończyć test i zobaczyć, co jeszcze autorzy przygotowali w trzynastu scenach, klikałam bez patrzenia na opisy sytuacji zawsze na lewy obrazek. Było to bardzo frustrujące, nawet jeśli nie starałam się analizować tych sytuacji i na dodatek wiedziałam, że to tylko rysunki.

Autorzy tego eksperymentu etycznego jako cel podają zgromadzenie wiedzy o ludzkim punkcie widzenia na problemy moralne, które będą udziałem samochodów autonomicznych, które ktoś musi zaprogramować. Co wybrać w obliczu nieuniknionej kolizji? Zabić dwoje pasażerów czy pięciu pieszych, którzy nielegalnie wtargnęli na drogę? W teście mamy osądzić, co według nas jest mniejszym złem. Wydało mi się to bez sensu. Przecież autonomiczny pojazd nie będzie rozważał, czy ktoś jest kierownikiem wyższego szczebla, osobą otyłą, czy też młodym przestępcą. Nie ma miejsca na moralność, a powinna zostać statystyka jak najmniejszego uszczerbku na zdrowiu czy życiu. Tak sobie wymyśliłam, ale dalej byłam w jakiś sposób zdenerwowana na cały ten test. Uważałam, że platforma wskazuje na dwie rzeczy, które nie mają z sobą zbyt wiele wspólnego. Pierwsza to ekstremalne sytuacje na drodze i konsekwencja w postaci podejmowania przez pojazd autonomiczny decyzji wręcz niemożliwych do podjęcia z punktu widzenia człowieka. Druga to ludzkie uprzedzenie i preferencje wobec na przykład grup społecznych, która nie ma nic wspólnego z zachowaniem maszyny na drodze.

Jednakże, przyszło mi do głowy, że może funkcja diagnostyczna platformy może ma wskazywać na coś innego. Na przykład na to, czy ten kto programuje logikę wyborów w danej sytuacji, zdaje sobie sprawę z tego, że nawet pozornie moralnie obojętne wskazania mogą wcale takie nie być. No tak, moralnie neutralne wybory mogą nie być możliwe, jeśli programuje to kilka osób, ale chyba można to jakoś ustawić przy większej ilości danych. Nie mogąc rozstrzygnąć tej kwestii, postanowiłam pójść do źródła, czyli do artykułu opublikowanego w Nature w roku 2018 pod tytułem „The Moral Machine Experiment”.

Badanie to wzięło pod uwagę około 40 milionów podjętych decyzji przez osoby z 233 krajów. Scenki do rozważenia skupiały się na dziewięciu czynnikach, które wywoływały decyzję, kogo ocalić. Przykładowo, decydujesz, czy ocalisz ludzi czy zwierzęta domowe, mężczyzn czy kobiety, czy też pieszych przechodzących zgodnie lub niezgodnie z przepisami ruchu drogowego. Zebrane dane pozwoliły na bardzo wiele analiz pod kątem demograficznym, społecznym i kulturowym. Zależnie od tych czynników następowały wahania w wyborach, które pokazywały jak duże grupy jednolicie uznawały za moralnie lepszą opcję, która dla innej grupy miała odmienny wynik. Za ilustrację na zmienne tendencje posłużą trzy przykłady. Pierwszy z nich dotyczy częstszego niż ogólnie ocalania ludzi o wyższym statusie społecznym. Społeczeństwa, w których obecne są bardzo duże nierówności ekonomiczne, potwierdziły odczuwanie takiej samej nierówności w eksperymencie podczas wydawania swoich decyzji. Drugi przykład dotyczy niższego wskaźnika ratowania życia dzieci w zestawieniu z życiem osób starszych. W tej grupie odzwierciedlił się czynnik kulturowy, gdzie społeczeństwo wykazuje większy szacunek do osób w podeszłym wieku jako mądrych, więc wartych ocalenia częściej niż w kulturach, gdzie wiek nie jest równoznaczny z mądrością i doświadczeniem życiowym jako cenną wartością. Trzeci przykład pokazuje, że w zależności od ogólnego dobrobytu i jakości instytucji państwowych oraz egzekwowania prawa, zauważono większą lub mniejszą tolerancję na czynnik ocalenia związany ze zgodnym z przepisami lub nieprawidłowym przechodzeniem przez jezdnię. Najczęściej w takich społecznościach przyzwolenie na drobne wykroczenia jest wyższe i jest raczej oznaką zaradności, więc nie wiąże się ze społeczną dezaprobatą.

Najciekawsze wnioski jednak wyszły przy badaniu globalnych preferencji. Okazuje się, że ogólnie, niezależnie od wahań wyników w zależności od rodzaju społeczności, trzy czynniki są zawsze na pierwszym miejscu. Badani wybierają ocalenie ludzi częściej niż zwierząt, ocalenie większej ilości osób niż mniejszej, oraz młodszych uczestników ruchu drogowego niż starszych. Najczęściej ratowanymi postaciami ze scenariuszy globalnie są: małe dziecko, mały chłopczyk, mała dziewczynka i kobieta w ciąży.

Autorzy badania przyznają, że ich eksperyment może nie gwarantować dokładnego odzwierciedlenia społeczno-demograficznego każdego kraju, ponieważ badani to grupa ludzi, która ma dostęp do Internetu, oraz na ochotnika wypełnili test. Grupa może więc nie być reprezentatywna, ale z pewnością stoi za nią liczba przebadanych ludzi. Jeśli blisko 3 miliony osób wybierają podobnie w kilku punktach badania, to z pewnością wyniki mogą posłużyć przynajmniej do pogłębienia tematu. Dokumentem porównawczym jako wstęp do szerszej dyskusji dla zbadanych tendencji ratowania życia mogą być punkty z pierwszej próby zapewnienia wytycznych dla pojazdów autonomicznych w zakresie wyborów etycznych z 2017 (The German Ethics Code for automated and connected driving), które w pewnym zakresie różnią sie od wyników eksperymentu The Moral Machine. Na przykład wyrażono wyraźnie pierwszeństwo życia ludzkiego nad zwierzęcym, ale za to kwestię ratowania większej ilości jednostek ludzkich pozostawiono otwartą. Zasadą etyczną nie ulegającą wątpliwości w dokumencie niemieckim jest zakaz rozważania ratunku na podstawie cech osobowych takich, jak wiek. Widać więc różnice, co zachęca do rozważań nad ludzkim postrzeganiem wyborów moralnych.

Badanie samo w sobie jest interesujące, ale co z tego wynika dla programowania samochodów autonomicznych? Autorzy uważają, że nie ma czystych rozwiązań i że nie będziemy mieli luksusu niezauważania tego problemu – maszyny trzeba jakoś zaprogramować. Po przeczytaniu całego artykułu również uznałam, że ma to sens.

Pytanie, jak zarekomendować jak najbardziej etyczne rozwiązania dla inteligentnych maszyn, nigdy nie będzie możliwe tylko odnosząc się do statystyki, ponieważ programując, mimowolnie przekazujemy nasze ludzkie poglądy moralne. Artykuł doskonale uwidocznił, że nasze ludzkie wartości różnią się w zależności od spuścizny kulturowej, przynależności państwowej, indywidualnych preferencji i wielu innych czynników. To, że istnieją pewne globalne tendencje ma być według autorów zachętą do rozpoczęcia rozmów na temat tego, jak najmądrzej pod kątem etycznym zbliżyć się do wspólnych ustaleń akceptowalnych przez firmy, rządy czy inne decyzyjne jednostki. The Moral Machine została zaprojektowana, aby zmierzyć się z tymi wyzwaniami zanim podejmiemy nieuniknioną próbę zaprojektowania zasad etycznych dla sztucznej inteligencji, które to zasady powinny, według autorów eksperymentu, być przynajmniej przybliżone do zasad moralności globalnej. Autorzy nazwali tę próbę podróżą w stronę rozpoczęcia dyskusji na temat zasad etycznych dla sztucznej inteligencji, które obecnie projektowane są w oparciu o zasadę dopasowania pod kątem wartości ludzkich.

Krótki fragment tego artykułu przemówił bardzo mocno do mojej wyobraźni. Autorzy mówią, że bardzo trudno jest ocenić, jakie decyzje podejmują kierowcy – ludzie. Ci, którzy nie przeżyli wypadku, nie mogą nam opowiedzieć, czy mierzyli się z podobnymi dylematami. Ci, którzy przeżyli wypadek, mogli nawet nie zdawać sobie sprawy, że byli w sytuacji rozważania za i przeciw większego czy mniejszego zła. To uświadomiło mi, jak trudne jest teraz przeniesienie tych ekstremalnie niemożliwych wyborów na maszynę czy program, który nie może nie podjąć decyzji. Również tam, gdzie my ludzie, mamy nasze odruchy, nieświadomość, stres i mnóstwo innych usprawiedliwiających nas czynników, program ma po prostu decyzje do podjęcia w ułamku sekundy.

To bardzo przytłaczająca myśl, kiedy wyobrazimy sobie grupę inżynierów, którzy mają zaprogramować zachowanie pojazdu autonomicznego. Teraz widzę, jaka to odpowiedzialność i że naprawdę istnieje potrzeba mądrych regulacji w tej kwestii, które będą wyznacznikiem działania. Pojazd autonomiczny będzie czytelny w swoich działaniach w taki sposób, w jaki my ludzie nigdy nie byliśmy. Ta jawność działań spowoduje, że jakiekolwiek uzasadnienie przedsięwziętej akcji może nie być wystarczające i zadowalające dla wszystkich, nawet jeśli zbudujemy coś bardziej moralnie spójnego niż jakiekolwiek prawo w przeszłości.

Nie ulega wątpliwości, że samochody autonomiczne i inne inteligentne technologie, które będą podejmować decyzje bez naszego  ezpośredniego udziału są coraz bliżej. The Moral Machine jako platforma, która ma dać do myślenia, moim zdaniem, jest bardzo udanym eksperymentem. Dyskomfort psychiczny, który pojawia się podczas wykonywania testu, skłania do zastanowienia się nad etyką i moralnością, a to jest wyjściem do rozmowy, dyskusji, a także podjęcia ewentualnej decyzji o korzystaniu z technologii, której pozwalamy podejmować kroki w naszym imieniu.

W podstawowej wersji dylematu wagonika, uczestnik eksperymentu ma do wyboru nic nie zrobić i rozpędzony wagonik przejedzie pięć osób, lub przestawić zwrotnicę i zostanie przejechana tylko jedna osoba. Tak jak w eksperymencie The Moral Machine, możemy nie zrobić nic ( i jechać prosto bez względu na konsekwencje ) uważając, że to nie nasza sprawa lub że nie możemy brać odpowiedzialności za to, co ktoś sobie wymyślił. Idąc dalej za tą myślą, można zadać sobie więc pytanie, na kogo spadnie
moralna odpowiedzialność za czyjeś życie w momencie, kiedy wsiadamy do pojazdu autonomicznego: na projektantów czy nas, skoro znamy zasady, na których pojazd opiera swoje decyzje?

© Barbara Łukasiak

https://www.moralmachine.net
https://www.academia.edu/40754446/THE_MORAL_MACHINE_EXPERIMENT