Ten artykuł czytasz w ramach bezpłatnego limitu
Lato 2040 roku. Pusta, z jednej strony obsadzona drzewami szosa. Piękna pogoda, świetne warunki do jazdy. Poboczem idzie mała dziewczynka z psem, po drugiej stronie szosy sunie dwóch rowerzystów. Zza łuku drogi z prędkością 90 km/godz. nadjeżdża duży samochód terenowy. Nagle pies wyrywa się dziewczynce, przebiega przez szosę, mała odruchowo rzuca się za nim. Samochód jest tuż-tuż. Na wprost ma dziewczynkę, po lewej - rowerzystów, po prawej - drzewo. Nie ma szans wyhamować. Na jakikolwiek manewr pozostaje ułamek sekundy.

Co zrobi kierowca? Czy będzie ratował dziecko i wjedzie w rowerzystów? A może rozbije się o drzewo lub wciśnie tylko hamulec w nadziei, że jednak zdąży się zatrzymać? Otóż kierowca nic nie zrobi, bo w ogóle nie zdaje sobie sprawy z sytuacji. Spokojnie drzemie, a samochód jedzie w trybie autonomicznym. Decyzję za człowieka podejmie komputer.

Moralność jest owocem ewolucji: Dekalog od pasa w górę



Göteborg eksperymentuje

Od dobrych kilku lat koncerny samochodowe informują o próbach skonstruowania samochodu, który będzie mógł całkowicie zastąpić kierowcę. Współczesne auta, zwłaszcza wyższej klasy, są naszpikowane układami mającymi zapobiegać wypadkom. Wciąż jednak to człowiek ma decydujący głos za kierownicą.

W 2017 roku na ulice Göteborga ma wyjechać sto egzemplarzy Volvo XC90 zdolnych do całkowicie samodzielnej jazdy. Oczywiście tryb autonomiczny nie wszędzie i nie na każdej ulicy będzie działał. - To nie jest tak, że samochód dojedzie sam w dowolne miejsce. On ma wyręczyć kierowcę tam, gdzie prowadzenie auta nie sprawia żadnej przyjemności, czyli na przykład podczas porannych dojazdów do pracy - tłumaczy Stanisław Dojs z Volvo Car Poland.

Tryb autonomiczny będzie uruchamiał kierowca. Wyposażone w dokładne mapy samochody będą miały do dyspozycji nieco ponad 70 km dróg dojazdowych do centrum, w godzinach szczytu mocno zakorkowanych, bez odcinków jednojezdniowych dwukierunkowych, a więc bez zagrożenia zderzeniem czołowym, praktycznie bez ruchu pieszego. Dzięki specjalnym znacznikom i wyraźnie wymalowanym pasom ruchu każdy samochód będzie doskonale wiedział, gdzie jest.

Ciekawsze jest jednak to, co niedawno zadeklarował prezes szwedzkiego koncernu - że odpowiedzialność za skutki ewentualnego wypadku bierze na siebie producent. Ale co to w praktyce znaczy? Jakiego rodzaju karę? Jaką formę odszkodowania? Nie wiadomo. Na razie wygląda to na propagandowy frazes, który zweryfikowałoby dopiero życie.

Temat jest ciekawy i w najbliższej przyszłości będzie bez wątpienia stanowił pole do popisu dla prawników, zwłaszcza gdy dojdzie do jakiegoś brzemiennego w skutki wypadku z udziałem autonomicznych samochodów. Jeżeli takie auta wyjadą kiedyś masowo na drogi, to hipotetyczny przypadek podobny do wcześniej opisanego musi się kiedyś zdarzyć, statystycznie rzecz biorąc. Jaką decyzję podejmie wtedy komputer? Czy będzie chronił kierowcę, dziecko, czy raczej minimalizował liczbę ofiar?

Mamy pierwszego świadomego robota



Wagon na torze

Futurysta Jerry Kaplan z Uniwersytetu Stanforda w swoich rozważaniach na ten temat na forum Big Think podkreśla etyczną stronę problemu. Komputer nie ma moralności, kieruje się algorytmem napisanym przez człowieka. To, co nam wydaje się oczywiste, wcale nie musi być oczywiste dla maszyny. To rozważania podobne do tych, które pojawiają się w dylemacie wagonika.

W skrócie wygląda on tak: z góry sunie po torach rozpędzony wagonik. Dalej na tym samym torze leży pięć przywiązanych do torów przez szaleńca osób, które wagonik niechybnie rozjedzie. Nieszczęśnicy leżą jednak za rozwidleniem torów, przełożenie zwrotnicy spowoduje, że wagonik zjedzie na inny tor. Z kolei na nim też leży uwięziony nieszczęśnik, jednak tylko jeden. Wszystko dzieje się na twoich oczach, ale na reakcję masz bardzo mało czasu, zdążysz najwyżej przestawić zwrotnicę. Co robisz?

Jeżeli nie zrobisz nic, nie będziesz niczemu winien, ale zginie pięć osób. Przełożysz zwrotnicę, by uratować więcej ludzi? Wydaje się, że to ma sens, ale postaw się w sytuacji osoby leżącej na drugim torze. Przecież przekładając zwrotnicę, po prostu ją zabijesz.

Dylemat ów ma mnóstwo wariantów - wystarczy lekko zmienić warunki, by otrzymać zupełnie inne odpowiedzi. Wyobraźmy sobie, że na pierwszym torze leży czworo dzieci - i już skrupuły przed przełączeniem zwrotnicy topnieją. Albo: widzimy, że na drugim torze leży znany, wielokrotnie karany przestępca - od razu chętniej sięgamy po wajchę zwrotnicy.

Przed takim właśnie dylematem - a raczej jego trudną do przewidzenia odmianą - stanie komputer sterujący samochodem autonomicznym w obliczu nieuchronnej katastrofy.

Dlaczego ja?

Nie można spisać listy prostych poleceń dla samochodu, rzeczywistość jest zbyt nieprzewidywalna. Komputer w ułamku sekundy przeanalizuje dostępne dane i jakoś zareaguje. Ale jak ten "proces myślowy" przebiegnie, to już tajemnica producentów aut.

Jerry Kaplan zauważa: jeżeli samochód będzie zaprogramowany zgodnie z podejściem utylitarnym, w krytycznej sytuacji będzie chciał ochronić życie jak największej liczby ludzi. A zatem chętniej zabije mnie jednego za kierownicą niż cztery idące poboczem osoby. Powstaje pytanie, kto kupiłby tak zaprogramowane auto. Czy producenci będą się prześcigać w zapewnieniach: "Hej, kup nasz model! Jest tak nastawiony, żeby w razie czego rozjechać pieszych. Ty na pewno nie zginiesz!"?

Pojawia się pytanie, czy mamy prawo oceniać algorytm, czyli de facto producenta samochodu, skoro sami mamy poważne wątpliwości, jak się zachować w podobnej sytuacji. Tym bardziej że sami - nie zdając sobie z tego sprawy - codziennie rozstrzygamy wspomniany dylemat wagonika. Oto przykład: na podwórku pali się śmietnik. Co robisz? Oczywiście dzwonisz po straż pożarną. Ta na sygnale rusza gasić ogień. Na całym świecie na drogi wyjeżdżają codziennie tysiące wozów strażackich, zatem statystycznie niektóre wezmą udział w wypadku drogowym, w którymś ktoś zginie. A zatem, dzwoniąc po straż, powodujesz być może śmierć niewinnej osoby.

Czy to jednak oznacza, że nie powinniśmy dzwonić po straż pożarną, policję, taksówkę? Byłby to wszak absurd. Tymczasem problem decyzji podejmowanych przez samochody autonomiczne nie wydaje nam się wcale absurdalny. Przeciwnie: chętnie zobaczylibyśmy jakiegoś prezesa koncernu na ławie oskarżonych, i paru inżynierów do kompletu. Niech się tłumaczą, dlaczego lśniący SUV z ich fabryki rozjechał staruszkę na chodniku, skoro mógł wjechać w pijanego rowerzystę, bez porównania bardziej winnego katastrofie.

Pan sobie poczeka

Auta już dziś w pewnym sensie podejmują brzemienne w skutki decyzje. Przykładem może być doskonale znany układ ABS zapobiegający blokowaniu kół podczas hamowania. W zamyśle pomysłodawców ma on przeciwdziałać utracie kontroli nad autem. Kłopot w tym, że niekiedy, na niektórych nawierzchniach, wynalazek ten wydłuża drogę hamowania. Uznano jednak, że zalety układu dalece przewyższają jego niedoskonałości i ABS wszedł do obowiązkowego wyposażenia aut. Ale o ile dzięki temu liczba ofiar na drogach spadła, o tyle jednak można przyjąć, że niektóre z tych osób zginęły ZAMIAST kogoś innego (kto by zginął, gdyby w aucie ABS nie było). Trudno to nazwać sztuczną inteligencją, lecz zmienia to bieg wypadków. Typowy dylemat wagonika.

Konstruktorzy samochodów autonomicznych będą musieli się też zmierzyć ze zdrowym rozsądkiem i jakoś namówić komputery do naciągania reguł. Nie chodzi wcale o poważne kraksy, ale o drobiazgi towarzyszące nam codziennie. Jerry Kaplan przywołuje kolejny przykład: załóżmy, że przy krawężniku zatrzymała się furgonetka firmy kurierskiej. Kurier włączył światła awaryjne, zabrał paczkę i poszedł. My zatrzymujemy się za furgonem. Ulica jest wąska, przedzielona podwójną linią ciągłą. Co robić? Czekać? Jak długo?

Normalny kierowca upewnia się, że z naprzeciwka nic nie jedzie, po czym ostrożnie omija przeszkodę, przejeżdżając przez ciągłą linię. To zupełnie naturalne, akceptowane zachowanie i nikomu nie przyjdzie do głowy karać kogokolwiek za taki manewr. A jeżeli podróżujemy samochodem autonomicznym? Przecież on jest tak zaprogramowany, by nie doprowadzać do groźnych sytuacji, a więc nigdy nie przekraczać podwójnej linii ciągłej. Bezpieczeństwo przede wszystkim. No to zanosi się na dłuższy postój. I niezły korek.

Jak widać, relatywizm towarzyszy nam codziennie. Rozstrzygania na różnych poziomach będą musiały nauczyć się też samochody autonomiczne (pod warunkiem że kiedyś wyjadą na drogi). Może więc nie powinniśmy podejrzewać producentów samochodów o najgorsze? Ważne, by inżynierowie, projektując nowe samochody, zachowywali się uczciwie, brali pod uwagę jak najwięcej zmiennych. Może powinna powstać - jak sugeruje Kaplan - dziedzina nauki zwana etyką inżynierską? Zapytajmy samych siebie: czy nie byłoby szlachetnie rąbnąć w drzewo, zamiast wjechać rozpędzonym autem w wycieczkę szkolną? Ja nie mam pojęcia.

Często odruchowo wybieramy w życiu mniejsze zło, nie zdając sobie z tego sprawy. I nawet nie przyjdzie nam do głowy, że moglibyśmy postąpić inaczej. Może więc niech już decydują za nas te komputery? W końcu zgodnie z zasadami robotyki one też chcą dla nas dobrze.

Liczby/fakty auta bez kierowcy

Tesla Motors wprowadza w jednym z modeli autopilota, który wspomaga kierowcę. Całkiem autonomiczny samochód ma powstać w ciągu trzech lat.

Google Car testowany jest od sześciu lat. Trafi do sprzedaży około 2020 roku.

Duże koncerny motoryzacyjne, w tym BMW, Mercedes, Volkswagen, Daimler i Nissan, też pokazały autonomiczne prototypy aut.

Wykorzystaj to w szkole! Przeczytaj razem z dzieckiem w domu.
Wskazówki i pytania do tego materiału znajdziecie na stronie programu SZKOŁA Z KLASĄ 2.0: www.szkolazklasa.pl


Samochody autonomiczne będą kiedyś za nas podejmować decyzje? Kogo uratować, a kogo poświęcić?
Dokonajcie eksperymentu myślowego.



Oglądaj wideo "Nauki dla każdego" i odkrywaj największe zagadki otaczającego Cię świata. Daj się wciągnąć, zafascynować, zadziwić. Spójrz na siebie i rzeczywistość z innej, naukowej strony!





W ''Nauce dla Każdego" czytaj:

Zło. Dlaczego tak nas pociąga?
Wydaje się, że zło to prymitywna strona naszej natury. Tymczasem jest to właśnie czyste, racjonalne człowieczeństwo. Takie, do jakiego nie byłoby zdolne żadne zwierz

Jak fizycy radzą sobie z... oponami zimowymi
Wiemy doskonale, że lepiej założyć opony zimowe, niż siedzieć na ośnieżonej lub oblodzonej drodze w jedynym aucie, które ich nie ma. Bo kiedy wszyscy nagle zahamują, to nasz samochód... będzie sunąć dalej

Komunikacja. Dlaczego tak trudno nam się porozumieć?
Można jednocześnie mieć rację i jej nie mieć. Albo wyrażać głośno jedno, a domagać się czegoś innego. Na fenomen zakrawa więc to, że w ogóle się ze sobą dogadujemy

Technoterror. Jak wiele z naszej prywatności jesteśmy gotowi poświęcić w imię bezpieczeństwa?
Nasza troska o prywatność w kontaktach elektronicznych to woda na młyn terrorystów. Korzystając z nowinek technicznych, spiskują, kryjąc się przed tropiącymi ich służbami

Jak przestrzeń tworzy nasze relacje? I jak różne nacje ją zasiedlają?
Europejczyk zachowa chłodny dystans, a Arab zbliży się tak bardzo, że będzie mógł wyczuć oddech tamtego. Wtedy Europejczyk się odsunie, a Arab obrazi

Jak pies z kotem. Koty kontra ogórki
To był niedawno hit internetu. Krótki filmik przedstawiający reakcję domowych kotów na... zielony ogórek



Artykuł otwarty w ramach bezpłatnego limitu

Wypróbuj prenumeratę cyfrową Wyborczej

Nieograniczony dostęp do serwisów informacyjnych, biznesowych,
lokalnych i wszystkich magazynów Wyborczej.