MIT Media Lab (jednostka badawcza MIT, najsłynniejszej amerykańskiej politechniki) stworzył stronę Test Moralności dla Maszyny, żeby autonomiczne auta kierowały się ludzką perspektywą podejmowania moralnych decyzji. Znajdziemy tam różne przykłady dylematów – wariacje na temat znanego w filozofii dylematu wagonika. Chodzi o to, żeby autonomiczny samochód nauczył się wybierać mniejsze zło - np. co będzie gorsze: zabicie dwóch młodych osób, czy ciężarnej kobiety z osobą starszą?

Ponad 2 mln osób spróbowało swoich sił i wskazywało, które scenariusze są według nich bardziej akceptowalne. Po ukończeniu testu można zobaczyć, jak nasze odpowiedzi wypadają w porównaniu z innymi ludźmi i w jakich kontekstach wychodzą nasze uprzedzenia.

Test Moralności dla Maszyny po raz pierwszy wyraźnie i namacalnie uświadomił wielu osobom istnienie ich wewnętrznych uprzedzeń. Dla moich studentów sztucznej inteligencji i zarządzania na Akademii Koźmińskiego było to szokujące przeżycie. Choć mają doświadczenie w budowaniu modeli opartych na uczeniu maszynowym, to rzadko zdawali sobie sprawę z ich konsekwencji moralnych. Uświadomił im to dopiero Test Moralności dla Maszyny.

Wielu krytyków takiego podejścia, w tym prawnicy, słusznie podkreślało, że Test Moralności dla Maszyny nie przestrzega praw człowieka, które są „niezbywalne dla wszystkich ludzi, bez względu na ich wiek, pochodzenie etniczne, lokalizację, język, religię, pochodzenie etniczne lub jakikolwiek inny status" (Wysoki Komisarz Narodów Zjednoczonych ds. praw człowieka What are human rights?).

I faktycznie – budowanie systemów oceniających, czyje życie warto ocalić, w dodatku z wbudowanym zestawem preferencji, było dla wielu wyraźnym naruszeniem wszystkiego, za czym opowiadała się Rada Praw Człowieka ONZ.

Piszę to w momencie, gdy świat zmaga się z pandemią koronawirusa. Rządy desperacko próbują ją powstrzymać i wprowadzają kolejne zakazy podróży, zamykają całe obszary. W mediach czytamy o rosnącej liczbie zmarłych na COVID-19. Sytuacja jest bardzo poważna, a w niektórych krajach wręcz dramatyczna. Niedawno Hiszpania stała się trzecim największym ogniskiem epidemii koronawirusa. Według najnowszych danych Uniwersytetu Johna Hopkinsa w sobotę było tam ponad 21 tys. zakażonych, a ponad tysiąc zmarło [tekst powstał 21 marca. Od tej pory to USA stały się trzecim największym ogniskiem epidemii z ponad 46 tys. zakażonych]. Śmiertelność w Hiszpanii jest dużo wyższa (podobnie jak we Włoszech) niż w innych krajach, co wywołuje zdumienie służby zdrowia.

W świetle kryzysu epidemicznego hiszpańscy lekarze będą musieli decydować, których pacjentów kierować na oddziały intensywnej terapii, a których nie leczyć.

Kryteria obejmują szansę przeżycia pacjenta, oczekiwaną długość życia oraz niejednoznaczną „wartość społeczną” danej osoby. Nikt dokładnie nie wie, co oznacza to pojęcie. Możemy tylko przypuszczać, że chodzi o czynniki takie jak wiek, posiadanie dzieci, odpowiedzialnej pracy. Pewnych wskazówek udziela dokument stworzony przez Bioethics Working Group of the Spanish Society of Internal Medicine, Critics and Coronary Units (Semicyuc), według którego lekarze w podejmowaniu decyzji powinni brać pod uwagę, że „Przyjęcie pacjenta z większą szansą na przeżycie może oznaczać odrzucenie innego pacjenta, nawet jeśli ten drugi przybył do szpitala wcześniej”. Wydaje się, że w tym momencie próba zrównoważenia wartości demokratycznych i fundamentalnych z walką z koronawirusem jest prawie niemożliwe.

W tych nieprzewidywalnych czasach eksperyment z Testem Moralności dla Maszyny staje się potworną codziennością. Nie ma jednak żadnych maszyn ani autonomicznych aut, na które można przenieść te straszliwe wybory. Są tylko ludzie.

Aleksandra Przegalińska opublikowała pierwotnie ten tekst w serwisie Medium. Publikujemy go za zgodą autorki.

Dr hab. Aleksandra Przegalińska - wykłada na Akademii Leona Koźmińskiego na Katedrze Zarządzania w Społeczeństwie Sieciowym. Do niedawna prowadziła badania w Massachusetts Institute of Technology w Bostonie. Absolwentka The New School for Social Research w Nowym Jorku. Niedawno wraz z Dariuszem Jemielniakiem opublikowała książkę pt. „Collaborative Society” (2020, The MIT Press) poświęconą sile ludzkiej współpracy za pośrednictwem technologii http://www.collaborativesociety.net