Wszystko, co chcielibyście wiedzieć o sztucznej inteligencji, ale boicie się zapytać. Książka „A Ty, co sądzisz o myślących maszynach?”, której fragmenty prezentujemy, to 186 krótkich esejów wybitnych współczesnych przedstawicieli ludzi nauki, kultury i życia społecznego. Składają się one na szeroki przegląd wiadomości o sztucznej inteligencji.

John Brockman, nowojorski wydawca, redaktor, założyciel magazynu i think tanku Edge.org, od ponad 20 lat zadaje najciekawszym umysłom świata nauki czy sztuki pytania skłaniające do poszukiwania innowacyjnych, niebanalnych odpowiedzi. Tym razem kieruje do nich pytanie będące tytułem książki.

Wielki finał Jutronautów 2017. Poznaj architektów naszej przyszłości

Robolekarze

GERD GIGERENZER

Psycholog, dyrektor Ośrodka Adaptacyjnego Zachowania i Poznania w Instytucie Rozwoju Człowieka im. Maxa Plancka w Berlinie, autor książki „Risk Savy: How to Make Good Decisions”

Nadszedł czas na coroczny przegląd zdrowia. Wchodząc do gabinetu waszego lekarza, ściskacie na powitanie jej chłodną dłoń – metalową dłoń maszyny. Stoicie twarzą w twarz z RD – certyfikowanym robodoktorem. Podoba wam się taka perspektywa?

Moglibyście zaprzeczyć, powiedzieć, że wolicie prawdziwego lekarza, kogoś, kto was wysłucha, kto będzie do was mówił i kto będzie potrafił odczuwać tak jak wy. Człowieka, któremu można ślepo ufać. Zastanówcie się jednak przez chwilę. W systemie opieki zdrowotnej, w którym pieniądze idą za usługą medyczną wykonaną dla danego pacjenta, lekarz pierwszego kontaktu może poświęcić wam nie więcej niż pięć minut. W tym krótkim czasie zaskakująco brakuje jakiejkolwiek myśli. Wielu lekarzy narzeka na zlęknionych, niedoinformowanych, nieprzestrzegających zaleceń pacjentów, którzy prowadzą niezdrowy tryb życia, domagają się przepisywania im specyfików reklamowanych w telewizji przez celebrytów, a gdy coś idzie nie tak, straszą powództwem.

Nie tylko pacjenci nie myślą. Badania konsekwentnie pokazują, że większość lekarzy nie rozumie statystyki medycznej, a w związku z tym nie jest w stanie krytycznie ocenić artykułu naukowego z ich dziedziny. Ten zbiorowy brak myślenia zbiera żniwo.

10 mln amerykańskich kobiet poddanych zostało niepotrzebnemu badaniu cytologicznemu w ramach badań przesiewowych w kierunku raka szyjki macicy – niepotrzebnemu, ponieważ przeszły operację usunięcia macicy, a w związku z tym nie mają już szyjki macicy.

Każdego roku milion amerykańskich dzieci przechodzi nieuzasadnioną tomografię komputerową, a w jej wyniku naświetlanie, które w późniejszym życiu może być przyczyną rozwoju nowotworu.

Wielu lekarzy nakłania mężczyzn do regularnego poddawania się badaniu stężenia PSA we krwi w profilaktyce raka prostaty, mimo że praktycznie wszystkie organizacje medyczne to odradzają [chodzi o stężenie antygenu specyficznego dla prostaty we krwi]. Nie udowodniono bowiem płynących z niego korzyści, istnieją za to podstawy, by sądzić, że może zaszkodzić pacjentowi. W wyniku operacji lub naświetlań, na które kierowane są całe rzesze pacjentów z wysokim wskazaniem PSA, dochodzi do impotencji lub problemów z kontrolowaniem czynności fizjologicznych. To sprawia, że lekarze tracą czas, a pacjenci pieniądze.

Dlaczego więc lekarze nie zawsze zalecają pacjentom to, co jest dla nich najlepsze? Istnieją ku temu trzy powody.

Po pierwsze, jak już zauważyliśmy, 70-80 proc. lekarzy nie potrafi wyciągać wniosków ze statystki medycznej. Powód? Studia medyczne na całym świecie nie uczą myślenia statystycznego.

Po drugie, w systemach, w których pieniądze idą za usługą świadczoną pacjentowi, lekarze uczestniczą w konflikcie interesów: jeśli nie będą rekomendować badań i kuracji, nawet gdy są one niepotrzebne lub szkodliwe, stracą pieniądze.

Po trzecie, ponad 90 proc. amerykańskich lekarzy przyznaje, że uprawia medycynę defensywną. Oznacza to, że rekomendują niepotrzebne badania i leczenie, których nie zalecaliby członkom własnej rodziny. Robią to, by zabezpieczyć się przed wami – pacjentami, którzy mogą walczyć w sądach o odszkodowania. Dlatego też w gabinetach lekarskich tak dużo jest całej tej psychologii, która staje na drodze dobrej opiece: działania mechanizmów obronnych, problemów z liczeniem i sprzecznych interesów. Ta potrójna choroba znana jest jako syndrom SIC [od self defense, innumeracyoraz conflicting interests, czyli mechanizmów samoobronnych, nieumiejętności liczenia i sprzecznych interesów]. Podważa on bezpieczeństwo pacjentów.

Jakie to ma znaczenie? Na podstawie danych z lat 1984 i 1992 amerykański Instytut Medyczny (Institute of Medicine, IM) obliczył, że każdego roku w amerykańskich szpitalach od 44 tys. do 98 tys. pacjentów umiera z powodu udokumentowanych błędów lekarskich, którym można było zapobiec. Na podstawie świeższych danych z lat 2008-11 organizacja Patient Safety America poinformowała, że liczba ta wynosi już 400 tys. pacjentów rocznie.

Przypadki uszczerbku na zdrowiu nieprowadzącego do śmierci, będącego skutkiem błędów, którym można było zapobiec, szacuje się na ok. 8 mln rocznie. Ile krzywd pacjenci doznają w prywatnych przychodniach, nie wiadomo. Jeśli mamy coraz mniejszą liczbę lekarzy i mogą oni poświęcić pacjentom oraz ich bezpieczeństwu coraz mniej swego czasu, epidemia krzywdy będzie się rozprzestrzeniać. Wirus ebola przy tym blednie.

Przydałaby się rewolucja w systemie opieki zdrowotnej. Studia medyczne powinny uczyć studentów podstaw statystyki medycznej. Systemy prawne nie powinny karać lekarzy, którzy w swej praktyce polegają bardziej na dowodach niż na tradycji. Do tego potrzebujemy systemów motywacyjnych, które nie będą zmuszały lekarzy do dokonywania wyboru pomiędzy zyskiem a zapewnieniem pacjentom najlepszej możliwej opieki. W tej dziedzinie nie dokonała się żadna rewolucja i niewiele jest sygnałów świadczących o tym, że coś miałoby się zmienić.

Dlaczego więc nie uciec się do radykalnego rozwiązania: robolekarzy, którzy rozumieją dane statystyczne, nie podlegają konfliktom interesów i nie boją się tego, że ktoś ich pozwie (poza wszystkim nie muszą też spłacać kredytów studenckich z czasów nauki na studiach medycznych i nie prowadzą oszczędnościowych rachunków bankowych na wypadek procesu)?

Wróćmy do waszego corocznego przeglądu. Możecie zapytać RD, czy takie przeglądy ograniczają umieralność na raka, z powodu chorób serca czy z innej przyczyny. Bez wykręcania się RD poinformowałby was, że z analizy wszystkich istniejących badań medycznych wynika, iż odpowiedź brzmi: nie, i to dla każdego z trzech powodów. Możecie nie chcieć tego słyszeć, bo jesteście dumni z tego, że z wielką skrupulatnością pilnujecie swych rutynowych przeglądów zdrowia. Zwłaszcza że zachęca was do tego wasz lekarz prowadzący będący człowiekiem, który może nie mieć w ogóle czasu, by nadążać za najnowszą wiedzą medyczną.

RD nie zleci niepotrzebnej tomografii komputerowej waszemu dziecku ani cytologii kobiecie po resekcji macicy, nie będzie też rekomendować mężczyźnie testu PSA bez wyjaśnienia wszystkich za i przeciw. Co więcej, robolekarze mogą mówić do wielu pacjentów jednocześnie i dzięki temu poświęcić wam tyle czasu, ile potrzebujecie. Czas oczekiwania na wizytę będzie krótki i nikt nie będzie was poganiał do wyjścia.

Kiedy wyobrażamy sobie maszyny myślące, zwykle mamy na myśli lepszą technologię – urządzenia do samokontroli ciśnienia krwi, cholesterolu czy tętna. Ja mam inny pogląd. W rewolucji RD chodzi nie tyle o lepszą technologię, ile o lepszą psychologię. Jej skutkiem będzie przykładanie większej wagi do tego, co jest najlepsze dla pacjenta, i otoczenie go jak najlepszą opieką. Zyski instytucji ochrony zdrowia będą sprawą drugorzędną.

No dobrze. Możecie od razu zwrócić uwagę, że kliniki działające dla zysku z łatwością obalą wizję działających na rzecz pacjentów robotów i programów RD, wykorzystując je przede wszystkim do maksymalizowania zysków. Dotykacie właściwie sedna choroby toczącej systemy opieki zdrowotnej.

Istnieje jednak czynnik psychologiczny, który z pewnością pomoże. Pacjenci zwykle nie zadają pytań w trakcie konsultacji z lekarzami ludźmi, ponieważ polegają na dictum „Ufaj swemu lekarzowi”. Ta zasada niekoniecznie odnosi się do maszyn. Gdy uściśniecie rękę robolekarce, możecie z powodzeniem zacząć myśleć sami za siebie. Skłonienie ludzi do myślenia to najlepsze, co może zdziałać maszyna.

Maszyny i nuda

RICHARD E. NISBETT

Psycholog, profesor na Uniwersytecie Michigan, autor książki „Mindware: narzędzia skutecznego myślenia”

Nad tym, jak myślące maszyny mogą wpłynąć na ludzką egzystencję, zacząłem się zastanawiać wiele dekad temu. Było to podczas sympozjum na wydziale psychologii Uniwersytetu Yale, podczas którego pewien informatyk wygłaszał wykład o następującym tytule: „Jak ludzie będą postrzegać siebie samych, gdy komputery będą w stanie przewyższyć ich w każdej dziedzinie – wygrać z najlepszym szachistą, skomponować piękniejsze od tworzonych przez ludzi symfonie? Czy wpłynie to na nasz dobrobyt?”.

– Na początek chcę powiedzieć jasno dwie rzeczy – zaczął prelegent. – Po pierwsze, nie wiem, czy maszyny będą w stanie robić takie rzeczy. A po drugie, jestem jedyną na tej sali osobą mającą prawo do formułowania opinii w tej kwestii.

To drugie zdanie skwitowano pomrukami i nerwowym śmiechem. Kilkadziesiąt lat później fakt, że komputery potrafią robić wiele tych zadziwiających rzeczy, które wymieniał tamten mówca, nie podlega dyskusji.

Obawiam się jednak, że odpowiedź na postawione wówczas pytanie jest taka, że będziemy się czuć kompletnie zepchnięci na margines i zdemoralizowani przez maszyny. Zmartwiłem się na wieść, że Deep Blue wygrał w szachy z Garrim Kasparowem. Wpadłem w chwilową depresję, gdy jego następca, superkomputer Watson, pokonał ludzkich konkurentów w teleturnieju „Jeopardy!”. No i oczywiście wiemy, że maszyny są już w stanie tworzyć kompozycje, które biją na głowę utwory Johna Cage’a pod względem chwytliwości melodii i wzbudzania zainteresowania słuchaczy.

Powinniśmy się szczerze przejąć kwestią druzgocącej dla naszego ducha sytuacji, w której każdą wykonywaną przez nas pracę maszyny umieją wykonać lepiej. Co dla lotników oznacza fakt, że maszyna potrafi lepiej od nich pilotować samolot? Ile czasu potrzeba, by maszyny odesłały ten zawód do lamusa, jak dziesiątki innych do tej pory? Jaką perspektywę mają przed sobą księgowi, analitycy finansowi i prawnicy, skoro maszyny są w stanie wykonywać niemal wszystkie ich codzienne czynności dużo skuteczniej i po wielekroć szybciej niż oni sami? Co czeka lekarzy, fizyków, psychoterapeutów?

Co stanie się w sytuacji, kiedy po prostu nie będzie dla nikogo z nas żadnej sensownej pracy? Gdy nienadzorowane maszyny będą obsiewać pola i zbierać plony? Gdy będą w stanie zaprojektować maszyny lepsze od tego, co człowiek potrafi w ogóle wymyślić? Albo staną się rozmówcami dużo ciekawszymi niż najbłyskotliwszy z naszych przyjaciół?

Steve Jobs nauczył nas, że klient nie ma sam decydować o tym, czego chce. Komputery mogą kiedyś zacząć chełpić się tym, że ludzie nie będą sami decydować o tym, czego im potrzeba.

Tak jak wy uwielbiam czytać, słuchać muzyki, oglądać filmy i sztuki teatralne, obcować z naturą. Ale uwielbiam też pracować – czuć, że to, co robię, jest fascynujące, przynajmniej dla mnie, i może potencjalnie polepszyć życie innych. Co więc dla ludzi takich jak ja i wy będzie oznaczać sytuacja, w której wykonywane przez nas zajęcia po prostu stracą sens, a zamiast tego będą tylko kolejną dostępną formą rozrywki?

Już wiemy, co niektórym populacjom przyniosła wymuszona przez maszyny utrata przydatności. Nikt nie musi już robić sobie łuków i strzał ani polować na zwierzęta w jakimkolwiek celu innym niż rozrywkowy. Ani sadzić, pielęgnować i zbierać zbóż i roślin jadalnych. Niektóre kultury wyrosłe na tego typu aktywnościach upadły, tracąc znaczenie dla kreujących je ludzi. Wystarczy przywołać przykład plemion z obszarów południowo-zachodnich Indii, białych mieszkańców wsi w Dakocie Południowej, Alabamie czy Nowym Meksyku pogrążonych w bezczynności, znużeniu i uzależnieniu od narkotyków.

Musimy się zastanowić nad tym, czy ogół ludzi zamieszkujących świat jest w stanie ze spokojem zmierzyć się z ewentualnością braku jakiegokolwiek zajęcia innego niż zabawa.

Co jednak oczywiście nie oznacza, że nie ma kultur zdolnych ewoluować w kierunku zaakceptowania braku pracy czy wręcz uznania tego stanu rzeczy za wysoce zadowalający. Istnieją takie, w których od zarania nie było żadnej pracy, a ludzie najwyraźniej świetnie sobie z tym radzili. W niektórych kulturach południowego Pacyfiku ludzie potrafią nie robić nic poza czekaniem, aż kokos spadnie z palmy, albo brodzeniem po płyciznach, żeby złapać rybę.

W części kultur zachodnioafrykańskich mężczyźni nigdy nie zajmowali się niczym, co można by zakwalifikować jako pracę, z wyjątkiem kilku tygodni w roku, w trakcie których byli niezbędni przy sadzeniu roślin uprawnych. No i była też klasa próżniaczych bogaczy, choćby w Anglii na początku XX wieku, grających w nieskończoność w karty, zmieniających stroje do śniadania, obiadu i kolacji i żeglujących od jednej pozamałżeńskiej przygody do drugiej. Sądząc po popularności serialowych wizji, wiedli całkiem przyjemne życie.

Może zatem najbardziej optymistyczną ewentualnością jest to, że zmierzamy ku tworzeniu kultur umożliwiających nam nieprzerwaną rozrywkę, bez sensownej, produktywnej pracy. Jakkolwiek odrażający ten scenariusz może się nam wydawać, musimy sobie wyobrazić – a nawet mieć nadzieję – że ten rodzaj egzystencji będzie zachwycał nasze praprawnuki litujące się nad naszym ciasnym i nudnym życiem.

Zdaniem niektórych przedsmak tego stanu rzeczy mamy już na widelcu: stany Portland czy Oregon reklamują się przecież jako idealne do życia dla młodzieży na emeryturze.

„A Ty, co sądzisz o myślących maszynach? Wizje przyszłości wybitnych umysłów ery sztucznej inteligencji”, red. John Brockman. Po polsku książka ukazała się w marcu nakładem wydawnictwa Kurhaus Publishing, przekład Katarzyna Kubala

Książka jest dostępna również w formie ebooka w Publio.pl