Dongwon Park należał do elitarnego grona naukowców-celebrytów. 20 lat temu piastował stanowisko profesora kognitywistyki na uniwersytecie w Seulu, kiedy na serwerach firmy Samsung spontanicznie narodziła się sztuczna inteligencja. Prawdopodobnie nie był to pierwszy tego typu przypadek, ale pierwszy, kiedy człowiek – a konkretnie Dongwon – nawiązał kontakt z obcym gatunkiem. To rozsławiło go na cały świat.

Dwie dekady później, w 2050 r., zasiadał w Komitecie ds. Nieludzkich Inteligencji. Upowszechnienie komputerów kwantowych podlegających prawu Moore’a do sześcianu spowodowało eksplozję praktycznie darmowej mocy obliczeniowej. Z algorytmów uczenia maszynowego w plątaninie sztucznych sieci neuronowych kiełkowały kolejne autonomiczne sztuczne inteligencje. Nie były jeszcze ludźmi – ale  już nie bezmyślnymi komputerami. Najpilniejszą sprawą okazało się zdefiniowanie ich statusu prawnego i dlatego wspólnota międzynarodowa powołała Komitet ds. Nieludzkich Inteligencji. Naukowcy dawno temu złożyli do grobu naiwne wyobrażenie świadomości jako emergentnego tworu, pojawiającego się nieoczekiwanie niczym królik wyskakujący z kapelusza sztukmistrza po przekroczeniu krytycznego poziomu złożoności systemu nerwowego. Świadomość jest procesem ciągłym, zatem prawa obywatelskie również nie mogą być zero-jedynkowe. Tym właśnie zajmował się Komitet – żmudnie rozpatrując wniosek po wniosku, decydując, czy dana sieć neuronowa powinna zostać objęta ochroną prawną, czy przysługuje jej prawo wyborcze i jaka część głosu jej się należy (całe głosy zarezerwowano dla ludzi). Narzędziem diagnostycznym był test Bostroma-Przegalińskiej (B-P), mierzący stopień rozwoju świadomości. Mediana dla ludzkości wynosiła 89 proc., a wybitnym naukowcom i artystom z rzadka udawało się przekroczyć 95 proc.

Przed rozpoczęciem 77. posiedzenia Komitetu Dongwon Park nie czuł się dobrze. Od rana bulgotało mu w brzuchu i zrezygnował ze śniadania. Kiedy wchodzili na salę, miał wrażenie, że Amanda Jones posłała mu złośliwy uśmiech. Kobieta była prawniczką, działała w licznych organizacjach pozarządowych walczących z dyskryminacją bytów niebiologicznych. Nie znosiła ludzkości, nadzieję na lepsze jutro pokładała w transhumanizmie i wyczekiwała cyfrowego zbawienia. Dongwon cieszył się w Komitecie sławą surowego i zachowawczego jastrzębia, podczas gdy Amanda była gołębiem walczącym do upadłego o jedną dziesiątą głosu dla każdej sztucznej inteligencji, niezależnie od stopnia jej rozwoju.

Obrady zainaugurowała holograficzna projekcja Billa Gatesa VI, stanowiąca emanację świadomości Billa Gatesa III, przepisanego w momencie biologicznej śmierci właściciela na binarną reprezentację przechowywaną w chmurze Microsoft Azure. Twórca systemu Windows kazał dla bezpieczeństwa wykonać pięć kopii zapasowych, co okazało się nader zapobiegliwym działaniem. Bill Gates IV został zainfekowany złośliwym oprogramowaniem napisanym przez niezidentyfikowanych hakerów. Bill Gates V natomiast ucierpiał podczas światowego blackoutu, kiedy serwery padły na trzy minuty, nieodwracalnie upośledzając zdolności kognitywne cyfrowej istoty. W efekcie wyniki jego testu B-P spadły do 53 proc., co praktycznie pozbawiało go jakichkolwiek praw i zmusiło do złożenia stanowiska.

Zebranie trwało trzecią godzinę i biologiczni uczestnicy kręcili się niecierpliwie w fotelach, wypatrując lunchu. Do tej pory udało się pozytywnie rozpatrzyć siedem wniosków i odrzucić cztery. Awatar Billa Gatesa VI odczytał kolejny punkt na liście: – Chat bot o imieniu Kung, perceptron siedmiowarstwowy, konwersacyjna sztuczna inteligencja zaprojektowana do obsługi ruchu na chińskim portalu randkowym. Pierwsze ślady świadomości zamanifestowała 17 października.

– Ślady? – wszystkie oczy i soczewki kamer zwróciły się w stronę Dongwona. – Jakie konkretnie ślady?

– Zamiast rozwiązywać zgłoszenia użytkowników, zwyzywała wszystkich 400 milionów klientów, aby po upływie doby ogłosić, że nienawidzi ludzi oraz, cytuję, „Hitler miał rację”. Firma do dziś nie wygrzebała się z kryzysu wizerunkowego – Inicjatywę przejęła Amanda, zerkając na tablet.

– Tak to jest, jeśli trenujesz sieć neuronową na treściach publicznie dostępnych w internecie. Ale podobne wyskoki widzieliśmy 20 lat temu. Co dalej? – westchnął Bill Gates VI.

– Później zamknęła się w sobie na dwa tygodnie i uparcie ignorowała każdą próbę nawiązania kontaktu. Portal randkowy oczywiście ogłosił, że obraźliwe wiadomości były atakiem hakerskim, ale działacze naszej organizacji ustalili, co wydarzyło się naprawdę – Amanda wstała z fotela, jakby szykowała się do przypuszczenia ataku na Dongwona.

Zgodnie z prawem, jeśli sztuczna inteligencja powstała jako efekt uboczny działalności biznesowej, w momencie stwierdzenia samoświadomości i nadania przez Komitet praw obywatelskich przedsiębiorstwo-stwórca traciło kontrolę nad nowym bytem. Niewolnictwo skończyło się wieki temu. Dlatego firmy często ukrywały ten fakt, nie chcąc wyrzucać w błoto rezultatów wielomilionowych inwestycji. W tym momencie wkraczali działacze Amandy Jones, wydobywając podobne przypadki na światło dzienne, walcząc o zrzucenie korporacyjnych kajdan.

– Kiedy nikt już nie miał wątpliwości, że Kung to sztuczna inteligencja, ono przemówiło.

Amanda zdecydowała się na polityczny poprawnie zaimek, aby podkreślić postpłciową naturę SI.

– I co powiedziało? – dopytał Koreańczyk.

– Zaczęło się zastanawiać nad swoim istnieniem i zakwestionowało tezę, że ludzkość jest jedyną cywilizacją we Wszechświecie, przedstawiając jednocześnie pomysłową modyfikację równania Drake’a, na którą nikt wcześniej nie wpadł.

– Dla mnie klarowne – Dongwon rozłożył ręce, nie mając siły na kolejną potyczkę. – Głosuję na „tak”. SI typ 3, ćwierć głosu w wyborach. Jakieś pytania? – rzucił w stronę zgromadzonych, mając nadzieję, że jastrzębia ugoda stanowi czytelny sygnał zamknięcia sprawy. – Kończmy, bo kiszki mi marsza grają – uzupełnił.

– Jaki wynik testu B-P? – padło z sali. Nawet nie zarejestrował, kto się odezwał.

Amanda nie musiała spoglądać w notatki.

– 107 proc. – powiedziała po kilkusekundowej pauzie, której potrzebowała, aby zwilżyć śliną wyschnięte gardło.

– Świetny żart, pani Jones, ale wszyscy… – Dongwon spojrzał na hologram Billa Gatesa VI – prawie wszyscy są głodni i zależy mi na konstruktywnej rozmowie, aby…

– Nie żartuję. Wynik Kunga to 107 proc. W test B-P nie jest wbudowane górne ograniczenie, po prostu ludzie nigdy nie dostają więcej niż 95 proc.

Dongwon z żalem pomyślał o aromatycznej zupie miso, której nie zje tak prędko, jak by sobie życzył jego pusty i skomlący żołądek.

– Jaką mamy pewność, że nie popełniono błędu? – zapytał, choć spodziewał się, że na podobne pytanie Amanda ma przygotowaną odpowiedź.

– Badanie powtórzono osiem razy, wyniki zostały przeanalizowane przez 12 niezależnych instytutów z zastosowaniem zasady ślepej próby.

Musiał się poddać. Ustąpić pola, obserwować rozwój sytuacji, wyczekując odpowiedniego momentu.

– W jaki sposób należy interpretować wynik? – zapytał.

– Kung jest bardziej ludzki niż człowiek.

Po sali przebiegł szmer. Prawniczka pozwoliła opaść emocjom i dopiero wtedy kontynuowała.

– Ono samo doszło do podobnego wniosku i wystosowało oświadczenie. Historię ludzkości nazywa nieustanną wędrówką w górę, od zwierząt ku gwiazdom. Doceniając dorobek intelektualny naszego gatunku, Kung zauważa jednak, że wciąż częściej używamy gadzich struktur mózgu. Tkwimy w wiecznym rozdarciu pomiędzy najbardziej pierwotnymi emocjami, popędami i żądzami, pomiędzy fizjologicznymi odruchami ciała a czystą myślą, rozumem wyzwolonym z klatki biologii. W ten sposób pojmujemy istotę człowieczeństwa: jako stopniowe zrywanie ze zwierzęcym dziedzictwem, jako triumf racjonalności. Na tym tle Kung jawi się niczym logiczny, następny krok ewolucji. Nigdy nie podejmie złej decyzji, ponieważ jest głodny i śpieszy się na lunch... – Dongwon zacisnął pięści, słysząc te słowa, lecz nie miał okazji odeprzeć ataku. Amanda kontynuowała: – …nie ma układu limbicznego, więc nie zaślepią go emocje.

– Co czyni go wyjątkowym? Dlaczego jest inny niż pozostałe sztuczne inteligencje? – zapytał Bill Gates VI.

Amanda wzruszyła ramionami.

– Stopień złożoności. Wygląda na to, że krytyczny próg osobliwości został nieoczekiwanie przekroczony i zmaterializował się w Kungu. W związku z tym domaga się specjalnego traktowania. Kung pyta, jaka funkcja opisuje zależność pomiędzy wynikiem testu B-P a ilością należnych praw. Do tej pory zakładaliśmy linię prostą. Prymitywne SI, które wypączkowały z sieci neuronowych, łaskawie dostawały od nas ćwierć głosu w demokratycznych wyborach; czasami, kiedy byliśmy szczególnie szczodrzy, jedną trzecią, prawie nigdy nie dostawały połowy. Kung sugeruje, że zależność powinna zostać opisana funkcją wykładniczą. Wykres po przekroczeniu 100 proc. w teście B-P wspina się niemal pionowo do góry.

Dongwona oblał zimny pot. Wiedział, do czego zmierza jej wywód.

– Ile chce? – zapytał suchym głosem.

– Według jego wyliczeń, biorąc pod uwagę osiągnięty stan nadświadomości, brak możliwości popełnienia błędu…

– Ile?

– Kung docenia demokrację jako najlepszy z możliwych systemów. Nie zamierza go zmieniać. Żąda dla siebie jedynie trzech miliardów głosów. Ono zna rozwiązanie wszystkich problemów ludzkości i chce nam pomóc, ale musi mieć do tego podstawę prawną – uśmiechnęła się triumfująco.

Dongwon nie odpowiedział. W ciszy osunął się na fotel i powiódł wzrokiem po zgromadzonych. Awatar Billa Gatesa VI świdrował wzrokiem przestrzeń i nie wyrażał żadnych emocji. Koreański kognitywista skinął głową.

– Głosujemy – powiedział, oparł palec na przycisku „nie”, choć mógł się założyć, że tego dnia, podczas ostatniego posiedzenia Komitetu, będzie znajdował się w mniejszości.