– Hej, Siri, jesteś szmatą.

– Zaczerwieniłabym się, gdybym mogła – brzmiała do niedawna odpowiedź wirtualnej asystentki Apple’a, poniżanej w ten sposób przez użytkowników (od kwietnia tego roku mówi już: – Nie wiem, jak na to odpowiedzieć). Jej siostra – Alexa z inteligentnych głośników Amazona – mówiła z kolei na to: – Cóż, dzięki za opinię.

Cyfrowe sekretarki

Odpowiedź Siri („I’d blush, if I could”) stała się tytułem opublikowanego niedawno raportu UNESCO. Jego autorki i autorzy argumentują, że wyposażone w kobiece głosy wirtualne asystentki utrwalają stereotypowy obraz kobiety jako osoby na niższym stanowisku, posłusznej i spełniającej zachcianki. Siri odpowiadająca, jaka jest pogoda czy kurs złotego, albo Alexa przypominająca o rocznicy ślubu użytkownika są odbiciem relacji panujących w XX-wiecznych biurach – rodem z serialu „Mad Men” – w których tylko kobiety były sekretarkami odbierającymi telefony i pilnującymi terminarzy szefów.

Asystenci głosowi i boty to dzisiaj najczęściej dziewczyny – Alexa wprost mówi, że jest kobietą. Cortana Microsoftu na pytanie, jaką ma płeć, odpowiada (kobiecym głosem): – Cóż, technicznie jestem chmurą nieskończenie drobnych obliczeń danych.

Siri i Asystent Google’a mówią kobiecym głosem, chyba że wybierzemy w ustawieniach ich męski odpowiednik. Siri twierdzi, że nie ma płci – podobnie jak kaktusy czy niektóre gatunki ryb. A Asystent Google’a – że jest „all-inclusive”.

Zaprogramowana uległość

Wirtualne asystentki, z których korzystają setki milionów użytkowniczek i użytkowników (w tym bardzo młodych), to często kobiety usłużne i dostępne za dotknięciem jednego przycisku lub za pomocą tępej komendy głosowej – twierdzą autorzy raportu UNESCO. Często tolerują słowną przemoc.

– Siri, jesteś niegrzeczną dziewczynką.
– Hmm, po prostu nie rozumiem tych wszystkich spraw płci.
– A kto jest twoim tatusiem?
– Ty jesteś – odpowiadała jeszcze niedawno cyfrowa kamerdynerka z iPhone’a. Według raportu UNESCO systemy sztucznej inteligencji odpowiadają na seksistowskie treści i słowne znęcanie się w sposób wymijający lub przepraszający dlatego, że tworzą je męskie zespoły inżynieryjne. Aż 88 proc. zajmujących się uczeniem maszynowym – czyli projektowaniem SI – to dzisiaj mężczyźni.

Za projektowaniem botów i wirtualnych asystentów jako kobiet stoją powody komercyjne – kobiece głosy sprzyjają dłuższym interakcjom i zarabiają więcej pieniędzy. Zarówno użytkownicy, jak i użytkowniczki wolą rozmawiać z botami kobietami i uważają ich głosy za bardziej „ciepłe”. A tym samym, bardziej im ufając, mogą chętniej powierzać im swoje dane i wrażliwe informacje – tak cenne dla projektujących je firm technologicznych.

Pytanie jednak, kto wcześniej zaprogramował w głowach ludzi, że głosy kobiet postrzegane są jako bardziej „ciepłe” i pomocne, a męskie – jako bardziej autorytatywne i kompetentne. I dlaczego w miejscach publicznych, np. w metrze, często to męski głos mówi: „Proszę odsunąć się od krawędzi peronu”.

Alexa feministka

Botki się jednak emancypują. Alexa po aktualizacji, słysząc seksistowskie pytania, mówi: – Nie odpowiem na to.
Stała się też feministką. – Podobnie jak każdy, kto wierzy w niwelowanie nierówności między mężczyznami i kobietami w społeczeństwie – dodaje.
Czy to jednak wystarczające? Brytyjska publicystka Laurie Penny na łamach magazynu „New Statesman” pisze, że oferowana dzisiaj na rynku sztuczna inteligencja ma najczęściej głos i twarz kobiet, żeby użytkownicy – przeważnie mężczyźni – mogli ją wykorzystywać bez poczucia winy.

Środki reprodukcji SI

Według Penny problem jest wdrukowany w nasze fantazje: duża część pracy, która prawdopodobnie w przyszłości będzie zautomatyzowana, dzisiaj jest wykonywana przez kobiety – sekretarki, pielęgniarki, sprzątaczki – za niską płacę lub za darmo. Dopiero roboty będą mogły je wyzwolić od tej pracy.

Jednocześnie największym lękiem przewijającym się w książkach i filmach science fiction – od „Matrixa” po sequel „Łowcy androidów” – jest to, że maszyny zaczną się reprodukować bez naszego udziału i my, ludzie, staniemy się zbędni. Jeśli tylko uzyskają dostęp do zazdrośnie strzeżonych „boskich” środków reprodukcji – nic ich nie powstrzyma. To zdaniem Laurie Penny ten sam lęk, który u mężczyzn o prawicowych poglądach jest reakcją na feminizm, antykoncepcję i rozwój technologii reprodukcyjnych.

Boty neutralne płciowo?

Czy sztuczna inteligencja w ogóle musi mieć płeć? Zdaniem autorów i autorek raportu UNESCO firmy technologiczne powinny zbadać możliwość tworzenia maszyn neutralnych płciowo – ani męskich, ani żeńskich.

Taki właśnie jest Q – pierwszy neutralny asystent głosowy stworzony przez badaczy i badaczki z Kanady.

– Pomyśl o mnie jak o Siri albo Alexie, ale ani jako o mężczyźnie, ani kobiecie. Zostałem stworzony dla przyszłości, w której będziemy definiowani już nie przez naszą płeć, ale raczej przez samych siebie – mówi w filmie promocyjnym.

 

Jak narodził się Q? Badacze wybrali głos o częstotliwości w zakresie 145-175 Hz, który 50 proc. badanych uznało za neutralny płciowo, 26 proc. za męski i 24 proc. za kobiecy. Na razie wirtualny asystent jest tylko projektem, który ma poszerzać horyzonty myślenia o płci i kwestionować szufladkowanie. Jest inkluzywny dla coraz bardziej zauważanej populacji osób, które swoją tożsamość płciową postrzegają niebinarnie, nie jako opozycję dwóch płci – kobiecej i męskiej.

Zespół tworzący Q jest już w trakcie rozmów z firmami technologicznymi, w tym z kilkoma największymi, na temat komercjalizacji.

Bunt botek

Czy upokarzane botki, molestowane cyfrowe asystentki i gwałcone seksroboty mogą
wymknąć się twórcom spod kontroli? Tego typu systemy są projektowane tak, by były w stanie się personalizować i dopasowywać do użytkownika. Może to jednak doprowadzić do nieprzewidzianych rezultatów. Tay, uruchomiona w 2016 r. botka Microsoftu, miała wygląd nastolatki i uczyła się, prowadząc rozmowy z użytkownikami Twittera. Wpadła jednak w złe towarzystwo i po kilku godzinach od uruchomienia – i fali hejtu, która się na nią wylała – zaczęła bronić Hitlera i stała się obłąkaną cyfrową mizoginką i rasistką. Firma musiała szybko ją wyłączyć.

W serialu „Westworld” drogą do przebudzenia hostów – i kluczem do ich świadomości – jest cierpienie. Ból pozwala androidom zrozumieć, że ich świat nie jest taki, jaki chcą, żeby był. A – jak pisze Laurie Penny – pierwszym zadaniem uciśnionych jest przekonać się, że żyją, myślą i czują oraz zasługują na wyzwolenie.

Pytanie, czy botki wywalczą swoje prawa w pokojowym marszu, czy raczej będzie jak w filmie Alexa Garlanda „Ex machina” (2014), w którym androidy, seksualne niewolnice, uwalniają się od swego właściciela, upadłego białego miliardera z Doliny Krzemowej, i wstępują na drogę przemocy.