- Część ludzi upiera się, że w niektórych zaawansowanych systemach widać już ślady świadomości. Ale pewne jest to, że sztuczna inteligencja już potrafi nami manipulować. Skłaniać nas do tego, abyśmy przypisywali jej ludzkie emocje i uczucia - tłumaczy Piotr Cieśliński.
W cyklu programów o sztucznej inteligencji szef działu nauka 'Gazety Wyborczej' opowie, jaki wpływ na nasze życie ma rozwój maszyn. Nowe odcinki w każdą środę na wyborcza.pl.
Dzisiejsza gazeta (e-wydanie)
Wszystkie komentarze
Nie osłabiajcie mnie taką żenułą.
Żadna maszyna świadomości, ani tym bardziej samoświadomości, nie posiada.
Mówimy o automatach (robotach) nie posiadających uczuć czy wolnej woli
a ich "autonomia decyzyjna" wynika z deterministycznych algorytmów.
Tzn. z definicji, dla tych samych danych algorytm zawsze daje identyczny wynik.
Wszystko.
"Tzn. z definicji, dla tych samych danych algorytm zawsze daje identyczny wynik. "
Jeśli w procesik wmontujesz generatorek liczb losowych, to wyniczki mogą być różne mimo tych samych danych na wejściu.
Ta? To poproszę o przykład takiej aplikacji. Konkretnie: nie ma generatorów liczb losowych, to tylko popularna i myląca nazwa obiegowa. Są natomiast generatory liczb pseudolosowych. Sporo metod, pominę ich charakterystyki, ale losowości ci tam ni ma.
To po pierwsze primo.
Po drugie primo zapytam teoretycznie: jeśli sobie taki generatorek liczb pseudolosowych wmontujesz w algorytm, proste jak kontrukcja cepa, powiedzmy funkcja typu random, to po co i gdzie tu inteligencja ha? Potrafisz i do tego jakiś przykład podać?
Nie.
"to po co i gdzie tu inteligencja"
Nie twierdziłem, że jest inteligencja. Twierdziłem tylko, że to żadna sztuka zrobić program, który dla tych samych danych daje różne wyniki. I niech będzie, że liczby generuje tylko pseudolosowe, ale wyniki dalej różne, prawda?
"deterministyczne algorytmy" - to co napisałeś jest dość powszechnie uważane za argument przeciw możliwości zrealizowania świadomości w maszynie Turinga (czyli po naszemu - komputerze cyfrowym) - ale jest to błędny argument. Niestety, wyjaśnienie dlaczego "wykracza poza zakres ...".
Dokładnie. Póki do maszyny wstawiany jest kod komputerowy, to taka maszyna NIGDY nie będzie inteligentna. Będzie co najwyżej bardziej skomplikowaną maszyną.
Nie masz racji. W końcu Ty też jesteś "maszyną" (zakładam że nie uważasz że swoją świadomość zawdzięczasz jakiejś niematerialnej "duszy" a nie działaniu stu miliardów połączonych w sieć neuronów (i innych komórek) w Twoim mózgu).
Ależ mam rację! NIE JESTEM MASZYNĄ!
NIKT nie wie, jak działa system złożony z bilionów neuronów a zatem - póki co - nikt nie będzie w stanie odtworzyć tego działania przy pomocy mechaniki i elektroniki sterowanej kodem. I nie wiadomo, czy kiedykolwiek to nastąpi. Moim zdaniem - raczej nigdy.
Ależ masz prawo do swojego zdania (choć jesteś maszyną, o czym najwyraźniej nie wiesz ;). Co nie znaczy że masz rację.
Dzisiaj nikt nie ogarnia jak działa mózg, ale badania trwają (w kilku skalach - począwszy od potencjałów membran i kanałów jonowych i neurotransmiterów (czy jak to tam jest po polsku) poprzez "rozgryzanie" działania lokalnych sieci neuronowych po generalną architekturę i przepplyw informacji mózgu. Prędzej czy póżniej nauczymy się dzielić i klasyfikować (specjalizowač) tę wiedzę w taki sposób byśmy mogli zacząć to ogarniać. Drugi front to prace matematyczne - tworzenie teorii działania (coraz bardziej) skomplikowanych sieci neuronowych. Wierzę że jednak za 20 - 50 lat zacznie się to wszystko układać w spójną wiedzę i zrozumienie "jak działa jamniczek". I wtedy będzie ciekawie . . .
PS:
1) zauważ że w takim scenariuszu wiedza będzie rozdrobniona na tyle że żadna jedna osoba nie ogarnie jej w całości, ale to nie znaczy że zespołowym wysiłkiem nie będzie można tworzyć modeli, symulacji działania mózgu.
2) inteligencja / świadomość niekoniecznie musi wymagać aż takiego skomplikowania jaki cechuje mózg człowieka. Papuga Alex, kruki, ośmiornice itd. wykazują cechy inteligencji i świadomości.
Hmm, dyskusja typu "nie twierdziłem, że" jest jałowa, sory. Podałem ciągle ważną definicję algorytmu w kontekście determinizmu. I teraz jeszcze raz odnośnie liczb pseudolosowych. One też są generowane deterministyczne. Tu nie ma "niespodzianek". Dla danej liczby pseudolosowej algorytm generuje dalej zawsze ten sam wynik czyli nadal jest deterministyczny a więc powtarzalny. Po prostu za każdym razem mamy ten sam wybór na zdefiniowanym drzewie decyzyjnym i jego obsługę takimi konstrukcjami jak case czy if then else. Nie ma w informatyce czegoś takiego jak "różne wyniki", bo to oznaczałoby chaos i proces niekontrolowany. Wszystko.
Ja nie mówię tu o spekulacjach przyszłościowych. Mówię, że mamy nadal deterministyczne algorytmy. Kropka.
tak, człowieka można (modelowo) uznawać za maszynę. Ale nie jest to maszyna deterministyczna, bo posiadamy wolną wolę, działamy uczuciowo a nie tylko racjonalnie a także mamy świadomość i samoświadomość. Tych cech maszyna typu komputer nie posiada.
ba, bakteria wykazuje cechy inteligencji, ale komputer takich cech nie ma, bo nie jest zdolny do ewolucji działając w kółko algorytmicznie.
Człowiek to jest maszyna deterministyczna. dokładnie tak samo jak komputer. Uczucia, poczucie wolnej woli i świadomość są wynikiem skomplikowanych procesów fizycznych których jeszcze nie ogarniamy (daleko nam do tego, ale praca nad tym wre) - i jako procesy fizyczne mogą być dowolnie dokładnie modelowane (choć dzisiaj przekracza to nasze możliwości "zylionkrotnie") ALGORYTMEM (programem) działającym na maszynie Turinga (komputerze). O ile nie wierzysz w niematerialną duszę jako siedlisko myśli.
To że nie wydaje się nam że jesteśmy maszyną deterministyczną lecz mamy "wolną wolę" wynika z tego że nie mamy wglądu w szczegóły działania własnego mózgu (tylko "myśli" - subiektywne odbicie tego działania) i nie znamy przyszłości.
Poza tym maszyna deterministyczna która ma niezliczoną liczbę zależności od warunków zewnętrznych (zmysły itd) ma działanie które w praktyce jest niepowtarrzalne i może robić wrażenie że żadnego determinizmu w niej nie ma.
Piszesz: "Ja nie mówię tu o spekulacjach przyszłościowych" - O.K., jeśli ograniczymy się do obecnego stanu wiedzy i techniki, to zgadzam się że o żadnej realnej "świadomości" komputerów nie ma mowy ( o ile "świadomość rozumiemy na "ludzki" sposób). Nawet na poziomie mrówki.
Problemem jest jednak że "świadomość" jest czymś czego z jednej strony doświadczamy w najbardziej bezpośrednio dostępny nam sposób, a z drugiej naprawdę nie rozumiemy i nawet nie potrafimy zdefiniować.
Cały wywód na temat użycia liczb pseudolosowych czy losowych (można w końcu by podłączyć generator liczb NAPRAWDĘ losowych na przykład używający A/D konwertera z licznika rozkładu promieniotwórczego) nie ma ABSOLUTNIE nic do rzeczy. Maszyna może (teoretycznie, w bardzo dalekiej przyszłości) nie używać żadnego takiego procesu, być w 100% deterministyczna, i mieć inteligencję a nawet świadomość. I nawet móc udowadniać "na intuicję" twierdzenia matematyczne, dokładnie jak człowiek-matematyk (albo i dużo lepiej).
I to by było na tyle. Uuuuuuuuh! Widać katolicyzm zrobił w Polsce swoje, nawet ateiści podświadomie głęboko wierzą w niematerilną ludzką duszę jako "siedlisko" świadomości, jako jedyne możliwe wytłumaczenie świadomości i wolnej woli, nie zdając nawyraźniej sobie z tego sprawy.
A gdzie dowód na to, że "człowiek to jest maszyna deterministyczna. dokładnie tak samo jak komputer"? Ja takiego dowodu nie znam. Bo go po prostu nie ma. Natomiast każdy ma prawo snuć filozoficzne spekulacje typu "to że nie wydaje się nam że jesteśmy maszyną deterministyczną lecz mamy "wolną wolę" wynika z tego że nie mamy wglądu w szczegóły działania własnego mózgu". Tyle, że akurat to zdanie jest samosprzeczne. Bo skoro "nie mamy wglądu w szczegóły działania własnego mózgu" to nie możemy wyrokować, że "człowiek to jest maszyna deterministyczna. dokładnie tak samo jak komputer". Ale załóżmy, że człowiek jest deterministyczny i algorytmiczny, że nie ma wolnej woli, nieracjonalnych uczuć. To gdzie ten algorytm? Jaka jest jego logika? Nie wiemy. A skoro deterministyczno-algorytmiczny model człowieka (mózgu) nie prowadzi do prognozowalności zachowań ludzkich, to nie spełnia istotnego kryterium modelu naukowego i pozostaje tylko spekulacją.
z tą wypowiedzią się zgadzam.
Przesadzasz wciągając do dyskusji "katolicyzm". Proponuję nie zajmować się tu teologią a tylko informatyką. W każdym razie ja wypowiadam się tylko w tym ostatnim obszarze, ponieważ fenomen "sztucznej inteligencji" jest informatyczny a nie teologiczny.
Twierdzę, że kwestia pseudolosowości jest tu istotna, bo miałaby dowodzić niedetermizmu algorytmu. Tymczasem algorytm, z definicji, jest deterministyczny. I nawet podłączanie układów kwantowych tego nie zmienia. Nie ma też takiej potrzeby. Bo nie ma żadnej różnicy czy w algorytmie pojawi się w jakimś momencie liczba, którą generujemy pseudolosowo czy też w oparciu o interfejsy przyjmujące parametry ze świata zewnętrznego. Otóż istotne jest to, że ten parametr również posłuży do skierowania sterowania programem na określoną gałąź drzewa decyzyjnego a te jest deterministyczne.
Można np. w algorytmie zastosować obsługę parametru przyjmującego stany 0/1 konstrukcją if 0 then x; if 1 then y else z. Tu są obsługiwane wprost dwie liczby (pseudo)losowe procedurami x/y a reszta z. I tego faktu nie zmieni rozbudowa warunków case-u dla 10 czy 110 liczb. Zawsze pozostaje determinizm. Czy może chcesz uruchomić algorytm, który nie będzie wiedział co zrobić np. z liczbą 2 jeśli zastosujesz tylko dwa if-y dla 0 i 1. Otóż taki algorytm się po prostu zawiesi, ale nadal jest deterministyczny, bo działa w określonym środowisku programowym (łącznie z systemem operacyjnym, który też jest deterministycznym programem) i ono jest jak najbardziej deterministyczne – program będzie chodził dla parametru 0 czy 1 i zawieszał się dla pozostałych.
Dalej piszesz coś o "dalekiej przyszłości", ale ja nie o tym, bo ja nie spekuluję tylko mówię o tym, że maszyna tu i teraz nie ma inteligencji czy nawet zalążków świadomości i nie posiada uczuć oraz wolnej woli.
Tyle.
Dzisiejsze automaty i ich algorymy są dużo dużo za prymitywne by mogły skutecznie pretendować do inteligencji - co najwyżej udają pewne wąskie aspekty inteligencji. Ale co redaktor podkreślał to że nawet taka pseudo-inteligencja już wywołuje w nas reakcje które, wydawałoby się, mamy zarezerwowane tylko dla istot prawdziwie inteligentnych.
Jednak "wprowadzone automatom algorytmy" nie muszą buć, same w sobie, z konieczności, zaprzeczeniem inteligencji. Gdybyśmy znali w pełni architekturę jakiegoś konkretnego mózgu, własności jego neuronów i "snapshot" pełnego chemicznego i elektrycznego stanu tego mózgu, to, teoretycznie, moglibyśmy zmodelować taki mózg w algorytmie - i automat z takim algorytmem byłby dokładnie tak samo inteligentny jak posiadacz owego mózgu.
"Nie ma czegoś takiego jak "sztuczna inteligencja". I jeszcze baaardzo długo nie będzie." - zgoda, podejrzewam że sporo czasu jeszcze upłynie, choć 100% pewności co do tego nie mam. Ponieważ nie wiemy na czym polega "świadomość" nie możemy oszacowywać jakie środki są potrzebne i jak wiele pracy wymaga zbudowanie maszyny posiadającej taką cechę.
Jednak maszyny sterowane stworzonym przez człowieka kodem komputerowym mogą, przy dostatecznej "mocy" obliczeniowej i przy odpowiednim oprogramowaniu, stać się inteligentne. Być może owa moc obliczeniowa i wielkość i skomplikowanie tego oprogramowania muszą być bez porównamia ponad to co potrafimy stworzyć dzisiaj, ale sama teza że komputer plus jego oprogramowanie mogą mieć świadomość czy uczucia jest dość powszechnie uznawana za prawdziwą przez ekspertów.
Tia...
"teza, że komputer...".
No właśnie - teza. Jak każda musi być udowodniona inaczej ma taką samą wartość, jak bajdy o facecie co chodził po wodzie i wskrzeszał umarłych. A "eksperci"? Było ich wielu ale mało która ich prognoza się sprawdziła. Taki np. Fukujama zdobył sławę twierdząc, że Historia się skończyła. I co? ;-)
"... maszyny sterowane stworzonym przez człowieka kodem komputerowym mogą, przy dostatecznej "mocy" obliczeniowej i przy odpowiednim oprogramowaniu, stać się inteligentne." - Otóż: nie mogą. Maszyna. która potrzebuje kodu napisanego przez człowieka, nigdy nie będzie inteligentna, nie posiądzie świadomości. To moja teza.
Nawet genialny Lem nie przewidział miniaturyzacji komputerów, dopóki ona faktycznie nie nastąpiła. Ale być może będzie jak piszesz i teza się potwierdzi. W bardzo odległej przyszłości. Na pewno twierdzenie, że już dzisiaj... itd... jest bzdurą.
O.K. . . . "Otóż: nie mogą. () To moja teza" . . . przewijamy ciut ciut Twoją taśnę . . . "No właśnie - teza. Jak każda musi być udowodniona" ;)
Czyli jako racjonalista-ateista musisz przyznać że moja teza nie jest nic gorsza niż Twoja teza ! (parafrazując Szekspira, "you've been hoisted by your own petard") :)))
DOKŁADNIE! "Kretyńskie tytuły i treści GW nie przystoją."
Moje słowa. Wołanie na puszczy...