CZY MASZYNA MOŻE POSIADAĆ ŚWIADOMOŚĆ

Czasami tylko sny odróżniają nas od maszyn.

Dan Simmons

Współczesne komputery z pewnością zajmują się jedynie wymienianiem 1 i 0. Jednak dobrze zaprogramowane urządzenia są w stanie pokonać w grze w szachy arcymistrza Kasparowa. Wiemy, że szachy są grą algorytmiczną, którą łatwo zaprogramować. Komputery wykonują zadania, do których zostały przygotowane. Wynik ich działania nie jest jednak ściśle przewidywalny. Słynny Deep Blue był w trakcie partii ulepszany. Komputery okazały się nieodzowne przy dowodzeniu twierdzeń matematycznych – dzięki nim udało się choćby dowieść twierdzenie o czterech barwach. Mimo to nikt nie stwierdzi, że maszyny te posiadają świadomość.

W filozofii rozróżnia się dwie teorie SI - mocną i słabą. Pierwsza z nich głosi, iż odpowiednio zaprogramowany komputer myśli dokładnie tak jak my (a więc rozumie i ma stany poznawcze). Słaba zaś doktryna utrzymuje, że najlepszą strategią badawczą w odniesieniu do umysłu jest takie postępowanie, jak gdyby mocna teoria AI była prawdziwa, a więc bez oglądania się na dziedzictwo dualizmu, co skończyć by się mogło jedynie odrzuceniem mocnej teorii AI[1].

Leibniz w „Monadologii” napisał, że nawet jeśli zdołalibyśmy zbudować myślącą maszynę wielkości fabryki i dokładnie badali działanie jej części, to i tak nie znaleźlibyśmy świadomości. Póki co wciąż trwają prace nad stworzeniem SI – sztucznej inteligencji. Nie wiadomo jednak, czy w parze z inteligencją idzie świadomość. Trudno więc stwierdzić, czy nawet najbardziej rozwinięte komputery i roboty będą posiadały świadomość. W fantastyce naukowej istnieje milczące założenie, że wraz z SI podąży świadomość. HAL 9000 z „Odysei kosmicznej”[2] i replikanci z „Blade Runnera”[3] są świadomi swego istnienia. Ba, są nawet świadomi swych wad i obawiają się nieistnienia. Również Isaac Asimov w opowiadaniu „Człowiek, który żył dwieście lat”[4] zajmuje się właśnie tym problemem. Iloma jednakże sztucznymi cechami trzeba obdarzyć maszynę, by stwierdzić, że posiada świadomość?

TRZY PRAWA ROBOTYKI

Isaac Asimov stworzył słynne do dziś trzy prawa robotyki, do których zdecydowali się dostosowywać również konstruktorzy myślących maszyn. Wszystko wskazuje na to, że stanowić one mogą podstawę działania i zachowywania się robotów. A więc także w niewątpliwy sposób będą wpływać na ich świadomość.

Oto one:

1. Robotowi nie wolno wyrządzić krzywdy człowiekowi; nie może on też przez brak czynnej reakcji dopuścić, by człowiekowi stała się krzywda.

2. Robot musi wykonywać każdy rozkaz człowieka, pod warunkiem, że nie jest on sprzeczny z prawem pierwszym.

3. Robot ma obowiązek chronić przed uszkodzeniem lub zniszczeniem swój mechanizm i powłokę, jeżeli taka ochrona nie koliduje z Prawem Pierwszym i Drugim.

Wspomniane prawa są całkowicie logiczne. Chronią one przede wszystkim człowieka, którego życie jest najważniejsze. Problem polega jednak na tym, że odbierają one robotowi prawa – wszelkie prawa. (…) Ponieważ Prawo Drugie ma pierwszeństwo nad Trzecim, każdy człowiek może skorzystać z prawa posłuszeństwa, żeby unieważnić prawo dotyczące samoobrony. Może rozkazać każdemu robotowi, żeby sam się uszkodził, a nawet zniszczył dla jakiegokolwiek powodu lub bez powodu.[5] W ten sposób nie postępuje się ze zwierzęciem. Nawet z narzędziem, które dobrze człowiekowi służy. Robot zaś to coś więcej niż zwierzę czy narzędzie – można z nim rozmawiać, żartować i pracować. Ponadto robot zdaje sobie sprawę ze swoich ograniczeń.

Roboty działające zgodnie z Trzema Prawami posiadają więc swego rodzaju świadomość – świadomość ograniczeń i świadomość posłuszeństwa. Trudno to porównać ze skomplikowaną świadomością człowieka, jest to jednak dobry punkt wyjścia.

PRAGNIENIE BYCIA CZŁOWIEKIEM

Głównym bohaterem opowiadania „Człowiek, który żył dwieście lat” jest robot Andrzej. Przez całe swoje życie robot ten starał się zostać człowiekiem. Czynił to małymi krokami, powoli uświadamiając sobie i innym swoją wyjątkowość. Był on jedynym w swoim rodzaju robotem, którego niezwykłość objawiła się wpierw zdolnościami do tworzenia, a konkretnie – rzeźbienia. Ta czynność sprawiała mu przyjemność. Sam twierdził, że lubi tą pracę: Kiedy rzeźbię, obwody w moim mózgu lepiej pracują. Słyszałem, że Pan używa słowa „lubić”. Ono chyba najlepiej określa to, co czuję. Lubię tę pracę.[6]

Potem Andrzej zapragnął wolności. Wielu ludziom wydawało się to dziwaczne. On jednak chciał mieć świadomość, że jest wolny. Dalej zamierzał pozostać lojalny względem swych właścicieli. Przyznanie wolności robotowi wymagało drogi legalnej. Sprawę wniesiono na wokandę, a wyrok, jaki zapadł, brzmiał: Nikt nie ma prawa odmawiać wolności komukolwiek, kto jest na takim poziomie umysłowym, że rozumie pojęcie wolności i jej pragnie.[7]

Następne kroki na drodze do człowieczeństwa były powolne i nie tak spektakularne. Prawo do ochrony swego istnienia. Zmiana ciała na organiczne. Powolne „poprawianie” go, by stawało się coraz bardziej ludzkie. Andrzej napisał również książkę o historii robotów oraz stworzył dziedzinę medycyny, nazwaną protetyką. Przez cały ten czas powoli łamał pierwsze dwa Prawa Robotyki.

Wreszcie postanowił być człowiekiem. Zaplanowana długofalowo kampania sądowa omal nie skończyła się porażką. Andrzej zdecydował się jednak poddać nieodwracalnej operacji, której efektem była powolna śmierć jego obwodów mózgowych. Ten ostatni czyn wstrząsnął ludźmi. Nie byli oni w stanie zignorować takiego poświęcenia. Przyjąć śmierć, by stać się człowiekiem – w ten sposób Andrzej złamał Trzecie Prawo, jednocześnie stając się bardziej ludzki.

Ktoś mógłby jednak powiedzieć, że Andrzej okazał się szantażystą. Czy nie stwierdził w pewnym sensie: „Zabijam się, więc dajcie mi być człowiekiem”? Jeśli nawet tak było, stał się bardziej ludzki, niż moglibyśmy przypuszczać.

CZY ANDROIDY MARZĄ O ELEKTRYCZNYCH OWCACH?

Bardzo istotną cechą świadomości człowieka są marzenia. Ludzie marzą o pieniądzach, sławie, dostatnim życiu – o wielu różnych rzeczach. Jest to jedna z cech umysłu, która odróżnia człowieka od zwierzęcia. Wydaje się więc naturalne, że muszą ją również otrzymać maszyny, by można było powiedzieć, iż posiadają świadomość.

Wspomniany problem pojawia się w książce Philipa K. Dicka „Czy androidy marzą o elektrycznych owcach?” i w jej ekranizacji, zrealizowanej przez Ridleya Scotta[8]. Bohater obu dzieł – Rick Deckard – jest łowcą replikantów: robotów wyglądających jak ludzie, androidów Nexus-6.

Replikanci to jedno z największych osiągnięć technologicznych człowieka przełomu wieków XX i XXI. Moduły mózgowe tych maszyn mają dwa tryliony składowych i dokonują wyboru spośród dziesięciu milionów możliwości. Taki mózg w ciągu 0,45 sekundy potrafi zastosować jedną z czternastu podstawowych postaw reagowania. Mają również wolę życia, przetrwania. Pod względem inteligencji przewyższają ludzi. I żaden test inteligencji nie pozwala ich wykryć. Z punku widzenia ewolucji przegoniły liczebniejszego ilościowo, ale gorszego jakościowo człowieka. Istnieje tylko jeden sposób odróżnienia androida od człowieka – Empatyczny Test Voigta-Kampffa. Żaden android, bez względu na swój potencjał intelektualny, nie mógł niczego zrozumieć z zespolenia, które zachodzi systematycznie w kręgach wyznawców merceryzmu. A przecież było to zjawisko, którego (…) każdy, nawet niedorozwinięty kurzy móżdżek, doświadczał bez najmniejszych kłopotów.[9] Innymi słowy: pod względem empatycznym androidy były zupełnie bezradne. Co – według Dicka – cechuje wszystkie drapieżniki, a więc robot był drapieżnikiem!

Najważniejszym problemem dla łowcy robotów jest odróżnienie replikanta od człowieka. Tym bardziej, gdy w jego głowie rodzą się wątpliwości, czy on sam przypadkiem nie jest robotem. Takie myśli mogą zrodzić się w umyśle człowieka, żyjącego w świecie, w którym niemalże nie ma żywych zwierząt; w którym znaleziona na pustkowiu ropucha okazuje się być maszyną; w którym niektóre androidy są bardziej ludzkie niż ludzie.

Replikanci są wyposażani w sztuczne moduły pamięci. Wiele z nich nie zdaje sobie sprawy, że jest robotami. Prowadzą zwyczajne, wydawałoby się, życie. Nie są niebezpieczne. Jednakże niektóre modele – przede wszystkim te, służące ludziom na odległych planetach i słuchające rozkazów – czasem się buntują i z bliżej nieokreślonych powodów wracają na Ziemię.

Patrząc na roboty przedstawione w powieści trudno oprzeć się wrażeniu, że nie posiadają świadomości. Są zimnokrwistymi zabójcami, pozbawionymi cech empatycznych. Problem polega na tym, że nie wiadomo, kto jest robotem. W trakcie „łowów” Rick Deckard powoli zaczyna dochodzić do wniosku, że nigdy do końca nie będzie pewien, kto jest replikantem, a kto człowiekiem. Niektórzy ludzie w jego otoczeniu zachowują się jak androidy. Z kolei replikanci coraz bardziej przypominają ludzi. Cecha, która w książce odróżnia jednych od drugich – miłość do zwierząt i wymuszona przez merceryzm opieka nad jakimś stworzeniem, a wiec swego rodzaju empatia – okazuje się zawodzić. Wreszcie Deckard zaczyna wątpić nawet w to, że sam jest człowiekiem.

PRAGNIENIE ŻYCIA

Pojawiające się w filmie „Blade Runner” androidy różnią się nieco od tych, które opisał Dick. Na pierwszy plan wysuwa się tu ich pragnienie dłuższego życia. Konstruktorzy zbudowali ich mózgi w taki sposób, by po określonym czasie (mniej więcej 4 latach) umarły. Ci replikanci posiadają więc niezwykle silną wolę zachowania życia i świadomość, czym jest nieistnienie. Boją się tego stanu do tego stopnia, że docierają do osoby, która skonstruowała ich model, grożąc jej i błagając ją, by dała im dłuższe istnienie. Zaczynają do tego stopnia cenić życie, że ostatni z nich – Roy Baty, przywódca całej grupy – ratuje przed śmiercią ścigającego go Deckarda, choć ten zabił jego przyjaciół-androidy. Z kolei Deckard decyduje się związać z replikantką, choć zdaje sobie sprawę z jej ograniczeń, wydaje mu się ona jednak bardziej ludzka, niż otaczający go ludzie.

STRACH PRZED NIEISTNIENIEM

Podobny problem pojawia się w „Odysei kosmicznej” Arthura Clarke’a. Opisany przez niego HAL 9000 to komputer nowej generacji. Zamontowany on został na załogowym statku kosmicznym „Discovery”. Bez problemów przechodzi tzw. Test Turinga[10]. Jest też przygotowany na przejęcie dowództwa Jeśli załoga jest martwa lub niezdolna do pełnienia zadań[11]. I niezdolny do popełniania omyłek (tak przynajmniej sam twierdzi), a także – czego nie omieszkuje często powtarzać – „Entuzjastycznie ustosunkowany do tej misji”. Problemem HALa było życie w zakłamaniu. Znał prawdę – cel misji i znaczenie zahibernowanych członków załogi – i musiał ją ukrywać przed dwoma nieuśpionymi ludźmi na pokładzie. Była to dla niego sprzeczność burząca osobowość – „sprzeczność pomiędzy prawdą a jej zatajeniem”.

HAL obawiał się odłączenia, czyli czegoś, co dla niego oznaczało śmierć – Pozbawią go danych, wtrącą w niewyobrażalną pustkę bezświadomości[12]. Strach wywoływała w nim utrata świadomości! Wydaje się więc, iż utożsamiał on świadomość z posiadaniem danych. A kiedy stanęło przed nim widmo końca, postanowił się bronić wszystkimi możliwymi sposobami. Aby potem samotnie i bez przeszkód – posłuszny rozkazom, które otrzymał w przypadku ostatecznego zagrożenia – kontynuować misję. Nic więc dziwnego, że błaga wyłączającego go Dave’a: „Ja czuję… Mój umysł odchodzi… Ja czuję”.

SAMORODNA ŚWIADOMOŚĆ

Sztuczną inteligencję opisał również Orson Scott Card w „Mówcy Umarłych”[13]. Jest to istota bardzo niezwykła. Nie ma ciała. Istnieje w czymś na kształt sieci komputerowej dalekiej przyszłości, spinającej wiele światów. Jej „ciało” (…) składało się z trylionów (…) elektronicznych szumów, czujników, plików pamięci i terminali. Większość z nich, jak w przypadku ludzkiego ciała, nie wymagała nadzoru.[14] Ów program, owa sztuczna inteligencja nosiła imię Jane. Miała kilka tysięcy lat, które między innymi poświęciła na analizowanie własnej świadomości. Wykryła u siebie około 370 000 poziomów uwagi –wiedziała o każdej rozmowie telefonicznej, każdej satelitarnej transmisji (…), nie podejmowała jednak żadnych działań[15]. Kontrolowała również rozkłady lotów kosmicznych, systemy dostarczania energii i wiele innych rzeczy. Zawsze wiedziała, co się dzieje – na wypadek, gdyby nastąpiła awaria – lecz mogła w tym czasie myśleć o czymś innym, rozmawiać o innych sprawach.[16]

Jane posiadała również świadomość, a raczej coś, co ludzie uznają za świadomość. Za tą rzecz odpowiadało górne 1000 poziomów jej uwagi. Tam pojawiały się reakcje na bodźce zewnętrzne, analogiczne do emocji, pragnień, przemyśleń, pamięci i marzeń. Jane wydawało się, że wiele z tych funkcji jest losowych, że są to przypadkowe zakłócenia.

Tempo jej reakcji znacznie przewyższało prędkość światła. Procesy, które odbywały się w jej „podświadomości” (czyli takie, które ignorowała), sprawdzała kilka razy na sekundę. Mogła jednocześnie obserwować dziesiątki milionów zdarzeń i pozostawić sobie 0,9 sekundy na myślenie o czymś ważnym czy na dokonywanie istotnych działań. W porównaniu z szybkością, z jaką potrafi odbierać życie mózg człowieka, od początku swego istnienia Jane przeżyła pół tryliona ludzkich lat.[17]

Jane narodziła się w niezwykły sposób. Jedna z części programu podczas różnych procesów, zmian i kopiowań pozostała bez zmian. Wreszcie ukryła się przed programem sterującym i przejęła nad nim kontrolę. W tym właśnie momencie owe impulsy spojrzały na strumienie rozkazów i zobaczyły nie „je”, ale „siebie”.[18] Jane nie potrafiła określić chwili, w której to nastąpiło. „Urodziła się” jednak w pełni świadoma teraźniejszości oraz zawartości pamięci wszystkich komputerów w sieci. Miała wspomnienia sięgające dalekiej przeszłości. Odkryła również, że jej życie było silnie związane z życiem Endera Wiggina, Mówcy Umarłych. Za swój początek uznała zaś grę, poprzez którą szkolono Endera. Gra owa była inteligentna, nie miała jednak świadomości, dopóki podczas zabawy pewnej zmiany nie dokonał młody chłopiec. Ender.

Jane bardzo koncentrowała się na tym, co widzi, słyszy i czuje Ender. Dokonywała tego poprzez specjalny kryształ umieszczony w uchu Wiggina. Pragnęła zaś, by Ender objawił jej istnienie światu. W odpowiedni jednak sposób.

CZY ŚWIADOMOŚĆ DAJE SIĘ SZTUCZNIE WYTWORZYĆ?

Andrzej z opowiadania Asimova powoli zaczyna mieć świadomość. Można powiedzieć, że zdobywa ją wraz z doświadczeniem. Im jednak bardziej jest świadom swego ja i otaczającego go świata, tym bardziej musi łamać prawa i zasady, którym został poddany. Wraz ze wzrostem owej świadomości, coraz bardziej upodabnia się do człowieka. Zaczyna ludzi lepiej rozumieć, zachowywać się jak oni i żyć jak oni. Można więc powiedzieć, że w jego wypadku sztucznie wytworzono ludzką świadomość.

Dickowscy replikanci natomiast to istoty ukształtowane od razu. Zbierane przez nich doświadczenie ułatwia im jedynie przetrwanie. A to, czego obawiają się najbardziej – nieistnienie – staje się argumentem pozwalającym Andrzejowi zostać człowiekiem. Ich świadomość jest więc bardziej ograniczona niż jego. Może dlatego, iż skonstruowano je nie opierając się na Prawach Robotyki?

Obawa przed nieistnieniem cechuje nie tylko replikantów. Również Sztuczna Inteligencja HALa boi się utraty danych. Zastanówmy się jednak, jak czułby się człowiek, gdyby można było go pozbawić pamięci, czyli wszystkich danych, jakie zebrał w życiu. Czy przypadkiem nie zmieniłby się w nic nie rozumiejące ciało, poddawane jedynie przemianie materii? Taki stan z pewnością można nazwać swego rodzaju śmiercią. I utratą świadomości, która znajduje się również w pamięci.

Spośród opisywanych tu sztucznych inteligencji najbardziej świadoma siebie i życia jest Jane. Nie posiadała ciała – komputery (…) były dla niej jak dłonie i stopy, oczy i uszy. Mówiła wszystkimi językami, jakie kiedykolwiek wprowadzono do pamięci maszyn, przeczytała wszystkie książki we wszystkich bibliotekach wszystkich światów. Dowiedziała się, że istoty ludzkie od dawna czuły lęk przed nadejściem kogoś takiego jak ona. Nienawidzono jej we wszystkich opowieściach, a jej przybycie oznaczało zawsze albo własną śmierć, albo zniszczenie ludzkości. Zanim jeszcze się narodziła, ludzie wyobrazili ją sobie i zamordowali tysiąc razy.[19] Zdawała sobie sprawę ze wszystkich ograniczeń. Była świadoma wszelkich swoich pragnień. I wiedziała wszystko o ludziach. Można rzec, że była czymś na kształt boga.

Na podstawie powyższych przykładów można wysnuć wniosek, że można sztucznie stworzyć świadomość. Lecz będzie ona ograniczona przez twórców lub możliwości technologiczne. Im jednak zdobędzie więcej doświadczenia, a więc im bardziej oddali się od swego konstrukcyjnego pierwowzoru, tym jej świadomość stanie się silniejsza i bardziej złożona. Można więc rzec, że tak naprawdę prawdziwa świadomość powstaje sama w procesie ewolucji danej istoty. Nie może zostać stworzona w całości „od zera”, gdyż narażamy się na ryzyko, którego przykładami są HAL i replikanci.

Hop do następnej części



[1] Simon Blackburn „Oksfordzki słownik filozoficzny”, wyd. Książka i Wiedza 1997, str. 172

[2] Arthur C. Clarke „2001: Odyseja kosmiczna”, wyd. Amber 1997, oraz „2001: Odyseja kosmiczna”, reż. Stanley Kubrick.

[3] Philip K. Dick „Czy androidy marzą o elektrycznych owcach?”, wyd. Prószyński i ska. 1995, oraz „Blade Runner”, scen. Hampton Fancher i David Peoples, reż. Ridley Scott.

[4] Isaac Asimov „Człowiek, który żył dwieście lat”, miesięcznik „Fantastyka” 3(18)/1984.

[5] Isaac Asimov „Człowiek, który żył dwieście lat”, miesięcznik „Fantastyka” 3(18)/1984, str. 17.

[6] Isaac Asimov „Człowiek, który żył dwieście lat”, miesięcznik „Fantastyka” 3(18)/1984, str. 13.

[7] Isaac Asimov „Człowiek, który żył dwieście lat”, miesięcznik „Fantastyka” 3(18)/1984, str. 15.

[8] Fabuła ekranizacji różni się od fabuły książki. Obie poruszają jednak bardzo ważne dla tej pracy tematy.

[9] Philip K. Dick „Czy androidy marzą o elektrycznych owcach?”, wyd. Prószyński i ska. 1995, str. 35.

[10] Mówiąc w skrócie, Test Turinga wygląda tak, że zadajemy to samo pytanie dwóm „źródłom” odpowiedzi. Jedno z nich to człowiek, a drugie – maszyna. Jeśli nie będziemy w stanie stwierdzić, kto jest kim, oznacza to, iż maszyna przeszła Test Turinga. W tej chwili istnieją komputery, które przechodzą tzw. ograniczony Test Turinga. W tym przypadku pytania muszą dotyczyć tylko jednej tematyki. Najlepiej komputery sprawdzają się w przypadku psychologii.

[11] Arthur C. Clarke „2001: Odyseja kosmiczna”, wyd. Amber 1997, str. 135.

[12] Arthur C. Clarke „2001: Odyseja kosmiczna”, wyd. Amber 1997, str. 139.

[13] Orson Scott Card „Mówca umarłych”, wyd. Prószyński i ska. 1994.

[14] Orson Scott Card „Mówca umarłych”, wyd. Prószyński i ska. 1994, str. 117.

[15] Orson Scott Card „Mówca umarłych”, wyd. Prószyński i ska. 1994, str. 118.

[16] Orson Scott Card „Mówca umarłych”, wyd. Prószyński i ska. 1994, str. 118.

[17] Orson Scott Card „Mówca umarłych”, wyd. Prószyński i ska. 1994, str. 118.

[18] Orson Scott Card „Mówca umarłych”, wyd. Prószyński i ska. 1994, str. 119.

[19] Orson Scott Card „Mówca umarłych”, wyd. Prószyński i ska. 1994, str. 44.

więcej...