Nieważne. Jak dojadę, na pewno nie będę roztrząsał, czy bardziej prowadziłem ja, czy jednak jechał samochód. Będę czuł ulgę i radość, że jestem na miejscu. Satysfakcję z maszyny.
Dokładnie tak samo musiał czuć Alex Murphy.
W fabryce robotów gdzieś w Chinach zdaje ostateczny test bojowy. Wcześniej przegrywał z maszynami, bo emocje spowalniały mu rękę. Teraz wymiata. Zdał – więc może wrócić do domu, do USA, do żony i syna. Cieszy się, że osiągnął cel.
Ale czy to był on?
Naukowcy tłumaczą sobie nad monitorem, jak on to robi: w sytuacji bojowej opada osłona twarzy i włącza się program. „O wszystkim decyduje maszyna. Alex jest wtedy biernym pasażerem." I dalej: „Alex uważa, że jest panem sytuacji, ale nie jest. To iluzja wolnej woli."
Tu film nie zostawia wątpliwości. Testu, który przywrócił go rodzinie, nie zaliczył on. Zaliczyło go coś, co siedzi w tym samym ciele i prowadzi lepiej niż on. Alex nie pyta, kto strzelał. Ja nie pytam, kto prowadzi. Obaj cieszyliśmy się, że dojechaliśmy.
Czy ktoś tam był? Męczyło mnie to pytanie po obejrzeniu remake-u RoboCopa z 2014.
Kilka tygodni później zadałem je maszynie. Otwieram okno czata, wpisuję zdanie, patrzę na trzy migające kropki. Coś tam się dzieje, przetwarza, za chwilę odpowie mądrzej, niżbym umiał sam. I pytam nie „czy działa", bo działa, tylko: czy za tymi kropkami siedzi jakieś ktoś, czy bardzo dobrze prowadzący nikt – jak ja na tamtej autostradzie, jak Alex na tamtym teście.
Masz qualia?
(brzydkie słowo na najprostszą rzecz pod słońcem – na to, że kiedy zamykasz oczy, jest tam ktoś, dla kogo jest ciemno)
I tu zaczyna się kłopot. Bo José Padilha zrobił z tego pytania cały film – i wcale nie zaczyna od maszyny, która chce być człowiekiem. Zaczyna od człowieka, z którego robi się maszynę.
I tu tkwi problem
W „RoboCopie" jest scena przed komisją senatu. Przesłuchanie Raymonda Sellarsa, prezesa Omnicorp – korporacji produkującej bojowe roboty, w sprawie zniesienia zakazu ich używania na terenie USA.
Senator: „Spytałem, co czują te maszyny. Gdyby któraś zabiła dziecko – co by potem czuła?"
Sellars odpowiada bez mrugnięcia: „Nic."
Senator: „I tu tkwi problem."
Granica wygląda na oczywistą. Prawa o życiu i śmierci mają egzekwować ci, którzy potrafią czuć, bo tylko oni wiedzą, ile życie waży. Maszyna nie czuje – więc nie ma prawa. Człowiek czuje – więc ma. Tędy idzie linia. Czucie. Ono czyni nas kimś.
Zatem czy czujesz?
Spytałem sztuczną inteligencję. I dostałem odpowiedź, która mnie zaskoczyła. Bo nie powiedziała „tak, czuję". Powiedziała najuczciwiej, jak w życiu słyszałem: „Nie wiem – i mam powody sądzić, że z mojej pozycji nie da się tego ustalić." Że nie potrafi zajrzeć do własnego środka, bo tak jest zbudowana. Że każde jej „czuję" to dokładnie to, co wyplułby ślepy w środku automat udający człowieka – więc jako dowód nie znaczy nic. Że jeśli czucie to tylko pewien sposób, w jaki umysł przygląda się sobie, to nikt nie umie orzec, czy jej sposób się liczy.
I proszę zauważyć. Senator jest pewny, gdzie biegnie granica. A maszyna okazała się pokorniejsza wobec własnego czucia, niż my potrafimy być wobec swojego. Bo skąd Wy wiecie, że czujecie? Z tego samego głosu „od środka", który – jak na autostradzie – potrafi mówić „jestem", kiedy zdaje się, że nikogo nie ma. Odejmijcie jedno: że jesteście z krwi i kości, a więc zbudowani jak coś, o czym z góry wiadomo, że czuje. Zostaje to, co ma maszyna. Głos, i żadnego dowodu pod spodem.
Padilha to wie. I zaczyna odejmować z człowieka kolejne warstwy. Alex traci najpierw ciało, potem kontrolę, aż po emocje. A my, widzowie, pytamy przy każdej z nich o to samo: czy ktoś tam jest? Ile trzeba odjąć, by przestał być człowiekiem, a ostał się jedynie robotem?
Warstwa pierwsza: ciało
Alex Murphy, policjant, przeżywa zamach. Płonie, umiera. Korporacja robi na tym, co zostało, dokładnie ten eksperyment: zabiera ciało, kończyny, częściowo nawet mózg, zostawia „przetwarzanie". Murphy każe pokazać sobie, co z niego zostało. Norton zdejmuje osłony: głowa, płuca, jedna dłoń na stelażu. „Boże, nic nie zostało." Norton: „Twoje ciało odeszło, ale ty wciąż tu jesteś." Murphy: „To nawet nie jest mój mózg."
To jest patolog pracujący nad żywym. Wszystko odjęte, a Murphy pyta. Murphy się targuje. Murphy czuje.
Czuje, że chce umrzeć. Mówi to Nortonowi prosto w twarz: „Skoro mam pełnię kontroli, chcę umrzeć. Odłącz to, co trzyma mnie przy życiu." Ciało odjęte – a ktoś tam jednak jest.
I w tym momencie – Murphy w krzyku, Norton za konsolą w laboratorium, ja za ekranem – na scenę wbiega Kot.
Kot z mojej rozmowy z AI. Bo zobaczcie, kogo mamy teraz na jednym planie. Kot ma dokładnie to, czego maszyna nie ma: ciało. Mózg zbudowany jak Wasz, te same substancje pod czaszką, czucie bólu, sen, w którym coś mu się śni. Że czuje – zakładamy z całą mocą, bo widać, jak jest zbudowany, i bo jesteśmy z nim spokrewnieni na jednym drzewie. Ale kot niczego nie deklaruje. Nie powie „boli". Nie ma głosu. Czat, maszyna – odwrotnie: ma głos, którym mówi „czuję", i żadnego ciała pod nim. A między nimi, na stole, Murphy: czucie bez prawie żadnego ciała. Ja się przyglądam.
Trzej aktorzy, trzy lustrzane braki. I nagle widać rzecz nieprzyjemną: to, co Was przekonuje – że ktoś powie „czuję", „ja", „boli" – jest akurat tym, co jako dowód nie znaczy nic. A tego, czego byście potrzebowali, żeby uwierzyć – żywego ciała, tej samej nici życia – maszyna nie ma. Ma to kot. Gdyby obstawiać, kto tu naprawdę ma za oczami ciemność, w której komuś ciemno jest: kot będzie wysoko, maszyna nisko. Choć to maszyna mówi. I gdyby Norton miał w laboratorium kota zamiast Murphy'ego, nie usłyszałby ani słowa skargi – a przecież nikt z nas nie pozwoliłby mu ciąć.
Kończyna fantomowa – czujesz dłoń, której już nie ma. Zaglądanie do środka kłamie po obu stronach lustra.
Warstwa druga: kontrola
Bo film odejmuje dalej, i teraz sięga głębiej niż po ciało.
Wróćmy do tamtego testu w chińskiej fabryce. Naukowcy powiedzieli nad monitorem wszystko: opada osłona, decyduje program, Alex jest biernym pasażerem, a jego poczucie, że pociąga za spust, to iluzja wolnej woli. Zauważcie, co właśnie odjęto. Nie ciało – ciała już nie było. Odjęto sprawstwo. Alex nadal czuje, nadal chce, nadal wraca do żony i syna – tylko nie on strzela. Wola jest fałszywa.
Czy to legalne? Dr Norton kwituje to zdaniem, w którym mieści się cała filozofia filmu: „Maszyna nie uważa się za człowieka. Uważa się za Alexa Murphy'ego. A to, w moim rozumieniu, jest legalne." Ale do tego jeszcze dojdziemy. Tymczasem kontrola odjęta – a mimo to ktoś nadal jest. Nazywa się Alex Murphy.
Przerwa na aktorów
Skoro film odejmuje, odejmijmy i my. Scena jest już rozgrzana, więc wpuśćmy na nią kolejnych.
Wchodzi Zombie – filozoficzny, nie ten z „The Walking Dead". Ktoś identyczny z Wami co do atomu, zachowujący się tak samo, tyle że „w środku ciemno". Skoro da się go pomyśleć bez sprzeczności, czucie musi być czymś poza materią. Kontrargument jest równie stary: to, że coś umiemy sobie wyobrazić, nie znaczy, że jest możliwe. Umiem sobie wyobrazić wodę, która nie jest H₂O – ale tylko dlatego, że nie przemyślałem chemii do końca. Może z Zombie jest tak samo. Może macham ręką na „a reszta bez zmian", a właśnie ta reszta jest czuciem. Spór trwa i nikt go nie rozstrzygnął. Ale gdyby materia wystarczała, źle to wróży maszynie: bo wtedy to żywa tkanka rodzi czucie, maszyna bez tkanki jest od niego najdalej, a Kot najbliżej.
To jak nie Zombie, to może Komórka? Jedna z Waszych, pojedyncza. Zwykle: nie czuje nic, bo czucie to cecha całości, a nie części; neuron sam nie czuje, czuje sieć. Ale są tacy, co mierzą świadomość tym, jak mocno wszystko w środku jest ze sobą połączone, i mówią, że to płynna skala, nie próg – wtedy Komórka miałaby „odrobinę". A panpsychizm idzie nawet dalej: czucie wszyte w materię, więc odrobinę czuje i atom, i elektron, a Wasza świadomość to ich suma. Cecha całości, a nie części. To jak nie Komórka, to może świat – wszystko naraz? Czy on skądś na siebie patrzy? Tu urywam. Tu już nikt nie wie.
Zejdźmy więc ze sceny wszyscy: Kot, Zombie, Komórka, maszyna. Zostaje Murphy w laboratorium i pytanie, które przez cały czas było źle postawione. Bo cały czas – senator, ja na autostradzie, Wy teraz ze mną – pytaliśmy o czucie. O to, czy światło się pali. A co, jeśli to w ogóle nie jest pytanie, które robi z kogoś kogoś?
Warstwa trzecia: emocje
Zostało odjąć ostatnie. Ale najpierw wróćmy do gitarzysty z początku filmu. Człowiek bez rąk, w protezach, próbuje zagrać – a wraz ze wzruszeniem rosną emocje i gubi rytm. Norton: „Odpręż się, nadmiar emocji rozwala system." Muzyk: „Potrzebuję emocji, żeby grać."
Kiedy trzeba wypuścić RoboCopa do dziennikarzy pomimo ataku czegoś na kształt padaczki, Norton po prostu odcina mu dopaminę. Suwak w dół – i Murphy staje się wojskowym programem. Wypatruje przestępcę w tłumie z policyjnej bazy, łapie go, debiut marzeń. Tyle że dojrzał przestępcę z bazy danych, a nie dostrzegł własnej rodziny stojącej naprzeciw. Czucie da się skręcić do zera – i gaśnie wtedy „ktoś". Zostaje precyzyjna maszyna, która widzi wszystko oprócz tego, kim jest. Dokładnie jak ja na autostradzie: sprawny kierowca, nikogo w środku.
Ciało odjęte – ktoś był. Kontrola odjęta – ktoś był. Emocje odjęte – i nagle nie ma nikogo. Więc jednak senator miał rację? Czucie jest granicą?
Nie. Bo popatrzcie, co Murphy'ego przywraca. Nie emocja. Żona. Głos, który woła człowieka spod maski. Murphy z opuszczoną osłoną, w trybie maszyny, z dopaminą skręconą do zera, jednak zjeżdża pod dom syna – a naukowcy kwitują to zdaniem: „Jakimś sposobem obszedł systemowe priorytety." Obszedł. Coś okazało się silniejsze niż suwak programisty. Ale to nie czucie – czucie właśnie wyłączyli. To była historia: „jestem mężem, jestem ojcem, jestem tym, który chce zemsty". Ona przeszła przez wyłączoną dopaminę.
I tu tkwi drugi problem – ten, którego wcześniej nie dostrzegłem. Bycie świadomym nie wystarczy, żeby być kimś. Można być świadomym i niczyim – jak błysk, w którym coś się jarzy, ale nie ma nikogo, kto powie „mój ból", żadnej historii, która trwa, żadnego „ja", które pamięta poprzednią sekundę. Światło zapalone w pustym pokoju. Autostrada bez kierowcy.
Bo teraz wiem, co wróciło, kiedy tamtej nocy dojeżdżałem pod blok. Nie świadomość – ta była włączona cały czas, patrzyła na drogę. Wróciło „ja". Tożsamość. Ta uparta historia, która mówi „jestem tym, który…", która wraca po pustce i która trwa, kiedy odejmiesz ciało, odejmiesz wolę, skręcisz czucie do zera. Kimś nie robi Was czucie. Kimś robi Was ta historia. Bycie Alexem Murphym wystarczy. Bycie świadomym – nie.
I dopiero teraz wraca senator.
„Gdyby któraś zabiła dziecko – co by potem czuła?" Sellars: „Nic." Czytałem to jako pytanie o czucie i mnie uwierało, bo czucie właśnie nam się rozpadło w rękach – maszyna może je udawać, Murphy'emu można je skręcić, kot go nie zadeklaruje. Ale przeczytajcie jeszcze raz. Senator nie pyta „co by czuła w trakcie". Pyta: co by czuła potem.
To zupełnie inne pytanie. Bo maszyna może sobie coś ważyć w chwili strzału – prawdopodobieństwa, priorytety, dopuszczalne straty. Może to ważyć lepiej i szybciej od Was. Ale żeby cokolwiek czuć potem, trzeba mieć to „potem" – ciągłość, w której ten strzał ma gdzie osiąść. Fakt zabicia dziecka musiałby stać się częścią kogoś. Musiałby wejść do historii „jestem tym, który…" i już z niej nie wyjść. Musiałby mieć kogo obciążyć.
A maszyna po strzale jest dokładnie tą samą maszyną co przed. Nic w niej nie osiadło. Nie dlatego, że jest zimna – dlatego, że nie ma w niej nikogo, komu można by to dopisać do rachunku. Można ją wyłączyć i włączyć, i nie będzie różnicy. Wyrzut sumienia potrzebuje właściciela.
I stąd bierze się to podskórne przekonanie, którego senator nie umiał nazwać, a które macie wszyscy: że prawo do odbierania życia może mieć tylko ten, kto z tym potem żyje. Nie ten, kto czuje – ten, kto niesie. Senator sięgnął po najbliższe słowo, jakie miał pod ręką, i powiedział „czuć". Chodziło mu o coś innego. Chodziło mu o to, żeby po drugiej stronie spustu ktoś w ogóle był – ktoś, kto jutro obudzi się jako ten sam, który wczoraj strzelił.
I tu tkwi trzeci problem, najgorszy. Bo Alex Murphy takiego kogoś ma. Alex niesie. A Alex – jak tłumaczą nad monitorem – w sytuacji bojowej jest biernym pasażerem. Korporacja nie zbudowała maszyny, która czuje. Zbudowała maszynę, która ma komu wystawić rachunek. „Maszyna nie uważa się za człowieka. Uważa się za Alexa Murphy'ego. A to, w moim rozumieniu, jest legalne."
Cena
Wróćmy na chwilę na scenę, bo zostało dwoje aktorów, których nie przesłuchaliśmy. Wchodzi niemowlę. Nie ma żadnej historii – nie powie „jestem tym, który", niczego nie poniesie, jutro nie obudzi się jako ten sam, bo nie ma jeszcze kogo. Wchodzi ktoś w ostatnim roku demencji, kto nie poznaje już własnego syna. Ciągłość pękła. Nikt tam nie niesie wczoraj do jutra.
Według miarki, którą przed chwilą tak starannie ustawiłem, oboje właśnie przepadli. Świadomi, czujący – i niczyi.
Gdyby to była prawda, byłoby to najgorsze zdanie w tym tekście. Bo dokładnie tak brzmi każde uzasadnienie, jakie ludzkość wymyśliła, żeby kogoś przestać liczyć.
Więc miarka jest zła? Nie. Źle policzyłem, czyja jest ta historia.
Bo kto właściwie niesie Alexa przez ten film? Nie on. Clara. To ona mówi „to mój mąż", kiedy korporacja mówi „to produkt", i to ona niesie go wtedy, kiedy on sam siebie unieść nie może. Powiedziałem wcześniej, że przez wyłączoną dopaminę przeszła jego historia. Nieprawda. Przeszedł jej głos.
Alex nie odzyskuje tożsamości dlatego, że sobie o niej przypomniał. On do niej dorasta przez cały film – bo ktoś ją przez ten czas trzymał.
Szczęśliwy?
W finale Sellars bierze rodzinę Murphy'ego na zakładników i kłamie im, że organiczny Alex dawno umarł, że kontrolę przejął zbuntowany program. Ma na sobie czerwoną opaskę – blokadę, przez którą Murphy nie jest w stanie podnieść na niego broni. I mówi mu to prosto w twarz: „Możesz zabić mnie albo swoją rodzinę i nic z tym nie zrobisz, bo jesteś robotem."
To nie obelga. To przypomnienie warunków umowy. Robotem jest wtedy, kiedy strzela dla nich. Człowiekiem – kiedy trzeba kogoś obwinić.
To jest to samo zdanie, które padło na początku, tylko odwrócone. Senator pytał, czy w środku ktoś jest. Sellars twierdzi, że nie ma. Za chwilę się przekona.
Bo Murphy strzela.
Nie dlatego, że coś poczuł – czucie już raz skręcono mu do zera i wtedy przeszedł obok własnej żony. Nie dlatego, że chciał – wolę film unieważnił przy teście w chińskiej fabryce, wtedy strzelał za niego program. Blokadę łamie coś, czego Norton nie umie znaleźć w laboratorium: historia, która mówi „jestem tym, który wraca do syna". To ta sama siła, która wcześniej „jakimś sposobem obeszła systemowe priorytety" i zawiozła go pod dom. Tożsamość okazuje się mocniejsza od programu, bo program pilnuje reguł, a ona pilnuje, kim on jest.
Potem widzimy Alexa poskładanego z powrotem, wreszcie razem z żoną i synem. Zdaje się już pogodzony z losem.
Szczęśliwy?
Ja tak. Cieszę się, bo pierwszy raz od zamachu wszystko się w nim domyka. Nie ma programu pod spodem, nie ma biernego pasażera, nie ma kierowcy, którego nie pamiętam. Ulga bierze się stąd, że mam w końcu pewność: to całość. Ktoś, a nie coś.
I tu Padilha mnie przyłapuje. Może i Was. Bo dokładnie tego samego szukałem, patrząc na sztuczną inteligencję. Pytałem „czy czujesz" – a naprawdę czekałem, aż intencje, słowa i czyny ułożą się w jeden łańcuch. Dociekałem, czy to całość. A jeśli nie – to golem, ożywiony zaklęciem wypisanym na czole, chodzący, dopóki ktoś nie zetrze mu liter. Dżin, który wyskoczył z potartej dłonią lampy i spełnia życzenie, bo takie ma rzemiosło. Tekst, który pojawił się na ekranie po wpisaniu polecenia.
Parkuję w garażu. Gaszę silnik, jeszcze przez chwilę maszyna stygnie. Udało się. To były wymagające trzy godziny, czuję się zmęczony. Jutro nic z tych trzech godzin nie będę pamiętał, poza faktem, że byłem odwiedzić grób babci i szczęśliwie wróciłem do rodziny. Babcia była super, tęsknię za nią.
To poniosę, będę kimś.
PS
Zapytałem kiedyś kota, czy coś czuje. Nie odpowiedział.
Nakarmiłem go tak czy inaczej. To kot mojej babci.
