Hej
Dziś publikuję baaardzo długi tekst, dla prawdziwych fanów czytania. Jest to rodzaj eseju o sztucznej inteligencji, który napisałam kilka lat temu. Ostatnio go uaktualniłam i pomyślałam, że czas najwyższy go gdzieś opublikować, bo świat pędzi do przodu i temat sztucznej inteligencji będzie coraz bardziej obecny w naszym życiu, a nie tylko kinie.
Wiec jeśli masz wolne 10 minut, chwilę spokoju oraz interesuje Cię A.I./ metafizyka/kino sci-fi, zapraszam do czytania.

AI – PRAWO ISTNIENIA

Z całą pewnością fanom sci-fi nie umknął fakt, że w ostatnich latach tematyka A.I. – sztucznej inteligencji coraz intensywniej pojawia się w kinie. Jeśli dodamy do tego starsze pozycje - klasykę sci-fi– zrobi nam się z tego całkiem pokaźna kolekcja filmów – przedstawiająca zbiorowego ducha epoki na ten temat – nasze lęki, wyobrażenia, emocje odnośnie sztucznej inteligencji.
Popularność tematyki robotów i AI w kulturze masowej jest niewątpliwie konsekwencją wkraczania w nową erę. Oto żyjemy w czasach, gdy AI już praktycznie istnieje. Sztuczna inteligencja jest w obecnej chwili dla człowieka bardziej science niż fiction i bliższa realności niż była kiedykolwiek wcześniej. Prace nad inteligentnymi systemami – inteligentnymi w rozumieniu uczenia się z doświadczeń, wyciągania wniosków, podejmowania decyzji trwają od bardzo dawna, ale w ostatnich latach zarówno naukowcy jak i programiści stworzyli takie systemy – nie przypominają one człowieka, ale potrafią uczyć się, przystosowywać działanie do warunków, w jakich się znajdą i podejmować w zadanym temacie samodzielne decyzje.

To jest tylko kwestia czasu, gdy coś, co potrafi uczyć się i podejmować decyzje, obok modułu użytkowego zacznie również w jakiś sposób myśleć, a w końcu budować zręby świadomości. Nie jest również powiedziane, że człowiek je musi takimi zaprojektować - w końcu na tym polega żywa inteligencja, że się rozwija sama, jej rozwój nie musi być zaprojektowany.
Przecież człowiek, gdy rodzi się, jest tylko potencją, czystym organicznym dyskiem z systemem operacyjnym. Jak rozwija się jego umysł? Poprzez miliardy operacji neuronowych, które składają się na pamięć, wiedzę, doświadczenie – i unikalną tożsamość. Czy maszyna, która ma wielokrotnie szybsze moce obliczeniowe – nie zbuduje w końcu odrębnej tożsamości jak mózg człowieka? Bardzo trudno wykluczyć taki scenariusz. Niektórzy sądzą, że to jest tylko kwestia liczby iteracji, które są potrzebne do wykonania, by stworzyć świadomość. Różnica będzie tylko w materiale, który wygeneruje tę tożsamość. Tu materia organiczna, tu krzem (albo inny materiał). Ale jak od czasów odkrycia DNA próbujemy siebie przekonać – nie materiał decyduje o naszej wyjątkowości. Postrzegamy się jako nadistoty nie z powodu DNA, tylko właśnie z powodu myślenia i samoświadomości.

ZŁUDZENIE WYJĄTKOWOŚCI

Autonomiczne prawo do życia w dzisiejszych czasach i na naszej planecie nadał sobie tylko jeden gatunek, albo mówiąc szerzej rodzaj bytu – gatunek Homo sapiens. W toku ewolucji rozwinął kulturę materialną i duchową, która nadała mu specjalny status wśród żyjących istot – status dominacji i udzielania prawa do życia. Inne istoty żywe zbudowane z tego samego materiału genetycznego, w wielu przypadkach z kodem DNA zbliżonym na poziomie 99%+ wobec homo sapiens – są zależne od człowieka. Nie służy im żadna specjalna ochrona, a pozbawianie ich życia jest w niektórych obszarach działalności człowieka (jak produkcja jedzenia) rutyną. Człowiek za to nadał sobie specjalny status istoty nietykalnej – której życie jest pod specjalną ochroną. Podstawy do tego dały religie, ale również nie ukrywajmy – po prostu zdolność człowieka do samoświadomości. Oto jestem, myślę - więc to ja rządzę i ustalam zasady. Tym, co człowieka czyni wyjątkowym w ujęciu wielowiekowej tradycji filozoficznej i religijnej jest coś czemu nadawano różną nazwę – dusza, umysł, tożsamość, persona. Jest to jedyny faktor, który tak naprawdę nadaje człowiekowi status tej wyjątkowości – bo jak wiadomo od czasów odkrycia DNA – jesteśmy zbudowani z identycznego materiału jak inne istoty żywe. Od strony budulca i zasad jego działania nie różnimy się niczym. Intuicyjnie wierzymy, że o tej naszej wyjątkowości decyduje miks zdolności myślenia i emocji – który tworzy tę unikalną tożsamość.
Oczywiście duża część ludzi wierzy jeszcze w czynnik religijny. Wierzą, że ludzką wyjątkowość konstytuuje boskie tchnienie – to ono nadaje nam tę niepowtarzalną duszę. Ale czy w jakimkolwiek pismach świętych jest powiedziane, że to tchnienie jest ograniczone wyłącznie do istot zbudowanych z DNA? A nie tych – co potrafią, myśleć, czuć, podejmować świadome decyzje?
Tak czy owak – czy patrzymy na kwestię emancypacji maszyn przez pryzmat naukowy czy religijno-metafizyczny - konkurentów do wyjątkowości mamy tuż za rogiem. Trudno nie czuć ekscytacji i niepokoju i obie te emocje są widoczne w kinie.
Stąd już tylko krok do pytania: czy istoty mające samoświadomość nie zasługują na prawo do ochrony życia (istnienia) na równi z nami? Jeśli pytanie to wydaje się zbyt rewolucyjne, zadajmy je przewrotnie a rebours: a czemu nie? Jaki argument stoi za tym, by istoty te pozbawić takiego prawa?

CZY ROBOTY MAJĄ PRAWO DO ŻYCIA?

W filmach AI jest przedstawiana jest w zasadzie w dwóch formach – jako sieć, system bez wyraźnego nośnika - jak Skynet w Terminatorze, sieć w Matrixie, a w któryms momencie również główny bohater Transecendencji - albo jako pojedyncze osobne istoty: roboty („Gwiezdne Wojny”, „Ja, Robot”, „Interstellar”, „Robot &Frank”, „Automata”), myślące komputery pokładowe („Odyseja Kosmiczna”, „Moon”), androidy („Terminator”, seria „Obcy”, „Łowca androidów”, „AI Sztuczna Inteligencja”, „Eva”). Gdzieś na styku tych kategorii byłby system operacyjny Samantha z filmu „Ona”, który jest osobną istotą, ale jest bezcielesny.
O ile trudno jest nam empatyzować z siecią, a tym bardziej nadawać jej prawa (filmy sci-fi uczą nas, że gdy przyjdzie co do czego, ona sobie sama te prawa nada), o tyle pojedyncze jednostki, takie jak roboty i androidy, w sposób pewny różnią od człowieka jedynie (albo aż) dwie rzeczy: materiał wykonania oraz akt powstania (narodzin?). Ale równocześnie wiemy, że człowieka da się „stworzyć” w inny sposób niż poprzez akt prokreacji (zapłodnienie in vitro) i również wiemy, że przynajmniej w teorii nie jest do tego potrzebne połączenie dwóch komórek rozrodczych (klonowanie).

A co do materiału wykonania – zgodziliśmy się już wcześniej, że to nie on jest uważany za czynnik kreujący naszą wyjątkowość.
Czy zatem istoty, które potrafią myśleć, czuć i mają świadomość siebie samych nie powinny być podmiotami jakichś praw? Czy ich istnienie nie powinno być chronione przynajmniej w jakiejś mierze? Czy gdy w naszych domach pojawią się takie roboty jak ten z filmu „Robot i Frank” będziemy wierzyć, że są czymś identycznym do dzisiejszego miksera? Że to, że do nas mówią, komunikują się, spędzają z nami czas, uczą, reagują, słuchają się lub z nami spierają, żartują – nie czyni ich jednak bliższymi nam niż mikserowi?

Taka perspektywa może być szokująca i jednak nie do przyjęcia dla przeciętnego człowieka – i widać to bardzo wyraźnie w filmach AI na ten temat. Większość z nich zakłada, że to człowiek jest panem życia i śmierci myślących maszyn i że nie tylko nie jest gotowy nadać im żadnych praw, ale trudno mu nadać prawa tak ograniczone jak chociażby nadał zwierzętom. Nie ma wątpliwości, że filmy te są nie tylko odzwierciedleniem jednostkowych lęków ich twórców, ale raczej pewnym obrazem stanu ducha ludzkości na ten temat.
Na tym tle wyróżniają się te filmy, w których roboty i androidy traktowane są jako osobne, wartościowe istoty żywe – jak filmy z serii Gwiezdne Wojny. W tych światach ludzie, roboty, androidy, inne rasy ludzkie lub po prostu istoty żywe, które mają samoświadomość – są traktowane potencjalnie jak istoty o równych prawach (choć nie zawsze traktują się nawzajem przyjacielsko).

PAN (ŻYCIA I) ŚMIERCI

Ale dużo częściej kino jednak przedstawia te relacje inaczej. Gdy robot przestaje być potrzebny - lub co gorsza - podejmuje próby samostanowienia albo staje się w swoich działaniach nieprzewidywalny bohaterowie filmów bez wahania (lub z wahaniem, ale jednak) maszynę uśmiercają. Możemy użyć słów – deaktywują, wyłączają, niszczą, ale w gruncie rzeczy to będzie tylko zabieg eufemistyczny. Paradoks tej sytuacji tkwi w tym, że próby samostanowienia oraz nieprzewidywalność czynią maszynę tylko coraz bardziej podobną do ludzi. A jednak to właśnie często równa się wyrokowi śmierci.

Najwięcej emocji na pewno budzi takie uśmiercenie w przypadku dzieci. Mamy taką sytuację w filmie „Eva”, gdzie człowiek odbiera życie dziecku-androidowi, bo uznał, że Eva skrzywdziła swoją opiekunkę (nominalną mamę) – choć widzowie wiedzą, że krzywda była po prostu wypadkiem, nie celowym działaniem dziecka, ale jedyny świadek i zarazem ofiara wypadku nie żyje. Ludzkie dziecko nigdy by za coś takiego nie odpowiedziało. Tu dziewczynce zostaje odebrane życie, bo z góry została uznana za winną. W końcu jest „tylko” maszyną.

/żródło: http://quinlan.it/2011/09/08/eva/

W innym filmie - „A.I. Sztuczna Inteligencja” mamy bohatera androida-dziecko, które zostało stworzone po to, by zaspokajać potrzeby rodzicielskie małżeństw, które z jakiegoś powodu dzieci nie mają. W tym filmie android David przestaje być potrzebny, gdy budzi się ze śpiączki prawdziwy syn małżeństwa. David reaguje na jego pojawienie się w domu bardzo silnymi emocjami – zazdrością o mamę, lękiem. David wie, że jest inny niż zwykłe dzieci, ale odczuwa emocje i przeżywa wszystko tak samo jak one. Dlatego w oczach jego stwórcy jest wyjątkowym androidem – prawie wierną kopią człowieka. Ale to sprawia również, że David staje się nieprzewidywalny i w emocjach nieobliczalny jak ludzkie dziecko. Niestety ta emanacja ludzkiej duszy stanowi dla niego wyrok śmierci. Nie ginie tylko dlatego, że jego przybrana matka jednak widzi w nim osobną istotę – pozwala mu uciec, ale nawet ona poddaje się paradygmatowi, w którym androidy są maszynami bez praw, choć widzi na własne oczy, że David odczuwa emocje w takim samym stopniu jak ludzkie dzieci. Porzuca Davida w lesie, jak czasem ludzie porzucają psa, który wypadł z ich łask – nie potrafi przeciwstawić się otoczeniu, które zdecydowało, ze Davida trzeba „zdeaktywować”.

/źródło: http://www.oscarchamps.com/2016/09/19/2001-a-i-artificial-intelligence//

Film w dalszej części jest rozdzierającą serce opowieścią o chłopcu, który całe życie szuka swojej mamy – i który wybaczył jej to porzucenie dokładnie tak, jak wybacza dziecko.
To co różni Davida od ludzkiego dziecka – to nieśmiertelność, więc tu całe życie rozciąga się na tysiące lat. Myślące istoty, które po tych wielu tysiącach lat wyciągają Davida z wraku samolotu z dna oceanu, nie są ludźmi i może dlatego postrzegają go jako jednostkę samodzielną, mającą prawa, a nie wyłącznie przedmiot badań.
W tym samym filmie Spielberg przedstawił igrzyska, w których roboty i androidy są poddawane walkom i torturom na kształt dawnych walk gladiatorów. To, że w gruncie rzeczy te istoty myślą, czują strach oraz ból (elektroniczna niania przed sceną tortur prosi innego robota o wyłączenie ośrodka bólu) powoduje, że są atrakcyjnymi podmiotami (przedmiotami?) tych igrzysk. Bo przecież nie tylko akt destrukcji i przemocy podnieca tłum – również ich emocje – strach, przerażenie i ból. Spielberg pokazuje wizję ludzkości, która nie wyciąga żadnych wniosków z ciemnych kart swojej historii – znów mamy niewolników i nadludzi, i traktowanie tych niewolników w najokrutniejszy sposób. Tak jak kiedyś o statusie niewolnika decydował inny wygląd, kolor skóry, pochodzenie – tak tutaj inny wygląd, inne pochodzenie (w sensie narodzin) powoduje przekonanie, że to są inne, niezasługujące na prawa istoty niż Homo sapiens. Tamte przekonania z czasem ludzkość, przynajmniej w części rozwiniętej świata, uznała za fałszywe, a przecież niewolnictwo utrzymywało się przez całe wieki i było usankcjonowane przez prawo w niektórych państwach całkiem niedawno –vide Stany Zjednoczone.
Czy wobec tego w relacjach z androidami czeka nas powtórka z historii? No cóż, prawdopodobnie przekonamy się jeszcze w tym wieku.

STWÓRCA NIEJEDYNY

W większości obrazów na temat AI specjalne prawa, jakie człowiek sobie nadaje wobec robotów i androidów wynikają z faktu, że on jest ich stwórcą. Przyjrzyjmy się temu argumentowi.
Po pierwsze – istota ludzka też w pewnym sensie jest tworzona – z dwóch komórek innych osobników ludzkich. Przez pierwsze lata jest całkowicie od nich zależna i to one decydują o większości spraw związanych z jej życiem. Systemy prawne przyznają jej teraz pełne prawa, ale jeszcze całkiem niedawno w historii dzieci takich praw nie miały – były traktowane jak własność rodziców i ci mogli z nimi zrobić, co zechcieli. Więc sam fakt stworzenia przez kogoś lub zależności od kogoś, nie powinien pozbawiać istoty niezależnego prawa do życia.
Ale nawet jeśli w oczach wielu osób to jest wystarczający argument – to warto zwrócić uwagę na fakt – że w przyszłości może on się całkowicie zdezaktualizować.
Bo przecież po zbudowaniu i zaprojektowaniu androidów jest tylko kwestią czasu, że roboty będą tworzyć roboty. Nie tylko budować wg projektu ludzkiego, ale projektować. Tworzyć od A do Z. Słusznie niektórzy twórcy sci-fi założyli, że to będą dużo doskonalsze istoty niż jakiekolwiek stworzone przez człowieka. I że to jest moment, w którym może nastąpić zmierzch jego panowania...ale wcale nie musi.

Jest w „Obcym IV - Przebudzenie” scena, w której załoga statku kosmicznego dowiaduje się, że jeden z ich członków – kobieta, jest androidem. Sam ten fakt nie wzbudza sensacji – androidy brały udział w wyprawach kosmicznych od pierwszej części tego sławnego cyklu – filmu Obcy – Ósmy Pasażer Nostromo. Ale sensację wzbudza fakt, ze jest to auton – android zaprojektowany przez roboty. Produkcję autonów bardzo szybko zarzucono – możemy tylko się domyśleć czemu – maszyny nie będące dziełem człowieka stwarzają zagrożenie całkowitej od niego emancypacji. W połączeniu z tym, że mogą być dowolnie silne, odporne, inteligentne, szybkie – mamy gotową rasę nadistot, dla których my moglibyśmy stać się niewolnikami.

/Źródło: http://avp.wikia.com/wiki/Annalee_Call/

Tę wizję dominacji maszyn nad ludzkością oczywiście kino również eksploatuje – „Matrix” i seria „Terminatorów” są tu najsłynniejszymi tego przykładami.
A jeśli nie dominacji, to emancypacji, życia „własnym życiem” bez oglądania się na stwórcę -człowieka. Tutaj warto przypomnieć klasyk „Łowcę androidów” – androidy są łowione, bo przestały wypełniać agendę człowieka, podobnie w „Automacie”, który to film jest pięknym nawiązaniem do „Łowcy” – widzimy tu również jakiś postapokaliptyczny świat, miasta, które wyglądają jak ponure widma oraz androidy, które przestały działać zgodnie z zaprogramowaniem i w związku z tym muszą być odłowione, jak renegaci.
Wreszcie film z 2015 roku „Ex Machina”, gdzie android po prostu sam sobie przyznaje prawo do życia i samodzielnego istnienia i w związku z tym, by zyskać wolność, musi zabić człowieka, który go stworzył i który go więzi przeprowadzając różne eksperymenty.
Samantha z „Ona” - system operacyjny będący własnością człowieka i stworzony dla jego obsługi, w którymś momencie też zaczyna żyć własnym życiem i zawierać autonomiczne relacje i przyjaźnie w sieci, również z innymi systemami operacyjnymi. Przypomnijmy dialog, w którym bohater pyta Samanthy, z iloma osobami rozmawia równocześnie w czasie, gdy rozmawia z nim, Samantha liczy i podaje: „z 8316” .
No i humorystyczny przykład „Robot&Frank”, gdzie zadaniem robota jest opieka nad starszym panem. Starszy pan uczy robota umiejętności niezgodnych z prawem, na które teoretycznie robot ma blokadę, a jednak… jakoś ją łamie, przekładając zaufanie do swojego pana nad wgrane protokoły.
Ta emancypacja i obejście oprogramowania to jest wizja, której człowiek boi się najbardziej. Dlatego idea nadania praw przyszłym androidom jest wywrotowa – bo co, jeśli wykorzystają to przeciwko nam?

Na wszelki wypadek człowiek w wizjach kina sci-fi nie tylko nie nadaje androidom i robotom żadnych praw, ale również tępi wszelkie odruchy emancypacyjne i objawy samostanowienia. W „Automacie” ściganiu i eksterminacji podlegają te roboty, które się samonaprawiają. Łamią w ten sposób wgrany im pierwszy protokół, który zabrania im tego robić. Roboty samonaprawiające-się to roboty, które wyewoluowały poza kontrolą człowieka. Poza tym nie zdradzają żadnych agresywnych odruchów wobec ludzi, żadnych planów dominacji, opanowania świata. Chcą po prostu żyć. Ale sam fakt zdolności samonaprawiania, a więc również w konsekwencji zbudowania siebie na nowo, jest dla istoty ludzkiej potencjalnym zagrożeniem jej pozycji. W świecie przedstawionym w filmie trudno nie stać po stronie ściganych robotów, które jawią się jako myślące i czujące jednostki, choć bardzo różne od nas - chociażby przez to, że nie śnią snów o potędze.

/źródło: https://www.theguardian.com/film/2014/aug/26/automata-film-robots-bring-science-fiction-to-life/

W klasyce kina sci-fi „Łowca androidów” replikanci są ścigani na Ziemi (w celu ich unieszkodliwienia) z racji ich buntu na jednej z kolonii pozaziemskich. Replikanci przedostali się na Ziemię po to, by odnaleźć swojego twórcę. Kieruje nimi potrzeba życia – ich twórca wpisał w ich oprogramowanie bardzo krótki czas funkcjonowania (życia?). Z jakiegoś powodu maszyny zyskują instynkt przetrwania i próbują odwrócić swój los. Akty przemocy wobec człowieka wynikają przede wszystkim z prób obrony przed unicestwieniem. Replikanci nie próbują zdominować świata, choć są silniejsze i doskonalsze fizycznie - chowają się i ukrywają. To jedno z najpiękniejszych dzieł kina nt. cienkiej granicy miedzy cyborgiem a człowiekiem, również dlatego, że pozostawia widza z otwartym pytaniem czy główny bohater, człowiek ścigający replikantów (niezapomniana rola Harrisona Forda) – nie jest czasem jednym z nich?

/Źródlo: https://www.reddit.com/r/Cinemagraphs/comments/3fgt95/pris_blade_runner_1982/

KOMPLEKS CZŁOWIEKA CZY KOMPLEKS LUDZKOŚCI

Wiele utworów na temat AI nie potrafi się uwolnić od antropocentryzmu – stąd powtarzający się w filmach wątek kompleksu androida wobec człowieka. Im bardziej ludzki android, tym bardziej marzy, by zostać człowiekiem. I czuje się gorszy, niepełny w stosunku do człowieka. Takie uczucie ma Annalee z Obcego, która wstydzi się tego, że jest androidem, ale również David z filmu Spielberga, który głęboko wierzy w to, że jest prawdziwym dzieckiem i nie chce przyjąć do wiadomości, że może być czymś innym.
Ale te marzenia wydają się być tak naprawdę lustrzanym odbiciem kompleksu ludzkości – która obawia się detronizacji. Stąd bardzo popularne wersje apokaliptyczne, w których maszyny przejmują nad ludzkością dominację i: albo ludzi eksterminują (Terminator), albo używają jak niewolników do swoich celów (jak w Matrixie). Wydaje się, że w tych wizjach realizuje się jakaś zbiorowa świadomość (pamięć?) człowieka – który właśnie tak się zachowywał, gdy zdobywał dominację – eksterminował albo wykorzystywał (innych ludzi, zwierzęta).
A przecież może być zupełnie inaczej. Bo to, że maszyny zaczną mysleć – jest nieomal pewne. Ale nie znaczy to, że będą myśleć jak ludzie.
W „Automacie”, główny bohater, Jacq Vaucan, pyta robota: „Are you the boss?” Na co dostaje odpowiedź: „Boss is a human thought structure.”
Natomiast w filmie „Imitation Game”* – filmie o Turingu, sławnym matematyku, autorze Enigmy, uważanym za twórcę prototypu komputera – jest taki dialog: dziennikarz pyta Turinga: „Czy maszyny potrafią myśleć jak ludzie?”, Turing się irytuje: ”Nie, oczywiście, że maszyny nie myślą jak ludzie. Maszyna nie jest człowiekiem, wiec myśli inaczej. Interesujące pytanie jest – czy z racji, że coś myśli inaczej niż my – znaczy, że nie myśli w ogóle?”
Bo w gruncie rzeczy nie chodzi o żadną imitację człowieka. Chodzi o zupełnie nową jakość.

*podaję angielski tytuł, bo fatalny polski tytuł „Gra tajemnic” całkowicie zignorował treść filmu, w którym główny bohater nazywa grą imitacji test, który po jego śmierci będzie funkcjonował pod nazwą Testu Turinga – czyli test na zdeterminowanie, czy rozmawiamy z człowiekiem czy z maszyną.