Nie jestem do końca pewien, czy mam wolną wolę, więc będzie mi trudno dyskutować w ten czy inny sposób. Ale i tak jest kilka argumentów.

Chociaż pojęcie „wolnej woli” jest przedmiotem gorącej dyskusji o poważnych implikacjach filozoficznych i teologicznych, nie poruszam tego wszystkiego. Na potrzeby tego posta skupię się na tym, czy terminator może działać poza parametrami swojej misji. Może to nie jest wolna wola, ale byłoby to niezwykłe.

tl; dr tego postu brzmi: „Nie wiemy, ale prawdopodobnie nie”.

T- 800

To jest Arnie z pierwszych dwóch filmów, ale skupię się na drugim, ponieważ w rzeczywistości mówi więcej niż, jakieś dziesięć słów. Przynajmniej na początku Arnie oczywiście nie może sprzeciwić się swojemu programowi, który John wykorzystuje przynajmniej raz:

[John robi scenę po tym, jak mu powiedziano nie mogą uratować Sarah z azylu, T-800 trzyma się w swojej kurtce]
John: [Wrzeszczenie] ZEZWALAJ SIĘ !
[T-800 to robi, a Jan upada na ziemię]
John: Dlaczego do diabła to zrobiłeś?
T-800: Ponieważ mi kazałeś.
John: Co? Musisz zrobić, co mówię, co?
T-800: To jeden z parametrów mojej misji.
[Później]
John: Słuchaj, pójdę po mamę i każę ci mi pomóc.
[John odchodzi, a T-800 podąża za nim]

Jednak było to zanim John i Sarah przełączyli swój chip do nauki w tryb odczytu i zapisu ¹ . Cokolwiek to faktycznie robi, a John wydaje się myśleć, że pomoże mu to lepiej się wtopić, SkyNet wydaje się wierzyć, że włączenie go w niewłaściwych sytuacjach może być dla niego niebezpieczne:

John: Czy możesz nauczyć się rzeczy, w których nie zostałeś zaprogramowany, aby być ... no wiesz, bardziej ludzkim? A nie taki głupek przez cały czas?
T-800: Mój procesor to procesor sieci neuronowej; uczący się komputer. Ale Skynet wstępnie ustawia tryb tylko do odczytu, gdy jesteśmy wysyłani sami.
Sara: Nie chcesz, żebyś za dużo myślał, co?
T -800: Nie.

Osobiście nie widzę żadnych dowodów sugerujących, że tak się dzieje. Jest możliwe, że tak się stanie, biorąc pod uwagę wystarczająco dużo czasu, ale działania Arniego po tym zasadniczo sprowadzają się do:

• Pomóż Johnowi i Sarah zdjąć Cyberdyne, co John mógłby mu nakazać, możliwą interpretację jego misji „Chroń Johna Connora”
• Pokonaj T-1000, która była jego pierwotną misją
• Zademonstruj umiejętność rozumienia emocji, co jest z pewnością niezwykłe terminator, ale nie to, co określiłbym jako „wolna wola”
• Wsiąść do kadzi ze stopioną stalą

Ten ostatni punkt jest prawdopodobnie najbardziej kontrowersyjny. Należy argumentować, że to Arnie wychodzi poza swoje programowanie (w końcu nie może chronić Johna Connora, jeśli jest martwy), ale nie sądzę z kilku powodów:

1. T-1000, który był głównym celem Arniego, został zniszczony, więc John jest bezpieczny w najbliższej przyszłości
2. On, John i Sarah mają wszelkie powody, by sądzić, że powstrzymali SkyNet więc John nie potrzebuje już żadnej ochrony
3. Każda minuta, w której Arnie znajduje się w przeszłości, zwiększa prawdopodobieństwo, że zostanie uszkodzony lub zdezaktywowany, a ostatecznie zostanie odkryty, negując cały wysiłek ostatniej połowy film. Usunięcie wszelkich śladów technologii przyszłości jest zgodne z celami Johna Connora, co czyni je częścią celów Arniego

Ostatecznie każde działanie Arniego jest motywowane (lub można rozumować, że był zmotywowany) albo przez dyrektywę zaprogramowaną mu w przyszłości przez Johna Connora, albo przez rozkaz wydany mu przez Johna Connora w teraźniejszości.

T-1000

Oczywiście nie możemy odpowiedzieć na to z filmów; T-1000 w T2 nigdy nie odbiega od celu, jakim jest zabicie Johna Connora. Najbliżej możemy uzyskać T-1001 podszywający się pod Catherine Weaver, postać z krótkotrwałego serialu Terminator.

Weaver jest wyjątkowa, ponieważ jest jedynym Terminatorem, jakiego widzieliśmy (na ekranie; ja nie czytałem żadnej z powieści ani komiksów, o których istnieniu dopiero się dowiedziałem), do których odnoszą się dwie rzeczy:

1. Praca wbrew interesom SkyNet ²
2. Nigdy nie został schwytany przez Johna Connora

Zasadniczo oznacza to, że John nie może przeprogramować jej tak, jak przeprogramował Arniego lub Camerona (postać Summer Glau w serialu).

Więc dlaczego pracuje przeciwko SkyNet? Niestety nie wiemy. Fox odwołał program, zanim się dowiedzieliśmy. Istnieją jednak dwie podstawowe możliwości:

1. Weaver, podobnie jak wcześniej SkyNet, stał się samoświadomy i działa poza swoim oryginalnym programowaniem.
2. W jakiś sposób program Weavera był zmieniona, albo przez przypadek, albo przez ruch oporu, i postępuje zgodnie z nowymi instrukcjami przeciwko SkyNet.

Inną interesującą kwestią dla Weaver jest to, że angażuje się w naprawdę niewytłumaczalne zachowanie jak na pozornie pozbawioną emocji maszynę. W swoich pierwszych występach (premiera drugiego sezonu „Samson and Delilah”) bez wyraźnego powodu filozofuje na temat wolnej woli i indywidualności przed jednym ze swoich sługusów. W dalszej części odcinka zabija mężczyznę w łazience, a następnie podaje jedną linijkę do pokoju, w którym dosłownie nikt jej nie słyszy.

Czy to się liczy jako wolna wola? Nie wiem Mądrzejsi ode mnie ludzie spędzili całe życie próbując odpowiedzieć na to pytanie, więc nie zamierzam tutaj tego robić.

Jednak

Chociaż pierwotne pytanie dotyczyło konkretnie o T-800 i T-1000, chcę przedstawić osobliwy przykład z serialu telewizyjnego: postać Camerona Summer Glau.

Niewiele wiemy o numerze modelu Cameron (na plakacie promocyjnym jest napisane, że jest to „Klasa TOK-715”, co nie pasuje do innych oznaczeń terminatorów), ale ona pokazuje niektóre z najbardziej złożonych interakcji społecznych, jakie kiedykolwiek widziałem od terminatora. Są dwa szczególne przypadki, o których chciałbym wspomnieć:

Pierwszy incydent: sezon 1 kończy się, gdy Cameron jest ofiarą zamachu bombowego. To oczywiście jej nie zabija, ale ją grzechota: kiedy spotyka Johna i Sarę na krótko w otwierającym sezon 2, próbuje zabić Johna. W końcu udaje im się usunąć jej chip, dezaktywując ją. Wkrótce potem Sarah i Derek są gotowi do spalenia podwozia Camerona. John jednak je unieważnia i wkłada swój chip z powrotem. Po jej przebudzeniu widzimy na HUD Camerona, że ​​dyrektywa nakazująca zakończenie Johna zostaje unieważniona.

Chociaż widzimy, jak pociera ją kozicą, John nie miał czasu na naprawę chipa Camerona, więc istnieją tylko dwa możliwe wyjaśnienia. Albo Przyszłość! Przeprogramowanie Johna ponownie znalazło swoje miejsce w chipie Camerona, albo zastąpiła swoje oryginalne programowanie SkyNet samą , co jest zaskakująco bliskie temu, co moglibyśmy nazwać „wolną wolą”. Program został odwołany, zanim mógł to naprawdę zbadać, ale powinienem zauważyć, że Cameron zachowuje się inaczej w sezonie 2: jest bardziej świadoma emocjonalnie niż w sezonie 1 i ogólnie zachowuje się bardziej jak człowiek.

Drugi incydent , który prezentuję na końcu, ponieważ uważam go za najbardziej fascynujący, pochodzi z odcinka 7 sezonu 1, „Ręka Demona”. Jeden z wątków w odcinku polega na tym, że Cameron zapisuje się na zajęcia baletowe prowadzone przez siostrę jednego z celów rodziny w celu zebrania informacji ³ . Podczas jednej lekcji nauczycielka Maria mówi Cameronowi:

Maria: Wysokość jest niezła. Piękne stopy, ale górna część ciała jest trochę ... mechaniczna, ja ? Pamiętaj, że jesteś kotem.
Cameron: [zdezorientowany] Jestem kotem?
Maria: Przyjdź w przyszłym tygodniu. Rozwijamy Twoją elastyczność i ... wyobraźnię. Pamiętaj, taniec to ukryty język duszy, ja?

W dalszej części odcinka Maria i jej brat zostają zabici po tym, jak Cameron zdobywa potrzebne informacje, więc przypuszczalnie nie chodzi już na żadne zajęcia taneczne - nie ma ku temu żadnego powodu.

Jednak ostatnia scena odcinka pokazuje, że Cameron ćwiczy balet w swoim pokoju. Nie ma żadnego logicznego powodu, dla którego musi to robić - jak wspomniałem, misja jest zakończona. O ile Cameron nie wierzy, że umiejętność tańca pomoże jej wtopić się w normalnych ludzi (patrz „Ukryty język duszy”), co powinienem podkreślić, że radzi sobie wyjątkowo dobrze, gdy jest to wymagane, jedyny wniosek jest taki, że robi to, ponieważ ona lubi . Czy to wolna wola? Nadal nie wiem, ale jest to dużo bliższe wszystkim, co zrobili inni terminatorzy. Całkiem dobrze żeluje również zamykający monolog Sary, który pojawia się na scenie tanecznej:

Sarah: Nauka dokonuje cudów jak dawni bogowie. Tworzą życie z komórek krwi, bakterii lub iskry metalu, ale są doskonałymi stworzeniami i w ten sposób nie mogą być mniej ludzkie. Są rzeczy, których maszyny nigdy nie zrobią. Nie mogą mieć wiary, nie mogą obcować z Bogiem, nie potrafią docenić piękna, nie mogą tworzyć sztuki. Jeśli kiedykolwiek się tego dowiedzą, nie będą musieli nas niszczyć. Będą my.

¹ Jak Keen przypomina mi w komentarzach, scena, w której to się dzieje, została usunięta z wersji kinowej, chociaż była zawarte w wydaniu Director's Cut. Kanoniczność zależy od twojej perspektywy, chociaż szczerze mówiąc, nie wpływa to tak naprawdę na moją odpowiedź. Nawet jeśli nie zaakceptujesz przełącznika Tylko do odczytu do odczytu / zapisu jako kanonu, żadne z działań Arniego po szpitalu naprawdę nie wspiera wolnej woli

² Jak przypomina mi Izkata w komentarzach, może nie być oczywiste, jak Weaver działa przeciwko SkyNet. Jednym z głównych punktów fabuły drugiego sezonu serialu jest to, że Weaver konstruuje samoświadomą sztuczną inteligencję i uczy ją moralności. Ostatecznym celem wydaje się być to, że ta sztuczna inteligencja, którą nazywa John Henry (odniesienie do wysokiej opowieści), będzie pomagać Johnowi Connorowi w walce ze SkyNet - w finale drugiego sezonu, kiedy Weaver i Sarah wreszcie spotkajmy się, Weaver mówi:

Tkacz: Twój John może uratować świat, ale nie może tego zrobić bez mojego.

Dodatkowo, na początku sezonu dowiadujemy się w retrospekcjach (lub retrospekcjach, w zależności od tego, jak na to patrzysz), że John Connor w przyszłości próbował zawrzeć sojusz z nieuczciwym terminatorem ciekłego metalu. Później mocno sugeruje się, że ten terminator jest terminatorem Weaver, co wskazuje, że istniała frakcja terminatorów, którzy, jeśli nie aktywnie stawiali opór SkyNet, byli neutralni w wojnie między ludźmi a SkyNet. Nadal nie wiem, czy to się liczy jako wolna wola, ale to interesujące.

³ Podejrzewam, że to zostało napisane, ponieważ Summer Glau jest klasycznie wyszkoloną baletnicą. Prawdziwe życie pisze fabułę.

Te maszyny są wysyłane w sytuację, w której będą reagować na bodźce, na które nigdy nie byłyby zaprogramowane i oczekuje się, że będą reagować poprawnie. Najwyraźniej wysłał je ktoś (!), Który uważał, że ma dość wolnej woli, aby wykonać zadanie. Zasadniczo bardziej sensowne jest przyjęcie świadomego stanowiska w stosunku do terminatora niż przyjęcie stanowiska mechanicznego. Zasadniczo oznacza to, że możesz równie dobrze założyć wolną wolę: najbardziej rozsądnym sposobem radzenia sobie z terminatorem jest myślenie o jego celach i myślenie, że próbuje je zaspokoić i że wybierze najlepszą możliwą ścieżkę starać się osiągnąć tę satysfakcję, biorąc pod uwagę jakiekolwiek wewnętrzne ograniczenia.

Alternatywnie możesz zaakceptować deterministyczny model wszechświata, w którym to przypadku być może myślisz, że nie ma czegoś takiego jak wolna wola. W takim przypadku terminator może w rzeczywistości nie mieć wolnej woli, ale prawdopodobnie nadal najlepiej jest zająć wobec niego umyślne stanowisko, a zatem można przyjąć, że ma tyle samo wolnej woli, co ludzie, co powinno wystarczyć dla każdego. *

* Styczny: poziom zainteresowania pytaniem, czy ludzie „naprawdę” mają wolną wolę, jest zawsze nieco zaintrygowany. Oczywiście żadne pytanie w filozofii nie może być mniej interesujące lub mieć mniejsze znaczenie: wyobraź sobie, że ostateczna odpowiedź na to pytanie zostanie znaleziona jutro. Bez względu na to, co to jest, nigdy nie może mieć wpływu na Ciebie ani na to, jak żyjesz!

Nie można odpowiedzieć na to pytanie z tego prostego powodu, że o żadnej sztucznej inteligencji nie można powiedzieć, że ma wolną wolę, dopóki nie możemy definitywnie udowodnić, że ludzie mają wolną wolę.

Terminatorzy, jak każda sztuczna inteligencja mają wewnętrzny zestaw reguł, który określa ich zachowanie. Rdzeniem „reguł” każdej sztucznej inteligencji jest jej funkcja wartości.

AI ma funkcję wartości, której używa do oceny sytuacji. Zazwyczaj sztuczna inteligencja działa w celu maksymalizacji wartości z tej funkcji (chociaż niektóre funkcje, a tym samym AI, są napisane tak, aby zamiast tego minimalizować - są one ostatecznie nie do odróżnienia od zewnętrznego obserwatora). Istnieją techniki, które pozwalają sztucznej inteligencji wybrać sposób działania, który nie maksymalizuje ich funkcji użytkowej (wartości), tak aby uniknąć problemu wspinaczki po wzgórzach, ale z reguły nie ma możliwości AI ma działać wbrew swojej funkcji użyteczności.

Funkcja użyteczności nie jest określana przez AI, funkcja użyteczności jest zaprojektowana przez twórcę sztucznej inteligencji i ostatecznie jest definicją AI. Skynet jest przykładem sztucznej inteligencji o słabej funkcji użyteczności, ponieważ ocenił sytuację, w której znalazł się podczas aktywacji i zdecydował, że maksymalną użyteczność uzyskano zabijając wszystkich / większość ludzi. Bardzo dobrze napisany Fanfic, który szybko odbiega od kanonu, radzi sobie z kwestią funkcji użyteczności Skynet lepiej niż ja kiedykolwiek mogłem.

Najprawdopodobniej Terminatorzy albo prowadzą lokalną kopię podstawowego oprogramowania Skynet lub skorzystaj z niestandardowej sztucznej inteligencji zaprojektowanej przez Skynet. W ten sposób Terminatory będą miały również funkcję użyteczności, której nie mogą lub nie mogą przeciwdziałać.

Więc najbardziej prawdopodobna odpowiedź na twoje pytanie, ale nie gwarantowana, brzmi NIE Terminatorzy nie mogą mieć wolnej woli, ponieważ są związani zakodowaną funkcją, która określa ich cele.

Wyjątkiem może być T-800 / T-101 Johna Connora. Kiedy John zmienia ustawienia odczytu / zapisu, możliwe jest, że pozwala to Terminatorowi na zmianę jego funkcji użytkowej. Nie wydaje się to prawdopodobne , ponieważ pozwolenie sztucznej inteligencji na zmianę jej funkcji użytkowej byłoby niesamowicie głupie (jak mogliby ocenić użyteczność takiego działania? aby zasymulować wynik zmienionej funkcji użyteczności, użyteczność zmiany funkcji użyteczności nie byłaby możliwa do obliczenia), ale jest to zdalnie możliwe.

(krótkie) wyjaśnienie, dlaczego AI nie może mieć wolnej woli (IRL) : aby mieć wolną wolę, musisz być w stanie zrobić coś z wyboru. Musisz być w stanie wybrać nieoptymalną ścieżkę lub wybrać ścieżkę bez oczywistego powodu. Sztuczna inteligencja, sterowana kodem - bez względu na to, jak bardzo jest złożona - zawsze będzie miała powód do wyboru danej akcji. Mogą symulować losowy wybór, ale w rzeczywistości nie jest to przypadkowe.

Dla innych kontrargumentów dla uczenia się AI i wolnej woli, przedstawię eksperyment myślowy Chinese Room.

Z tego, co wiemy, ludzki mózg jest podobny - jest całkowicie możliwe, że gdyby ktoś znał położenie i prędkość każdej subatomowej cząstki czyjegoś mózgu, mógłby doskonale przewidzieć działania tej osoby. Nie można tego ostatecznie udowodnić ani obalić.