Program Moriarty pokazuje, że komputer przedsiębiorstwa może emulować świadomego człowieka z inteligencją na poziomie geniuszu na rozkaz.

Nie oznacza to, że sam komputer jest świadomy. Jeśli „czująca osobowość” jest po prostu rodzajem programu, który można uruchomić, a komputer nie uruchamia tego programu, komputer nie jest świadomy.

W odniesieniu do (edytowanego) pytania : Z tego co wiemy, komputer wykonuje polecenie Geordiego jako „uruchom symulator wrażliwości 257-beta”. (Dokładnie dlaczego komputer miałby coś takiego, pozostaje tajemnicą; może to „pisanka” instalowana przez znudzonych inżynierów, podobnie jak niesławny symulator lotu Microsoft Excel.) W każdym razie możliwość stworzenie czującej istoty samo w sobie nie oznacza poczucia. Istoty ludzkie powstają z plemników i komórek jajowych, które same nie są samoświadome.

Zamieszanie powstaje, ponieważ myślimy o wrażliwości i złożoności jako o istnieniu jedno i to samo. Powód jest następujący:

1. Ludzki mózg jest najbardziej złożonym urządzeniem przetwarzającym informacje, jakie znamy;
2. Ludzki mózg jest świadomy;
3. Wystarczająco dużo złożone urządzenie przetwarzające informacje stanie się świadome.

Jednak trzeci krok nie musi koniecznie wynikać z dwóch pierwszych. Sama moc przetwarzania nie oznacza wrażliwości. Wyobraź sobie jeden procesor obsługujący algorytm generowania liczb losowych. Teraz wyobraź sobie sto bilionów z nich, a wszystkie generują liczby równolegle. Ta wyimaginowana tablica procesorów ma większą moc obliczeniową niż sto miliardów neuronów w ludzkim mózgu; ale nie jest czujący, ponieważ wszystko, co robi, to generowanie liczb losowych. Oprogramowanie ma znaczenie tak samo jak sprzęt.

Więc komputer Enterprise może być prawdopodobnie bardziej złożony niż osobowość Moriarity, bez zdolności czujących. (Najprawdopodobniej jest o wiele bardziej złożony, ponieważ może obsługiwać Moriarity i wykonywać wszystkie swoje normalne funkcje w tym samym czasie bez widocznych trudności.) Wydaje się to najbardziej zgodne z traktowaniem komputera statku w innym miejscu w serialu - w przeciwieństwie do Danych i Moriarty, nie kłóci się z załogą, nie nalega na posiadanie praw obywatelskich ani nie wykazuje żadnych innych oznak wrażliwości.

(Umiejętność naśladowania genialnej osobowości na komputerze - tak łatwo, że Geordie może to zrobić przypadkowo , po prostu pytając interfejs głosowy - powinno to mieć wiele interesujących konsekwencji, z których żadne nie pojawiają się w odcinkach, ale nie jest to rzadkie w Star Trek.)

W pewnym momencie ewolucji życia na Ziemi czujące istoty wyewoluowały z nieświadomych. Jedyną różnicą między tym a komputerem przedsiębiorstwa tworzącym czującą istotę jest to, że ta ostatnia została dokonana celowo, ale oba przypadki dotyczą czujących istot wywodzących się z nie czujących źródeł.

W dużej mierze ma to związek z własną tożsamością, a trochę z postrzeganiem osób na pokładzie i w pobliżu komputera przedsiębiorstwa.

W odcinku Q-Who, Ensign Sonya Gomez jest prawdopodobnie pierwszą i jedyną aktorką członka załogi, która uprzejmie potraktowała komputer statku, mówiąc nawet o tym Głównemu Inżynierowi Geordi Laforge.

„Cóż, czemu nie? (powiedz„ proszę ”) To jest klasyfikowane jako inteligentne oprogramowanie. - Sonya Gomez

Reszta załogi nie podziela jednak jej punktu widzenia - i zwykle Enterprise jest traktowany bardzo jak nie-byt, nawet posuwając się do wykorzystania jako kontrapunkt przeciwko prawu Commander Data do wyboru w „ Measure of a Man”. (Brak bezpośredniej wyceny, ale pojawiła się idea, że ​​Enterprise odmawia sprowadzenia na remont).

Ten odcinek być może najlepiej pokazuje, dlaczego nie jest ona ogólnie uważana za istotę „czującą”. W obronie własnej indywidualności Data „samoświadomość” zostaje podniesiona jako jeden z najważniejszych aspektów wrażliwości. W żadnym odcinku Enterprise nigdy nie wykazał takiej zdolności - pomimo prawdopodobieństwa, że ​​mógłby mieć zdolność obliczeniową do samoświadomości, a przedtem prawie nabrał pewnego rodzaju samoświadomości, gdy został opanowany przez jakąś obcą siłę do dawania. birth ”w Emergence.

Chociaż powinniśmy pamiętać, że Komputer okazał niesławną bezczelność w stosunku do Commander Data w Conspiracy, kiedy okazał się bardzo frustrującym użytkownikiem w obsłudze, więc jest możliwe, że Komputery statku kosmicznego są bardziej samoświadome niż przyznane kredyty.

Ale jeśli tak jest, to nigdy nie wydają się tego okazywać ani w ogóle nie wykazują chęci bycia rozpoznanymi jako indywidualne byty. Tymczasem Moriarty obficie wyrażał chęć życia i odkrywania poza swoimi granicami, a tym samym został uznany za „czującego”.

Ostatecznie więc, jeśli komputer JEST świadomy, to jedynym powodem, dla którego nie został jeszcze rozpoznany, jest to, że nigdy nie prosił o takie rozpoznanie. Ale z pewnością jest zdolny do odczuwania i sklasyfikowany jako inteligentny.

A skoro badamy, czy komputer jest świadomy w oparciu o tworzenie czującej istoty, omówmy również to trochę.

Holograficzne istoty są całkowicie oddzielnymi istotami od statku kosmicznego, na którym zostały stworzone. Są one tworzone przez komputer przy użyciu wstępnie wygenerowanych algorytmów, aw przypadku komputera Enterprise mogą powodować bardzo złożone programy holograficzne, ale nie są one połączone z komputerem statku po utworzeniu, z wyjątkiem możliwości ich usunięcia przez komputer, przechowywać je lub dodawać do nich nowe programy. Są to zasadniczo niezależne programy.

Jeśli potrzebujesz na to dowodów, nie musimy szukać dalej niż na drugą stronę galaktyki, do ulubionego przez wszystkich niezależnie myślącego hologramu - Doktor.

Doktor jest holograficznym bytem zaprogramowanym na statku, ale służy jako dobra podstawa do porównania statku z innymi programami holograficznymi, które tworzy. Statek nie jest Doktorem, a Doktor nigdy nie identyfikuje się jako część statku. W rzeczywistości dokłada wszelkich starań, aby całkowicie zidentyfikować się jako odrębny byt (kluczowy aspekt „świadomości”).

Możemy założyć, z wyjątkiem ekstremalnych okoliczności (patrz „Pojawienie się” powyżej), że dotyczy to wszystkich programów holograficznych. Czułość Moriarty'ego jest niezależna od własnych możliwości komputera. Biorąc pod uwagę zakres rzeczy, które komputer MOŻE wytworzyć na holodekcie - prawdziwe iluzje odległości, fizyczne istoty, z którymi można wchodzić w interakcje, płynąca woda, tętniące życiem miasta, postacie wystarczająco realne, aby wchodzić w interakcje, a jednak to żadna z tych rzeczy. Dlaczego więc mielibyśmy powiedzieć, że nie może stworzyć czującej istoty?

Zauważ, że nie mówię, że komputer NIE jest świadomy - są pewne dowody na to, że tak może być. Ale możliwość stworzenia czującej istoty holograficznej sama w sobie nie dowodzi, że komputer przedsiębiorstwa jest świadomy. Wysoce inteligentny tak, i zdolny do ogromnych ekstrapolacji - ale nie czujący.

Komputery statku kosmicznego nie są uważane za czujące, ponieważ nie są na to zaprogramowane. Są zaprogramowani do działania jako asystenci operacyjni, a nie jako interfejsy dowodzenia i kontroli zdolne do niezależnego działania.

• Kiedy statek Federacji ma działać z mniejszą liczbą załogi, komputer statku może otrzymać uprawnienia dowodzenia i możliwość bycia kontrolowanym z mostka lub mostka dowodzenia przez mniejszą załogę lub nawet jedną osobę.

• W tym czasie statek będzie wykonywał wszystkie funkcje w ramach sterowanie komputerem tak, jakby istniała żywa istota. Prawdopodobnie będzie wydajne, ale niezbyt kreatywne, korzystając z informacji przechowywanych w archiwach danych. Brakuje mu doświadczenia, które można by zdobyć jedynie wykonując tę ​​pracę.

• Jednak w przypadku działań takich jak walka w kosmosie ze znanymi zagrożeniami zawsze miałem wrażenie, że statek będzie znacznie lepiej wdraża się niż ludzka załoga, ale brakuje mu kreatywności, gdy wymagane było takie myślenie boczne.

Prosty argument przeciwko wrażliwości:

• Dlaczego statki kosmiczne nie są zaprogramowane z myślą o świadomości?

• I tak, można by je zaprogramować na wrażliwość. Fakt, że komputer statku mógł nasycić jeden z jego podprogramów, Moriarty, wrażliwością lub rozsądną jego faksymile, oznacza, że ​​technologia i możliwości mieszczą się w zakresie możliwości Federacji, w rzeczywistości jest to nieodłączna część ich działania. możliwości systemu i dostęp do nich z komputera. Komputer na statku może zmieniać swój własny program, przypuszczalnie tylko na podstawie instrukcji ...

• Odpowiedź jest prosta. Gdybyś uczynił statek kosmiczny świadomym, jak jako załoga statku kosmicznego wydałbyś mu rozkazy sprzeczne z oczekiwaniami czującej istoty, aby zrobiła coś sprzecznego z pierwszym prawdziwym protokołem jakiejkolwiek żywej istoty, aby pozostać przy życiu?

• Jaka byłaby jego motywacja do eksploracji galaktyki? Czy chciałbyś przekonać swój statek, żeby „wstał rano” i ruszył w drogę? A jeśli nie chce wykonać tej misji? A co, jeśli w swojej wyższej ocenie nie widzi pomyślnej drogi do ukończenia misji? Czy chciałbyś pokłócić się ze statkiem, któremu nie możesz zagrozić niczym, co mogłoby wyglądać na działanie naprawcze?

Zadaję te pytania, ponieważ dlatego Federacja (i przypuszczalnie inne gatunki, których umiejętności technologiczne i programistyczne są równe Federacji) nie używają czujących statków kosmicznych. Nie można było zapewnić ich poziomu współpracy. Patrz: jednostka multitronic M-5.

• Tak, można ustawić przejęcie sterowania, ale w takim razie o co chodzi oddania mu wolnej woli, gdyby nie był pewien, mógłby to zrobić ...

Uwagi techniczne

Jeśli liczby Uważam, że udało mi się znaleźć, że komputery większości nowoczesnych statków (TNG lub nowszych) zdolne do korzystania z izolinearnych lub neuronowych systemów komputerowych typu gelpack mają nie tylko zdolność przewyższania ludzkiego umysłu pod względem surowej mocy obliczeniowej, ale mogą to robić więc BEZ WYSIŁKU.

• Ale wrażliwość nie jest aspektem czystej wydajności lub szybkości obliczeń. Świadomość jest podzbiorem i wyjątkowym wyrazem zdolności do interakcji i rozumienia własnego środowiska. Mamy komputery, których surowe zdolności obliczeniowe są zdumiewające, ale nie są one bliskie Federacji. Brakuje nam również wiedzy programistycznej, rozwoju algorytmów i zdolności projektowania komputerów do naśladowania choćby jednego ludzkiego umysłu, dopracowanego biologicznym systemem operacyjnym i jego interakcją ze środowiskiem przez miliony lat.

• Statki kosmiczne nie są świadome, ponieważ nie mają specjalnej POTRZEBY. Również ich program nie WYMAGA od nich tego. Oni się nie uczą, tak robią ich ludzcy partnerzy. Ich funkcje są jasno określone i nie są stworzone, by pragnąć, potrzebować lub chcieć niczego, czego nie chcą ich ludzcy partnerzy. W obecnej formie statek kosmiczny i jego załoga są organizmem symbiotycznym, działającym w synergii, wykorzystując doświadczenie zebrane przez ludzi, aby zwiększyć wydajność i wydajność statku kosmicznego.

• Czy pomoc statku kosmicznego w monitorowaniu i usprawnianiu wydajności? Tak. Poprzez emulację umysłów z wystarczającą ilością zapisanych danych i interakcję w unikalnym środowisku uczenia się, umożliwiając komputerowi statku gromadzenie informacji w ten sam sposób, co my. Naśladuje krzywą uczenia się ludzkiego umysłu (aczkolwiek bardzo inteligentnego i zdolnego umysłu). Patrz: Leah Braums

• W Federacji, choć rzadko się o tym mówi, komputery mają zdolność do bycia świadomymi lub EMULOWAĆ wrażliwość, jeśli pozwoli to na bardziej efektywną interakcję. Patrz: profesor James Moriarty (hologram) .

• Te emulacje wrażliwości mogą wyglądać i działać tak, jakby były świadome a dzięki możliwości interakcji, gromadzenia informacji i tworzenia unikalnych interakcji danych, można by sobie wyobrazić niezależną świadomość, mając do dyspozycji wystarczającą moc komputera. Zobacz: EMS; Joe, Hologram Chief Medical Officer, Voyager.

• Zdolność przetwarzania statku kosmicznego z układem neuronowo-żelowym to jedyne liczby, jakie udało mi się znaleźć do porównania . Komputery na pokładzie statków Federacji w czasach następnej generacji mają znacznie większą moc obliczeniową niż ludzki mózg.

• Komputer Voyagera był w stanie wykonać 575 bilionów obliczeń na NANOSECONDĘ (lub równowartość 575 000 000 000 petaflopów na sekundę), w porównaniu ze znamionową szybkością procesora Commander Data wynoszącą 60 petaflopów na sekundę i szacowanym porównaniem ludzkiego mózgu wynoszącym 2,2 miliarda megaflopów na sekundę. druga. (REF: Fischetti, Mark. " Computers vs Brains" Scientificamerican.com. Np Web. 25 listopada 2014 r.)

Te liczby są jeszcze bardziej zdumiewające, to jak mały jest sprzęt w porównaniu z dzisiejszymi komputerami. Najszybszym komputerem na Ziemi (przynajmniej do jutra) jest chiński superkomputer Tianhe-2, taktowany z prędkością 33,89 petaflopów na sekundę (około 34 tryliony obliczeń na sekundę) i zajmuje powierzchnię całego budynku. Zasoby obliczeniowe danych były ograniczone do rozmiaru ludzkiej głowy.

Tianhe-2 opracowany przez chiński Narodowy Uniwersytet Technologii Obronnych może działać równie szybko 33,86 petaflopów na sekundę Zdjęcie: Funkcje Rexa

• Wydajność Soonga z Androidem lub komputera Federacji jest fantastycznie elegancka, potrafi przyjmować instrukcje głosowe i INFER, co jest pożądane przed jego utworzeniem.

Na początku 2375 roku hybryda Borga One pochłonęła 47 miliardów terrakadów danych z komputerów Voyagera. To około miliard razy więcej niż całkowita pamięć masowa Enterprise D lub DS9. Poza tym główny procesor Voyagera ma dostęp do 47 milionów kanałów danych i może wykonać 575 bilionów obliczeń na nanosekundę. Dla porównania porucznik Commander Data ma prędkość obliczeniową 60 bilionów operacji na sekundę. Oznacza to, że komputer Voyager jest prawie 10 miliardów razy szybszy od danych. ( Zimmerman i in. 1998) NA PODSTAWIE Star Wars vs Star Trek: Computers

Podsumowanie

• Mając do dyspozycji tak dużą moc obliczeniową, zdolność odczuwania jest z pewnością dostępna dla komputerów z pakietem neuronowo-żelowym.

• Jeśli chipy izolinearne działają nawet przy jednej czwartej oceny dla komputerów żelowych (co wydaje się rozsądne) byłoby więcej niż wystarczające możliwości do tworzenia i izolowania podprogramów podobnych do odczuwania, które mogłyby uwierzyć, że są świadome i faktycznie BYłyby świadome, ograniczone jedynie parametrami programowania podanymi przez zestaw instrukcji żądań poleceń.

• Podprogramy emulujące czujące istnieją w technologii Federacji i są wykorzystywane podczas tworzenia sztucznych osób dla holodeków. Takie podprogramy mają zdolność do prawdziwego rozumienia, jeśli pozwolą im się poruszać i uczyć niezależnie od zakazanych barier. W przypadku Moriarty'ego podano mu parametr, który pozwolił mu uczyć się niezależnie od holodeku, aby móc najlepiej wykorzystać dane w zawodach.

• Zakłada się, że komputer wyodrębnił wystarczające zasoby obliczeniowe, równe zdolności intelektualnej Commander Data. Taka alokacja zasobów nadal pozwalała na normalną eksploatację statku bez obniżenia wydajności operacyjnej. Oznacza to, że komputer statku ma zdolność wykrywania, jeśli upoważniony jest do tego ktoś z odpowiednimi władzami.

Łatwo jest zrozumieć, dlaczego uważamy, że statki Federacji powinny bądź świadomy. Jest to w granicach ich możliwości. Ale wraz z wrażliwością pojawiłby się zupełnie inny zestaw wyzwań etycznych, z którymi Federacja nie chce się uporać, ponieważ zmieniłoby to dynamikę interakcji między ludźmi i statkami kosmicznymi, prawdopodobnie na zawsze.

Komputer Enterprise-D jest zdolny do wytworzenia świadomej formy życia na polecenie, ale nie oznacza to, że sam komputer jest świadomy. Moriarty to program komputerowy, który został specjalnie zaprojektowany przez komputer, aby był czujący; nie wymaga to wrażliwości ze strony samego komputera.

Pomyśl o tym w ten sposób; możesz zaprogramować komputer do wykonywania skomplikowanych działań arytmetycznych, a jeśli ustawisz parametry w określony sposób, może to faktycznie rozwiązać kilka problemów arytmetycznych, które umykają ludziom. Nie oznacza to w rzeczywistości, że sam komputer jest genialnym matematykiem, a jedynie, że program na komputerze jest zdolny do genialnej matematyki. Deep Blue jest lepszym szachistą niż arcymistrz i były mistrz świata Gary Kasparow - pomimo ciągłych i słabych prób Kasparowa, by odebrać komputer jako oszukany - ale to nie znaczy, że komputer jest świadomy lub wie więcej o szachy, czy też jest równy Kasparowowi w innych dziedzinach; oznacza to po prostu, że komputer jest zaprogramowany tak, aby przewyższał go w grze w szachy.

Aby jeszcze bardziej zagłębić się w filozofię: mogę stworzyć całkiem przyzwoitą figurkę, jeśli poproszę o narysowanie osoby, tak jak komputer Enterprise-D został poproszony o stworzenie wróg zdolny do pokonania Data. Nie oznacza to, że ja jestem figurą z patyczkiem, ani że mam takie same możliwości jak ta figura - po pierwsze, mam szersze biodra i rzadko kolczaste włosy - ani też Zdolność Enterprise-D do wytworzenia czującej formy życia wskazuje, że jest ona sama w sobie czująca, ani że jest zdolna do odczuwania. Internet jest niewątpliwie pełen wiedzy niż jakakolwiek inna osoba na tej planecie, ale my jesteśmy świadomi i tak nie jest (lub po prostu nie zdecydował się jeszcze nam ujawnić, w swoim chwalebnym majestacie. Przepraszam, jeśli czytasz to i obraża się, potężny internet).

Moriarty jest świadomy, ponieważ został w ten sposób zaprojektowany; jego konstruktor, komputer, nie jest zaprojektowany do czucia, a zatem nie jest. W końcu Dr Soong wynalazł dane i wiedzę, ale to nie czyni go sam androidem.

Jest to jeden z problemów z filozofią umysłu / ciała, na które często przerzuca się Star Trek.

W szczególności ten odcinek jest zapisem do dualizmu, szkoły filozofii, która postuluje, że świadomy / czujący „Umysł” (lub w tym przypadku Program) może być całkowicie oddzielony od fizycznego medium, które je przechowuje (Mózg lub w tym przypadku komputer).

Następny odcinek, w którym program „Moriarty” jest przenoszony na mniejszy komputer z symulacją, która pozwala mu sądzić, że uciekł z holodeku, również subskrybuje ten widok . Należy przypuszczać, że skoro jego wszechświat działa teraz na znacznie mniej wydajnym komputerze, czas musi płynąć znacznie wolniej (w stosunku do „rzeczywistości”) dla „Moriarty'ego”.

Dualizm stał się ostatnio mniej popularnym punktem widzenia niż jego kontrapunkt „Monizm”, ponieważ wzrosło nasze rozumienie funkcjonowania mózgu, ale nadal toczy się poważna debata na temat temat w kręgach filozoficznych.

Powody, dla których we wszechświecie obrano ten kierunek, są nieznane i nieokreślone, o ile wiem. Zawsze wydawało mi się, że poza wszechświatem pisarze wolą pokazać wiele różnych poglądów filozoficznych i doprowadzić je do logicznych wniosków opartych na własnych założeniach, niż dyskutować o dwóch uzupełniających się poglądach w jednym odcinku.

To dobre pytanie, ponieważ to, co składa się na wrażliwość, jest od wieków przedmiotem dyskusji w filozofii.

Myślę, że jednym z głównych problemów, jakie napotykają ludzie, gdy poruszają tę kwestię, jest pomieszanie terminów „inteligencja” i „wrażliwość”:

Inteligencja: zdolność do pozytywnego reagowania na bodźce, Sentience: zdolność do subiektywnego doświadczenia.

Ludzie są świadomi faktu, że mamy subiektywne doświadczenie. Ból, radość, gorąco, zimno, czerwień, błękit, dźwięk itp. - wszystko to wydaje się czymś dla nas.

W odniesieniu do systemu mechanicznego, a dokładniej do komputerów. Każde zachowanie, które może wykazywać komputer, musi być zredukowane do maszyny Turinga, która jest maszyną teoretyczną, która jest w stanie przechowywać informacje w pamięci, pobierać i wykonywać proste obliczenia na tych danych. Wszystkie algorytmy komputerowe mogą i muszą być możliwe do symulacji na maszynie Turinga, dlatego jest to miernik tego, co jest algorytmicznie możliwe. Inteligencję można łatwo zredukować do splotu procesów maszyny Turinga. Jednak, aby w systemie komputerowym istniała zdolność rozumowania, trzeba umieć powiedzieć, że komputer może odczuwać „ból” w tym samym sensie, co my, jako wyłaniające się zachowanie wynikające z przechowywania i obliczania danych. Krótko mówiąc, aby Moriarty był świadomy, Maszyna Turinga również musi być w stanie.

http://en.wikipedia.org/wiki/Turing_machine

Domyślam się, że „wrażliwość” to kolejna podprogram, który możesz dodać, jeśli chcesz. Gwiezdna Flota musiała zobaczyć / przeczytać 2001 A Space Odyssey i postanowiła nie oddawać wrażliwości wszystkim swoim komputerom.

Kiedy Geordi poprosił przeciwnika, który mógłby pokonać Datę - nie tylko Sherlocka Holmesa - ma sens, że Komputer stworzył holocharakter, który był 1) świadomy Danych i jego możliwości oraz 2) świadomy ich otoczenie (tj. Enterprise) i 3) świadome siebie. Aby „pokonać” kogoś tak zdolnego jak Data, żaden zaprogramowany pretendent nie odniesie sukcesu. To samo widzimy u Menueta, którego Bynarowie zaprogramowali, aby odwracać uwagę („pokonać”) Rikera.

Być może wrażliwość jest niezbędną cechą, nawet jeśli zadaniem nie jest pokonanie, a jedynie interakcja z nieprzewidywalnymi scenariuszami. Myślę, że o to chodzi w przypadku Vic Fontaine.

U ludzi można argumentować, że u dzieci, które nie przejdą testu z lusterkiem z czerwoną kropką, obserwujemy brak samoświadomości (wrażliwości?) . Być może można nawet powiedzieć, że ludzie, którzy są niewidomi pijani, nie są prawdziwie samoświadomi (w tym sensie, że nie są sobą i nie mają świadomości swoich działań - nie po to, aby łączyć pamięć ze świadomością). Przyznaję, że sięgam, ale nadal: możesz wiele zdziałać, nie zdając sobie sprawy, że istniejesz. Komputer nie jest wyjątkiem.

Jedyne znane przykłady odczuwania w świecie rzeczywistym są wynikiem wyłaniającej się złożoności wynikającej ze stochastycznego procesu naturalnego, zgodnie z teorią ewolucji przez dobór naturalny *.

Jeśli wrażliwość może zostać utworzona przypadkowo przez przypadkową mutację genetyczną i dobór naturalny, to może również zostać utworzona przypadkowo przez pozbawiony świadomości komputer za pomocą algorytmu heurystycznego lub genetycznego, jeśli doprowadziło to do celów projektowych być spełnione.

Jestem programistą komputerowym. Od 30 lat. Dawno temu pisaliśmy programy - prawie rodzaj rywalizacji między nami - aby stworzyć programy, które mogłyby (zdawać się) angażować w rozmowę.

Zaczęliśmy od naprawdę prostych rzeczy, takich jak wpisywanie pytania ” Jak się masz dzisiaj ”, a program odpowiedziałby:„ Nic mi nie jest, dziękuję ”. Ale to tylko program z wieloma pytaniami i odpowiedziami przechowywanymi w bazie danych. Z biegiem czasu byliśmy trochę mądrzejsi, a program byłby w stanie zestawiać odpowiedzi na podstawie słów i fraz z poprzednich wymian. Wciąż dość głupi. Ale było fajnie.

W dzisiejszych czasach programiści nadal grają w tę grę, a program może mówić i wyświetlać obraz twarzy na ekranie, a nawet wyświetlać surowy obraz holograficzny, jeśli jest „sobą”.

Ale nadal nie jest świadomy.

Na samej górze tej strony oryginalny plakat mówił, że stworzenie zostało `` uznane za świadome '', a wszystkie późniejsze posty zakładają, że program jest zatem świadomy, ponieważ ktoś „uznał”, że tak jest.

Kto to „uznał”?

Sugerowałbym, że Moriarty NIE jest świadomy, ale komputer statku wykonał bardzo dobrą robotę, emulując wrażliwość do tego stopnia, że ​​ludzie w tym odcinku są „oszukiwani” i uznają go za świadomy, podczas gdy w rzeczywistości tak nie jest.

Chciałbym poruszyć kwestię ładowania początkowego.

Bieżący kompilator C jest napisany w C. Podobnie ewentualny kompilator Perl6 będzie napisany w języku najlepszym do kompilowania Perl6; Sam Perl6. Ale te pozorne cykle gdzieś się zaczynają; budując ręcznie bardzo prosty sprzęt, tworzymy narzędzia, za pomocą których możemy wyprodukować następne narzędzie. Ten proces nazywa się ładowaniem początkowym (od „podciągania się przez własne bootstrapy”).

Myślę, że najbardziej prawdopodobnym sposobem, w jaki kiedykolwiek stworzymy czującą maszynę, jest użycie programu, który nie jest czuły to. Może zająć plan różnych aspektów tego, co mogą zawierać czujące maszyny, a następnie wykonać określoną procedurę (taką jak algorytmy genetyczne lub iteracyjne ulepszenia), aby skonstruować sekwencję programów kandydujących. Jedynym wymaganiem jest zatem to, aby taki program mógł wykrywać wrażliwość, nie będąc sam odczuwającym; to jest, jak podejrzewam, bardzo trudne zadanie. Ale zadanie polegające na zbudowaniu czującej maszyny bez używania programu jako narzędzia do tego jest znacznie trudniejsze.

Zatem pomysł, że narzędzie adaptacyjne, takie jak komputer przedsiębiorstwa, może skonstruować czujący program zdolny do agencja (zdolność do samodzielnego działania we własnym interesie) jest tak samo wiarygodna, jak idea programu świadomego.

Zawsze zakładałem, że to komputery naprawdę zarządzają Federacją; ala AI Polity. SI Federacji po prostu nie chwalą się tym tak bardzo. Miałoby to dużo sensu.

Znajduję błąd w założeniu pytania - „w jaki sposób obiekt może mieć jakość, której brakuje jego twórcy?”

Na dobre lub na złe, franczyza TNG w Star Trek przechodzi dalej wyjaśnij, że wiele humanoidalnych funkcji poznawczych jest wystarczająco dobrze poznanych, aby można je było rekonfigurować, kopiować, a nawet zautomatyzować przez komputer. Godne uwagi przykłady:

• Graves in The Schizoid Man jest w stanie przenieść swoją świadomość do Data
• DS9: Life Support widzi, jak Bashir zastępuje aspekty mózgu Vedeka Bareila komponentami pozytronowymi - jednak jest on szczególnie dotknięty przez resztę swojego życia (czytaj: reszta odcinka)

Oba te odcinki mają swój ton ekstremalnej ostrożności i pogardy wobec tych działań - chociaż praktyka przekazywania lub utrzymywania świadomości prawdopodobnie mieści się w zakresie ich możliwości technologicznych, wydaje się być moralnie nie do przyjęcia.

Ekstrapolacja: że komputer przedsiębiorstwa może w oczywisty sposób pożyczać z jakimikolwiek danymi Gwiezdnej Floty i wczesnym podejściem TNG "powinieneś wiedzieć lepiej", aby blokować funkcjonalność rzeczy, do których nie każdy potrzebuje dostępu (patrz Strefa neutralna , gdzie finansista zakłada, że nie jest wymagane żadne zabezpieczenie do korzystania z systemu komunikacji, może robić, co chce) - komputer był „po prostu” wykonywanie rozkazów ”i nie zadał sobie trudu, aby wspomnieć, że zamierza zrobić coś niesamowicie głupiego.