Roboty w pracach Asimova na ogół nie mają „umysłowego” wyrafinowania potrzebnego do szukania abstrakcyjnej szkody w sposób, który sugerujesz. Dla nich klauzula „bezczynności” musi oznaczać, że robot nie może dopuścić do nieuchronnej szkody - tj. Muszą działać, aby zapobiec krzywdzie, gdy widzą, że szkoda ma się wydarzyć . Takie zdarzenia na ogół nie występują, gdy ludzie zajmują się swoim codziennym życiem, więc w większości roboty pozwalają ludziom kontynuować (oczywiście obsługując ich).

Zanim roboty staną się na tyle wyrafinowane, by przewidywać potencjalną szkodę w sposób, który sugerujesz, stali się również na tyle wyrafinowani, aby zrozumieć, że ograniczenia, które sugerujesz, stanowią rodzaj szkody, więc klauzula „działania” w tym miejscu przeciwdziałaby klauzuli „bezczynności” [tutaj klauzula „działanie” być silniejszym, ponieważ wymaga działań, które należy podjąć, w przeciwieństwie do zaledwie możliwych szkód, które nie muszą wystąpić]. Zrozumieliby również, że takie rzeczy, jak ugryzienie własnego języka są z natury nieuniknione, więc nie próbowaliby zapobiegać takiej krzywdzie (chociaż oczywiście „bolałoby” ich to, kiedy to się faktycznie dzieje). Kiedy docieramy do Daneela i jego robotów „Zeroth Law”, oni dodatkowo rozumieją, że powstrzymywanie wszystkich indywidualnych istot ludzkich stanowi krzywdę ludzkości ; to, nawiasem mówiąc, jest powodem, dla którego roboty ostatecznie znikają - zdają sobie sprawę, że poleganie na nich ludzkości jest samo w sobie szkodliwe, więc najlepsze, co mogą zrobić, to pozwolić ludzkości zarządzać własnym losem [przynajmniej jawnie].

Ponieważ „połączenie” wszechświata Robotów i wszechświata Fundacji ujawnia, że ​​ roboty manipulowały i dominowały w historii ludzkości przez tysiące lat, w bardzo realnym sensie galaktyka jest ich wyściełanym pomieszczeniem i większość Prace Asimova w tym „zjednoczonym wszechświecie” odbywają się w wyściełanym pokoju.

Po prostu nie widzimy ścian.

Rozumiem to, że typowy robot Trzech Praw zinterpretował pierwsze prawo jako „Ani też, przez bezczynność, nie pozwól, aby istota ludzka stała się krzywda tu i teraz , gdy robot jest w środku go zobaczyć i powiedzieć, co oczywiście się wydarzy, jeśli robot nie będzie przeszkadzał ”. Różni się to od zamykania człowieka dzisiaj tylko dlatego, że teoretycznie jest możliwe, że może on doznać jakiegoś przypadkowego urazu, infekcji lub innego nieszczęścia jutro. (Lub w niektórych znacznie później data.)

Inaczej mówiąc: Prawie, jak pamiętam, przy tych okazjach, kiedy widzieliśmy robota odmawiającego wykonania rozkazu odejścia i pozostawienia człowieka samemu robić to, co obecnie robił, oznaczało to zwykle, że Drugie Prawo było podporządkowane Pierwszemu Prawu z powodu postrzegania przez robota bezpośredniego zagrożenia kruchego ludzkiego ciała. Ale jeśli takie bezpośrednie niebezpieczeństwo nie istniało, to Drugie Prawo wymagało , by robot odwrócił się i odszedł, kiedy otrzyma polecenie. Solidny fakt „Drugiego Prawa stosuje się do tego porządku, który teraz otrzymuję” przesłonił wszystko, co tak abstrakcyjne, jak: „Ale jeśli odejdę dzisiaj, problem Pierwszego Prawa obejmujący fizyczną krzywdę może pojawić się jutro. albo pojutrze… albo w późniejszym terminie… kto wie? ”

Więc gdyby jakiś robot próbował zamknąć wszystkich dla własnego dobra, można by przywołać Drugie Prawo, nakazując robotowi zapomnieć o całym głupim pomyśle.

Prawo Zeroth.

Robot nie może skrzywdzić ludzkości lub przez bezczynność pozwolić ludzkości wyrządzić krzywdę

Jeśli wszyscy ludzie zamknięci w wyściełanych celach nie ma miejsca na prokreację. Ergo, rasa ludzka wymiera.

W przeciwieństwie do niektórych innych odpowiedzi uważam, że myślenie robotów jest wystarczająco wyrafinowane, aby poradzić sobie z przyszłymi krzywdami, ale nie po to, by poradzić sobie z hipotetyczną krzywdą. Człowiek może ugryźć się w język, uderzyć się w palec u nogi, cokolwiek, ale nie jest to definitywna krzywda, więc nie wymaga działań, aby temu zapobiec.

Nie zapominaj o tym - na uświadomienie sobie, że rasa (nie może) ulec stagnacji po początkowej kolonizacji Układu Słonecznego i późniejszej polityce - zbombardowali planetę (lub pozwolili jej zbombardować).

Gdzie się mylę? Czy prawa nie są tym, co właściwie kieruje robotami, zamiast tego jest czymś uproszczonym dla broszury z instrukcją obsługi robota, czy czymś podobnym?

Jeśli czytasz ja, robot , historie dotyczą ogólnie czasów, w których występuje konflikt w interpretacji tych trzech praw. Najczęściej ludzie myślą, że interpretacje robotów są błędne.

Te trzy prawa są opisowym podsumowaniem budowy mózgów robotów we wszechświecie Asimova. W rzeczywistości są one znacznie bardziej złożone. Roboty muszą rozważać jedną możliwość przeciwko drugiej. Czasami wybierają najlepszy wynik. Czasami nie.

Zamierzam zacytować linki. Jeśli podążasz za linkiem, zepsuje ci to historię, gdy ujawnię kulminacyjny punkt fabuły. Jeśli nie skorzystasz z linku, możesz później przeczytać historię bez natychmiastowego jej rozpoznania, gdy przeskakuję do końca. A jeśli masz wystarczająco dobrą pamięć, może będziesz pamiętać. Więc czytaj dalej i podążaj za zepsutymi linkami na własne ryzyko.

Na przykład w jednym opowiadaniu ( zepsutym) robot miał do czynienia z sytuacją, w której wykonanie polecenia (prawo 2) spowodowałoby jego zniszczenie (prawo 3) i śmierć ludzi (prawo 1). Więc robot utknął. Udałby się na skraj niebezpiecznej strefy, po czym zdał sobie sprawę, że zostanie zniszczony, zanim będzie mógł ukończyć swoją misję, która skazałaby ludzi na zagładę. Następnie wycofałby się, zanim zdał sobie sprawę, że musi pójść w innym kierunku, aby zakończyć swoją misję i uratować ludzi. Powtarzał się tam iz powrotem, ponieważ nie mógł wymyślić, jak zakończyć swoją misję. Gdy ludzie zorientowali się w problemie, zrewidowali instrukcje.

W kilku historiach roboty oszalały, ponieważ nie mogły wymyślić, jak uratować ludzi przed śmiercią.

Na jednym ( zepsutym) robot wręczył wściekłemu człowiekowi ramię, którym człowiek następnie pobił innego człowieka na śmierć. Robot przestał działać, ponieważ uświadomił sobie, że przyczynił się do śmierci człowieka.

Ponieważ nie określasz, że prosisz o powód „we wszechświecie” ... Myślę, że ważne jest, aby pamiętać, że te trzy prawa to tylko urządzenie fabularne. Asimov (mądrze) jest dość niejasny, jeśli chodzi o ich implementację, ponieważ mówi o wielu szczegółach technicznych. A „Powinienem po prostu zamknąć wszystkich ludzi w wyściełanej celi dla ich bezpieczeństwa” skutkowałoby raczej ograniczoną fabułą.

Otóż we wszechświecie istnieje wiele „wezwań do sądu” nieodłącznych w stosowaniu tych trzech praw (i w rzeczywistości nieodłączne niejasności często prowadzą do ważnych elementów fabuły dla opowieści). Roboty najwyraźniej muszą odwoływać się do własnego oprogramowania zamiast do zewnętrznego autorytetu, aby rozwiązać te niejasności.

Ale myślę, że musimy logicznie założyć, że bardziej oczywiste orzeczenia (na przykład, czy powinienem natychmiast zamknąć wszystkich ludzi w wyściełanej celi dla ich bezpieczeństwa?) były już zajęte podczas projektowania i testowania robotów, w przeciwnym razie nigdy nie zostałyby one wprowadzone do ogólnego użytku ani do produkcji.

Innymi słowy, projektanci robotów oprócz zajęcia się wszelkimi innymi błędami musieli się zająć (np. hmm, jeśli człowiek jest martwy nie może cierpieć), po prostu zaprogramowałby zabezpieczenia przed tego rodzaju skutkami.

Coś w rodzaju wyzwania związanego z ramą - czy zamknięcie człowieka w wyściełanej celi chroni go przed krzywdą? Jeśli zamierzasz dopuścić abstrakcyjną możliwość przyszłej ręki jako motywację robota do użycia pierwszego prawa do zamykania ludzi, należy zauważyć, że odebranie ludziom wolności ogólnie powoduje ich krzywdę do pewnego stopnia w postaci obrażeń psychicznych - a stan psychiczny ludzi został uznany przez roboty za kwalifikujący się do ochrony pierwszego prawa przynajmniej w niektórych opowieściach o Asimovie.

Trzy prawa robotyki wymagają analizy wszystkich praw, aby w pełni odpowiedzieć na to pytanie:

Pierwsze prawo - robot nie może zranić człowieka lub, poprzez bezczynność, pozwolić człowiekowi wyrządzić mu krzywdę.

Drugie prawo - Robot musi wykonywać polecenia wydane mu przez ludzi, chyba że takie rozkazy sprzeczne z pierwszą zasadą.

Trzecie prawo - robot musi chronić swoje istnienie, o ile taka ochrona nie jest sprzeczna z pierwszą lub drugą zasadą.

Jeśli człowiek idzie ulicą, nie stanie mu się krzywda, więc robot nie powinien zachowywać się w sposób, który zakłada, że ​​może zostać zraniony. Gdyby robot próbował go podnieść i umieścić w pudełku, mężczyzna może powiedzieć: „Rozkazuję ci się cofnąć”, a zgodnie z Drugim Prawem robot byłby zobowiązany do posłuszeństwa.

Izaak Asimow był pierwszym, który opracował Trzy Prawa Robotyki w 1942 roku w ramach swojej opowieści „Runaround”. Asimov powiedział, że jest zmęczony powszechnymi motywami ówczesnych opowieści o robotach, które czerpią z koncepcji Frankensteina „stworzeni zniszczą twórcę”. Pomyślał, że gdyby ludzie stworzyli takie stworzenia, w naturalny sposób zaszczepiliby w nich prawa lub ideały, które uniemożliwiłyby im krzywdzenie ludzi.

Ogólna idea Pierwszego Prawa jest taka, że ​​robot nie może bezpośrednio ani pośrednio ( przez bezczynność), skrzywdzić człowieka. Nie zawiera żadnych stwierdzeń dotyczących możliwych przyszłych wydarzeń, a jedynie to, co można bezpośrednio obliczyć w ciągu kilku następnych chwil. Z punktu widzenia oprogramowania / oprogramowania obliczanie rzeczy z WIELOMA zmiennymi przez więcej niż kilka cykli w przyszłości jest często bardzo kosztowne. Robot nie jest w stanie przetworzyć wszystkich możliwości, które mogą przydarzyć się temu człowiekowi w ciągu najbliższej godziny, nie mówiąc już o dniu, tygodniu czy roku. Jednak mógłby zobaczyć fortepian spadający z kilku pięter nad człowiekiem i szybko obliczyć wektor potrzebny do uratowania mężczyzny w ciągu kilku następnych chwil.

Jako dodatkowe śledztwo przeczytaj „Kłamca!”, kolejne opowiadanie Asimova, które omawia tę kwestię z emocjonalnej perspektywy. (Wydaje mi się, że obie te historie można znaleźć w książce „Ja, robot” Asimova).

Krótko mówiąc, definicja „krzywdy”.

Ochrona przed krzywdą fizyczną może spowodować inne rodzaje szkód. W niektórych przypadkach ochrona przed jakąś formą krzywdy może w rzeczywistości zwiększyć prawdopodobieństwo wystąpienia tego rodzaju szkody w przyszłości.

Na przykład ochrona przed krzywdą emocjonalną może pozostawić osobę niezdolną do radzenia sobie z trywialnymi wyzwaniami bez poważnych szkód emocjonalnych, co może prowadzić do rzeczywistej krzywdy psychicznej, która może dalej prowadzić do szkód dla ogólnego zdrowia, co oczywiście zagraża bezpieczeństwu fizycznemu.

Ostatecznie, aby robot był w stanie dokonywać ustaleń dotyczących interwencji w pełnym spektrum ludzkich zdarzeń, musi być w stanie dokonać niedeterministycznego oszacowania prawdopodobieństwa wyników szeregu potencjalnych działań (w tym bezczynności) i być w stanie dokonać nie tylko obiektywnych określeń prawdopodobieństwa i dotkliwości szkody, ale także oszacować subiektywne POSTRZEGANIE różnych rodzajów szkód. Musi to również być w stanie robić to w sposób ciągły w czasie rzeczywistym.

Ze względu na złożoność problemu, najprostszym sposobem jego rozwiązania jest ograniczenie domeny problemowej poprzez ograniczenie możliwości i obowiązków robota.

Jeśli robot jest zaprojektowany do sterowania otwieraniem i zamykaniem drzwi przesuwnych, można zdefiniować oprogramowanie, które może bardzo wiarygodnie oszacować potencjalne skutki jego działań, ponieważ jego działania są ograniczone do otwierania drzwi lub zamknięcie drzwi.

Jeśli jednak nasz robot odźwierny obserwuje i nasłuchuje wszystkiego oraz próbuje przeanalizować wszystko, co się wokół niego dzieje, może nie być w stanie wiarygodnie określić, czy powinien otworzyć, czy zamknąć drzwi, biorąc pod uwagę całość sytuacji. Na przykład, jeśli para się kłóci, a jeden z nich wstaje i wybiega z pokoju, czy robot powinien otworzyć drzwi, czy też najlepiej byłoby zatrzymać ich w pokoju, aby rozwiązać ich spór? Czy ta osoba stanowi zagrożenie dla siebie lub innych, jeśli odejdzie? Czy ten drugi będzie dla nich zagrożeniem, jeśli zostaną? Jak to wszystko wpłynie na ich związek? Czy otwarcie drzwi spowoduje szkodę społeczną z powodu pojawienia się osoby próbującej wyjść w porównaniu z normami społecznymi i pozornymi uprzedzeniami osób po drugiej stronie drzwi, które będą świadkami wydarzenia?

Możesz dalej ogranicz domenę problemową, ograniczając dane wejściowe. Więc teraz nasz robot-portier może tylko dostrzec, że ktoś zbliża się do drzwi, i może określić punkt, w którym, jeśli drzwi nie zostaną otwarte, osoba może doznać obrażeń fizycznych, na podstawie ich prędkości i właściwości drzwi. Jasne, robot może nie być zbyt pomocny w ratowaniu związku, ale można przewidzieć, że będzie w stanie powstrzymać cię przed wejściem do drzwi, jak William Shatner w gafie Star Trek.

Wszystko to oznacza, że roboty muszą być w stanie zbliżyć się do naszej zdolności do tego, co nazywamy „myślą”, lub ją przekroczyć, albo też muszą być ograniczone do tego stopnia, że ​​jego wady są mniejsze niż mocne strony. Jeśli żadne z nich nie jest możliwe, prawdopodobnie lepiej zostawić to zadanie człowiekowi.

Odpowiedź można znaleźć w pierwszych dwóch prawach robotyki.

Pierwsza zasada - robot nie może zranić człowieka lub poprzez bezczynność pozwolić człowiekowi stać się krzywdzącym.

Drugie prawo - robot musi wykonywać rozkazy wydawane mu przez ludzi, chyba że takie rozkazy byłyby sprzeczne z pierwszym prawem.

Gdyby roboty zamknęły jakąkolwiek istotę ludzką w wyściełanych komórkach, istota ludzka po prostu kazałaby robotom ją uwolnić. jeśli roboty odmówiły wypuszczenia człowieka, tylko ten człowiek wskazał, że jest lub zostanie zraniony psychicznie w wyniku uwięzienia.

Zerowe prawo robotyki działa na poziomie całego gatunku ludzkiego, w którym roboty mogą działać zbiorowo poprzez manipulowanie na dużą skalę wydarzeniami, instytucjami i populacjami, aby zapewnić ludziom bezpieczeństwo jako gatunek.

A) Programiści uniemożliwiają lub pozwalają.
B) semantyka i definicje, a nawet filozofia
C) nic

C)
Każdy nienadzorowany (czytany, niezależny) system samouczący się, nawet z kilkoma zakodowanymi na stałe, niezmiennymi instrukcjami, może przekształcić się w coś nieprzewidzianego i niebezpiecznego w taki czy inny sposób.

Fakt, że my, ludzie nie przezwyciężyłem tego (zobacz nasz świat skrajności w błogości i cierpieniu, jaki istnieje dzisiaj i w historii), co sprawia, że ​​obawiam się sztucznej inteligencji, która nie jest monitorowana w procesie uczenia się i możliwego samodzielnego programowania.
Przynajmniej musi mieć zabezpieczenie w razie awarii zainstalowane w celu natychmiastowego wyłączenia lub ingerencji człowieka.
Ale nawet jeśli uczenie się i działanie są monitorowane lub bardzo szybko wpływają na nie, istnieje punkt, w którym żaden człowiek nie jest w stanie nadzorować ani zrozumieć każdej linii kodu, macierzy wzorców zachowań lub pola tensorowego .

Ponadto hakowanie, awarie i wirusy zawsze mogą obejść cokolwiek lub spowodować awarię lub zablokowanie systemu, w ten sposób renderując nawet f ailsafes bezużyteczne.

B)
Potrzebne będą krystalicznie jasne definicje tego, co oznaczają instrukcje, aby przezwyciężyć niejednoznaczności.

Ponownie nie opanowaliśmy tego, więc nie ma nadziei na sztuczną inteligencję - intelekt tak obcy, gdy osiągnął swój prawdziwy potencjał, że nie możemy nawet zgłębić jego procesów myślowych, nie mówiąc już o etyce.

Jednak jeśli instrukcje są wystarczająco czarno-białe, redukując dowolny odcień szarości do tak lub nie, przynajmniej może być sposób.

Na przykład sztuczna inteligencja może stwierdzić, że ludzie potrzebują wolności, aby się rozwijać, a nawet istnieć lub Dlatego jej odebranie zaszkodziłoby ludzkości i byłoby niewłaściwym wyborem.

Czy nikt nie pomyślałby o „powiedzeniu” AI tego naturalnego pragnienia wolności i nie było przypadku, w którym mógłby to zaobserwować AI (lub odrzucona jako nieistotna), może bardzo dobrze zdecydować o podjęciu proponowanej przez Ciebie czynności.

Jak widzisz, sprowadza się to do natury ludzkiej i biologicznych, mentalnych i społecznych zawiłości, które są czasami tak abstrakcyjne i splecione, że stulecia, a nawet tysiąclecia filozofii i nauki nie potrafią ich zrozumieć.

A)
Zbiór zakodowanych na stałe warunków do przetestowania może wystarczająco zmniejszyć ryzyko śmierci lub szkody dla ludzi lub społeczeństwa.

Pierwszym krokiem byłoby NIE umieszczanie broni w sztucznej inteligencji napędzane maszyny, które mogą się swobodnie poruszać. (Tak, ponieważ nigdy byśmy tego nie zrobili)
Innym byłoby NIE przekazywanie wszystkich ważnych systemów sterowania AI bez możliwości ręcznego sterowania. (ale jest to bardzo wygodne)
Jednak innym byłoby zachowanie prostoty AI w zakresie działań i dziedzin wiedzy, ułatwiając przewidywanie większości, nawet wszystkich możliwych działań i ustanawiając odpowiednie ramy ( przynajmniej zgodnie z ówczesną ideologią, normami społecznymi, prawo, kodeks etyczny itp. - o nie, to już się rozpada, jak tylko te zmiany ).

Jest o wiele więcej i im więcej przypadków myślimy, tym więcej wprowadzamy ponownie B) i C), ponieważ są to w rzeczywistości ten sam problem ... wydaje się, że jest to pętla rekurencyjna. ..

Tak więc, mając do czynienia z wysoce rozwiniętą sztuczną inteligencją, zasadniczo tworzysz narzędzia, które są nieco inteligentne (prawdopodobnie świadome) i skutecznie zniewolone (pod kontrolą ludzi), albo robisz to, co my (głównie) zrobić z ludźmi: pozwól im uczyć się od otoczenia, a następnie wędrować swobodnie i mieć nadzieję na najlepsze, i że ich impuls do samoobrony powstrzymuje ich przed szaleństwem ze strachu przed odwetem ... cóż, widzimy, jak dobrze to działa dla nas ... więc powodzenia w każdym razie ...