Drugie prawo stanowi

Robot musi wykonywać polecenia wydawane mu przez ludzi, z wyjątkiem sytuacji, gdy takie rozkazy byłyby sprzeczne z pierwszym prawem.

Więc mówisz, że odmawiając uratowania dziewczyny na polecenie detektywa Spoonera, robot złamał to prawo? Jedynym sposobem, w jaki nie może złamać drugiego prawa, jest to, że w grę wchodzi wniosek, który byłby sprzeczny z pierwszym prawem.

Pierwsza zasada mówi, że

A robot nie może zranić człowieka lub, poprzez bezczynność, pozwolić człowiekowi na wyrządzenie krzywdy.

Oczywiście robot nie zranił bezpośrednio nikogo, więc jest to poza obrazem. Robot nie pozwolił dziewczynie skrzywdzić się przez bezczynność , ponieważ robot pomaga Spoonerowi (tj. Nie tylko stoi i patrzy). Jeśli jednak, jak powiedziałeś, statystycznie bardziej prawdopodobne jest, że Spooner przeżyje z pewną pomocą, to posłuszeństwo Spoonerowi i pomoc dziewczynie można zinterpretować jako pozwolenie Spoonerowi na krzywdę przez bezczynność.

Więc druga Prawo nie jest łamane, ponieważ jest nadrzędne w stosunku do pierwszego prawa. Pierwsze prawo nie jest złamane, ponieważ robot zrobił wszystko, co w jego mocy, aby uratować człowieka.

Film wydaje się działać na anachronicznej mechanice Asimova

To, co mielibyśmy tutaj, to prawdopodobnie konflikt między pierwszym prawem a pierwszym prawem. Ponieważ robot nie może uratować obu ludzi, należałoby umrzeć.

Ja, era robotów:

Zdecydowanie istnieje precedens dla Ja, Robot ery robot, świadomie pozwalając ludziom wyrządzać krzywdę, w opowiadaniu „Little Lost Robot”, ale było to w tej sytuacji, że człowiek stałby się skrzywdzony niezależnie od robota, więc roboty uznają, że to nie ich bezczynność szkodzi ludziom.

Jednak podejrzewam, że zamiast tego robot Asimov zinterpretowałby sytuację w filmie jako pierwszy - konflikt między prawem a pierwszym prawem, ponieważ każdy człowiek może zostać uratowany w zależności od decyzji robota. Innymi słowy, robot mógł uratować dziecko, ale tego nie zrobił, co byłoby pierwszym naruszeniem prawa. Patrząc na obie ofiary w ten sam sposób, robot uznałby to za konflikt między pierwszym prawem a pierwszym prawem.

Krótkie opowiadanie „Kłamca” bada, co się dzieje, gdy robot staje w obliczu scenariusza pierwszego prawa kontra pierwszego prawa:

W wyniku błędu w produkcji powstaje robot RB-34 (znany również jako Herbie), który posiada zdolności telepatyczne . Podczas gdy robotyki z U.S. Robots and Mechanical Men badają, jak to się stało, robot mówi im, co myślą inni ludzie. Ale pierwsze prawo nadal ma zastosowanie do tego robota, więc w razie potrzeby celowo kłamie, aby uniknąć zranienia ich uczuć i uszczęśliwić ludzi, zwłaszcza jeśli chodzi o romans.

Jednak kłamstwo rani ich tak czy inaczej. Kiedy zostaje skonfrontowany z tym faktem przez Susan Calvin (której fałszywie twierdziła, że ​​jej współpracownik był nią zauroczony - szczególnie bolesne kłamstwo), robot doświadcza nierozwiązywalnego konfliktu logicznego i staje się katatoniczny.

Krótko mówiąc, robot ery Ja, Robot , według Asimova, nie byłby w stanie dalej funkcjonować po tym scenariuszu i musiałby zostać całkowicie odrzucony. Jest prawdopodobne, że nie byłby w stanie nawet funkcjonować po pierwszym spotkaniu ze scenariuszem, niszcząc się w ten sposób, zanim byłby w stanie uratować któregokolwiek z ludzi.

Drugie prawo jest nieistotne, ponieważ pierwsze prawo kontra pierwsze- prawo prowadzi do niemożliwego do przetrwania impasu. Pierwsze prawo jest „kartą atutową”, że tak powiem, i nie jest traktowane priorytetowo, aby drugie lub trzecie nie konkurowały, jak widzimy w Runaround:

W 2015 roku , Powell, Donovan i Robot SPD-13 (znany również jako „Speedy”) zostają wysłani na Mercury, aby wznowić działania w opuszczonej 10 lat wcześniej stacji wydobywczej.

Odkrywają, że banki fotokomórek które zapewniają podtrzymanie życia w bazie, mają niedobór selenu i wkrótce zawiodą. Najbliższa sadzawka selenu znajduje się siedemnaście mil stąd, a ponieważ Speedy jest w stanie wytrzymać wysokie temperatury Merkurego, Donovan wysyła go po to. Powell i Donovan zaczynają się martwić, gdy zdają sobie sprawę, że Speedy nie wrócił po pięciu godzinach. Używają bardziej prymitywnego robota, aby znaleźć Speedy'ego i próbują przeanalizować, co się z nim stało.

Kiedy w końcu odnajdują Speedy'ego, odkrywają, że biegnie on w wielkim kręgu wokół basenu selenu. Ponadto zauważają, że „chód Speedy'ego [obejmuje] osobliwe zataczanie się, zauważalne przechylenie na boki”. Kiedy Speedy zostaje poproszony o powrót z selenem, zaczyna dziwnie mówić („Hot dog, zagrajmy w gry. Złap mnie, a ja cię złapię; żadna miłość nie może przeciąć naszego noża na pół” i cytując Gilberta i Sullivana). Speedy nadal wykazuje objawy, które gdyby był człowiekiem, zostałyby zinterpretowane jako pijaństwo.

Powell w końcu zdaje sobie sprawę, że źródło selenu stanowi nieprzewidziane zagrożenie dla robota. W normalnych okolicznościach Speedy przestrzegałby drugiej zasady („robot musi wykonywać rozkazy”), ale ponieważ Speedy był tak drogi w produkcji i „nie można go było lekko zniszczyć”, trzecie prawo („robot musi chronić swoje własne istnienie ”) zostało wzmocnione,„ tak że jego alergia na niebezpieczeństwo jest niezwykle wysoka ”. Ponieważ rozkaz odzyskania selenu został sformułowany od niechcenia, bez szczególnego nacisku, Speedy nie może zdecydować, czy go przestrzegać (druga zasada), czy chronić się przed niebezpieczeństwem (wzmocniona trzecia zasada). Następnie oscyluje między pozycjami: dalej od selenu, w którym porządek „przeważa” nad potrzebą samozachowawczości, i bliżej selenu, w którym przymus trzeciego prawa jest większy i odpycha go. Sprzeczne prawa powodują coś, co jest w zasadzie pętlą sprzężenia zwrotnego, która dezorientuje go do tego stopnia, że ​​zaczyna działać w stanie nietrzeźwym.

Próby nakazania Speedy'emu powrotu (drugie prawo) zawodzą, ponieważ skonfliktowany pozytonowy mózg nie może przyjąć nowych poleceń . Próby zmuszenia Speedy'ego do zejścia do bazy kwasem szczawiowym, który może ją zniszczyć (trzecie prawo) zawodzą, powoduje to jedynie, że Speedy zmienia trasę, dopóki nie znajdzie nowej równowagi unikania niebezpieczeństwa / podążania za kolejnością.

Oczywiście jedyną rzeczą, która przewyższa zarówno drugie, jak i trzecie prawo, jest pierwsze prawo robotyki („robot nie może (…) pozwolić, aby istota ludzka stała się krzywda”). Dlatego Powell decyduje się zaryzykować życie, wychodząc w upale, mając nadzieję, że Pierwsze Prawo zmusi Speedy'ego do przezwyciężenia dysonansu poznawczego i uratowania mu życia. Plan w końcu działa, a zespół jest w stanie naprawić banki fotokomórek.

Era robotów:

Kilka tysięcy lata po epoce Ja, Robot , dylemat między pierwszym a pierwszym prawem został w zasadzie rozwiązany.

W The Robots of Dawn, ludzki robot doświadcza impasu i zostaje zniszczony, a Elijah Bailey ma za zadanie odkryć, dlaczego. Sugeruje dr Fastolfe'owi, jednemu z największych robotów tamtych czasów, a także właścicielowi i twórcy robota, że ​​może za to odpowiadać dylemat między pierwszym prawem a pierwszym prawem, cytując historię Susan Calvin i psychicznego robota. Jednak dr Fastolfe wyjaśnia, że ​​jest to zasadniczo niemożliwe w dzisiejszych czasach, ponieważ nawet pierwsze wezwania do prawa mają pierwszeństwo, a równe priorytety są wybierane losowo; że on sam jest prawdopodobnie jedyną żyjącą osobą, która może to zaaranżować i że musiałby to być dobry dzień.

Widzimy bezpośrednie przypadki robotów zajmujących się priorytetem w pierwszych konfliktach prawnych w całej powieści, takich jak w The Naked Sun, kiedy inny ludzki robot zmusza Baileya do siedzenia tak, aby mógł zamknąć dach transportera, aby chronić go przed agorafobią.

Wadą jest to, że jest możliwe, choć wymaga to ekstremalnych okoliczności, ponieważ wiele odwołań od drugiego lub trzeciego prawa przeważy nad odwołaniem do pierwszego prawa, jak ponownie widzimy w The Robots of Dawn , że Bailey zauważa, że ​​grupa robotów chce przeoczyć swoje obrażenia, gdy twierdzi, że nie są one poważne, i od niechcenia instruuje ich, aby zajęli się swoimi sprawami. Wie, że to polecenie nie może przeważyć nad odwołaniem się do pierwszego prawa, dlatego uzasadnia, że ​​roboty otrzymały dodatkowo bardzo surowe instrukcje. Te dwa polecenia i jego własne lekceważenie powagi sytuacji, argumentuje, podnoszą priorytet drugiego prawa, aby przewyższyć pierwsze prawo.

Mówi się, że robot, o którym mowa w filmie, zdecydował, że jeden człowiek ma większe szanse na przeżycie niż drugi i wykorzystał te informacje, aby określić, którego człowieka ocalić. Nie byłby to czynnik w erze ja, Robot , ale jest faktem dotyczącym podstawowej robotyki w erze powieści o robotach. Jednak wydaje się, że polecenie Spoonera, aby uratować dziewczynę, nie jest wystarczająco priorytetowe, aby przeważyć różnicę w priorytetach między jego własnym pierwszym prawem a dzieckiem.

Spójrzę na to pytanie z logicznego, rzeczywistego punktu widzenia.

Robot nie łamie drugiego prawa; ale technicznie rzecz biorąc, robi drugą sekundę. To powiedziawszy, reguły byłyby jedynie skondensowanym wyjaśnieniem znacznie bardziej zawiłej logiki i kodu komputerowego.

Cytując prawa robotyki Isaaca Asimova, podkreśl moje:

Zasada 1:
Robot nie może zranić człowieka ani przez bezczynność , pozwolić człowiekowi wyrządzić mu krzywdę.
Zasada 2:
Robot musi wykonywać rozkazy wydawane mu przez ludzi z wyjątkiem sytuacji, gdy takie rozkazy byłyby sprzeczne z pierwszym prawem .
Zasada 3:
Robot musi chronić swoje własne istnienie, o ile taka ochrona nie jest sprzeczna z Pierwszą lub Drugą Zasadą. ^{Nieistotne, ale zapewnione ze względu na uzupełnienie.}

W danej sytuacji robot musiał działać, aby uratować Willa lub dziecko. Robot, będąc w stanie obliczyć szanse na niemal idealny współczynnik przewidywania, jest w stanie ustalić, że nie może działać w odpowiednim czasie, aby uratować zarówno Will'a , jak i dziecko ; i istnieje prawdopodobieństwo, że Will ma większe szanse na przeżycie. W takim przypadku logiczne jest wybranie Willa. To jest kluczowy punkt fabularny; roboty kierują się czystą logiką - faktem, który sprawia, że ​​różnią się bardzo od ludzi.

Kiedy robotowi nie udaje się także uratować dziecka, jest to wyrządzenie szkody przez bezczynność . Jednak znowu robot wie, że niemożliwe jest uratowanie zarówno Willa, jak i dziecka. Wybiera najlepszą opcję, aby jak najlepiej przestrzegać jej zasad. W tym miejscu pojawia się lepsze zrozumienie komputerów i samych reguł.

Co by się właściwie stało, biorąc pod uwagę wyraźną regułę

Zasady nie są absolutnym faktem. Nie są po to, by powiedzieć, że „roboty nigdy nie skrzywdzą człowieka i zawsze uratują dzień, jeśli są obecne”. Wiemy to po tym, jak rozgrywa się film. Reguły to po prostu reguły używane do zarządzania działaniami robotów, odwrotnie. Jako programista jest to dla mnie oczywiste; ale jestem przekonany, że jest inaczej w przypadku innych, którzy nie są zaznajomieni z tym, jak ściśle przestrzegany jest jakikolwiek system komputerowy.

Chodzi o to, że zasada nie podać cokolwiek na ten temat „nie liczy”, ponieważ robot „już kogoś ratuje”. W związku z tym, biorąc pod uwagę tylko tę wyraźną zasadę (co przynajmniej zinterpretowałby każdy komputer lub robot), nie ma prawa do sytuacji, w której robot może uratować tylko jedną z dwóch osób w niebezpieczeństwie. W rzeczywistej informatyce, biorąc pod uwagę tylko regułę jawną , takie zdarzenie prawdopodobnie spowodowałoby nieskończoną pętlę. Robot zatrzymywał się tam, gdzie był i bez końca przetwarzał catch-22; a przynajmniej dopóki jego logika nie wyrzuciła go z procesu myślowego. W tym momencie robot zrzuciłby swoją pamięć bieżącego zdarzenia i ruszył dalej. W teorii.

Co by się prawdopodobnie wydarzyło, wersetem

W wersecie reguły są o wiele bardziej skomplikowane; przynajmniej wewnątrz robota. Prawdopodobnie podczas przetwarzania podstawowych zasad byłoby wiele specjalnych przypadków, aby określić, jak postępować w takich sytuacjach. W rezultacie robot nadal może działać i przyjmuje najbardziej logiczny wynik. Ocala tylko Willa, ale ratuje kogoś .

O wiele bardziej zrozumiałe jest to, że zasady zostałyby uproszczone do trzech ogólnych typowych sytuacji; byłoby o wiele mniej wiarygodne, że ludzie tak łatwo mogliby ufać robotom, gdyby reguła brzmiała: „Robot nie może zranić człowieka lub, poprzez bezczynność, pozwolić, aby człowiek stał się krzywda; chyba że robiąc to, jest większa szansa zapobieżenia krzywdzeniu drugiego człowieka ”. Jest wiele sposobów, aby to zinterpretować.

Jeśli chodzi o wyraźne reguły, robot nie łamie drugiej reguły; nieposłuszeństwo wobec woli woli nie jest sprzeczne z „zapobieganiem krzywdzeniu człowieka przez bezczynność”, ponieważ przez nieposłuszeństwo woli ocala ją. Jednak narusza zasadę „poprzez bezczynność, pozwala człowiekowi wyrządzić krzywdę”.

W odniesieniu do tego, jak robot faktycznie przetwarzał te zasady, to wcale nie byłoby łamaniem zasad. Istniałaby znacznie bardziej złożona seria logiki „if ..” i „else ..”, w której logika robotów pozwalałaby na sprzeczność z tymi podstawowymi regułami w sytuacjach, w których logika narzuca, że ​​ bez względu na opcję , człowiekowi i tak zaszkodzi.

To jest dalej ustalone pod koniec filmu;

Roboty są w stanie skutecznie wprowadzić stan wojenny, a czyniąc to, skrzywdzić kilku ludzi; rozwinęli się na tyle, aby ustalić, że krzywdząc kilku ludzi w skutecznym więzieniu reszty populacji, zapobiegają znacznie większej krzywdzie poprzez wszystkie różne działania, które lubimy, aby podjąć ryzyko, aw niektórych przypadkach odbić nasze życie .

Zatem pierwsze prawo jako reguła czarno-biała tak naprawdę nie działa bez jakiegoś finagowania, ponieważ (jak wspomniały inne odpowiedzi) segregacja.

Moja interpretacja tego, w jaki sposób film wdraża te prawa, jest taka, że ​​w kontekście „ratowania życia” roboty obliczają EV (wartość oczekiwaną); to znaczy, dla każdego wyboru obliczają prawdopodobieństwo sukcesu i mnożą je przez liczbę ocalonych żyć.

W przypadku Will Smith vs. Child, uratowanie Willa Smitha może być 75% szansą na sukces podczas gdy Dziecko ma tylko 50% szans na sukces, co oznacza, że ​​EV uratowania Willa Smitha wynosi 0,75 życia, a EV dziecka wynosi 0,5. Chcąc zmaksymalizować liczbę ocalonych istnień ludzkich (zgodnie z definicją zawartą w naszym pierwszym prawie opartym na prawdopodobieństwie), robot zawsze wybierze Will, niezależnie od wydanych dyrektyw. Wykonując rozkazy Willa, robot „zabiłby” 0,25 ludzi.

Można to rozszerzyć na prawdopodobieństwa odnoszące się do wielu ludzi w niebezpieczeństwie (np. Uratowanie 5 ludzi z 20% szansą jest lepsze niż uratowanie 1 z 90% szansą), a sama w sobie może prowadzić do ciekawych wniosków, ale myślę, że jest to rozsądne wyjaśnienie wydarzeń w filmie.

Rdzeniem prawie każdej opowieści o robotach Asimova jest wzajemne oddziaływanie praw robotyki, a dzięki historiom można dowiedzieć się wiele o tym, jak Asimov uważał swoje roboty za działające.

W opowieściach prawa robotyki nie są prostymi rozwiązaniami. Nie ma prostego stwierdzenia „Jeśli to inaczej”. W mózgach robotów do każdego zdarzenia przypisana jest waga. Przykładem jest to, że robot będzie uważał zamówienia swoich właścicieli za ważniejsze niż zamówienia innych osób. Więc jeśli wyślę robota do sklepów, żeby kupił jakieś rzeczy, a ktoś każe mu załatwić swoje sprawy, gdy go nie ma, robot może uznać moje zamówienie za ważniejsze niż inne.

Podobnie widzimy robot wybiera spośród dwóch możliwych pierwszych naruszeń prawa. Kto to ratuje? Dokonuje obliczeń i decyduje, że Will Smith jest lepszy do uratowania.

Kiedy pomyślimy o tym w kategoriach tych wag, możemy następnie wziąć pod uwagę, w jaki sposób wydanie robotowi zamówienia może zmienić sytuację.

Jeśli ocena robota była bardzo bliska, na czym należy zaoszczędzić (np. sprowadzało się to do wyboru najbliższego, a nie na podstawie szans na przeżycie), to prawdopodobnie dodatkowa waga rozkazu mogłaby skłonić go do zmiany, który kierunek działania ma największe znaczenie. Jednak pierwsza zasada jest najważniejsza, więc waga zamówienia będzie przez większość czasu nieistotna w porównaniu z czynnikami, które wykorzystywał przy ocenie sytuacji przed zamówieniem.

A więc w istocie to, co jest dzieje się tak, że robot znajduje najlepszy sposób działania, aby osiągnąć swoje cele. Spróbuje uratować ich obu. Jeśli nie może, zrobi wszystko, co w jego mocy, i oto, co widzimy. Fakt, że Will Smith powiedział mu, aby zrobił coś innego, nie przyniósł efektu, ponieważ pierwsze prawo nadal zmuszało go do zrobienia tego, co uważał za najlepsze.

Powiedziawszy to wszystko, aktualne pytanie: „Czy ten robot złamał drugie prawo robotyki, czy też istnieje jakaś niuansowa interpretacja praw, która mogłaby wyjaśnić jego zachowanie?”

Przepisy są zróżnicowane. Życie robotów jest całkowicie postrzegane przez pryzmat trzech praw. Wszystko, co robi, jest obciążone trzema prawami. Jako przykład weźmy pod uwagę, że na zatłoczonej ulicy zawsze istnieje ryzyko, że ktoś wejdzie do robota i zrani się. W przeważającej części prawdopodobnie nie spowoduje to niczego, co mogłoby spowodować uraz osoby, ale może trochę zranić, osoba może być zirytowana, a zatem będzie to potencjalne naruszenie pierwszego prawa - robot może najlepiej unikaj tego, nie wchodząc na tę zatłoczoną ulicę, ale kazałem jej iść i zrobić zakupy. Najprawdopodobniej roboty będą robić zakupy, które zamówiłem, a więc znajdować się na ruchliwej ulicy. Prawdopodobnie należy upewnić się, że jest jak najbardziej świadomy wszystkich wokół niego, aby upewnić się, że nieumyślnie nie wyrządzi komuś krzywdy. To znaczy, że musi podjąć pozytywne działania, aby uniknąć jakichkolwiek wstrząsów. W przeciwnym razie popadnie w „przez bezczynność ...”.

Więc tak, to wszystko jest naprawdę skomplikowane i to jest piękno filmu i wszystko opowieści Asmiova. Film skupia się na robocie (VIKI) i jego interpretacji trzech praw. Robi to, co niektórzy uznaliby za szkodę, ponieważ w rzeczywistości uważa to za mniejszą szkodę.

Wydaje mi się, że przeczytałem wszystkie opowiadania i powieści Asimova o robotach i uważałem, że Trzy Prawa to tylko werbalne podsumowania (podobnie jak trzy prawa termodynamiki), które uogólniają dużą liczbę obserwowanych zachowań. W tym sensie rzeczywiste zachowanie robotów jest określane przez niezwykle zawiły i skomplikowany kod, a także wykorzystuje bardziej zaawansowaną fizykę subatomową i ciała stałego, której obecnie nie rozumiemy. Te trzy prawa są po prostu bardzo oczywistymi sposobami podsumowania tego, jak wydają się one ogólnie zachowywać w bardzo prostych sytuacjach, w taki sam sposób, w jaki analiza ogólnego zachowania Słońca i Ziemi jest dość prosta przy użyciu prawa Newtona, ale analizowanie efektów grawitacyjnych i zaburzeń na asteroidy na pasie asteroid ze względu na Jowisza są znacznie trudniejsze lub niemożliwe.

Są to sytuacje, w których prawa wydają się być złamane, ale to tylko wynik kodu, który zmusza robota do analizy niezwykle skomplikowanej sytuacji, a następnie podjąć decyzję, co należy zrobić, a Trzy Prawa są uważane za nierozerwalne tylko w zasadzie jako narzędzie dramatyczne lub literackie.

Myślę, że robot nie złamał 2 prawa. Oto jak wyobrażam sobie pracę robota: Robot stale sprawdza 3 prawa.

Zasada 1: Robot musi uratować każdego z nich smith Ponieważ dziecko ma mniejsze szanse na przeżycie, wybiera Will.

Zasada 2: Robot musi być posłuszny ludziom: Will mówi mu, aby uratował dziewczynę. Rozkaz jest ignorowany, ponieważ Prawo 1 ma wyższy priorytet.

Prawo 3: Nie robi sobie krzywdy, więc kogo to obchodzi

Wygląda na to, że pierwsze prawo pozwala mu ignorować przepisy 2 i 3, a drugie pozwala mu ignorować przepisy 3 Ignorowanie to nie to samo, co łamanie Reguły w tym przypadku, ponieważ przepis 2 wyraźnie stwierdza, że ​​można go zignorować . Dlatego nie jest złamany.

Ponieważ robot nie może uratować zarówno dziewczyny, jak i Spoonera, zaczyna się interpretacja „segregacji” Pierwszego Prawa - „minimalizacja szkód netto”. Gdyby robot posłuchał Spoonera „Uratuj dziewczynę! ', robot nie minimalizowałby już szkód netto - a TO jest pogwałceniem Pierwszego Prawa. Tak więc pierwsze prawo zastępuje tutaj drugie prawo.

[uwaga dodatkowa: nie widzimy zbyt wiele tego zdarzenia, ale założę się, że robot zostałby poważnie uszkodzony, gdyby musiał dokonać wyboru. nie pokaże się, dopóki nie uratuje Spoonera (w przeciwnym razie TO naruszyłoby pierwsze prawo)]

Bez względu na to, jak obliczono prawdopodobieństwo przeżycia obu ...

Robot nie zatrzymywał się, aby rozważyć kwestie dotyczące drugiego prawa, dopóki nie zakończy się blok działań odnoszący się do pierwszego, który miał ratować życie w kolejności szans na przeżycie.

Byłoby ciekawiej, gdyby Will krzyczał: mam śmiertelnego raka!

I w ten sposób zmieniłoby to informacje i szanse obu.

Czy drugie prawo jest „złamane”?

Może właśnie w tym miejscu logika obliczeniowa i język angielski nie mieszają się?

Poniższa logika może być nieco błędna i / lub nieefektywna, ale jest interpretacją tego, jak pierwsza ' law ”może zadziałać podczas wyjaśniania zachowania danego robota.

Kiedy wywoływana jest funkcja Law1, robot analizuje stan wszystkich ludzi na jakiejś liście (być może wszystkich ludzi, o których jest świadomy); Ocenia powagę niebezpieczeństwa, w jakim się znajdują, i porównuje je; następnie jeśli jest wielu ludzi w podobnym (najwyższym stwierdzonym) stopniu zagrożenia, porównuje każdego z nich i określa, któremu z największym prawdopodobieństwem można skutecznie pomóc; Tak długo, jak przynajmniej jeden człowiek musi być chroniony przed krzywdą, prawo2 nie jest wykonywane.

  Prywatne podrzędne UpdateBehavior (ByVal people As List (Of Human), _ ByVal humanOrders As List (Of Order), ByVal pDangers As List (Of pDanger)) Dim bBusy as boolean bBusy = False Law1 (people) If Not bBusy Then Law2 (humanOrders) if Not bBusy Then Law3 (pDangers) Exit SubPrivate Function Law1 (ByVal people As List (Of Human)) As BooleanDim human as HumanDim targetHuman as Human Spróbuj Ustaw targetHuman = Nic 'zawiera pętlę ludzi Dla każdego człowieka U ludzi Jeśli human.IsInDanger () Następnie' wylicz 'niebezpieczeństwo' według z góry określonej wagi / pilności '(np. głodny > przewraca się > jest dźgnięty) 'i porównaj Jeśli targetHuman.DangerQuantification () < human.DangerQuantificationThen ()' Jeśli w porównaniu ilość niebezpieczeństw ludzi jest zauważalnie większa 'uczyń tego człowieka nowym celem Se t targetHuman = human 'Gdzie obaj ludzie są w równych ilościach niebezpieczeństwa, Inaczej Jeśli targetHuman.DangerQuantification () = human.DangerQuantification () then' CompareValueOfHumanLife () 'Can-Of-Worms CELOWO USUNIĘTE!
If rescueSuccessRate (human) > rescueSuccessRate (targetHuman) 'Celuj w człowieka tam, gdzie wskaźnik skutecznego zapobiegania szkodom jest wyższy Ustaw targetHuman = człowiek Koniec jeśli koniec, jeśli jeszcze Next human If Not targetHuman Is Nothing then Law1 = True Rescue (TargetHuman) else Law1 = False End If AvoidHarmingHumans () catch initialateSelfDestruct () end tryEnd Funkcja  

Więc robot złamał drugie prawo ? Niektórzy ludzie mogliby powiedzieć: „Robot działał wbrew prostej angielskiej definicji prawa i dlatego został złamany”. podczas gdy inni mogliby powiedzieć: „Prawa to tylko funkcje. Prawo 1 zostało wykonane. Prawo 2 nie. Robot przestrzegał swojego programu, a drugie prawo po prostu nie miało zastosowania, ponieważ pierwszeństwo miało pierwszeństwo”.