Zawartość
- Wejdź do Commonwealth of Fallout 4.
- Mój dylemat moralny
- Jak blisko jesteśmy?
- Skok fikcji
- Wpływ społeczny
- Gaz w ogniu
- Społeczeństwo reaguje
- Notatka osobista
- Pytam więc ponownie: „Czy jestem złym człowiekiem?”
Opowieści o uciskanych powstających z ich łańcuchów, aby pokonać ich panów, są ponadczasowe. W tych opowieściach słuchacz ma tendencję do empatii wobec trudnej sytuacji uciskanych ludzi, opierając się na ogólnie przyjętych koncepcjach wolności i wolności. Praktyka niewolnictwa wykracza poza przestarzałe we współczesnym społeczeństwie, a idea jest jednolicie potępiana przez ogół społeczeństwa - tak jak powinno być.
Ale co, jeśli te pojęcia zostały zastosowane do istot, które nie były ludźmi, ale raczej do wysoko rozwiniętych maszyn? Co jeśli te maszyny byłyby wyraźnie nie do odróżnienia od prawdziwych, organicznych ludzi i zostały zaprogramowane za pomocą sztucznej inteligencji (AI) tak zaawansowanej, że bezproblemowo emulowały ludzką mowę i emocje? Czy społeczeństwo nadal postrzegałoby je jako nic innego jak mechaniczne kreacje, niezależnie od tego, jak ich zaawansowany projekt? Czy te w pełni rozwinięte mechanizmy sztucznej inteligencji zostaną przyswojone ludzkości i czy zostaną zaakceptowane jako jedne z naszych?
Gdyby mieli być zasymilowani, czy wszyscy zgodziliby się, że istoty stworzone za pomocą sztucznej inteligencji byłyby równe ludziom urodzonym organicznie?
Wejdź do Commonwealth of Fallout 4.
Od momentu napisania tego artykułu zainwestowałem w sześć dni Fallout 4. I nie, nie ukończyłem jeszcze głównej fabuły. Może to zaskoczyć niektórych ludzi, ponieważ ta gra nie ma aspektu multiplayer. Ale ci, którzy znają franczyzę, wraz z Stare zwoje seria z Bethesdy, wiedz, że jest to normalne dla kursu.
Spędziłem dużo czasu w Opad świat i mogę powiedzieć, że dobrzy ludzie w Bethesda stworzyli wszechświat tak szczegółowy, jak wiedza jest głęboka. Opierając się na poprzednich wpisach franczyzy, Fallout 4 odbywa się w Commonwealth of Massachusetts po okropnej nuklearnej apokalipsie.
W tej alternatywnej przyszłości ruiny Massachusetts Institute of Technology (MIT) nazywane są Commonwealth Institute of Technology (CIT). Poniżej ruin znajduje się baza The Institute, tajnej organizacji, która specjalizuje się w najwyższym poziomie technologii widocznej w serii. Cennym osiągnięciem Instytutu jest rozwój Syntezatorów, hiperrealistycznych androidów, które stały się fizycznie nie do odróżnienia od ludzi i posiadają w pełni rozwiniętą Sztuczną Inteligencję (AI).
Mój dylemat moralny
Podczas gdy te Synth są zdolne do niezależnej myśli, nie posiadają prawdziwej wolnej woli i są uważane za własność, a nie za ludzi. Są również zdolne do przeżywania emocji, w ten sposób uzupełniając pełną ludzką emulację. Doprowadziło to grupę dobrze zniesionych abolicjonistów, którzy nazywają siebie Koleją, do podjęcia odpowiedzialności za uwolnienie tych „niewolników”.
Ok, poczekaj sekundę.
Widocznie widzę, gdzie narracja chce mnie zabrać. Instytut tworzy te istoty z (prawie) całą złożonością ludzkości, a następnie wstrzymuje wszelki należny poziom godności lub szacunku. Po drugiej stronie mapy Bractwo Stali ma ochotę zniszczyć nie tylko każdy Syntezator, który może dostać się w ich zasięg, ale także znaleźć i całkowicie zniszczyć Instytut. Synthowie są mocno uciskanymi demograficznie, traktowani jak własność, i winni za wszelkie bolączki kulturowe obecne w ich brukowanym społeczeństwie. Bycie po prostu ściganym za to, że po prostu jest tym, czym jest, nie jest po prostu akceptowane, niektórzy ludzie zwiastują to jako sprawiedliwy obowiązek obywatelski.
Jest to zgodne z ustaloną listą kontrolną dla ucisku społecznego. Narracja wyraźnie określa kierunek, w jakim powinny iść moje emocje. Że powinienem kapać z sympatią na trudną sytuację Synth i że ciężar mojego gniewu powinien być skierowany do Instytutu, a Bractwo to grono wielkich manier i…
.... a mimo to czuję się najbardziej życzliwy wobec wysiłków Instytutu. Co to znaczy? Czy jestem złą osobą?
Jak blisko jesteśmy?
Co rozwija się w narracji Synth Fallout 4 w rzeczywistości może być w pracach na komputery i robotykę jako całość. Każdego dnia dokonuje się postęp w świecie protez medycznych, dzięki czemu ruch robotyczny staje się coraz bardziej ludzki. Jak widać na poniższym filmie, jesteśmy teraz w punkcie, w którym dołączamy robotykę bezpośrednio do interfejsu człowiek-maszyna:
Ten film pokazuje, jak wiele ścieżek neuronowych zostało zmapowanych i jak zamykamy się, aby naśladować pełen zakres ludzkiego ruchu.
Ile z tego można zastosować do niezależnego robota? Niedawno Boston Dynamic wydał film pokazujący postępy w ich najnowszym projekcie „Atlas”. Posuwają się nawet do zastraszania i wpychania kilku robotów, aby wykazać odzyskanie równowagi:
Jeśli chodzi o umysł syntetyczny, najpopularniejszym umysłem decyzyjnym może być Superkomputer Watson, który zadebiutował na świecie Niebezpieczeństwo kilka lat temu. Watson jest w stanie uzyskać dostęp do ogromnych baz danych wiedzy i pobierać informacje w oparciu o język używany do żądania. Pomyśl o tym jak o super wzmocnionej wyszukiwarce, takiej jak Google, ale ignoruj wszystkie bzdury. Na stronie IBM ten film wideo jest obecnie opisywany:
Chociaż powyższe wydaje się nieco zimne i mechaniczne, nastąpiły również postępy, w których wirtualny terapeuta (o nazwie Ellie) został zaprojektowany w celu identyfikacji PTSD w personelu wojskowym poprzez zastosowanie biofeedbacku.
Model ten pozwala systemowi komputerowemu śledzić i analizować różne aspekty komunikacji werbalnej i niewerbalnej danej osoby oraz określać samopoczucie psychiczne tej osoby. Opierając się na danych w czasie rzeczywistym pochodzących z mowy pacjenta, języka ciała, wahań głosu, a nawet niektórych podświadomych reakcji biologicznych, Ellie jest w stanie przeprowadzić ich przez wirtualną sesję doradczą. Programiści z pewnością dodali w zastrzeżeniu, że Ellie nie jest prawdziwym terapeutą, więc jesteśmy pewni, że ten program nie będzie wydawał ostatecznych ocen pacjentów.
Skok fikcji
Trzeba przyznać, że to ja pozwalam, aby moja wyobraźnia była nieco szalona. (Cóż, może to być coś więcej niż tylko trochę.) Powyższe przykłady są całkowicie oddzielnymi projektami z zupełnie innymi celami i niekoniecznie wskazują na jakiekolwiek roboty zbliżone do ludzkich w przyszłości. Proteza pokazana na pierwszym filmie służy jedynie do odtworzenia ruchów ramienia mężczyzny. Choć (wyjątkowo) imponujące, to w żaden sposób nie jest zwiastunem robotycznych legionów wznoszących się z kajdan. Nawet Atlas wymaga pomocy kodów QR przyklejonych do strategicznych miejsc w swoim otoczeniu, aby poruszać się i prawidłowo współdziałać. Podobnie jak w przypadku Watsona i Ellie, są imponującymi osiągnięciami inżynierii, ale są dalekie od czujących.
Nawet gdyby te technologie miały zostać zintegrowane, co, jak sądzę, wykraczałoby poza masowe przedsięwzięcie, nadal byłyby ograniczone do tego, co projektanci w nich zaprogramowali. Brakowało im nieograniczonego ludzkiego umysłu, który tak cenimy.
Wpływ społeczny
Nie jest to pierwszy raz, kiedy ta koncepcja została rozwiązana. Oprócz klasycznej literatury Issiaca Asimova Ja robotem, jest też film z 2001 roku A.I. i 2015 roku Była maszyna. Najwyraźniej idea robotów przypominających życie jest z nami od dłuższego czasu iz różnymi poglądami na temat ich wzrostu. Co Fallout 4 wnosi do dyskusji coś zupełnie innego: rewolucja społeczna otaczająca samo istnienie robota.
Ponownie powtarzam, że w pełni rozumiem narrację, która jest tworzona. Całkowicie zgadzam się z ideą wolności, wolnej woli, niezależności i równych praw dla wszystkich, niezależnie od wszelkich wymiernych danych demograficznych. Wolność i równość dla wszystkich ludzi!
ALE....
Syntezatory NIE są ludźmi! W ramach fikcji gry są narzędziami, aczkolwiek wysoko rozwiniętymi narzędziami, które zostały wyprodukowane w celu wspomagania ludzkości. Tak, stały się zdolne do płynnej mowy i procesów myślenia wyższego rzędu, ale są maszynami. Nic dodać nic ująć.
A jednak .... dlaczego czuję się tak winny, że uważam ich za takich?
Gaz w ogniu
Ludzie naturalnie boją się nieznanego. Jest to klasyczna taktyka stosowana przez pisarzy horroru - wielki, zły, potwór jest bardziej przerażający, jeśli ma nieznane pochodzenie, wygląd i motywy. Mamy tendencję do błądzenia po stronie ostrożności i obrony. Pomyśl, że jeśli nie pozwolimy na coś w naszym życiu, to nasze życie pozostanie niezmienione. Jeśli pozwolimy, aby coś, o czym nic nie wiemy, nasze życie mogło się zmienić i mogą się zmienić na gorsze.
Jeśli Instytut po prostu produkuje te Syntezatory jako produkt usługowy, świat może być dla nich nieco bardziej otwarty. Działając w ramach ustalonej tradycji gry, stanowiłyby niewiele więcej niż zaawansowany Mr. Handy. Przyzwyczajenie się do nich zajęłoby trochę czasu, ale są szanse, że dobrze by się przyswoili społeczeństwu.
Jednak Instytut nie tylko je wyprodukował. Zastąpili rzeczywistych cywilów sobowtórami Syntha, próbując wpłynąć na społeczeństwo poprzez ukrytą infiltrację. Dlatego nie jest to po prostu pojawienie się nowej grupy demograficznej, ale ta grupa demograficzna aktywnie angażuje się we wrogą kampanię. Z pewnością nie jest to sposób na budowanie zaufania i akceptacji!
Społeczeństwo reaguje
W końcu rozwijają się trzy szkoły myślenia. Po pierwsze, Minutemeni są mniej lub bardziej apatyczni. Są świadomi istnienia Instytutu i obecności Syntezatorów, ale są bardziej zainteresowani stabilizacją Rzeczypospolitej dla dobra wszystkich. Po drugie, Bractwo Stali postrzega Instytut i jego Syntezatory jako wyraźne i natychmiastowe zagrożenie. Przyrzekli wyeliminować ich istnienie i wysłać Instytut w całości do gruzów. Wreszcie, The Railroad kupiło pomysł, że ponieważ są w stanie wykazywać ludzkie emocje, muszą być równi ludziom. Jeśli mają być równi ludziom, wówczas zasługują na te same wolności i dlatego muszą być wyzwoleni. Wszystkie perspektywy mają subiektywną wartość merytoryczną, w zależności od własnego zestawu wartości.
Gdy te różne myśli zaczynają się wiązać z większą liczbą ludzi, ich postrzegana wizja staje się bardziej zdefiniowana. Zaczynają przyjmować te przekonania jako część swojej tożsamości i zaczynają szukać innych, którzy podzielają te same wartości.
Gdy te grupy zaczynają zdobywać dodatkowych członków, rozpoczyna się regulacja poprzez identyfikację, a te wartości stają się podstawą nowych subkultur. Wraz ze wzrostem siły tych subkultur umacniają swoją tożsamość i ostatecznie stają się ruchem społecznym. Twoja wcześniej istniejąca struktura przekonań i wartości dyktowałaby, która z subkultur (czytaj: Główne Frakcje w Grze) będzie cię przyciągać i ostatecznie identyfikować.
W przypadku Fallout 4, skupiłoby się to na tym, jak internalizowałeś obecność Syntezatorów. Biorąc pod uwagę, że w większości ludzie uważają się za lepszych od innych zwierząt na ziemi, wszystko inne niż człowiek byłoby interpretowane jako „mniej” niż człowiek. W tym celu logiczne byłoby, aby wszystko, co zostało wprowadzone do świata zdominowanego przez człowieka, było domyślnie postrzegane jako sub-ludzkie.
Notatka osobista
Osobiście uważam się za człowieka współczującego. Regularnie oddaję się różnym organizacjom charytatywnym, uczestniczę w różnych imprezach charytatywnych i staram się zminimalizować mój wpływ na planetę. Ale starając się zobaczyć tę sytuację przez obiektyw, nie mogę pomyśleć: „Yo! Guys! Oni są ROBOTAMI!” Mam na myśli, dlaczego dostaję DLACZEGO mam być współczujący ich losowi. Jak stwierdzono wcześniej, nikt nie powinien być gnębiony. Opowiadam się przeciwko wszelkim poglądom, że daną osobę należy kupić lub sprzedać jak własność.
Moja podświadomość mówi mi, że powinienem działać wbrew interesom Instytutu i że działania Bractwa są zbyt pełne nienawiści, aby można je było uznać za pomocne rozwiązanie. Mój świadomy umysł mówi mi, że Instytut jest najlepszą szansą Wspólnoty Narodów na odzyskanie przedwojennego świata i uzdrowienie planety, a innym frakcjom brakuje zdolności poznawczych, by tak daleko myśleć.
Pytam więc ponownie: „Czy jestem złym człowiekiem?”
Nie sądzę. Syntezatory z Fallout 4 są na bardzo podstawowych maszynach. Są to niezwykle skomplikowane maszyny, ale mimo to maszyny. Skok fikcji był konieczny w tej grze, aby wzmocnić reakcję emocjonalną. Jednak nasze reakcje są zazwyczaj bezmyślne i są oparte na natychmiastowej informacji. Bardziej krytyczną odpowiedzią, która bierze pod uwagę pochodzenie i intencje Synth, byłoby postrzeganie ich jako maszyn usługowych, którymi są.
Gdybyśmy osiągnęli punkt, w którym prawdziwa sztuczna inteligencja zostanie w pełni zrealizowana, moglibyśmy bardzo dobrze zobaczyć podobne wydarzenia. Prawdziwe życie Syntezatory można rozwinąć do tego stopnia, że staną się świadome i zaczną współdziałać ze społeczeństwem w ogóle. Jeśli ten czas kiedykolwiek nadejdzie, mam nadzieję, że przejście będzie na tyle stopniowe, że ludzkość sobie z tym poradzi.