Etyka AI i uznana Dolina Niesamowitości AI, która wstrząsa również samochodami autonomicznymi opartymi na sztucznej inteligencji

Czasami zdarzają się nieco dziwne rzeczy, które przyciągają twoją uwagę i pobudzają twoją intuicyjną świadomość, że coś jest nie tak. Ta dziwność nie jest rażąca, wcale nie rzuca się w oczy. Być może nawet nie będziesz w stanie od razu rozpoznać, na czym polega niezgodność lub dlaczego mrowi Cię przysłowiowy, pajęczy zmysł.

Być może wyczuwane są subtelne wskazówki. Być może w głębi duszy zdajesz sobie sprawę, że istnieje dysonans. Myślę, że można powiedzieć, że jest tam choćby najmniejsza nuta dyskretnej niesamowitości, a twój delikatny ludzki radar wychwytuje pozornie ukryte sygnały.

Witamy w niesamowitej dolinie.

Jeśli nigdy nie słyszałeś o Dolinie Niesamowitości, temacie stosunkowo spopularyzowanym w dziedzinie sztucznej inteligencji, a zwłaszcza robotyki, czeka Cię nie lada gratka, ponieważ jest to temat, który będę tutaj szczegółowo omawiał i analizował.

To nadrzędne pojęcie może odnosić się do wielu rzeczy, których doświadczamy w życiu, chociaż podstawowe zasady i wyjściowa definicja obejmują systemy sztucznej inteligencji i roboty. Najpierw zbadamy pochodzenie i początkowe znaczenie Niesamowitej Doliny, a następnie przejdziemy do poszerzenia, aby zobaczyć, jak zjawiska wydają się mieć zastosowanie w szerszych kontekstach.

Dodam jeszcze, że zastanowimy się, czy dolina Niesamowitości w ogóle istnieje.

Widzisz, niektórzy sceptycy i cynicy twierdzą, że cała sprawa to jakiś bełkot i nie trzyma się kupy. Zachowaj ostrożność, poruszając ten temat osobom obeznanym w temacie. Niektórzy uśmiechną się radośnie i poklepią Cię po plecach, że doskonale znasz tę niesamowitą dolinę, podczas gdy inni ostro pouczą Cię, że to stek bzdur i że musisz szybko oczyścić umysł mydłem w kostce mydła do oczyszczania umysłu .

Dobra wiadomość jest taka, że ​​to Ty decydujesz, czy dolina niesamowitości istnieje naprawdę, czy nie, a także czy zasługuje na przemyślane zastosowanie, czy też powinna zostać bezceremonialnie wyrzucona na śmietnik technopomysłów. W tym sensie jesteś na miejscu kierowcy.

Wszystko to odnosi się również ściśle do rozwijającej się dziedziny etycznej sztucznej inteligencji i rosnącej świadomości, że społeczeństwo musi poważnie i trzeźwo zwracać uwagę na etykę sztucznej inteligencji. Za chwilę to połączymy.

Najlepiej zacząć od bezpośredniego zacytowania profesora, który stworzył koncepcję doliny niesamowitej i wprost nazwał to głoszone zjawisko. W 1970 roku profesor Masahiro Mori z Tokijskiego Instytutu Technologii opublikował dość drobny artykuł w nieco mniej znanym czasopiśmie zatytułowanym Energia (niezbyt wylęgarnia sztucznej inteligencji i robotyki per se) i powiedział to:

„Zauważyłem, że w miarę zbliżania się do celu, jakim jest sprawienie, by roboty wyglądały jak ludzie, nasza sympatia do nich wzrasta, aż dochodzimy do doliny, którą nazywam doliną niesamowitości”.

Należy pamiętać, że powyższe sformułowanie jest pokazane w języku angielskim, chociaż oryginał był w języku japońskim. Wersja przetłumaczona na język angielski została opracowana pod nadzorem autora i później opublikowana w czasopiśmie IEEE Spectrum w 2012 r., a autorem jest Masahiro Mori. Artykuł można przeczytać samodzielnie, ponieważ jest on ogólnodostępny w Internecie. Czyta się ją zdecydowanie szybko, zajmuje może około dziesięciu minut i nie zawiera żadnej zaawansowanej terminologii technicznej.

Biorąc to pod uwagę, interesujące i poniekąd zdumiewające jest to, że tak energiczny artykuł opublikowany w 1970 r. ostatecznie zapoczątkował całą dziedzinę badań i zapoczątkował niezliczoną ilość powiązanych badań, projektów, badań, a czasami burzę kontrowersji na temat tego, czy wprowadzone koncepcja niesamowitej doliny naprawdę istnieje. Przypuszczam, że pokazuje to, że intrygujące i czasami zmieniające punkt widzenia pomysły nie muszą być ogromnie zawiłe ani przepełnione żargonem i wzniosłością. Zwięzły pomysł może być tak samo, jak gdyby nie potężniejszy, niż mogłoby się wydawać na pierwszy rzut oka.

Mam nadzieję, że zachęci Cię to do rozwijania swoich nowych pomysłów, mając świadomość, że słodkie i proste mogą być równie wspaniałe, a czasami bardziej niż zawiłe i złożone.

Wróćmy do wywoływania doliny niesamowitej.

Natrafiasz na system robotyczny, którego twarz przypomina twarz ludzką. Wyobraź sobie, że ta robotyczna twarz została opracowana w wielu iteracjach. Twórcy sztucznej inteligencji, składający głowę robota, stopniowo starają się, aby część twarzy robota coraz bardziej przypominała prawdziwą ludzką twarz.

Ich pierwsza próba była wyjątkowo prymitywna. Twarz robota miała taki sam wygląd, jaki można zobaczyć w filmach science-fiction – była całkowicie metalowa i ukazywała koła zębate i przewody. Kiedy spojrzysz na urządzenie, od razu wiesz, że jest to robot. Nie masz co do tego żadnych wątpliwości.

Kolejna próba twórców sztucznej inteligencji polegała na owinięciu metalowych elementów plastikowymi materiałami. Choć wygląda to nieco bardziej przyjaźnie, od razu wiadomo, że jest to głowa robota i twarz robota. Ponownie, łatwe do wykrycia.

Twórcy sztucznej inteligencji są zdeterminowani, aby to utrzymać. Rzeźbią plastik i nadają mu odcienie skóry. Dodają cechy, które wydają się bardzo podobne do ludzkiej twarzy, takie jak pieprzyki, włosy, przebarwienia i tym podobne.

Na pierwszy rzut oka można pomyśleć, że jest to ludzka twarz. Jeśli zrobiono zdjęcie twarzy robota i poproszono Cię o określenie, czy przedstawia ono osobę, czy twarz robota, możesz mieć trudności z natychmiastową informacją, która to twarz. Z drugiej strony, jeśli staniesz obok urządzenia, prawdopodobnie po bliższym przyjrzeniu się będziesz w stanie rozpoznać, że nie jest to człowiek, a raczej urządzenie robotyczne.

Rzecz w tym, że zanim miałeś szansę przyjrzeć się z bliska, coś w twarzy nie do końca pasowało. To z pewnością wyglądało jak ludzka twarz. Ale coś było nie tak. Trzeba było ciągle się uważnie przyglądać, aby wskazać palcem, co nie wygląda całkiem dobrze. Być może jest to prawdziwa twarz. Może jednak tak nie jest. Twój umysł wibruje odpowiednio.

Pozory niesamowitości pojawiają się w twoim umyśle.

Kiedy widziałeś dwie wcześniejsze wersje, nie miałeś tego samego pozoru niesamowitości. Bez chwili wahania można było wykryć, że robot był robotem. Tylko dziecko mogłoby dać się zwieść, wierząc, że którakolwiek z tych wersji przedstawia prawdziwą osobę.

Ta najnowsza wersja była jednak inna. Nie był jeszcze udoskonalony, aby wyglądać jak ludzka twarz. Nie było też na tyle odbiegające od rzeczywistości, żeby było oczywiste, że to musi być robot. Osiągnięto coś w rodzaju niejasnego gruntu.

Załóżmy, że programiści posunęli się dalej w swoich wysiłkach badawczych i ułożyli wszystko w taki sposób, że twarz robota była prawie nie do odróżnienia od twarzy ludzkiej. Nieważne, jak długo się na coś patrzysz, nie masz pewności, czy to człowiek, czy nie człowiek. Gdy zostaniesz poinformowany, że jest to twarz robota, jesteś zaskoczony. Kurczę, wykonali świetną robotę, sprawiając, że wyglądało to naprawdę.

Zauważ, że do tej pory rozważałeś tylko aspekty robotyczne w oparciu wyłącznie o wygląd.

Moglibyśmy dodać do równania ruch. Daje to dodatkowy wymiar umożliwiający rozróżnienie, czy robot jest robotem, czy człowiekiem. Nie chcę w pełni traktować tego problemu jako wielowymiarowego problemu w tej dyskusji, ponieważ sprawia to, że wyjaśnienie tego tematu jest bardziej skomplikowane (istnieje jednak wiele wymiarów nieuchronnie ze sobą powiązanych). W każdym razie wyobraź sobie, że nie tylko widziałeś twarz robota, ale także mogłeś obserwować, jak robot porusza się po rysach twarzy, takich jak usta, oczy, nos itp. Oczywiście mogą to być również wskazówki dotyczące tego, czy jest to robot lub człowiek.

Jednym z istotnych aspektów, który należy zachować w czołówce niesamowitej doliny, jest to, że oryginalna koncepcja podkreśla akt pokrewieństwa międzyludzkiego. Twierdzone zjawisko polega na tym, że Twoje powinowactwo rośnie w miarę dostrzegania coraz ulepszanych twarzy robotów, aż do momentu, w którym pojawia się niesamowity wariant. Mówi się, że w tym momencie twoje poczucie powinowactwa dramatycznie spada, spadając w przepaść lub dolinę powinowactwa.

W przypadku tej konkretnej wersji, która wzbudziła Twoje podejrzenia, że ​​coś jest nie tak, Twoje powinowactwo rzekomo radykalnie spadło. Co więcej, zgodnie z teorią, twoje powinowactwo może gwałtownie wzrosnąć, gdy napotkasz bardziej zaawansowaną wersję, która jest prawie identyczna z prawdziwie ludzką formą.

Oto więcej na temat tego, co autor stwierdził na temat naszej normalnej skłonności do zakładania, że ​​aspekty życia płynnie rosną: „Termin matematyczny monotonicznie rosnąca funkcja opisuje relację, w której funkcja y = ƒ(x) rośnie w sposób ciągły wraz ze zmienną x. Na przykład jako wysiłek x rośnie, dochód y wzrasta lub w miarę naciśnięcia pedału przyspieszenia samochód porusza się szybciej. Ten rodzaj relacji jest wszechobecny i bardzo łatwo zrozumiały. W rzeczywistości, ponieważ takie monotonicznie rosnące funkcje obejmują większość zjawisk życia codziennego, ludzie mogą ulec złudzeniu, że reprezentują one wszystkie relacje. O tym fałszywym wrażeniu świadczy także fakt, że wielu ludzi walczy przez życie, nieustannie popychając, nie rozumiejąc, jaka jest skuteczność wycofywania się. Dlatego ludzie zwykle są zaskoczeni, gdy mają do czynienia ze zjawiskiem, którego ta funkcja nie może reprezentować. Jest to cytowane za IEEE Spectrum przetłumaczony artykuł.

To niemal uniwersalne założenie o ciągłym zwiększaniu można obalić, gdy napotkamy coś nie tak. Teoria głosi, że niesamowitość i podejrzliwość spowodują stosunkowo nagły i dramatyczny spadek powinowactwa, jak na przykład ręka robota, którą zdecydowałeś się potrząsnąć i nie czułeś kościstych cech ludzkiej dłoni: „Kiedy to się dzieje, tracimy zmysły powinowactwa i ręka staje się niesamowita. Z matematycznego punktu widzenia można to przedstawić za pomocą wartości ujemnej.

Jeśli przyjmiesz założenie, że istnieje zjawisko niesamowitej doliny, z pewnością zastanawiasz się, co dobrego przyniesie ci wiedza, że ​​niesamowita dolina najwyraźniej istnieje.

To ponadczasowy klasyk „i co z tego?” test praktyczności.

Okazuje się, że wiele osób wymyśliło wiele interpretacji tego, co powinniśmy lub możemy zrobić z Doliną Niesamowitości. Opinii jest mnóstwo. Niedługo odniosę się do niektórych z nich.

Tymczasem oto, co zaproponował Masahiro Mori: „Mamy nadzieję zaprojektować i zbudować roboty i protezy dłoni, które nie wpadną do niesamowitej doliny. Zatem ze względu na ryzyko związane z próbą zwiększenia stopnia podobieństwa do człowieka w celu osiągnięcia drugiego szczytu, zalecam, aby projektanci zamiast tego obrali sobie za cel pierwszy szczyt, co skutkuje umiarkowanym stopniem podobieństwa do człowieka i znacznym poczuciem powinowactwa . W rzeczywistości przewiduję, że możliwe jest stworzenie bezpiecznego poziomu powinowactwa poprzez celowe podążanie za nieludzkim projektem. Proszę projektantów, aby się nad tym zastanowili.”

Krótkie podsumowanie z mojej strony dwunastu przydatnych zasad dotyczących tego, co zrobić w przypadku Doliny Niesamowitości, wygląda następująco, szczególnie dla twórców sztucznej inteligencji:

1) Bądź świadomy niesamowitej doliny i bądź czujny

2) Prawdopodobnie chcesz w jak największym stopniu osiągnąć ludzkie powinowactwo do swojej sztucznej inteligencji

3) Bądź przygotowany na utratę ludzkich powinowactwa, jeśli twoja sztuczna inteligencja wpadnie do niesamowitej doliny

4) Staraj się unikać niesamowitej doliny, projektując w ten sposób swoją sztuczną inteligencję

5) To godne szacunku mieć cel, który znajduje się niedaleko Doliny Niesamowitości

6) Dojdź do krawędzi niesamowitej doliny, ale nie spadnij z urwiska

7) Nie miej obsesji na punkcie wyjścia poza niesamowitą dolinę

8) Istnieje szansa, że ​​uda Ci się jednak przeskoczyć niesamowitą dolinę

9) Nie przejmuj się skokiem, bo i tak możesz wpaść do doliny

10) Prawdą jest, że maksymalne pokrewieństwo międzyludzkie można osiągnąć, przechodząc przez Dolinę Niesamowitości

11) Niemniej jednak, istnieje odpowiednie i odpowiednie powinowactwo znalezione przed Niesamowitą Doliną

12) Stale pamiętaj o niesamowitej dolinie i nie pozwól, aby wymknęła ci się z głowy

Wszystkie te tuziny to ogólne wskazania, które można uznać za zwornik lub punkty zakotwiczenia wiedzy o Niesamowitej Dolinie. Od razu przyznam, że istnieją inne kwestie, które nie zostały wymienione w tym nielicznym tuzinie, a które można uznać za równie ważne. Przyznam również, że z pewnością nie będzie zgody co do każdego ze wskazanych punktów, a na temat każdego poruszonego punktu może nastąpić długa, gorąca debata.

Co więcej, niektórzy powiedzieliby, że dwanaście punktów to bzdury, ponieważ od początku opierają się na kłamstwie. Twierdzą, że nie ma czegoś takiego jak niesamowita dolina. To wszystko jest jedynie szykanacją i wymyślonym wynalazkiem, który wyłącznie i niestety przemawia do słabych umysłów (och, to naprawdę boli!). Wszelka uwaga poświęcana Niesamowitej Dolinie jest zmarnowanym tchnieniem powietrza i ktoś powinien się pojawić i wbić ostry drewniany teoretyczny kołek w sedno sprawy (niektórzy badacze próbowali to zrobić).

Na potrzeby dyskusji, pójdźmy z nurtem i załóżmy, że istnieje niesamowita dolina, która w zasadzie ma odpowiadać temu, co do tej pory wskazałem. Ci, którzy nie zgadzają się z konceptualizacją niesamowitej doliny, mogą odpocząć lub kontynuować czytanie z zaciśniętymi zębami i wrzącym intelektualnym gniewem (przepraszam za to).

Oto, jak etyczna sztuczna inteligencja oraz skupienie się na opracowywaniu i wdrażaniu etycznej sztucznej inteligencji przynoszą skutek. Nawiasem mówiąc, informacje na temat moich ciągłych i dogłębnych badań nad etyką sztucznej inteligencji można znaleźć w mojej dyskusji na stronie Ten link tutaj i Ten link tutaj, żeby wymienić tylko kilka.

Niesamowita Dolina jest zdecydowanie miejscem nienawiści i miłości dla miłośników etycznej sztucznej inteligencji.

Najpierw trochę potrzebnego tła. Jednym z najbardziej mrożących krew w żyłach etycznych wątpliwości związanych ze sztuczną inteligencją jest to, że ludzi można oszukać, wierząc, że system sztucznej inteligencji jest świadomy. Należy pamiętać, że obecnie nie ma żadnej sztucznej inteligencji, która choć w najmniejszym stopniu zbliżyłaby się do bycia świadomym. To się po prostu nie dzieje w tej chwili. Moje pozornie „bezczelne” twierdzenie zostało wygłoszone pomimo nieustannych i rażących nagłówków, które ogłaszają tę sztuczną inteligencję lub że sztuczna inteligencja jest albo świadoma, albo wystarczająco blisko, aby można ją było uznać za taką. Malarkey. Nie jesteśmy na poziomie wrażliwości AI.

Nie wiemy jak się tam dostać. Nie wiemy, czy to nastąpi. Czuwanie nad sztuczną inteligencją jest wartościowym marzeniem i aspiracją, ale nie poddawaj się i nie myśl, że jesteśmy o krok od jego osiągnięcia.

Oczywiście wielu gorąco ostrzega, że ​​jeśli w jakiś sposób uda nam się wyzwolić wrażliwość sztucznej inteligencji, niezależnie od tego, czy zrobimy to celowo, czy przez czysty przypadek, staniemy w obliczu egzystencjalnego ryzyka. Przy takim sposobie myślenia być może poszukiwanie świadomości AI nie jest aż tak opłacalne. Istnieje ryzyko, że ta świadoma sztuczna inteligencja może stwierdzić, że nie warto mieć ludzi w pobliżu. Moglibyśmy zostać zmiażdżeni jak robak. Lub zostań niewolnikiem sztucznej inteligencji. Może się to zdarzyć w wyniku jawnej decyzji AI lub AI może stać się naszą własną maszyną zagłady, która nas zniszczy przez naszą własną nieudolność. Moje relacje na temat niepokojących skutków wrażliwości lub osobliwości AI można znaleźć w artykule link tutaj.

Kluczowym problemem etycznym związanym ze sztuczną inteligencją jest to, że twórcy sztucznej inteligencji i ci, którzy ją wykorzystują, czasami wmawiają ludziom, że sztuczna inteligencja jest świadoma. Sposób, w jaki sztuczna inteligencja się przejawia, na przykład poprzez działanie robotyczne lub interaktywność konwersacyjną, może podstępnie skłonić ludzi do założenia, że ​​sztuczna inteligencja jest świadoma. To z kolei prowadzi cię na potencjalnie złą ścieżkę wiesiołka.

Jeśli wpadniesz w mentalną pułapkę myślenia, że ​​system sztucznej inteligencji jest świadomy, prawdopodobnie będziesz na nim polegał, robiąc rzeczy, które zrobiłyby czujące istoty. Jednak jak dotąd nie ma jeszcze zdrowego rozsądku, który wskazywałby na ludzką jakość w żadnej dzisiejszej sztucznej inteligencji. Sztuczna inteligencja, której obecnie doświadczamy, jest niezwykle krucha i płytka, jeśli chodzi o możliwości podobne do ludzkich. Wierząc, że system sztucznej inteligencji jest świadomy, możesz wpaść na niesmaczne i niebezpieczne wody.

Jak to się ma do Doliny Niesamowitości?

Oto oferta.

Przypomnijmy, że dolina niesamowitości zdaje się nam mówić, że pokrewieństwo międzyludzkie będzie stopniowo rosło, w miarę jak system sztucznej inteligencji lub robot będą coraz bardziej zbliżać się do postaci przypominającej człowieka. W momencie, gdy system sztucznej inteligencji zbliża się do punktu, w którym jest już całkiem blisko, ale wciąż nie do końca, mamy niesamowite wrażenie, że coś jest nie tak. Do tego czasu wiedzieliśmy, że sztuczna inteligencja nie jest człowiekiem. Teraz nie jesteśmy pewni. Nasze ludzkie powinowactwo spada. Dopiero gdy sztuczna inteligencja lub robot zostaną całkowicie przekonujące co do możliwości ludzkich, odzyskamy pozory powinowactwa z urządzeniem.

Prawdopodobnie zrobiliby to twórcy sztucznej inteligencji, którzy podeszliby do tego serca celowo starają się trzymać swoją sztuczną inteligencję z dala od niesamowitej doliny, starając się zatrzymać pod względem cech sztucznej inteligencji, tuż przed wpadnięciem w niesamowitą otchłań (przypomnijmy, to też podkreślił Masahiro Mori). Twórcy najwyraźniej zrobiliby to, upewniając się, że nadal istnieją liczne charakterystyczne wskazówki, które pozwalałyby jasno stwierdzić, że sztuczna inteligencja jest mniej niż świadomą sztuczną inteligencją, a zatem nie jest człowiekiem ani w równym stopniu.

Etycy sztucznej inteligencji na ogół z radością powitaliby ten szczery wysiłek.

Rozumowanie jest proste. Tak poinformowani i entuzjastycznie nastawieni twórcy sztucznej inteligencji starają się upewnić, że system sztucznej inteligencji nie będzie wprowadzał ludzi w błąd i nieprawdziwie przypisując sztucznej inteligencji obiekty przypominające ludzkie. To z pewnością dobra wiadomość. Twórcy celowo stworzą sztuczną inteligencję, aby zapobiec nurkowaniu w niesamowitej dolinie. Ludzie łatwo zorientują się, że sztuczna inteligencja nie jest świadoma.

Próba nakłonienia twórców sztucznej inteligencji do przyjęcia takiego podejścia nie jest łatwa. Rzeczywiście, może to być sprzeczne z ich zwykłymi instynktami i ambicjami.

Wiele osób twierdzi, że programiści i technicy zajmujący się sztuczną inteligencją są ogólnie pochłonięci celami. Widzą cel i często na ślepo dążą do niego z wielkim zapałem. Nie ma czasu, aby zatrzymać się i powąchać róże. Jedziemy na wyścigi. W dziedzinie sztucznej inteligencji celem normatywnym byłaby wyidealizowana sztuczna inteligencja, która jest nie do odróżnienia od ludzi, ponieważ sztuczna inteligencja mogłaby być inteligentnie równa pod względem parytetu. Ale jeszcze tam nie jesteśmy. W związku z tym Niesamowita Dolina stanowi cel drugorzędny, lądując przed w przeciwnym razie piętrzącą Niesamowitą Dolinę, i staje się celem, który mimo to jest akceptowalny. Jasne, nie jest to złoty pierścionek, ale zamysł jest taki, że ta „drugorzędna” nagroda jest w porządku, dziękuję bardzo i możesz być z niej dumny.

Zmieniliśmy rujnującą, najwyższą ambicję polegającą na dążeniu do celu i wykorzystaliśmy ją w logicznie brzmiącą, uzasadnioną podstawę, aby w pewnym sensie postępować właściwie.

Hurra!

Zdobądź zwycięstwo dzięki etyce AI.

Ale poczekaj na sekundę, ostrzeżenie o spoilerze, jest coś jeszcze, co musimy wziąć pod uwagę.

Teraz, gdy ci doświadczeni twórcy sztucznej inteligencji wiedzą o niesamowitej dolinie, mogą skierować swój spryt i umiejętności techniczne w kierunku celowego przeskakiwania nad otchłanią, a mimo to robić to z pozorem oszustwa. Spraw, aby sztuczna inteligencja wyglądała i wydawała się całkowicie podobna do człowieka, nawet jeśli programiści wiedzą, że to nieprawda.

Łotrowskie myślenie wygląda w ten sposób. Nie pozwól, aby Twój system sztucznej inteligencji uchylił kapelusza i spowodował, że ludzie poczuli nieuchwytny nurt niesamowitości. Wytnij aspekty, które mogą dać wskazówkę lub wskazówkę, że sztuczna inteligencja nie ma ludzkich możliwości. Zrób to, potajemnie zdając sobie sprawę i niewybaczalnie wiedząc, że sztuczna inteligencja nie ma ludzkich możliwości, a chodzi o ukrycie tej prawdy przed tymi, którzy wchodzą w interakcję z sztuczną inteligencją lub są od niej zależni.

Co za diabelskie plany.

Jak na ironię, Niesamowita Dolina może być swego rodzaju sygnałem ostrzegawczym dla twórców sztucznej inteligencji, że jeśli chcą naprawdę oszukać ludzi, muszą być na tyle sprytni, aby uciec z otchłani. Nie robią tego poprzez osiągnięcie pełnej sztucznej inteligencji, ale zamiast tego wznoszą dym i lustra, aby sztuczna inteligencja wydawała się wprowadzać w błąd, jakby była człowiekiem. Gdyby twórcy sztucznej inteligencji nie zdawali sobie sprawy, że ta niesamowita dolina istnieje, w zasadzie by do niej wpadli. Jest to dobre dla ludzkości, ponieważ ludzie ergo straciliby sympatię do sztucznej inteligencji, gdyby nie polegali nadmiernie na dzisiejszej jakości sztucznej inteligencji.

Niestety, wiedząc o istnieniu pułapki, twórcy sztucznej inteligencji, którzy chcą się przed nią przekraść, znajdą na to zgubnie sprytne sposoby.

Zdobądź trafienie wbrew przykazaniom etycznej sztucznej inteligencji.

Czy widzisz, jak tworzy to relację miłości i nienawiści wśród etyków AI w stosunku do Niesamowitej Doliny?

Przeklęta, jeśli to zrobisz, przeklęta, jeśli tego nie zrobisz.

Zdaję sobie sprawę, że było to dość trudne badanie Doliny Niesamowitości i możesz chcieć kilku przykładów z dnia na dzień. Istnieje szczególny i na pewno popularny zestaw przykładów, które są bliskie mojemu sercu. Jak widać, jako ekspert w dziedzinie sztucznej inteligencji, w tym jej konsekwencji etycznych i prawnych, często jestem proszony o wskazanie realistycznych przykładów ilustrujących dylematy etyczne dotyczące sztucznej inteligencji, aby łatwiej było uchwycić nieco teoretyczny charakter tematu. Jednym z najbardziej sugestywnych obszarów, który wyraźnie przedstawia ten etyczny dylemat związany ze sztuczną inteligencją, jest pojawienie się prawdziwie autonomicznych samochodów opartych na sztucznej inteligencji. Będzie to służyć jako przydatny przypadek użycia lub przykład obszernej dyskusji na ten temat.

Oto godne uwagi pytanie, które warto rozważyć: Czy pojawienie się prawdziwie autonomicznych samochodów opartych na sztucznej inteligencji rzuca światło na coś w tej niesamowitej dolinie, a jeśli tak, to do czego nas to skłania?

Daj mi chwilę na rozpakowanie pytania.

Po pierwsze, zauważ, że w prawdziwym samojezdnym samochodzie nie ma ludzkiego kierowcy. Pamiętaj, że prawdziwe, autonomiczne samochody są napędzane przez system jazdy AI. Nie ma potrzeby, aby za kierownicą kierował człowiek, ani nie ma możliwości prowadzenia pojazdu przez człowieka. Aby zapoznać się z moim obszernym i bieżącym omówieniem pojazdów autonomicznych (AV), a zwłaszcza samochodów autonomicznych, zobacz link tutaj.

Chciałbym dokładniej wyjaśnić, co mam na myśli, gdy mówię o prawdziwych samojezdnych samochodach.

Zrozumienie poziomów samochodów autonomicznych

Dla wyjaśnienia, prawdziwie autonomiczne samochody to takie, w których sztuczna inteligencja prowadzi samochód całkowicie samodzielnie i nie ma żadnej pomocy człowieka podczas zadania prowadzenia.

Te pojazdy bez kierowcy są uważane za Poziom 4 i Poziom 5 (zobacz moje wyjaśnienie na Ten link tutaj), podczas gdy samochód, który wymaga współdzielenia wysiłku przez kierowcę, jest zwykle rozpatrywany na poziomie 2 lub 3. Samochody, które współdzielą zadanie prowadzenia, są opisywane jako półautonomiczne i zazwyczaj zawierają automatyczne dodatki zwane ADAS (Advanced Driver-Assistance Systems).

Na poziomie 5 nie ma jeszcze prawdziwego samochodu do samodzielnego prowadzenia, którego nawet nie wiemy, czy będzie to możliwe do osiągnięcia, ani jak długo to zajmie.

W międzyczasie wysiłki na poziomie 4 stopniowo próbują uzyskać jakąś przyczepność, przechodząc bardzo wąskie i selektywne testy na drogach publicznych, chociaż istnieją kontrowersje co do tego, czy takie testy powinny być dozwolone jako takie (wszyscy jesteśmy świnkami morskimi życia lub śmierci w eksperymencie odbywają się na naszych autostradach i drogach, niektórzy twierdzą, zobacz moje relacje na Ten link tutaj).

Ponieważ samochody półautonomiczne wymagają kierowcę, adopcja tego typu samochodów nie będzie się znacząco różnić od prowadzenia pojazdów konwencjonalnych, więc nie ma zbyt wiele nowych do omówienia na ten temat w tym temacie (jak jednak zobaczycie za chwilę, następne punkty mają ogólne zastosowanie).

W przypadku samochodów półautonomicznych ważne jest, aby społeczeństwo zostało ostrzeżone o niepokojącym aspekcie, który pojawia się ostatnio, a mianowicie, że pomimo tych ludzkich kierowców, którzy zamieszczają filmy o swoich snach za kierownicą samochodu na poziomie 2 lub 3 wszyscy musimy unikać wprowadzania w błąd w przekonaniu, że kierowca może odwrócić uwagę od zadania prowadzenia pojazdu podczas prowadzenia samochodu półautonomicznego.

Jesteś odpowiedzialny za kierowanie pojazdem, niezależnie od tego, ile automatyzacji można wrzucić na Poziom 2 lub Poziom 3.

Samochody autonomiczne i Dolina Niesamowitości

W prawdziwych pojazdach samobieżnych na poziomie 4 i 5 nie będzie kierowcy ludzkiego zaangażowanego w prowadzenie pojazdu.

Wszyscy pasażerowie będą pasażerami.

AI prowadzi samochód.

Jeden aspekt, który należy natychmiast omówić, wiąże się z faktem, że sztuczna inteligencja zaangażowana w dzisiejsze systemy sterujące sztuczną inteligencją nie jest świadoma. Innymi słowy, sztuczna inteligencja jest zbiorem programów komputerowych i algorytmów iz całą pewnością nie jest w stanie rozumować w taki sam sposób, jak ludzie.

Dlaczego ten dodatkowy nacisk kładzie się na to, że sztuczna inteligencja nie jest świadoma?

Ponieważ chcę podkreślić, że omawiając rolę systemu napędowego AI, nie przypisuję AI cech ludzkich. Należy pamiętać, że w dzisiejszych czasach istnieje trwająca i niebezpieczna tendencja do antropomorfizacji sztucznej inteligencji. W istocie ludzie przypisują dzisiejszej sztucznej inteligencji ludzką wrażliwość, pomimo niezaprzeczalnego i niepodważalnego faktu, że taka sztuczna inteligencja jeszcze nie istnieje.

Dzięki temu wyjaśnieniu możesz sobie wyobrazić, że system jazdy AI nie będzie w jakiś sposób „wiedzieć” o aspektach jazdy. Prowadzenie i wszystko, co się z tym wiąże, będzie musiało zostać zaprogramowane jako część sprzętu i oprogramowania samochodu autonomicznego.

Zanurzmy się w niezliczonych aspektach, które pojawiają się w tym temacie.

Po pierwsze, ważne jest, aby zdać sobie sprawę, że nie wszystkie autonomiczne samochody AI są takie same. Każdy producent samochodów i firma technologiczna do samodzielnego prowadzenia mają swoje podejście do opracowywania autonomicznych samochodów. W związku z tym trudno jest wypowiadać ogólne stwierdzenia na temat tego, co zrobią, a czego nie zrobią systemy jazdy AI.

Co więcej, za każdym razem, gdy stwierdzają, że system sterowania AI nie robi jakiejś konkretnej rzeczy, może to później zostać wyprzedzone przez programistów, którzy w rzeczywistości programują komputer, aby robił to samo. Krok po kroku systemy jazdy AI są stopniowo ulepszane i rozszerzane. Obecne ograniczenie może już nie istnieć w przyszłej iteracji lub wersji systemu.

Ufam, że dostarcza to wystarczającej litanii zastrzeżeń, aby uzasadnić to, co zamierzam opowiedzieć.

Jesteśmy teraz przygotowani, aby głębiej zagłębić się w samochody autonomiczne i kwestie etyczne dotyczące sztucznej inteligencji związane z doliną niesamowitości.

Istnieją cztery aspekty związane z tą kwestią, które zostaną omówione w niniejszym dokumencie:

1. Ogólny wygląd samochodów autonomicznych

2. Pytanie, gdzie „szukają” samochody autonomiczne

3. AI kierująca działaniami samochodów autonomicznych

4. Roboty jeżdżące sposobem na osiągnięcie samochodów autonomicznych

Uwzględniono również dodatkowe aspekty, ale ze względu na ograniczenia przestrzenne te cztery tematy wystarczą, aby wyjaśnić położenie niesamowitej doliny w odniesieniu do samochodów autonomicznych opartych na sztucznej inteligencji.

1. Ogólny wygląd samochodów autonomicznych

Założę się, że widziałeś zdjęcia lub filmy z dzisiejszych prób samochodów autonomicznych. Być może zauważyłeś, że większość pojazdów to samochody o konwencjonalnym wyglądzie, wyposażone w dodatkowy, specjalistyczny sprzęt. Na przykład może to być bagażnik dachowy zawierający mnóstwo czujników elektronicznych. Do czujników zaliczają się czasem kamery wideo, radary, urządzenia LIDAR, czujniki ultradźwiękowe i tym podobne.

Futurystyczne projekty zwykle sugerują, że moglibyśmy odejść od konwencjonalnie wyglądającego samochodu i zamiast tego przeprojektować samochody zarówno wewnątrz, jak i na zewnątrz, tak aby były bardziej elegancko wyglądającymi pojazdami autonomicznymi. Obecnie panuje powszechne przekonanie, że łatwiej jest używać konwencjonalnych samochodów i nie marnować energii na przedłużanie wysiłków, majsterkując jednocześnie przy niekonwencjonalnie wyglądających samochodach (istnieją pewne wyjątki od tego ogólnego punktu widzenia, zobacz moją relację na stronie link tutaj).

W tej chwili chodzi o to, że jeśli jedziesz jezdnią i napotykasz w pobliżu samochód autonomiczny, prawie zawsze możesz natychmiast rozpoznać, że prawdopodobnie jest to samochód autonomiczny, po prostu zauważając kilka czujników zamontowanych w pojeździe autonomicznym. To szybka wizualna nagroda. Oczywiście nie można mieć pewności, że jest to pojazd autonomiczny per se, ponieważ w tym momencie elementy sterujące są zwykle nienaruszone, a za kierownicą może znajdować się ludzki kierowca rezerwowy.

Według jednego ze sposobów myślenia można zasugerować, że szczególnie przydatne jest to, że samochody autonomiczne rzeczywiście wydają się wyróżniać pod względem fizycznym i są łatwo zauważalne przez kierowców w pobliskich samochodach kierowanych przez ludzi, a także przez pieszych w pobliżu. Świadomość, że w pobliżu przechadza się autonomiczny samochód, może być przydatną wskazówką, aby zachować czujność i skłonić Cię do zachowania czujności i świadomości, że pojazdem kieruje lub może kierować sztuczna inteligencja.

Załóżmy, że samochody autonomiczne wyglądają identycznie jak konwencjonalne samochody kierowane przez człowieka. Jest to realnie wykonalne na co najmniej dwa sposoby. Po pierwsze, czujniki można potencjalnie ukryć lub ukształtować tak, aby nie były tak oczywiste dla zwykłej kontroli wzrokowej. Po drugie, może się zdarzyć, że wszystkie samochody, w tym konwencjonalne samochody kierowane przez ludzi, będą stopniowo wyposażane w podobne czujniki, nawet jeśli mimo to pojazd pozostanie pojazdem napędzanym głównie przez ludzi. Zobacz moją dalszą relację na stronie Ten link tutaj.

Jeśli uważnie zastanowisz się nad tym, czy samochody autonomiczne mogą lub powinny wyglądać identycznie jak konwencjonalne samochody kierowane przez ludzi, możesz dojść do wniosku, że w tym gulaszu może czaić się niesamowita dolina.

Widzisz, samochody, które rażąco wyglądają jak samochody autonomiczne, można scharakteryzować jako znajdujące się w punkcie niedaleko niesamowitej doliny. Zasadniczo „wiesz”, że jest to robot lub system zrobotyzowany. To ocena, do której można przejść niemal natychmiast.

Kiedy samochody autonomiczne wyglądają identycznie jak samochody kierowane przez człowieka, być może sugeruje to, że pojazdy autonomiczne przekroczyły magiczną dolinę swoim wyglądem przypominającym roboty. Czy jednak istnieje złoty środek pomiędzy tymi dwoma zjawiskami fizycznymi, który sprowadza nas do niesamowitej doliny?

Być może zauważysz jadący ulicą samochód autonomiczny i wydaje ci się, że prawdopodobnie jest to samochód autonomiczny, z drugiej strony jego wygląd nie jest ani całkowicie autonomiczny, ani całkowicie sterowany przez człowieka. Można argumentować, że wygląd samochodu autonomicznego jest obecnie niesamowity lub niepokojący.

Autonomiczny samochód rzekomo zanurzył się w niesamowitej dolinie.

Biorąc to pod uwagę, nie wszyscy zgodziliby się z taką kategoryzacją. Niektórzy twierdzą, że wygląd fizyczny nie ma nic wspólnego z niesamowitą doliną. Niektórzy oczywiście twierdzą również, że nie ma nic realistycznie znanego jako Dolina Niesamowitości.

Jak wspomniano wcześniej, możesz podjąć własną decyzję w tej sprawie.

2. Pytanie, gdzie szukają samochodów autonomicznych

Rosnącą obawą wielu osób dotyczącą samochodów autonomicznych jest to, że zazwyczaj na miejscu kierowcy nie ma ludzkiego kierowcy, w związku z czym trudno jest ustalić, gdzie „kierowca” patrzy podczas prowadzenia samochodu.

Zwykle spoglądasz na ludzkich kierowców, aby sprawdzić, gdzie patrzą. Na przykład możesz być pieszym na przejściu dla pieszych, a do przejścia zbliża się samochód. Patrzysz uważnie na osobę siedzącą na siedzeniu kierowcy i próbujesz rozpoznać, gdzie jest zwrócona jej głowa i gdzie patrzą jej oczy. Jeśli uważasz, że widział Cię ludzki kierowca, możesz czuć się bardziej komfortowo, przechodząc przez ulicę. Z drugiej strony, jeśli wydaje się, że ludzki kierowca Cię nie widzi, słusznie martwisz się o przejście.

W niektórych miastach toczy się w tych kwestiach swego rodzaju zabawa w kotka i myszkę. Szczególną normą kulturową w danym mieście może być to, że jeśli nawiążesz kontakt wzrokowy z kierowcą, kierowca „wygrywa” i ma pozorne prawo do kontynuowania jazdy, niezależnie od legalności sytuacji na drodze. W innych miastach może być zupełnie odwrotnie, a mianowicie, że normą kulturową jest to, że gdy nawiązuje się kontakt wzrokowy, pieszy „wygrywa”, a ludzki kierowca powinien podporządkować się jego działaniom.

Wydaje się, że przyjęliśmy ten zwyczaj przez stosunkowo długi czas obecności samochodów w naszych miastach i społecznościach. Problem związany z pojawieniem się samochodów autonomicznych polega na tym, że na siedzeniu kierowcy nie siedzi człowiek, w związku z czym żaden pieszy lub kierowca znajdujący się w pobliżu, który zwykle wykorzystuje głowę i oczy kierowcy samochodu jako kulturowy wskaźnik zamiaru prowadzenia pojazdu, jest obecnie pecha.

Producenci samochodów i twórcy samochodów autonomicznych są doskonale świadomi tego pojawiającego się problemu. Jedno z proponowanych rozwiązań polega na tym, że samochód autonomiczny mruga reflektorami pojazdu autonomicznego lub ewentualnie włącza klakson. Inną hipotezą jest to, że samochód autonomiczny może mieć odmianę głośnika, który będzie informował osoby znajdujące się w pobliżu, jakie są „zamierzenia” systemu jazdy AI. Każdy z tych pomysłów ma istotne wady.

Jednak inna propozycja wiąże się z zrobieniem czegoś, co na pierwszy rzut oka może wydawać się śmieszne. Propozycja polega na umieszczeniu na zewnątrz pojazdu autonomicznego kul przypominających gałki oczne. Te kule wyglądałyby prawie jak ludzkie oczy, pozornie mogły obracać się tam i z powrotem, dając natychmiastową wskazówkę sugerującą, że sztuczna inteligencja „widziała cię” (zinterpretowałbyś to na podstawie gałek ocznych skierowanych w twoim konkretnym kierunku). Analizowałem to podejście pod adresem link tutaj.

Jaka byłaby Twoja reakcja na widok autonomicznego samochodu jadącego ulicą i zamontowania na masce lub dachu tych ogromnych, dziwacznych kul o wyglądzie gałki ocznej?

Przypuszczam, że możesz pomyśleć, że to jest niesamowite, może przerażające.

Niektórzy sugerują, że niesamowitość wynika z obecności wyposażonego samochodu autonomicznego w niesamowitej dolinie. Inni stanowczo twierdzą, że nie ma to nic wspólnego z Niesamowitą Doliną. Niektórzy powiedzieliby o takich ekspertach, że istnieje coś niesamowitego, co może być niesamowite bez konieczności zakorzeniania się w Dolinie Niesamowitości (tj. Dolina Niesamowitości pozornie zawsze wywołuje niesamowitość, ale nie cała niesamowitość powstaje wyłącznie poprzez Dolinę Niesamowitości). Z drugiej strony, kule można przypuszczalnie zaprojektować tak, aby mniej przypominały oczy i wyglądały bardziej jak roboty, lub że wszyscy nieuchronnie zaakceptujemy wygląd tych kul i początkowa zaskakująca reakcja ustąpi.

3. Działania AI w samochodach autonomicznych

Wiele dzisiejszych prób samochodów autonomicznych pokazało, że istniejące systemy jazdy oparte na sztucznej inteligencji są zwykle programowane tak, aby jeździć w raczej letni i dość rygorystycznie przestrzegający przepisów sposób. System jazdy AI zazwyczaj całkowicie zatrzymuje autonomiczny samochód przed znakami Stop. System jazdy AI nie wykonuje odważnych przejazdów przez skrzyżowania, gdy sygnalizacja świetlna wkrótce zmieni kolor na czerwony. Te krnąbrne praktyki jazdy są domeną ludzkich kierowców.

W pewnym sensie można się domyślić, że samochód autonomiczny jest samochodem autonomicznym, sądząc po stylu jego prowadzenia. Nawet jeśli pojazd autonomiczny wizualnie wydawał się konwencjonalnym samochodem kierowanym przez człowieka, można obserwować działania kierowcy i logicznie wywnioskować, że prawdopodobnie kieruje nim system sztucznej inteligencji.

Niektórzy uważają, że będziemy musieli sprawić, aby systemy prowadzenia pojazdów wykorzystujące sztuczną inteligencję bardziej przypominały wybryki ludzkich kierowców, aby skutecznie wkomponowały się w normatywne podejście do prowadzenia pojazdów. Przypuszczam, że można to zinterpretować jako walkę z ogniem ogniem.

Czy ma to sens?

Należy pamiętać, że zdeklarowani sceptycy i krytycy brzydzą się tym pomysłem. Usilnie argumentowaliby, że chcemy, aby systemy sterujące AI jeździły prawidłowo i ostrożnie. Dodanie potencjalnie milionów autonomicznych samochodów na jezdnie, które są zaprogramowane tak, aby przypominały błądzących ludzkich kierowców, wydawałoby się kolosalnym koszmarem. Omówiłem tę kontrowersyjną propozycję pod adresem link tutaj.

Przeanalizujmy ten dylemat, wykorzystując dolinę niesamowitości.

Kiedy system prowadzenia pojazdów oparty na sztucznej inteligencji jest całkowicie legalny ze względu na swoje działania podczas kierowania, być może jest to wyraźna wskazówka, że ​​prawdopodobnie będzie to system robotyczny (mimo że kierowcy, którzy wprawdzie to robią, choć w dzisiejszym świecie wydaje się, że jest ich bardzo niewielu). Jeśli systemy napędowe AI mają prowadzić równie dziwacznie jak ludzie, czy oznacza to przeskoczenie niesamowitej doliny czy wpadnięcie do niesamowitej doliny?

Przemyśl to.

4. Roboty, które jeżdżą, jako sposób na osiągnięcie samochodów autonomicznych

Ten ostatni element reportażu jest najbardziej zaskakujący z tych czterech.

Możesz być całkowicie nieświadomy tego, że niektórzy twórcy sztucznej inteligencji próbują stworzyć roboty, które mogłyby prowadzić samochody. Robot pod wieloma względami wyglądałby jak człowiek, mając robotyczne nogi i robotyczne ramiona jako kończyny. Jeśli chcesz, aby jakikolwiek konwencjonalny samochód kierowany przez człowieka był samochodem autonomicznym, wystarczy umieścić tego wyspecjalizowanego robota sterującego AI na siedzeniu kierowcy w samochodzie. Zobacz moją analizę tego pojęcia pod adresem link tutaj.

Dlaczego mielibyśmy chcieć kierować robotami?

Piękno takiego robota polega na tym, że wszystkie dzisiejsze samochody kierowane przez ludzi mogą, w pewnym sensie, stać się samochodami autonomicznymi niemal z dnia na dzień. Po prostu kupujesz, wynajmujesz lub w jakiś sposób kupujesz sobie jeżdżącego robota. Wybierając się w podróż, umieszczasz robota na siedzeniu kierowcy. Robot zawiezie Cię do celu. Jeśli chcesz przestawić się na prowadzenie człowieka, wyjmij robota z pojazdu i być może schowaj go do bagażnika do późniejszego wykorzystania.

Obecnie w Stanach Zjednoczonych jest około 250 milionów konwencjonalnych samochodów. Niektórzy uważają, że wraz z pojawieniem się samochodów autonomicznych zostaną one ostatecznie wyrzucone na złom. Zamiast wyrzucać na złom te konwencjonalne samochody, być może moglibyśmy spróbować zmodernizować je tak, aby stały się samochodami autonomicznymi, chociaż jest to prawdopodobnie dość kosztowny pomysł. Pozornie rozsądniejszym podejściem byłoby udostępnienie robotów prowadzących.

Gdybyś zobaczył konwencjonalnie wyglądający samochód jadący ulicą w Twojej okolicy i miał robota za kierownicą, jaka byłaby Twoja reakcja?

Prawdopodobna niesamowitość.

Jedno co prawda dyskusyjne twierdzenie głosi, że przyczyną tej niesamowitości jest robot prowadzący konwencjonalny samochód, który zjeżdża do słynnej lub niesławnej niesamowitej doliny.

Wnioski

Z punktu widzenia etycznej sztucznej inteligencji niesamowita dolina stanowi intrygującą zagadkę.

Niektórzy w AI w pełni wierzą w Niesamowitą Dolinę, a niektórzy nie. Ale niezależnie od tego, czy wierzysz w Dolinę Niesamowitości, czy nie, sam temat jest jednak poruszany. Nie możesz chować głowy i udawać, że konstrukt sam w sobie nie istnieje. Konstrukt jako idea żyje i pod pewnymi względami jest wirusowo potężny. Nienawidzę tego lub kocham, ten przeklęty, a może wzniosły temat pozostaje niezmienny.

Zgodnie z moim wcześniejszym dyskursem na temat zalet Doliny Niesamowitości z punktu widzenia etyki sztucznej inteligencji, istnieje w niej pojedynkowa relacja miłości i nienawiści. Czy zwolennicy etycznej sztucznej inteligencji powinni przyjąć Dolinę Niesamowitości, czy też w skrócie odrzucić Dolinę Niesamowitości, czy też zachować neutralność w kwestii prawdziwości i zamiast tego skupić się na wpływie, jaki wywierają ciągłe rozbieżne przekonania na ten temat.

To wyzwanie rodzi wybitnego ekonomistę Adama Smitha, który kiedyś powiedział (parafrazując), że w drodze z Miasta Sceptycyzmu trzeba przejść przez Dolinę Niejednoznaczności.