Wstrząs sztucznej inteligencji, gdy wybitny guru sztucznej inteligencji proponuje zniewalające umysły „śmiertelne komputery”, w które wkracza również etyka sztucznej inteligencji i prawo sztucznej inteligencji

Oto coś, nad czym prawdopodobnie jeszcze się nie zastanawiałeś: Śmiertelne komputery.

Ale może powinieneś być.

Głośny temat pojawił się na niedawnej i ogólnie dość znaczącej dorocznej konferencji poświęconej sztucznej inteligencji, która jest szczególnie skoncentrowana na pojawieniu się sieci neuronowych i uczenia maszynowego, a mianowicie Konferencji na temat systemów przetwarzania informacji neuronowych (znanej przez wtajemniczonych jako NeuroIPS). Zaproszony główny mówca i uznawany od dawna guru sztucznej inteligencji, Geoffrey Hinton, przedstawił intrygującą i być może kontrowersyjną tezę, że powinniśmy myśleć o komputerach w kontekście śmiertelności i nieśmiertelności.

Odniosę się do godnego uwagi twierdzenia i zrobię to na dwa sposoby, które na pierwszy rzut oka niekoniecznie wydają się powiązane, chociaż po odrobinie dodatkowego wyjaśnienia staną się one wyraźniej powiązane ze sobą, jeśli chodzi o spór śmiertelników i nieśmiertelnych.

Te dwa tematy to:

1) Integralne łączenie zarówno sprzętu, jak i oprogramowania dla mechanizacji sztucznej inteligencji, zamiast mieć je jako odrębnych i oddzielnych sojuszników

2) Przenoszenie lub destylacja formuł uczenia maszynowego z jednego modelu AI do drugiego, który robi to bez konieczności ani konieczności pragnienia (lub nawet wykonalnego w inny sposób możliwego) bezpośredniego kopiowania czystej krwi

Wszystko to ma duże znaczenie dla sztucznej inteligencji i przyszłego kierunku rozwoju sztucznej inteligencji.

Ponadto pojawia się mnóstwo bardzo drażliwych problemów związanych z etyką sztucznej inteligencji i prawem sztucznej inteligencji. Tego rodzaju postępy technologiczne przewidywane przez sztuczną inteligencję są zwykle rozpowszechniane na podstawie czysto technologicznej na długo przed uświadomieniem sobie, że mogą one mieć również godne uwagi reperkusje w zakresie etycznej sztucznej inteligencji i prawa dotyczącego sztucznej inteligencji. W pewnym sensie zwykle kot jest już z worka lub koń ze stodoły, zanim się przebudzi, że AI Ethics i AI Law powinny mieć udział w due diligence.

Cóż, przerwijmy ten spóźniony cykl refleksji i przejdźmy do tego na parterze.

Dla tych z Was, którzy ogólnie interesują się najnowszymi spostrzeżeniami leżącymi u podstaw etyki sztucznej inteligencji i prawa AI, pouczające i inspirujące mogą być moje bieżące i obszerne relacje na stronie link tutaj i link tutaj, żeby wymienić tylko kilka.

Najpierw omówię powyższy punkt dotyczący łączenia sprzętu i oprogramowania. Dyskusja i analiza tematu będą odbywać się ręka w rękę. Następnie poruszę kwestię kopiowania, jak twierdzą niektórzy destylacja kluczowe elementy systemu sztucznej inteligencji uczenia maszynowego od jednej sztucznej inteligencji do nowo opracowanej sztucznej inteligencji jako celu.

Zacznijmy.

Łączenie sprzętu i oprogramowania dla sztucznej inteligencji

Prawdopodobnie wiesz, że ogólnie projekt komputerów jest taki, że istnieje strona sprzętowa, a osobno strona programowa. Kiedy kupujesz laptopa lub komputer stacjonarny do codziennego użytku, jest on rozumiany jako urządzenie komputerowe ogólnego przeznaczenia. Wewnątrz komputera znajdują się mikroprocesory, które są używane do uruchamiania i uruchamiania oprogramowania, które możesz kupić lub napisać samodzielnie.

Bez żadnego oprogramowania dla twojego komputera jest to kawał metalu i plastiku, który w zasadzie nie przyniesie ci wiele dobrego, poza działaniem jako przycisk do papieru. Niektórzy powiedzieliby, że oprogramowanie jest królem i rządzi światem. Oczywiście, jeśli nie masz sprzętu, na którym można uruchomić oprogramowanie, oprogramowanie nie przyniesie wiele dobrego. Możesz napisać tyle linijek kodu, ile dusza zapragnie, jednak dopóki oprogramowanie nie jest używane za pośrednictwem komputera, sformułowany kod źródłowy jest tak kruchy i nielotny jak piękny utwór poetycki lub powieść detektywistyczna, która zajmuje chwilę.

Pozwól mi na chwilę przejść do innej alei, która może wydawać się odległa (nie będzie).

Często próbujemy rysować analogie między tym, jak działają komputery, a tym, jak działa ludzki mózg. Ta próba stworzenia konceptualnych paraleli jest przydatna. Biorąc to pod uwagę, musisz być ostrożny w przesadzaniu z tymi analogiami, ponieważ porównania mają tendencję do załamywania się, gdy zbliżasz się do mięsistych szczegółów.

W każdym razie, ze względu na dyskusję, oto często używana analogia.

Sam mózg jest czasami nieformalnie określany jako naczynia mokre. To chwytliwy sposób wyrażania rzeczy. Wiemy, że komputery składają się ze sprzętu i oprogramowania, więc mądrze jest użyć części „ware” monety, aby opisać, czym jest mózg. Zagnieżdżony w naszych głowach potężny i tajemniczy mózg unosi się w powietrzu, mentalnie obliczając wszystkie nasze czyny (niektóre dobre, podczas gdy niektóre nasze myśli zdecydowanie nie są wypełnione dobrocią).

Mózg, ważący średnio około trzech funtów, jest niezwykłym narządem. W jakiś sposób, a my jeszcze nie wiemy jak, mózg jest w stanie wykorzystać około 100 miliardów neuronów i być może od 100 do 1,000 bilionów połączeń lub synaps, aby myśleć za nas. W jaki sposób biologiczne i chemiczne właściwości mózgu wpływają na inteligencję? Nikt nie może powiedzieć na pewno. To jest poszukiwanie wieków.

Pytam cię, czy mózg pozornie składa się tylko ze sprzętu, czy też jest to połączenie sprzętu i oprogramowania?

Makaron na tej łamigłówce.

Możesz pokusić się o stwierdzenie, że mózg to po prostu sprzęt (w ogólnym sensie). Jest narządem ciała. Podobnie można powiedzieć, że serce to sprzęt, pęcherz to sprzęt i tak dalej. Wszystkie są mechanizacjami pokrewnymi, gdy mówimy o artefaktach, które mają fizyczną formę i wykonują fizycznie powiązane działania.

Gdzie zatem jest oprogramowanie, które kieruje ludźmi?

Ośmielę się zasugerować, że wszyscy prawie zgadzamy się, że „oprogramowanie” ludzkości w jakiś sposób rezyduje w mózgu. Czynności wymagane do ugotowania jajka lub naprawy przebitej opony to instrukcje zawarte w naszych mózgach. Korzystając z tej wcześniej zauważonej komputerowej analogii sprzętu i oprogramowania, nasz mózg jest jak gdyby kawałkiem sprzętu, dzięki któremu uczymy się o świecie, a instrukcje, co robić, są „uruchamiane” i „przechowywane” w naszych mózgach.

Na komputerze możemy łatwo wskazać sprzęt i powiedzieć, że to jest sprzęt. Możemy mieć listę kodu źródłowego i wskazać listę jako oprogramowanie. W dzisiejszych czasach pobieramy oprogramowanie elektronicznie online i instalujemy je na naszych laptopach i smartfonach. W dawnych czasach używaliśmy dyskietek i kart perforowanych do przechowywania naszego oprogramowania w celu załadowania go na sprzęt komputerowy.

Wciągam cię w ważną zagadkę.

Kiedy już się czegoś nauczyłeś, a wiedza jest obecna w twoim mózgu, czy nadal potrafisz odróżnić „sprzęt” twojego mózgu od rzekomego „oprogramowania” twojego mózgu?

Jednym z argumentowanych stanowisk jest to, że wiedza w twoim mózgu nie jest szczególnie oddzielona od koncepcji sprzętu i oprogramowania. W ten sposób analogia do natury komputerów załamuje się, twierdzą niektórzy żarliwie. Wiedza w mózgu jest spleciona i nierozerwalnie związana ze sprzętem twojego mózgu. Właściwości biologiczne i chemiczne przeplatają się z wiedzą, którą posiadasz mentalnie.

Dusić na tym dla odrobiny psychicznej refleksji.

Jeśli mamy nadzieję, że pewnego dnia wymyślimy komputery dorównujące ludzkiej inteligencji, a nawet ją przewyższające, być może będziemy mogli wykorzystać struktury mózgu i jego wewnętrzne działanie jako przewodnik po tym, co musimy zrobić, aby osiągnąć tak wzniosły cel. Niektórzy w dziedzinie sztucznej inteligencji wierzą, że im więcej wiemy o tym, jak działa mózg, tym większe mamy szanse na opracowanie prawdziwej sztucznej inteligencji, czasami określanej jako sztuczna inteligencja ogólna (AGI).

Inni w AI są mniej zachwyceni koniecznością poznania, jak działa mózg. Podkreślają, że możemy szybko przystąpić do tworzenia sztucznej inteligencji, niezależnie od tego, czy jesteśmy w stanie odblokować tajne wewnętrzne działanie mózgu. Nie pozwól, aby tajemnice mózgu utrudniały nasze wysiłki w zakresie sztucznej inteligencji. Jasne, próbuj rozszyfrować i rozszyfrować ludzki mózg, ale nie możemy siedzieć i czekać, aż mózg zostanie poddany inżynierii wstecznej. Jeśli to kiedyś będzie wykonalne, to wspaniała wiadomość, choć być może jest to niemożliwe lub nastąpi za eony.

Jestem gotów podzielić się z wami śmiertelną i nieśmiertelną rywalizacją o komputery. Upewnij się, że siedzisz i jesteś gotowy na wielkie ujawnienie.

Komputer, który ma wyraźne oddzielenie sprzętu i oprogramowania, można uznać za „nieśmiertelny”, ponieważ sprzęt może istnieć wiecznie (oczywiście w pewnych granicach), podczas gdy oprogramowanie może być pisane i przepisywane raz za razem. Możesz utrzymywać konwencjonalny komputer tak długo, jak długo możesz naprawiać sprzęt i utrzymywać urządzenie w stanie zasilania. Do dziś można korzystać z prymitywnych komputerów domowych z lat 1970., które przychodziły w zestawach do montażu, mimo że mają już prawie pięćdziesiąt lat (długi czas w lata komputerowe).

Załóżmy jednak, że zdecydowaliśmy się na komputery, w których sprzęt i oprogramowanie działały nierozłącznie (więcej o tym wkrótce). Rozważ to na tej samej podstawie, o której wspomniałem wcześniej, że mózg może mieć integralną kompozycję sprzętu i oprogramowania. Gdyby tak było, można by zasugerować, że komputer tego typu nie byłby już nieśmiertelny. Zamiast tego byłoby to interpretowane jako „śmiertelne”.

Zgodnie z uwagami wygłoszonymi na konferencji NeurIPS przez zaproszonego głównego mówcę i godnego uwagi guru AI Geoffreya Hintona oraz jak stwierdzono w towarzyszącym mu artykule badawczym:

• „Komputery cyfrowe ogólnego przeznaczenia zostały zaprojektowane tak, aby wiernie wykonywały instrukcje, ponieważ założono, że jedynym sposobem, aby komputer ogólnego przeznaczenia wykonał określone zadanie, było napisanie programu, który dokładnie określał, co należy zrobić, w najdrobniejszych szczegółach. To już nie jest prawdą, ale społeczność naukowa powoli pojmowała długoterminowe implikacje głębokiego uczenia się dla sposobu, w jaki budowane są komputery. Mówiąc dokładniej, społeczność trzymała się idei, że oprogramowanie powinno być oddzielone od sprzętu, tak aby ten sam program lub ten sam zestaw wag można było uruchomić na innej fizycznej kopii sprzętu. To sprawia, że ​​wiedza zawarta w programie umiera lub wagi są nieśmiertelne: Wiedza nie umiera, gdy umiera sprzęt” (zawarte i cytowane w jego artykule badawczym „The Forward-Forward Algorithm: Some Preliminary Investigations”, przedruk dostępny online) .

Należy zauważyć, że szczególny rodzaj przetwarzania omawiany w tego rodzaju sztucznej inteligencji wykorzystuje sztuczne sieci neuronowe (ANN).

Wyprostujmy sytuację w tej sprawie.

W naszych mózgach znajdują się rzeczywiste biologiczne neurony. Używasz ich cały czas. Są biologicznie i chemicznie połączone w sieć w twojej głowie. Tak więc możemy to nazwać a sieci neuronowe.

Gdzie indziej istnieją, powiedzmy, sfałszowane „neurony”, które komputerowo reprezentujemy w komputerach do celów opracowywania sztucznej inteligencji. Wiele osób zajmujących się sztuczną inteligencją nazywa je również sieciami neuronowymi. Uważam, że jest to nieco mylące. Widzisz, wolę odnosić się do nich jako sztuczny sieci neuronowe. Pomaga to od razu odróżnić odniesienie do w głowie sieci neuronowe (prawdziwe, jak gdyby) i komputerowe (sztuczny sieci neuronowe).

Nie każdy zajmuje takie stanowisko. Wiele osób zajmujących się sztuczną inteligencją po prostu zakłada, że ​​wszyscy inni w AI „wiedzą”, że odnosząc się do sieci neuronowych, prawie zawsze mają na myśli SSN — chyba że pojawi się sytuacja, w której z jakiegoś powodu chcą omówić prawdziwe neurony i prawdziwe sieci neuronowe w mózg.

Ufam, że rozumiesz mój dryf. Przez większość czasu ludzie AI mówią „sieci neuronowe”, co jest potencjalnie dwuznaczne, ponieważ nie wiadomo, czy odnoszą się one do prawdziwych sieci w naszych głowach, czy do tych, które programujemy w komputerach. Ale ponieważ ludzie zajmujący się sztuczną inteligencją mają w zasadzie do czynienia z instancjami komputerowymi, domyślnie zakładają, że odnosisz się do sztucznych sieci neuronowych. Lubię dodawać słowo „sztuczny” na początku sformułowania, aby lepiej zrozumieć intencje.

Idąc dalej, możesz w pewnym sensie uznać te obliczeniowe sztuczne neurony za matematyczną lub obliczeniową symulację tego, co naszym zdaniem robią rzeczywiste biochemiczne neurony fizyczne, takie jak używanie wartości liczbowych jako czynników ważących, które w przeciwnym razie zachodzą biochemicznie w mózgu. Obecnie te symulacje nie są nawet w przybliżeniu tak złożone, jak prawdziwe neurony. Obecne SSN są niezwykle prymitywną reprezentacją matematyczną i obliczeniową.

Ogólnie rzecz biorąc, SSN są często podstawowym elementem uczenia maszynowego (ML) i uczenia głębokiego (DL) — należy pamiętać, że jest w tym dużo więcej szczegółów i zachęcam do zapoznania się z moim obszernym omówieniem ML/DL w link tutaj i link tutaj, na przykład.

Wracając do nieśmiertelnych i śmiertelnych typów komputerów, tutaj badacz ma więcej do przemyślenia:

• „Oddzielenie oprogramowania od sprzętu jest jednym z fundamentów informatyki i ma wiele zalet. Umożliwia badanie właściwości programów bez martwienia się o elektrotechnikę. Umożliwia jednorazowe napisanie programu i skopiowanie go na miliony komputerów. Jeśli jednak chcemy zrezygnować z nieśmiertelności, powinno być możliwe osiągnięcie ogromnych oszczędności w energii potrzebnej do wykonania obliczeń oraz kosztach wytworzenia sprzętu wykonującego obliczenia. Możemy pozwolić na duże i nieznane różnice w łączności i nieliniowości różnych instancji sprzętu, które są przeznaczone do wykonywania tego samego zadania i polegać na procedurze uczenia się, aby odkryć wartości parametrów, które skutecznie wykorzystują nieznane właściwości każdej konkretnej instancji sprzęt. Te wartości parametrów są przydatne tylko dla tej konkretnej instancji sprzętowej, więc obliczenia, które wykonują, są śmiertelne: umierają wraz ze sprzętem” (tamże).

Zostałeś już wprowadzony w to, jak nieśmiertelny i śmiertelnik są używane w tym kontekście.

Pozwól mi rozwinąć.

Propozycja polega na tym, że komputer zbudowany specjalnie w oparciu o SSN można zaprojektować w taki sposób, aby sprzęt i oprogramowanie były uważane za nierozłączne. Kiedy pewnego dnia sprzęt przestanie działać (co, jak mówimy, integralnie zazębia się z oprogramowaniem), ten typ komputera pozornie nie jest już użyteczny i nie będzie już funkcjonował. Mówi się, że jest śmiertelna. Równie dobrze możesz zakopać komputer oparty na ANN, ponieważ odtąd nie przyniesie ci to zbyt wiele pożytku, gdy nierozłączny sprzęt i oprogramowanie nie będą już działać jako zespół.

Gdybyś chciał spróbować odnieść to do analogii ludzkiego mózgu, mógłbyś sobie wyobrazić ponurą sytuację ludzkiego mózgu, który całkowicie się pogarsza lub który jest w jakiś sposób nieodwracalnie uszkodzony. Akceptujemy pogląd, że człowiek jest śmiertelny, a jego mózg ostatecznie i nieuchronnie przestanie działać. Wiedza zawarta w ich mózgach nie jest już dostępna. O ile nie zdarzyło im się spróbować powiedzieć innym lub zapisać tego, co wiedzieli, ich wiedza poszła w świat.

Bez wątpienia słyszałeś lub widziałeś doniesienia o próbach zachowania mózgów, takich jak zamrożenie ich, zgodnie z teorią, że być może ludzie pewnego dnia staną się nieśmiertelni lub przynajmniej wydłużą swój zwykły czas życia. Twój mózg może żyć dalej, nawet jeśli nie w twoim ciele. Wiele filmów i opowiadań science-fiction spekulowało na temat takich pomysłów.

Jesteśmy teraz gotowi do szczegółowego przyjrzenia się – zobaczcie komputer śmiertelny i komputer nieśmiertelny jako koncepcję i jej przepowiednie.

Uważna dyskusja i przemyślana analiza

Zanim przejdziemy do sedna tej analizy postulowanego podejścia, warto wspomnieć o kilku ważnych zastrzeżeniach i dodatkowych kwestiach.

Badacz podkreślił, że ukuty śmiertelne komputery nie zastąpiłby ani nie wyparłby z istnienia nieśmiertelne komputery które dziś nazywamy konwencjonalnymi komputerami cyfrowymi. Nastąpiłoby współistnienie obu typów komputerów. Mówię to, ponieważ niektórzy zareagowali, że wezwanie do porządku było powszechnym twierdzeniem cała kolekcja komputery z konieczności zmierzają lub będą zmierzać w stronę typu śmiertelnika.

To nie było żadne roszczenie.

W swoim wystąpieniu wspomniał, że są one wyspecjalizowane zorientowany neuromorficznie komputery wykonywałyby pracę obliczeniową zwaną śmiertelne obliczenia: „Zamierzamy zrobić to, co nazywam śmiertelnymi obliczeniami, gdzie wiedza, której nauczył się system, i sprzęt są nierozłączne” (cyt. w artykule ZDNET autorstwa Tiernana Raya z 1 grudnia 2022 r.).

I przede wszystkim: „Nie zastąpi komputerów cyfrowych” (tamże).

Ponadto zdecydowanie nieprędko te nowe typy komputerów będą dostępne w lokalnych sklepach komputerowych lub od razu dostępne w sprzedaży online, jak stwierdził podczas swojej prezentacji: „Myślę, że zobaczymy zupełnie inny rodzaj komputera, nie przez kilka lat, ale istnieją wszelkie powody, aby zbadać ten zupełnie inny typ komputera”. Zastosowania również byłyby różne: „To nie komputer będzie zarządzał twoim kontem bankowym i dokładnie wiedział, ile masz pieniędzy”.

Dodatkowym zwrotem akcji jest to, że śmiertelne komputery pozornie byłyby hodowane, a nie wytwarzane, jak to robimy dzisiaj w przypadku produkcji procesorów komputerowych i układów scalonych.

Podczas procesu wzrostu śmiertelny komputer zwiększałby swoje możliwości w stylu dojrzewania obliczeniowego. W ten sposób dany śmiertelny komputer może zaczynać od prawie żadnych możliwości i dojrzewać do tego, czym miał się stać. Załóżmy na przykład, że chcemy stworzyć telefony komórkowe za pomocą śmiertelnych komputerów. Zacząłbyś od prostego wariantu śmiertelnego komputera, który został wstępnie ukształtowany lub zaszczepiony do tego celu. Następnie dojrzeje do bardziej zaawansowanej wersji, której szukałeś. W skrócie: „Zastępując to, każdy z tych telefonów komórkowych musiałby zacząć jako telefon komórkowy dla dziecka i musiałby nauczyć się, jak być telefonem komórkowym”.

Na jednym z jego fundamentalnych slajdów na temat obliczeń śmiertelnych korzyści zostały opisane w następujący sposób: „Jeśli porzucimy nieśmiertelność i zaakceptujemy, że wiedza jest nierozerwalnie związana z dokładnymi fizycznymi szczegółami konkretnego elementu sprzętu, uzyskamy dwie duże korzyści: (1) Możemy używać obliczeń analogowych o bardzo małej mocy, (2) Możemy rozwijać sprzęt, którego dokładna łączność i zachowanie analogowe są nieznane”.

Częścią tej samej przemowy, a także zawartą w jego artykule badawczym przed drukiem, jest proponowana technika lepszego opracowywania SSN, którą określa jako użycie do przodu do przodu podejście sieciowe. Niektórzy z was, którzy są zaznajomieni z sieciami SSN, z pewnością są już całkiem świadomi korzystania z propagacji wstecznej lub back-prop. Możesz rzucić okiem na proponowaną przez niego technikę forward-forward. Omówię to fascynujące podejście w przyszłej kolumnie, więc wypatruj moich nadchodzących relacji na ten temat.

Zmieniając biegi, zastanówmy się, co mówi się na korytarzach i poboczach społeczności AI o tym zuchwalstwie śmiertelny komputer machinacja.

Zaczniemy od tego, co niektórzy powiedzieliby, że nie jest starterem w temacie, o którym wszyscy powiedzieli.

Czy jesteś gotowy?

Przestań nazywać to czymś a śmiertelny Komputer.

Podobnie, przestańcie głosić, że dzisiejsze konwencjonalne komputery są nieśmiertelny.

Oba zastosowania są po prostu błędne i wprowadzają w błąd, napominają sceptycy.

Codzienna słownikowa definicja tego, co nieśmiertelne, składa się z czegoś, co nie może umrzeć. Żyje wiecznie. Aby nie umrzeć, prawdopodobnie musisz powiedzieć, że rzecz sama w sobie żyje. Kroczycie po złym torze twierdząc, że dzisiejsze komputery żyją. Żadna rozsądna osoba nie przypisałaby nowoczesnym komputerom prawdziwych „żywych” właściwości. To są maszyny. Są rzeczami. Nie są osobami ani zwierzętami ani nie mają warunków do życia.

Jeśli chcesz rozciągnąć definicję nieśmiertelności, aby pozwolić, że odnosimy się również do istot nieożywionych, w takim przypadku istota nieożywiona najwyraźniej nigdy nie będzie musiała się rozpaść i nie może nieuchronnie rozpaść się w pył. Czy możesz wysunąć takie twierdzenie o dzisiejszych komputerach? Wydaje się to naciągane (na marginesie: moglibyśmy oczywiście wdać się w wielką filozoficzną dyskusję o naturze materii i istnienia, ale nie idźmy tam w tym przypadku).

Istota polega na tym, że użycie lub niektórzy powiedzieliby niewłaściwe użycie słów „śmiertelny” i „nieśmiertelny” jest dziwaczne i nieuzasadnione. Używanie powszechnie używanego języka ojczystego i ponowne wykorzystywanie go do innych celów jest mylące i powoduje mętne wody. Musisz być chętny do pozornie rekonceptualizacji tego, co śmiertelność i nieśmiertelność oznaczają w tym konkretnym kontekście. Staje się to problematyczne.

Jeszcze bardziej niepokojące jest to, że te wybory słów mają tendencję do antropomorfizacji aspektów komputerowych.

Problemów związanych z antropomorfizacją AI jest już wystarczająco dużo, z pewnością nie musimy wymyślać więcej takich możliwości. Jak obszernie omówiłem w moich relacjach z etyki AI i etycznej sztucznej inteligencji, istnieje wiele dzikich sposobów, w jakie ludzie przypisują komputerom zdolności czujące. To z kolei prowadzi ludzi do błędnego przekonania, że ​​komputery oparte na sztucznej inteligencji mogą myśleć i działać tak, jak ludzie. Jest to śliskie zbocze zagrożenia, gdy społeczeństwo zaczyna wierzyć, że dzisiejsza sztuczna inteligencja i komputery są na równi z intelektem i zdrowym rozsądkiem ludzkości, patrz na przykład moja analiza na link tutaj i link tutaj.

Okej, możemy odrzucić lub pogardzać niezręcznymi sformułowaniami, ale czy to sugeruje, że powinniśmy wylać dziecko z kąpielą (stare wyrażenie, prawdopodobnie zbliżające się do emerytury)?

Niektórzy twierdzą, że być może możemy znaleźć lepsze sformułowanie dla tego ogólnego podejścia lub koncepcji. Odrzuć użycie słów „śmiertelny” i „nieśmiertelny”, aby reszta pomysłów nie została skażona niewłaściwym lub niewłaściwym użyciem. Tymczasem istnieją kontrargumenty, że używanie tych słów jest całkowicie dopuszczalne, albo dlatego, że są odpowiednie, albo dlatego, że nie powinniśmy być nieelastyczni w kwestii ponownego użycia słów. Mówią, że róża to róża pod inną nazwą.

Aby uniknąć dalszej zjadliwej debaty w tym miejscu, zamierzam odtąd unikać używania słów „śmiertelny” i „nieśmiertelny” i jedynie stwierdzę, że mamy do czynienia z dwoma głównymi typami komputerów, z których jeden jest konwencjonalnym komputerem cyfrowym dzisiaj, a drugim inny jest proponowany neuromorficzny Komputer.

Wydaje się, że nie ma potrzeby wciągania w to zagadki śmiertelności. Zachowaj czyste niebo, aby zobaczyć, co jeszcze możemy zrobić w tej sprawie.

W takim przypadku niektórzy twierdzą, że proponowany pomysł komputera neuromorficznego nie jest niczym nowym.

Możesz prześledzić wcześniejsze dni sztucznej inteligencji, zwłaszcza gdy początkowo badano SSN, i zobaczyć, że mówiono o opracowaniu wyspecjalizowanych komputerów do wykonywania pracy w sztucznych sieciach neuronowych. Zaproponowano wszelkiego rodzaju nowy sprzęt. Dzieje się tak do dziś. Oczywiście można przeciwstawić argument, że większość dzisiejszych poszukiwań specjalistycznego sprzętu dla SSN i ​​uczenia maszynowego nadal opiera się na konwencjonalnym podejściu do komputerów. W tym sensie ta analogowa nierozłączność sprzętu i oprogramowania nieco przesuwa granicę, podobnie jak propozycja „powiększenia” komputera, przynajmniej w odniesieniu do wyjścia poza rozważany główny nurt.

Krótko mówiąc, są tacy, którzy są w pełni przesiąknięci tymi sprawami i są zaskoczeni, że ktoś inny może być zaskoczony prezentowanymi propozycjami. Pojęcia te są albo takie same jak poprzednio, albo odzwierciedlają to, co jest już badane w różnych laboratoriach badawczych.

Mówią, żeby nie robić sobie bałaganu z włosami.

To prowadzi nas do innego aspektu, który jest uciążliwy dla wielu.

Jednym słowem: Przewidywalność.

Dzisiejsze komputery są ogólnie uważane za przewidywalne. Możesz przyjrzeć się sprzętowi i oprogramowaniu, aby dowiedzieć się, co komputer zamierza zrobić. Podobnie możesz prześledzić, co komputer już zrobił, aby wykryć, dlaczego zrobił to, co zrobił. Oczywiście istnieją ograniczenia w robieniu tego, dlatego nie chcę przeceniać przewidywalności, ale myślę, że ogólnie rozumiesz ten pomysł.

Być może wiesz, że jednym z drażliwych problemów, przed którymi stoi dziś sztuczna inteligencja, jest to, że niektóre sztuczna inteligencja ma się samodopasowywać. Sztuczna inteligencja, którą wprowadzili programiści, może zmieniać się sama w trakcie jej używania. W dziedzinie etyki sztucznej inteligencji istnieje wiele przykładów sztucznej inteligencji, które zostały wprowadzone do użytku, które początkowo nie miały nadmiernych uprzedzeń ani tendencji dyskryminacyjnych, które następnie stopniowo ulegały automutacji obliczeniowej w czasie, gdy sztuczna inteligencja była w fazie produkcji. szczegółowe wyceny godz link tutaj.

Martwienie się polega na tym, że już wkraczamy w otoczenie związane ze sztuczną inteligencją, które niekoniecznie jest przewidywalne.

Załóżmy, że sztuczna inteligencja systemów uzbrojenia podlega samoregulacji, w wyniku czego sztuczna inteligencja uzbraja się i odpala śmiercionośną broń w nieoczekiwanych celach iw nieoczekiwanym czasie. Ludzie mogą nie być w pętli, aby powstrzymać sztuczną inteligencję. Ludzie, którzy są w pętli, mogą nie być w stanie zareagować wystarczająco szybko, aby wyprzedzić działania AI. Aby uzyskać dodatkowe mrożące krew w żyłach przykłady, zobacz moją analizę pod adresem link tutaj.

W przypadku komputerów neuromorficznych problemem jest to, że nadajemy sterydom nieprzewidywalność. Od samego początku istotą neuromorficznego komputera może być to, że działa on w sposób, który wymyka się przewidywaniom. Afiszujemy się nieprzewidywalnością. Staje się odznaką honoru.

Istnieją dwa obozy.

Jeden z obozów mówi, że możemy żyć z niesmacznymi obawami o nieprzewidywalność, robiąc to, stawiając poręcze, aby sztuczna inteligencja nie poszła za daleko. Drugi obóz twierdzi, że sprowadzasz świat na niebezpieczną ścieżkę. Nadejdzie dzień, w którym żądane poręcze albo zawiodą, albo nie będą wystarczająco rygorystyczne, albo przez przypadek lub w złych zamiarach poręcze zostaną usunięte lub przy nich majstrowane.

Czy powinniśmy odrzucić wątpliwości dotyczące komputerów neuromorficznych i przewidywalności?

Jak zauważa naukowiec: „Wśród ludzi, którzy interesują się obliczeniami analogowymi, nadal bardzo niewielu jest gotowych zrezygnować z nieśmiertelności”. Ponadto: „Jeśli chcesz, aby twój sprzęt analogowy robił to samo za każdym razem… Masz prawdziwy problem z tymi wszystkimi bezpańskimi elektrycznymi rzeczami i rzeczami”.

Podkręcam to.

Wyłaniająca się i nieco ponura perspektywa jest taka, że ​​tak zwana przewidywalność związana z dzisiejszymi komputerami cyfrowymi zmierza w kierunku nieprzewidywalności. Jak wspomniano, może się to zdarzyć w szczególności w przypadku sztucznej inteligencji, która samoczynnie dostosowuje się na konwencjonalnych platformach komputerowych. Tylko dlatego, że neuromorficzne komputery mogą być pozornie nieprzewidywalne, nie jest ergo znakiem, że konwencjonalne komputery cyfrowe są w rzeczywistości przewidywalne.

Nieprzewidywalność zbliża się do nas pełną parą, bez względu na to, którą platformę obliczeniową wybierzesz. Aby zapoznać się z moją oceną ostatnich wysiłków zmierzających do osiągnięcia bezpieczeństwa AI w tym świetle, zob link tutaj.

Ten zwrot dotyczący przewidywalności powinien skłonić twój umysł do zajęcia się czymś w rodzaju odkrytej natury. Ci z was, którzy są zaangażowani w etykę sztucznej inteligencji i prawo sztucznej inteligencji, mogą nie zastanawiali się nad konsekwencjami komputery neuromorficzne.

Prawdopodobnie celowałeś w konwencjonalne komputery cyfrowe obsługujące sztuczną inteligencję. Cóż, zgadnij co, masz całkowicie dodatkowy i wschodzący segment obliczeń AI, o który możesz teraz martwić się w nocy. Tak, neuromorficzne komputery. Umieść to na swojej liście rzeczy do zrobienia.

Przepraszam, kolejne nieprzespane noce za Tobą.

Przyjrzyjmy się pokrótce, co AI Ethics i AI Law robią w odniesieniu do konwencjonalnych obliczeń cyfrowych i sztucznej inteligencji.

W poprzednich kolumnach omówiłem różne krajowe i międzynarodowe wysiłki mające na celu stworzenie i uchwalenie przepisów regulujących sztuczną inteligencję, patrz link tutaj, na przykład. Omówiłem również różne zasady i wytyczne dotyczące etyki sztucznej inteligencji, które różne narody zidentyfikowały i przyjęły, w tym na przykład działania ONZ, takie jak zbiór etyki sztucznej inteligencji UNESCO, który przyjęło prawie 200 krajów, zob. link tutaj.

Oto pomocna lista kluczowych kryteriów lub cech etycznej sztucznej inteligencji dotyczących systemów sztucznej inteligencji, które wcześniej dokładnie zbadałem:

• Przezroczystość
• Sprawiedliwość i uczciwość
• Nieszkodzenie
• Odpowiedzialność
• Prywatności
• Dobroczynność
• Wolność i autonomia
• Zaufaj
• Zrównoważony rozwój
• Godność
• Solidarność

Te zasady etyki AI mają być poważnie wykorzystywane przez programistów AI, wraz z tymi, którzy zarządzają wysiłkami na rzecz rozwoju sztucznej inteligencji, a nawet tymi, którzy ostatecznie realizują i wykonują konserwację systemów AI.

Wszyscy interesariusze w całym cyklu rozwoju i użytkowania AI są uważani za spełniających obowiązujące normy etycznej sztucznej inteligencji. Jest to ważna informacja, ponieważ zwykle przyjmuje się, że „tylko koderzy” lub ci, którzy programują sztuczną inteligencję, podlegają pojęciom AI Ethics. Jak podkreślono wcześniej, potrzeba wioski, aby opracować i wykorzystać sztuczną inteligencję, a cała wioska musi być zaznajomiona i przestrzegać zasad etyki AI.

Częścią tego, nad czym wcześniej mogłeś nie myśleć, jest to, w jaki sposób te same zasady etyki AI i rosnąca lista nowych praw AI będą miały zastosowanie do komputerów neuromorficznych. Aby to wyjaśnić, etyka sztucznej inteligencji i prawo sztucznej inteligencji muszą to wyraźnie wziąć pod uwagę. Zwracam uwagę, że niewielu to robi i należy pamiętać, że istnieje duża szansa, że ​​​​nadejście komputerów neuromorficznych rzuci wielu na pętlę pod względem nowego wymiaru prób panowania nad sztuczną inteligencją.

Musimy rozważyć etyczną sztuczną inteligencję i prawa dotyczące sztucznej inteligencji w wystarczająco szeroki sposób, aby objąć każdą nowo opracowaną sztuczną inteligencję, w tym komputery neuromorficzne.

Alternatywą dla huśtawki jest klasyczny gambit w kotka i myszkę. Oto jak to się dzieje. Nowe sposoby tworzenia sztucznej inteligencji są opracowywane i budowane. Istniejąca etyka i przepisy dotyczące sztucznej inteligencji są zaskoczone i nie obejmują w pełni najnowszych oszustw związanych z SI. Podejmowane są pospieszne wysiłki, aby zaktualizować zasady etycznej sztucznej inteligencji i zmodyfikować te nowo ustanowione przepisy dotyczące sztucznej inteligencji.

Pianka, spłucz, powtórz.

Byłoby lepiej dla nas wszystkich, gdybyśmy wyprzedzili grę, zamiast zostać złapanym za ósemkę.

Wnioski

Zabrałem cię w małą podróż.

Na początku stwierdziłem, że będą dwa główne tematy do zbadania:

1) Integralne łączenie zarówno sprzętu, jak i oprogramowania dla mechanizacji sztucznej inteligencji, zamiast mieć je jako odrębnych i oddzielnych sojuszników

2) Przenoszenie lub destylacja formuł uczenia maszynowego z jednego modelu AI do drugiego, który robi to bez konieczności ani konieczności pragnienia (lub nawet wykonalnego w inny sposób możliwego) bezpośredniego kopiowania czystej krwi

Pierwszy temat dotyczący łączenia sprzętu i oprogramowania stanowił większość tej podróży. To doprowadziło nas do komputerowego bagna śmiertelny kontra nieśmiertelny. Wśród nich było kilka kluczowych kwestii związanych z etyką sztucznej inteligencji i prawem sztucznej inteligencji, które w innym przypadku zwykle nie byłyby poruszane, ponieważ tego typu tematy związane z komputerami są zwykle postrzegane przez niektórych jako czysto technologiczne, a nie pociągające za sobą jakichkolwiek obaw dotyczących wpływu społecznego.

Mówię, że rozsądniej jest być wcześniej i bezpieczniej niż później i gorzej, jeśli chodzi o poruszanie kwestii etycznej sztucznej inteligencji i prawa AI.

Drugi temat, którego jeszcze tu nie przedstawiłem, odnosi się zasadniczo do pierwszego tematu.

Oto oferta.

Załóżmy, że mamy „śmiertelny komputer” i chcemy zachować jego możliwości, abyśmy mogli mieć kopię zapasową lub rzekomo kopie tego, co zawiera sztuczna inteligencja. Możemy się martwić, że konkretny śmiertelny komputer zbliża się do końca. Tak, jesteśmy od tego zależni. Co mamy robić? Jedną z odpowiedzi jest to, że powinniśmy skopiować tę cholerną rzecz.

Ale skopiowanie neuromorficznego komputera takiego, jak szkicowano, będzie trudniejsze, niż mogłoby się wydawać na pierwszy rzut oka. Sprawy mogą się skomplikować.

Być może powinniśmy wymyślić sztuczkę kopiowania, która będzie możliwa do uogólnienia i zastosowania w okolicznościach związanych z uczeniem maszynowym i sztucznymi sieciami neuronowymi. Chcemy, aby działało to na instancjach na dużą i bardzo dużą skalę. Chcielibyśmy również, aby kopia nie była dokładnym duplikatem, ale zamiast tego mogłaby być zasadniczo równoważna lub może nawet lepiej wymyślona w wyniku akcji kopiowania.

Technika znana jako destylacja został zaproponowany.

Skończyło mi się miejsce na dzisiejszą kolumnę, więc zajmę się tym drugim tematem w kolejnej kolumnie. Pomyślałem, że chciałbyś od razu wiedzieć o związku między tym drugim tematem a pierwszym tematem, który został tutaj obszernie omówiony. Pomyśl o tym jako o dodatkowej notatce służącej jako zwiastun lub zwiastun tego, co będzie dalej.

Pozostań na skraju swojego miejsca, ponieważ temat destylacji jest całkiem niezły.

Jak mawiał Batman, trzymaj skrzyżowane skrzydła nietoperza i bądź gotowy na ten sam czas nietoperza i kanał nietoperza, aby rozwikłać irytujące pytanie, jak skopiować ANN lub model uczenia maszynowego lub komputer neuromorficzny do innego.

Na razie uwaga końcowa. W filmie jest słynna kwestia Mroczny rycerz powraca w którym nasz krzyżowiec w pelerynie mówi: „Świat ma sens tylko wtedy, gdy go do tego zmusisz”. Postaram się trzymać tego ideału, kiedy omówię drugi temat dotyczący destylacji związanej z AI.

Bądź na bieżąco z częścią 2 tego ekscytującego i fascynującego podwójnego nagłówka.