Powody, dla których warto regulować algorytmy AI są prostsze niż myślisz

Martwisz się, że sztuczna inteligencja przejmie władzę nad światem? Wielu tak. Od martwienia się Elona Muska DeepMind pokonuje ludzi w zaawansowanej grze Go w 2017 r. członkom Kongresu, decydentom europejskim (zob Europejskie podejście do sztucznej inteligencji) i naukowców, istnieje poczucie, że nadeszła dekada, w której należy poważnie traktować sztuczną inteligencję, i to się utrzymuje. Chociaż nie z powodów, o których myślisz, ani z powodu obecnego zagrożenia.

Tutaj wkraczają algorytmy. Co to jest algorytm, możesz zapytać? Najprościej można o tym myśleć jako o zbiorze instrukcji, które maszyny mogą zrozumieć i z których mogą się uczyć. Możemy już poinstruować maszynę, aby obliczała, przetwarzała dane i rozumowała w ustrukturyzowany, zautomatyzowany sposób. Problem polega jednak na tym, że po wydaniu wspomnianych instrukcji maszyna będzie ich przestrzegać. Na razie o to chodzi. W przeciwieństwie do ludzi, maszyny wykonują instrukcje. Nie uczą się tak dobrze. Ale kiedy już to zrobią, mogą powodować problemy.

Nie chcę wytaczać sensacyjnego argumentu na temat idei komputerów, które pewnego dnia przewyższą ludzką inteligencję, lepiej znanej jako argument o osobliwości (zob. przemyslenia na ten temat.) Produkcja może być raczej najlepszym przykładem tego, dlaczego algorytmy sztucznej inteligencji zaczynają mieć większe znaczenie dla ogółu społeczeństwa. Można się obawiać, że maszyny znacznie przyspieszą swoją sprawność naszym kosztem. Niekoniecznie przez jakieś zaawansowane rozumowanie, ale z powodu optymalizacji w granicach tego, co mówi algorytm.

Produkcja polega na wytwarzaniu rzeczy. Ale kiedy maszyny coś wytwarzają, musimy uważać. Nawet jeśli to, co robią maszyny, jest proste. Wyjaśnię dlaczego.

Od kaloszy po telefony komórkowe iz powrotem

Powiedzmy, że fabryka produkuje kalosze. Uwielbiam kalosze, ponieważ dorastałem w Norwegii, gdzie często pada deszcz; Uwielbiam przebywać na zewnątrz, podlegając wielu elementom natury. Nokia stworzyła kalosze, w których dorastałem. Tak, Nokia, którą znamy dzisiaj jako firmę elektroniczną, która produkowała kalosze. Dlaczego ten klucz? Ponieważ kiedy już coś stworzysz, twoim przeznaczeniem jest wprowadzanie ulepszeń. To ma sens. Można powiedzieć, że taka jest ludzka natura.

To, co stało się z Nokią, jest dobrze znane i wygląda mniej więcej tak: początkowo papiernia, kiedy byłem dzieckiem, produkcja gumowych butów (i opon) była dla firmy szczególnie udana. Dostrzegli jednak dalsze możliwości. Dlatego w pewnym momencie w latach 1980. przestawili się na elektronikę i szybko zmienili fabryki wokół, budując dużą strukturę lokalnych dostawców, kiedy zaczęli produkować telefony komórkowe. To zapoczątkowało rewolucję w komunikacji mobilnej, która rozpoczęła się w Skandynawii i rozprzestrzeniła się na resztę świata. Zrozumiałe jest, że wielu napisało historię Nokii w latach 1990 Tajemnice fińskiego cudu: powstanie Nokii).

Mój przykład jest prosty. Być może zbyt proste. Ale pomyśl o tym w ten sposób. Jeśli duża firma może szybko przejść od produkcji papieru do pisania, do butów, które ułatwiają przebywanie na deszczu, a wreszcie do telefonów komórkowych, które zmieniają sposób komunikowania się ludzi: jak łatwy będzie następny krok? Załóżmy, że firma produkująca telefony komórkowe postanawia stworzyć nanoboty, które być może wystartują w ciągu dekady, zmieniając ludzkość za pomocą maleńkich maszyn autonomicznie biegających wszędzie, zdolnych do ponownego złożenia i zmiany ludzkiego doświadczenia. A co, jeśli tak się stanie bez zastanowienia się, jak chcemy, żeby to się stało, kto ma rządzić i jakie są ostateczne cele?

Sugerowanie, że roboty świadomie pomogły Nokii w podjęciu decyzji o produkcji telefonów komórkowych, byłoby naciągane. Ale uznanie, że technologia odegrała rolę w umożliwieniu fińskiemu obszarowi wiejskiemu na jego północnym wybrzeżu przekonania, że ​​może zdobyć światową dominację w nowym przemyśle, odgrywa znaczącą rolę.

Historia Nokii nie była tak różowa w ciągu ostatniej dekady, biorąc pod uwagę, że nie uwzględniono pojawienia się opartych na oprogramowaniu systemów operacyjnych iOS i Android. W rezultacie Nokia nie produkuje już telefonów. W ramach pewnego powrotu, teraz tworzą infrastrukturę sieciową i telekomunikacyjną, rozwiązania bezpieczeństwa sieci, routery Wi-Fi, inteligentne oświetlenie i inteligentne telewizory (zob. Historia powrotu Nokii). Nokia wciąż coś tworzy, to prawda. Jedyną obserwacją, jaką należy poczynić, jest to, że Nokia zawsze lubi mieszać rzeczy, które tworzy. Czasami nawet decyzje produkcyjne podejmowane przez ludzi są trudne do zrozumienia.

Produkcja oznacza sprawianie, że rzeczy i rzeczy ewoluują. Ogólnie rzecz biorąc, to, co robimy dzisiaj, zmieniło się od zaledwie dekady temu. Drukarki 3D zdecentralizowały produkcję wielu zaawansowanych produktów, zarówno w przemyśle, jak iw domu. Zmieniające życie konsekwencje drukowania 3D jeszcze nie wystąpiły. Nie wiemy, czy to potrwa, ale wiemy, że FDA koncentruje się na regulowaniu produkcji produktów (zob. tutaj), jak związane z tym drukowane pigułki lub urządzenia medyczne, oczywiste kwestie związane z własnością intelektualną i odpowiedzialnością lub kwestie związane z możliwością drukowania broni palnej. Ostatecznie dyskusja polityczna na temat tego, jakie negatywne konsekwencje może mieć druk 3D poza tym, nie istnieje i niewielu z nas zadało sobie trud, aby o tym pomyśleć.

Nie sugeruję, że druk 3D jest niebezpieczny sam w sobie. Być może jest to zły przykład. Niemniej jednak rzeczy, które początkowo wyglądają na przyziemne, mogą zmienić świat. Przykładów jest mnóstwo: metalowy grot myśliwego/zbieracza, który rozpoczyna wojny, rytualne maski chroniące nas przed COVID-19, gwoździe budujące drapacze chmur, ruchome czcionki, które (nadal) zapełniają nasze fabryki zadrukowanym papierem i zasilają działalność wydawniczą, żarówki, które pozwalają widzieć i pracować w środku w nocy, mógłbym wymieniać dalej. Nikt, kogo znam, nie usiadł pod koniec XIX wieku i nie przewidział, że Nokia przeniesie swoją produkcję z papieru na gumę do elektroniki, a potem odejdzie od telefonów komórkowych. Być może powinni.

Ludzie są słabymi predyktorami skokowych zmian, procesu, w którym jedna zmiana prowadzi do kolejnych zmian i nagle sprawy przybierają radykalnie inny obrót. Nie rozumiemy jeszcze tego procesu, ponieważ mamy niewielką praktyczną wiedzę na temat zmian wykładniczych; nie możemy tego sobie wyobrazić, obliczyć ani pojąć. Jednak co jakiś czas uderza w nas. Pandemie, wzrost liczby ludności, innowacje technologiczne, od drukowania książek po robotykę, zwykle uderzają w nas bez ostrzeżenia.

Sztuczka z futuryzmem polega nie na tym, czy, ale kiedy. W rzeczywistości można by przewidzieć zmiany, wybierając nowe metody produkcji i stwierdzając, że w przyszłości staną się one bardziej powszechne. To dość proste. Trudną częścią jest ustalenie, kiedy dokładnie, a zwłaszcza jak.

Spinacze do papieru to nie problem

Rozważmy ponownie mój przykład z fabryki, ale tym razem wyobraźcie sobie, że maszyny odpowiadają za wiele decyzji, nie wszystkie decyzje, ale decyzje produkcyjne, takie jak optymalizacja. W jego książce Superinteligencja, dystopijny humanista z Uniwersytetu Oksfordzkiego, Nick Bostrom, wyobraził sobie algorytm optymalizacyjny AI zarządzający fabryką spinaczy do papieru. W pewnym momencie, mówi, wyobraź sobie, że maszyna rozumuje, że uczenie się przekierowania coraz większych zasobów na zadanie jest racjonalne, co kończy się stopniowym przekształcaniem naszego świata w spinacze do papieru i opieraniem się naszym próbom wyłączenia go.

Pomimo tego, że jest bystrym facetem, przykład Bostroma jest dość głupi i mylący (ale niezapomniany). Po pierwsze, nie bierze pod uwagę faktu, że ludzie i roboty nie są już odrębnymi bytami. Wchodzimy w interakcje. Większość inteligentnych robotów ewoluuje w coboty lub roboty współpracujące. Ludzie będą mieli wiele okazji do naprawienia maszyny. Mimo to jego podstawowa uwaga pozostaje. W pewnym momencie może nastąpić skokowa zmiana, a jeśli ta zmiana nastąpi wystarczająco szybko i bez wystarczającego nadzoru, kontrola może zostać utracona. Ale ten ekstremalny wynik wydaje się nieco naciągany. Tak czy inaczej, zgadzam się, że musimy uregulować ludzi obsługujących te maszyny i nakazać pracownikom, aby byli zawsze na bieżąco, odpowiednio ich szkoląc. Taki trening nie idzie dobrze. Obecnie trwa to zbyt długo i wymaga specjalistycznych umiejętności zarówno do szkolenia, jak i do bycia przeszkolonym. Wiem jedno. W przyszłości wszelkiego rodzaju ludzie będą obsługiwać roboty. Ci, którzy tego nie zrobią, będą bezsilni.

Ulepszanie ludzi jest lepsze niż bezmyślna automatyzacja, niezależnie od tego, czy nigdy nie połączymy się w pełni z maszynami. Te dwa pojęcia są logicznie różne. Możliwe jest, że zarówno ludzie, jak i roboty utkną w automatyzacji ze względu na automatyzację. To wyrządziłoby wielkie szkody przyszłej produkcji. Nawet jeśli nie produkuje zabójczych robotów. Wierzę, że fuzja jest odległa o setki lat, ale nie o to chodzi. Nawet jeśli dzieli nas tylko trzydzieści lat, samobieżne maszyny działające na podstawie uproszczonych algorytmów tracą kontrolę, taki scenariusz już się dzieje w hali produkcyjnej. Niektóre z tych maszyn mają trzydzieści lat i działają na starych, zastrzeżonych systemach sterowania. Ich głównym wyzwaniem nie jest to, że są zaawansowani, ale wręcz przeciwnie. Są zbyt proste, aby mogły się komunikować. To nie jest problem na jutro. Jest to istniejący wcześniej problem. Musimy otworzyć na to oczy. Pomyśl o tym następnym razem, gdy wejdziesz w swoje kalosze.

Nadal mam buty Nokii z lat 1980. Mają w sobie dziurę, ale trzymam je, żeby przypominały sobie, skąd jestem i jak daleko zaszedłem. Deszcz też pada, a dopóki jest wystarczająco czysto, nie chcę lepszego rozwiązania niż te buty. Z drugiej strony jestem człowiekiem. Robot zapewne już by się ruszył. Zastanawiam się, jaka jest wersja AI Rainboots. To nie jest telefon komórkowy. To nie jest czujnik deszczu. To kręci w głowie.

Dzisiejsze cyfrowe buty oznaczają, że możesz je spersonalizować, ponieważ mają na sobie projekty wydrukowane w 3D. Istnieją wirtualne buty, które istnieją tylko jako NFT (niezamienne tokeny), które można sprzedawać i wymieniać. Najlepsze wirtualne sneakersy są obecnie warte 10,000 XNUMX $ (patrz Co to jest tenisówka NFT i dlaczego jest warta 10,000 XNUMX $?). Nie boję się ich, ale czy powinienem? Jeśli świat wirtualny stanie się bardziej ceniony niż świat fizyczny, być może tak zrobię. A może powinienem się martwić, aż własny awatar AI kupi własny but NFT, aby stawić czoła „deszczowi”? Jeśli zbudujemy algorytmy na swój własny obraz, bardziej prawdopodobne jest, że sztuczna inteligencja byłaby dobra w rzeczach, w których chcielibyśmy być dobrzy, ale zazwyczaj nie jesteśmy, takich jak kupowanie akcji, budowanie lojalnych przyjaźni (być może zarówno z maszynami, jak i ludźmi) oraz zapamiętywanie rzeczy. Przemysłowy metawszechświat może być zaskakująco wyrafinowany – pełen cyfrowych bliźniaków, które naśladują nasz świat i przewyższają go w owocny sposób – lub może być szokująco prosty. Może obydwa. Po prostu jeszcze nie wiemy.

Musimy uregulować algorytmy sztucznej inteligencji, ponieważ nie wiemy, co czai się za rogiem. To wystarczający powód, ale jak to robimy, to dłuższa historia. Pozwolę sobie na jeszcze jedną krótką uwagę, być może wszystkie fundamentalne algorytmy powinny być publicznie dostępne. Powodem jest to, że jeśli nie, nie ma możliwości dowiedzenia się, do czego mogą doprowadzić. Te czołowe są dość dobrze znane (zob 10 najlepszych algorytmów uczenia maszynowego), ale nie ma ogólnoświatowego przeglądu tego, gdzie i jak zostaną wykorzystane. Szczególnie należy uważnie obserwować algorytmy nienadzorowane (zob Sześć potężnych przypadków użycia uczenia maszynowego w produkcji), niezależnie od tego, czy są używane do przewidywania konserwacji lub jakości, do symulacji środowisk produkcyjnych (np. cyfrowych bliźniaków), czy do generowania nowych projektów, o których człowiek nigdy by nie pomyślał. W dzisiejszym krajobrazie te nienadzorowane algorytmy to zazwyczaj tak zwane sztuczne sieci neuronowe, próbujące naśladować ludzki mózg.

Zacząłem się martwić sieciami neuronowymi, tylko dlatego, że trudno mi zrozumieć ich logikę. Problem polega na tym, że większość ekspertów, nawet tych, którzy je wdrażają, nie rozumie, w jaki sposób te algorytmy przechodzą z kroku na krok lub z warstwy na warstwę. Nie sądzę, aby metafora „ukrytych warstw”, która jest często używana, była bardzo trafna lub bardzo zabawna. Na początek nie powinno być żadnych ukrytych warstw w produkcji, zautomatyzowanym poborze podatków, decyzjach o zatrudnieniu ani w rekrutacji na studia. Może Ty też powinieneś pomyśleć o martwieniu się? Jedno jest pewne, ludzie i maszyny tworzące razem różne rzeczy zmienią świat. To już było, wiele razy. Od papieru po kalosze i warstwy dzisiejszych sztucznych mózgów, nic nie powinno pozostać nieodkryte. Nie powinniśmy ukrywać się przed prostym faktem, że z wielu małych zmian nagle może pojawić się większa zmiana.