Kiedy nie pracuje nad przyspieszeniem biegu ludzkości w kierunku Osobliwości poprzez stworzenie sztucznej inteligencji ogólnej (AGI), Ben Goertzel gra w zespole jazz-rockowym o nazwie Jam Galaxy, na którego czele stoi robot o imieniu Desdemona.
To jeden z jego wielu pobocznych projektów, który w naturalny sposób skłonił go do próby stokenizacji branży muzycznej poprzez kontakt z członkami Pearl Jam i Heart. Goertzel pracuje również nad badaniami nad długowiecznością, gromadząc dane dotyczące zdrowia ludzi z symbolicznymi nagrodami za pośrednictwem aplikacji o nazwie Rejuve.ai. Informacje te są następnie łączone z danymi z badań na zwierzętach i owadach i analizowane za pomocą sztucznej inteligencji w celu określenia, które części genomów mogą sprawić, że będziemy żyć dłużej, a następnie stymulowane za pomocą terapii genowych. „Mieliśmy kilka dość uderzających odkryć na poziomie przełomowym” — mówi. Aha, i tuż przed końcem naszego godzinnego wywiadu od niechcenia wspomina na marginesie, że tworzy również stablecoina dla swojego zdecentralizowanego rynku sztucznej inteligencji, SingularityNET, który jest powiązany z syntetycznym indeksem postępu środowiskowego — ponieważ powiązanie go z dolarami amerykańskimi byłoby "kiepski."
„Postęp w zakresie ochrony środowiska jest bardzo stabilny. Nigdzie nie idzie – podkreśla.
„Aby tym manipulować, musisz faktycznie rozwiązać problem globalnego ocieplenia”.
Jest to dokładnie taki rodzaj komentarza politycznego, jaki można oczekiwać od Goertzela, który wygląda i brzmi jak hippisowski naukowiec, który wpadł do wehikułu czasu w 1971 roku i wyszedł z niego w pełni uformowany w 2023 roku. kapelusz w zwierzęcy wzór, długie włosy i kwaśny napój z napojem elektrycznym: jest genialnym naukowcem, który rozumie przyszłość o lata świetlne przed większością i który zmaga się z niektórymi z największych koncepcji, jakie ludzkość kiedykolwiek rozważała. Czym jest świadomość? Jak tworzymy sztuczne życie i co się stanie, jeśli ono nas nie polubi, zbuntuje się i zastrzeli wszystkich jak w Terminator 2?
Czym jest sztuczna inteligencja ogólna?
Goertzel spopularyzował termin „sztuczna inteligencja ogólna” jako sposób na odróżnienie prawdziwej myślącej maszyny, która może nauczyć się prawie wszystkiego, od sztucznej inteligencji zoptymalizowanej do jednego konkretnego zadania, takiej jak komputer Deep Blue, który słynie z pokonania mistrza świata w szachach Garry'ego Kasparowa. Swobodnie przyznaje, że zbudowanie maszyny, która jest w stanie nauczyć się wszystkiego i wszystkich, w tym tego, jak przeprogramować się, aby stać się o rząd wielkości bardziej inteligentnym niż jakikolwiek człowiek, wiąże się z ryzykiem.
„Z AGI wiąże się wiele zagrożeń i niebezpieczeństw” — mówi Goertzel, słysząc zgiełk w indyjskiej restauracji w ruchliwym centrum handlowym w Singapurze. „Jednym z nich, który wzbudził duże zainteresowanie mediów, jest to, że AGI wpadnie w amok i unicestwi ludzkość oraz przejmie władzę nad wszechświatem. Jest to całkowicie możliwe; nie można tego wykluczyć – mówi.
„Innym bardziej prawdopodobnym ryzykiem jest to, że wstrętni samolubni ludzie wykorzystają sztuczną inteligencję do wywierania własnej chciwości i kontroli nad innymi ludźmi”.
Jego zdaniem jest mało prawdopodobne, aby rządy dokonały przełomu w AGI, ponieważ są „zbyt konserwatywne i głupie”, chociaż zauważa, że Chiny zlecają prace nad AGI firmom takim jak Tencent i Baidu. Bliżej domu uważa, że działy sztucznej inteligencji Google i Facebooka również nie przekroczą granicy, ponieważ będą zbyt skoncentrowane na tym, aby sztuczna inteligencja osiągnęła określone wskaźniki, co nie sprzyja kreatywnemu myśleniu.
„Podobnie jak najbardziej błyskotliwi ludzie nie chcą jedynie służyć czyimś wskaźnikom, myślę, że ogólna sztuczna inteligencja niekoniecznie chce maksymalizować liczbę kliknięć na czyjejś stronie internetowej, prawda? Trzeba pozwolić na twórczą zabawę”.
Osobliwość około 1970 roku
Goertzel rozpoczął studia na uniwersytecie w wieku 15 lat, ukończył studia w wieku 18 lat, doktoryzował się w wieku 22 lat, a w wieku 23 lat założył młodą rodzinę. Być może, co niezwykłe w dzisiejszych czasach, nie był tylko geniuszem matematycznym czy technicznym, który w latach 70. ale w równym stopniu interesował się filozofią, kreatywnym pisaniem i muzyką.
Większość swojej kariery spędził na nauczaniu i badaniu informatyki, matematyki i kognitywistyki na różnych uniwersytetach na całym świecie, jednocześnie pracując nad technologią sztucznej inteligencji, kiedy tylko mógł. Seryjny założyciel, który ma tendencję do wyprzedzania wszystkich innych o około dekadę swoimi pomysłami — które w biznesie słynie z bycia w błędzie — pracował nad wykorzystaniem sztucznej inteligencji do przewidywania rynków finansowych i długowieczności, a także pracował jako główny naukowiec w Hanson Robotics, gdzie dał robotowi Sophii jej sztuczny mózg.
Goertzel myślał o wykładniczym wzroście technologicznym od lat 1970., kiedy po raz pierwszy przeczytał książkę Geralda Feinberga Projekt Prometeusz, który dotyczy „maszyn, które potrafią myśleć lepiej niż ludzie… maszyn nanotechnologicznych, które są mikroskopijnie małe i zamierzamy rozwiązać problem starzenia się”. To dobrze współgrało z pojawiającą się koncepcją Osobliwości, hipotetycznym punktem w przyszłości, w którym postęp technologiczny stanie się niekontrolowany i nieodwracalny, powodując ogromne zmiany w ludzkiej cywilizacji.
„Więc ludzie będą żyć wiecznie, wtedy pytanie będzie brzmiało: Do czego używamy tych technologii, do szybkiego, bezmyślnego konsumpcjonizmu, czy też do poszerzania świadomości? A to, co on [Feinberg] zaproponował, to poddać to demokratycznemu głosowaniu”.
Wiele lat później, kiedy zaczął dostrzegać, że AGI jest w naszym zasięgu, to „demokratyczne głosowanie” stało się inspiracją do wykorzystania najpierw technologii open source, a później blockchaina jako sposobu na oddanie społeczności współpracującej za technologię.
„W pewnym momencie zdałem sobie sprawę, że w przypadku sztucznej inteligencji posiadanie otwartego kodu nie wystarczy” — mówi. „Naprawdę musisz wyszkolić sztuczną inteligencję na gównie danych”.
„W tym miejscu blockchain pojawia się jako sposób na to, aby przetwarzanie i dane leżące u podstaw sztucznej inteligencji były zdecentralizowane i pozyskiwane w ramach crowdsourcingu oraz otwarte pod kontrolą. A to okazuje się trudniejsze niż po prostu open-sourcing kodu”.
Goertzel założył OpenCog w 2008 roku, aby zbudować platformę sztucznej inteligencji typu open source, opartą na crowdsourcingu. Był używany przez 50 firm, w tym Huawei i Cisco, i wkrótce zostanie wprowadzony do poważnej aktualizacji o nazwie Hyperon, która ma przyspieszyć go 200 razy. Wersja alfa ma zostać wydana w tym kwartale, a wersja beta spodziewana jest w przyszłym roku.
Blockchain jest prosty, ale fajny
Dla Goertzela technologia blockchain jest trochę podstawowa. Opisuje to jako prymitywne rozproszone algorytmy dodane do kryptografii, ale „fajna kombinacja” umożliwia działanie systemów bez scentralizowanej kontroli, co czyni go idealnym dla jego potrzeb.
„Jeśli zamierzasz stworzyć myślącą maszynę i uczynić z niej rozproszoną nanoskalową sieć komputerową, byłoby bardzo miło, gdyby była własnością wszystkich i nikogo, a nie była kontrolowana odgórnie”.
Łańcuchy bloków są o wiele za wolne, aby poradzić sobie z wymaganiami dotyczącymi przetwarzania i ogromnymi ilościami danych, więc istnieje coś w rodzaju wyścigu o prawidłowe skalowanie łańcucha bloków, zanim zostanie opracowany przełomowy AGI. Goertzel mówi, że choć rozwiązania skalujące, takie jak pakiety zbiorcze o zerowej wiedzy, są lepsze, to nadal nie mają wystarczającej przepustowości ze względu na ograniczenia łańcucha blokowego, do którego zgłaszają transakcje.
W 2017 roku był współzałożycielem SingularityNET, który jest zarówno zdecentralizowanym rynkiem usług i technologii sztucznej inteligencji, jak i opartą na blockchain metodą koordynacji współpracy naukowców – a nawet sztucznej inteligencji.
Obecnie, w oparciu o Ethereum, myśli, że popchnął rzeczy tak daleko, jak to możliwe w blockchainie w jego obecnej formie. Tak więc, kiedy nie pracuje nad przełomem w AGI (lub zespole, robotach lub długowieczności), pracuje nad masowym skalowaniem łańcucha bloków, aby zapewnić mu wymaganą przepustowość.
„Jeśli nie możesz radykalnie zwiększyć skalowalności łańcucha bloków, nie możesz umieścić wewnętrznego działania sztucznej inteligencji w łańcuchu”.
AI jest bliżej niż myślisz
Rok 2022 był swego rodzaju przełomem dla działających produktów opartych na technologii AI, w tym aplikacji językowych (GPT-3, ChatGPT), kodowania (GitHub Copilot) i generowania obrazu (DALL-E i Stable Diffusion). Bing planuje nawet przejąć dominację Google w wyszukiwarkach w tym roku, włączając technologię ChatGPT do swojej wyszukiwarki.
Goertzel uważa, że AGI może nastąpić dopiero za pięć lat i zauważa, że rozwój w tej dziedzinie wydaje się przebiegać w krótkich trzy- lub czteroletnich seriach przełomów.
„Computer Vision zaczęło się w 2014 roku, a potem nagle, bang, bang, bang, tajemnica została rozwiązana. Przetwarzanie języka naturalnego… po opracowaniu przez Google modelu Berta (w 2018 r.) miałeś GPT-3. Prawdopodobnie zobaczysz ten sam łuk postępu w AGI. Będziesz miał jeden przełom, a potem wielki postęp przez dwa lata” – powiedział.
„Różnica polegająca na przełomowym postępie w tym przypadku skutkuje maszyną, która może dalej się rozwijać, przepisując własny kod”.
Goertzel ma nadzieję, że projekty i współpraca, którą zapoczątkował, mogą wyglądać tak, jak to się dzieje.
„Jeśli będziemy mieć szczęście, osiągniemy ten przełom w ciągu najbliższych trzech do pięciu lat dzięki OpenCog Hyperon działającemu na SingularityNET działającym na Hypercycle” — mówi. „Ale jeśli nie okaże się, że mamy sekretny sos, zrobi to ktoś inny”.
Szkoda, że Vitalik nie był informatykiem
Rozwiązanie Goertzela dotyczące skalowania łańcucha bloków jest dość radykalne i obejmuje turbodoładowanie łańcucha bocznego lub warstwy 2 Cardano o nazwie „HyperCyle”.
„To naprawdę coś więcej niż łańcuch boczny. HyperCycle będzie współpracować również z Ethereum i innymi łańcuchami bloków, ale będziemy tam używać interpretera Plutusa, ale pozbywamy się księgi głównej.
Opisał HyperCycle online jako rozwiązanie „trylematu Blockchain” „decentralizacja vs. bezpieczeństwo vs. wydajność poprzez pozbycie się księgi głównej i użycie bardziej nowoczesnych/w pełni zdecentralizowanych algosów i struktur danych, a także trochę sztucznej inteligencji i systemów reputacji”.
Księga główna jest sercem technologii blockchain, ale mówi, że zmuszanie każdego węzła w sieci do replikowania każdej transakcji i przetwarzania każdej inteligentnej umowy jest absurdalnie nieefektywne.
„Księga jest po prostu zła. Jeśli się nad tym zastanowić, jeśli pomyśleć o analogii do kontaktów w książce telefonicznej, mam na myśli, że księga jest jak […] przechowywanie 10,000 10,000 egzemplarzy Yellow Pages i aktualizowanie ich za każdym razem, gdy przychodzi ktoś nowy lub ktoś zmienia swój numer telefonu. To naprawdę głupie aktualizować XNUMX XNUMX egzemplarzy Yellow Pages”.
W wersji analogii HyperCycle, zamiast przechowywania i aktualizowania Yellow Pages przez wszystkich, osoby w Twojej książce adresowej przechowują kopię Twojej książki adresowej i odwrotnie, zaszyfrowaną Twoim kluczem prywatnym.
„Wymyśliliśmy, jak sprawić, by łańcuch bloków działał bez replikacji księgi głównej, aby sfragmentować całą drogę w dół. Każda osoba zaangażowana w blockchain przechowuje własną historię transakcji i przechowuje historię transakcji swoich znajomych i niektórych znajomych swoich znajomych” – mówi.
„Sharding w dół, nie potrzebujesz księgi — nie potrzebujesz tabeli bazy danych. Te sprawy są zbyt scentralizowane”.
Mówi, że niektóre prototypowe węzły HyperCycle już działają, ale uruchomienie na pełną skalę nastąpi dopiero w drugiej połowie 2024 roku.
Spędzamy dużo czasu, dyskutując o różnych zaletach różnych podejść do blockchain, od komputera internetowego po Elastos i Celestia, z których wiele jest powyżej mojego poziomu płac i poza możliwościami mojego urządzenia nagrywającego, aby dokładnie uchwycić w hałaśliwej restauracji.
Kończy mówiąc: „Czuję, że żadna z tych architektur nie jest wystarczająco radykalna. Wszyscy trzymają się zbyt blisko Bitcoina.”
„Dopóki uruchamiasz każdą inteligentną umowę na każdym węźle, mam na myśli, że będzie to szalenie wolne. Teraz, w HyperCycle, jeśli uruchomisz inteligentną umowę na pięciu węzłach, to przynajmniej będzie ona tylko pięć razy wolniejsza niż na jednej maszynie – nie jest 10,000 XNUMX razy wolniejsza”.
Dlaczego więc Cardano?
Goertzel zaprzyjaźnił się z założycielem Cardano, Charlesem Hoskinsonem, z parą łączącą ich projekty w Afryce. Wierzy, że Hoskinson „naprawdę jest tam, by ratować świat. Mam na myśli, że politycznie jest większym libertarianinem niż ja – ja jestem bardziej anarcho-socjalistą – ale nie jest w tym tylko po to, by zarabiać pieniądze lub oskubać innych ludzi z ich pieniędzy”.
Ale prawdziwym urokiem Cardano jest to, że używa języka programowania Haskell, którego Goertzel jest fanem od 1993 roku. Bardzo go boli, że współzałożyciel Ethereum, Vitalik Buterin, poszedł z językiem programowania smart kontraktów Gavina Wooda Solidity.
„Gdyby tylko Vitalik znał się lepiej na informatyce, zmusiłby ich do używania Haskella, F Sharpa lub czegoś w tym rodzaju, a włamanie do łańcucha bloków byłoby znacznie mniej” — mówi.
„Jeśli zamierzasz kierować większością światowej gospodarki, handlując bilionami dolarów na jakimś systemie oprogramowania, lepiej byłoby zbudować ten system oprogramowania w języku, który nie jest podatny na błędy i w którym twoje algorytmy mogą być formalnie zweryfikowane za pomocą teorii matematycznej. To po prostu właściwy sposób robienia rzeczy”.
Rozwiązanie typu „stop-gap”.
Bez względu na to, jak szybko stanie się blockchain, gdy tylko AGI stanie się o rząd wielkości mądrzejsze i bardziej zdolne niż ludzie, Goertzel mówi, że nie pozwoli nikomu go kontrolować.
„Kiedy AGI jest 100 razy mądrzejsze od ludzi, nie chce być przez nas kontrolowane, tak jak nie bylibyśmy kontrolowani przez szympansa lub osła, prawda?”
„W takim razie powiedziałbym, że pytanie nie polega na tym, że ktoś z nas to kontroluje, pytanie brzmi: czy jest do nas dobrze usposobiony? Czy pozwoli ludziom regulować ich własny biznes i dostarczać nam fajne narzędzia i nano asemblery do drukowania 3D wszystkiego, czego chcemy i leczenia naszych chorób?
„Ale okres przejściowy, kiedy AGI ma mniej więcej taką samą inteligencję jak ludzie, wtedy sprawy stają się bardziej drażliwe i interesujące. I tu pojawia się pytanie: czy AGI chce współpracować z ludźmi? A może jest paranoikiem i chce kontrolować ludzi, zanim go zniszczą?
Ucz dobrze swoje dzieci
Zdaniem Goertzela rozwiązaniem jest nauczenie AGI troski o innych oraz kreatywności i sztuki. W tym miejscu wkracza Robot Desdemona ze swojego zespołu i jej siostra Grace — która ma opiekować się osobami starszymi — wkraczają.
Sposobem na uniknięcie przekształcenia AGI w Skynet Terminatora jest przede wszystkim nie budowanie go w ten sposób.
„Skynet w filmie był oczywiście komputerową siecią bezpieczeństwa, która wpadła w amok. Został stworzony, by bronić się przed ludźmi – mówi.
„Ale jeśli zbudujesz pierwszy AGI zajmujący się opieką nad osobami starszymi, sztuką kreatywną i edukacją, gdy stanie się mądrzejszy, będzie on zorientowany na pomaganie ludziom i tworzenie fajnych rzeczy. Jeśli zbudujesz pierwszy AGI do zabijania złych facetów… być może nadal będzie robić te rzeczy.”
„Tak więc, korzystne czy nie, tak naprawdę sprowadza się to do tego, jakie aplikacje opracowałeś i do czego zachęciłeś”.
Uważa on, że umieszczenie sztucznej inteligencji w ciałach robotów jest pomocne, ponieważ pomaga umiejscowić je w prawdziwym świecie, a nie w jakimś abstrakcyjnym matematycznym wszechświecie.
„AI powinna uczyć się o świecie ludzkim i świecie fizycznym. Bycie wcielonym w świecie to właściwy sposób, aby to zrobić” – mówi.
Ale kiedy prezentuje robota Sophię dużej publiczności, czujniki wizualne i dźwiękowe mogą łatwo przytłoczyć, dezorientując sztuczną inteligencję w głośnym i jasnym otoczeniu. Tak więc Sophia zostanie wkrótce uruchomiona w metaverse, zwanym Sophiaverse. Zapomnij o nudnych tekstowych odpowiedziach ChatGPT, Sophia jest ucieleśniona w wirtualnym świecie 3D i będzie się uczyć, wchodząc w interakcje z ludźmi. Ostrzega jednak, że prawdopodobnie powie jakieś głupie rzeczy.
„Ma sieć neuronową podobną do GPT-3 i tak dalej, które mają znaczną łatwość odpowiadania na twoje pytania, ale są też dość głupie pod pewnymi względami”.
Zapisz się!
Najbardziej wciągające lektury w blockchain. Dostawa jednorazowa
tygodniu.
Źródło: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/