Etyka AI i geopolityczny mecz wrestlingu o to, kto wygra wyścig, aby osiągnąć prawdziwą sztuczną inteligencję

Świat jest w szalonym wyścigu.

Mocarstwa geopolityczne twierdzą, że zwycięzca zabierze do domu niejako cały bekon.

Jaką rasę toczy się zaciekle i usilnie ściga się?

To wyścig AI.

Mógłbyś być może bardziej trafnie nazwać to wyścigiem do osiągnięcia prawdziwy Sztuczna inteligencja (AI), obecnie pełniej określana jako sztuczna ogólna inteligencja (AGI). Chcemy w jakiś sposób osiągnąć pozornie najwyższą sztuczną inteligencję lub znaną jako AGI, która jest porównywalna z ludzką inteligencją. Jeszcze nas tam nie ma. Rzeczywiście, pomimo wszelkiego rodzaju dzikich i bezczelnie głoszących nagłówków, nie wiemy, kiedy i czy osiągniemy ten wysoki poziom. Dzisiejsza sztuczna inteligencja ma znacznie mniejsze możliwości niż nadrzędna ludzka inteligencja, chociaż z pewnością istnieje wiele węższych sposobów, w jakie sztuczna inteligencja dokonała imponujących wypraw, takich jak możliwość gry w szachy na najwyższym światowym poziomie lub wykonywania innych stosunkowo ograniczonych zadań.

Złoty pierścień to jednak pojawienie się sztucznej inteligencji, która wykazuje ludzką inteligencję o pobożnej naturze i głębi podobnej do ludzkiej. To święty Graal badaczy i praktyków sztucznej inteligencji. Od czasu do czasu pojawiały się fałszywe twierdzenia, że ​​przekroczyłem już linię mety wyścigu AI, co zdemaskowałem w mojej kolumnie na link tutaj. Ci, którzy próbują toczyć spory o przekroczenie linii mety, wprawiają w zakłopotanie opinię publiczną i czasami robią to przez gorliwą niewinność, podczas gdy innym razem mają poważne wątpliwe motywy. Podsumowując, rodzi to dość istotne i ważne rozważania dotyczące etyki AI. Aby zapoznać się z moim stałym i obszernym omówieniem etyki sztucznej inteligencji i etycznej sztucznej inteligencji, zobacz link tutaj i link tutaj, żeby wymienić tylko kilka.

W każdym razie nie ma wątpliwości, że trwa globalny wyścig sprinterski AI. Trudno byłoby twierdzić, że jest inaczej.

Pomyśl o tym w ten sposób. Gdybyśmy już zdołali osiągnąć prawdziwą sztuczną inteligencję lub AGI, szanse są takie, że wyścig AI zostałby formalnie i globalnie ogłoszony jako pomyślnie zakończony. Zapewniam, że światowa uwaga skupiłaby się na tak głośnym i wstrząsającym ziemią przełomie. Wiedziałbyś o tym. Wszyscy to zrobimy. Szalona sztuczna inteligencja dash praktycznie przestałaby istnieć, chociaż być może pojawiłaby się druga wersja, obejmująca tych, którzy nie osiągnęli prawdziwej sztucznej inteligencji, pracującej gorączkowo, aby nadrobić zaległości. Istnieje również niepokojąca kwestia, w jaki sposób będziemy kontrolować lub zarządzać AGI, jeśli i kiedy tam dotrzemy.

Żadna osoba, jednostka ani naród nie może jeszcze właściwie ubiegać się o koronę produkującą prawdziwą sztuczną inteligencję lub AGI.

W międzyczasie ma miejsce ogromna i nieubłagana ilość załamań rąk na temat tego, który naród (lub narody) są na czele stada, a kto jest dalej w tyle. Założenie jest takie, że jeśli nie jesteś pierwszy, zostaniesz w błocie. Będziesz jadł resztki resztek zwycięzców AI. Potencjalnie będziesz na zawsze podporządkowany narodowi lub narodom, które dokonują zapowiedzianego skoku w prawdziwą sztuczną inteligencję lub AGI.

Na marginesie i aby ułatwić sformułowanie tej dyskusji, zamierzam odtąd używać „AGI”, gdy chcę przywołać aurę prawdziwej sztucznej inteligencji. Użycie nieco nowszej frazy „AGI” jest czasami drażniące dla tych, którzy nie są przyzwyczajeni do oglądania go w użyciu. Wszyscy znamy „AI” i możesz być zaniepokojony, widząc zamiast tego akronim „AGI”. Pozwólcie, że wyjaśnię, dlaczego stopniowo pojawia się to jako trend słowny.

Jednym z powodów, dla których AGI wzrosło na arenie potocznej sztucznej inteligencji, jest to, że samo stwierdzenie „AI” stało się teraz niestety rozwodnionym sformułowaniem. Nikt nie wie, czy sztuczna inteligencja, o której wspominasz, jest wariantem ledwo sztucznej inteligencji, czy też quasi-lepszym infuzją sztucznej inteligencji, czy może nawiązywać do futurystycznej, w pełni zrównanej z człowiekiem sztucznej inteligencji. Aby poradzić sobie z przeciążeniem „AI” jako hasłem, moniker AGI zyskał preferencje tych osób z branży sztucznej inteligencji, które chcą konkretnie i szczególnie nawiązywać do prawdziwej sztucznej inteligencji.

Krótko mówiąc, uważaj, że moja wzmianka o AGI jest tym samym, co powiedzenie „prawdziwej AI” solidnego kalibru podobnego do ludzkiej inteligencji, dzięki.

Weźmy rozważny głęboki oddech i uważnie przyjrzyjmy się niektórym aspektom wyścigu, aby osiągnąć AGI. Jest nawet meta-aspekt, który należy najpierw określić. Należy pamiętać, że używanie alegorii rzekomego wyścigu lub innego rodzaju aktywności wyścigowej jako metafory wyścigu AGI wiąże się z lekką zgagą. Dlaczego tak? Pozwolę wam na chwilę omówić komplikacje i zawiłości tego, dlaczego (niektórzy twierdzą), że wyścig lub jego odpowiednik jest całkowicie mylący i podstępny punkt widzenia prostaka.

Oto kluczowe punkty, które omówię z wami w tym dyskursie:

• Jeśli jest to wyścig, linia mety AGI wydaje się dość niewyraźna
• Rasa AGI może trafić do osoby, jednostki lub narodu
• Metryki i sposób porównywania narodów w wyścigu AGI
• Manewrowanie geopolityczne i wyrównanie dla wyścigu AGI
• Międzynarodowe przepisy AI i etyka AI jako sędziowie w wyścigu AGI

Możesz chcieć zapiąć pasy, gdy przyglądam się pilnie postępującemu wyścigowi AGI (tak, odważę się nazwać go wyścigiem), w którym prawie wszyscy poruszają się z zawrotną prędkością i pozornie przyspieszają w tym palącym zadaniu. Niektórzy mogą powiedzieć, że jest to wyścig o polepszenie ludzkości, podczas gdy inni ostrzegają, że wyścig może oznaczać dla nas wszystkich całkowitą zagładę.

Czas pokaże.

Jeśli to jest wyścig, linia mety AGI wydaje się dość źle zdefiniowana

Linia mety jest zwykle raczej definitywnym rozgraniczeniem. Albo dotarłeś do mety, albo nie. Wygląda na to, że nie dostaniesz zbyt wiele. Wyobraź sobie bieg olimpijski na 400 metrów i czy szczególnie zapamiętasz, czy też zgarniesz uznanie dla biegaczy, którzy w ogóle nie ukończyli wyścigu (nigdy nie przekroczyli linii mety). Mało prawdopodobny.

Czy dowiemy się, kiedy dotarliśmy do AGI tak, że jest rozsądnie wszyscy zgodni, że linia mety została osiągnięta?

Istnieją gorące spory dotyczące rozgraniczenia AGI.

Załóżmy na przykład, że opracowujemy sztuczną inteligencję, która wydaje się całkowicie zdolna do wykazywania ludzkiej inteligencji, ale nie ma w niej pozorów świadomości per se (zobacz moje sprawozdanie na temat argumentów na temat świadomości AI na link tutaj). Sztuczna inteligencja jest w stanie naśladować lub w inny sposób działać tak, jak robi to ludzka inteligencja. Nie ma jednak iskry życia ani świadomości, które kojarzymy z ludźmi i innymi żywymi stworzeniami. Czy to AGI liczy się jako osiągnięcie celu, o którym myśleliśmy, że mamy?

Niektórzy kontrargumentowaliby, że nie miałoby znaczenia, gdyby świadomość per se wydawała się być owinięta w AGI. Tak długo, jak może wykazywać ludzką inteligencję, włączenie świadomości jest czymś w rodzaju innej różnorodności, której możemy chcieć lub nie chcieć, aby się pojawiła. Odczucie w tym sensie jest dodatkiem.

Inni stanowczo twierdzą, że jedynym sposobem osiągnięcia ludzkiej inteligencji w AGI będzie integralne ucieleśnienie świadomości. AGI i świadomość są albo uważane za to samo, albo są mieszanką nieredukowalnej, nierozdzielnej podwójnej postaci. Aby uzyskać AGI, musisz mieć świadomość, twierdzą.

Pomijając ten kąt debaty, inną perspektywą jest to, że moglibyśmy użyć słynnego testu Turinga, aby ocenić, czy osiągnięto AGI. Szczegółowo omówiłem test Turinga na link tutaj. W skrócie, pojęcie polega na tym, że człowiek zadaje pytania AGI i jeśli człowiek nie może odróżnić odpowiedzi wygenerowanych przez AGI od odpowiedzi ludzkości, wówczas ogłosimy, że AGI jest w stanie wykazać ludzką inteligencję.

Istnieje wiele problemów lub niedociągnięć często związanych z testem Turinga.

Załóżmy, że człowiek zadający pytania wykonuje marną pracę i nie zadaje pytań sondujących. Jedną z obaw jest to, że wiele dzisiejszych, pozornie potężnych modeli dużego języka (LLM) może przypominać człowiekowi treści, na których LLM został przeszkolony (tj. tekst i media cyfrowe często pozyskiwane z Internetu na dużą skalę). W związku z tym, szczególnie wyselekcjonowany człowiek zadający zwykłe pytania, na które już udzielono odpowiedzi i które istnieją online, potencjalnie może być łatwo „odpowiedzialny” przez LLM, ale jest to dyskusyjne, że nie jest to spowodowane żadnym ucieleśnieniem ludzkiej inteligencji kalibru AGI.

Pojawia się wiele innych skrupułów. Załóżmy, że człowiek nie jest w stanie zrozumieć odpowiedzi. Albo przypuśćmy, że człowiek łudzi się wierząc, że wszystkie odpowiedzi są wyrazem ludzkiej inteligencji. Omówiłem nawet wyświechtany pomysł przez niektórych, że wszystko, co musimy zrobić, to zapytać AI, czy jest to AGI, czy jest czujące, co wyjaśniam, że nie jest bardzo przekonującą formą dowodu AGI, patrz link tutaj.

Wreszcie, jak ktoś dodał, czy musimy w pełni dotrzeć do mety, aby uznać, że osiągnięto AGI?

Wspomniałem wcześniej, że zazwyczaj zapominamy o tych, które nie dojeżdżają do mety. To może nie być sensownie analogiczne do wyścigu AGI. Uważam, że można przedstawić przekonującą argumentację, że jeśli jesteśmy w stanie osiągnąć znaczącą drogę w kierunku AGI, już znajdziemy się w stanie zdumienia i albo z wielką korzyścią, albo z wielkimi kłopotami. Widzisz, wiele ważnych i bardzo użytecznych wyników może powstać dzięki prawie tam AGI. Podbicie nie będzie tak problematyczne, jak nieukończenie 400-metrowego wyścigu, zwłaszcza, że ​​może to być podstawa do przejścia do pełniejszej wersji AGI (być może w porównaniu z maratonem).

Metafora osiągnięcia AGI jako rodzaju footrace lub jego odpowiednika jest czasami niezadowalająca i nieadekwatna.

Rasa AGI może przejść do osoby, podmiotu lub narodu

Niektórzy żywią senne wyobrażenie, że AGI zostanie osiągnięte przez jakiegoś majsterkowicza pracującego w garażu, będąc w piżamie, i będzie wykwitem szaleńczo pomysłowych eksperymentów komputeryzacji, nad którymi trudzili się od lat. To klasyczny trop high-tech samotnego wilka.

Z przykrością informuję, że jest to propozycja o bardzo niskich kursach.

Większe szanse na to, że podmiot taki jak firma lub jakiś zespół badawczy będzie przebojem AGI. Silne i dominujące przekonanie jest takie, że dotarcie do AGI będzie wymagało wioski. Samotny wilk sam nie będzie miał zasobów ani spostrzeżeń, by dotrzeć do AGI. Mogą przyczynić się do zadania. Mogą dostarczyć potrzebne elementy układanki. Nie będą w stanie zebrać całego zestawu i caoodle.

Mówiąc o wioskach, innym mocno wyznawanym punktem widzenia jest to, że będą to narody, które będą w stanie osiągnąć tylko AGI. Poprzez połączenie ludzi, przedsiębiorstw, naukowców i wszelkich innych rodzajów podmiotów w państwie narodowym, AGI pojawi się w wyniku połączonej pracy narodowej całości. Jednostkowy poziom uwagi dla zwycięzcy w tym wyścigu jest oparty na zasadzie państwa narodowego, a nie na czymś bardziej rozproszonym, swobodnym lub indywidualistycznym.

Krótko mówiąc, jeśli zajmie wieś, będzie ona miała skalę krajową, więc państwo narodowe będzie wyznaczonym biegaczem, który przekroczy linię mety w wyścigu AGI.

Metryki i sposób porównywania narodów w wyścigu AGI

Załóżmy, że osiągnięcie AGI będzie oparte na poziomie państwa narodowego.

Powtórzmy, nie wiemy tego na pewno, ale wydaje się to rozsądnym założeniem.

Rozważ konsekwencje podstawy państwa narodowego. Załóżmy, że samotnemu wilkowi udaje się najpierw dostać do AGI i wierzy, że jego praca wykracza poza pracę państwa narodowego, którego jest członkiem. Ta osoba twierdzi, że nie jest z żadnego państwa narodowego, jeśli chodzi o spreparowaną AGI. Czy nadal dawalibyśmy kredyt temu państwu narodowemu i czy AGI znajdowałaby się pod kontrolą i zasięgiem tego narodu?

Wyobraź sobie kolejną alternatywę, w której duży międzynarodowy konglomerat najpierw dotrze do AGI. Który naród może powiedzieć, że AGI jest ich „rzeczą” do wykorzystania i rozmieszczenia (czy będzie interpretowana jako własność, czy raczej jako wariant osobowości prawnej)? Być może wszystkie narody, w których istnieje firma, mają otrzymać równy kredyt. A może tylko tam, gdzie geograficznie znajduje się formalna siedziba. Może to być skomplikowane rozłupywanie prawdziwego garnka złota.

W każdym razie, powszechna opinia jest taka, że ​​państwo narodowe będzie kluczowym wyznacznikiem osiągnięcia AGI. Naród, który zachęca do badań i rozwoju sztucznej inteligencji w ramach swoich krajowych wysiłków, prawdopodobnie szybciej dotrze do AGI niż inne narody, które tego nie robią.

Dominuje pogląd, że wyścig AI jest wyścigiem narodowym.

Zaskakującym problemem jest to, w jaki sposób mamy ustalić, czy jeden naród jest przed, czy za innym narodem w wyścigu AGI.

W konwencjonalnym biegu moglibyśmy łatwo zidentyfikować wskaźniki, które można wykorzystać do określenia, którzy biegacze radzą sobie dobrze, a którzy nie. Szybkość biegacza można łatwo obliczyć. Nie gwarantuje to, że skończą jako pierwsi, ale przynajmniej zapowiada się obiecująco. Fizyczna odległość między biegaczami i odległość pozostała do mety to oczywiście istotne kryteria, które możemy łatwo zmierzyć.

Wyścig AGI nie ma tego rodzaju gwarantowanych form metryk lub pomiarów.

Używamy wszelkiego rodzaju miar zastępczych, ponieważ nie ma żadnego ostatecznego sposobu obliczenia, gdzie znajduje się linia końcowa ani jak daleko od niej jesteśmy.

Przyjrzyjmy się typom metryk, które są zwykle brane pod uwagę. Szczególnie przydatne źródło globalnych pomiarów związanych ze sztuczną inteligencją jest corocznie gromadzone i publikowane przez Stanford Institute for Human-Centered AI (HAI) na Uniwersytecie Stanforda. Raport jest dostępny online za darmo, a najnowsza wersja jest zatytułowana Raport roczny Indeks AI 2022 (na podstawie danych zebranych za lata 2020-2021). Za chwilę podzielę się z wami kilkoma najważniejszymi punktami porównań krajowych wspomnianych w ich najnowszej kompilacji.

Metryki, które są używane do mierzenia krajowego i międzynarodowego postępu w zakresie sztucznej inteligencji, zwykle zawierają po trochu wszystkiego, czasami granicząc z włączeniem prawdziwego zlewu kuchennego.

Typowo badane rodzaje środków obejmują:

• Liczba artykułów naukowych dotyczących sztucznej inteligencji przypisanych do konkretnego narodu
• Liczba cytowanych odniesień do artykułów AI danego narodu
• Liczba czasopism AI opartych na danym kraju
• Liczba konferencji AI odbywających się w danym kraju
• Liczba konferencji AI sponsorowanych przez dany kraj
• Liczba patentów związanych ze sztuczną inteligencją przyznanych w danym kraju
• Liczba startupów firm AI w danym kraju
• Liczba miejsc pracy AI w danym kraju
• Liczba nowych miejsc pracy AI lub zatrudnienie w danym kraju
• Liczba ustaw lub ustaw o sztucznej inteligencji wprowadzonych w danym kraju
• Liczba praw dotyczących SI przyjętych lub uchwalonych w danym kraju
• Inne

Rozważ te współczesne wskazania z HAI AI Index 2022:

• Cytaty publikacji AI: „Jeśli chodzi o cytowania publikacji z repozytorium AI, na szczycie listy znajdują się Stany Zjednoczone z 38.6% ogółu cytowań w 2021 r., ustanawiając dominującą przewagę nad Unią Europejską oraz Wielką Brytanią (20.1%) i Chinami (16.4%).”
• Czasopisma/konferencje AI: „W 2021 r. Chiny nadal przodowały na świecie pod względem liczby publikacji w czasopismach, konferencjach i repozytoriach AI — o 63.2% więcej niż Stany Zjednoczone przy wszystkich trzech rodzajach publikacji łącznie. W międzyczasie Stany Zjednoczone zajmowały dominującą pozycję wśród głównych potęg AI pod względem liczby cytowań z konferencji i repozytoriów”.
• Patenty AI: „Chiny składają obecnie ponad połowę światowych patentów na sztuczną inteligencję i otrzymują około 6%, mniej więcej tyle samo co Unia Europejska i Wielka Brytania. Stany Zjednoczone, które składają prawie wszystkie patenty w Ameryce Północnej, robią to w jednej trzeciej szybciej niż w Chinach. W porównaniu z rosnącą liczbą zgłoszonych i przyznanych patentów na sztuczną inteligencję Chiny mają znacznie większą liczbę wniosków patentowych (87,343 2021 w 1,407 r.) niż przyznanych (2021 w XNUMX r.).”
• Nowo finansowane firmy AI: „Dane inwestycyjne według liczby nowo sfinansowanych firm AI w każdym regionie. W 2021 r. przodowały Stany Zjednoczone z 299 firmami, następnie Chiny z 119, Wielka Brytania z 49 i Izrael z 28. Różnice między nimi są znaczne”.
• Tempo zatrudniania AI: „Nowa Zelandia, Hongkong, Irlandia, Luksemburg i Szwecja to kraje lub regiony o najwyższym wzroście zatrudnienia AI w latach 2016-2021”.
• Oferty pracy AI: „W 2021 r. Kalifornia, Teksas, Nowy Jork i Wirginia były stanami o największej liczbie ogłoszeń o pracę w AI w Stanach Zjednoczonych, przy czym Kalifornia miała ponad 2.35 razy więcej ogłoszeń niż Teksas, który był na drugim miejscu. Waszyngton, DC, miał najwyższy wskaźnik ofert pracy w AI w porównaniu do ogólnej liczby ofert pracy
• Działania legislacyjne dotyczące sztucznej inteligencji: „Analiza aktów prawnych AI Index w 25 krajach pokazuje, że liczba ustaw zawierających „sztuczną inteligencję”, które weszły w życie, wzrosła z zaledwie 1 w 2016 r. do 18 w 2021 r. Hiszpania, Wielka Brytania i Stany Zjednoczone przekazał największą liczbę projektów ustaw dotyczących sztucznej inteligencji w 2021 r., przy czym każdy przyjął trzy”.

Możemy obficie podziwiać i docenić ciężką pracę związaną z opracowaniem statystyk biegaczy państw narodowych dla wyścigu AGI.

Sceptycy jednak trochę spierają się o używanie wszelkiego rodzaju metryk w wyścigu AGI.

Drażliwe pytanie brzmi, czy można narysować jakąkolwiek linię prostą od liczby artykułów AI lub konferencji AI w danym kraju do ostatecznego osiągnięcia AGI. To samo dotyczy liczby miejsc pracy w AI, liczby firm AI i mnóstwa innych wskaźników. Możliwe, że te liczby mają niewiele wspólnego z osiągnięciem AGI. Argument brzmi, że te środki to więcej ciepła niż światła.

Kontrargumentem jest to, że musimy spróbować zmierzyć, gdzie jesteśmy i dokąd zmierzamy. Wkładanie głowy w piasek nie wydaje się dobrym sposobem oceny, czy zmierzamy w kierunku AGI, czy może dalej od AGI. Mamy nadzieję i ogólnie zakłada się, że im więcej energii i uwagi poświęca się postępom w sztucznej inteligencji, tym bardziej zbliżymy się do AGI. Te wskaźniki są najlepszym, co możemy zrobić, aby zebrać, ile energii i uwagi poświęca się i zużywa w wyścigu AGI.

W kółko i tak się dzieje.

Każda z metryk może sama z siebie być również uderzana o głowę.

Weźmy na przykład pod uwagę liczbę ustaw lub projektów ustaw dotyczących sztucznej inteligencji.

Można twierdzić, że jeśli prawodawcy koncentrują się na prawach związanych ze sztuczną inteligencją, jest to dobry znak, że naród dość trzeźwo traktuje znaczenie sztucznej inteligencji i społeczne konsekwencje tego, dokąd zmierza sztuczna inteligencja. Można stwierdzić, że pokazuje to, że w tym konkretnym kraju pojawia się wiele wysiłków na rzecz rozwoju sztucznej inteligencji. Dlaczego miałbyś zadawać sobie trud wprowadzenia przepisów dotyczących sztucznej inteligencji, chyba że sztuczna inteligencja szczególnie kwitła i bulgotała jako demonstracyjny element twojego narodu?

W ten sposób te narody ogłaszające nowe prawa AI są interpretowane jako znak ostrzegawczy lub sygnalizacja postępu AGI w tym kraju.

Niektórzy krytycy twierdzą, że proponowane nowe przepisy dotyczące sztucznej inteligencji stłumią wysiłki AI w każdym takim kraju. Prawodawcy i przywódcy polityczni strzelą sobie w nogi. Przepisy przedwcześnie kładą ponury cień na wysiłki AI toczące się w tym konkretnym kraju. Kran postępu AI utknie w legalnym zatykaniu włosów, a tempo postępu AGI zwolni do strumyka w tym kraju proklamującym AI. W międzyczasie inne narody, które nie przejmą tego rodzaju przepisów dotyczących sztucznej inteligencji, będą nadal nie słabnąć. To tak, jakbyś zdecydował się umieścić ołowiane ciężarki na biegaczu, który jest już na 400-metrowym torze. Jeśli chciałeś im pomóc i przyspieszyć, zrobiłeś dokładnie odwrotnie.

Whoa, ripostuje, uchwalenie przepisów AI jest bardziej zbliżone do upewnienia się, że przed biegaczem nie ma żadnych niepotrzebnych przeszkód. Prawo dostarcza wskazówek w ten sam sposób, że linie na torze wyścigowym są po to, aby biegacz płynnie podążał we właściwym kierunku. Bez tych namalowanych linii biegacze mogliby oszaleć. Nowe przepisy dotyczące sztucznej inteligencji sprawią, że będą dążyć do pożądanego rezultatu. Kraje, które nie postępują podobnie w zakresie nowych przepisów dotyczących sztucznej inteligencji, przekonają się, że ich biegacze podążają w każdym dzikim kierunku, w tym prawdopodobnie całkowicie zbiegają z toru i krzywdzą tych, którzy są niewinni poza samym wyścigiem AGI.

Istnieją również „ukryte” prawa związane ze sztuczną inteligencją, które niektóre się liczą, a inne nie liczą się jako część tych wskaźników (co powoduje miszmasz podczas próby porównywania liczb).

Na przykład, jeśli naród uchwala prawo dotyczące pojazdów autonomicznych, takich jak samochody autonomiczne, czy uważasz to za prawo dotyczące sztucznej inteligencji? Aby wyjaśnić, że pojazd autonomiczny, taki jak w pełni autonomiczny samochód autonomiczny, będzie miał system jazdy AI, który jest rdzeniem możliwości bez kierowcy (zobacz mój reportaż na link tutaj). Ze względu na zaangażowaną sztuczną inteligencję wszelkie prawa dotyczące autonomicznych pojazdów można rozsądnie argumentować jako zasadniczo prawa sztucznej inteligencji. Z drugiej strony można przekonująco twierdzić, że prawo dotyczy pojazdu autonomicznego, a nie samej sztucznej inteligencji, dlatego nie liczy się to w prawach dotyczących sztucznej inteligencji.

Jest bałagan.

Cała ta konsternacja związana z metrykami może spowodować, że wzruszysz ramionami w obliczu przeciwstawnych poglądów na te ważne kwestie. Jak widać, metryki prawie zawsze podlegają odmiennym interpretacjom tego, co oznaczają i jak odpowiednio analizowany jest status narodu w odniesieniu do AGI.

Manewrowanie geopolityczne i wyrównanie dla wyścigu AGI

Które narody prowadzą w wyścigu AGI?

Które narody pozostają w tyle?

Powyższe wskaźniki próbują pokazać, gdzie aktualnie znajduje się każdy z biegaczy. Podstawowym założeniem jest to, że jeśli wskaźniki rzeczywiście przedstawiają trafny wskaźnik poszukiwania pozycji przez AGI, te różne pozycje biegunowe mogą z czasem pozostać takie same. Rzeczywistość jest oczywiście taka, że ​​narodowe zainteresowanie i uwaga mogą wzrosnąć lub zmaleć na wyboistej drodze do AGI. Być może najrozsądniej będzie oczekiwać zmian w pozycjonowaniu.

Ważną kwestią jest to, że narody tak naprawdę nie są w tym wyścigu same.

Narody prawdopodobnie będą przekazywać sobie pałeczkę w tę iz powrotem. W wyścigu AGI czasami jeden lub więcej narodów chętnie pracuje ramię w ramię. Czasami robi się to ostrożnie, a nie z przyjazną radością. W innych przypadkach narody mogą się od siebie powstrzymywać. W każdej chwili postawa wyścigowa może być zupełnie inna niż kilka kroków wstecz, a także może być zupełnie inna kilka kroków w przyszłość.

Rozważ tę kwestię postawioną w raporcie HAI AI Index 2022 na temat współpracy między krajami: „Pomimo rosnących napięć geopolitycznych, Stany Zjednoczone i Chiny miały największą liczbę współpracy między krajami w publikacjach AI w latach 2010-2021, która wzrosła pięciokrotnie od 2010 r. Współpraca między tymi dwoma krajami zaowocowała 2.7 razy większą liczbą publikacji niż między Wielką Brytanią a Chinami — drugie miejsce na liście”.

Cynicy powiedzieliby, że być może stosowanie współpracy krzyżowej jest czasami wykonywane jako podstęp. Naród może otwarcie twierdzić, że współpracuje krzyżowo, wydając się powierzchownie, aby to robić, podczas gdy w głębi duszy zachowują swój najlepszy postęp w AGI ukrytą tajemnicą narodową. Może robi się to po to, by przytępić postępy narodu o wzajemnej współpracy. Być może ma to na celu zapewnienie, że tajny sos nie zostanie przypadkowo rozdany. Możliwe są różne powody.

W dzisiejszym nowoczesnym cyfrowym świecie Internetu online, próba trzymania w tajemnicy spostrzeżeń AGI może być trudnym zadaniem. Intensywne pragnienie odkrywania lub wymyślania AGI jest nieodpartą pokusą, która może zachęcić poszczególnych programistów i badaczy AGI do otwartego dzielenia się najnowszymi pracami. Narody mogą stwierdzić, że próba ograniczenia takiego udostępniania jest o wiele trudniejsza, niż mogłoby się wydawać, i prawdopodobnie o wiele trudniejsza niż w czasach, gdy wszystko było na papierze i wymagało fizycznego przenoszenia dokumentów na całym świecie.

Ruch w kierunku open source z pewnością był współczesnym naciskiem dla większości najnowszych badań AI i AGI, jak wspomniano w raporcie HAI AI Index 2022: „Każdego roku tysiące publikacji AI są publikowane w otwartym źródle, niezależnie od tego, czy na konferencji lub na stronach internetowych do udostępniania plików. Naukowcy otwarcie podzielą się swoimi odkryciami na konferencjach; agencje rządowe będą finansować badania nad sztuczną inteligencją, które trafiają do open-source; a programiści używają otwartych bibliotek oprogramowania, ogólnie dostępnych, do tworzenia najnowocześniejszych aplikacji AI. Ta otwartość przyczynia się również do globalnie współzależnego i połączonego charakteru nowoczesnych badań i rozwoju w zakresie sztucznej inteligencji”.

Ogólnie rzecz biorąc, narody na ogół dzielą się, a jednak mogą pokazać tylko część swojej ręki. Inne narody mogą się nie dzielić lub tylko udawać, że to robią. Niektóre narody walczą potężnie, próbując ocenić, co ludzie w ich narodzie rozdają, a nie trzymają się. I tak dalej.

Charakteryzowałem charakter tych ruchów narodowych w następujący sposób:

• Naród samotników AI (próbuje działać samodzielnie)
• AI naród jednokierunkowy (przyjmuje, nie rozdaje)
• Pozostały naród AI (dostaje to, co może od innych)
• Naród otwartego udostępniania AI (szczyci się dzieleniem)
• Naród dzielący się pustymi miejscami ze sztuczną inteligencją (fałsz w dzieleniu się)
• Naród sojuszy AI (próbując zawrzeć jak najwięcej sojuszy, jak to możliwe)
• AI naród spoza gry (poszukiwanie AGI nie jest priorytetem krajowym)
• AI oszukujący naród (inżynieria wsteczna lub podstępne kradzieże z innych narodów)
• Inne

Naród może znajdować się w więcej niż jednym z tych wiader naraz.

Naród może przez jakiś czas przebywać w jednym z tych wiader, wyjść z wiadra, a później ewentualnie wrócić.

Pragnienia i uwaga państwa narodowego związana z poszukiwaniem AGI jest dynamicznym przypływem i odpływem, który z pewnością będzie trwał i będzie ruchomym celem tego, który naród znajduje się w wyścigu, i konieczne będzie ciągłe oko, aby dowiedzieć się gdzie wszyscy gracze są rozmieszczeni w danym momencie.

Międzynarodowe przepisy AI i etyka AI jako sędziowie w wyścigu AGI

W poprzednich kolumnach omówiłem różne krajowe i międzynarodowe wysiłki mające na celu stworzenie i uchwalenie przepisów regulujących sztuczną inteligencję, patrz link tutaj i link tutaj, na przykład. Omówiłem również różne zasady i wytyczne dotyczące etyki sztucznej inteligencji, które różne narody zidentyfikowały i przyjęły, w tym na przykład działania ONZ, takie jak zbiór etyki sztucznej inteligencji UNESCO, który przyjęło prawie 200 krajów, zob. link tutaj.

Oto pomocna lista kluczowych kryteriów lub cech etycznej sztucznej inteligencji dotyczących systemów sztucznej inteligencji, które wcześniej dokładnie zbadałem:

• Przezroczystość
• Sprawiedliwość i uczciwość
• Nieszkodzenie
• Odpowiedzialność
• Prywatności
• Dobroczynność
• Wolność i autonomia
• Zaufaj
• Zrównoważony rozwój
• Godność
• Solidarność

Te zasady etyki AI mają być poważnie wykorzystywane przez programistów AI, wraz z tymi, którzy zarządzają wysiłkami na rzecz rozwoju sztucznej inteligencji, a nawet tymi, którzy ostatecznie realizują i wykonują konserwację systemów AI.

Wszyscy interesariusze w całym cyklu rozwoju i użytkowania sztucznej inteligencji są uważani za przestrzegających ustalonych norm etycznej sztucznej inteligencji. Jest to ważna informacja, ponieważ zwykle przyjmuje się, że „tylko koderzy” lub ci, którzy programują sztuczną inteligencję, podlegają zasadom AI Ethics. Jak podkreślono wcześniej, potrzeba wioski, aby opracować i wykorzystać sztuczną inteligencję, a cała wioska musi być zaznajomiona i przestrzegać zasad etyki AI.

Rozważmy wpływ i żywotną naturę międzynarodowych przepisów dotyczących sztucznej inteligencji oraz międzynarodowych proklamacji zasad etyki sztucznej inteligencji na wyścig AGI.

Narody dążące do AGI mogą robić to bez opamiętania i skłaniają się ku niektórym z często spopularyzowanych egzystencjalnych zagrożeń związanych z AGI. Mamy nadzieję, że poprzez wprowadzenie międzynarodowych przepisów dotyczących sztucznej inteligencji i międzynarodowych zasad etyki sztucznej inteligencji, narody zostaną poprowadzone w kierunku AI na dobre i trzymaj się z daleka AI na złe.

Zgodnie z naszą analogią do toru wyścigowego, te prawa AI i rozważania dotyczące etyki AI są jak próba powstrzymania biegaczy przed wyjściem poza tor. W wyścigu AGI są ogromne pokusy, by iść na skróty. Te skróty mogłyby sprowadzić naród pozornie szybciej do mety, jednocześnie narażając ten naród i inne narody na nadmierne ryzyko. Subtelny, ale wymowny przykład obejmuje sztuczną inteligencję podwójnego zastosowania, którą zbadałem w link tutaj, dzięki czemu postęp sztucznej inteligencji jest łatwo przełączany z niewielkim wysiłkiem z nakierowania na dobro, na wywoływanie kataklizmowego zła.

Możesz twierdzić, że międzynarodowe przepisy dotyczące sztucznej inteligencji i międzynarodowa etyka sztucznej inteligencji są jak sędziowie lub arbitrzy.

Zakłada się, że te opracowane na szczeblu międzynarodowym mechanizmy prawne i etyczne utrzymają wyścig AGI w bardziej wyrównanym tempie. Chodzi o to, czy poszczególne narody zdecydują się słuchać sędziów, czy arbitrów, to już inna sprawa. Podobnie, pojawia się irytujące pytanie, w jaki sposób władze te mogą zapewnić kary lub zachęty, aby utrzymać biegaczy na właściwej drodze. Szanse są takie, że narody zrobią to, co chcą, a inne narody mogą potrzebować zmienić swoją wagę, aby wzmocnić poparcie dla łamania zasad poza ścieżką, które niektóre narody są zobowiązane podjąć.

Wnioski

Ludwik Pasteur, legendarny chemik i mikrobiolog, powiedział: „Nauka nie zna kraju, ponieważ wiedza należy do ludzkości i jest pochodnią, która oświetla świat. Nauka jest najwyższą personifikacją narodu, ponieważ ten naród pozostanie pierwszym, który niesie najdalsze dzieła myśli i inteligencji”.

Czy możemy powiedzieć, że osiągnięcie AGI nie zna kraju i że AGI będzie należeć do całej ludzkości?

A może naród, który jako pierwszy przybędzie do AGI, będzie go zaborczy, upijając się nikczemną władzą i oszalał na punkcie władzy?

Dla tych z was, którzy lubią trochę zwariować w tej konkretnej zagadce, pomyślcie, że AGI może samo w sobie być rodzajem osiągnięcia, jakim jest przysłowiowy wąż w trawie. Odkrywca węża może być pierwszym, który zostanie ugryziony przez węża. Bycie pierwszym wiąże się z ryzykiem.

Przekroczenie linii mety na AGI niekoniecznie będzie tak uroczyste i beztroskie, jak niektórzy mogą sądzić. Również wykorzystanie AGI nie będzie łatwe. Niektórzy mogą argumentować, że radzenie sobie z AGI może być prawie niemożliwe, ponieważ AGI wydaje się mieć porównywalną przebiegłość i pomysłowość, jaką ma ludzkość. Narody powinny być świadome tego, co chcą osiągnąć i jaki będzie wynik, robiąc to zawczasu i nie dając się zaskoczyć. Mogą mieć gniazdo szerszeni w swojej narodowej skrzyni skarbów.

Jak zaproponował Pasteur: „Fortuna sprzyja przygotowanemu umysłowi”.