Meta AI ujawnia natchnionego AI dyplomatycznego czarownika, który miesza etykę AI i prawo AI w niedelikatny spór

Szanowany świat uroku i dyplomacji jest często naznaczony niedelikatnością i nieuprzejmością.

Will Rogers, wielki humorysta i komentator społeczny, powiedział, że dyplomacja to sztuka mówienia „Miły piesek”, dopóki nie znajdziesz kamienia.

Oczywista implikacja polega na tym, że czasami trzeba ostro powstrzymywać wszelkie zbliżające się i zagrażające siły, dopóki nie znajdziesz odpowiedniego rozwiązania, które można obronić. Rób to, co musisz zrobić, gdy jesteś w rozpaczliwej sytuacji. Świadomie i celowo ułagodź tych, którzy ci zagrażają, używając kojących i zachwycających słów, zdobywając cenny czas, aby uzbroić się w bardziej praktyczną i wyraźnie namacalną postawę.

REKLAMA

Niektórzy twierdzą, że wojna jest nierozerwalnie wynikiem nieudanej dyplomacji. Z tego rozważanego punktu widzenia ciągłe bębnienie dyplomacji zapobiegnie wojnie. Mów dalej, a walki się nie rozpoczną. Inni gorąco nie zgadzają się z tak problematyczną opinią. Być może, jak mówi się, dyplomacja jest tym, co wpędza nas w wojny. Co więcej, dyplomacja może przedłużać wojny i podtrzymywać je w nieskończoność.

Damy Willowi Rogersowi kolejną szansę, by posmakować trochę humoru w kwestii, czy dyplomacja jest dobra czy zła, jeśli chodzi o nadejście lub kontynuację wojny: podobno zadeklarowany).

Powszechna definicja dyplomacji podkreśla relacje między narodami. Dyplomaci reprezentują określone narody lub państwa narodowe i wykonują dyplomację podczas wykonywania swoich uświęconych obowiązków. Oczekujemy, że nasi dyplomaci będą przekazywać swoją politykę zagraniczną za pomocą pewności siebie. Posłaniec nie powinien być tym, który wywołuje wrogość, może to zrobić tylko wiadomość. Przypuszczalnie bezbłędne dyplomatyczne przedstawienie nawet najbardziej rażących wiadomości może wyraźnie złagodzić cios wynikający z szkodliwego żądania lub groźby.

REKLAMA

Oczywiście dyplomacja nie ogranicza się wyłącznie do wzniosłej pracy sformalizowanych dyplomatów. Śmiem twierdzić, że w naszym codziennym życiu wszyscy musimy zachować pozory dyplomacji. Jeśli chcesz, aby przyjaciel opiekował się Twoim ukochanym psem podczas podróży służbowej, z pewnością złożysz dyplomatyczną prośbę o opiekę nad psiakiem. Otwarte żądanie, aby to zrobić, prawdopodobnie wyląduje z głuchym łoskotem.

Prawdopodobnie będąc bardziej sztuką niż nauką, dyplomacja jest czymś, czego ludzie używają do smarowania poślizgów, utrzymywania włączonych świateł i zapobiegania całkowitemu szaleństwu społeczeństwa. Negocjacje wchodzą w grę. Może zaistnieć potrzeba uspokojenia. Czasami używasz marchewki, czasami kija. Jeśli musisz to zrobić, możesz spróbować tak zwanej dyplomacji kanonierki, w której próbujesz zastraszyć innych wokół siebie. Lub zamiast silnej ręki możesz wybrać łagodniejszą drogę mediacji i pomocy humanitarnej. To wszystko zależy.

Ok, więc wszyscy jesteśmy skłonni zgodzić się, że dyplomacja jest istotną formą komunikacji międzyludzkiej. Składa się z praktyki lub kunsztu scenicznego związanego z taktem, mediacją, negocjacjami, koncyliacją i mnóstwem społecznie zręcznej polityki.

REKLAMA

Dodajmy coś jeszcze do tego równania.

Czy jesteś gotowy?

Zamierzamy dodać coś jeszcze, o czym być może już myślałeś.

Sztuczna inteligencja (AI).

Tak, sztuczna inteligencja wchodzi w grę dyplomacji. Wydaje się to całkowicie rozsądne. Jeśli sztuczna inteligencja ma być zanurzona we wszystkich aspektach naszego życia, dyplomacja musiała w końcu nadejść. Można by się spodziewać, że sztuczna inteligencja będzie w stanie wykonywać wszelkie swoje obowiązki, używając odpowiednich słów i manier dyplomatycznych.

REKLAMA

AI jako autonomiczny lub półautonomiczny dyplomata.

Zdaję sobie sprawę, że może się to wydawać dość zniechęcające i całkowicie przerażające. Nie sądzę, aby ktokolwiek z nas był gotowy na to, by AI krążyła jako przedstawicielka naszych krajów. Wyobraź sobie sztuczną inteligencję służącą w naszym imieniu do negocjowania naszych międzynarodowych stanowisk i potwierdzania naszej globalnej postawy politycznej. Tak! To jest materiał z tych apokaliptycznych opowieści science-fiction.

Cóż, odetchnij przez chwilę z ulgą, ponieważ na razie tego nie ma w kartach.

Zamiast tego pomyśl o sztucznej inteligencji, której używasz do obsługi bankowej lub która pomaga ci w zakupie domu. Dzisiejsza sztuczna inteligencja, która wchodzi w interakcje z ludźmi, jest zwykle dość prosta. Sięgnij do faktów, tylko faktów. Niektóre AI zostały zamrożone uroczymi sformułowaniami, abyś pomyślał, że jest przyjazny lub kumpel, choć szybko to widać. Tylko dlatego, że system sztucznej inteligencji odnosi się do ciebie po imieniu lub emituje słowa takie jak „cześć” zamiast „cześć”, większość z nas od razu zdaje sobie sprawę, że to farsa.

Kolejnym krokiem, który jest gorliwie realizowany w salach twórców sztucznej inteligencji, jest próba wprowadzenia cech dyplomatycznych do naszej codziennej sztucznej inteligencji. Nadrzędnym celem jest włączenie aspektów programowych, które sprawią, że sztuczna inteligencja będzie prezentować dyplomację i zachowania podobne do dyplomacji. Wykorzystując różnorodne algorytmy, a zwłaszcza najnowsze generatywne AI lub modele dużych języków (LLM), poczyniono znaczne postępy na tym froncie.

REKLAMA

Przyjrzymy się jednemu z takich przykładów, CICERO, nowemu systemowi AI wydanemu przez zespół Meta AI.

Jeśli byłeś na wakacjach i nie nadążałeś za najnowszymi wiadomościami na temat sztucznej inteligencji, niedawne ogłoszenie i odsłonięcie systemu sztucznej inteligencji ukutego jako CICERO stanowi znaczący drogowskaz tego, gdzie obecnie znajduje się arena dyplomacji nasyconej sztuczną inteligencją. W trosce o ich uznanie zespół Meta AI otwarcie udostępnił swój opracowany system CICERO AI. Możesz przeczytać szczegóły techniczne w opublikowanym artykule badawczym na temat nauka, Patrz link tutaj. Możesz odwiedzić stronę internetową, którą utworzyli, aby delikatnie przekazać ogólne niuanse CICERO za pomocą krótkich klipów wideo ilustrujących, co robi (patrz link tutaj). Dla tych z Was, którzy szukają rzeczywistego kodu programu i oprogramowania, kod źródłowy można znaleźć na GitHub pod adresem link tutaj.

Chcę szybko wyjaśnić jeden aspekt, który może wydawać się mylący, jeśli zdecydujesz się zagłębić w tę sprawę.

Konkretny system sztucznej inteligencji opracowany przez Meta AI jest obecnie skonfigurowany do grania w dość popularną grę znaną jako Dyplomacja (być może widziałeś grę planszową według Hasbro i innych twórców gier). Wspominam o tym, ponieważ słowo „dyplomacja” będzie miało w tej sytuacji podwójne znaczenie. Z jednej strony wymyślona sztuczna inteligencja próbuje tchnąć cechy przedsięwzięcia i wyświetlić dyplomacja jako taki. Tymczasem sceneria, w której rozgrywa się ten konkretny system sztucznej inteligencji, to granie konkretnie i tylko (na razie) w słynną grę planszową znaną jako Dyplomacja.

Czy widzisz, jak to potencjalnie wprawi w zakłopotanie niektórych ludzi?

Jeśli ktoś mówi ci, że ta konkretna sztuczna inteligencja naprawdę dobrze sobie radzi w „dyplomacji”, możesz nie być pewien, czy odnosi się to do poglądu, że sztuczna inteligencja jest dość biegła w grze planszowej znanej jako Dyplomacja a może zamiast tego sugerują, że sztuczna inteligencja ucieleśnia podstawową esencję związaną z aktem dyplomacji ludzkości. Ponadto może się zdarzyć, że oba aspekty mają na myśli w tym samym czasie (mianowicie sztuczna inteligencja dobrze sobie radzi w graniu Dyplomacja i jednocześnie dobrze radzi sobie z umiejętnością wykonywania lub prezentowania dyplomacji jako umiejętności lub czynu).

REKLAMA

Tutaj spróbuję to wyprostować, pisząc pierwszą literę wielką literą i pokazując kursywą nazwę gry planszowej, Dyplomacja. Przez resztę czasu będę używał sformułowania „dyplomacja” pisanego bez kursywy jako wskazania ogólnej koncepcji bycia dyplomatą lub okazywania dyplomacji (patrz, właśnie to zrobiłem).

Wracając do omawianej sprawy, możesz się przez chwilę zastanowić, czy sztuczna inteligencja wykazująca dyplomację jest czymś, czego powinniśmy pragnąć, czy zamiast tego unikać.

Istnieje wiele pozytywnych aspektów zachęcania sztucznej inteligencji do zaprezentowania dyplomacji. Żyłbyś w płytkiej bańce, by założyć, że dyplomacja wprowadzająca sztuczną inteligencję będzie całkowicie i wyłącznie dobrą rzeczą. Sztuczna inteligencja, która wydaje się mieć umiejętności dyplomatyczne i może sprawić, że uwierzymy, że je posiada, jest również pełna niepokojących problemów, które musimy wydobyć na pierwszy plan. Zasadniczo sztuczna inteligencja używana w ten sposób rodzi mnóstwo pytań dotyczących etyki sztucznej inteligencji i prawa AI. Osoby zainteresowane etyką sztucznej inteligencji i prawem sztucznej inteligencji mogą zapoznać się z moją obszerną i bieżącą relacją na temat etycznej sztucznej inteligencji i prawa sztucznej inteligencji na stronie link tutaj i link tutaj, żeby wymienić tylko kilka.

Zanim przejdę do sztucznej inteligencji jako ucieleśnienia jakiejś formy dyplomacji, chciałbym najpierw położyć kilka podstawowych podstaw na temat sztucznej inteligencji, a zwłaszcza etyki sztucznej inteligencji i prawa AI, robiąc to, aby upewnić się, że dyskusja będzie miała kontekst.

REKLAMA

Rosnąca świadomość etycznej sztucznej inteligencji, a także prawa AI

Niedawna era sztucznej inteligencji była początkowo postrzegana jako AI na dobre, co oznacza, że ​​możemy wykorzystać sztuczną inteligencję dla polepszenia ludzkości. Na piętach AI na dobre przyszła świadomość, że my również jesteśmy zanurzeni AI na złe. Obejmuje to sztuczną inteligencję, która została wymyślona lub samodzielnie zmodyfikowana, aby była dyskryminująca i dokonuje wyborów obliczeniowych, które nasycają niepotrzebne uprzedzenia. Czasami sztuczna inteligencja jest zbudowana w ten sposób, podczas gdy w innych przypadkach skręca w to niesprzyjające terytorium.

Chcę być całkowicie pewien, że jesteśmy na tej samej stronie co do natury dzisiejszej sztucznej inteligencji.

Nie ma dzisiaj sztucznej inteligencji, która byłaby świadoma. Nie mamy tego. Nie wiemy, czy rozumna sztuczna inteligencja będzie możliwa. Nikt nie jest w stanie trafnie przewidzieć, czy osiągniemy czującą sztuczną inteligencję, ani czy świadoma sztuczna inteligencja w jakiś cudowny sposób spontanicznie pojawi się w formie obliczeniowej supernowej poznawczej (zwykle nazywanej osobliwością, zobacz moje sprawozdanie na link tutaj).

Rodzaj sztucznej inteligencji, na którym się skupiam, składa się z nieodczuwającej sztucznej inteligencji, którą mamy dzisiaj. Gdybyśmy chcieli szaleńczo spekulować na temat czującej sztucznej inteligencji, ta dyskusja mogłaby pójść w radykalnie innym kierunku. Czująca sztuczna inteligencja podobno miałaby ludzką jakość. Musisz wziąć pod uwagę, że czująca sztuczna inteligencja jest poznawczym odpowiednikiem człowieka. Co więcej, ponieważ niektórzy spekulują, że możemy mieć superinteligentną sztuczną inteligencję, można sobie wyobrazić, że taka sztuczna inteligencja może być mądrzejsza od ludzi (dla moich badań superinteligentnej sztucznej inteligencji jako możliwości, zobacz zasięg tutaj).

REKLAMA

Zdecydowanie sugerowałbym, abyśmy trzymali się rzeczy na ziemi i rozważyli dzisiejszą obliczeniową, nieczułą sztuczną inteligencję.

Uświadom sobie, że dzisiejsza sztuczna inteligencja nie jest w stanie „myśleć” w żaden sposób na równi z ludzkim myśleniem. Kiedy wchodzisz w interakcję z Alexą lub Siri, możliwości konwersacyjne mogą wydawać się zbliżone do ludzkich, ale w rzeczywistości są one obliczeniowe i brakuje im ludzkiego poznania. W najnowszej erze sztucznej inteligencji szeroko wykorzystano uczenie maszynowe (ML) i głębokie uczenie (DL), które wykorzystują dopasowywanie wzorców obliczeniowych. Doprowadziło to do systemów sztucznej inteligencji, które wyglądają na skłonności podobne do ludzkich. Tymczasem nie ma dziś sztucznej inteligencji, która miałaby pozory zdrowego rozsądku, ani żadnego poznawczego zdumienia, które wiąże się z solidnym ludzkim myśleniem.

Bądź bardzo ostrożny, antropomorfizując dzisiejszą sztuczną inteligencję.

ML/DL to forma dopasowywania wzorców obliczeniowych. Typowe podejście polega na gromadzeniu danych o zadaniu decyzyjnym. Wprowadzasz dane do modeli komputerowych ML/DL. Modele te dążą do znalezienia wzorców matematycznych. Po znalezieniu takich wzorców, jeśli takowe zostaną znalezione, system AI użyje tych wzorców podczas napotkania nowych danych. Po przedstawieniu nowych danych wzorce oparte na „starych” lub historycznych danych są stosowane do wydania aktualnej decyzji.

Myślę, że możesz odgadnąć, dokąd to zmierza. Jeśli ludzie, którzy podejmowali wzorcowe decyzje, wprowadzali niepożądane uprzedzenia, istnieje prawdopodobieństwo, że dane odzwierciedlają to w subtelny, ale znaczący sposób. Uczenie maszynowe lub głębokie dopasowywanie wzorców obliczeniowych będzie po prostu próbować odpowiednio naśladować dane matematycznie. Nie ma pozorów zdrowego rozsądku lub innych świadomych aspektów modelowania stworzonego przez sztuczną inteligencję per se.

REKLAMA

Co więcej, twórcy sztucznej inteligencji również mogą nie zdawać sobie sprawy z tego, co się dzieje. Tajemna matematyka w ML/DL może utrudnić wykrycie obecnie ukrytych uprzedzeń. Można by mieć słuszną nadzieję i oczekiwać, że twórcy sztucznej inteligencji przetestują potencjalnie ukryte uprzedzenia, choć jest to trudniejsze, niż mogłoby się wydawać. Istnieje spora szansa, że ​​nawet przy stosunkowo obszernych testach, w modelach dopasowywania wzorców ML/DL nadal będą obecne błędy systematyczne.

Mógłbyś nieco użyć słynnego lub niesławnego powiedzenia „śmieci-w-śmieci-wyrzucić”. Chodzi o to, że jest to bardziej zbliżone do uprzedzeń, które podstępnie są wprowadzane jako uprzedzenia zanurzone w sztucznej inteligencji. Algorytm podejmowania decyzji (ADM) AI aksjomatycznie staje się obciążony nierównościami.

Niedobrze.

Wszystko to ma szczególnie istotne implikacje w zakresie etyki sztucznej inteligencji i oferuje przydatne wgląd w wyciągnięte wnioski (nawet zanim wszystkie lekcje się wydarzą), jeśli chodzi o próby uregulowania AI.

REKLAMA

Oprócz ogólnego stosowania zasad etyki AI, istnieje odpowiednie pytanie, czy powinniśmy mieć prawa regulujące różne zastosowania AI. Na szczeblu federalnym, stanowym i lokalnym ogłaszane są nowe przepisy, które dotyczą zakresu i charakteru tego, jak należy opracowywać sztuczną inteligencję. Wysiłki zmierzające do opracowania i uchwalenia takich ustaw są stopniowe. Etyka AI służy przynajmniej jako przemyślana prowizorka i prawie na pewno do pewnego stopnia zostanie bezpośrednio włączona do tych nowych przepisów.

Należy pamiętać, że niektórzy stanowczo twierdzą, że nie potrzebujemy nowych przepisów obejmujących sztuczną inteligencję i że nasze istniejące przepisy są wystarczające. Ostrzegają, że jeśli wprowadzimy w życie niektóre z tych praw dotyczących sztucznej inteligencji, zabijemy złotą gęś, ograniczając postępy w sztucznej inteligencji, które oferują ogromne korzyści społeczne.

W poprzednich kolumnach omówiłem różne krajowe i międzynarodowe wysiłki mające na celu stworzenie i uchwalenie przepisów regulujących sztuczną inteligencję, patrz link tutaj, na przykład. Omówiłem również różne zasady i wytyczne dotyczące etyki sztucznej inteligencji, które różne narody zidentyfikowały i przyjęły, w tym na przykład działania ONZ, takie jak zbiór etyki sztucznej inteligencji UNESCO, który przyjęło prawie 200 krajów, zob. link tutaj.

REKLAMA

Oto pomocna lista kluczowych kryteriów lub cech etycznej sztucznej inteligencji dotyczących systemów sztucznej inteligencji, które wcześniej dokładnie zbadałem:

• Przezroczystość
• Sprawiedliwość i uczciwość
• Nieszkodzenie
• Odpowiedzialność
• Prywatności
• Dobroczynność
• Wolność i autonomia
• Zaufaj
• Zrównoważony rozwój
• Godność
• Solidarność

Te zasady etyki AI mają być poważnie wykorzystywane przez programistów AI, wraz z tymi, którzy zarządzają wysiłkami na rzecz rozwoju sztucznej inteligencji, a nawet tymi, którzy ostatecznie realizują i wykonują konserwację systemów AI.

Wszyscy interesariusze w całym cyklu rozwoju i użytkowania sztucznej inteligencji są uważani za przestrzegających ustalonych norm etycznej sztucznej inteligencji. Jest to ważna informacja, ponieważ zwykle przyjmuje się, że „tylko koderzy” lub ci, którzy programują sztuczną inteligencję, podlegają zasadom AI Ethics. Jak podkreślono wcześniej, potrzeba wioski, aby opracować i wykorzystać sztuczną inteligencję, a cała wioska musi być zaznajomiona i przestrzegać zasad etyki AI.

REKLAMA

Niedawno zbadałem również Karta praw AI który jest oficjalnym tytułem oficjalnego dokumentu rządu USA zatytułowanego „Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People”, który był wynikiem rocznej pracy Biura ds. Polityki Nauki i Technologii (OSTP ). OSTP jest podmiotem federalnym, który służy doradzaniu prezydentowi USA i amerykańskiemu Biuru Wykonawczemu w różnych technologicznych, naukowych i inżynieryjnych aspektach o znaczeniu krajowym. W tym sensie można powiedzieć, że ta Karta Praw AI jest dokumentem zatwierdzonym i zatwierdzonym przez istniejący Biały Dom Stanów Zjednoczonych.

W Karcie Praw AI jest pięć kluczowych kategorii:

• Bezpieczne i skuteczne systemy
• Algorytmiczne zabezpieczenia przed dyskryminacją
• Prywatność danych
• Uwaga i wyjaśnienie
• Ludzkie alternatywy, rozważenie i rozwiązanie awaryjne

Dokładnie przejrzałem te wskazania, zobacz link tutaj.

REKLAMA

Teraz, gdy położyłem pomocne podstawy na te powiązane tematy związane z etyką sztucznej inteligencji i prawem sztucznej inteligencji, jesteśmy gotowi, aby przejść do mocnego tematu dyplomacji maszynowej opartej na sztucznej inteligencji.

Dyplomacja AI w całej okazałości, a także potencjalny upadek

Po pierwsze, ustalmy, że rozważanym tutaj typem sztucznej inteligencji jest nierozumna sztuczna inteligencja.

Mówię to, ponieważ jeśli, lub niektórzy twierdzą jeśli chodzi o komunikację i motywację dotrzemy do świadomej sztucznej inteligencji, cały temat prawdopodobnie zostanie całkowicie wywrócony do góry nogami. Wyobraź sobie potencjalny chaos i zamieszanie społeczne związane z tym, że w jakiś sposób wylądowałem w czymś, czego nigdy wcześniej nie widziano w sposób niekwestionowany sztuczny inteligencję, która ucieleśnia zdolność odczuwania (moja analiza słynnego testu sztucznej inteligencji, znanego jako test Turinga, zob link tutaj). Możesz postawić uzasadniony zakład, że wiele z naszych istniejących norm kulturowych, prawnych i codziennych zostanie ogromnie wstrząśniętych do głębi.

Być może czująca sztuczna inteligencja będzie naszym kumplem, a może czująca sztuczna inteligencja będzie naszym najgorszym wrogiem. Jak będziemy w stanie stwierdzić, w którą stronę pójdzie sztuczna inteligencja?

Możesz pokusić się o zasugerowanie, że prawdopodobnie będziemy w stanie porozmawiać z AI i dowiedzieć się, na podstawie tego, co mówi, jakie ma intencje. Aha, wpadłeś w niepokojącą pułapkę. Załóżmy, że sztuczna inteligencja jest szczególnie dobrze nasycona jakąś formą zdolności dyplomatycznych sztucznej inteligencji. Kiedy spróbujesz porozmawiać z sztuczną inteligencją, być może przemówi ona w najbardziej czarujący i elokwentny sposób. To może być bardzo kojące dla ludzkości.

REKLAMA

Ale czy to naprawdę „myśli” sztuczna inteligencja w odniesieniu do swoich intencji obliczeniowych opartych na sztucznej inteligencji?

Sztuczna inteligencja może wykonywać klasyczny dyplomatyczny cios jeden-dwa. Porozmawiaj o dobrej grze i przekonaj nas, że sztuczna inteligencja jest naszym najlepszym kumplem. Może to dać AI czas na zgromadzenie zasobów, aby wyprzedzić ludzkość, lub być może pilną pracę za kulisami, aby podkopać wszystko inne, czego używamy do utrzymania ludzkości. Po tym sprytnym dyplomatycznym straganie, bum, sztuczna inteligencja powala nas wszystkich.

Pamiętaj, co powiedział Will Rogers, co w tym przypadku może oznaczać, że sztuczna inteligencja mówi nam „Miły piesek”, a my dajemy AI wystarczającą swobodę oddechu, aby następnie wymazać nas z planety. Ta koncepcja sztucznej inteligencji jako egzystencjalnego ryzyka od dawna jest rozpowszechniana. Niektórzy uważają, że opracowując sztuczną inteligencję z natchnieniem dyplomacji, dostaniemy się w snookera. Sztuczna inteligencja sprytnie użyje wszystkich natchnionych rzeczy dyplomatycznych, na których pomogliśmy wyszkolić sztuczną inteligencję, a na koniec zostaniemy ślepo oszukani, by sztuczna inteligencja stała się naszym zwierzchnikiem.

Wstyd nam.

Dla tych z was, którzy są bardziej zainteresowani tym wysoce spekulatywnym terenem na temat futurystycznej sztucznej inteligencji, zobacz moje relacje z perspektywy sztucznej inteligencji jako egzystencjalnego zagrożenia na link tutaj.

REKLAMA

Wracając na ziemię, odtąd będę podkreślał drogę dyplomacji nasyconej sztuczną inteligencją w naszej istniejącej nieświadomej sztucznej inteligencji.

Zróbmy trochę śledzenia historii.

Próby opracowania sztucznej inteligencji, która w jakiś sposób ucieleśnia obliczeniowy smak dyplomacji i zachowań dyplomatycznych, trwają od początków sztucznej inteligencji. Możesz łatwo cofnąć się do lat 1950., 1960. i 1970. XX wieku i znaleźć podstawowe badania naukowe, które chętnie zastosowały sztuczną inteligencję w tej dziedzinie. Niektórzy uważali, że kluczem jest teoria gier. Inni skupiali się na psychologii i powiązanych elementach poznawczych. Inni próbowali wykorzystać ekonomię, badania operacyjne i niezliczone pozornie istotne dziedziny przedsięwzięć.

Początkowy rozkwit nastąpił później w latach 1980. W tamtym czasie dominującym podejściem było wykorzystanie systemów eksperckich (ES) lub systemów opartych na wiedzy (KBS) do budowy systemów AI związanych z dyplomacją. Wynik był raczej sztywny i miał tendencję do pokazywania, jak trudne będzie to zadanie.

REKLAMA

Jedną z dręczących zagadek w tej erze wstępnych dochodzeń była potrzeba niezawodnej platformy, na której lub w ramach której sztuczna inteligencja, która rzekomo byłaby zdolna do działania w pewien sposób związany z dyplomacją, mogłaby zostać odpowiednio przetestowana i zbadana. Ta potrzeba jest chyba oczywista. Jeśli ktoś chce rozeznać, czy człowiek, czy sztuczna inteligencja może uprawiać dyplomację, musi stworzyć środowisko sprzyjające temu zadaniu.

Na tym zdjęciu pojawia się gra planszowa Dyplomacja.

Zdaję sobie sprawę, że gra planszowa Dyplomacja nie jest tak dobrze znany jak monopol, Ryzykolub Stratego (prawdopodobnie słyszałeś o tych grach). Niemniej jednak istnieje strategiczna gra planszowa znana jako Dyplomacja który został po raz pierwszy opracowany w 1954 roku i wprowadzony na rynek w 1959 roku. Oprócz gry twarzą w twarz, Dyplomacja gra była często rozgrywana za pośrednictwem poczty ślimakowej. Zapisałeś swoje ruchy na kartce papieru i wysyłałeś pocztą do tych, przeciwko którym grałeś. Trochę szalone, aby sobie to wyobrazić w dzisiejszych czasach. Później używano poczty elektronicznej. Ostatecznie gra była dostępna online i pozwalała graczom uczestniczyć ze sobą w czasie rzeczywistym.

W dniu Dyplomacja gra stała się dostępna na mikrokomputery, specjaliści od sztucznej inteligencji zaczęli używać tej gry jako wygodnego środka do testowania swoich mikstur dyplomatycznych opartych na sztucznej inteligencji. The Dyplomacja gra była dostępna jako aplikacja działająca na komputerach PC, dzięki czemu człowiek mógł grać przeciwko maszynie (tj. wymyślonej sztucznej inteligencji). Sztuczna inteligencja w latach 1990., która została napisana do grania Dyplomacja był notorycznie powolny, tajemniczy i łatwy do pokonania przez prawie każdego minimalnie doświadczonego człowieka grającego w gry.

REKLAMA

Oto recenzja z 1999 roku Dyplomacja jak opublikowano na Yahoo, który obrazowo opisał smutny stan nieszczęścia zdolności dyplomatycznych nasyconych sztuczną inteligencją jako ludzkiego gracza:

• "Jednak, DyplomacjaNajbardziej rażącym problemem jest to, że sztuczna inteligencja w grze jest absolutnie okropna. Gracze na każdym poziomie umiejętności nie będą mieli żadnych problemów z wielorybnictwem na komputerze nawet na najwyższym poziomie trudności. Zwycięstwo to po prostu kwestia czasu i cierpliwości do interfejsu. To nie tak, że komputer nie knuje za twoimi plecami – robi to i często współpracuje z sojusznikami, aby odebrać ci terytorium lub dwa – ale takie plany pojawiają się zrywami, a nie ciągłymi lub szczególnie trudne zagrożenie”.

Szczególnie irytującą słabością projektu AI było to, że wydawało się, że brakuje mu zdolności do obliczania wielu ruchów lub strategii jednocześnie: „A na bardziej podstawowym poziomie komputer wydaje się niezdolny do zarządzania wieloma strategicznymi ruchami. Podczas gdy człowiek może jednocześnie przeprowadzać ataki na Grecję i Belgię, komputer zawsze wydaje się skupiać tylko na jednej rzeczy naraz. Z tego powodu komputer po prostu nie może konkurować z ludzkim graczem” (tamże).

Nie wyjaśniłem ci jeszcze, o co chodzi Dyplomacja składa się gra planszowa, więc poświęćmy chwilę na ustalenie podstawowych zasad.

Jest tam przydatny artykuł naukowy na temat sztucznej inteligencji i grania Dyplomacja który zwięźle opisywał charakter gry: „Gra toczy się na mapie Europy w roku 1901, która jest podzielona na 75 prowincji. Każdy gracz gra jednym z siedmiu wielkich mocarstw tamtych czasów: Austrią (AUS), Anglią (ENG), Francją (FRA), Niemcami (GER), Włochami (ITA), Rosją (RUS) i Turcją (TUR) i każdy gracz zaczyna się od trzech lub czterech jednostek (armii lub floty), które są rozmieszczone w ustalonych początkowych pozycjach na mapie. W każdej rundzie gry każdy gracz musi „wydać rozkaz” dla każdej ze swoich jednostek, który mówi tym jednostkom, jak poruszać się po mapie i pozwala im podbijać prowincje mapy” (Dave de Jonge, Tim Baarslag, Reyhan Aydogan , Catholijn Jonker, Katsuhide Fujita i Takayuki Ito, „Wyzwanie negocjacji w grze dyplomacji”, Technologie porozumienia: VI Międzynarodowa Konferencja, W 2018)

REKLAMA

Musisz także wiedzieć, jak wygrać i jak przegrać grę: „Niektóre prowincje to tzw. Centra zaopatrzenia a celem graczy jest podbicie tych Centrów Zaopatrzenia. Gracz zostaje wyeliminowany, gdy straci wszystkie swoje Centra Zaopatrzenia, a gracz wygrywa grę, gdy podbije 18 lub więcej z 34 Centrów Zaopatrzenia (zwycięstwo solo). Jednak gra może się również zakończyć, gdy wszyscy pozostali przy życiu gracze zgodzą się na remis” (tamże).

Ufam, że to widzisz Dyplomacja to prosta gra, w której bierze udział maksymalnie siedmiu graczy, którzy próbują strategicznie wymanewrować się nawzajem. Podczas tego manewru gracze mogą naradzać się między sobą, robiąc to tak, aby inni gracze nie wiedzieli, co zamierzają. Akt dyplomatyczny wysuwa się na pierwszy plan, będąc w stanie skłonić innych graczy do realizacji twoich planów. Możesz ujawnić swoje prawdziwe plany, a może nie. Możesz przedstawiać fałszywe plany. Możesz negocjować z innymi graczami. Możesz oszukać innych graczy. Możesz zawierać sojusze z innymi graczami. Itp.

Wszystko jest sprawiedliwe w miłości i wojnie, jak to mówią.

Wybrałem tę konkretną pracę naukową, ponieważ odegrała kluczową rolę w stworzeniu wariantu skomputeryzowanej wersji Dyplomacja nazywa się DipGra służyć jako platforma do testowania zdolności dyplomatycznych opartych na sztucznej inteligencji: „W systemach wieloagentowych chronicznie brakuje współdzielonych domen aplikacji do testowania zaawansowanych modeli badawczych i architektur negocjacji agentów. W tym artykule przedstawiamy przyjazne stanowisko testowe do tego celu. Stanowisko testowe oparte jest na Gra Dyplomacja gdzie zasadniczą rolę odgrywają negocjacje i relacje między uczestnikami” (tamże). To i wiele innych odmian Dyplomacja zostały stworzone i udostępnione do badań i zabawy.

REKLAMA

Naukowcy wyjaśnili, dlaczego w to wierzyli Dyplomacja jest tak przydatną grą do wspomagania misji AI w kierunku dyplomacji nasyconej AI: „Gra w Dyplomacja stanowi doskonały przypadek testowy dla tego typu złożonych negocjacji, ponieważ jest to gra, która zawiera wiele trudności, z którymi trzeba się zmierzyć w rzeczywistych negocjacjach. Obejmuje spełnianie ograniczeń, tworzenie koalicji, teorię gier, zaufanie, a nawet psychologię. Teraz, gdy nowoczesne komputery Chess and Go są już znacznie lepsze od każdego ludzkiego gracza, spodziewamy się tego Dyplomacja zaczną przyciągać większą uwagę jako kolejne wielkie wyzwanie dla informatyki” (tamże).

W skrócie gra planszowa Dyplomacja zapewnia już znany i dość popularny sposób nakłaniania ludzi do działania na różne sposoby dyplomatyczne. Zwykle ludzie grają przeciwko innym ludziom (w tym przypadku maksymalnie siedmiu graczy). Możemy wymyślić sztuczną inteligencję, która próbowałaby przejąć rolę gracza w grze. W ten sposób możesz mieć sześciu ludzkich graczy i jednego gracza AI.

Wyobraź sobie grę Dyplomacja online.

Jeśli nie powiemy ludzkim graczom, że jest wśród nich sztuczna inteligencja, mogą naturalnie założyć, że siódmy gracz jest po prostu kolejnym ludzkim graczem. Aby uniemożliwić ludzkiemu graczowi odgadnięcie, że sztuczna inteligencja gra, możemy ograniczyć aspekty gry do wymagania od wszystkich graczy wysyłania do siebie wiadomości tekstowych. Nie możesz bezpośrednio zobaczyć innych graczy.

REKLAMA

Być może myślisz, że nie różni się to zbytnio od gry w szachy online. Po co tyle zamieszania Dyplomacja jako gra?

Przypomnijmy, że skupiamy się na interakcjach między graczami. Założeniem tej gry jest to, że gracze odwołują się do dyplomacji. To nie przypomina konwencjonalnych szachów. Gdybym opracował aplikację do gry w szachy opartą na sztucznej inteligencji, normalnie grałaby ona przeciwko jednemu człowiekowi. Nie ma żadnych negocjacji ani dyskusji między grającą w szachy sztuczną inteligencją a ludzkim graczem. Po prostu wykonują ruchy szachowe i próbują prześcignąć się nawzajem. Zwykle odbywa się to w całkowitej ciszy.

Dyplomacja pozwala nam na szczerą dyplomację obliczeniową i opartą na ludziach (potencjalnie robiąc to na piśmie, zamiast mówić na głos): „Główna różnica między Dyplomacja i innych deterministycznych grach, takich jak Chess and Go, polega na tym, że w Dyplomacji gracze mogą negocjować ze sobą i tworzyć koalicje. W każdej rundzie, zanim gracze złożą swoje rozkazy, gracze mają czas na negocjacje między sobą i uzgodnienie zleceń, które złożą. Negocjacje odbywają się na osobności, a każda zawarta umowa jest znana tylko zaangażowanym w nią graczom” (tamże).

Czy mógłbyś wymyślić inną grę, która wykorzystuje interaktywną dyplomację zamiast polegać na grze Dyplomacja?

Absolutnie.

REKLAMA

Są różne takie gry.

Wygoda polegająca na wybraniu jednej konkretnej marki gry polega na tym, że twórcy AI mogą skupić swoją uwagę na tej konkretnej grze. Możesz zebrać się wokół opracowywania sztucznej inteligencji, która wykonuje dyplomację w określonym kontekście. Możesz dzielić się podejściami i je zestawiać. Możesz oceniać różne przypadki sztucznej inteligencji na podstawie wskaźników związanych z tą grą. I tak dalej.

Biorąc to pod uwagę, kontrargumentem lub wyrażoną obawą jest to, że jest to jak wkładanie wszystkich jajek do jednego koszyka. Niektórzy martwią się, że wielu programistów AI będzie zajętych jedną konkretną platformą lub środowiskiem, tak jak w tym przypadku Dyplomacja, będą dążyć do optymalizacji sztucznej inteligencji dla tej konkretnej areny. Minusem jest to, że sztuczna inteligencja nie zostanie uogólniona. Nie zrobimy tak dużego postępu w kierunku nadrzędnych możliwości dyplomacji opartej na sztucznej inteligencji.

Trochę jak niewidzenie lasu dla drzew, jeśli wolisz.

Innym często wyrażanym problemem jest to, że gry takie jak Dyplomacja są tylko grami.

REKLAMA

Powstaje drażliwe pytanie, czy ludzie grający w grę robią te same rzeczy, które robiliby w rzeczywistej dyplomacji. Być może nie zachowujesz się w ten sam sposób, gdy duma narodowa lub stawka narodowa nie wchodzą w grę. Jasne, możesz martwić się o swoją osobistą dumę podczas grania w grę, a może próby zostania najlepszym strzelcem, a może nawet wygrywania nagród pieniężnych, ale czy to jest równoznaczne z negocjowaniem pokoju na świecie w ONZ lub targowaniem się o to, które kraje powinien mieć lub nie mieć broni jądrowej.

Niektórzy uważają, że te gry dyplomatyczne są odpowiednimi mikrokosmosami prawdziwego świata. Inni lamentują, że gry są przydatne, ale nie dorównują przysłowiowej dyplomacji międzynarodowego kalibru. Może się zdarzyć, że wersje dyplomacji opartej na sztucznej inteligencji do gry okażą się niczym więcej niż zwykłym sukcesem w grze. Rany, wymyślona sztuczna inteligencja może wygrać lub radzić sobie naprawdę dobrze podczas grania w grę wymagającą dyplomacji, choć okazuje się, że korzystanie z tej samej sztucznej inteligencji w prawdziwych ustawieniach dyplomatycznych jest bardzo słabe i słabnie lub kończy się niepowodzeniem.

Załóżmy na chwilę, że sztuczna inteligencja jest tworzona do grania w gry takie jak Dyplomacja jest rzeczywiście opłacalny. Można rozsądnie argumentować, że bez względu na to, czy nadaje się tylko do gier, czy do akcji w świecie rzeczywistym, pomysł pociąga za sobą poszerzenie granic sztucznej inteligencji i dokonanie postępów w sztucznej inteligencji, które mogą przyczynić się do dyplomacji lub mogą przynieść inne korzystne przełomy w tworzeniu sztucznej inteligencji.

REKLAMA

Na razie faworyzuj buźkę.

Następnie zbadamy, w jaki sposób Meta AI zdecydowała się stworzyć gracza dyplomatycznego nasyconego sztuczną inteligencją, który może działać w grze Dyplomacja.

Trzymaj się swoich czapek.

Meta AI i dyplomacja grająca w maszynowego dyplomatę Cicero

Jak już wspomniałem, jest artykuł naukowy opublikowany w nauka który opisuje nowo ogłoszoną i publicznie opublikowaną aplikację Meta AI, wymyśloną jako Cicero (w tej dyskusji będę zamiennie odnosić się do niej jako „Cicero”, a także pseudonim „CICERO” pisany wielkimi literami):

REKLAMA

• „Przedstawiamy Cicero, agenta AI, który osiągnął wydajność na poziomie człowieka w grze strategicznej Dyplomacja, w Dyplomacja, siedmiu graczy prowadzi prywatne negocjacje w języku naturalnym, aby skoordynować swoje działania, aby zarówno współpracować, jak i konkurować ze sobą. Dla kontrastu, wcześniejsze największe sukcesy wieloagentowej sztucznej inteligencji odniosły w środowiskach czysto rywalizacyjnych, takich jak szachy, go i poker, gdzie komunikacja nie ma żadnej wartości. Z tych powodów, Dyplomacja służył jako trudny punkt odniesienia dla uczenia się wieloagentowego” (Meta Fundamental AI Research Diplomacy Team, „Human-Level Play In The Game Of Diplomacy By Combining Language Models With Strategic Reasoning”, nauka, 22 listopada 2022).

Będę cytował z gazety, a następnie oferował różne spostrzeżenia, które, mam nadzieję, będą dla ciebie interesujące.

Biorąc pod uwagę, że sztuczna inteligencja została właśnie udostępniona, prawdopodobnie przeprowadzę kolejną analizę po tym, jak będę miał okazję przeprowadzić głęboką praktyczną ocenę kodu, a także przeprowadzić kilka eksperymentalnych gier, aby ocenić możliwości sztucznej inteligencji (takie jak kluczowe mocne i słabe strony).

Uważaj na ten późniejszy wpis!

W każdym razie ufam, że mogłeś zauważyć we fragmencie, który właśnie zacytowałem, że istnieje sformułowanie, które mówi, że sztuczna inteligencja „osiągnęła wydajność na poziomie człowieka w grze strategicznej Dyplomacja".

REKLAMA

Przemyśl to.

Po pierwsze, z pewnością godne pochwały jest to, że udało nam się opracować sztuczną inteligencję, która gra Dyplomacja gra na rzekomym poziomie wydajności zbliżonym do ludzi. To jest bardzo ważne.

Mamy dużo Dyplomacja grając w sztuczną inteligencję, która jest poniżej normy w porównaniu z ludźmi, którzy grają w Dyplomacja gra. Więcej niż możesz potrząsnąć kijem. To uspokajające i ekscytujące, aby iść w górę w kierunku sztucznej inteligencji, która może znacznie lepiej grać w tę grę. Musimy jednak zachować ostrożność w wyciąganiu pochopnych wniosków na ten temat.

Załóżmy na przykład, że wymyśliłem sztuczną inteligencję do gry Dyplomacja i porównałem to z ludzkimi graczami, którzy nigdy wcześniej nie grali w tę grę. Jeśli moja sztuczna inteligencja ich pokona, byłoby trochę przesadą stwierdzenie, że moja sztuczna inteligencja działała na poziomie ludzkim. Fakt, że zrobił to z ludźmi, którzy nie byli zaznajomieni z grą, jest nieco podnoszący brwi i wątpliwy.

REKLAMA

Wspominam o tym, aby ostrzec was, aby zawsze dokładnie sprawdzać wszelkie pozornie przesadzone twierdzenia dotyczące sztucznej inteligencji. Wcześniejsza dyskusja na temat etyki sztucznej inteligencji i prawa AI może otworzyć ci oczy na możliwość fałszywych twierdzeń na temat sztucznej inteligencji. Istnieją całkowicie fałszywe twierdzenia i są te podstępne, częściowo prawdziwe i częściowo wprowadzające w błąd twierdzenia, które są szczególnie zawiłe. Kluczem jest pytanie, dlaczego ci, którzy twierdzą, że ich sztuczna inteligencja to robi, robią to.

Gdzie jest wołowina?

Oto, co zespół Meta AI miał do powiedzenia na temat podstaw ich twierdzenia o wydajności na poziomie ludzkim (więcej informacji można znaleźć w dokumencie):

• „Cyceron uczestniczył anonimowo w 40 grach Dyplomacji w lidze „blitz” na stronie webDiplomacy.net od 19 sierpnia do 13 października 2022 r. Ta liga rozgrywała pięciominutowe tury negocjacyjne; te kontrole czasu pozwalały na ukończenie gier w ciągu dwóch godzin. Cicero uplasował się w pierwszej 10% uczestników, którzy rozegrali więcej niż jeden mecz i 2. z 19 uczestników ligi, którzy rozegrali 5 lub więcej meczów. We wszystkich 40 grach średni wynik Cicero wyniósł 25.8%, ponad dwukrotnie więcej niż średni wynik 12.4% z 82 jego przeciwników. W ramach ligi Cicero wziął udział w 8-meczowym turnieju, w którym wzięło udział 21 uczestników, z których 6 rozegrało co najmniej 5 gier. Uczestnicy mogli rozegrać maksymalnie 6 meczy, a ich miejsce w rankingu ustalane było na podstawie średniej z 3 najlepszych meczów. Cyceron zajął w tym turnieju I miejsce” (tamże).

REKLAMA

To wielka ulga, gdy widzę, że w tym przypadku szczerze starali się poprzeć swoje twierdzenia dotyczące sztucznej inteligencji (należy pamiętać, że nie wszyscy w sztucznej inteligencji to robią).

Możesz zasugerować, że przeprowadzili eksperyment. Eksperyment składa się z graczy-ludzi, którzy prawdopodobnie nie wiedzieli, że grają z graczem AI (artykuł omawia, dlaczego wydaje się to wiarygodnie wywnioskować, a mianowicie, że ludzie nie zdawali sobie sprawy, że jeden z graczy jest AI, chociaż interesująca strona styczna zawiera historię jednego gracza, który stał się lekko podejrzliwy, ale nie szczególnie). Ci ludzcy gracze zostali wstępnie wybrani ze względu na charakter projektu eksperymentalnego, tak że byli graczami ligowymi Dyplomacja i możemy rozsądnie wywnioskować, że dobrze wiedzieli, jak grać w tę grę. To nie byli nowicjusze.

Zgodnie z raportowanymi statystykami, które uznamy za prawdziwe i odpowiednio zebrane i zgłoszone (różne dane i kod są podane w materiałach uzupełniających), wydaje się, że sztuczna inteligencja rozegrała grę wystarczająco, aby wyciągnąć wiarygodne, choć wąsko ograniczone wnioski że osiągnął ludzki poziom wydajności dla tego wariantu Dyplomacja mecz i jak w kontekście wspomnianej gry ligowej przeciwko ludziom, którzy byli pozornie doświadczonymi graczami.

Jestem pewien, że niektórzy z was mogą chcieć spierać się o liczbę przypadków grania w tę grę, być może argumentując, że jest ona zbyt mała, aby wygłaszać odważne proklamacje. Innym zastrzeżeniem może być to, że bycie wśród 10% najlepszych uczestników nie jest wystarczająco wysokie, tak że dopóki nie zostanie osiągnięty 1% najlepszych, nie należy chwalić się wydajnością sztucznej inteligencji.

REKLAMA

Te sprzeczki wydają się trochę przenikliwe.

Mówię to, ponieważ na szczęście nie przywołano twierdzenia o byciu „nadczłowiekiem”. Czytelnicy niewątpliwie wiedzą o moim ponurym i kwaśnym spojrzeniu na tych w sztucznej inteligencji, którzy wciąż wygłaszają te przesadne oświadczenia, że ​​ich sztuczna inteligencja osiągnęła status nadludzki. Nie będę wchodził w moje narzekania na nadludzkie roszczenia tutaj zawarte, proszę zobaczyć link tutaj dla moich poglądów.

W tym przypadku chodzi mi o to, że uważam, że wskazanie wydajności na poziomie ludzkim jest prawdopodobnie ogólnie dopuszczalne, zakładając, że wszyscy pamiętają, że jest to w bardzo wąskim kontekście i że nie próbujemy uczynić tego tak zwanym nadludzki. Powtarzam też w kółko ograniczony kontekst z powodu, który zaraz wyjaśnię.

Mogę sobie tylko wyobrazić, że niektórzy naiwni (prawdopodobnie nierzetelni) reporterzy z mediów społecznościowych całkowicie wyjmą z kontekstu koncepcję wydajności na poziomie ludzkim.

Oto czego się boję.

REKLAMA

Wstrzymaj oddech.

Niektórzy powiedzą, że sztuczna inteligencja opanowała dyplomację. Tak, badanie opracowanego systemu sztucznej inteligencji dla dyplomacji dowiodło ponad wszelką wątpliwość, że sztuczna inteligencja może i ma teraz możliwości robienia wszystkiego, co ludzie robią dla dyplomacji.

Wyślij do domu zagranicznych dyplomatów. Możemy je zastąpić sztuczną inteligencją.

Świat, jaki znamy, zmienił się. Stworzyliśmy sztuczną inteligencję, która jest w pełni równa ludziom w dyplomacji i możemy dokonać mentalnego „logicznego” skoku do idei, że sztuczna inteligencja może teraz robić wszystko, co ludzie. Voila, udowodniliśmy, że sztuczna inteligencja dorównuje ludziom. Najwyraźniej badanie to dostarcza jednoznacznych dowodów na istnienie świadomej sztucznej inteligencji.

Zapamiętaj moje słowa, to z pewnością będzie dziwaczne, nieodpowiedzialne, irytujące podejście niektórych pisarzy.

Nie będę drążył tematu. Idziemy dalej.

REKLAMA

Jak działa sztuczna inteligencja?

Oto krótkie podsumowanie artykułu: „Cicero łączy kontrolowany moduł dialogowy z silnikiem strategicznego rozumowania. W każdym momencie gry Cicero modeluje prawdopodobne zachowanie innych graczy na podstawie stanu gry i ich rozmów. Następnie planuje, w jaki sposób gracze mogą koordynować działania z obopólną korzyścią i odwzorowuje te plany na komunikaty w języku naturalnym” (tamże).

W tym krótkim podsumowaniu jest kęs.

Pozwól, że trochę się rozpakuję.

Ludzki gracz, który gra Dyplomacja musi przewidzieć, co zrobią inni gracze. Chcesz spróbować negocjować z innymi graczami i skłonić ich do realizacji twoich planów. Spróbują zrobić to samo z tobą. Mogą cię okłamywać. Może ich okłamujesz. Musisz walczyć z sześcioma innymi graczami, z których każdy ma swoje własne plany i podejście.

REKLAMA

Wieloagentowe aspekty tej gry mają kluczowe znaczenie dla poziomu trudności opracowywania sztucznej inteligencji do gry. Sztuczna inteligencja musi śledzić, co każda osoba może chcieć zrobić, wraz z tym, co mówią, że chcą zrobić, wraz z wszelkimi oszustwami, które robią z innymi graczami. Należy to porównać z tym, co mówią ci, że zamierzają zrobić, a także z tym, co im mówisz, że zrobisz.

Zawrotne, ale zwykle dość łatwe dla ludzi.

W żargonie dziedziny sztucznej inteligencji nazywamy to teorią umysłu (ToM). Weź pod uwagę, że ty, jako człowiek, masz tendencję do teoretyzowania na temat tego, co myślą inni ludzie. Nie możesz podważyć czyjegoś łebka i zobaczyć jego myśli. Musisz odgadnąć, jakie są ich myśli. Możesz ich zapytać, ale to, co ci powiedzą, może być ich myślami lub może być podstępną wersją ich myśli.

Oprócz złożoności Teorii Umysłu, musimy dodać ludzki język do tej mętnej mieszanki.

Kiedy osoba komunikuje się z Tobą w swoim naturalnym języku, powiedzmy po angielsku, jest dużo miejsca na błędy i nieporozumienia. Mówię ci, że zamierzam przejąć kraj X, ale błędnie mówię Y. Ups. A może powiedziałem kraj X, ale błędnie pomyślałeś, że powiedziałem kraj Y. Jeśli myślisz, że tego rodzaju zamieszanie nie może się zdarzyć, jeśli wszyscy używają wiadomości tekstowych, bardzo się mylisz. Mogę napisać wiadomość, która mówi, że zamierzam zaatakować kraj i nie wspominam, który. Być może jest to sugerowane, który z nich „oczywiście” atakowałbym. Gracz, który otrzyma moją wiadomość, może założyć, że muszę pośrednio odnosić się do kraju X, ale może chciałem, żeby tak myśleli.

REKLAMA

Trwa i trwa.

Sedno polega na tym, że nasze najnowsze postępy w sztucznej inteligencji dotyczące przetwarzania języka naturalnego (NLP), a zwłaszcza najnowsze generatywne AI i duże modele językowe (LLM), sprawiają, że tego rodzaju sytuacja języka naturalnego jest prawie wykonalna. W przeszłości NLP zwykle nie było wystarczająco dobre, podobnie jak LLM nie były jeszcze bardziej ugruntowane.

W przeszłości sztuczna inteligencja wysyłała wiadomości, które prawie na pewno natychmiast rozpoznałbyś jako napisane przez oparty na skryptach system sztucznej inteligencji. Sformułowanie nie było płynne. To było szablonowe. To było oczywiste, że sztuczna inteligencja była sztuczną inteligencją. W dzisiejszych czasach znacznie trudniej jest dostrzec, że sztuczna inteligencja nie jest ludzkim graczem w tych kontekstach.

Jak wspomniano w powyższym cytacie, ta konkretna sztuczna inteligencja została zaprojektowana tak, aby zawierała „sterowalny moduł dialogowy ze strategicznym silnikiem wnioskowania” (tamże). Dialog odbywa się w następujący sposób: „Cyceron generuje dialog przy użyciu wcześniej wytrenowanego modelu językowego, który był dalej szkolony na podstawie danych dialogowych z ludzkich gier Dyplomacja. Co najważniejsze, oprócz tego, że był oparty zarówno na historii dialogów, jak i stanie gry, model dialogu został wyszkolony w taki sposób, aby można go było kontrolować za pomocą intencji, które tutaj definiujemy jako zestaw zaplanowanych działań agenta i jego mówiącego partnera.

REKLAMA

Zauważ, że ustawienie domeny jest kluczowe. Gdybyś trenował tylko dialogi o normalnym charakterze w Internecie, niekoniecznie byłoby to odpowiednie dla Dyplomacja kontekst gry. Ci, którzy grają w tę grę, są przyzwyczajeni do pewnego rodzaju skrótowego sposobu omawiania gry i proponowanych ruchów. Chcesz, aby sztuczna inteligencja zrobiła to samo. Dlatego szkolenie modelu językowego na danych dialogowych specyficznych dla domeny jest podejściem godnym uwagi.

Oto, co mówią o podanym silniku rozumowania strategicznego: „Cicero używa modułu rozumowania strategicznego do inteligentnego wybierania intencji i działań. Ten moduł uruchamia algorytm planowania, który przewiduje politykę wszystkich innych graczy w oparciu o dotychczasowy stan gry i dialogi, biorąc pod uwagę zarówno siłę różnych działań, jak i ich prawdopodobieństwo w grach ludzkich, i wybiera optymalną akcję dla Cycerona na podstawie tych przewidywań . Planowanie opiera się na wartościach i funkcjach politycznych wyuczonych przez samogrającą RL, która karała agenta za zbytnie odstępstwo od ludzkiego zachowania w celu utrzymania polityki zgodnej z człowiekiem” (tamże; zwróć uwagę, że RL to skrót od Reinforcement Learning).

Podczas gry wszyscy gracze ponownie kalibrują swoje pozycje po każdym ruchu. Nie możesz przystąpić do tej gry z predefiniowaną, ustaloną strategią, która jest nieelastyczna i niezmienna. Musisz zmienić swoje działania w oparciu o to, co robią inni gracze. Sztuczna inteligencja powinna być zaprogramowana tak, aby robiła to samo. Brak statycznej strategii per se. Zamiast tego obserwuj sytuację, krok po kroku, zastanawiając się, co wydaje się najlepszym następnym krokiem do podjęcia.

Podstawy technologiczne sztucznej inteligencji zostały opracowane w następujący sposób: „Uzyskaliśmy zestaw danych 125,261 XNUMX gier Dyplomacja grał online na webDiplomacy.net. Spośród nich 40,408 12,901,662 gier zawierało dialogi, a łącznie między graczami wymieniono XNUMX XNUMX XNUMX wiadomości. Konta graczy zostały pozbawione elementów umożliwiających identyfikację, a webDiplomacy przeprowadziła zautomatyzowaną redakcję danych osobowych (PII). Odnosimy się do tego zbioru danych dalej jako WebDiplomacy” (ibid).

Podobnie do tego, jak możesz wyszkolić sztuczną inteligencję do gry w szachy, dzięki czemu chwytasz miliony partii szachowych i zmuszasz sztuczną inteligencję do dopasowywania wzorców dotyczących sposobu rozgrywania partii, sztuczna inteligencja do tego Dyplomacja gra była porównywalnie ugruntowana.

Ci z was, którzy znają się na sztucznej inteligencji, mogą być ciekawi, jakich modeli podstawowych użyli, proszę bardzo: „Wzięliśmy R2C2 (22) jako nasz model podstawowy – model enkodera-dekodera oparty na parametrach 2.7B, wstępnie wytrenowany na tekst z Internetu przy użyciu obiektywu do usuwania szumów BART. Podstawowy wstępnie wytrenowany model był następnie dalej szkolony w WebDiplomacy poprzez standardowe oszacowanie maksymalnego prawdopodobieństwa” (ibid).

Co więcej, przyjęli nieco nietypowe i intrygujące podejście do modelowania innych graczy pod kątem ich imputowanej polityki: „Popularnym podejściem w grach kooperacyjnych jest modelowanie polityki innych graczy poprzez nadzorowane uczenie się na danych ludzkich, co jest powszechnie określane jako klonowanie behawioralne (BC). Jednak czysta BC jest krucha, zwłaszcza że nadzorowany model może nauczyć się fałszywych korelacji między dialogiem a działaniami. Aby rozwiązać ten problem, Cyceron użył wariantów piKL (26) do modelowania polityki graczy. piKL jest iteracyjnym algorytmem, który przewiduje polityki, zakładając, że każdy gracz i stara się zarówno zmaksymalizować oczekiwaną wartość swojej polityki πi, jak i zminimalizować rozbieżność KL między πi a polityką BC, którą nazywamy polityką zakotwiczenia τi (tamże).

Myślę, że obejmuje to główne aspekty i daje odpowiedni obraz tego, co robi sztuczna inteligencja i jak wykonuje wyznaczone zadanie.

Wnioski

Jest o wiele więcej rzeczy, o których chciałbym wspomnieć, ale ta dyskusja trwa długo i postaram się omówić tylko kilka kluczowych aspektów. Postaram się opisać więcej w kolejnym poście.

Słyszeliście kiedyś o dylemacie więźnia?

Jest to klasyczny problem decyzyjny.

Dylemat więźnia polega na tym, że musisz zdecydować, czy chcesz wydać na współwięźnia, czy pogadać. Drugi więzień również może cię wydać. Istnieje funkcja nagrody, która polega na tym, że jeśli wydasz drugiego więźnia, a on cię nie wyda, jest to dla ciebie pewnego rodzaju wygrana. Jeśli oni cię wystawią, a ty ich nie wydasz, jest to dla nich pewnego rodzaju wygrana, a dla ciebie postawa przegrana. Jeśli obaj się nawzajem zdradzicie, obaj w zasadzie przegracie. Zobacz moją relację szczegółowo na link tutaj.

Jaką strategię obrałbyś w obliczu dylematu więźnia?

Jeśli to była jednorazowa transakcja, możesz prawie rzucić monetą. Jeśli sytuacja powtarzała się w kółko i miałeś do czynienia z tym samym innym więźniem, możesz znaleźć wzór, który może się pojawić. Jeden z najpopularniejszych i często polecanych wzorów to tzw wet za wet. Cokolwiek zrobi drugi więzień, ty robisz to samo w swoim następnym ruchu. Jeśli oni cię nie wydarzą, ty ich też nie wydasz. Jeśli cię wyda, wydasz ich w następnym ruchu.

Możesz być zdziwiony, jak to wszystko ma się do dyplomacji opartej na sztucznej inteligencji podczas gry Dyplomacja.

Oto oferta.

W negocjacjach z innymi często musisz zdecydować, czy powiedzieć im prawdę, czy skłamać. Problem z kłamstwem polega na tym, że jeśli zostaniesz przyłapany na kłamstwie, druga osoba prawdopodobnie nie będzie ci odtąd ufać. Być może na początku nie ufali ci w pełni, ale teraz, kiedy pokazałeś rękę, że rzeczywiście kłamiesz, z pewnością uznają, że jesteś kłamcą.

Niektórzy gracze z Dyplomacja kłamać nieustannie. Uważają, że to najlepsza strategia. Kłamstwo, kłamstwo i jeszcze raz kłamstwo. Inni gracze idą zupełnym przeciwieństwem. Twierdzą, że chcesz powstrzymać się od kłamstwa, jeśli możesz to zrobić. Używaj kłamstwa tylko w najbardziej potrzebnych sytuacjach. Oszczędzając kłamstwa, jesteś w stanie zbudować zaufanie do innych graczy. Kiedy zejdziesz na kłamliwą ścieżkę i zostaniesz wykryty, nikt nie uwierzy w żadne twoje słowo.

Artykuł opisujący Cycerona wspomina o tym: „Wreszcie dyplomacja jest dziedziną szczególnie wymagającą, ponieważ sukces wymaga budowania zaufania z innymi w środowisku, które zachęca graczy, by nikomu nie ufali. Akcje każdej tury odbywają się jednocześnie po niewiążących, prywatnych negocjacjach. Aby odnieść sukces, agent musi wziąć pod uwagę ryzyko, że gracze mogą nie dotrzymać danego słowa lub że inni gracze mogą sami zwątpić w uczciwość agenta” (tamże).

Zgodnie z artykułem i krótkimi filmami, naukowcy ostatecznie odkryli, że sztuczna inteligencja mówi prawdę tak dużo, jak to możliwe, wydaje się być lepszą ogólną strategią. W pewnym sensie można to porównać do gry wet za wet w dylemat więźnia. Zacznij od mówienia prawdy. Jeśli twój przeciwnik mówi prawdę, ty nadal mówisz prawdę. Jeśli zaczną kłamać, musisz ocenić, czy trzymać się mówienia prawdy, czy przejść na kłamstwo.

Można przypuszczać, że jest to pokrzepiające odkrycie.

Pamiętaj, że trudna i intrygująca część Dyplomacja polega na tym, że robisz to w odniesieniu do sześciu innych graczy (znany jako problem z wieloma agentami). Możesz być z nimi wszystkimi szczery. A może dla niektórych prawdomówny, dla innych nie. Istnieje również aspekt, że gdy skłamiesz i zostaniesz złapany na kłamstwie innemu graczowi, inni gracze mogą to potencjalnie zaobserwować lub wywnioskować. Ergo, jesteś znany lub zakłada się, że kłamiesz, nawet jeśli nie okłamałeś konkretnego gracza, który, jak masz nadzieję, myśli, że jesteś prawdomówny i wobec którego starasz się być prawdomówny.

Ludzie mają tendencję do odkrywania i rozwijania swojego podejścia opartego na kłamstwie i prawdzie podczas uprawiania dyplomacji. Zależności sytuacyjne mogą być ogromnym czynnikiem. Stawki na linii są kluczowe do rozważenia. W grę wchodzi wiele czynników.

Byłoby fascynujące mieć sztuczną inteligencję Dyplomacja Gracze na maszynach rozgrywają bardzo dużą liczbę gier, aby zobaczyć, co mogą sugerować wyniki w głównej mierze.

Możemy również zechcieć zmierzyć SI z mniej niż sześcioma innymi graczami, aby zobaczyć, jak to wszystko zmieni. Moglibyśmy również dodać sztuczną inteligencję do miksu jako więcej niż jednego gracza. Załóżmy na przykład, że mamy pięciu graczy ludzkich i dwóch graczy AI (skonfigurujemy graczy AI jako osobne instancje, aby nie byli obliczeniowo tacy sami). A co z czterema ludźmi i trzema AI? A co z sześcioma AI i jednym człowiekiem?

Inną drogą byłoby postawienie sztucznej inteligencji wyłącznie przeciwko sztucznej inteligencji. W ten sposób moglibyśmy szybko przejść przez gazylion gier. Konfiguracja siedmiu różnych instancji sztucznej inteligencji. Każdy jest osobnym graczem. Ponieważ wszystko to znajduje się w komputerze, możemy je uruchamiać bez przerwy i tworzyć tysiące lub miliony instancji gier.

Oczywiście problem z AI kontra AI polega na tym, że usunęliśmy ludzkich graczy. Nie wiemy, czy sztuczna inteligencja kontra sztuczna inteligencja odzwierciedla to, co zrobiliby ludzie. W każdym razie można dostrzec kilka interesujących wyników.

Wspomniałem wcześniej, że jednym z ograniczeń tego rodzaju sztucznej inteligencji jest to, że jest ona zwykle wąsko ukierunkowana. Nie możemy od razu wiedzieć, że sztuczna inteligencja, która gra Dyplomacja znajdzie zastosowanie w rzeczywistej dyplomacji. Co więcej, może sztuczna inteligencja, która dobrze działa Dyplomacja nie sprawdzi się szczególnie dobrze w innych grach online zorientowanych na dyplomację. Może nie być portowany, a zamiast tego być rodzajem kucyka z jedną sztuczką.

Jak stwierdzono w badaniach nad formułą DipGra:

• „Twierdzimy, że w prawdziwych negocjacjach ważna jest wiedza merytoryczna i trzeba umieć to uzasadnić. Nie można na przykład oczekiwać korzystnych transakcji w branży antykwariatu bez jakiejkolwiek znajomości antyków, bez względu na to, jak dobry jest ktoś w negocjacjach. Co więcej, dobry negocjator powinien również umieć uzasadnić pragnienia swoich przeciwników. Na przykład dobry sprzedawca samochodów próbowałby dowiedzieć się, jaki typ samochodu najlepiej odpowiada potrzebom jego klienta, aby zwiększyć szanse na zawarcie korzystnej transakcji” (zgodnie z cytowanymi wcześniej: Angela Fabregues i Carles Sierra, „DipGame: A Challenging Negotiation Stanowisko testowe”, Inżynierskie Zastosowania Sztucznej Inteligencji, październik 2011).

Po opanowaniu AI w Dyplomacja wystąpi, wszystkie oczy powinny być skierowane na wykorzystanie lub ponowne wykorzystanie sztucznej inteligencji do rozwiązywania innych gier związanych z dyplomacją. Ponadto należy zbadać wysiłki na rzecz wykorzystania sztucznej inteligencji w rzeczywistych warunkach dyplomacji.

Na razie zakończę rozważaniami dotyczącymi etycznej sztucznej inteligencji.

Po pierwsze, pocieszające było odnotowanie, że zespół Meta AI uznał, że ich praca obejmuje konsekwencje związane z etyką sztucznej inteligencji. Pojawiają się otrzeźwiające pytania. Czy właściwe jest „oszukanie” ludzi, aby grali przeciwko sztucznej inteligencji, nie mówiąc im, że to robią? Czy naturalny język generowany przez sztuczną inteligencję może przypadkowo zawierać obraźliwe sformułowania, które zostaną przekazane ludzkim graczom? I tak dalej.

Koniecznie zobacz, jak poradzili sobie z palącymi problemami etycznej sztucznej inteligencji w materiałach uzupełniających (SM) ich artykułu: „W dalszej części SM omawiamy kwestie etyczne związane z tymi badaniami, w tym kwestie prywatności dotyczące wykorzystania danych (SM, § A.1), potencjalne szkody wynikające z toksycznego lub stronniczego generowania języka (SM, §A.2), możliwości niewłaściwego wykorzystania technologii dialogu zorientowanego na cel (SM, §A.3) oraz ujawnianie agentów AI ludzkim graczom (SM, §A.4) , §A.XNUMX)” (tamże).

Potrzebujemy więcej programistów sztucznej inteligencji i ich przywództwa, aby byli świadomi etycznej sztucznej inteligencji i podejmowali rozważne kroki, aby zachować ostrożność i rozsądek w pracy związanej z sztuczną inteligencją, którą wykonują. Ponadto muszą upewnić się, że przejrzyście informują o tym, jakie działania etycznej sztucznej inteligencji podjęli i jakie przyjęli założenia.

Moja ostatnia pozycja na razie pociąga za sobą ogólny niepokój antropomorfizujący AI.

Jeśli udoskonalimy sztuczną inteligencję, aby wyglądała na zawziętą dyplomatyczną, czy to nie skłoni ludzi do założenia lub przekonania, że ​​sztuczna inteligencja dorównuje ludziom pod każdym względem?

Jest to łatwe śliskie zbocze. Niezgrabna sztuczna inteligencja, z którą wchodzisz w interakcję, zdradza charakterystyczną wskazówkę, że prawdopodobnie jest to sztuczna inteligencja, a nie człowiek. Płynnie iterowana sztuczna inteligencja, która wygląda na najwyższą dyplomatyczną równowagę, prawdopodobnie sprawi, że ludzie bez wahania wpadną w pułapkę, w której sztuczna inteligencja jest człowiekiem, w tym tak, jakby miała ludzki zdrowy rozsądek i wszystkie zdolności rozumienia ludzi.

Na marginesie, zdaj sobie również sprawę, jak może to zostać wykorzystane podczas Dyplomacja gra. Gracz będący człowiekiem, który widzi niemal poetyckie wiadomości od innego gracza, może zdać sobie sprawę, że musi to być sztuczna inteligencja (teraz znacznie wykraczająca poza poprzednią niezgrabną sztuczną inteligencję), podczas gdy inni ludzie nie byliby w stanie tak elokwentnie komponować wiadomości. Oczywiście, jeśli sztuczna inteligencja będzie się nadal dostosowywać, może zmienić poetyckie sformułowania, aby lepiej odzwierciedlały zwięzłe i luźne sformułowania rzeczywistych ludzkich graczy. Z kolei ludzcy gracze mogą przełączyć się na język poetycki, próbując zdradzić, że są ludźmi. Pomysł polega na tym, że być może inni gracze zechcą sprzymierzyć się z innymi ludźmi w sprawie sztucznej inteligencji.

Następną rzeczą, którą wiesz, gra zaczyna się sprowadzać do próby ustalenia, kto jest człowiekiem, a kto sztuczną inteligencją. Jeśli potrafisz rozgryźć, która jest która, być może daje ci to przewagę. Z drugiej strony może być na nie. Sztuczna inteligencja może okazać się równie biegła w grze jak ludzie. Twoje zgadywanie, które jest które, niewiele ci daje. Może to odwracać uwagę od koncentrowania się na próbie wygrania gry, niezależnie od tego, czy pod ręką są gracze AI, czy ludzie.

Naukowcy, którzy chcą przeprowadzić badania nad czynnikami ludzkimi nad tego rodzaju oszałamiającą koncepcją, mogą potencjalnie rozważyć użycie sztucznej inteligencji Dyplomacja gracz i szukaj chętnych Dyplomacja turnieje ligowe w celu zbadania pojawiających się strategii identyfikacji człowieka i sztucznej inteligencji oraz adaptacji behawioralnej.

Podsumujmy to.

Mark Twain powiedział o dyplomacji: „Zasada dawania i brania jest zasadą dyplomacji – daj jeden i weź dziesięć”. Czy to rzetelna ocena funkcjonowania człowieka, czy tylko żartobliwy żart, cynicznie, ale błędnie oceniający kondycję człowieka?

Zastanów się nad tymi dalszymi pytaniami:

• Jeśli uda nam się wprowadzić dyplomację do sztucznej inteligencji, czy nauczy nas to, w jaki sposób ludzie realizują dyplomację i być może pozwoli ludzkości udoskonalić sztukę dyplomacji?
• Czy stworzymy fałszywą sztuczną inteligencję, która wydaje się być świadoma, gdy nie jest niczym w tym rodzaju, a wszystko to dzięki obliczeniowemu wyciągnięciu królika z kapelusza, aby pozornie pokazać ludzką dyplomację?
• Czy można znaleźć równowagę między sztuczną inteligencją nasyconą dyplomacją, abyśmy tymczasem byli ostrzegani, że jest to nadal zwykła sztuczna inteligencja i dlatego nie należy jej antropomorfizować?

Mówią, że dyplomacja to sztuka pozwalania komuś robić po swojemu. Upewnijmy się, że nasz sposób jest ludzki, a nie sztuczny. Chociaż będąc dyplomatycznym, teraz, kiedy dokładnie się nad tym zastanawiam, i na wypadek, gdybyśmy skończyli z władcami AI, może powinniśmy pozwolić, aby nasz sposób był sposobem AI, który, miejmy nadzieję, zazębia się z odpowiednim ludzkim sposobem.

Po prostu próbuję ćwiczyć odrobinę pomysłowej dyplomacji.