Tech

Dyrektor generalny OpenAI, Sam Altman, zeznaje w „historycznym” przesłuchaniu w Senacie w sprawie bezpieczeństwa sztucznej inteligencji

12 miesięcy temu
Wiadomości Bitcoin Ethereum

Sam Altman, dyrektor generalny OpenAI i współzałożyciel Worldcoin, niedawno zeznawał przed Kongresem wraz z szefem trustu IBM, Christiną Montgomery i profesorem NYU Garym Marcusem. 

Sesja Senackiej Podkomisji Sądownictwa ds. Prywatności, Technologii i Prawa była pierwszym oficjalnym wystąpieniem Altmana przed Kongresem, dając senatorom możliwość zadawania pytań dyrektorowi generalnemu OpenAI w sprawie poglądów jego firmy na regulacje.

Nazwana „historyczną” sesją przez senatora Illinois Dicka Durbina, postępowanie koncentrowało się na zrozumieniu potencjalnych zagrożeń stwarzanych przez generatywne modele sztucznej inteligencji (AI), takie jak ChatGPT, oraz na tym, jak prawodawcy powinni podchodzić do regulacji.

Komentarze Altmana – które zostały opisane przez członków kongresu i innego mówcę Marcusa jako wydające się szczere i autentyczne – zaskoczyły kilku członków Senatu.

Opowiadał się za utworzeniem federalnej agencji nadzoru, która byłaby uprawniona do wydawania i cofania licencji rozwojowych, stwierdził, że jego zdaniem twórcy powinni otrzymywać rekompensatę, gdy ich praca jest wykorzystywana do szkolenia systemu sztucznej inteligencji, i zgodził się, że konsumenci, którzy ponieśli szkodę w wyniku korzystania z produktów sztucznej inteligencji, powinni być uprawniony do pozwania dewelopera.

Altman zlekceważył pytania związane z niedawnym listem „pauza AI” wzywającym do sześciomiesięcznego moratorium na wdrażanie systemów potężniejszych niż GPT-4, system AI leżący u podstaw ChatGPT, stwierdzając, że OpenAI spędził ponad sześć miesięcy na ocenie GPT -4 przed rozmieszczeniem. Powiedział, że firma nie planuje wdrożenia kolejnego modelu w ciągu najbliższych sześciu miesięcy.

Marcus, sygnatariusz listu o wstrzymaniu, przyznał, że bardziej zgadza się z duchem listu niż z jego treścią, ale profesor NYU wezwał Kongres do rozważenia zarówno globalnego nadzoru, jak i regulacji federalnych – z czym zgodził się Altman.

Podczas przesłuchania trzech zaproszonych mówców zgadzało się co do większości tematów. Obejmowało to wsparcie dla ochrony prywatności, większy nadzór rządowy, audyty stron trzecich oraz to, jak szybko rząd Stanów Zjednoczonych powinien dążyć do uregulowania branży (natychmiast).

Jednak jedno z samotnych źródeł niezgody pochodziło od Montgomery'ego z IBM, który nie zgadzał się z poglądem, że do egzekwowania przepisów w branży sztucznej inteligencji konieczna byłaby nowa agencja federalna.

Jej wypowiedzi wskazywały, że IBM opowiada się za chirurgicznym podejściem do regulacji z wykorzystaniem obecnie istniejących organów regulacyjnych w celu skoncentrowania egzekwowania prawa na konkretnych przypadkach użycia.

Podczas gdy wszyscy trzej mówcy zgodzili się, że sztuczna inteligencja może być szkodliwa i wymaga interwencji w zakresie bezpieczeństwa, Marcus jasno dał do zrozumienia, że ​​wierzy, że obecnie nikt nie rozumie ani nie jest w stanie przewidzieć, jak szkodliwe mogą być lub staną się istniejące produkty AI. Opowiadał się za ostrożnym podejściem obejmującym większą przejrzystość.

Mówcy zgodzili się również z członkami Kongresu, że Stany Zjednoczone potrzebują krajowego prawa dotyczącego prywatności, podobnego do europejskiego. Altman nie zgodził się jednak z poglądem, że konsumenci powinni mieć możliwość rezygnacji z umieszczania ich publicznie dostępnych danych internetowych w zestawach danych szkoleniowych.

Altman nie przyznałby się również do stwierdzenia, że ​​OpenAI sprzeciwia się oferowaniu opartej na reklamach wersji swoich produktów GPT. Prezes po prostu stwierdził, że „nie mówi nigdy”.

Dzieje się tak, pomimo wcześniejszego stwierdzenia na rozprawie, że produkty OpenAI są zgodne ze standardami prywatności konsumentów, ponieważ firma nie tworzyła profili użytkowników w celu wyświetlania dostosowanych reklam.

Powołując się na swoje doświadczenie jako absolwent Stanford i prawodawca pracujący ze zdecentralizowanymi finansami i firmami Web3, senator z New Jersey, Corey Booker, poruszył ważniejszą kwestię prywatności, jaką jest centralizacja. Zapytał, jakie konsekwencje dla branży miałaby centralizacja i monopolizacja, na pytanie, na które Marcus odpowiedział poważnym ostrzeżeniem, że kraj może ryzykować przekazanie kontroli nad opinią publiczną niewielkiej liczbie aktorów – wiodącym firmom AI z wystarczającymi pieniędzmi konkurować z Microsoftem, Google i Amazonem.

Altman, którego projekt Worldcoin łączy zdecentralizowany zasób kryptowaluty w łańcuchu blokowym Ethereum z uwierzytelnianiem tożsamości za pomocą technologii skanowania tęczówki, wyjaśnił, że OpenAI jedynie dostarczyło platformę i że demokratyzacja produktów OpenAI nastąpiła, gdy programiści, firmy i użytkownicy końcowi dostosowali API GPT do „fantastyczne” zastosowania.

Związane z: Dyrektor generalny OpenAI w „zaawansowanych rozmowach” w sprawie finansowania Worldcoin w wysokości 100 mln USD: raport