Inteligentna platforma bug bounty Immunefi zbanowała 15 osób za rzekome przesyłanie raportów o błędach stworzonych przez generatywne narzędzie sztucznej inteligencji ChatGPT.
Platforma bounty dla hakerów Whitehat twierdziła, że ChatGPT nie może zidentyfikować błędów, ponieważ nie ma możliwości technicznych poza udzielaniem odpowiedzi na zapytania ludzi.
ChatGPT nie powinien zastępować raportu Whitehat
Według Immunefi, whitehats mogą przyspieszyć szybkie rozwiązanie błędu oprogramowania, opisując problem własnymi słowami, a nie za pomocą narzędzi językowych sztucznej inteligencji.
Immunefi to platforma nagród za błędy, która nagradza białych kapeluszy za znajdowanie problemów z inteligentnymi kontraktami zasilającymi zdecentralizowane projekty finansowe, takie jak Aave, Związek i Synthetix. Do września 2022 r. platforma zapłaciła białym kapeluszom 65 mln USD, z dodatkowymi 138 mln USD dostępnymi na przyszłe wypłaty.
Właściciele projektów oprogramowania zatrudniają białych kapeluszy do etycznego testowania bezpieczeństwo swojego produktu w zamian za nagrodę. Tych „dobrych” hakerów przeciwstawia się czarnym kapeluszom, które w sposób przestępczy wykorzystują luki w zabezpieczeniach. Z drugiej strony tzw. szare kapelusze wyszukują błędy bez zgody właściciela projektu.
Mimo to platforma bounty stwierdziła, że wszelkie autentyczne błędy wskazane przez narzędzie powinny być zgłaszane odpowiednimi kanałami.
ChatGPT wykorzystuje model wielojęzyczny o nazwie GPT-3, aby naturalnie rozmawiać z ludźmi. Jego kartą asa jest umiejętność odpowiadania na pytania poprzez skupienie się bardziej na intencji pytania niż na jego słowach. Dla kontekstu, główne wyszukiwarki generalnie klasyfikują wyniki według ilości i jakości linków do strony internetowej.
Jak sam przyznaje, czasami stronnicze dane treningowe ChatGPT oznaczają, że jego odpowiedziom często brakuje zdrowego rozsądku i kontekstu. Co więcej, jego artykulacja może czasami upiększać informacje niskiej jakości. Ostatnio moderator na forum programistycznym StackOverflow Zatwierdzony że dopracowana prezentacja narzędzia często skutecznie maskuje niedokładne odpowiedzi.
Podobnie jak Immunefi, StackOverflow zablokował odpowiedzi ChatGPT na swojej platformie.
Pomimo tych rażących ograniczeń dyrektor generalny ds OpenAI, firma stojąca za ChatGPT, jest przekonana, że narzędzie przekształci się w kompetentne narzędzie w miejscu pracy.
„Możemy sobie wyobrazić„ pracownika biurowego AI ”, który przyjmuje żądania w języku naturalnym, tak jak robi to człowiek” powiedziany Sam Altman w poście na blogu w zeszłym roku. Platforma audytu inteligentnych kontraktów CertiK zauważyła, że platforma nie była „pół zła” w wyszukiwaniu błędów. W tym samym czasie kanadyjski inżynier oprogramowania Tomiwa Aswmidum podobno z powodzeniem wykorzystał to narzędzie do stworzenia pliku krypto portfel ucząc go zasad kryptograficznych.
dogecoin promotor i dyrektor generalny Tesli, Elon Musk, powiedział w grudniu 2022 r., że sztuczna inteligencja ChatGPT jest „przerażająco dobra”, podczas gdy Kate Reznykova, inwestorka venture capital Next47, zwróciła uwagę na oszałamiający wskaźnik adopcji użytkowników ChatGPT wynoszący milion użytkowników w ciągu zaledwie pięciu dni.
Jednak Altman ostrzegł przed zbytnim czytaniem rozwijających się umiejętności ChatGPT, nazywając to „podglądem postępu” i dodając, że nie należy go używać do niczego o znaczeniu krytycznym.
Błędem jest być opierając się na tym za coś ważnego w tej chwili” – powiedział powiedziany.
Najnowsza wersja Be[In]Crypto Bitcoin Analiza (BTC), kliknij tutaj.
Odpowiedzialność
BeInCrypto skontaktował się z firmą lub osobą zaangażowaną w tę historię, aby uzyskać oficjalne oświadczenie na temat ostatnich wydarzeń, ale jeszcze nie otrzymał odpowiedzi.
Źródło: https://beincrypto.com/chatgpt-cant-help-you-with-white-hat-reports/