Dlaczego jeszcze nie masz samojezdnego samochodu? Ta dwuczęściowa seria wyjaśnia pozostałe duże problemy

Ludzie często pytają: „Gdzie jest mój samojezdny samochód?” „Dlaczego go nie mam i kiedy nadejdzie?” Wiele osób uważa, że ​​pod koniec dwudziestego roku życia obiecano im samochód, a jest już późno i być może nie nadchodzi, jak o latających samochodach, o których mówiono kilkadziesiąt lat temu.

W tej dwu-artykułowej serii (z towarzyszącymi filmami) przyjrzyjmy się głównym powodom, dla których prawdopodobnie nie jeździsz dzisiaj robosamochodem i kiedy to może się zdarzyć. Jakie są główne problemy technologiczne, prawne i społeczne, które stoją na przeszkodzie, a które problemy tak naprawdę nie są blokerami?

Dla większości z nas te samochody nie dotrą tu wystarczająco szybko. Mają obietnicę uniknięcia przyzwoitego ułamka dzisiejszych wypadków samochodowych, które każdego roku zabijają ponad milion osób na całym świecie. Ułatwią nam życie i przepiszą na nowo zasady transportu. W ten sposób zmienią nasze miejsce zamieszkania i charakter miasta, a także dziesiątki innych branż, od energetyki po handel detaliczny. Każdego dnia opóźniamy wypuszczanie tych rzeczy na drogę, tysiące umrą z rąk ludzi, którzy nie powinni byli prowadzić. Każdego dnia zwlekamy.

Oczywiście jest ciężko

Żeby było jasne, największym powodem, dla którego „to trwa tak długo”, jest to, że jest ciężko. Jeden z największych projektów badawczych dotyczących oprogramowania, jakie kiedykolwiek podjęto. Wymagało to nie tylko przełomowego oprogramowania, ale także mnóstwa szczegółowych prac w chwastach, radzenia sobie z ogromną liczbą specjalnych przypadków i mapowania świata i wszystkich jego zmarszczek. Każdy, kto myślał lub myśli, że można to zrobić zgodnie z harmonogramem, jest w błędzie i nigdy wcześniej nie pracował w oprogramowaniu. Kiedy firmy samochodowe podawały daty takie jak 2020, były to nadzieje, a nie przewidywania, a to, że niektóre firmy technologiczne faktycznie to osiągnęły, było niesamowite. Wieloletnie projekty wymagające przełomów nigdy nie są dokładnie przewidywane.

Nikt z doświadczeniem programistycznym nie byłby w ogóle zszokowany, gdyby przewidywania dotyczące tak wielkiego projektu wykonane wiele lat temu nie były trafne. Tak więc sprawy nie są „opóźnione”, nawet jeśli nie spełniają optymistycznych nadziei. Oznacza to również, że wszystko odbywa się w mniejszych krokach.

Największym blokerem nie jest jednak robienie tego (tj. zapewnienie bezpieczeństwa), ale świadomość, że to zrobiłeś.

Udowodnienie, że naprawdę zadbałeś o bezpieczeństwo

Pierwszym celem technologicznym było to, aby tak się stało. Stworzyć samochód, który sam może się bezpiecznie prowadzić. To ogromne osiągnięcie, ale przynajmniej w kilku miastach kilka firm już to osiągnęło. Firmy takie jak Waymo na łatwych ulicach Phoenix prowadziły jazdę bezpieczniej niż przeciętny człowiek. To była „trudna część” – ale jeszcze trudniejszą częścią jest określenie, czym jest bezpieczeństwo, zmierzenie go i udowodnienie, że to zrobiłeś. Musisz to udowodnić sobie, zarządowi, prawnikom, opinii publicznej, a może nawet rządowi. Tak jak szczepionka Moderna Covid była gotowa w lutym 2020 r., przed pierwszym zamknięciem, świat czekał 10 miesięcy – podczas gdy bez niej zmarł milion ludzi – zanim pozwolił pierwszym ludziom dostać zastrzyk. Czekaliśmy, aż udowodnią, że to zrobili.

Pomiar bezpieczeństwa jest dość trudny. Wiemy, jak często kierowcy mają wszelkiego rodzaju wypadki, od drobnych uderzeń po ofiary śmiertelne. Ofiary śmiertelne zdarzają się co 80 milionów mil w USA lub około 2 milionów godzin jazdy. Nie możemy przetestować każdej wersji oprogramowania, mówiąc: „Przejedźmy miliard mil i zobaczmy, czy zabije mniej niż tuzin ludzi, którzy zginęliby, gdyby ludzie przejechali tak daleko”. To odległość niemożliwa do przejechania nawet raz po prawdziwych drogach, nie mówiąc już o każdej nowej wersji. Możemy jeździć znacznie mniej i liczyć uderzenia i drobne wypadki – w rzeczywistości jest to najlepsze, co do tej pory wymyśliliśmy, ponieważ jest to przynajmniej możliwe – ale nie jesteśmy pewni, czy odnosi się to do obrażeń z robotami w ten sam sposób robi z ludźmi.

Wielu zaczyna tradycyjny sposób na przemysł samochodowy. Testują każdy element swoich pojazdów, aby upewnić się, że jest niezawodny i zgodny ze specyfikacją. Próbują to zrobić z systemami komponentów, ale ta metodologia staje się trudna, gdy sprawy stają się bardziej złożone. Nazywa się to bezpieczeństwem funkcjonalnym – czy komponenty i systemy są wolne od wad i czy poradzą sobie ze znanymi potencjalnymi awariami.

Ostatnio włożono więcej wysiłku, aby podnieść to do poziomu systemu i spróbować przetestować „Bezpieczeństwo zamierzonej funkcjonalności”. Dzięki SOTIF zespoły pracują nad zapewnieniem, że całe systemy będą nadal działać, zarówno w przypadku problemów i awarii komponentów, jak i przewidywanego niewłaściwego użytkowania. Często wiąże się to z symulacją całego systemu lub jego części lub symulacją „sprzętu w pętli”, która jest łatwiejsza i bezpieczniejsza niż testy na żywo na drogach.

Testy symulacyjne dają możliwość przetestowania systemu w milionach różnych scenariuszy. Wszystko, co ktokolwiek kiedykolwiek widział, słyszał lub marzył – z setkami drobnych odmian tych wszystkich rzeczy.

Być może najtrudniejszą rzeczą do przetestowania, ale najbardziej chcesz wiedzieć, jak dobrze system reaguje na sytuacje, których nigdy wcześniej nie widziano. Chociaż możesz stworzyć testy symulacyjne, aby wiedzieć, że pojazd dobrze radzi sobie w prawie wszystkich oczekiwanych sytuacjach, wielką magiczną zdolnością ludzkich umysłów jest zdolność radzenia sobie z nigdy wcześniej nie widzianymi problemami. Sztuczna inteligencja może to zrobić, ale nie jest tak dobra. W końcu mamy nadzieję, że znajdziemy sposób na codzienne uzyskiwanie nowych, realistycznych, niebezpiecznych scenariuszy. To dobrze, że dzisiaj Twój samochód został zaprogramowany tak, aby poradzić sobie ze wszystkim, o czym ktokolwiek kiedykolwiek pomyślał, ale prawdziwym złotym standardem może być rzucenie 20 nowych sytuacji, których nigdy wcześniej nie widziałeś, każdego dnia i dowiedzenie się, że radzi sobie z większością z nich. Nawet ludzie nie radzą sobie z nimi wszystkimi. To jedna rzecz, którą mam nadzieję zobaczyć, jak się wydarzy Projekt puli bezpieczeństwa, które pomogłem zainicjować przy Światowym Forum Ekonomicznym, Deepen.AI i University of Warwick.

Nawet przy wszystkich symulacjach musisz również przetestować na żywo w drodze. Nikt nie wdroży samochodu, który nie pokazał, że bardzo dobrze radzi sobie w prawdziwym świecie. Choć drogi, system wykorzystywania kierowców bezpieczeństwa ludzi do nadzorowania operacji robosamochodów w rzeczywistości ma doskonałe osiągnięcia i nie zagraża społeczeństwu w porównaniu ze zwykłą jazdą przez człowieka.

W branży każda firma przewraca się, aby opisać, jak bardzo jest oddana bezpieczeństwu. Ich zadaniem jest stworzenie bezpiecznego pojazdu, ale składają te deklaracje, aby zadowolić urzędników i opinię publiczną. Jak na ironię, w interesie publicznym nie jest tworzenie najbezpieczniejszych robosamochodów, ale raczej najbezpieczniejsze drogi. Roboty są narzędziem, które może zapewnić bezpieczniejsze drogi, a im szybciej tu dotrą, tym szybciej i lepiej to zrobią. Urzędnicy, gdyby poważnie traktowali swoje obowiązki w zakresie poprawy ogólnego bezpieczeństwa ruchu drogowego, w rzeczywistości zachęcaliby firmy, aby nie posuwały się zbyt daleko w kwestii bezpieczeństwa, a zamiast tego skupiały się na jak najszybszym wdrożeniu bezpieczniejszej technologii – nawet jeśli robią mniej, aby udowodnić, że jest ona bezpieczna, gdy wdrożenie jest niewielkie , przyspiesza to. Ale nigdy nie będą, ze względu na sposób, w jaki społeczeństwo reaguje na błędy i ryzyko.

Drugim elementem bezpieczeństwa jest cyberbezpieczeństwo. Potrzebujemy tych samochodów, aby były odporne na próby ich przejęcia. Niektórzy ludzie nie lubią rozmawiać o cyberbezpieczeństwie, ale historia przemysłu samochodowego w przeszłości nie była wspaniała. Wymaga to nie tylko bezpiecznych praktyk i narzędzi, ale także tak zwanej „czerwonej drużyny”, w której zespół doświadczonych hakerów w białych kapeluszach poluje z zewnątrz, aby znaleźć luki w zabezpieczeniach, dopóki nie mogą znaleźć więcej. Innym ważnym narzędziem jest minimalizowanie łączności lub to, co ludzie zajmujący się bezpieczeństwem nazywają „powierzchniami ataku”. Wiele osób w branży ma obsesję na punkcie tego, co wyobrażają sobie jako „samochód z dostępem do internetu” i myli łączność z tak wielką rewolucją, jak samodzielna jazda. Nie jest, nie zdalnie. Potrzebna jest pewna łączność, ale należy jej używać oszczędnie, aby prawdziwa rewolucja mogła pozostać bezpieczna.

Jednym z największych wyzwań w testowaniu jest szerokie wykorzystanie uczenia maszynowego przez wszystkie zespoły robotów. Uczenie maszynowe to niezwykle potężne narzędzie sztucznej inteligencji i większość uważa, że ​​jest ono niezbędne, ale ma tendencję do tworzenia narzędzi „czarnej skrzynki”, które podejmują decyzje, ale których nikt w pełni nie rozumie. Jeśli nie wiesz, jak działa system, dlaczego zawodzi lub postępuje właściwie, trudno jest go przetestować i certyfikować. W Europie wprowadza się przepisy wymagające, aby cała sztuczna inteligencja była „wyjaśniona” na pewnym poziomie, ale wiele sieci uczenia maszynowego jest bardzo trudnych do wytłumaczenia. To przerażające, ale są tak potężne, że nie zrezygnujemy z nich. Możemy mieć do czynienia z czarną skrzynką, która jest dwa razy bezpieczniejsza w testowaniu niż system dający się wyjaśnić, i istnieją przekonujące argumenty przemawiające za którąkolwiek z tych opcji.

Przewidując przyszłość

Robot samochodowy jest pokryty czujnikami, takimi jak kamery, radary, lasery LIDAR i inne. Czujniki są prawdopodobnie najczęściej dyskutowanym aspektem sprzętu, ale w rzeczywistości czujniki w ogóle nie mówią tego, co chcesz wiedzieć. To dlatego, że czujniki informują cię, gdzie są rzeczy w tej chwili, ale nie przejmujesz się tym zbytnio. Troszczysz się o to, gdzie będą sprawy w przyszłości. Informacje z czujników to tylko wskazówka dotycząca rzeczywistego celu przewidywania przyszłości. Wiedza o tym, gdzie coś jest i jak szybko się porusza, to dobry początek, ale wiedza o tym, co to jest, jest równie ważna, aby wiedzieć, gdzie będzie. Większość obiektów znajdujących się na drodze lub w jej pobliżu nie jest balistyczna – dowodzi człowiek i może zmienić kurs. Dlatego jednym z kluczowych obszarów badań jest obecnie coraz lepsze przewidywanie, co zrobią inni na drodze, w szczególności ludzie. Może to obejmować znajomość stylu jazdy lub ustalenie, czy pieszy stojący na rogu ma zamiar wejść na przejście dla pieszych lub surfować po Internecie.

Podczas gdy kilka zespołów poczyniło ogromne postępy, okazuje się, że ludzie są lepsi niż dzisiejsze roboty w przewidywaniu innych ludzi. Polepszenie się w tym jest jednym z kluczowych problemów na liście rzeczy do zrobienia, szczególnie w bardziej złożonych środowiskach, takich jak ruchliwe miasta. Przewidywanie przyszłości obejmuje również przewidywanie, jak inni zareagują na twoje własne ruchy i przewidywane ruchy innych. Połączenie pasów lub niezabezpieczony skręt w lewo może być tańcem z dawaniem i braniem, a robocary będą stale próbować poprawiać to, co robią.

Szybsze wyczuwanie

Czujniki mogą być tylko środkiem do osiągnięcia rzeczywistego celu, ale im lepiej robią, tym lepiej można przewidzieć przyszłość. Zespoły wciąż szukają szybszych czujników, aby przyspieszyć percepcję i przewidywanie. Ważną rzeczą jest znajomość prędkości poruszających się obiektów. Radar Ci to mówi, ale aparaty i starsze LIDARy nie, chyba że patrzysz na wiele klatek. Niektóre nowsze LIDARY mogą wskazywać zarówno prędkość, jak i odległość. Oglądanie wielu klatek zajmuje co najmniej tyle samo czasu, co robienie klatek, ale zwykle więcej.

Jedną z sytuacji, która może być problemem, jest poruszanie się po autostradzie za większym pojazdem. Wyobraź sobie, że przed tym pojazdem stoi ciężarówka zatrzymana na poboczu, tkwiąca w pasie. Dzieje się tak często z wypadkami i pojazdami uprzywilejowanymi. Nagle wielki pojazd przed tobą skręca w prawo, aby ominąć przeszkodę, i po raz pierwszy widzisz tę nieruchomą ciężarówkę. Naprawdę nie masz zbyt wiele czasu na hamowanie lub skręcanie, a może nawet nie masz dokąd pójść. Jeśli musisz spojrzeć na 3 klatki wideo, aby zobaczyć, że rzeczywiście się nie porusza, to prawdopodobnie zmarnowana 1/10 sekundy, a to jest sytuacja, w której może to mieć znaczenie. Wiele zespołów szuka więc sposobów na uzyskanie tej przewagi i znalazły ją głównie w LIDARach, które mogą mierzyć „Doppler”, aby poznać prędkość wszystkiego, co uderzy laserem. Radary również znają prędkość, ale świat jest pełen zatrzymanych obiektów odbijających radar i trudno odróżnić zatrzymany pojazd od zatrzymanej barierki obok.

Podążanie długą drogą

Pokrótce wspomnę, że powodem była jedna słynna drużyna – TeslaTSLA
– nie jest jeszcze gotowy, że starają się celowo utrudnić problem. Podczas gdy każdy zespół intensywnie korzysta z wizji komputerowej, Tesla chce, aby działała tylko z wizją komputerową i tylko z kamerami z 2016 roku. Większość innych zespołów dodaje również lepsze kamery, LIDAR, radar i mapy do swojego zestawu narzędzi. Tesla chce przełomowej wizji, która zrobi to taniej. Mówią, że wszystkie te dodatkowe narzędzia rozpraszają uwagę. Ale reszta branży chce użyć wszystkich narzędzi, aby zrobić to wcześniej, choć przy większych kosztach, i uważa, że ​​Tesla sama się okalecza. Jak dotąd, biorąc pod uwagę jakość produktu – Tesla FSD jest naprawdę daleko w tyle – inni mają rację, chociaż wyścig się nie skończył.

To część pierwsza. Część druga dotyczy takich rzeczy, jak bycie dobrym obywatelem dróg, dlaczego samochody-roboty są rozmieszczane w jednym mieście na raz, a nie wszędzie na raz, oraz problemach radzenia sobie z bardziej przyziemną logistyką, taką jak zjeżdżanie po kierowców, modele biznesowe, aplikacji i zbytniego martwienia się o bezpieczeństwo, jednocześnie zmuszając rządy i opinię publiczną do akceptacji. Wymienię również kilka czynników, nad którymi pracujemy, ale które nie są prawdziwymi przeszkodami we wdrażaniu. Poszukaj drugiej części w nadchodzących dniach.

Niektórzy uważają, że fakt, że nie mają ani nie jeżdżą robosamochodem w 2022 r., oznacza, że ​​rozwój jest znacznie opóźniony. W rzeczywistości nigdy nie było poważnego harmonogramu, tylko nadzieje, ale tak naprawdę ta lista problemów wróży optymizmowi, ponieważ te pozostałe problemy wydają się generalnie wykonalne. Aby uporać się z większością z nich, potrzebna jest ciężka praca i pieniądze, a nie przełomy.

Czekajcie na część drugą, w formie wideo i tekstowej

Możesz zostawić komentarze na tej stronie lub na stronie wideo.