58

Studenci strolowali system rozpoznawania znaków, to bardziej smutne niż śmieszne

Kilku stażystów i studentów z Uniwersytetu Ben-Guriona w Beer Szewie opublikowało bardzo ciekawe opracowanie, w którym pokazują jak łatwo można oszukać system rozpoznawania znaków w samochodach. Tego typu rozwiązania są obecnie coraz popularniejsze, a do tej pory nikt nie zwracał uwagi na ich jakość. W przypadku aut autonomicznych, może to stwarzać duże zagrożenie dla innych uczestników ruchu.

Dron + projektor = wirtualny znak drogowy

Systemy rozpoznawania znaków drogowych, w tym ograniczeń prędkości, nie są już niczym nadzwyczajnym w nowych samochodach. Większość producentów zaczyna je montować praktycznie w standardzie, w trosce o nasze bezpieczeństwo. Przeważnie taki system pełni jednak tylko rolę informacyjną, podaje ograniczenie prędkości na wyświetlaczu przed kierowcą, ale nie wpływa na prędkość naszego pojazdu.

Jednak w nieco bardziej zaawansowanych systemach autonomicznych poziomu 2. czy 3. z funkcją adaptacyjnego tempomatu, nagła zmiana ograniczenia prędkości może spowodować gwałtowne hamowanie lub przyśpieszenie pojazdu. Tak nieoczekiwane zachowanie może mieć ogromny wpływ na bezpieczeństwo nasze i innych uczestników ruchu. I jak pokazuje opracowanie przygotowane przez młodych naukowców z Izraela, oszukanie systemu wcale nie jest trudne.

W opublikowanej pracy pokazują oni na przykładzie systemu MobilEye 630 Pro i samochodu Renault Captur, jak łatwo można oszukać system w kwestii ograniczenia prędkości przy pomocy drona z projektorem. Przykład takiego zachowania możecie obejrzeć sami na filmie poniżej. Auto jadące po drodze z ograniczeniem prędkości do 30 km/h, odczytuje obraz wyświetlony przez projektor na ścianie jako znak z ograniczeniem do 90 km/h.

W tym przypadku zmiana rozpoznawanej prędkości nie ma żadnego wpływu na bezpieczeństwo, bo jest tylko informacją dla kierowcy, ale nie trudno sobie wyobrazić potencjalne konsekwencje w aucie autonomicznym. Tym bardziej, że wyświetlenie znaku na projektorze praktycznie nie ingeruje w krajobraz. Testy pokazały, że wystarczy ekspozycja znaku zaledwie przez 100 ms aby system odczytał ograniczenie prędkości. Ludzkie oko mogłoby tego nawet nie zauważyć, a auto zaczęłoby nagle przyśpieszać/hamować. Nie byłoby też żadnych fizycznych śladów ingerencji w infrastrukturę. Zbrodnia niemal doskonała.

Producent MobilEye bagatelizuje sprawę

ArsTechnica, która opisała ten temat jako pierwsza zwróciła się z pytaniami do MobilEye. Niestety przedstawiciele firmy zbagatelizowali problem, twierdząc, że przecież nic złego się nie stało. System w takim aucie jak Renault Captur nie ma nic wpływu i działa tylko w trybie informacyjnym. Nawet w trybach pół-autonomicznych system też by się sprawdził bo bierze wtedy pod uwagę również wskazania GPS. Problem tylko w tym, że GPS też można zagłuszyć. Kilka dni temu izraelska firma Regulus pokazała to na przykładzie Tesli Model 3, jej autopilot został oszukany i kierowca musiał się ratować przejmując kontrolę nad pojazdem.

Wraz z rozwojem motoryzacji i coraz większym poleganiu na nowoczesnych technologiach tego typu ataki mogą stać się powszechniejsze. Producenci samochodów i systemów wspomagających kierowcę powinni to wziąć pod uwagę i wprowadzić dodatkowe zabezpieczenia.