czarno biały kwadrat
54

Nie uwierzysz jak niewiele trzeba, żeby autonomiczny samochód… zgłupiał

Autonomiczne samochody to przyszłość motoryzacji. W nowotechnologicznych "moto" kręgach to stwierdzenie powtarza się jak mantrę, nieco zapominając o tym, że człowiek ostatecznie odda "lejce" maszynie i obdarzy ją naprawdę sporym zaufaniem. To oczywiście zrodzi sporo problemów, o których na razie nie myślimy, ale powinniśmy zacząć już teraz. Ciekawscy naukowcy zadają sobie natomiast pytanie: "jak dużo trzeba, żeby autonomiczny samochód zgłupiał"? Okazuje się, że stosunkowo niewiele.

Idealny autonomiczny samochód doskonale zna przepisy ruchu drogowego, nigdy się nie myli i bezbłędnie rozpoznaje zasady ustalane przez umowne symbole znajdujące się na słupach, bezpośrednio na drodze i dopasowuje ich użycie do aktualnie występującej sytuacji. Każdy, kto ma prawo jazdy dobrze wie, że znaki są ważne i w codziennej jeździe przydaje się nam nie prosty zestaw kilku znaków – ważne jest rozpoznawanie i rozumienie całej palety. My – ludzie nie mamy z tym problemu. STOP to STOP, czerwone światło to czerwone światło i nie może być inaczej. Owszem, oznakowanie czasami potrafi zaskoczyć, ale i z tego można wybrnąć.

A co by było, gdyby maszyna nie była w stanie rozpoznać znaku, albo zidentyfikowała go źle?

Modele wypracowane dzięki uczeniu maszynowemu pozwalają na stworzenie systemów, dzięki którym samochody bezbłędnie rozpoznają znaki drogowe. Okazuje się jednak, że istnieją metody oszukiwania tychże mechanizmów. Naukowcy, którzy postanowili sprawdzić, jakie są możliwości pod tym kątem nie mają zbyt dobrych wieści. W trakcie badań okazało się, że udało się oszukać systemy rozpoznawania znaków w od 67 do 100 procent przypadków.

znak stop

A uczyniono to w najprostszy możliwy sposób. Pierwszy wariant zakładał takie „zmodyfikowanie” znaku drogowego, aby był on trudny do odczytania tylko przez maszynę za pomocą specjalnych elementów, które mogłyby wprowadzić w błąd mechanizmy rozpoznawania symboli. Drugi zakładał już całkowite przysłonienie właściwego znaku innym. Tak prosta, fizyczna metoda pozwoliła na wprowadzenie w błąd maszyny i w niektórych przypadkach mogła doprowadzić do poważnego wypadku z udziałem autonomicznego auta. Według wewnętrznego algorytmu, maszyna zachowała się dobrze. Zastosowała się do „obowiązującego” znaku i postąpiła tak, jak mówi kodeks. A wyobrażacie sobie, co by było, gdyby ktoś „mądry” zamienił znak STOP na „Droga z pierwszeństwem przejazdu”? Kolokwialnie, mogłaby być niezła lipa.

Dobrze jednak, że prowadzi się takie badania. To sygnał dla producentów autonomicznych systemów

Powyższe rewelacje to wcale nie argument za tym, by porzucić piękną ideę autonomicznych samochodów. Wręcz przeciwnie – zainteresowanie naukowców tym tematem jest niesamowicie obiecujące. Okazuje się bowiem, że cały czas odkrywamy pewne słabości tego typu mechanizmów, ale wszystko to na szczęście robi się po to, aby stworzyć tak szczelny system, by nic nie było w stanie go zmylić. W oparciu o wyniki wprowadzi się takie zabezpieczenia, które pozwolą na właściwe zachowanie samochodu nawet w sytuacji, gdy znak jest nieczytelny, uszkodzony lub „przerobiony”. Dużo w tym pomóc może chmura, za pomocą której można np. zbierać informacje na temat obowiązujących znaków w danych miejscach i porównywaniu ich z tymi, które faktycznie występują na drodze.

  • LooZ

    > A wyobrażacie sobie, co by było, gdyby ktoś „mądry” zamienił znak STOP na „Droga z pierwszeństwem przejazdu”? Kolokwialnie, mogłaby być niezła lipa.

    Co ja czytam… No nie wiem, a co by się stało jakby ktoś „mądry” zamienił znak STOP zwykłemu kierowcy? No nie wiem.. to samo?!

    • Daniel Markiewicz

      chciałem napisac to samo. zabawne są takie artykuły bo zakładaja że dążymy do wyeliminowania wypadków całkowicie i jeśli okaże sie że maszyna może się pomylić to należy zabronić jej używania. Półautonomiczne systemu już teraz ratują życie a im lepsze będą tym więcej życia uda się uratować. I zanim ktoś zacznie wyśmiewać to co napisałem, wystarczy włączyć sobie losowy odcinek Polskich Dróg na YT

    • Post powstał na podstawie zagranicznego, niestety nie mogę teraz znaleźć linka. Tam podany był zwykły znak STOP z naklejką, który każdy człowiek odróżnia mimo naklejki, a „robot” miał z tym problem

    • Daniel Markiewicz

      wszędzie o tym piszą, sezon ogórkowy, konkurencja chyba nawet 2 artykuły o tym zrobiła

    • Marx

      to w sumie rzeczywisty problem, bo idioci od tzw vlepek potrafia je naklejac na znaki drogowe

  • ng

    Autonomiczne samochody skończą się po pierwszym, ROZDMUCHANYM przez prasę brukową poważnym wypadku.

    • lejzab

      tak samo jak samochody skończyły się po pierwszym poważnym rozdmuchanym przez prasę brukową wypadku?

    • Miszel

      Tesla zaliczyła poważną wpadkę gdy zabiła kierowcę oglądającego film wjeżdżając w przyczepę koloru zbliżonego do nieba, a jednak temat się nie skończył.

    • De

      Zamieciono to pod dywan, mówiąc, że tesla to nie autonomiczne auto. Wszystko przerzucili na kierowcę.

    • Miszel

      Też racja, ale prace dalej trwają. Jeśli dobrze pamiętam to rzeczywiście ta Tesla tylko wspomagała jazdę, a nie była w pełni autonomiczna.

    • Doge Wow

      Po roku od wypadku opublikowali wyjaśnienie, i wynikało tam coś na kształt „kierowca kilka razy ignorował ostrzeżenia aby przejął stery, no i nie przejął, a jak tesla se dojechała do skrzyżowania i była naczepa, to jej nie rozpoznała no sory, bo było za jasno, i się zlewała” nie chciałem obrażać tesli, ba nawet ją lubie, ale po prostu niedokońca pamiętam treść notatki prasowej :P

    • Marx

      nie skoncza sie. Po prostu autonomiczne auta musza miec wylacznosc na drodze oraz komunikowac sie ze soba. Wtedy znaki beda zupelnie niepotrzebne.

      Mamy np roboty na w pelni zautomatyzowanej hali montazowej. Jak czlowiek tam wejdzie i robot go przypadkowo zabije, to nie wina robota, tylko czlowieka.

  • gom1
    • mateo912

      proste:
      3 jest już przy krawędzi skrzyżowania więc powoli wjeżdża na nie, pozostali muszą się dostosować do tego faktu więc 2 i 4 czekają a 1 również rusza.
      ale generalnie takie skrzyżowania nie istnieją bo w przypadku krzyżowania 2 głównych dróg muszą być dodatkowe oznaczenia (światła)

    • gom1

      ale generalnie takie skrzyżowania nie istnieją bo w przypadku krzyżowania 2 głównych dróg muszą być dodatkowe oznaczenia (światła)

      Nie no, bez jaj ;-)

    • Daniel

      A co jeżeli nie jest to główna droga? :D

    • tomek_eop

      Wyjdź z domu 🤣

    • Szczepan

      Teoretyk czy prawo jazdy w chipsach znalezione?

    • Bulitl

      Skrzyzowanie rownorzedne kolego, poza tym takich skrzyzowan jest cala masa w Polsce.

    • Istnieje nawet znak „strefa skrzyżowań równorzędnych”

    • gom1

      .. a połowa zgniłego zachodu likwiduje nadmiar znaków licząc tylko na „regułę prawej ręki” :-)

    • Artur Łukasz

      pozbywają się znaków pionowych, w ich miejsce są malowane poziome które na początku nie są zbyt zrozumiałe.

    • Miszel

      Opracować jakiś wspólny standard komunikowania się samochodów między sobą gdzie zostaje wybrane pierwszeństwo? Tak wiem, że pojawi się od razu problem z szerokopojętym hackowaniem tego rozwiązania.

    • gom1

      Ten standard jest opracowany od bardzo dawna – zwie się prawo dżungli. Większy przejeżdża pierwszy :D

    • Feniks06

      „już dziś zapewnij sobie opcje premium. Za jedyne 60$ miesięcznie Twój samochód będzie miał pierwszeństwo na wszystkich drogach w mieście. Premium VIP za 120$ zapewni Ci dodatkowy dostęp do dróg krajowych na terenie całej Polski. Zamów już dziś.”

      Taki potencjał biznesowy :D

    • Miszel

      Apple car?

    • Marx

      w Rosji to już mają od dawna – buspasy + wykupiony kogut i jedziesz jak panisko :)

    • Daniel Markiewicz

      samochody dogadują się ze sobą na podstawie swoich wymiarów i prędkości, w przyszłości wszystkie sytuacje będą jak ta na obrazku, samochody nie będą musiały zatrzymywać się na skrzyżowaniach tak jak pszczoły w ulu nie muszą walczyć o prawo pierwszeństwa

    • gom1

      Tylko przy założeniu, że nie będzie pojazdów innych niż autonomiczne.

    • Daniel Markiewicz

      na tę chwilę są tylko „manualne” a już się straszy że autonomy żle rozpoznają znaki, damy rade.

    • Marx

      to jedyne sensowne zalozenie. Jak np to ze po torach kolejowych nie jezdza juz drezyny.

    • Canadian Guy

      w bardzo prosty sposób by sobie poradzili – jak w Kanadzie: kto pierwszy dojeżdża do skrzyżowania, ten pierwszy przejeżdża :)

  • Blazej

    A my tu mamy kilka innych rozważań związanych z decyzjami samochodów autonomicznych: https://friweb.pl/co-zrobi-samochod-autonomiczny/

  • raptor72

    Dobrze że autor przytoczył przykład znaku „STOP” ; jest to znak najważniejszy ze wszystkich znaków co podkreśla chociażby jego kształt, który musi być rozpoznawalny nawet gdy grafika znaku jest nieczytelna.Jest tak dlatego że nie zastosowanie się do tego znaku potrafi sprowadzić natychmiastowe trudne do przewidzenia groźne konsekwencje (chodzi o ograniczone pole widzenia). Ignorowanie pozostałych znaków nie jest aż tak groźne jeśli wszyscy kierowcy kierują uwagę na innych użytkowników drogi. Czyli przy idealnych autonomiczny pojazdach wszystkie znaki są zbędne oprócz znaku „STOP”
    Oczywiście Idealny Pojazd Autonomiczny, prawdopodobnie nigdy nie powstanie.

    • trenda ten

      Jeśli pojazdy będą się komunikowały ze sobą to nawet i ten znak będzie zbędny. Ograniczona widoczność tyczy tylko ograniczonego wzroku a nie dokładnej analizy pobliskich pojazdów.

    • raptor72

      Po pierwsze komunikacja potrafi zawieść z różnych powodów, a co do widoczności to często przeszkody stałe ją ograniczają.

    • Marx

      jak komunikacja zawiedzie to samochod powinien sie zatrzymac na poboczu. To tak jakbys jezdzil w nocy bez swiatel.

    • raptor72

      Zajebiste masz pomysły.Ciekawe czy chciałbyś wtedy być w takim samochodzie,albo jeszcze lepiej karetce szpitalnej.Poza tym to jest przeciwność autonomii.

    • Marx

      nie, to jest ekstremalny przypadek. Jak karetka zlapie gume to myslisz ze jedzie dalej?

  • nazwa

    Artykuł bezsensu! jak człowiekowi podmieni się znak to też można doprowadzić do tragedii!

    • Szczepan

      Oj tam, wierszówka zaliczona, to najważniejsze. I jeszcze ten tytuł, brakuje tylko [ZOBACZ MEMY].

    • Feniks06

      Jesteś pewien. Jak ktoś mi naklei na znak stop naklejke „legia Pany” to dalej będę wiedział że jest stop. Poza tym człowiek ma zdolność oceny sytuacji nie tylko w oparciu o znaki. A jak sobie samochód autonomiczny radzi w sytuacji gdy ma zielone ale nie będzie miejsca by mógł przejechać skrzyżowanie?

    • Daniel Markiewicz

      a autonom ma zdolność oceny sytuacji w oparciu o pierdyliard kamer z każdej strony samochodu, radary widzące kilka samochodów przed tobą i inne cuda techniki, w dodatku nie jeżdzi zmęczony, ma zawsze takie same czasy reakcji, nie wyprzedza na 3ciego, nie jeżdzi na czołowe zderzenie bo mu ktoś z naprzeciwka musi zjechać z drogi. a jak zareaguje w konkretnej sytuacji czas pokaże.

    • Feniks06

      Mimo to wolałbym żeby moje dziecko zginęło po błędzie które samo popełniło niż tylko dlatego, że zawiodła elektronika.
      Elektronika jako wspomagacz jest jak najbardziej tak. Nie sądzę jednak bym dożyl autonomicznych pojazdów na masowa skale.

    • Daniel Markiewicz

      jeśli używanie autonomów zmniejszy statystycznie ilość wypadków o 1% to warto, nawet jeśli w kilku promilach przypadków to autonomy będą powodować wypadki

    • Feniks06

      Pytanie czy producenci będą przygotowani na mierzenie się z wielomilionowymi pozwami za każdy taki przypadek śmierci. Dając autonomiczny samochód jakby nie patrzeć bierzesz na Siebie odpowiedzialność za ludzkie życie.

    • Daniel Markiewicz

      tylko poziom piąty a do tego daleko, na razie jesteśmy na poziomie pierwszym, niektórzy drugim

  • Robert Kopydłowski

    A po co im znaki? Będą miały to wszystko w pamięci i będą się ze sobą komunikować. Rozpoznawanie znaków to tylko „krótki” okres przejściowy.

    • Otco

      Tez o tym myslalem. Dodatkowo samochody takie beda mogly korzystac z map satelitarnych, gdzie drogi beda pooznaczane elegancko, wiec znaki pozostana raczej reliktem przeszlosci.

    • demola

      Dokładnie, miałem to samo napisać tyle że najpierw przeczytałem komentarze żeby się upewnić że już ktoś tego nie zrobił. Wystarczy baza znaków drogowych skorelowana z mapami i problem z głowy.

  • doogopis

    A nie przyszło wam do głowy że skoro bedą autonomiczne samochody to może wymyślą jakiś inny system znakowania drogi dla tych samochodów? Albo że nowe znaki na bieżąco bedą wpisywane w mape miasta! Znaki są na poboczu dla nas dziś. Kiedyś mogą to być inne.

  • Adf

    Dlatego już dziś powinno być zmienione prawo i każdy znak, droga obowiązkowo ewidencjonowany, a baza udostępniana dla każdego zainteresowanego. Taką bazę buduje się latami i trzeba zacząć teraz. Od razu by zniknęły problemy z budowami i nieaktualnymi mapami GPS. Jedyna szansa w Pani Streżyńskiej, bo innych ludzi z wizją nie widać. Podstawy już są np. te wszystkie geoportale.