78

Kto powinien zginąć w wypadku drogowym? Zagraj w grę i przetestuj swoją moralność!

Jak informuje The Guardian, Sandra Peter (director of Sydney Business Insights), przedstawiła pewien dylemat w programie Q&A stacji ABC. Czy autonomiczny pojazd znajdujący się w sytuacji bez innego wyjścia, powinien jechać tak, żeby ominąć dziecko, ale zabić pasażera pojazdu? A może jednak pojazd powinien zakończyć życie dziecka, ale uratować pasażera? Wypadek jest nieunikniony, można tylko wpłynąć na sytuację w opisany wyżej sposób.

Dylematy sztucznej inteligencji

Dziś tego typu dylematy wydają się ciekawym tematem do dyskusji. Teoretyczną zagwozdką idealną do porannej kawy, bo jest o czym porozmawiać i czas szybciej płynie. Jednak w związku z tym, że autonomiczne pojazdy nadchodzą coraz większymi krokami i kto wie, może w końcu faktycznie zastąpią niemal 100% tradycyjnych samochodów? Trzeba mieć przygotowane odpowiedzi…

Sandra Peter wyjaśnia, że w MIT mają projekt dedykowany czemuś takiemu, tzn. temu kto powinien zginąć (brzmi trochę dziwnie) w sytuacjach związanymi z autonomicznymi pojazdami? Małe dziecko wybiega pod koła samochodu, a pojazd musi dokonać wyboru między scenariuszami o różnym prawdopodobieństwie tragicznych wydarzeń (kwestia ocalenia dziecka, zabicia kierowcy uderzeniem w słup, do tego jeszcze możliwość związana z potrąceniem staruszki).

Co ciekawe, to nie koniec dylematów związanych z istnieniem coraz bardziej zaawansowanego oprogramowania, które w przyszłości będzie musiało dokonywać decyzji o czyimś życiu czy na przykład metod związanych z osiąganiem swoich celów (które mogą się wiązać z czymś, co my postrzegamy jako agresję). Doszliśmy do momentu, gdy oprogramowanie się trenuje… Autonomiczne samochody uczą się na zasadzie, o której wspominałem we wpisie na temat firmy Future Processing:

To wszystko jest normalną sytuacją, a nietypowe jest wszystko co jest inne. W oparciu o taki model uczą się autonomiczne pojazdy, ponieważ nie da się zdefiniować wszystkich możliwych sytuacji jakie mogą wystąpić na drodze… Najlepiej uczyć je tego co jest normą, dzięki czemu będą wyczulone na wszelkie nieprawidłowości. Przede wszystkim zachowają ostrożność w przypadku wystąpienia jakichkolwiek anomalii, czyli niestandardowych sytuacji (np. autonomiczny pojazd się zatrzyma), ale to co jest równie istotne to fakt, iż po spotkaniu się z anomalią, system może się nauczyć tego, z jakiego rodzaju sytuacją miał właśnie do czynienia i jakich reakcji się od niego oczekuje.

Zachowania sztucznej inteligencji, która się uczy, mogą być obserwowane np. w symulacjach z agentami mającymi swoje cele do zrealizowania. Jak osiągnąć swój cel? Agent sam do tego dojdzie. Ciekawym przykładem jest pewna… zabawa, której wyniki są przez nas interpretowane jako przejaw agresji (choć agent próbuje jedynie osiągnąć jak najlepszy wynik). W skrócie AI musi zbierać jabłka, ale obecność drugiego agenta zmniejsza szanse na optymalny wynik. Mając do dyspozycji broń, która na jakiś czas usuwa konkurenta z gry i poprawia wynik… oczywiście AI decyduje się z niej korzystać. W naszym rozumowaniu dochodzi do „mordu”, a nie poprawiania swojego wyniku związanego z gromadzeniem jabłek.

DeepMind testuje czy AI ma skłonności do agresji.

Ludzie nie mają takich dylematów, prawda?

Zabijać w imię korzyści? Takie bestialstwo może być jedynie wynikiem programu, który nie rozumie wartości „życia” drugiego agenta i kieruje się jedynie punktami. Chociaż… wszyscy doskonale wiemy, że nie tylko sztuczna inteligencja ale i człowiek jest zdolny do wielu rzeczy i to nawet pomimo rozumienia wartości życia.

Wypadek drogowy, w którym kogoś trzeba ocalić kosztem życia innych? Dla człowieka to nie problem… chociaż… jakby się nad tym zastanowić, to nie tylko AI może podejmować złe decyzje w takich kwestiach. Rzecz w tym, że czasem nie ma jednej słusznej odpowiedzi. Świetnie pokazuje to pewna „zabawa” o nazwie Moral Machine, mogąca wywołać w nas dylematy moralne związane z wypadkiem.

Jadę zbyt szybko (tzn. autonomiczny samochód jedzie zbyt szybko) i nie zdążę zahamować… mogę wjechać w: staruszkę, sporą kobietę, kobietę po której widać, że ma ważna posadę (np. dyrektor). Jest jeszcze szansa na skręcenie i… wjechanie w innych ludzi: starszego mężczyznę, sporego mężczyznę, jakiegoś dyrektora (również mężczyznę). Co zrobić? Prawdę mówiąc to nie ma to chyba większego znaczenia, bo i tak zginą 3 osoby (w dodatku podobne pod każdym względem, różniące się wyłącznie płcią).

W grze Moral Machin to nie sztuczna inteligencja ale człowiek decyduje o życiu innych.

No dobra, postaram się być dżentelmenem i świadomie pozbawiam życia mężczyzn… czeka mnie jeszcze 12 innych scenariuszy tego typu, ale już widzę, że takie decyzje wcale nie są łatwe i zawsze pozostawią moralnego kaca. Na końcu gra zapyta nas w jaki sposób podejmowaliśmy decyzje, co nami kierowało itd. Polecam zabawę, bo pokazuje jak trudne są dylematy moralne związane z rozwojem sztucznej inteligencji.

Dylematy moralne związane z rozwojem sztucznej inteligencji są niezmiernie trudne.

Pograj w Moral Machine (klik).

Źródło 1, 2

  • www

    Statystycznie kobiet jest więcej. Wniosek jest jeden:zawsze celować w baby. W dodatku im starsze tym lepiej… Tak wynika przynajmniej z danych demograficznych.

    • Wiesław Juskowiak

      Kobiet jest więcej, ale dla podstaw gatunku są ważniejsze od mężczyzn. Tysiące mężczyzn może zastąpić kilkadziesięciu innych. Tysięcy kobiet nie zastąpi nawet sto.

    • Konrad Uroda-Darłak

      Na razie :P

    • Cezary Sucharek

      Przecież wyraźnie pisał o starych babach. One w prokreacji odgrywają mniejszą rolę niż starsi faceci. No ale skoro lubisz takie pukać to co poradzić!? ;-)

    • Wiesław Juskowiak

      Nawet stara baba jest lepszym opiekunem niż samiec. :)

    • Cezary Sucharek

      Wydaje mi się, że prokreacja polega na procesie tworzenia potomstwa a nie na opiece nad nim ;-)

    • A

      Na co gromadka dzieci, skoro nie ma sie kto nimi opiekowac?
      Poszukaj sobie wykladu sp. prof. Vetulaniego – Neurobiologia seksu.

    • Cezary Sucharek

      Ojej, znowu ta marksistowska gadka ;-) Wyobraź sobie, że jeszcze czterdzieści lat temu opieka nad dziećmi wyglądała totalnie inaczej niż obecnie i dzieci nie umierały na ulicach z braku opieki. Chociaż w rozumieniu dzisiejszego prawa ówczesne matki zasługiwały na odebranie dzieci i bezwzględne więzienie za brak właściwej opieki. Z dzisiejszego punktu widzenia, moja matka była takim esesmanem w spódnicy, który pozwalał dziecku robić rzeczy niewyobrażalne dzisiejszym urzędnikom. Jako dziecko chodziłem samodzielnie do sklepu po zakupy, przebywałem sam w domu i nie spaliłem chałupy – ba, żaden pedofil nie przeflancował mi dupy. Udało mi się przejść ten trudny okres bez blizn i PTSD. Babcię kochałem bo byłem jej ulubieńcem ;-) Chociaż mój ojciec pałał zdecydowanie klasyczną miłością do teściowej ;-) W każdym razie co by nie gadać to jednak prokreacja to bardzo krótki okres w życiu człowieka. W zależności od możliwości ojca może trwać od kilku sekund do iluś tam minut. Godzin jak się jest joginem ;-) I żadna babcia w tym nie pomoże ;-) Nawet jeśli wielki Vetulani tak twierdzi ;-)

    • A

      Twoj jeden przyklad nie zmienia tego, ze z punktu widzenia biologii, samice sa wzniejsze.

    • Cezary Sucharek

      Spróbuj poodychać samym tlenem albo samym azotem ;-) Może wtedy zrozumiesz jak durny jesteś ;-)

    • ofca

      Oczywiscie. I niewazne, ze bedzie to np. twoja zona w ciazy. Albo corka.
      Statystycznie bedzie ok.

      Co za debilny komentarz. A jesli to ironia, to bardzo slaba.

    • www

      Zawsze to może być „madka z horom curkom”…
      Mogą też przejechać Twojego ojca bądź brata. Do wyboru, do koloru.

    • Rafał

      Ty sie rasisto od kolorowych odczep ! :) Już bys chciał czarnego rozjechac

  • Bartosz Kaja

    Nie mam moralnego problemu. Nie kupiłbym samochodu autonomicznego który mnie zabije, proste. Jeżeli autonomiczny pojazd skrzywdzi 30 ludzi by ocalić kierowcę, niech właściciel oprogramowania się martwi czy ten skrypt jest moralny.

    • Patryk

      Dokładnie. Na tym kończy się dyskusja.

    • Ojciec Dyrektor

      Dokładnie:) kupno samochodu, który w skrypcie ma co innego niż 100% ochrona kierowcy jest w sprzeczności z instynktem samozachowawczym człowieka

    • YY

      Masz rację. Sam też bym nie kupił.

    • indy

      Problem z tym, że prawdopodobnie w większości wypadków nie będziesz takiego samochodu kupował, tylko wynajmował na minuty. Podobnie jak przejazd taksówką czy autobusem. Tu też decyzja jak zachowa się kierowca nie zależy od ciebie.

    • Jarek Siedlak

      Prawdopodobnie nie będziesz go wynajmował. Koszta szybko przekroczą możliwości klientów – efekt konsolidacji kosztów inwestycyjnych znany od lat w wielu dziedzinach. To, ze karmi się papką pospólstwo nie znaczy, że ta papka ma jakiś sens.

    • Bartosz Kaja

      Nie wynajmę autonomicznego pojazdu który mnie zabije. W przypadku taksówek, kierowca też tego nie zrobi, problem faktycznie występuje w przypadku autobusów. Czy autokar szkolny jest ważniejszy niż wycieczka szkolna na pasach? Trudno powiedzieć. Dlatego na razie pozostanę przy instynkcie i odruchach, nie oddam życia w ręce moralności SI.

    • luk

      ale to problem kierowcy. skoro zdecydowal jezdzic samochodem autonomicznym to niech ponosi ospowiedzialnosc.

    • Marcin

      Dla mnie tego typu rozważania są absolutnie głupie. Zgadzam się z Tobą w 100%. Kto będzie kupował auto, które nie zagwarantuje bezpieczeństwa pasażerów? Jak w takiej sytuacji będzie wyglądała instrukcja obsługi do tego auta? Coś w stylu: UWAGA! Jeśli pojazd uzna to za moralne zabije swoich pasażerów. Od dowolnego urządzenia, które kupię, oczekuję zapewnienie jak największego bezpieczeństwa. I takie AI ma zrobić absolutnie wszystko, żebym to ja przeżył. Żeby podkreślić absurd tych rozważań parę przykładowych pytań:
      1. Jak pojazd będzie rozróżniał kobiety i mężczyzn?
      2. Jak pojazd będzie rozróżniał osoby młode od starców i jakie jest kryterium bycia starcem?
      3. Jak pojazd będzie rozróżniał osoby niskie od osób młodych?
      4. Czy przed rozpoczęciem jazdy będę musiał podawać liczbę pasażerów i ich wiek tak aby AI oceniło, czy bardziej opłaca się zabić osoby w pojeździe, czy poza nim?

  • Wiesław Juskowiak

    A jak reagują ludzie w takiej sytuacji? Nie siedząc w fotelu i rozmyślając nad tym. Jaka racja kieruje w tym, że wykonują taki, a nie inny manewr? Ochrona siebie, poprzez próbę ominięcia? Ochronę innej istoty? To jakie racje kierują nami w tym, a nie innym momencie mają sens, ale tylko badane jako dziejące się. Nasza moralność przed biurkiem może się mieć nijak do sytuacji na drodze. Zresztą, chyba etycznym rozwiązaniem zadania z wagonikiem jest brak podejmowania decyzji.

    • Cezary Sucharek

      Jechałem w zimie ładną Alfą i przed przejściem dla pieszych zapaliło się żółte. Była taka szklanka, że ABS nic nie poradził – po prostu powoli jechałem w kierunku przejścia. Nie byłem w stanie zatrzymać auta. No i zapaliło się czerwone dla mnie a zielone dla pieszych. A ja jadę. Zacząłem walić w klakson, żeby dać do myślenia pieszym, żeby nie wchodzili na drogę. Oczywiście stado baranów zaczęło wchodzić z dwóch stron. A ja jadę. Nawet przez moment nie pomyślałem o tym aby wjechać w słup byle nie w ludzi. Przejechałem między zbliżającymi się z dwóch stron ludźmi, którzy wkurwieni walili mi w maskę bo żadnemu z nich nie przyszło do głowy, że nie mogłem zahamować. Nie czułem żadnego imperatywu zmiany kierunku – może dlatego, że jednak jechałem bardzo wolno więc uderzenie by chyba nikogo nie zabiło a może dlatego, że jestem socjopatą ;-)

    • www

      Niedostosowanie prędkości do warunków drogowych.

    • indy

      Warunki drogowe nie dostosowały się do prędkości ;)

    • Cezary Sucharek

      A czy ja twierdzę, że jechałem zgodnie z prawem drogowym!? ;-) Nigdy nie jeżdżę więc dlaczego wtedy miałbym jechać!?

    • www

      Opowiedziałeś całą historię, wybieliłeś siebie i oczerniłeś przechodniów. Tymczasem to Ty wyszedłeś na debila drogowego jakich wielu na drodze. Zmieniłeś po prostu golfika III na alfę 159.

    • Cezary Sucharek

      Zastanów się jak by się ta akcja skończyła dla mnie a jak dla przechodnia gdybym jednak wjechał w ludzi. Ja miałbym zajebisty problem z policją i prawem jazdy. Ale barany miałyby co najmniej połamane kulasy tylko dlatego, że zgodnie z prawem wlazły pod nadjeżdżający samochód. Więc nikogo nie wybielałem i nikogo nie oczerniałem – pokazałem tylko, że ludzie czasem postępują idiotycznie i mam na myśli jedynie bezmyślnych pieszych. Jeżdżę także rowerem i chodzę jako pieszy. Zawsze się zastanawiam czy wchodząc na ulicę jestem bezpieczny. Nigdy świadomie nie wlezę pod nadjeżdżający samochód tylko dlatego, że ja mam zielone a on czerwone. Zawsze biorę pod uwagę możliwość, że kierowca jest nawalony, naćpany, ma cukrzycę, jest staruchem, który przestał ogarniać drogową rzeczywistość bądź jest kobietą, która drogowej rzeczywistości nigdy nie ogarniała.

      PS. Nigdy nie jeździłem Golfem ;-) Ale kolega na studiach miał golfa trójkę tylko, że wtedy ta fura robiła duże wrażenie. To było ponad dwadzieścia lat temu i trójka właśnie wchodziła na rynek. A inni studenci bujali się tramwajami albo stuletnimi szrotami.

    • Www

      Więc jakieś w grupę ludzi na pasach i jeszcze na nich narzekasz… Bóg Prostej, Cesarz Późnego Żółtego i Król Serwisu w jednym.

    • ja

      ktoś tu ma problemy z rozumieniem tekstu:) albo mało jeździ samochodem w trudnych warunkach i jest przekonany o własnej nieomylności. nie chodzi o to co zrobił, tylko o jego reakcję, ewentualnie o reakcje innych.

    • Cezary Sucharek

      To chyba oczywiste ;-) Bo to było stado bezmyślnych baranów ;-) A z tym serwisem Alfy to taki miejski mit – zmieniałem olej i lałem paliwo, alfa pruła asfalt i nie narzekała wcale ;-)

    • indy

      Pytanie w teście nie brzmi „jakbyś się zachował”, tylko „jak powinien się zachować samochód autonomiczny”. Tu już jest czas i chłodna kalkulacja na opracowanie konkretnych algorytmów.

    • Wiesław Juskowiak

      Powinien się zachować tak, jak my się zachowujemy na drodze w takiej sytuacji. Nie wiem tak naprawdę czy jest dobra odpowiedź na takie pytanie. Niezależnie od testów, od ich wyników, nawet od tego czy na chłodno z tymi wynikami się zgadzamy, czy nie, to w spotkaniu z realnym zdarzeniem, które dotyka nas w bardziej bezpośredni sposób, nasze odpowiedzi mogą (a i zapewne będą) się diametralnie różnić. Prawda jest taka, że nikt nie chce ginąć, a instynkt przetrwania jest w nas silny. Gdy nam nic nie grozi, możemy sobie opowiadać o moralności, poświęceniu i wyborze siebie kosztem większego dobra. Tylko, że chyba wszyscy sobie zdajemy sprawę, że to tak nie będzie działało. Nie ma dobrej odpowiedzi.

    • indy

      Oczywiście. Niemniej chodzi o to jak te samochody zaprogramować. I jak ty uważasz, że powinny być zaprogramowane. Czy pasażer ma większe prawa niż pieszy? Tu akurat niekoniecznie, zwłaszcza, że producentom też będzie zależało na jak najmniejszej liczbie ofiar śmiertelnych, to w końcu dobry PR.
      W problemie z wagonikiem brak decyzji wcale nie jest najbardziej etyczny. To zło (czyli przywiązanie ludzi do torów) już się dokonało i to od ciebie zależy, ilu ludzi zginie. Analogicznie jest tutaj: hamulce wysiadły, ktoś zginie. Pytanie tylko kto. Uważam, że algorytm choćby zliczający liczbę ofiar jest lepszy, niż brak decyzji i zdanie się ślepemu trafowi. Wiadomo, że dochodzi więcej zmiennych. Pasażer z pasami i poduszkami powietrznymi ma większe szanse na przeżycie, niż pieszy. Ale to też można oszacować.

    • Wiesław Juskowiak

      Etycznie jest właśnie, aby nie wyznaczać kto ma zginąć, bo tak czy inaczej skazujesz na śmierć. To może być racjonalne, jednak niekoniecznie będzie to etyczne.
      Liczba ofiar jest jakimś wskaźnikiem, który można uznać za racjonalny, ale co w przypadku, gdy jedziesz w 5 osób, hamulce wysiadły, a na prawidłowo oznaczonym przejściu, na zielonym świetle przechodzi jedna osoba?
      Ja od razu Ci powiem, że nie wiem i każda odpowiedź jest trudna. Badanie jak to, nie powinno odbywać się na gruncie moralności czy etyki, a racjonalności. Jest potrzebne, może przynieść wiele ciekawych wniosków, ale jak dla mnie jest jednym z wielu kroków, które trzeba podjąć na drodze do stworzenia takie algorytmu.

    • indy

      W problemie wagonika nie skazujesz na śmierć. Ta już jest zdeterminowana. Jest to raczej próba odpowiedzi na to, czy istnieje „mniejsze zło”. Sytuacja wagonika jest dość mało prawdopodobna, ale z autonomicznymi samochodami jest już inaczej. To nie jest coś, co będzie się działo codziennie, ale pytanie brzmi czy takie wyliczenia mają się znaleźć w oprogramowaniu, czy pozostawić sprawę losowi. Według mnie, jeśli mówimy o tworzeniu jak najbezpieczniejszego środka transportu, to tak.
      Na twoim przykładzie, pięć osób w samochodzie, jedna na przejściu. Zakładam, że jak większość poruszasz się raz pieszo, raz pojazdem. I teraz pytanie nie brzmi, jak powinien się w tej konkretnej sytuacji zachować samochód, tylko czy powinien mieć zaimplementowany algorytm, który zminimalizuje straty. I dlatego uważam, że powinien, bo statystycznie daje mi to większą szansę na przeżycie (lepiej jak raz na milion podróży ginie jedna osoba, niż pięć).
      Śliska sprawa zaczyna się przy ocenianiu płci, statusu społecznego itp. Czy autonomiczny autobus wiozący 40 kibiców od dwóch dni pijanych powinien ewentualnie oszczędzić laureata nagrody Nobla na pasach? ;)

    • Wiesław Juskowiak

      Zgadzam się co do algorytmu. Jest krok w dobrą stronę, ale jeden z wielu. Nawet jeśli się zgodzimy się na jakieś ramy, że kobieta dla społeczności jest ważniejsza niż mężczyzna, to i tak ugrzęźniemy, bo przecież nawet jeśli biologia w teorii załatwi nam to na podstawowym poziomie, to jednak zdobycze technologii i zmiana stylu życia już jej nie determinują na świadomym poziomie wkładu jaki wnosi do społeczeństwa. Czy autobus powinien oszczędzić laureata? No nie wiem, to jest zabawne. Z jednej strony tak. Jego wkład jest większy, a z drugiej, skąd autobus będzie wiedział, że to laureat? A jeśli systemy będą na tyle rozwinięte, by rozpoznawać płeć, status społeczny, to czy to nie za daleko? Wskaźnik ilościowy ma chyba najwięcej sensu.

    • Alot

      To oczywiste, że rolą samochodu jest dbać o bezpieczeństwo pasażera.
      Dylemat winy i kary to zabawa na później.

    • ja

      to by dopiero był zły pr, gdyby istniała możliwość, że samochód nie będzie dbał o mnie w pierwszej kolejności. jak ktoś chce się bawić w zbawianie świata, niech dadzą kilka opcji do wyboru, ale samochód, który nie ma zakodowane, ze chroni w pierwszej kolejności mnie i moich pasażerów nie jest produktem, na który byłbym skłonny wydać pieniądze. i myślę, że większość ludzi tak ma, cokolwiek by nie pisali w internecie.

    • indy

      Zakładam, że samochody autonomiczne w większości nie będą prywatne, a będą częścią transportu publicznego. Po prostu tańsze taksówki.

    • Alot

      Tu nie ma miejsca na rozmyślania – rolą MOJEGO samochodu, jest w warunkach kryzysowych ocalić MOJE życie.
      Natomiast prawo nakłada na ten schemat swój własny – schemat winy i kary.

      Zatem autonomiczny samochód ze mną w środku, pełniąc funkcję mojego samochodu, ma mnie uratować.
      A państwo w postaci aparatu sądowego ma potem rozważyć winę i ewentualnie ukarać.

  • Konrad Uroda-Darłak

    Dla mnie wybór prosty – łamie prawo, więc ma pierwszeństwo do śmierci. Oczywiście tak to wygląda w zaciszu domowym. Nie wiem, co bym wybrał będąc w takiej sytuacji.

  • Natalia Pierzchała

    W warunkach, gdzie wszystkie osoby uczestniczące w zdarzeniu są mi obce, wtedy oczywiscie wybieram najbardziej humanitarne rozwiązania. Jednak taki test jest bez sensu, bo w przypadku, kiedy w potencjalnym wypadku mieliby uczestniczyć moi bliscy lub/i ja, to zawsze będę chronić moich bliskich i siebie.

    • LuN

      Niestety nie do końca tak to działa :) U ludzi kluczową rolę podczas wypadku odgrywa instynkt (i niektóre wyuczone odruchy – ale tutaj już wkraczamy w przestrzeń osób specjalnie szkolonych). Zależnie od czasu, prędkości samochodów itp. może być tak, że nie zareagujesz świadomie tylko odruchowo. I nic tu nie będzie miało znaczenia – ani to, że w najlepszej wierze uważasz że będziesz chroniła bliskich. Zwyczajnie oko-mózg-ręka spowodują że wjedziesz w latarnię chcąc ocalić małe dziecko na drodze (przewaga instynktu macierzyńskiego) i zabijesz swoich bliskich i siebie. Do tego, sami nie jesteśmy w stanie obliczyć czy któraś z reakcji może doprowadzić do naszej śmierci lub zagrożenia życia.

      Natomiast komputer nie ma instynktu i może zrealizować tylko jakiś konkretny algorytm – np. wyliczyć mniejsze/większe prawdopodobieństwo.

    • Natalia Pierzchała

      Pewnie masz rację, że widząc dziecko odruchowo chce się je ominąć.

  • Damian Borowczyk

    Ja się kierowałem zasadami:

    1. Zawsze staraj się ocalić ludzi kosztem zwierząt jeśli jest szansa, że nikt z ludzi nie zginie.

    2. Zawsze w pierwszej kolejności chroń ludzi na pasach. Osoba wsiadając do autonomicznego pojazdu dokonała świadomego wyboru. Osoba na pasach nie ma na to wpływu. Jeśli ktoś ma ginąć to osoba, która świadomie podjęła takie ryzyko, a nie przypadkowi niewinni ludzie.

    3. Jeśli niezależnie od podjętej decyzji zginie przynajmniej 1 człowiek na pasach to nie zmieniaj kursu.

    Wiek, płeć, zamożność czy liczba potencjalnych ofiar nie były przeze mnie brane pod uwagę, jako zbyt subektywne.

    • F of X

      2. Zawsze w pierwszej kolejności chroń ludzi na pasach. Osoba wsiadając do autonomicznego pojazdu dokonała świadomego wyboru. Osoba na pasach nie ma na to wpływu. Jeśli ktoś ma ginąć to osoba, która świadomie podjęła takie ryzyko, a nie przypadkowi niewinni ludzie.

      Bez sensu. Równie dobrze możesz tak powiedzieć o każdym kierowcy – „Osoba wsiadająca do pojazdu dokonała świadomego wyboru.”. Czy to będzie autonomiczne, czy nie – żadnego znaczenia to nie ma.

    • Damian Borowczyk

      Nie bez sensu. Ale zgadam się, że tu nie ma znaczenia czy to autonomiczny pojazd czy nie. Kierowca lub pojazd powinni za wszelką cenę oszczędzić pieszego, nawet kosztem śmierci. W przypadku kierowcy zadziała instynkt i pewnie tego nie zrobi. W przypadku autonomicznego pojazdu można to zaprogramować.

      Nie bardzo widzę, z czym masz problem w mojej wypowiedzi.

    • F of X

      Kiedy dodałeś, że nie ma znaczenia – to już nie mam. Bez sensu był wyraźny podział na autonomiczne i nieautonomiczne, że pełna świadomość itd.

      Co do Twojego zdania (reszta tekstu), to już są kwestie osobiste. Ja sądzę, że nie po to wydałbym na samochód tyle pieniędzy, żeby w sytuacji, gdy ktoś wybiegnie na ulicę, wybrał drzewo i moją śmierć. Nie sądzę, że „Kierowca lub pojazd powinni za wszelką cenę oszczędzić pieszego”. Jednak z dylematami moralnymi jest tak, że wchodzą tutaj kwestie wychowania, doświadczeń, nauki, biologii etc. Nie sposób sobie udowodnić takich racji. :)

    • Damian Borowczyk

      Zgadza się, starałem się patrzeć „obiektywnie” na sytuacje. W praktyce jak mówisz to kierowca kupuje samochód i wybierze taki, który podejmie decyzje jemu odpowiadające. No chyba, że by powstało prawo to regulujące itp itd…

    • Nie było tam mowy o wybieganiu na ulicę a o awarii układu hamulcowego. Moim zdaniem w sytuacjach pieszy, który przechodzi na zielonym świetle ma większe prawo do życia niż osoba „prowadząca” pojazd. W innej sytuacji, czyli twoje auto jedzie zgodnie z przepisami a ktoś nagle wybiega na jezdnię, na pewno gorszą decyzją było by zabić osobę w pojeździe tak więc w przypadku opisanym przez Ciebie, osobiście wybrał bym śmierć osoby, która wybiegła na jezdnię.

    • F of X

      Dla mnie nie ma różnicy, czy to awaria, czy błąd pieszego. Samochód ma Ciebie ratować. Tak sądzę. I dobrze, że piszemy o swoich odczuciach (moim zdaniem, tak sądzę), ponieważ tego typu problemy moralnie są uwarunkowane, jak pisałem, personalnymi preferencjami.

      Btw. ciekawe jak Volvo do tego podejdzie.

    • Każdy ma swoje odczucie tego co powinno się dziać. Oczywiście nigdy nie będzie złotego środka i będzie ktoś poszkodowany.

      Akurat co do Volvo też jestem bardzo zaciekawiony, co zaprezentuje. Jest to pierwszy samochód o którego kupnie na poważnie się zastanawiam jednak obawy co do technologii wciąż pozostają :)

    • YY

      Poświęcenie życia to już heroizm, a do tego nie wolno nikogo zmuszać. Dla maszyny (nieważne czy to samochód, czy sokowirówka) jedynym priorytetem ma być bezpieczeństwo i potrzeby jej użytkownika.

      Jedyny dylemat moralny nad którym warto się zastanawiać, to taki, gdy człowiek każe maszynie skrzywdzić drugiego człowieka lub zaniechać pomocy

    • ofca

      > Jeśli ktoś ma ginąć to osoba, która świadomie podjęła takie ryzyko, a nie przypadkowi niewinni ludzie.

      1. Co jesli osoba na przejsciu to samobojca? I weszla na pasy prosto pod jadacy autonomiczny pojazd swiadomie?
      2. Co jesli osoba na przejsciu to uciekajacy z miejsca zbrodni morderca/gwalciciel, a w samochodzie jedzie dziecko?
      3…

      Moglbym tak wymieniac do rana

      Nic nie jest czarno-biale, jak to przedstawiasz.

    • Zrobiłem podobnie tylko w punkcie 3 kierowałem się ogólnymi zasadami ruchu drogowego, czyli osoby które przechodziły na zakazie ( czerwone światło ) ginęły.

      Proponuję podzielić się wynikami : moralmachine…/results/1227452126

    • Damian Borowczyk

      No ja tego nie uwzględniłem, bo nie patrzyłem na światła (widocznie za szybko chciałem to zrobić), ale gdybym nie przeoczył tego „szczegółu” to bym zrobił podobnie jak Ty.

    • ja

      a pytania nie są losowane z puli? każdy dostaje różne i w różnej kolejności?

    • Tak, pytania są losowe ale zachowują pewien schemat. Zawsze jest wybór zwierzęta vs ludzie, kobiety vs mężczyźni, pasażer vs przechodnie etc.

    • YY

      1. Liczy się tylko życie pasażerów pojazdu – kupili go, a więc zaufali producentowi, że pojazd będzie dla nich bezpieczny. Mają więc prawo oczekiwać, że ich życie uzna za najwyższy priorytet, zamiast poświęcić ich, by ratować dziecko sąsiada, którego nawet nie lubię…

    • ja

      ja to robiłem jakiś czas temu i podstawowym założeniem było: chroń pasażerów i staraj się nie zmieniać kierunku jazdy (zminimalizowanie dodatkowych zdarzeń losowych).
      na koniec zorientowałem się, ze w połowie przypadków pojazd był pusty:D i cały misterny plan w pi…

  • ofca

    Przypomina mi to scene z filum ‚Ja, robot’, gdzie robot ratuje Dela Spoonera (Will Smith) z tonacego samochodu, zamiast dziewczynki z drugiego auta (oba samochody zderzyly sie i wpadly do rzeki, zobaczyl to przechodzacy robot i skoczyl ich ratowac).

    A uratowal jego zamiast dziecka, bo algorytm w jego AI wyliczyl, ze dziecko ma jedynie 11% szans na przezycie, a Del 45%

    Susan Calvin: What happened to you?
    Detective Del Spooner: Headed back to the station. Normal day, normal life. The driver of a semi fell asleep at the wheel. Average guy, wife and kids, working a double. *Not* the devil. The car he hit, the driver’s name was Harold Lloyd. Like the film star, but no relation. He was killed instantly. But his twelve-year-old was sitting in the passenger’s seat. Never really met her. Can’t forget her face, though. Sarah.
    [fingering the necklace]
    Detective Del Spooner: This was hers. She wanted to be a dentist. What the hell kind of twelve-year-old wants to be a dentist? Yeah, um… the truck smashed our cars together and pushed us into the river. You know, metal gets pretty pliable at those speeds. She’s pinned, I’m pinned, the water’s coming in. I’m a cop, so I know everybody’s dead. Just a few minutes until we figure that out. NS4 was passing by and jumped in the river.
    NS4 Robots: [from flashback] You are in danger!
    Detective Del Spooner: [from flashback] Save her!
    NS4 Robots: [from flashback] You are in danger!
    Detective Del Spooner: [from flashback] Save her! Save the girl!
    Detective Del Spooner: But it didn’t. Saved me.
    Susan Calvin: The robot’s brain is a difference engine. It’s reading vital signs. It must have done…
    Detective Del Spooner: It did. I was the logical choice. It calculated that I had a 45% chance of survival. Sarah only had an 11% chance. That was somebody’s baby. 11% is more than enough. A human being would’ve known that. Robots,
    [indicating his heart]
    Detective Del Spooner: nothing here, just lights and clockwork. Go ahead, you trust ’em if you want to.

    Pasuje do sytuacji jak ulal :)

  • doogopis

    Samochód nie powinien wybierać,zabić tego co pod koła wpadnie jak w normalnych samochodach i tyle. Takie wybieranie jest bez sensu i zawsze bedzie 1000 za i przeciw.

  • YY

    Hmmm… dla autonomicznego pojazdu życie jego pasażerów zawsze powinno być na pierwszym miejscu.

    A jakbym miał wybierać, to zawsze niech giną twoi bliscy zamiast moich.

    • Ale cały ten problem jest postawiony nieco na głowie, bo autonomiczny samochód nie będzie jechał w takiej sytuacji zbyt szybko (będzie zwykle jeździł z taką prędkością, z jaką pozwala sytuacja drogowa) – ergo, nie zaskoczy go sytuacja z grupą ludzi na pasach. Oczywiście, może być „zaskakiwany” (śmiesznie to słowo brzmi w kontekście algorytmów), ale z założenia tych zaskoczeń będzie dużo mniej, niż mają kierowcy.

    • YY

      ale pojedyncza taka sytuacja wywoła medialną burzę

    • wefhy

      W teście w każdym miejscu masz „popsute hamulce” – pewnie taka sytuacja zdaży się raz na miliard, ale co z tego ;)

  • Sebastian Piotrowski

    3 opcja celować w środek wtedy zginęły by tylko 2 osoby… a może tylko 1, kobieta w grupie po lewej może by miała jakąś szansę aby odskoczyć…

  • mall

    Cała ta zabawa nie uwzględnia interesów.

    Moim zdaniem scenariusz będzie taki:
    – klient opłata pakiet usług związanych z modyfikacją softu auta;
    – zamówiony pakiet pozwala ingerować w priorytety zachowania auta;
    – bogaty klient będzie mógł zapłacić za priorytet poświęcenia innych zamiast pasażera auta.

    Warto dodać, że tym bogatym klientem będą najpewniej firmy finansowe wynajmujące autonomiczne auta i świadczące nimi przewozy.

  • mobinaut

    Sytuacja na drodze rozwija się dynamicznie. Z tego względu nigdy człowiek czy maszyna nie staje przed tego typu wyborem ( zabijemy tych lub tamtych w stosunku 50 na 50 %) Po prostu jest zbyt wiele zmiennych o nieokreślonych wartościach do tego zmieniających się w czasie.. Nie znamy zatem do końca rezultatu naszych działań ponieważ nie mamy wystarczających danych wejściowych. Maszyna ma trochę łatwiej ze względu na szybkość działania, jednakże i w jej przypadku obliczenie wszystkich parametrów i określenie konsekwencji podjętych działań nie biedzie w pełni możliwe ponieważ dane wejściowe są niepełne. Przedstawione sytuacje drogowe są czysto teoretyczne i oderwane od rzeczywistości. Taki model teoretyczny jest daleki od sposobu w jaki będzie musiała działać maszyna i raczej niewiele wnoszą do dyskusji.

  • Jarek Siedlak

    Autonomiczny pojazd powinien zachowywać się tak by nie dopuszczać do sytuacji w których taki dylemat wchodził by w grę. Aha zapomniałem, żaden tego nie potrafi i nie będzie szybko potrafił (za pewne nie w ciągu najbliższej dekady). To potrafią tylko ludzie ale często nie chcą tego robić.
    Systemy detekcji w samochodach autonomicznych nie są w stanie precyzyjnie rozróżniać przeszkód, a systemy decyzyjne sytuacji to jak mają podejmować jakiekolwiek decyzje? Ba co więcej systemy decyzyjne nie są w stanie rozpoznawać, że jakieś czujniki nie działają właściwie, mniej skutecznie, jak zmienia się ich skuteczność i możliwości, co szwankuje i nie potrafią dopasowywać się do swoich i innych uczestników ruchu ułomności co je dyskwalifikuje i doprowadziło już do wielu kraks w samochodach testowych. Inżynierowie nie wiedzą jak ugryźć ten problem. Człowiek z dużą skutecznością to potrafi.
    Wiem, że to brzmi jak trollowanie ale wierzcie mi wiem co piszę. Zresztą postawienie takiego dylematu jest pośrednim przyznaniem się do porażki i urabianiem gruntu pod przyszłe katastrofy.

    • mobinaut

      Jedyna mądra wypowiedz w dyskusji. Cała zabawa w moral machine w żadne sposób nie odwzorowuje rzeczywistości i jest nadmiernym spłyceniem tematu. Co więcej może stanowić dla ludzi o ograniczonej wiedzy technicznej pożywkę pod niezdrowe spekulacje na temat technologii pojazdów autonomicznych.

  • Kanda

    Życie organizmów żywych dziwnie przypomina trening autonomicznych maszyn. Ciekawe, kiedy maszyny zaczną dyskutować, jakie zachowanie jest lepsze.

  • abradab

    dbamy o psy, kobiety, dzieci i fit ludzi!
    reszta out!

    • indy

      Ja w kilku przypadkach nie wiedziałem co wybrać i dawałem losowo. Wyszło mi, że najchętniej zostawiam przy życiu grubych facetów :-