robot bojowy
33

Elon Musk i eksperci do ONZ – zakażcie rozwijania i produkcji robotów bojowych

116 ekspertów z zakresu robotyki oraz sztucznej inteligencji podpisuje się pod listem otwartym do Organizacji Narodów Zjednoczonych. Wśród nich znajduje się Elon Musk (Tesla, SpaceX, Hyperloop, The Boring Company, OpenAI, Neuralink, SolarCity) oraz Mustafa Suleyman, współzałożyciel DeepMind Technologies. Problemem do którego się odnoszą jest rozwój zabójczych, autonomicznych robotów.

Zabójcza autonomiczna broń zagraża przerodzeniem się w trzecią rewolucję działań wojennych. Jej opracowanie pozwoli na prowadzenie konfliktów zbrojnych w skali większej niż kiedykolwiek, a w skali czasu będą one postępować szybciej niż jest to możliwe do pojęcia przez człowieka. Może się to stać bronią terroru, bronią, którą despoci i terroryści wykorzystają przeciwko niewinnym ludziom, i bronią, która po zhakowaniu może się zachowywać w niepożądany sposób. Nie mamy wiele czasu na podjęcie stosownych działa. Raz otwarta puszka Pandory, będzie ciężka do zamknięcia.

Powyższe stanowi moje tłumaczenie fragmentu treści otwartego listu do ONZ. 116 ekspertów z całego świata się pod nim podpisało. Nie są to przypadkowi ludzie, lecz założyciele firm aktywnie rozwijających robotykę oraz AI.

Autonomiczne roboty bojowe mogą zmniejszyć straty wśród ludzi

Proch, broń jądrowa, a teraz roboty zdolne do autonomicznego funkcjonowania i w razie potrzeby: do zabijania. To bardzo ciekawy temat, ponieważ w krótkiej chwili może wywoływać niezwykle skrajne odczucia. Zaczynamy się nad tym zastanawiać i dochodzimy do wniosku, że przecież wysyłanie w jakieś miejsce robotów, zamiast ludzi z krwi i kości to… wyjątkowo dobra, pożyteczna rzecz, która uratuje wiele ludzkich istnieć. Dlaczego ktoś ma się dowiadywać, że jego syn zginął na polu walki, ale za to walczył dzielnie? Czy nie lepiej jeśli ci sami rodzice dowiedzą się, że robot wyposażony w odpowiednio zaawansowane algorytmy udał się w niebezpieczne miejsce, nie potrzebował nawet kontaktu ze zdalnym, ludzkim operatorem, ale za to pomógł w unieszkodliwieniu wroga? Co więcej, mimo obecności ludności cywilnej, ucierpieli jedynie terroryści!

Karabiny maszynowe na kółkach, drony dzierżące karabiny w powietrzu, czołgi do których nei musi wsiadać żaden czołgista. To wszystko brzmi… super! Chętnie będę oglądał filmy z udziałem takich wynalazków. Pytanie brzmi, czy chcemy mieć tego typu patenty w prawdziwym świecie, poza wielkim ekranem? Mam na myśli to co widać poniżej:

Dziś takie rzeczy mogą wymagać pomocy ze strony ludzkiego operatora, ale… skoro da się zrobić autonomiczny samochód, to dlaczego mamy nie zrobić autonomicznej maszyny bojowej? Jej refleks może być lepszy od ludzkiego… poza tym czasem występują problemy z łącznością, więc lepiej żeby takie roboty potrafiły same o siebie zadbać.

Sztuczna inteligencja, roboty, ostra amunicja

Mimo wszystkich zalet o których wspomniałem wyżej, ten śródtytuł chyba jednak nie jest dobrym połączeniem. Sztuczna inteligencja, która obsługuje robota wyposażonego w ostrą amunicję… 116 ekspertów prosi aby tego zakazać i zwraca uwagę na to, że należy znaleźć sposób na skuteczną ochronę przed zagrożeniami, które przyjdą wraz z rozwojem takich rzeczy. Kto jeśli nie oni (ludzie którzy rozwijają roboty oraz AI) powinien mieć prawo głosu w tej sprawie?

An Open Letter to the UnitedNations Convention on Certain Conventional Weapons.

Źródło 1, 2

  • Krystian Dłużniak

    Terminator, jeden dwa i trzy. Kiedy ktoś przejmie kontrolę nad maszynami lub też maszyny otrzymają świadomość.

    Fikcja stanie się faktem…

    • Dawid

      No to wtedy wystarczy ludziom zwiać na Antarktydę, żadna bateria w robocie nie wytrzyma zbyt długo w tych warunkach;) A tak serio to do uzyskania świadomości, a raczej samoświadomości przez maszyny, wbrew temu czym straszy nas Musk z ekipą,daleka droga, o ile w ogóle jest to możliwe.

    • Singollo

      A po co samoświadomość? Wystarczy błąd w module rozpoznawania swój-obcy. Albo wróg-cywil.

  • Przemek

    Pierdolety.
    Ja tam chętnie zobaczył bym live stream jak 20 helikopterów z tzw. sztuczną inteligencją rozwala siedliska isis.

    • Marcin Hołowacz

      Fakt. Ciężko czymś przebić taki livestream ;)

    • Feniks06

      „Czy nie lepiej jeśli ci sami rodzice dowiedzą się, że robot wyposażony
      w odpowiednio zaawansowane algorytmy udał się w niebezpieczne miejsce,
      nie potrzebował nawet kontaktu ze zdalnym, ludzkim operatorem, ale za
      to pomógł w unieszkodliwieniu wroga? Co więcej, mimo obecności ludności
      cywilnej, ucierpieli jedynie terroryści”

      Bardzo optymistyczne założenie :) Najprawdopodobniej Ci sami rodzice po prostu dostaną list z armii z informacją, że ich syn został zabity przez drona bądź robota. Załóżmy konflikt dwóch stron, których uzbrojenie opiera się na robotach. Przecież wiadomo, że te roboty nie będą tworzone po to by niszczyć roboty przeciwnika. Oczywiście takie zadanie też będzie przed nimi stało. Ale to głównie siła żywa przeciwnika będzie prawdziwym celem. Bo przecież gdy wszystkie roboty jednej ze stron zostaną zlikwidowane to i tak ludzie chwycą za broń. Poza tym nawet autonomiczne jednostki będą działały pod jakimś operatorem. Nie będzie to ktoś kto steruje każdą jednostką pojedynczo ale np. będzie równocześnie koordynował pracę setek takich jednostek. Po co zatem niszczyć te setki jednostek jak będzie można zabić tego jednego operatora, który odpowiada za ich pracę bądź infrastrukturę zarządzającą nimi? No chyba, że mówimy o 100% autonomii gdzie po prostu włączasz robota a ten już dalej sam operuje, sam dobiera cele, podejmuje decyzje i sam się serwisuje. No ale takie założenie to już jest prosta droga do kataklizmu.

      Ja wiem, że to fajnie brzmi… zamiast zabijać tysiące ludzi będziemy sobie po prostu niszczyć maszyny a wszystko będzie wyglądać jak gra komputerowa w której gra się kończy gdy przeciwnik zniszczy wszystkie jednostki przeciwnika ale nie wierzę, że tak to będzie wyglądać. Po prostu roboty jednej strony będą zabijać ludzi po drugiej stronie barykady i na odwrót. Poza tym przecież temat jest o wiele bardziej skomplikowany. Nie sądzę bym dożył czasów w których roboty zastąpią na polu walki np jednostki specjalne przeznaczone do chirurgicznych operacji. Być może dron będzie w stanie rozpieprzyć budynek z dokładnością do mikrona ale nie dokona samodzielnie uprowadzenia, odbicia zakładników czy wielu innych akcji.

    • Darek B.

      AI w morderczych robotach jest o tyle zagrożeniem, że zawsze hacker może je zmienić…..rzucić czar „confuse” i robi się szał pał.

    • Marcin Hołowacz

      >Najprawdopodobniej Ci sami rodzice po prostu dostaną list z armii z 
      informacją, że ich syn został zabity przez drona bądź robota.

      W momencie kiedy tylko jedna ze stron dysponuje tego typu przewagą technologiczną, raczej nie (no chyba, że mają tak dobrych hakerów?). Jeśli wszyscy mają drony… tu już faktycznie zaczyna się komplikować.

      >Poza tym przecież temat jest o wiele bardziej skomplikowany. Nie sądzę
      bym dożył czasów w których roboty zastąpią na polu walki np jednostki
      specjalne przeznaczone do chirurgicznych operacji.

      Jasne, ludzie wciąż mogą wykonywać sporą część zadań, a roboty będą od określonych sytuacji, ew. będą często wspomagać oddział ludzi. Nawet gdyby udało się ograniczyć jakąś część ponoszonych stratw ludziach, to już brzmi pozytywnie w moim odczuciu.

    • Feniks06

      „W momencie kiedy tylko jedna ze stron dysponuje tego typu przewagą
      technologiczną, raczej nie (no chyba, że mają tak dobrych hakerów?).
      Jeśli wszyscy mają drony… tu już faktycznie zaczyna się komplikować.”

      Problem w tym, że Polska raczej nie prędko będzie tą stroną w konflikcie, która robotami dysponuje a przeciwnik nie ;)

    • Mailosz

      „Roboty nie będą głównie niszczyć robotów.”

      Będą. Bo to roboty będą stanowić największe zagrożenie, mając większą siłę ognia niż ludzie. Po co miałyby zabijać jakiegoś szeregowca z AK-47, jeśli wokół mają trzy mechy z działami plazmowymi, które trzeba unieszkodliwić wcześniej?

      Dopiero, gdy jedna ze stron straci większość swoich robotów zacznie się robić tak jak mówisz, ale to wtedy ja bym się radził po prostu poddać.

    • Feniks06

      Tak… gdy już dochodzi do starcia o którym mówisz to masz rację… eliminuje się największe zagrożenie na polu walki, którym będzie robot. Ale to już mówisz o walce na poziomie taktycznym. Strategicznie natomiast bardziej opłaca się atakować siłę żywą przeciwnika. Chcesz wygrać wojnę to musisz odebrać przeciwnikowi wolę dalszej walki. Niszcząc 100 dronów tak naprawdę niszczysz tylko 100 dronów. Kolejne sto już będzie się szykować do walki. Zabijając 100 ludzi już kolejnej setce możesz odebrać ochotę do dalszej wojaczki. Roboty nie mają morale. Ludzie już jak najbardziej. Dlatego na poziomie strategicznym niszcząc roboty przeciwnika nie odbierzesz mu dalszej ochoty do walki. Zmusisz go albo do wysłania większej ilości robotów albo przy brakuje takiej możliwości do jeszcze większego zaangażowania siły żywej… coraz większej desperacji.

      Ja gdybym chciał wygrać wojnę przeciwko robotom to albo bym dążył do tego by wybić operatorów tak by roboty stały się kupą złomu albo siejąc strach w sercu przeciwnika przetrzebiając mu siłę żywą…

      Może się mylę bo w sumie czemu nie. Nie wydaje mi się jednak realny scenariusz w którym 2 setki żołnierzy siedzą w jednym bunkrze, 2 setki w drugim i wojna trwa do momentu aż jednej ze stron braknie robotów. Wojna się kończy… jedna ze stron wyszła z konfliktu bez strat ludzkich, zaś strona przegrana straciła jednego człowieka bo operator jak wychodził z toalety to się poślizgnął i sobie głowę o biurko rozbił ;)

    • Bulitl

      Taa bo isis to się z kosmosu wzięła. Tak samo zresztą jak bin laden i inni teroryści. Nie po to jankesi pompowali w nich kase, żeby teraz ich likwidować.

    • Darek B.

      radykalny islam też jankesi wymyslili?

    • Bulitl

      Dali przyzwolenie na szerzenie się tego gówna. Zabili Sadama bo chcieli się dobrać do jego ropy. Wkraczyli bo mieli dowody na produkowanie broni biologicznej. Po usunięciu Husajna jakoś niczego nigdy nie znaleźli. Teraz Irak pogrążony jest w wojnie domowej. Stad też między innymi radykalny islam.

  • Marcin Wróbel
    • Marcin Hołowacz

      Bardzo lubię ten filmik :) Szkoda, że to tylko taka pokazówka umiejętności studia, a nie coś dłuższego.

  • laser raptor

    Sztuczna inteligencja bardzo przydała by się w myśliwcach. Słyszałem, że da się zbudować samoloty bojowe, które są w stanie wykonywać zwroty pod kątem niemal 90°, tylko, że człowiek nie wytrzymał by takich przeciążeń. Dlatego, trzeba zacząć budować myśliwce bezzałogowe.

    Dodatkowo, w przypadku samolotów, duże znaczenie ma czynnik ludzki. Samolot sterowany przez komputer nie popełniał by typowo ludzkich błędów, i nie miał typowych dla człowieka ograniczeń co dawało by mu znaczną przewagę.

    • Mailosz

      Zgadzam się, ale trzeba nadmienić, że komputery popełniają za to „typowo komputerze błędy”

    • Feniks06

      To fakt… obecnie technologia lotnicza jest tak rozwinięta, że jej największym ograniczeniem jest właśnie pilot. To on stanowi wąskie gardło, szczególnie jeśli chodzi o zwrotność myśliwca.

  • AI chętnie nas zniszczy bo sami jesteśmy dla siebie zagrożeniem :D

    • Bulitl

      Tak było w filmie „Ja robot”. AI uznała, że jesteśmy sami dla siebie zagrożeniem i trzeba nas izolować.

      Prawdę mówiąc miała rację.

  • Darek B.

    Nie rozumiem za bardzo podejścia autora że uratujemy żołnierzy….bo przecież ofiar mechanicznych najeźdźców wciąz nie uratujemy ;)

    ONZ nie zabroni tego krajom, które ONZ mają w dupie , więc głupio byłoby tego zabraniać tylko tym co mają „dobrą duszę” :D
    Wyścig zbrojeń jest nieunikniony. Zimna wojna zawsze trwa.

    • Marcin Hołowacz

      Też myślę, że wprowadzanie calkowitego zakazu nie jest żadnym wyjściem. Wtedy po prostu rozwiną to ci, którze nie będą się stosować do zakazu i tyle. Najlepiej stworzyć odpowiednie regulacje i sposoby na spraowanie kontroli nad czymś takim, żeby się nie wymknęło spod kontroli.

      Uratujemy żołnierzy, bo zamiast wysyłać faceta w jakieś gorące miejsce, wyślemy tam robota. Wynik rozrachunku jest taki, że nasz żołnierz nie zginie. Nie obchodzi mnie czy zginie żołnierz nieprzyjaciela ;)

    • Darek B.

      zołnierz nieprzyjaciela albo inne dzieci.

    • Mailosz

      Mało jest takich krajów które „ONZ mają w dupie”. Nawet Iran się ostatnio ugiął.

    • Feniks06

      Tylko do czasu gdy interesy w konflikcie mają kraje ze stałej rady ONZ.

  • Ogau

    O nie, ONZ zakazało, nie róbmy tego! – powiedział nikt nigdy

    • Anonim

      Zakazać wojen, głodu i biedy.

  • Nose4s✓ᵛᵉʳᶦᶠᶦᵉᵈ

    Podpisy podpisami, już widzę jak chiny się przejmują. Albo jak NK nie porywa kolejnego japońskiego geniusza, tym razem w tej dziedzinie.

    Problem ze światem jest taki, że gdy niemal wszyscy godzą się na pokój (czy na nie budowanie zabójczych AI), wystarczy jeden, który mówi NIET i wszyscy inni mają przejebane, a najpewniej kończą gorzej, niż gdyby wszyscy razem pracowali nad takim rozwiązaniem i trzymali się w szachu (jak z atomówkami). Niestety.

    • PIT

      Nie da się trzymać w szachu partyzantów/terrorystów/kryminalistów i szaleńców.

    • Nose4s✓ᵛᵉʳᶦᶠᶦᵉᵈ

      Prawda, ale na ilu jednostkach dadzą radę położyć swoje łapy? Albo takie ryzyko, albo jedno czy kilka państw, które nic sobie nie robią z petycji.

      Co jest twoim zdaniem gorsze i dlaczego?

  • PIT

    W czasie każdej wojny ginie więcej cywilów niż żołnierzy dlatego najbezpieczniejsze miejsce pracy w czasie wojny to armia.

  • lcy

    Ja myślę, iż za tym listem idzie dość duże doświadczenie ze strony niektórych inicjatorów tego listu. Doświadczenie i wiedza, której my nie posiadamy. Temat musi być dość groźny, inaczej nie byłoby takiego zaangażowania ze strony inicjatorów.

    Zbyt wielu nie wiemy, prócz tego, co jest w stanie wojsko odtajnić i udostępnić. Nie wiemy prawdopodobnie więcej niż kilka procent.