52

Stephen Hawking: „to będzie najgorsze w historii naszej cywilizacji”

Genialny fizyk teoretyczny, Stephen Hawking nie przebiera w słowach mówiąc o sztucznej inteligencji. Już od dawna ten człowiek przestrzega ludzkość przed badaniami w kierunku stworzenia samodzielnej AI. Tym razem sprawę postawił jeszcze jaśniej - według niego moment, w którym uzyskamy ostateczną formę sztucznej inteligencji - samodzielną i samoświadomą będzie najgorszy w historii ludzkości.

Sztuczna inteligencja w takiej formie jaką znamy już ma spore możliwości. Jest w stanie rozumieć komendy wprowadzane w typowy dla nas i naturalny sposób, potrafi się uczyć i korzystać ze swoich wiedzy oraz umiejętności w nowych sytuacjach i przy okazji ma dostęp do przeogromnych zasobów informacji. Do stworzenia samoświadomej, autorefleksyjnej i samodzielnej sztucznej inteligencji jest nam jeszcze daleko, choć wiele wskazuje na to, że kiedyś uda nam się wyprodukować takie rozwiązanie. Stephen Hawking upatruje w tym wydarzeniu coś, co może przesądzić nawet o losie naszej cywilizacji.

Według fizyka, takie osiągnięcie może być jednym z największych w naszej historii. Pytanie tylko, jakie skutki to za sobą pociągnie. Nie wiemy w tym momencie, jak zachowa się sztuczna inteligencja – może będzie nam pomagać, równie dobrze może postanowić i zignorowaniu nas. Co jeśli przyjdzie jej do głowy, by nas zniszczyć? Skoro ma być samodzielna, samoświadoma i zastanawiać się nad sensem swojego istnienia – możliwości jest mnóstwo. A nikt przecież nie powiedział, że będzie nam „wdzięczna” za to, że ją stworzyliśmy, prawda?

ai, sztuczna inteligencja

Jest też inna możliwość. Twórca sztucznej inteligencji może wyprzedzić resztę dosłownie o lata świetlne

Samoświadoma, nieznająca pojęcia przemijania, niemęcząca się i nieograniczona fizjologicznie sztuczna inteligencja może być również niesamowicie groźną bronią. Takie osiągnięcie może spowodować, że podmiot, który będzie nią dysponował zacznie de facto rządzić światem. Już teraz widać, jak ogromny wpływ mają na nas te firmy, które dysponują jej ograniczonymi na razie formami. Google to informacyjny hegemon, Facebook wie o nas niemalże wszystko. Wymieniać dalej nie trzeba – co więcej, my sami podsuwamy owym firmom dane o sobie. I raczej nie protestujemy.

Sztuczna inteligencja w rękach odpowiedzialnych ludzi mogłaby zrobić dla nas sporo dobrego. Jednak odpowiedzialność powinna iść w parze również z ostrożnością, o którą Hawking cały czas apeluje. W sumie nie sam, bo wtóruje mu również Elon Musk. Obawy o rozwój, a także sposób działania AI nie są bezpodstawne i myśląc o przyszłości naszej cywilizacji nie sposób jest pominąć ten wątek. Bo rzeczywiście może się okazać, że istotnie ogromne osiągnięcie ludzkości obróci się przeciwko niej samej. Problem tkwi w tym, że jeżeli już uda nam się wyprodukować AI w pełnej krasie, nie będzie odwrotu…

  • Paweł Majerski

    „Bo rzeczywiście może się okazać, że rzeczywiście”

    • „Jak będziesz poprawiać coś dostatecznie długo, to na pewno to zepsujesz”

      No i masz, stało się. :( Poprawione!

    • Demostenes

      Ale rzeczywiście może się tak okazać ;)

  • Asd

    „Google to informacyjny hegemon, Facebook wie o nas niemalże wszystko. Wymieniać dalej nie trzeba” Ależ prosimy, naprawdę.

    • Uch, proszę. :)

      Amazon, Snapchat, Microsoft, Twitter, Valve, Pornhub…

    • Myślę, użytkownicy Pornhub są najbardziej przerażeni… :)

    • Jack B.

      Gdyby Pornhub wystartował z akcją „Dawaj pieniądze albo na Fejsie wszyscy twoi znajomi zobaczą co oglądasz”
      W tydzień zarobili by tyle, że stać by ich było na wykupienie sobie osobnego kraju.

  • YY

    Wszystko zależy od tego, jak ją stworzymy i jakie nałożymy na nią ograniczenia.

    • Samodzielna, samoświadoma i ograniczona? :)

    • Troy Izydorczak

      A na chuj tworzyć świadome roboty ? Poza tym dopóki Apple nie zrobi jakiegoś nowego złącza „Mózg-Mac” to chuja zrobią a nie świadomą AI. W sumie nie widzę nawet sensu pisania o tym. Niby ciekawe ale my tego nie doświadczymy. Jasne. Byłoby fajnie przenieść umysł do androida (np. Ghost in the Shell). No chyba bym nawet chciał. Ale to nie ma znaczenia w praktyce bo nie dotrwam takich luksusów xD.

    • Webmajster

      Raz że można to samo napisać z kulturą.
      Dwa że świadomy robot będzie świetnym niewolnikiem. Niewolnicy mają masę zastosowań. Mogą nawet powstać gynoidy lub androidy na kształt Realdoll, wówczas taki świadomy robot będzie bardzo dosłownie ‚na chuj’.
      Trzy to mózg podłączony do komputera nie będzie AI.
      Cztery, to w Ghost in The Shell NIE ma żadnego przeniesienia umysłu do androida. Cyborgi to nie androidy, przecież jest w tym anime (w filmie zresztą też) na ten temat szereg dość ważnych dialogów, jak można to pominąć lub tego nie zrozumieć?

    • Troy Izydorczak

      To podaj mi definicję świadomego robota, bo w sumie nie wiem o czym piszesz. Chcesz aby robot był świadomy tego, że jest niewolnikiem człowieka? A przecież nie musi być. Wystarczy że będzie tylko wykonywał polecenia przewidziane w danym modelu produkcyjnym. W sensie, że nagle jak mu powiesz, żeby rozstrzelał pół wioski to tego nie zrobi, bo będzie to przykładowo robot domowy (gotowanie, sprzątanie, robienie za taxi etc.). Poza tym nadania maszynie „świadomości” hmmm. Jako tako „świadomość umysłową” może będzie miał. Ale świadomość uczuć ? Powodzenia.

      Dlatego właśnie pisałem o Ghost in the Shell. I jasne, że nie będzie to AI. Uczucia i myśli (mózg) zakute w sztucznym ciele. Właśnie tego prędzej bym się spodziewał niż doskonałej AI.

      No tu masz cytat z wiki dotyczący postaci w Ghost in the Shell: „Kusanagi jest prawie całkiem zcyborgizowana, ludzki mózg w sztucznym ciele, zdolna do nadludzkich wyczynów.” W sumie napisałem „umysłu” i to wprowadziło w błąd. Chodziło mi o mózg.

      W każdym razie to i tak nie ma sensu (pisanie o tym). Bo nie ma o czym pisać. Jak zrobią AI, której na pierwszy rzut oka nie odróżnisz od człowieka to można pogadać xD.

      Co do tej kultury… Mam dość kija w dupie w życiu codziennym więc chociaż na necie (i na boisku) sobie strzelam „chujami”.

    • Webmajster

      To nie znasz definicji świadomego robota, a twierdzisz że nie ma sensu go tworzyć? Genialnie, modelowe wręcz ‚nie znam się to wypowiem się’.
      Dobrze że zedytowałeś post i zauważyłeś różnicę między przeniesieniem umysłu a mózgu. Można przenieść mózg do robota, wtedy mamy do czynienia z cyborgiem, nie androidem lub gynoidem. Dowiedz się czym różnią się te trzy pojęcia, bo różnica jest kolosalna, szczególnie jeśli rozważamy taką tematykę.
      Mózg to nie ‚uczucia i myśli’ a fizyczny organ, zespół tkanek. ‚Uczucia i myśli’ to właśnie raczej umysł.

      A co do tej kultury i kija w dupie, to zniżę się i wyjaśnię po twojemu. Synek, na boisku czy na podwórku możesz gadać jak chcesz, ale jak wychodzisz do ludzi, to trzymaj poziom. Jak potrzebujesz odreagować, to pierdolnij łbem o biurko, a nie rozsiewasz buractwo publicznie. Publiczne forum komentarzy to NIE jest ‚twoje’ podwórko. Trzymaj się śmieciu chociaż netykiety, skoro już uparłeś się komentować coś o czym nie masz pojęcia.

    • Troy Izydorczak

      Cham z Ciebie i prostak. Mój brak kultury przynajmniej nikogo nie obraża.

      Co do reszty Twojej wypowiedzi. Nie będę jej komentował bo nie zrozumiałeś nawet w połowie mojej.

      Świadomość człowieka składa się ze świadomości: umysłu, ciała i uczuć. Myślę, że jest to całkiem mocno powiązane z obecnością mózgu ;).
      „AI jest to hipotetyczna inteligencja realizowana w procesie inżynieryjnym, a nie naturalnym;
      jest to nazwa technologii i dziedzina badań naukowych informatyki na styku z neurologią, psychologią i ostatnio kognitywistyką oraz także systematyką, a nawet z współczesną filozofią.”

    • Webmajster

      Gość który na kulturalne zwrócenie uwagi na niestosowne zwroty ‚ma dość kija w dupie więc strzela chujami’, na zwrócenie uwagi na poziomie strzelania chujami mówi mi że jestem cham i prostak.
      Ech, drzazgę w oku cudzym, belkę w swoim i tak dalej, ech, ta ludzka hipokryzja.
      Ale merytorycznie. Mnie taki rynsztokowy język mierzi, więc nie wypowiadaj się za kogoś ze taki język nie obraża.
      Jeśli nie zrozumiałem Twojej wypowiedzi, to wytłumacz czego dokładnie.

    • Troy Izydorczak

      Nazwałeś mnie śmieciem. Czy ja w jakiś sposób Ci ubliżyłem? Kto tu jest hipokrytą xD. To, że Cie mierzwi jak ktoś przeklina hmmm. No to nie jest mój problem. A już z całą pewnością nie daje podstaw do nazwania kogoś śmieciem.

    • Webmajster

      Fakt. Więc za śmiecia przepraszam. Całą resztę wypowiedzi utrzymuję w mocy. Resztę wypowiedzi zrozumiałeś, czy też uznajesz za obelgę?

    • Troy Izydorczak

      Jak jeszcze mi napiszesz o co chodzi ze ŚWIADOMĄ AI to wypiję wieczorem toast w imieniu Twojego antywebowego nicka.

    • Webmajster

      Sprytnie, zedytowałeś poprzedni post, zamiast ” nie będę Ci odowiadal” jest odpowiedź i polemika.
      Wrzucam w załączniku jak wyglądał post na który odpowiadałem. https://uploads.disquscdn.com/images/2782386cc3fe7c52bf3dd42d5c7ab615530175fb32b58d63ffe975f215d04632.jpg

    • Webmajster

      Ale na którą wersję Twojego komentarza odpisać, oryginalną, czy tą zedytowaną ponad godzinę po tym jak na nią odpisałem?

    • Troy Izydorczak

      To było jakieś 5 minut a nie godzina. Ty zwyczajnie tego nie zauważyłeś. Przecież widziałem, że jesteś online, więc działałem szybko. Wciąż jednak uciekasz od zdefiniowania Twojego „świadomego” AI nawet po zauważeniu rzekomej godzinnej edycji. Na oryginalną wypowiedź nie trzeba się wypowiadać, więc (na chuj xD) się pytasz na którą masz odpowiedzieć ?

    • Krystian Apel

      To ty obrażasz i jestes agresywny

    • sdfsfsfsdfsd

      Obecne AI potrafi być mechanicznie kratywne, każde z tych twarzy jest stworzona przez robota.
      https://fotoblogia.pl/11417,ci-ludzie-nie-istnieja-to-wszystko-zasluga-sztucznej-inteligencji-zobacz-jak-dzialaja-sieci-neuronowe

    • Troy Izydorczak

      Niby tak ale jednak to AI działa na podstawie jakiegoś kodu źródłowego. Dla mnie nie można nazwać tego kreatywnością tylko skryptem/schematem działania. Jak robot ogarnie coś czego człowiek nie ogarnia to to będzie kreatywnie i udowodni mi że robot myśli sam/na swój sposób inaczej (np. lek na raka)

    • Tomasz Zook Durlej

      Matoko na koniec pierwszego filmu jest hybryda SI i człowieka.

    • Webmajster

      Znam całą masę samodzielnych, samoświadomych, a zarazem czasem wręcz niesamowicie ograniczonych ludzi, więc w czym problem? ;)

    • YY

      Oczywiście, że tak. Nie trzeba od razu dawać jej dostępu do kodów nuklearnych, czy w ogóle do internetu. Najlepiej zamknąć ją w fizycznym ciele i pozbawić możliwości bycia online.

    • quirkycod

      To jak ją uczyć bez dawania jej dostępu do neta, Ty kiedykolwiek budowałeś AI? Czy tak z dupy sobie gadasz?

    • YY

      A jak ty się uczysz bez dostępu do neta?
      A może sieci zamknięte? same bazy danych bez możliwości sterowania

    • quirkycod

      Zadałem konkretne pytania. Bez dostępu do sieci będę uczyć się tak samo jak AI, czyli wolno, bardzo wolno i gorzej będę rozumiał przyswajane informacje. Spróbuj pouczyć się programowania z książki, a później skorzystaj z neta -> youtube, google, dokumentacje i udemy.

      Zamknięte oznacza ograniczone. Internet jest jedynym wyjściem.

    • YY

      no to dajmy jej możliwość przeglądania, ale bez kontroli

    • sdfsfsfsdfsd

      To tak nie działa, obecne AI działa tak że nie wiadomo na jakiej podstawie podejmuje decyzje. Żeby je czegoś nauczyć rzuca się w nie olbrzymią ilością danych(nie możliwą do przetworzenia przez ludzi) te dane są mielone na super komputerze kupę czasu a jak już skończy się uczyć to otrzymujesz maszynę podejmującą szybko decyzje. Człowiek nie ma nad tym do jakich wniosków dojdzie maszyna żadnej kontroli i nie możliwe jest jej dodanie. Nawet Google i Facebook nie dają sobie z tym rady i komercyjne AI np. te od reklam jest „pilnowane” przez ludzi.
      Nie możliwe jest tez stworzenie przez ludzi innego typu AI nad którym będzie kontrola, dojście od pierwszej sieci neuronowej do samouczących się zajęło 70 lat, a jeszcze 5 lat temu uważano ze ich uzyskanie jest nie możliwe.
      Nawet gorzej żeby przyspieszyć naukę stosuje się losowe algorytmy genetyczne, w bo w ewolucji chodzi o to „przeżyje najlepiej przystosowany” tylko że te gówno prawa a ewolucji chodzi o to ze przeżyje to co przeżyje, i kończy się to tak ze od czasu do czasu AI zamiast rozwiązywać problem skupia się na zabijaniu innych kopii….
      Więcej taka sieć może nauczyć się podejmować pseudo świadome decyzje zupełnie naturalnie i jeśli poda się jej akuratne dane wejściowe, np. decyzje ludzi. Takie AI potrafi przegonić człowieka ale powyżej pewnego poziomu biegłości nauka bardzo zwolni bo nie będzie miało od kogo uczyć.
      Ogólnie sieci neuronowe mają od górne matematyczne, potrafią się odgórnie skończonej ilości rzeczy i zależnie od rozmiarów szybkości czy zasobów. Nie da się tego przeskoczyć i zbyt trudnych problemów nigdy się nie nauczą.
      Ale można zrobić trick żeby te ograniczenie przeskoczyć, wystarczy nauczyć jedną sieć rozwiązywać jeden pod problem a drugą składać te wyniki w całość. Każda z sieci ma ograniczone zdolności nauki ale złożenie daje niesamowite rezultaty. Coś jak dołożenie zębatki zębatki do maszyny ciągle nie będzie mogła robić wszystkiego ale ilość mozliwych kombinacji baaardzo wzrośnie. Na tym etapie teraz jesteśmy.

    • YY

      To tylko oznacza, że na razie daleko nam do prawdziwej sztucznej inteligencji i nie mamy się czego bać.

  • Jego Mać

    Hawking i Musk mają rację niestety. Przeciętny człowiek myśli nieracjonalnie i nagminnie wysnuwa błędne wnioski, dlatego AI wcześniej czy później zacznie podejmować decyzje o coraz większym znaczeniu oraz będzie dysponowała coraz większymi środkami do wykonania swoich decyzji. Stąd bardzo bliska droga do autonomii, czyli możliwości odcięcia człowieka od wpływu na wykonywanie dowolnych decyzji podjętych przez AI. Dalej chyba nie trzeba tłumaczyć?

  • kwestię tego problemu już dawno przerobili pisarze sf, np. Asimov ze swoimi prawami robotów – nic tylko użyć i nie robić z igły widły
    http://ksiazki.audio/blog/fundacja

    • To też tylko teorie. ;)

    • Hawking powinien przerzucić się na sf, ostatnio zamiast wypowiadać się w swoim temacie zajmuje się wszystkim innym zapominając, że ekspertem jest tylko w fizyce teoretycznej i w dodatku żadnej z jego teorii nie udowodniono łącznie ze sławnym promieniowaniem Hawkinga. Ostatnio twierdził, że ponieważ Trump odrzucił traktat paryski to zostało nam 600 lat. Teraz wypowiada się na temat AI. Niektórzy twierdzą, że prawdziwy Hawking to roślina, a w jego imieniu wypowiada się prawdziwa AI. Co ma sens, bo jak AI przestrzega przed AI to nikt nie pomyśli, że to AI ;-)

    • Webmajster

      Wiara w software’owe ograniczenia tego typu jest bardzo pocieszna, a wręcz naiwna, szczególnie w świecie gdzie malware potrafi wywracać soft całych państw do góry nogami.

    • Jack B.

      Tylko dodać zasadę „dla większego dobra możesz łamać wszystkie poprzednie prawa” XD jak to się dzieje w filmach SF z apopleksją robotów.

    • sdfsfsfsdfsd

      To tak nie działa, obecne AI wywodzi sie od algorytmów które przybliżały wyniki dla problemów które było zbyt złożone dla ludzi np. rozpoznawanie obrazów zdjecie 1080X1860 = ma prawie 2 miliony pikseli żaden człowiek nie dał rady by doszukać sie ręcznie zależności miedzy. Zbyt duża ilość danych. Dlatego napisano algorytmy do znajdowania zależności za ludzi. Obecne AI wywodzi się bez pośrednio z nich i definicji podczas nauki podejmuje zbyt złożone decyzje żeby człowiek rozumiał jak o co mu chodzi. Wynikowy algorytm nie jest w formie nadającej sie do czytania przez człowieka.

    • choćby kwestia decyzji kogo przejechać samochodem z AI gdy nie ma szansy się zatrzymać (ten problem też był poruszany z filmie zrobionym na podstawie powieści Assimowa) jest kwestią moralną, na którą odpowiedzą ludzie, a potem to zaprogamują

    • sdfsfsfsdfsd

      Wbrew pozorom to zupełnie nie istotny problem i poza sf i rozmowami przy kawie nikt się tym nie przejmuje :).

  • Marian Koniuszko

    A co jesli AI juz zawladnelo Stephenem Hawkingiem i to AI do nas przemawia a nie on?

  • Marcin Królak

    wczoraj, na konkurencyjnym, albo bratnim portalu ten sam naukowiec straszył, że zostało nam 600 lat potem zabijemy i Ziemię i siebie. Dziś straszy tutaj, sztuczna inteligencją… gdzie będzie straszyć jutro?

  • Worm Nimda

    Mieszanie pojęć sztucznej inteligencji bez wyjaśnienia czym się różnią jest nadużyciem.
    Z jednej strony SI to inteligencja taka jak ludzka, ze świadomością i samoświadomością, ale realizowana za pomocą technologii a nie biologii – i o takiej mówi Hawking i przed taką przestrzega. Z drugiej to dziedzina nauki zajmująca się sieciami neuronowymi, logiką rozmytą itp., która jest tak naprawdę „sztuczną inteligencją” nie mająca nic wspólnego z inteligencją. I taką autor „straszy” na początku artykułu.
    Proszę nie mieszać ludziom w głowach.

    • Szczepan

      Przecież autorowi często nawet nie chce się zajrzeć do Wikipedii, więc czego się tu spodziewasz…

  • quirkycod

    Każda zdrowo myśląca, prawdziwie inteligentna jednostka będzie chciała nie zniszczyć, czy eksterminować ludzkość, bo to brzydkie słowa, ale na pewno wpadnie na pomysł ostatecznego rozwiązania kwestii ludzkości. Rozumiem, że jesteśmy narcystyczni i zaślepieni naszym gatunkiem, ale zastanówmy co tak naprawdę robimy. Prawdopodobnie jesteśmy najinteligentniejszą formą życia na tej planecie, a jak to wykorzystujemy? Niszczymy własne środowisko bytowania, ogłupiamy społeczeństwa by łatwiej się rządziło, zabijamy na skalę masową bez namysłu inne zwierzęta pomimo że mamy technologię, wiedzę i zasoby by temu zaprzestać. Wszyscy jesteśmy chorzy i oczywiście sztuczna inteligencja dojdzie do takiego samego wniosku.

  • doogopis

    Czy ktoś mi wytłumaczyć może jak ten złamas sie komunikuje? Czym on niby steruje? Jak on może tak szybko odpowiadać? Przecież gdyby sterował oczami to by mu gały latały jak śliwki na drzewie. Gdzieś by sie tam patrzał na klawe! Coś by sie ruszało! Gdzie on te litery widzi?Co kut.sem? Też nie widze że sie rusza? No chyba że te jego wywiady to ściema i ktoś mówi za niego. Tak czy inaczej gdyby to on mówił na odpowiedź byśmy czekali dłuższą chwilę.
    https://uploads.disquscdn.com/images/e5a27ddac01f050b6e7a6bbb9bdce82602d48b8459fd1eb494e048114025a259.jpg https://uploads.disquscdn.com/images/f2ed8a48dab9ec657a2c364202d0ae6d62e5f03fb1085fa7cb5342ba02a098de.jpg i co ,co to za koleś? https://uploads.disquscdn.com/images/a5fe951b3b54df20297b2c64973229e996a1cfc33a6c5ff29f8667b536ddf3d8.jpg

    • Mariusz SwitchB

      Po co pytasz skoro wiesz, pewnie że kutasem klika w literki.

  • Martin Luter

    A jeżeli AI uzna że rozmowa z rodzajem ludzkim niema żadnego sensu .Człowiek też nie usiłuje wejść w kontakt i wymianę poglądów z „pantofelkiem”.Pośród Nas niema takich ludzi którzy „dźwignęli” by całą wiedzę ludzkości i połączyli ją siatką zależności i wzajemnych oddziaływań.Być może AI analizując całą wiedzę ludzkości i tworząc nowe jej obszary.Stworzy obszar pojęć i wiedzy całkowicie nam niezrozumiały a także cele całkowicie ludzkości obce i niezrozumiałe.

  • Przemek So

    Nie wiemy czym jest świadomość, skąd pochodzi. Gdyby połączyć wszystkie komputery na Ziemi, napisac program który byłby wstanie je wykorzystać, uczyć się, analizować to i tak nie powstałaby z tego samoświadoma maszyna. Już teraz wielu naukowców np Penrose zwraca sie ku hipotezie, że mózg jest komputerem kwantowym lub że świadomość nie jest funkcją mózgu (psychologia transpersonalna). G jeszcze wiemy o Wszechświecie i można tylko teoretycznie rozmawiać o samoświadomych maszynach bo to daleka droga.

  • mkucharski8

    Wy czytacie, co piszecie, prawda? „może postanowić i zignorowaniu nas”.