AI postać
12

Nie, Facebook nie wystraszył się sztucznej inteligencji. Ale powinien

Media - co ciekawe nie tylko technologiczne grzmią o tym, że Facebook na serio wystraszył się sztucznej inteligencji, która w trakcie treningu stworzyła sztuczny język, który był trudny do rozszyfrowania dla ludzi. Druga część komunikatu jest prawdziwa. Pierwsza już niekoniecznie. Powód, dla którego wyłączono trenujące ze sobą boty jest bardzo zwyczajny i logiczny.

Jak na ironię losu, cała sytuacja miała miejsce tuż po tym, jak Elon Musk dał prztyczka w nos Zuckerbergowi mówiąc, że jego postrzeganie dotyczące sztucznej inteligencji jest „płytkie”. W opinii CEO Tesli, Mark bardzo krótkowzrocznie podchodzi do AI, przez co nie widzi potencjalnych zagrożeń, jakie może ze sobą nieść. Z takim twierdzeniem akurat mogę się zgodzić, bo sam – mimo, że jestem entuzjastą inteligentnych rozwiązań, mam bardzo duży szacunek do tej dziedziny i jestem bardzo ostrożny w ocenach sztucznej inteligencji. Jest wiele czynników, których jako ludzie możemy nie rozumieć, a mogą mieć ogromne znaczenie dla jej działania. Martwi mnie też fakt, że AI będzie operować na zupełnie innym poziomie percepcji, niż my.

No, dobra. Co ten Facebook narozrabiał?

 

Faktem jest to, że Zuckerberg i jego świta eksperymentowali. Stworzono platformę, w ramach której testowano możliwości negocjacyjne inteligentnych mechanizmów. Dwa boty miały tak prowadzić konwersację w naturalnym dla nas języku, by osiągnąć jak największe korzyści dokonując wymiany dóbr. Do gry rzucono umownie cenne przedmioty – piłki, kapelusze, książki i inne elementy stanowiące „walutę”. Zadaniem botów było podzielenie się nimi w taki sposób, aby osiągnąć jak największą wartość (dla siebie) owych dóbr. Idealną sytuacją byłaby taka, w której sztuczna inteligencja dochodzi do obopólnego porozumienia, które jest optymalne dla obydwu stron.

Bob: I can i i everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me

Rozumiecie coś z tego?

I tak właśnie się działo. Do momentu, w którym sztuczna inteligencja – w trakcie treningów doszła do wniosku, że wypracowany przez ludzi sposób komunikowania się nie jest efektywny i na bazie naszego, stworzyła swój, który pozwalał jej komunikować się szybciej i konkretnej. W efekcie tego zjawiska, badacze nie byli w stanie prześledzić przebiegu rozmowy, gdyż jej zwyczajnie nie rozumieli. I to było podstawowym motywem zakończenia eksperymentu. Nikt jednak nie wystraszył się sztucznej inteligencji. Nikt też nie nazwał jej po tym „krwiożerczym Skynetem”. Nie oznacza to też końca podobnych eksperymentów. Zadaniem tworu, który powstałby w oparciu o ten eksperyment ma być rozmowa z prawdziwym człowiekiem. Dysponowanie maszyną, która operuje językiem niezrozumiałym dla jak najbardziej realnego odbiorcy nie jest w interesie Facebooka.

Niemniej, optymalizacja w wykonaniu maszyny to zjawisko… zastanawiające

 

Na co dzień nie zastanawiamy się nad sensem języka w ogóle. Taką formę komunikacji wytworzyliśmy na przestrzeni tysiącleci – najpierw dogadywaliśmy się za pomocą prostych dźwięków, mimiki i gestów. W międzyczasie były znaki dymne, symbole i malunki na ścianach jaskiń. Uznaliśmy po czasie, że dysponujemy sporymi możliwościami lingwistycznymi i skodyfikowaliśmy zestaw dźwięków składających się najpierw na słowa, następnie na zdania. Dla nas – ludzi taki system jest bardzo optymalny, bo wykorzystuje nasze naturalne zdolności i odpowiada naszemu sposobowi pojmowania świata za pomocą zmysłów. Jednak maszyny to już zupełnie inny poziom percepcji. Podstawowym celem sztucznej inteligencji jak widać jest daleko idąca perfekcja, która objawiać się może w nieustannym dążeniu do optymalizacji – również tych narzędzi, które podsuwamy jej my, ludzie.

Dlatego raz jeszcze wspomnę o Musku, który wyprowadził lewego sierpowego w stronę Zuckerberga. Co prawda czysto nie trafił, ale udało mu się sprawić, że SM-owy gigant cios odczuł. Facet, który zbawia świat elektrycznymi samochodami, Hyperloopem i własnym programem kosmicznym ma więcej oleju w głowie niż chłopaczek, który wie o nas dosłownie wszystko. Dlaczego? Prawdopodobnie ma większy szacunek do tego, co w przyszłości może absolutnie zmienić życie naszej cywilizacji. Pytanie tylko, czy zrobi to na lepsze, czy na gorsze.

  • KRZYSZTOF
    • Nie, to nie jest źródło, z którego korzystaliśmy. Swoją drogą, ciekawie wsparli się „Skynetem” w URL-u… ;)

  • Adam

    Fajnie byłoby zobaczyć jak taka rozmowa wyglądała

  • Optymalizacja ludzkich języków następuje cały czas. Np. są tworzone nowe słowa, potem te słowa są skracane, gubią literki czy całe sylaby. Niektóre ze słów się gramatyzują, czyli zamiast być zwykłym słowem opisującym rzecz czy czynność stają się np. przeczeniem. Podobnie w zamkniętych środowiskach (np. w rodzinie) tworzy się wewnętrzny język coś w rodzaju „inside joke”. Tylko ludzie z tego środowiska rozumieją nowe słowa, albo stare użyte w nowy sposób. Tak właśnie było z tymi komputerami. To zamknięte środowisko, które udoskonaliło swój język do konkretnego zadania. To nie był nowy język, bo nie dało by się w nim porozmawiać o poezji. Idź na giełdę i posłuchaj ludzi, którzy wymieniają się informacjami, prawdopodobnie też ich nie zrozumiesz. W takim środowisku liczy się szybkość, nie ma miejsca na rozbudowany język, potrzeba czegoś prostego, co jednak trudno nazwać językiem.
    http://ksiazki.audio/blog/story-of-human-language

    • Ymnytor

      Warto wspomnieć o tym, że często bliźniaki jednojajowe tworzą sobie swój sposób porozumiewania się między sobą, którego inni nie rozumieją.

    • Ja mam w swojej rodzinie słowa, których inni nie mogą zrozumieć. Np. moja córka gdy była mała mówiła na skarpetki „peciaki” i gdy użyję tego słowa każdy u nas je zrozumie. Z kolei moja żona na szelki dla psa zawsze mówiła „puszorek”. To jakieś staropolskie słowo, ale też jest używane codziennie w naszej rodzinie podczas wyprowadzania psa. Inna sprawa, że mieszkamy w UK i nasz polski jest pełen anglicyzmów. Język to żywy twór, który cały czas się zmienia. Widać to choćby po tym, że młode pokolenie nie chce używać słów, których używają rodzice. Za mojej bytności w Anglii słowo „cool” przestało być wśród młodych „cool”. Zaczęli używać słowa „wicked” a nawet „sick” jako określenia na coś super wspaniałego.

  • kormateusz

    A skąd wiadomo że nie zaczęła sobie, od tak po prostu, wyrzucać z siebie losowych słów?

    • Bo spełniała swoje zadanie, czyli negocjowała, a druga strona rozumiała znaczenie wypowiadanych fraz.

  • Ymnytor

    „ma więcej oleju w głowie niż chłopaczek, który wie o nas dosłownie wszystko” Tu jest dziwny trend jakoby Musk miał mieć zawsze rację w tym co mówi. Nie podałeś argumentu dlaczego to właśnie Musk ma mieć tutaj rację, jedynie napisałeś, że uważasz, że niebezpieczeństwo. Tymczasem to właśnie Musk jest mocny krytykowany za swoje podejście do AI. Poza tym nazywanie Zuckerberga „chłopaczkiem” jest po prostu głupie, nawet w żarcie. Ten człowiek jest jednym z najbogatszych ludzi na świecie, prowadzi świetny biznes, od którego zależy życie i poglądy milionów. Poza tym jego firma także prowadzi ciekawe badania. To, że nie zbiera dofinansowań od rządów na elektryczny świat i podbój Marsa nie znaczy, że jest gorszym wizjonerem od Elona.
    https://techcrunch.com/2017/07/19/this-famous-roboticist-doesnt-think-elon-musk-understands-ai/
    https://techcrunch.com/2017/07/25/artificial-intelligence-is-not-as-smart-as-you-or-elon-musk-think/
    Po prostu ludzie wymyślili sobie, że skoro ludzie nie do końca rozumieją tego jak algorytmy sztucznej inteligencji „myślą” to trzeba już poważnie myśleć, że zaraz się zbuntują i przejmą władzę nad światem. Na dowód podają przykład chatbota z twittera, który zaczął powtarzać treść pisaną przez trolli. Mimo tego, że sztuczna inteligencja daje nowe możliwości w tworzeniu programów to nadal jest ograniczona i nie zacznie nagle wymyślać planu zagłady ludzkości.

    • Moris299

      Ideologie Elona popierają miliony fanów.
      A kto popiera kolejne skrypty śledzące Facebooka?
      Właśnie tym się różnią. Jeden z nich zmienia świat a drugi dodaje nowe emotki i nic nie znaczące dla ludzkości funkcje Facebooka.

    • Ymnytor

      Różnią się tym, że o wyczynach Muska możesz co najwyżej poczytać, a dzieło Zuckerberga zawładnęło cywilizacją.