AI postać
13

Nie, Facebook nie wystraszył się sztucznej inteligencji. Ale powinien

Media - co ciekawe nie tylko technologiczne grzmią o tym, że Facebook na serio wystraszył się sztucznej inteligencji, która w trakcie treningu stworzyła sztuczny język, który był trudny do rozszyfrowania dla ludzi. Druga część komunikatu jest prawdziwa. Pierwsza już niekoniecznie. Powód, dla którego wyłączono trenujące ze sobą boty jest bardzo zwyczajny i logiczny.

Jak na ironię losu, cała sytuacja miała miejsce tuż po tym, jak Elon Musk dał prztyczka w nos Zuckerbergowi mówiąc, że jego postrzeganie dotyczące sztucznej inteligencji jest „płytkie”. W opinii CEO Tesli, Mark bardzo krótkowzrocznie podchodzi do AI, przez co nie widzi potencjalnych zagrożeń, jakie może ze sobą nieść. Z takim twierdzeniem akurat mogę się zgodzić, bo sam – mimo, że jestem entuzjastą inteligentnych rozwiązań, mam bardzo duży szacunek do tej dziedziny i jestem bardzo ostrożny w ocenach sztucznej inteligencji. Jest wiele czynników, których jako ludzie możemy nie rozumieć, a mogą mieć ogromne znaczenie dla jej działania. Martwi mnie też fakt, że AI będzie operować na zupełnie innym poziomie percepcji, niż my.

No, dobra. Co ten Facebook narozrabiał?

 

Faktem jest to, że Zuckerberg i jego świta eksperymentowali. Stworzono platformę, w ramach której testowano możliwości negocjacyjne inteligentnych mechanizmów. Dwa boty miały tak prowadzić konwersację w naturalnym dla nas języku, by osiągnąć jak największe korzyści dokonując wymiany dóbr. Do gry rzucono umownie cenne przedmioty – piłki, kapelusze, książki i inne elementy stanowiące „walutę”. Zadaniem botów było podzielenie się nimi w taki sposób, aby osiągnąć jak największą wartość (dla siebie) owych dóbr. Idealną sytuacją byłaby taka, w której sztuczna inteligencja dochodzi do obopólnego porozumienia, które jest optymalne dla obydwu stron.

Bob: I can i i everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me

Rozumiecie coś z tego?

I tak właśnie się działo. Do momentu, w którym sztuczna inteligencja – w trakcie treningów doszła do wniosku, że wypracowany przez ludzi sposób komunikowania się nie jest efektywny i na bazie naszego, stworzyła swój, który pozwalał jej komunikować się szybciej i konkretnej. W efekcie tego zjawiska, badacze nie byli w stanie prześledzić przebiegu rozmowy, gdyż jej zwyczajnie nie rozumieli. I to było podstawowym motywem zakończenia eksperymentu. Nikt jednak nie wystraszył się sztucznej inteligencji. Nikt też nie nazwał jej po tym „krwiożerczym Skynetem”. Nie oznacza to też końca podobnych eksperymentów. Zadaniem tworu, który powstałby w oparciu o ten eksperyment ma być rozmowa z prawdziwym człowiekiem. Dysponowanie maszyną, która operuje językiem niezrozumiałym dla jak najbardziej realnego odbiorcy nie jest w interesie Facebooka.

Niemniej, optymalizacja w wykonaniu maszyny to zjawisko… zastanawiające

 

Na co dzień nie zastanawiamy się nad sensem języka w ogóle. Taką formę komunikacji wytworzyliśmy na przestrzeni tysiącleci – najpierw dogadywaliśmy się za pomocą prostych dźwięków, mimiki i gestów. W międzyczasie były znaki dymne, symbole i malunki na ścianach jaskiń. Uznaliśmy po czasie, że dysponujemy sporymi możliwościami lingwistycznymi i skodyfikowaliśmy zestaw dźwięków składających się najpierw na słowa, następnie na zdania. Dla nas – ludzi taki system jest bardzo optymalny, bo wykorzystuje nasze naturalne zdolności i odpowiada naszemu sposobowi pojmowania świata za pomocą zmysłów. Jednak maszyny to już zupełnie inny poziom percepcji. Podstawowym celem sztucznej inteligencji jak widać jest daleko idąca perfekcja, która objawiać się może w nieustannym dążeniu do optymalizacji – również tych narzędzi, które podsuwamy jej my, ludzie.

Dlatego raz jeszcze wspomnę o Musku, który wyprowadził lewego sierpowego w stronę Zuckerberga. Co prawda czysto nie trafił, ale udało mu się sprawić, że SM-owy gigant cios odczuł. Facet, który zbawia świat elektrycznymi samochodami, Hyperloopem i własnym programem kosmicznym ma więcej oleju w głowie niż chłopaczek, który wie o nas dosłownie wszystko. Dlaczego? Prawdopodobnie ma większy szacunek do tego, co w przyszłości może absolutnie zmienić życie naszej cywilizacji. Pytanie tylko, czy zrobi to na lepsze, czy na gorsze.