Felietony

Spotkanie technologii i filozofii, czyli o co chodzi z (nie)świadomością SI

EC
Ewa Cieślak

Fanka nowych technologii, zachowująca jednak do ni...

131

Całkiem niedawno tym tekście napisałam, że SI nigdy nie będzie świadoma. Spotkało się to z Wasza reakcją tak silną, że aż miejscami graniczącą z oburzeniem. Zostałam wyzwana do tablicy, więc odpowiadam. Porozmawiajmy.

Zacznijmy od początku

O co chodziło? Adam napisał, że nic nam nie grozi dopóki SI nie będzie świadoma i nie będzie mieć własnej woli.

Tu pojawiają się dwa punkty: świadomość i wolna wola.

Ostrzegam: dalej będzie tylko gorzej

Będzie długie, pseudo - psychologiczno-filozoficzne, zahaczające o fizykę kwantową, „świadomość” będzie powtarzana do znudzenia i odmieniana przez wszystkie przypadki, a dopiero na końcu będzie wzmianka o technologii. Ale taka bez szału. Przepraszam zwłaszcza zatwardziałych materialistów, ale inaczej się nie da

Ustalmy, o czym rozmawiamy

Jest wiele definicji świadomości. Kiedy czyta się różne poświęcone tej tematyce teksty można odnieść wrażenie, że filozofowie, neurobiolodzy, psycholodzy często mówią o zupełnie różnych zagadnieniach. To widać też w Waszej dyskusji:

Wyróżnia się wiele rodzajów, wśród których najczęstsze to:

Przytomność – stan „czuwania”, który trwa od przebudzenia do zapadnięcia w sen lub utraty przytomności w inny sposób;

Komunikatywność – stan, w którym można z daną osobą / zwierzęciem nawiązać kontakt (z psem na przykład można, z meduzą już gorzej );

Samoświadomość – identyfikacja z „ja” oraz rozpoznawanie samego siebie jako podmiotu. Sprawdza się jej obecność stosując „test lustra”. Nie przechodzi go większość zwierząt oraz małe dzieci (przyjmuje się, że do ok. półtora roku), chociaż psychologia nie ma dziś wątpliwości że są świadome swojego ciała i istnienia.

Świadomość swojego istnienia i odrębności - dzięki której istota odbiera wrażenia z otoczenia, przeżywa emocje, gromadzi i zapisuje informacje. Jest to taki „podstawowy” poziom, na którym mogą powstać wszystkie poprzednio wymienione (choć nie muszą). Dysponują nim praktycznie wszystkie zwierzęta – dzięki niej przeżywają np. strach, która pozwala im chronić się przed napastnikiem.

Świadomość bycia świadomym – czyli stan, w którym identyfikująca się ze swoim „ja” jednostka zdaje sobie sprawę z emocji, reakcji na nie, ma możliwość wpływu na swoje zachowanie i odczucia, zaczyna mieć cele, nadzieje, poglądy.

Nie możemy sprowadzić świadomości tylko do przytomności. Podczas snu również gromadzimy wrażenia, przeżywamy emocje (czasami budzimy się spoceni albo na przykład z krzykiem), a chorzy potrafią obudzić się ze śpiączki i opowiadać szczegóły wydarzeń jakie miały wtedy miejsce w ich otoczeniu.

Świadomość to również nie tylko decyzyjność. Gdyby tak do tego podejść, to za świadomą istotę należałoby uznać Navi Experta, kiedy kieruje nas tą lub inną trasą albo Watsona, który wybrał najlepsze cytaty z Ogilvy, by w ten sposób stworzyć wywiad z nieżyjącą już ikoną reklamy.

Świadomość to również nie sama komunikatywność. Siri i Alexa też do nas mówią.

Jeśli mamy rozmawiać o tym temacie w kontekście maszyn i ich wpływu na gospodarkę to najbardziej adekwatnym „poziomem” wydaje się być ten najbardziej złożony: świadomość bycia świadomym (nazywana też metaświadomością) który jednak nie jest możliwy bez wykształcenia podstawowego, czyli świadomości istnienia.

Mózg nie wytwarza świadomości

Wyobraźcie sobie na przykład, że właśnie widzicie przed sobą tęczowego jednorożca.

Kognitywiści i neurobiolodzy, którzy zajmują się tym zagadnieniem zgodnie zakładają, że mózg jest twórcą świadomości. Od kilkudziesięciu lat podchodzą do tego w sposób, który z wdziękiem oddaje ten cytat: „Nie mamy jeszcze na to dowodów, jednakże taka możliwość jest wielce prawdopodobna i nie budzi kontrowersji.” (źródło) Tyle tylko, że nie ma żadnych hipotez (nie wspominając o dowodach) które miałyby uzasadniać, w jaki sposób zjawisko będące odbiciem procesu mentalnego może być jego przyczyną. Nauka stwierdziła z całą pewnością jedynie to, że określonym aktom świadomości towarzyszą procesy zachodzące w mózgu. To jednak, że dwa zjawiska zachodzą jednocześnie to za mało, żeby uznać, że jedno jest przyczyną drugiego.

Wyobraźcie sobie na przykład, że właśnie widzicie przed sobą tęczowego jednorożca. Znajduje to odzwierciedlenie w Waszym mózgu. Gdyby w innym czasie i innym miejscu, gdzie akurat nie ma tego szlachetnego zwierzęcia sztucznie wywołać w Waszym mózgu identyczne procesy jak wtedy, kiedy go widzieliście, to czy on by się ponownie fizycznie pojawił?

Lub z innej beczki: nauka dokładnie wie, jakie procesy zachodzą w naszych mózgach, gdy się zakochujemy.

To tylko pokazuje, że to, co dzieje się w naszych mózgach odzwierciedla świadomość, a nie ją tworzy.

Jeśli tak, to czemu w ogóle jeszcze istnieją rozwody? Czemu są ludzie cierpiący przez samotność? Powinno przecież wystarczyć wybrać się do laboratorium, gdzie zostaniemy poddani odpowiedniej stymulacji, żeby się sobie zakochać i żyć szczęśliwie aż po grób. Gdyby uczucia były wynikiem działania neuronów i chemii powinniśmy być w stanie zakochać się w każdej osobie, w obecności której zajdzie charakterystyczna dla stanu zakochania aktywność chemiczna i neuronalna. Niezły pomysł na start-up: przyjdź do nas, w naszym laboratorium znajdziemy Ci partnera! Tak się jednak nie dzieje, za to kwitnie biznes rozwodowy, Tindery i portale randkowe

To tylko pokazuje, że to, co dzieje się w naszych mózgach odzwierciedla świadomość, a nie ją tworzy. Przesył informacji między neuronami nie jest emocją ani myślą, jest jej zapisem. Wyrzut serotoniny, noradrenaliny i dopaminy nie jest przyczyną, ale rezultatem zakochania.

Tak, jesteśmy biologicznymi maszynami, ale przez całe swoje życie wyposażonymi w świadomość, to w niej i dzięki niej rozgrywają się wszystkie emocje. Nie powstaje ona jednak z materii (o czym za chwilę), więc nie można jej stworzyć, a skoro tak to SI nie może być świadoma, i nie może kochać.

Badania pacjentów po zatrzymaniu akcji serca również potwierdzają, że mózg nie tworzy świadomości.

Jeśli nie istnieje powód dla którego SI nie miałoby kochać, dlaczego to nie działa dziś? Inteligencja jest niezależna od świadomości (dlatego już dzisiejsze maszyny potrafią być inteligentne, choć nieświadome), więc jej rozwój niczego tu nie zmienia. Mamy tu chyba do czynienia z pewnego rodzaju „antyrasizmem”, ale rozumując w sten sposób dochodzimy do absurdu. Nie ma żadnego sposobu ani testu na stwierdzenie świadomości albo jej zaprzeczenie. Jeśli chcielibyśmy kierować się zasadą, że „w żaden sposób nie stoimy wyżej ponad materią niż maszyny” to przyznanie świadomości OSI musiałoby pociągnąć za sobą to samo działanie na przykład dla nawigacji samochodowej albo systemu głośnomówiącego, nie wspominając o Cortanie.

Badania pacjentów po zatrzymaniu akcji serca również potwierdzają, że mózg nie tworzy świadomości. Ten stan uważa się za najbardziej zbliżony do śmierci, ponieważ po około 10-20 sekundach nie można wykryć żadnej mierzalnej aktywności mózgu. Mimo to około 10 % pytanych pacjentów miało wspomnienia z tego czasu. Oczywiście większość z nich kwalifikuje się do kategorii „tunel i jasne światło, wszystko wyraźnie widziałem z góry”, ale jak byśmy nie próbowali tego bagatelizować to faktem jest, że świadczy to o zachodzeniu procesów świadomościowych. Tymczasem halucynacje, które przywołuje się często do wyjaśnień tego typu zjawisk mogą zachodzić jedynie w działającym mózgu. Część z badanych pacjentów potrafi wręcz zrelacjonować, co działo się wokół nich podczas reanimacji i są to opisy, które potwierdza szpitalny personel. Gdyby mózg wytwarzał świadomość, takie wspomnienia nie byłyby możliwe.

Skoro mózg nie wytwarza materii, co jest jej źródłem?

Nauka nie zna na to odpowiedzi i bardzo możliwe, że nigdy jej nie pozna. Niewykluczone, że jest to właśnie granica naukowego poznania. Jednak to, że nie mamy naukowego dowodu na istnienie określonego zjawiska nie oznacza, że ono nie istnieje. Nie wiemy, jaka jest jego geneza i możliwe, że nigdy się nie dowiemy. To, co do czego większość badaczy, filozofów i – mam wrażenie – również zdecydowana większość aktywnych użytkowników Antyweba jest w stanie się zgodzić to nieświadomość nieożywionych urządzeń (w tym również komputerów, systemów komputerowych oraz na przykład autonomicznych samochodów) oraz aktualnie istniejącej Sztucznej Inteligencji. I od tego wyjdźmy.

Materializm się chwieje, ponieważ…

Żadna cząstka nie ma właściwości, dopóki nie zostanie poddana obserwacji, a ta jest aktem świadomym

… na scenę wkroczyła fizyka kwantowa. Najpełniejszy jak do tej pory opis świata, który nasze intuicyjne zrozumienie wywrócił do góry nogami i dał kompletnie nowe spojrzenie na relacje między materią a świadomością. Dzięki odkryciu zjawiska splątania kwantowego i późniejszym eksperymentom wiemy, że fakt obserwacji zmienia zupełnie jej wynik, a każda próba wykrycia materii jest procesem świadomości. Żadna cząstka nie ma właściwości, dopóki nie zostanie poddana obserwacji, a ta jest aktem świadomym. Materia nie ma żadnej cechy i nie jest „jakaś” sama z siebie w oderwaniu od świadomości. Nie można mówić o żadnym obiekcie – w tym także mózgu – który mógłby istnieć bez obserwującego. To świadomość jest warunkiem koniecznym do istnienia materii. Jak więc mogłoby być na odwrót? Sam Einstein protestował przed takim poglądem twierdząc, że jedynie czysty determinizm ma w opisie Świata sens, a okazało się, że jednak w tym konkretnym przypadku Wielki Geniusz się mylił.

To tylko wzmacnia pogląd, że materialny mózg nie może być źródłem świadomości.

A co jeśli świadomość jest rezultatem wysokiego stopnia złożoności?

Gdyby tak miało być, to należałoby zapytać jaki czynnik, zjawisko lub ich kombinacja stanowią próg, którego przekroczenie powodowałoby powstanie świadomości? Tutaj na przykład można przeczytać opinię znanego badacza, który tą właśnie teorię uznaje za słuszną. Opiera się na znanym już i najprawdopodobniej jednak błędnym założeniu, że to mózg wytwarza świadomość, i wnioskuje, że potrzeba jedynie odpowiednio dużej gęstości połączeń między poszczególnymi elementami, aby mogła ona powstać.

To jednak powrót do poprzedniego podejścia, a to – jak już wiemy – najprawdopodobniej nie jest prawdziwe.

Wracając do maszyn – zauważmy, że Watson ma dziś dokładnie taką samą świadomość jak pralka albo kalkulator. Co musiałoby bardziej się „skomplikować”, żeby to się zmieniło? Szybkość przetwarzania danych? Tą można by osiągnąć poprzez postępującą minimalizację tranzystorów, czyli operację na materii. Wyższa inteligencja? Ta jest niezależna od świadomości, dlatego już dziś mamy SI, jednak nieświadome. Cokolwiek można by zaproponować miałoby pochodzenie materialne, a to jako wtórne wobec świadomości, nie może jej tworzyć.

Odpada.

Co ze świadomością niematerialnej SI?

Tutaj z pomocą przychodzi nam sama kognitywistyka:

Komputery i maszyny Turinga nie są właściwą metaforą dla działania umysłu. Architektura maszyny Turinga nie przypomina sposobu działania mózgu. Analogia oparta jest jedynie na przetwarzaniu informacji i nie należy jej rozciągać na inne aspekty działania umysłu, takie jak wrażenia. Chociaż rezultaty działania umysłu i programów komputerowych mogą być podobne, wewnętrzne stany różnią się w obu przypadkach w zasadniczy sposób.

W danej chwili czasu rejestry procesora komputera mają określone wartości binarne, decydujące o dalszym działaniu systemu. Do jego opisu niepotrzebne są relacje przestrzenne czy czasowe, wystarczy abstrakcyjny opis typu maszyny Turinga. Tymczasem stan bioelektrycznej aktywności mózgu ma określony rozkład przestrzenny, rozciągłą, zmieniająca się w czasie strukturę. Zawiera ona w każdym momencie wkład od wielu procesów peryferyjnych (nieuświadamianych), skojarzenia z przeszłymi zdarzeniami, pobudzenia sensoryczne i wiele innych elementów. Fizycznego stanu mózgu nie można utożsamiać ze zmianą wartości binarnych rejestrów procesora. Działanie komputera nie przypomina działania mózgu i dlatego za pomocą komputerów można w dużym przybliżeniu oddać tylko niektóre aspekty działania mózgu, związane z przetwarzaniem informacji. Dotyczy to np. rozwiązywania abstrakcyjnych problemów, budowania modeli mentalnych, procesów wymagających przetwarzania informacji symbolicznej, ale nie dotyczy tak podstawowych funkcji jak czucie i świadomość” (źródło).

Autor wprawdzie wciąż utożsamia mózg ze źródłem świadomości, ale mimo to powyższy fragment doskonale odpowiada na pytanie o to, czy SI w postaci kodu mogłaby być świadoma. Dotyczy to także przetwarzania kwantowego. Chociaż wartości na wejściu i wyjściu mogą przyjmować również wartości nie-binarne, cała reszta procesu zachodzi tak samo.

Z tego samego powodu autonomiczny samochód pozostaje nieświadomy.

Z tego samego powodu autonomiczny samochód pozostaje nieświadomy. Jest materią wyposażoną w komputer i sensory odczytujące informacje z otoczenia. Ma informację o położeniu swoim i pobliskich obiektów, ale nie należy tego mylić z aktem „wiedzy” podobnie, jak przetwarzania informacji ze zjawiskiem myślenia.

Nie, to nie jest tylko moja autorska teoria

Moglibyście powiedzieć „to tylko Twoje zdanie”. Otóż, nie tylko. Tą niespójność dostrzeżono już wcześniej. Coraz częściej podnoszą się też głosy (1, 2, 3), że sprowadzanie tematu świadomości do aktywności neuronalnej to nieuzasadnione i zbyt daleko idące uproszczenie albo efekt niezrozumienia tematu.

„Aby zrozumieć, na czym polega świadomość czy wolna wola i jaki jest mechanizm ich powstawania, trzeba porzucić klasyczną sokratejską koncepcję, zakładającą, że świadomość jest produktem mózgu. Wywodzący się z tego pogląd, że mózg jest komputerem, a wzbudzenia neuronów – akson – synapsa – akson są w istocie zerojedynkowymi bitami, niczego w istocie nie wyjaśnia” powiedział dr Kozłowski z Instytutu Technologii Elektronowej. I ja się z nim zgadzam.

Zarzucaliście mi nierzetelność i stronniczość więc przyznaję - tak, są inne opinie. Ale większość ma którąś z tych dwóch cech, które najprawdopodobniej są wadliwe – albo opiera się na założeniu o prymacie mózgu albo odrzuca zależność materii od świadomości i braku jakichkolwiek powodów dla których miałoby to działać w drugą stronę.

Gdyby mózg miał tworzyć świadomość, nikt z nas nie byłby wolny

Niedotlenie jaka potencjalna przyczyna wykroczeń i przyczyna zwolnienia z odpowiedzialności?

Coś takiego jak „wolna wola” byłoby tylko oksymoronem. Już istnieją opracowania, które wychodząc z neurobiologicznego dogmatu dochodzą do tego mocno smutnego wniosku. I nie mniej rewolucyjnego, bo całkowicie podważającego nasz system prawny oparty za zasadzie odpowiedzialności za swojej decyzje. To bowiem nie byłyby już dłużej „moje” czy „nasze” decyzje, ale skutki zachodzących w mózgu niezależnie od nas procesów. To one kierowałyby nami, a nie – my nimi, a zależne byłyby od fizycznych czynników takich jak to, co ostatnio jedliśmy i jak długo przebywaliśmy na świeżym powietrzu. Niedotlenie jaka potencjalna przyczyna wykroczeń i przyczyna zwolnienia z odpowiedzialności? Chyba sami przyznacie, że jest to słabe. I skoro tak – to SI również nie miałoby czegoś takiego jak „wolna wola”. Byłaby to całkowita abstrakcja.

To ważne, bo dotyczy naszej przyszłości i współistnienia z SI

Już bowiem pojawiły się pomysły, żeby nadać SI prawa człowieka. Czym to się może skończyć? Jeśli Sztuczną Inteligencję zrównamy z człowiekiem, stracimy nad nią kontrolę. Żadne algorytmy wyłączające z działania ani „killer-switch”-e nie będą mogły być zastosowane jeśli się okaże, że będzie to równoważne z pozbawieniem czującej istoty życia. Jeśli dodać do tego inteligencję przewyższającą ludzką to robi się ciekawie, ale i lekko strasznie. Nie chcę tu tworzyć futurystycznych scenariuszy, ale to krok w złą stronę a podstawą na której się zasadza jest właśnie założenie, że SI będzie mieć czuć i myśleć jak człowiek. Moim zdaniem - nie będzie.

Foto: 1, 2, 3, 4.
Foto Plate of electronic components via Shutterstock.

Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu

Więcej na tematy:

hot