13

Po tym już wiem, że do idei autonomicznego… czegokolwiek podejdę z ogromnym dystansem

Ludzie robią głupie rzeczy. Dlaczego? Zapytałem o to kilka osób. Jedna z nich mi odpowiedziała: "dlatego, że są ludźmi". Nie takiej odpowiedzi się spodziewałem, ale ta jedna zapadła mi w pamięć. Jedni silili się na wytłumaczenie motywów robienia rzeczy głupich, inni wskazywali na przyrodzone nam ułomności. A tymczasem ktoś uciekł się do tak prostego i pięknego stwierdzenia. Możemy zrobić setki mądrych, pięknych i potrzebnych rzeczy. Ale głupoty też jesteśmy w stanie robić.

Ludzie – stwórcy. Bawimy się w bogów tym, co mamy

Nigdy nie było lepszego okresu do tego, byśmy mogli zabawić się w bogów – którzy tworzą coś niemalże na swój wzór i podobieństwo, by nam służyło. Nie jesteśmy w stanie za pomocą skinienia palcem postawić przed sobą niewolnika, który zaparzy nam kawę, przyniesie kapcie i poczyta gazetę. Ale możemy mieć inteligentne rzeczy, a coraz większa moda jest na autonomię, która ma nas wyręczyć z robienia pewnych rzeczy. Maszyny dostaną określone zadania przyrodzone im na podstawie ich przeznaczeń. Samochody będą jeździć same, odkurzacze już same odkurzają nasze mieszkania, niektóre lodówki tworzą listy rzeczy do kupienia i niebawem może się okazać, że zamawianie produktów do domu przez lodówkę będzie standardem. I nie o to chodzi, że jesteśmy leniwi i ślepo ułatwiamy sobie życie. Tak było zawsze – nie chcieliśmy zasuwać do studni, więc wymyśliliśmy wodociągi. Nie chcieliśmy spać w jaskiniach, to nauczyliśmy się budować domy. Świeczki były niepraktyczne, więc powstała żarówka. I tak dalej – potrzeba jest matką wynalazku. Ale co wzbudza potrzebę to już insza inszość.

autonomiczne

Czym dalej w las tym więcej drzew. I… z technologiami nie jest inaczej. Samochody mogą prowadzić się same? Już teraz są w stanie przejechać się bez naszego udziału. A okaże się niedługo, że stanie się to standardem – kobiety podczas jazdy będą mogły spokojnie wymalować sobie usta, a mężczyźni – poczytać gazetę lub pooglądać się na panie na ulicy. Podróż z Rzeszowa do Szczecina nie będzie 10-godzinną udręką lecz przyjemnością, samochód sam nas poprowadzi. Aż zdarzy się mała tragedia. Aktualizacja oprogramowania. Wszystko trafi szlag.

Czytam dzisiaj na temat aktualizacji dla nawigacji w samochodach Lexusa. Okazało się, że nowe oprogramowanie psuje ten moduł i nawigacja jest niesprawna. Ktoś powie, że to żadna tragedia, bo to tylko nawigacja, która jest potrzebna tylko czasami. Bo z domu do pracy nie będziemy jej uruchamiać, a poza tym jest wiele innych tras, które znamy na pamięć.

Życie jednak nauczyło mnie, by się zastanawiać. Co by było gdyby? No, właśnie. Bo co by było gdyby taka aktualizacja dotyczyła bardzo ważnych aspektów pracy samochodu, czy innego sprzętu, który wykazuje autonomię? A gdyby chodziło o system inteligentnego domu, który uruchomiłby w domu przeciwpożarowe zraszacze. Słyszałem już o takich systemach domowych, gdzie uzbrajano system i nie pozwalano wpuścić nikogo do środka, bo komputer postanowił zabawić się w twierdzę. Dlaczego? Oprogramowanie dało ciała.

Wiara, a zaufanie

Wiara jednoznacznie kojarzy nam się z zaufaniem, chociaż te rzeczy nie są ze sobą tożsame. I dobrze. Można wierzyć w takie rozwiązania – nikt nikomu nie broni. Można mieć poczucie, że staną się one szczególnymi rozwiązaniami w dziejach naszej ludzkości, zmienią nasze społeczeństwo, ustanowią nowe standardy. Rozpleciemy nić synergii między ludźmi, a maszynami – gdzie my będziemy bogami, a maszyny… naszymi narzędziami. W rękach bogów, którzy opanowali technologię i dali jej życie – na swój własny sposób. Ale – dopóki to my tworzymy technologie (a nie będzie inaczej), są one tak doskonałe jak my. Czyli wcale.

Jeden błąd mógłby kosztować życie wielu osób. Tylko jeden. Załóżmy, że samochód po aktualizacji oprogramowania niepoprawnie odczytuje dane pochodzące z kamer i ostatecznie próbuje omyłkowo skręcić w prawo lub lewo. Po lewej – pas przeciwny, czyli ryzyko czołówki. Po prawej – rów, barierka lub drzewo. Jedna i druga opcja jest względnie nieciekawa. Inteligentny dom może uruchomić wszystkie sprzęty w domu – bo tak mu się podoba. iRobot postanowi rozpędzić się w kierunku wazonu i go wywrócić, a lodówka zamówi do domu 100 kilogramów arbuzów. To oczywiście wymyślone scenariusze, ale nikt nie powiedział, że nie mogą się wydarzyć.

autonomiczne

Bo mimo tego, że pisałem ostatnio dla Was o tym, że samochód może być lepszym kierowcą od człowieka, to mimo wszystko – technologie jednak to wytwór ludzki i nigdy doskonałe nie będą. Oczywiście, postęp jest potrzebny i nie chciałbym go hamować tylko z powodu moich obaw – być może nieuzasadnionych (bo jestem niedoskonały, moim przekleństwem jest to, że się mylę). Ale, warto zastanowić się, czy chcemy poświęcać nasze granice autonomii, by rozszerzać te należące do maszyn? One wchodzą do naszych domów, zaczynają robić to, co my. A wystarczy tylko jeden błąd, by zamiast naszych pomocników stały się poważnym problemem. Użytkownicy iPhone’ów dobrze pamiętają, co stało się przy okazji niedawnej aktualizacji oprogramowania. Użytkownicy Windows wiedzą, że aktualizacja nie zawsze oznacza coś dobrego. Chcemy się godzić na to również tam, gdzie w sumie damy sobie radę sami, a błąd może kosztować naprawdę sporo?

I tak, wiem – ludzie powodują więcej wypadków. Ludzie podpalają sobie sami domy, lecą na pasach jak poparzeni i ryzykują bliskie spotkanie z maską samochodu. I technologie mylą się rzadziej – to fakt. Ale błąd – rozsiewany taśmowo może nas dotknąć „raz a dobrze”. Nie jestem pewien, czy chciałbym zaufać maszynie na tyle, by oddać jej kontrolę nad samochodem. W końcu stworzyli ją ludzie, a ludzie robią głupie rzeczy dlatego, że…

…są ludźmi. I czasami się mylą.