12

Na Białorusi powstało oprogramowanie do rozpoznawania zamaskowanych OMON-owców. Czy na pewno?

W ręce wpadł mi film, który zaledwie w 3 dni wykręcił blisko milion odtworzeń. Nie byłoby w tym nic dziwnego gdyby nie tematyka. Materiał dotyka równocześnie dwóch trudnych zagadnień: sztucznej inteligencji i sytuacji na Białorusi. Trudno mi pisać ten tekst bo chce się skupić jedynie na aspekcie technologicznym, a nie jest to łatwe biorąc pod uwagę w jaki sposób przedstawiono na filmie rozwiązanie, które powstało (lub nie?).

Na początek zacznę od przedstawienia wspomnianego filmiku. Działanie algorytmu ukazane jest w pierwszych 30 sekundach, dalsza część to manifest polityczny twórcy oprogramowania.

Zgodnie z zapewnieniami, aplikacja jest w stanie rozpoznać osobę zamaskowaną bazując na dostępnych w bazie zdjęciach. To co widzimy wskazuje na to, że wystarczą fotki ogólnodostępne – takie, które możemy znaleźć np. w mediach społecznościowych.

W dalszej części filmu zaprezentowano kilka innych przykładów zastosowania. Za każdym razem mamy do czynienia jedynie z fragmentem twarzy i widocznym dopasowaniem. Przyznam szczerze, że w każdym przypadku jestem prawie pewien, że program dokonał odpowiedniego dopasowania. Dlaczego prawie? Bo przecież zdarzają się osoby podobne do siebie.

Czy to w ogóle istnieje?

To pierwsze pytanie jakie sobie zadałem przed napisaniem tego tekstu i niestety nie umiem Wam udzielić jednoznacznej odpowiedzi. Przynajmniej w momencie pisania tego tekstu nie dotarłem do żadnych materiałów, które jednoznacznie wskazywałyby na prawdziwość lub brak istnienia tego programu. Owszem, potrafimy już stworzyć oprogramowanie, które jest w stanie z bardzo dużą skutecznością rozpoznać osobę na podstawie zdjęcia. Ba! Umiemy to zrobić nawet na podstawie nagrania sylwetki i tego jak się porusza. Jedynak czy zaledwie fragment twarzy wystarczy? Niestety nie wiem.

W sieci można znaleźć sporo dyskusji na ten temat i bardzo często przewija się opinia mówiąca, że jest to po prostu fake. Jest takie ryzyko, jednak fakt, że tłum czegoś nie rozumie nie jest dla mnie wystarczającym argumentem za tym, aby podważyć istnienie zaprezentowanego rozwiązania. Technologia wielokrotnie już mnie zaskakiwała i na tyle na ile rozumiem zasady działania tego typu oprogramowania, jestem w stanie uwierzyć, że w odpowiednich warunkach byłoby ono w stanie dokonać prawidłowego dopasowania. 

Jeśli to faktycznie działa to pozostaje kwestia skuteczności jaką może się pochwalić. Sam przecież pisałem na łamach Antywebu artykuł o tym, że policja w Stanach Zjednoczonych ma problem z programami do rozpoznawania twarzy bo działają one słabo. No i co z tym zrobić?

Dla spokoju sumienia muszę wspomnieć również o popularnej w sieci teorii mówiącej, że cały materiał to nic innego jak zręczny montaż, którego głównym celem jest zwrócenie uwagi. W końcu oprogramowanie do rozpoznawania zamaskowanych OMONowców musi się rozejść z prędkością błyskawicy. Dodatkowo może to zmusić służby do przemyślenia swoich działań, jeśli takie rozwiązanie faktycznie by istniało to dla OMONowców byłby to ogromny cios, nie bez powodu noszą maski.

Przerażająca wizja

Załóżmy jednak, że to faktycznie działa. Jeśli – podkreślam JEŚLI – tak jest to mnie to osobiście przeraża. Wiem, że intencje są słuszne. Oprogramowanie w teorii powstało do tego, aby demaskować ludzi, którzy dopuszczają się nikczemnych czynów. Pamiętajmy jednak, że każdy medal ma dwie strony.

Niektórzy DOBRZY ludzie muszą nosić maski dla bezpieczeństwa swojego jak i swoich rodzin. Co jeśli tego typu rozwiązanie wpadnie w niepowołane ręce i zostaną oni zdemaskowani? Co jeśli dyktatorzy będą mogli dzięki temu w prosty sposób wyłapywać ludzi walczących o wolność?

Coraz częściej mam wrażenie, że nasza ciekawość i chęć udowadniania, że za pomocą kodu możemy coraz więcej wpędza nas w otchłań. W otchłań w której sami sobie wiążemy stryczek.