Policjanci nie mogą korzystać ze swoich systemów bo te są rasistowskie. Przecież to już czysta paranoja!

W ostatnich tygodniach temat naszej prywatności, wykorzystania systemów do rozpoznawania twarzy, predictive policing oraz rasizmu bardzo mocno się przeplatają. Raptem kilka dni temu pisałem o sytuacji, w której policjanci z Detroit dokonali aresztowania niewinnej osoby tylko na podstawie wskazania dokonanego przez jeden z takich systemów. Dodatkowo funkcjonariusze wykazali się dużą dozą niekompetencji, ponieważ gdyby tylko przyłożyli się do swoich obowiązków to do takiego skandalu by nie doszło.

Przeglądając materiały na ten i podobne tematy niemal zawsze na pierwszy plan wyciągany jest motyw rasizmu. Dlatego nikogo nie powinno dziwić, że jedno z kalifornijskich miast powiedziało „dość! U nas tak nie będzie!”. Konkretnie chodzi o Santa Cruz w Kalifornii. Władze tego miasta oficjalnie zakazały na swoim terenie wykorzystywania tzw. predictive policingoraz systemów rozpoznawania twarzy. Ich policjanci nie będą mogli wykorzystać żadnej z tych technik w swoich śledztwach.

Predictive Policing? Co to jest?

Kojarzycie film „Raport mniejszości”? To ten w którym policja na podstawie wskazań systemu dokonywała aresztowania ludzi ZANIM ci dokonają przestępstwa. Na tym właśnie polega predictive policing. Jednak w naszej rzeczywistości nie opieramy się o rodzeństwo z nadprzyrodzonymi zdolnościami, a o odpowiedni aparat matematyczny.

Czytaj dalej poniżej

3 miesiące nauki zdalnej okiem prowadzącego. Powiem wam co mnie najbardziej w tym systemie boli Dawid Pacholczyk

Pracownicy nie chcą cięć pensji z powodu przeprowadzki. No i bardzo dobrze! Dawid Pacholczyk

System dokonuje analizy informacji pochodzących ze wszystkich dostępnych źródeł. Może to być nasz aktywność Facebook, miejsca, które odwiedzaliśmy, wszelkie dane osobowe, a nawet analizę wideo z materiałów na których jesteśmy dostępni i wszystko inne co pomaga w profilowaniu naszej osoby. System wskazuje jednostki co do których istnieje wysokie prawdopodobieństwo, że popełnią przestępstwo. Zaznaczam, że nie chodzi o osoby, które zrobiły coś złego. Mogą to być wzorowi obywatele z czystą kartoteką, ale które została ocenione przez system jako potencjalne zagrożenie.

Policja Santa Cruz nie będzie mogła korzystać z tego typu oprogramowania. Biorąc pod uwagę, że jest to miasto w Kalifornii to możemy spodziewać się podobnych zakazów w sąsiednich miastach. Ten stan jest dość specyficzny i tego typu idee bardzo szybko się tam rozprzestrzeniają.

Rasizm to podstawa

Ostatnio chce się powiedzieć: jeśli nie wiesz o co chodzi to chodzi o rasizm. Tak samo jest i w tym wypadku. Zarówno systemy do rozpoznawania twarzy jak i predictive policing nie będą zakazane dlatego, że nikt nie rozumie jak one tak naprawdę działają czy jakie elementy są kluczowe dla określenia osoby jako niebezpiecznej. Nikt nie widzi problemu moralnego jakim jest etykietowanie ludzi jako niebezpiecznych pomimo faktu, że nic nie zrobili. Problemem jest to, że wspomniane systemy są rasistowskie.

To co się nie podoba władzom Santa Cruz jest fakt, że algorytmy są uprzedzone do ludzi o innych kolorze skóry niż biały. Eliminacja wykorzystania tej technologii ma być jednym z narzędzi, które pomoże w wyplewieniu rasizmu z szeregów policji.

Czy to sensowne działanie czy już paranoja? To system jest rasistowski czy ludzie, którzy z niego korzystają są rasistami? Zarówno rozpoznawanie twarzy jak i predictive policing dokonują wskazania, które następnie jest lub nie jest wykorzystane przez policjanta. O ile jestem skłonny poprzeć eliminację tego typu rozwiązań z powodów etycznych, ponieważ może się na przykład wiązać z podejrzewaniem osoby o to, że zrobi coś złego tylko dlatego, że pochodzi ze złej okolicy lub jego znajomy ma kartotekę o tyle jego eliminacja „bo system to rasista” jest dla mnie pozbawione sensu.

Co o tym myślisz? Jakie jest Twoje podejście do takich narzędzi w rękach policji?

grafika