System rozpoznawania twarzy niesłusznie aresztował człowieka. Czy to naprawdę problem?

Jakiś czas temu pisałem o tym jak to IBM i Microsoft wycofują się ze sprzedaży swoich technologii rozpoznawania twarzy władzom. Obie firmy oficjalnie robią to w imię poprawności politycznej i mając na względzie dobro obywateli. Według nich takie narzędzia w rękach policji czy innych służb mogą być nadużywane, a obecne prawo i regulacje w żaden sposób nie dbają o prawa człowieka.

Dodatkowo obie firmy zwracały uwagę na fakt, że systemy rozpoznawania twarzy należy analizować również w kontekście praw mniejszości, które są pomijane. Zwracają uwagę na takie rzeczy jak np. profilowanie rasowe. Oczywiście nikogo nie dziwiła ta argumentacja w świetle wydarzeń jakie miały / mają miejsce w Stanach Zjednoczonych.

System rozpoznawania twarzy aresztował człowieka

Oczywiście nie aresztował go dosłownie, jednak wskazał osobę, która została aresztowana przez policję. Policjanci prowadzili śledztwo mające na celu odnalezienie osoby, która ukradła ze sklepu pięć zegarków o łącznej wartości $3800. W ramach prowadzonych czynności posłużyła się nagraniem z monitoringu, które nie grzeszyło jakością. Wykadrowali i powiększyli twarz osoby zmniejszając jego jakość jeszcze abrdziej, a następnie przepuściło przez posiadany system rozpoznawania twarzy. System bardzo szybko wytypował podejrzanego. Był nim 42-letni, czarnoskóry mężczyzna – Robert Julian-Borhack Williams. To wystarczyło, aby dokonać aresztowania.

Bardzo szybko okazało się, że Pan Williams jest niewinny i po spędzeniu jednego dnia w areszcie został wypuszczony. Niesmak jednak pozostał i zostało złożone oficjalne zażalenie na policję oraz ich działania. Zwraca się uwagę na to, że jedyne co obaj Panowie mieli ze sobą wspólnego był kolor skóry, a system nie jest w stanie rozróżnić osób czarnoskórych. Kolejne zarzuty padają bezpośrednio przeciwko policjantom, którym zarzuca się nieumiejętne korzystanie z tego typu oprogramowania.

Czytaj dalej poniżej

Satelity meteorologiczne za miliony dolarów, a mnie na rowerze ciągle łapie deszcz Paweł Winiarski

Nawet najwięksi nie potrafią pokonać monopolistów. Poległo i Google, i Microsoft Paweł Winiarski

Czy to jest słuszne?

Ustalmy dwie rzeczy. Po pierwsze, z tego co udało mi się ustalić to pierwszy lub jeden z pierwszych przypadków w którym policja dokonuje błędnego aresztowania na podstawie systemu rozpoznawania twarzy. Możemy przyjąć, że burza jaka się rodzi z powodu tego zdarzenia jest związana z faktem, że Pan Williams posiada taki, a nie inny kolor skóry.

Po drugie, bardzo łatwo mi się wypowiadać z pozycji białego Europejczyka mieszkającego w kraju, którego służb jeszcze długi czas nie będzie stać na tego typu systemy.

Uważam, że to co się stało jest przykre. Nikt nie chce, aby policja weszła na jego podwórko i skuła go kajdankami na oczach swoich dzieci (tak było w tym przypadku). Nikt nie chce spędzić choćby godziny w areszcie za niewinność. Bezsprzecznie to przykre.

Z drugiej strony historia zna niezliczone przypadki niesłusznych oskarżeń czy wyroków dożywocia, które zostały błędnie wydane. Z systemami czy bez do takich sytuacji będzie dochodziło. Oczywiście chciałoby się, aby zaawansowana technologia zmniejszyła lub wyeliminowała tego typu zdarzenia, jednak do tego daleka droga.

Skoro wiemy, że póki co tego typu błędów nie wyeliminujemy to trzeba sobie zadać pytanie czy cena pomyłek takich systemów nie jest do zaakceptowania? Budzą one wiele kontrowersji, bo to bezduszne algorytmy, które analizują gigabajty danych. Budzą kontrowersje, bo gdy dochodzi do pomyłki od razu mówimy o prawach człowieka. Co by było, gdyby Pana Williamsa wskazał biały policjant? Mógł się przecież pomylić.

O ile zgadzam się z hasłem uregulowania kwestii działania tego typu systemów, popieram utworzenie jasnych, zrozumiałych i spójnych reguł, które powiedzą nam, kiedy można skorzystać z systemu i kiedy można bazować na jego analizach. O tyle nie mogę się zgodzić z nawoływaniem do ich bojkotu.

Zaawansowane algorytmy są w stanie przeanalizować nieporównywalnie więcej osób niż sztab ludzi oraz „dostrzec” szczegóły, które są nie do wychwycenia przez ludzkie oko. Pracujmy na regulowaniem i kontrolą nowych technologii, ale nie eliminujmy ich ze strachu przed nimi i nie pakujmy wszędzie ideologii rasowej. Zastanawiam się czy te same osoby podjęłyby równie silne działania gdybym to ja, wywyższający się biały Europejczyk, został wskazany i błędnie oskarżony.

grafika, grafika