Google

Bezpowrotnie stracił konto Google, bo algorytm oznaczył zdjęcie jako dziecięcą pornografię

Kamil Świtalski
20

Algorytmy pomagają dbać o ład i porządek, ale są bezrefleksyjne - i bez kontekstu potrafią napsuć krwi.

O (nie)omylności algorytmów dyskutuje się od lat. Tam gdzie korzystamy z ich dobrodziejstw, tam pojawia się ryzyko związane z tym że... coś najzwyczajniej w świecie pójdzie nie tak, jak powinno. No i raz idzie jej lepiej, raz gorzej. Teraz sprawa nadgorliwości algorytmów wypływa ponownie przy okazji zdjęć, które rodzice robią swoim pociechom w różnych sytuacjach. I dla nieznającej kontekstu sztucznej inteligencji - sprawa jest podejrzana, więc automatycznie kategoryzuje je jako dziecięcą pornografię. Efekt? Google blokuje takie konto, a jego właściciela zgłasza do National Center for Missing & Exploited Children. Organizacji zajmującej się zaginionymi i wykorzystywanymi dziećmi oraz na raportuje wszystko policji — która rozpoczyna śledztwo.

Źródło: Depositphotos.com

Cienka granica, w której wiele zależy od... kontekstu?

To bardzo delikatny temat. Z jednej strony - firmy technologiczne chcą walczyć z nadużyciami i zrobić co tylko w ich mocy, by uchronić najbardziej bezbronnych. Z drugiej jednak w związku z tym, zaczyna dochodzić do tak kuriozalnych sytuacji jak ta, o której teraz jest głośno. By nadać kontekstu: konto które zablokowało Google należało do ojca, który konsultując zdalnie w 2021 stan zdrowia swojego dziecka — zrobił zdjęcia jego pachwiny, by wysłać takowe do lekarza. Nie mógł stawić się osobiście, bo był to moment, w którym część gabinetów lekarskich było pozamykanych ze względu na obowiązujące obostrzenia. Dlatego też rodzic na prośbę pielęgniarki wykonał zestaw zdjęć, by wysłać je przed rozmową wideo na którą był w późniejszym terminie umówiony z lekarzem. Czy zrobił coś złego? Nie - zrobił to z troski, o krzywdzie nie ma mowy. Ale bez znajomości kontekstu, to po prostu fotografia miejsc intymnych noworodka.

Google zablokowało konto, co dalej?

No i zaczęły się schody. Dwa dni po wykonaniu zdjęć, ich autor otrzymał powiadomienie od Google, że jego konto zostało zablokowane w związku ze szkodliwymi treściami, a także naruszeniem polityki Google oraz podejrzeniem że część materiałów narusza prawo. A po blokadzie konta Google, nie miał dostępu do maili, kontaktów, zdjęć, a przez to że korzystał z Google Fi — nawet numeru telefonu. I jak można się było spodziewać, Google na początku wszystkie jego prośby o odblokowanie konta ignorowało, a  przeciwko autorowi zdjęć toczyło się śledztwo, które zamknięte zostało dopiero po jakimś czasie, kiedy okazało się że faktycznie nie popełniono żadnego przestępstwa. Zapytał wówczas organy ścigania o to, czy mogą poinformować Google o finale całej sprawy, by mógł odzyskać konto. Spróbował raz jeszcze odzyskać dostęp do konta, ale... po tym czasie wszystkie dane z nim powiązane zostały bezpowrotnie usunięte.

Jak wynika z rozmowy redakcji New York Times i przedstawicieli Google — skanowanie zdjęć odbywa się nie po ich zrobieniu gdy są przechowywane na smartfonach, a przy kopiowaniu ich do chmury — w tym przypadku: zdjęć Google. Wszystko dzięki Content Safety API AI, zestawowi narzędzi którymi Google pochwaliło się w 2018, zaś od ubiegłego roku firma dba o to, by wszystkie dane były możliwie jak najbardziej przejrzyste, o czym więcej poczytacie na dedykowanej stronie:

W 2021 roku uruchomiliśmy raport przejrzystości dotyczący wysiłków Google w zakresie zwalczania materiałów związanych z wykorzystywaniem seksualnym dzieci w internecie, wyszczególniając liczbę zgłoszeń, które przekazaliśmy do NCMEC. Raport zawiera również dane dotyczące naszych wysiłków na YouTube, sposobu wykrywania i usuwania wyników CSAM z Wyszukiwarki oraz liczby kont wyłączonych za naruszenia CSAM we wszystkich naszych usługach.

Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu