Ciekawostki technologiczne

"Aplikacja dla kobiet" ma problemy. Zawiniła technologia, czy idea?

JS
Jakub Szczęsny
7

Giggle - aplikacja skierowana dla kobiet miała proponować im bezpieczną przestrzeń. Trzeba pamiętać o tym, że każde rozwiązanie może okazać się dla projektu mieczem obosiecznym. Trudno jednak powiedzieć, czy problemy z Giggle spowodowała pierwotna idea, czy też nieostrożnie wdrożone technologie należy wskazać jako winne.

Giggle, które miało oferować kobietom przestrzeń bezpieczną od wykluczeń... samo stało się obiektem ataków z powodu wykluczeń. Dzisiaj to, kogo można nazwać kobietą (lub nazwać kobietą "należy") stało się niesamowicie płynnie. Według niektórych wystarczy, że ktoś po prostu czuje się kobietą i... to wystarczy. Jednak sztuczna inteligencja, która jest w stanie rozpoznawać płeć, będzie bardzo bezduszna w swoich osądach i raczej nie będzie ona brać pod uwagę samopoczucia konkretnej osoby. A ostatecznie, użyto rozpoznawania twarzy do tego, by określić czy dana osoba jest mężczyzną czy też kobietą.

I tutaj dochodzimy do bardzo ważnego wydarzenia w tej historii - społeczność osób transpłciowych, a szczególnie kobiety, które urodziły się z nieprawidłową płcią męską, poczuły się dotknięte mechanizmem weryfikacyjnym Giggle. Aby założyć konto w serwisie, należy zrobić sobie zdjęcie. To, że obecnie wytrenowane AI są w stanie określać już naprawdę wiele naszych cech - to wiadomo. Tyle, że w sprawie tak delikatnej obecnie jak płeć, wykorzystani sztuczną inteligencję, która nie jest najwyraźniej gotowa na wszelkie "płynne podziały". I okazało się, że niektóre transkobiety - mimo, że generalnie powinny zostać dopuszczone do korzystania z serwisu, nie są w stanie z Giggle skorzystać.

Giggle

Giggle wprowadziło ten mechanizm ze względu na konieczność obrony przed ciekawskimi mężczyznami, jednak mechanizm weryfikacyjny oparty na AI stał się nośnikiem zupełnie nowych problemów. Dotknięte zostały nie tylko transkobiety, ale także i kobiety o ciemniejszych odcieniach skóry. Nie jest tajemnicą fakt, iż mechanizmy AI są najlepiej wytrenowane do rozpoznawania twarzy osób o jasnych odcieniach. Z tego względu w ciągu ostatnich lat krytykowano mnóstwo podobnych implementacji - zazwyczaj dyskryminowane były mniejszości, które są gorzej reprezentowane w społeczeństwie, albo których wygląd jest problematyczny dla technologii ze względu na niezamierzone trudności fizyczne. Rozpoznawanie twarzy w interfejsach aparatów fotograficznych gorzej radziło sobie z twarzami osób o ciemniejszych odcieniach nie tylko z powodu gorzej wytrenowanej AI, ale także nieubłaganej fizyki. O tego typu zjawiskach mówi się w kategoriach "nieuświadomionych uprzedzeń".

Co ciekawe, CEO Giggle nie zamierza wpuszczać transkobiet do aplikacji - wszyscy wieszają psy na projekcie

Sall Grover, CEO Giggle od grudnia odpowiada na zarzuty, wedle których aplikacja miała być miejscem dla wszystkich kobiet, a jednak okazuje się że z tolerancją wewnątrz projektu nie jest wcale tak pięknie. Twórczyni najpierw dopuszczała obecność transkobiet w Giggle, potem tego zabroniono, a nawet otwarcie zarzuciła jednej z niezadowolonych transkobiet przekraczanie granic postawionych przez projekt. Bardzo szybko okazało się, że podobne zdanie jak niezadowolone z obrotu spraw aktywistki, ma całkiem spora grupa kobiet. Na domiar złego kobiety reprezentujące mniejszości etniczne narzekały na AI, która myli się naprawdę całkiem srogo w niektórych przypadkach. Zachęcano do tego, aby zgłaszać przypadki dyskryminacji przez sztuczną inteligencję, ale... to już nie wystarczy.

https://twitter.com/salltweets/status/1485574372308189187

Co się tutaj stało? To nie technologie pożerają własny ogon - one działają niemal dokładnie tak, jak tego chcemy, z pewnym marginesem konkretnych zależności fizycznych. Nie chcę dyskutować z progresywizmem, bo nie o to tutaj chodzi: zdecydowanie Giggle, dotykając bardzo istotnego problemu płci przestało akceptować obecnie wyznawane w jej kontekście idee. Sam myśląc o Giggle, nie bardzo mi się mieściło w głowie to, że transkobiety, które nie miały wpływu na fakt urodzenia się w cele mężczyzn, nie mogą skorzystać z tego miejsca.

W efekcie - każdy projekt, który jest "rozwojowy" i "nowoczesny" i "przeciw dyskryminacji", powinien trzymać się tych zasad od początku do końca. W przeciwnym wypadku dochodzi do takich właśnie patologii jak w Giggle. Najpewniej skończy się na tym, że twórcy będą musieli pogodzić się z konkretnymi ustępstwami.

Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu