Firmy z kręgu big-tech bohatersko walczą z dyskryminacją oraz "nieuświadomionymi uprzedzeniami". Ale - okazuje się również, że czasami sami takie sytuacje tworzą lub godzą się na nie, gdy chodzi o ich interes. Czy Facebook dyskryminuje ludzi w reklamach? Wygląda na to, że tak - jednak sam gigant do tego się ie przyzna.
Jak wynika z dokumentu opublikowanego przez grupę badaczy z Northeastern's Khoury College of Computer Sciences - odkryli oni, że algorytm Facebooka dostarcza reklamy w różny sposób w oparciu o to, kto znajduje się w materiałach sponsorowanych. Jak to działa? W skrócie, jeżeli w grafice dołączonej do reklamy umieścisz czarnoskórą osobę, to znacznie zwiększysz prawdopodobieństwo, że reklama zostanie dostarczona do czarnoskórych użytkowników. I odwrotnie, jeżeli w tym miejscu pojawi się biała osoba - reklama rzadziej będzie wyświetlana czarnoskórym.
Ale takich kwiatków jest znacznie więcej. Reklamy są dostosowywane również pod kątem innych czynników demograficznych takich jak płeć, wiek. Co więcej, reklamy pracy w przemyśle drzewnym częściej trafią do białych mężczyzn, natomiast w roli dozorcy - do czarnoskórych kobiet. Tak wynika z poprzedniej pracy badaczy, która ujawniła stopień promowania uprzedzeń algorytmicznych oraz dyskryminacji poprzez sztuczną inteligencję. Od tego problemu nie da się w pełni uciec: rozumiem, że reklamy mają być maksymalnie skuteczne i takie podejście ostatecznie zwiększa ich wartość. Ale z drugiej strony - taka wiedza powinna być powszechna, Facebook powinien publicznie o tym mówić i jednocześnie, nie próbować walczyć na pokaz z dyskryminacją. Właściwie, to podobnie powinny robić właściwie wszystkie firmy z grona big-tech.
Reklamodawcy raczej są świadomi tego, jak to działa. Wybierając populację za pomocą lokalizacji i wieku (np. Rzeszów, wiek od 18 do 40 lat), obejmujesz całkiem sporą populację i nie wiesz do końca, w jaki sposób algorytm dopasowuje reklamy do konkretnych osób, które to zobaczą. Przecież nie pokaże tego absolutnie każdej osobie, która mieszka w Rzeszowie. Taka populacja byłaby bardzo duża. No, chyba że masz dużo pieniędzy na reklamę. Ale - wiecie do czego dążę? Do tego, aby uzmysłowić Wam, że algorytm na pewnym poziomie decyduje, komu pokazać reklamę.
Jak każdy tego typu mechanizm, system dostarczania reklam na Facebooku jest szkolony przy użyciu danych. Najnowsze badanie wskazuje na to, że obraz zawarty w reklamie jest tym, na co algorytm Facebooka reaguje najsilniej. Za pomocą tego, co znajduje się na zdjęciu, ocenia co może zrobić aby możliwie jak najbardziej zwiększyć szanse na to, że ktoś kliknie w reklamę. A zatem - dostosowuje prezentowane reklamy do odbiorcy.
Nie dość, że użytkownicy powinni wiedzieć możliwie jak najwięcej na temat tego, jak działają takie mechanizmy, to w dodatku reklamodawcy oraz opinia publiczna powinna mieć takie dane. I to jest problem, że nikt nie dba o informowanie w tym zakresie. Dopóki tego nie będziemy honorować, będą pojawiać się fale oburzenia z powodu "algorytmów które dyskryminują". A tutaj nie mamy do czynienia z dyskryminacją we właściwych tego słowa znaczeniu, a... przygotowaniem algorytmów do działania w ten określony sposób.
Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu
