16

Algorytmy Google sobie nie radzą. Gigant przywraca do pracy moderatorów

google
Kilka miesięcy temu YouTube postanowił bardziej polegać na moderacji od sztucznej inteligencji. Okazało się, że nie był to tak dobry pomysł, jak pierwotnie zakładano.

Algorytmy miały być wybawieniem na wszystko. Ludzie z dnia na dzień mieli stać się niepotrzebni, bo automatyczne filtry wspierane przez sztuczną inteligencję miały wszystko robić lepiej. Jak się okazuje — nie do końca się to udało, bo nawet Google musi zrezygnować z polegania w większym stopniu na sztucznej inteligencji i skorzystać z ludzkich moderatorów. Ci jednak lepiej znają się na swojej pracy — co mnie w ogóle nie dziwi, chociaż nie ma co ukrywać. Ich moce przerobowe są nieporównywalnie mniejsze.

ikona youtube

Kilka miesięcy temu, kiedy wybuchła światowa pandemia, YouTube pozwolił swoim moderatorom odpocząć i zapowiedział, że od teraz będzie bardziej polegał na systemach maszynowego uczenia by te oznaczały i usuwały materiały naruszające regulamin serwisu — w tym wszelkie związane z rozsiewaniem dezinformacji czy mową nienawiści. Jak to się skończyło — można było się spodziewać. Z serwisu zaczęło znikać znacznie więcej materiałów niż dotychczas, a przy tym wiele z nich… niesłusznie. Między kwietniem a czerwcem skasowano około 11 milionów filmów, czyli około 2x więcej niż miało to miejsce dotychczas. Ale w związku z tymi zdjętymi materiałami serwis otrzymał ponad 320 tys. odwołań — co też jest dwukrotnie większą wartością niż kiedykolwiek wcześniej. Te liczby są imponujące, ale właściwie to tyczy się wszystkich informacji na temat YouTube’a. Tutaj jednak mowa o dość skomplikowanych rzeczach do rozszyfrowania — czasem pewne informacje mogą być po prostu przemycane. Innym razem — mówi się o zakazanych rzeczach ironicznie czy w formie żartu — ale po wyłapaniu słów kluczowych AI automatycznie blokuje materiały.

Ale choć sztuczna inteligencja nie jest jeszcze na tyle sprawna w wyłapywaniu ironii i — jak człowiek — jest omylna, jest dla moderatorów nieocenioną pomocą. Ponad połowa ze wspomnianych 11 milionów filmów została usunięta z YouTube’a bez obejrzenia ich przez kogokolwiek. A z całości 80% wideo doczekało się mniej niż 10 odsłon. Przy takim natłoku treści ludzie nie daliby radę tego ogarnąć w pojedynkę. Ale dobrze że wracają do pracy — będzie skuteczniej i bardziej rzetelnie.

Źródło