3

Kuriozalna decyzja AI YouTube. Nie odróżniła robotów od… zwierząt

Sztuczna inteligencja szybko się uczy, a dobrze wytrenowany system jest w stanie doskonale odciążyć ludzi w żmudnych zadaniach. Zdarza się jednak, że w pewnych sytuacjach podejmuje co najmniej dziwne (a w tym wypadku nawet śmieszne) decyzje. AI weryfikująca filmy pod kątem ich zawartości uznała, że walki robotów przedstawiają okrucieństwo wobec zwierząt. Materiały zostały zdjęte z serwisu.

Na początku tego tygodnia właściciele niektórych profilów, na których znajdowały się filmy z walk robotów zaczęli zgłaszać co najmniej dziwne zachowanie YouTube – ich materiały zniknęły z serwisu. Co więcej, otrzymali oni groźnie brzmiącą wiadomość, w której usługodawca stwierdził, że naruszyli oni wytyczne społeczności, w których znajduje się zakaz promowania okrucieństwa wobec zwierząt. W tym zawierają się nie tylko materiały, na których zwierzaki są dręczone, ale również prezentowanie walk między nimi.

YouTube uznał, że materiały pochodzące z programu BattleBots prezentują walki zwierząt. To oczywiście kuriozalna decyzja i najważniejsze jest to, że nie stoi za nimi człowiek. To algorytm ocenił, że w tych materiałach jest prezentowana przemoc w stosunku do zwierząt i z automatu zasądził usunięcie treści. Jak wynika z później podanych informacji o tym incydencie, youtube’owska AI najprawdopodobniej rozpoznała w usuniętych materiałach… walki kogutów.

Zobacz więcej: YouTube pokazał mi, że za Facebooka i Instagrama też chętnie zapłacę

Dziwne zachowanie algorytmu YouTube miało całkiem spory zasięg – około 15 kont związanych z uczestnikami programu BattleBots musiało zmierzyć się z nieprzyjemnymi konsekwencjami ze strony YouTube. W przynajmniej jednym przypadku doszło do blokady konta w serwisie. Mówi się o tym, że algorytm mógł pomylić się m. in. z tego powodu, że niektóre roboty były nazywane podobnie jak zwierzęta.

Do akcji wkroczył człowiek i… naprawił złą decyzję algorytmu YouTube

Byłoby śmiesznie i strasznie jednocześnie, gdyby YouTube się nie zreflektował i nie zrewidował swojej decyzji, zresztą podjętej autonomicznie przez sztuczną inteligencję. Google odniosło się do tej sprawy i przeprosiło za niedogodności, jednocześnie przywracając te materiały i obiecując, że tego typu sytuacje już się nie powtórzą. Najprawdopodobniej inżynierowie firmy wprowadzili już stosowne poprawki do algorytmu „ucząc go”, że walki robotów wcale nie prezentują przemocy wobec zwierząt.

W tego typu sytuacjach niektórzy użytkownicy internetu zadają sobie pytania: „Jak to jest? AI ma pełną autonomię w wydawaniu decyzji odnośnie filmów?”. Wygląda na to, że w wielu przypadkach tak właśnie jest. Ale niczego innego nie należy się spodziewać – YouTube to ogromna platforma wideo – co minutę dodawane jest ponad 300 godzin materiałów. To absolutnie niemożliwe, aby jakakolwiek grupa odpowiedzialna za utrzymanie odpowiedniej jakości w serwisie była w stanie dokładnie przejrzeć wszystkie umieszczane tam filmy.

Podobnie jest z innymi serwisami społecznościowymi – sztuczna inteligencja to potężny oręż w rękach Facebooka, YouTube, Twittera i innych platform. Jednak nie jest ona doskonała i w szczególnych sytuacjach jest w stanie się poważnie pomylić. Sytuacja z BattleBots dobitnie pokazuje nam, że ta ciągle musi się uczyć i konsekwencje jej niektórych działań mogą być poważne… i śmieszne jednocześnie.