Sztuczna inteligencja szybko się uczy, a dobrze wytrenowany system jest w stanie doskonale odciążyć ludzi w żmudnych zadaniach. Zdarza się jednak, że w pewnych sytuacjach podejmuje co najmniej dziwne (a w tym wypadku nawet śmieszne) decyzje. AI weryfikująca filmy pod kątem ich zawartości uznała, że walki robotów przedstawiają okrucieństwo wobec zwierząt. Materiały zostały zdjęte z serwisu.
Na początku tego tygodnia właściciele niektórych profilów, na których znajdowały się filmy z walk robotów zaczęli zgłaszać co najmniej dziwne zachowanie YouTube - ich materiały zniknęły z serwisu. Co więcej, otrzymali oni groźnie brzmiącą wiadomość, w której usługodawca stwierdził, że naruszyli oni wytyczne społeczności, w których znajduje się zakaz promowania okrucieństwa wobec zwierząt. W tym zawierają się nie tylko materiały, na których zwierzaki są dręczone, ale również prezentowanie walk między nimi.
YouTube uznał, że materiały pochodzące z programu BattleBots prezentują walki zwierząt. To oczywiście kuriozalna decyzja i najważniejsze jest to, że nie stoi za nimi człowiek. To algorytm ocenił, że w tych materiałach jest prezentowana przemoc w stosunku do zwierząt i z automatu zasądził usunięcie treści. Jak wynika z później podanych informacji o tym incydencie, youtube'owska AI najprawdopodobniej rozpoznała w usuniętych materiałach... walki kogutów.
Zobacz więcej: YouTube pokazał mi, że za Facebooka i Instagrama też chętnie zapłacę
Dziwne zachowanie algorytmu YouTube miało całkiem spory zasięg - około 15 kont związanych z uczestnikami programu BattleBots musiało zmierzyć się z nieprzyjemnymi konsekwencjami ze strony YouTube. W przynajmniej jednym przypadku doszło do blokady konta w serwisie. Mówi się o tym, że algorytm mógł pomylić się m. in. z tego powodu, że niektóre roboty były nazywane podobnie jak zwierzęta.
Byłoby śmiesznie i strasznie jednocześnie, gdyby YouTube się nie zreflektował i nie zrewidował swojej decyzji, zresztą podjętej autonomicznie przez sztuczną inteligencję. Google odniosło się do tej sprawy i przeprosiło za niedogodności, jednocześnie przywracając te materiały i obiecując, że tego typu sytuacje już się nie powtórzą. Najprawdopodobniej inżynierowie firmy wprowadzili już stosowne poprawki do algorytmu "ucząc go", że walki robotów wcale nie prezentują przemocy wobec zwierząt.
W tego typu sytuacjach niektórzy użytkownicy internetu zadają sobie pytania: "Jak to jest? AI ma pełną autonomię w wydawaniu decyzji odnośnie filmów?". Wygląda na to, że w wielu przypadkach tak właśnie jest. Ale niczego innego nie należy się spodziewać - YouTube to ogromna platforma wideo - co minutę dodawane jest ponad 300 godzin materiałów. To absolutnie niemożliwe, aby jakakolwiek grupa odpowiedzialna za utrzymanie odpowiedniej jakości w serwisie była w stanie dokładnie przejrzeć wszystkie umieszczane tam filmy.
Podobnie jest z innymi serwisami społecznościowymi - sztuczna inteligencja to potężny oręż w rękach Facebooka, YouTube, Twittera i innych platform. Jednak nie jest ona doskonała i w szczególnych sytuacjach jest w stanie się poważnie pomylić. Sytuacja z BattleBots dobitnie pokazuje nam, że ta ciągle musi się uczyć i konsekwencje jej niektórych działań mogą być poważne... i śmieszne jednocześnie.
Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu
