16

Strzeżcie się! Google finansuje algorytm identyfikujący trolle internetowe

Pewne zachowania w internecie są bardzo irytujące, czego na co dzień doświadczam sam, pisząc na Antywebie. Dotąd walka z hejterami i trollami sieciowymi odbywała się z użyciem klasycznych narzędzi. Te jednak są niedoskonałe i wymagają ciągłego monitorowania dyskusji oraz są skuteczne dopiero po fakcie. A gdyby tak identyfikować niechcianych gości zanim jeszcze zajdą nam za […]

Pewne zachowania w internecie są bardzo irytujące, czego na co dzień doświadczam sam, pisząc na Antywebie. Dotąd walka z hejterami i trollami sieciowymi odbywała się z użyciem klasycznych narzędzi. Te jednak są niedoskonałe i wymagają ciągłego monitorowania dyskusji oraz są skuteczne dopiero po fakcie. A gdyby tak identyfikować niechcianych gości zanim jeszcze zajdą nam za skórę?

Nad technologią pracują naukowcy z uniwersytetów Stanford i Cornell. Działa ona w oparciu o cechy wspólne, które łączą trolli internetowych. Bazę tę zbudowano dzięki analizie zachowań 1,7 mln użytkowników, którzy w konsekwencji zostali trwale zbanowani. Łącznie daje to 40 mln komentarzy z trzech dużych serwisów internetowych: CNN, Breitbart oraz IGN. Obserwacje trwały w sumie 18 miesięcy, co daje dość konkretne rezultaty, choć oczywiście nie czyni algorytmu bezbłędnym.

Wnioski nie są szczególnie odkrywcze. Typowy troll internetowy ma tendencję do przeklinania, personalnie atakuje innych użytkowników oraz jest autorem komentarzy o zauważalnie niższej wartości merytorycznej niż inni. Co istotne jednak, spod jego ręki wychodzi znacznie więcej postów niż w przypadku „normalnych” internautów. W czasie gdy oni tworzyli 22 komentarze, troll miał ich na koncie już 264. Oczywiście idzie za tym również znacznie większa liczba odpowiedzi ze strony innych.

Troll filiżanka

Twórcy algorytmu doszli do etapu, na którym do identyfikacji typowego trolla internetowego potrzeba zaledwie 10 komentarzy. Technologia ta okazała się bardzo wartościowa w oczach Google’a, który rozpoczął jej finansowanie. Naukowcy są zdania, że ich pomysł może znaleźć zastosowanie z bardzo prostego powodu. Zachowanie trolli jest swoistym inkubatorem dla innych trolli, a także wyzwala negatywne zachowania u innych internautów. Tłumienie tego zjawiska w zarodku może zatem przełożyć się na ogólnie wyższy poziom dyskusji i mniej wulgarnych treści na stronach www.

Wydaje się to szalenie interesujące, zakładając, że algorytm faktycznie jest w stanie bezbłędnie zidentyfikować takie przypadki, a to ciągle wymaga pracy. Zakładając jednak, że technologią zainteresował się jeden z gigantów technologicznych, można się spodziewać wymiernych rezultatów. Pytanie, co potem z tym zrobi Google.