47

Tak Google chce walczyć z internetowymi trollami – oto Perspective

Właściwie każda dyskusja w internecie może się skończyć mini-wojenką. Użytkownikom sieci idzie o wszystko - o przekonania polityczne, o wyższość diesla nad benzyniakiem (albo wyższością LPG nad wszystkim), aż po przewagę pomidorowej nad rosołem. Kiedy brakuje argumentów, sięga się po błoto w formie różnorakich inwektyw. Moderatorzy mają sporo roboty. A gdyby tak ten proces uprościć?

Z takiego założenia wyszło Google, które wraz z Jigsaw stworzyło narzędzie Perspective, które wykorzystuje uczenie maszynowe do identyfikowania niewłaściwych komentarzy. Gigant udostępnia API programistom tak, aby mogli to rozwiązanie zaadaptować na swojej stronie – dzięki temu nie tylko będą oni mogli uprościć proces wykrywania (i usuwania) treści od trolli internetowych, ale także umożliwią uczenie się maszynie, która cały czas będzie udoskonalała swoje kompetencje w zakresie oznaczania niewłaściwych komentarzy.

perspective

Jak podaje Google na swojej stronie poświęconej Perspective, około 72 procent amerykańskich użytkowników internetu było świadkami niewłaściwych zachowań. Niemal połowa doświadczyła czegoś takiego osobiście. Walka z trollami internetowymi to wcale nie takie łatwe zadanie – nawet w społecznościach, gdzie dba się o poziom dyskusji. Według Google, usuwanie takich treści pochłania mnóstwo pieniędzy oraz czasu. Zautomatyzowanie tego procesu dzięki Perspective może okazać się dla niektórych wydawców (i nie tylko) zbawienne.

Jak działa Perspective?

Mechanizm Google ocenia komentarze i dostarcza informacji na temat tego, jak bardzo są one podobne do tych, które zostały już przez użytkowników oznaczone jako niewłaściwe. Aby nauczyć się wykrywania tego typu treści, do Perspective wprowadzono tysiące niewłaściwych komentarzy.

Rozwiązanie Google oraz Jigsaw potrafi oflagować niewłaściwy komentarz do weryfikacji przez moderatora. Ale nie tylko – Perspective może dostarczyć informacji komentatorowi na temat ofensywności jego wypowiedzi w czasie rzeczywistym. Według twórców mechanizmu, może to spowodować, że więcej internautów zdecyduje się zedytować swój komentarz, jeżeli okaże się on „zbyt mocny”.

Perspective może się okazać kluczowym rozwiązaniem, jak chodzi o podnoszenie jakości dyskusji w internecie. Google wskazuje na to, że mechanizm może sortować komentarze według ich poziomu ofensywności, co pozwoli np. na domyślne ukrycie w konwersacji tych treści, które oznaczono jako nieodpowiednie.

perspective

Możecie sprawdzić, jak radzi sobie Perspective w akcji na tej stronie. Należy jedynie zauważyć, że mechanizm nie działa (na razie) w języku polskim. Dlatego też, nadaje się on tylko do analizowania treści w języku angielskim. Trzeba jednak przyznać, że z tym radzi sobie całkiem dobrze i trafnie oznacza te komentarze, które z powodzeniem mogłyby zostać wyrzucone przez moderatora dyskusji. Czyżby nastały ciężkie czasy dla trolli internetowych? Nie sądzę, aby rozwiązało to wszystkie problemy trapiące internetowe społeczności, ale miło by było, gdyby na niektórych stronach jednak gościł taki mechanizm.