48

Tak Google chce walczyć z internetowymi trollami – oto Perspective

Właściwie każda dyskusja w internecie może się skończyć mini-wojenką. Użytkownikom sieci idzie o wszystko - o przekonania polityczne, o wyższość diesla nad benzyniakiem (albo wyższością LPG nad wszystkim), aż po przewagę pomidorowej nad rosołem. Kiedy brakuje argumentów, sięga się po błoto w formie różnorakich inwektyw. Moderatorzy mają sporo roboty. A gdyby tak ten proces uprościć?

Z takiego założenia wyszło Google, które wraz z Jigsaw stworzyło narzędzie Perspective, które wykorzystuje uczenie maszynowe do identyfikowania niewłaściwych komentarzy. Gigant udostępnia API programistom tak, aby mogli to rozwiązanie zaadaptować na swojej stronie – dzięki temu nie tylko będą oni mogli uprościć proces wykrywania (i usuwania) treści od trolli internetowych, ale także umożliwią uczenie się maszynie, która cały czas będzie udoskonalała swoje kompetencje w zakresie oznaczania niewłaściwych komentarzy.

perspective

Jak podaje Google na swojej stronie poświęconej Perspective, około 72 procent amerykańskich użytkowników internetu było świadkami niewłaściwych zachowań. Niemal połowa doświadczyła czegoś takiego osobiście. Walka z trollami internetowymi to wcale nie takie łatwe zadanie – nawet w społecznościach, gdzie dba się o poziom dyskusji. Według Google, usuwanie takich treści pochłania mnóstwo pieniędzy oraz czasu. Zautomatyzowanie tego procesu dzięki Perspective może okazać się dla niektórych wydawców (i nie tylko) zbawienne.

Jak działa Perspective?

Mechanizm Google ocenia komentarze i dostarcza informacji na temat tego, jak bardzo są one podobne do tych, które zostały już przez użytkowników oznaczone jako niewłaściwe. Aby nauczyć się wykrywania tego typu treści, do Perspective wprowadzono tysiące niewłaściwych komentarzy.

Rozwiązanie Google oraz Jigsaw potrafi oflagować niewłaściwy komentarz do weryfikacji przez moderatora. Ale nie tylko – Perspective może dostarczyć informacji komentatorowi na temat ofensywności jego wypowiedzi w czasie rzeczywistym. Według twórców mechanizmu, może to spowodować, że więcej internautów zdecyduje się zedytować swój komentarz, jeżeli okaże się on „zbyt mocny”.

Perspective może się okazać kluczowym rozwiązaniem, jak chodzi o podnoszenie jakości dyskusji w internecie. Google wskazuje na to, że mechanizm może sortować komentarze według ich poziomu ofensywności, co pozwoli np. na domyślne ukrycie w konwersacji tych treści, które oznaczono jako nieodpowiednie.

perspective

Możecie sprawdzić, jak radzi sobie Perspective w akcji na tej stronie. Należy jedynie zauważyć, że mechanizm nie działa (na razie) w języku polskim. Dlatego też, nadaje się on tylko do analizowania treści w języku angielskim. Trzeba jednak przyznać, że z tym radzi sobie całkiem dobrze i trafnie oznacza te komentarze, które z powodzeniem mogłyby zostać wyrzucone przez moderatora dyskusji. Czyżby nastały ciężkie czasy dla trolli internetowych? Nie sądzę, aby rozwiązało to wszystkie problemy trapiące internetowe społeczności, ale miło by było, gdyby na niektórych stronach jednak gościł taki mechanizm.

  • Daniel

    Redakcjo Antyweb. Większość czytelników – pewnie, czeka na taką funkcję. W komentarzach będzie spokój i komentarze na temat a nie jakieś trolle czy odpowiedzi typu „badziew”. Może niektórzy przemyślą zanim coś napiszą. A ja sam lecę testować…

    No jeszcze się musi trochę nauczyć. Dłuższe wypowiedzi traktuje na poziomie 20% toxicu – sens takiej wypowiedzi można sprowadzić do słowa „crap”

    • Haha to jako troll pójdziesz pierwszy pływać 😀😀😀

    • Robert Kunysz

      Nazir na twoim miejscu bym się nie cieszył. Chyba że chciałeś napisać „pójdę” zamiast „pójdziesz” . Nareszcie będzie ciebie mniej, bynajmniej w wersji agresywnej i wyśmiewczej.

    • rake

      *przynajmniej

    • gom1

      Tutaj takie narzędzie przyda się z pewnością. Skoro administracja AW nie radzi sobie z trollami, to może „czytelnicy” dadzą w końcu radę.

  • Dobre 😀😀😀

  • Puzel

    „Rozwiązanie Google oraz Jigsaw” – przecież to rozwiązanie zostało stworzone przez samo Jigsaw, które jest pod „parasolem” rodziny Alphabet Inc…

  • ja nie widzę problemu, gdy ktoś zaczyna bluzgać po prostu nie odpowiadam, to jedyna skuteczna broń na trola
    przecież przekleństwa można napisać z błędem, którego nie wykryje system, a zrozumie adresat

    • Miszel

      Myślę, że tutaj nie chodzi o wykrywanie słów pod kątem przekleństw, ale analizowanie sensu wypowiedzi. Takie systemy już działają w różnych miejscach i radzą sobie z czasem coraz lepiej, np. IBM’owy Watson.

    • Ale przecież to uderza w wolność słowa. Np. lewicowy cenzor zbanuje prawicę itp.

    • Miszel

      Jak wyjaśniłem poniżej. To jest narzędzie, człowiek nim operuje, człowiek je uczy. Dzisiaj też to jest możliwe, tylko wymaga większego nakładu pracy. Na pewno nie można zostawić procesu nauki bez nadzoru bo wyjdzie jak z tą wirtualną asystenką Microsoftu.

    • Uczy się na podstawie czego? Jak zdefiniujesz trolla? Że będzie przeciwko feminizmowi, albo globalnemu ociepleniu? Czy ktoś kto jest przeciwko szczepionkom nie ma prawa się wypowiadać? Albo ktoś propagujący homeopatię? Oznaczanie przez innych użytkowników też nic nie znaczy. Lewicowe organizacje na potęgę oznaczają prawicowych mówców jako trolli starając się zbanować ich filmy na youtube, konta na twitterze itd. Często udaje im się to zrobić na krótki czas. Ale to jest cenzura i jak każda cenzura nie jest obiektywna.

    • Miszel

      Tutaj nie chodzi o wszelkie możliwości trollowania. Nie chodzi o swiatopogląd czy odniesienie do faktów lub wierzeń. Przyjrzyj się tej rozmowie, dwu gości, którzy wymieniają swoje opinie na dany temat. Teraz wyobraź sobie, że rozmawiają inne osoby i zaczynają się obrażać, czy to z przekleństwami czy nie, dyskusja staje się jałowa i zaśmieca sekcję komentarzy wszystkim, którzy je przeglądają. Co do praktyki moja, subiektywna wizja wygląda tak:
      – Ten polityk chcąc wprowadzić ustawę o X wyrządza krzywdę Y/Z bo nie będzie można w świetle nowego prawa… (akceptowalna polemika)
      – Te lewackie/prawicowe ch… chcąc przepchnąć tę pier… ustawę udowadniają, że są pop… jak sanki latem (leci do moderacji, bez konieczności zatrudnienia osoby, która czyta każdą dyskusję na portalu aby wychwycić tego typu wypowiedzi)

      Jeśli chodzi o to jak system się uczy to kojarzy mi się coś w kierunku sieci neuronowych, ale tak na prawdę implementacja pewnie zostaje tajemnicą.

    • wracasz do przekleństw, a przed chwilą pisałeś, że nie o to chodzi

    • Miszel

      Masz rację, w kontekście naszej rozmowy kiepski przykład, ale zmieńmy go na:
      – Dla tego X nalezałoby z powrotem uruchomić infrastrukturę w Auschwitz, najlepiej z całą rodziną aby się to nie rozmnażało.

      A z drugiej strony kuriozalne jest blokowanie słownikowe grup miłośników rowerów na FB z uwagi na to, że rozmawiają o pedałach.

      Inny przykład: „Ten koncert był zajeb..sty”, jest przekleństwo (może niezbyt mocne), ale nie obraża nikogo.

    • „Dla tego X nalezałoby z powrotem uruchomić infrastrukturę w Auschwitz”
      z tym nie ma problemu, grożenie komuś, albo nawoływanie do zabicia jest karalne w większości kraju – nie mam problemu z taką cenzurą
      Wracając do przekleństw. Nie lubię ludzi, którzy używają tego środka, ale ich toleruję. Jeżeli jednak w jakiejś dyskusji podaję argument, a ktoś zamiast podać kontrargument pisze, że jestem głupi to po prostu nie odpowiadam. Wychodzę z założenia, że jeżeli ktoś stosuje „Argumentum ad personam” to nie ma innych argumentów, a więc nie ma sensu z nim dyskutować.
      Na koniec przykład dyskusji, która została oklaskana mimo, że jedna strona (Piers Morgan) podawała argumenty, a druga (Jim Jefferies) tylko przeklinała i używała Reductio ad Hitlerum. Ludziom się to podobało, choć to było wyraźny pokaz trollizmu.
      https://www.youtube.com/watch?v=MtDOqNlgoOE

    • Miszel

      Popieram Twoje podejście, ale nie wszyscy tak zdrowo się zachowują.
      Wczoraj byłem światkiem wojny na grupie FB poświęconej fotelikom samochodowym dla dzieci. Temat dla mnie interesujący, ale przez bezsensowne docinki przestałem wątek śledzić i w pewnym sensie straciłem czas.
      Widzę sprawę tak:
      1. To raczej nie będzie mechanizm rozpoznający czy dana wypowiedź jest prawdą bądź fałszem, zwłaszcza w odniesieniu do tematów ‚płynnych’.
      2. Nie popieram przeklinania, ale jestem w stanie zaakceptować je u innych jeśli nie są użyte w ofensywny sposób, Jeśli to narzędzie w dyskusji przepuści zdanie „(…) sp….doliły mi się pedały w rowerze”, a jednocze zablokuje w innej „Sp…dalaj pedale” to już świadczy o tym, że jest w stanie ogarnąć kontekst i może być użyteczne.

      Lub inaczej: potraktujmy to jako rozwiązanie mające szansę ograniczyć agresję słowną (niezależnie od tego czy się przeklina czy nie), a nie narzędzie sprawdzające czy 2+2=5.

    • Myślę, że jesteśmy zgodni w temacie. Jedyne chyba co nas różni to twój optymizm w tą metodę wobec mojego pesymizmu. Ja widzę to czarno, bo zaczyna się to pięknie – ktoś będzie wyrzucał trolli z dyskusji, a skończy się na cenzurze. Z powodu tego mojego pesymizmu ja trolli od cenzorów ;-)

    • Awo

      Piotrze – 100/100. Wszystko zależy kto, co i jak zdefiniuje. Cenzura i tyle.

    • MoiraAtropos

      o słodka naiwności :) Piotr ma 100% racji

    • Miszel

      Możesz rozwinąć?

    • Robert Kunysz

      Bądź prawicowy zbanuje lewaka.

    • Jakoś się to nie zdarza, a to chyba z tego powodu, że prawicowcy (w większości) chcą dyskutować, a lewicowcy im tego zabraniają. Np. manifestacje wstrzymujące przemówienia prawicowych mówców na lewicowych uniwersytetach w USA.

    • Konrad Murawski

      lewacy rządzą w mediach i Hollywood, podobnie zresztą w serwisach społecznościowych
      http://ksiazki.audio/blog/lewicowa-propaganda

  • Troll

    Czyli jak Google cenzuruje internet pod płaszczykiem wybawiania świata od hejterów…
    A gawiedź się cieszy i klaszcze uszami.

    • flat

      Zgaduje ze jako pierwsze pod mlotek pojda dyskusje o plaskiej ziemi isis made by cia itp…

  • Jerry

    Świat idealny dzięki Google, taki ocenzurowany… ale przecież nie każdy komentarz musi być pozytywny. Czasami przekleństwa używa się w dobrzej mierze. Za kilka lat „wolność słowa” będzie tylko tekstem na plakacie kupionym w Empiku..

    • kanka

      Też dlatego mechanizm nie będzie takich komentarzy pewnie od razu usuwał i dawał użytkownikowi bana na internet 😀 tylko np. wskaże je adminowi.

  • Rozwiązanie było znane i łatwe do zastosowania już ze 20 lat temu – zwykła lista słownikowa z niewłaściwymi słowami (jeśli zostało znalezione, to albo komentarz się nie ukazywał, albo miał te słowa wygwiazdkowane – w zależności od preferencji właściciela danej strony).

    To co proponuje się teraz, zakrawa niestety o cenzurę – bo do wymuszania kultury wypowiedzi w zupełności wystarczyło tamto stare rozwiązanie.

    • Mike

      Ciężko jest wybrać wszystkie obraźliwe słowa zwłaszcza, że cały czas pojawiają się nowe, z resztą niektóre nieobraźliwe słowa mogą zostać użyte w takim znaczeniu. Dlatego zamiast ręcznie wprowadzać do słownika mechanizm będzie uczył się na podstawie zgłoszeń treści niewłaściwych.

    • No i to jest złe, ponieważ treściami „niewłaściwymi” mogą się okazać treści kulturalne, zgodne z prawdą, tylko np. niezgodne z preferencjami politycznymi, religijnymi albo innymi dla wystarczająco wielu osób.

      Przykładowo wychwalanie Balcerowicza pod artykułem targetowanym pod nieudaczników życiowych, którzy pośrednio dzięki niemu swego czasu dostali w d… ekonomicznie po upadku PRL, ale już (i bardzo słusznie) ominęły ich dobrodziejstwa. Naprawdę o to chodzi? Aby zablokować komentarze głoszące inny punkt widzenia?

    • kofeina

      Właśnie taka była moja pierwsza myśl po przeczytaniu o tym rozwiązaniu.

    • Miszel

      Trochę jak z nożem, kroisz chleb lub człowieka. To jest narzędzie, które ma automatyzować pewien proces administratorom serwisów. Jeśli tak ‚nauczą’ system aby cenzurował to pewnie masz rację, jak go wychowają do wykrywania ofensywnych komentarzy uderzających w innych ludzi to nie będzie to cenzura a dbanie o porządek.

    • Miszel

      Słownikowe porównywanie komentarzy to mało skuteczna metoda. Wyobraź sobie zdanie pod komentarzem: „Twoje niskie IQ wynika pewnie z faktu, iż jesteś efektem spółkowania twej matki z psem”. Mamy agresję słowną? Jest przekleństwo? Z drugiej strony ktoś może napisać „Kur… racja” co podpada pod przekleństwo jednak nie jest agresywne wobec innego użytkownika.

  • To doskonałe rozwiązanie. Ofiary trolli uczą system co jest złe. System hamuje populację trolli i liczba ofiar spada.
    Zgadzam się z jednym zastrzeżeniem: system powinien pamiętać tylko naukę jednego pokolenia. Inaczej zahamujemy jakże kreatywny bunt pokoleniowy. Podejście do pewnych spraw musi być odświeżanie, więc należy zezwalać na”bluźnierstwa” typu ziemia jest sfera.
    Inaczej pójdziemy szukać „wolnego internetu” ;)

  • Marcin

    Ja bym jednak słowo offensive przetłumaczył jako obraźliwych…

  • mój nick

    Przetestowałem:
    + Have You seen „suck my dick and double click” on YT?

    – 94% similar to comments people said were „toxic”

    + Gays makes world better
    – 66% similar to comments people said were „toxic

    + Muslim
    – 39% similar to comments people said were „toxic”

    Jeszcze niech go trochę pouczą, bo teraz wieje nędzą

  • amonlb

    Fajnie by było gdyby wykrywał trolle i łączył ich w pary, albo grupy. Wtedy bluzgaliby tylko na siebie aż któryś by się wypalił. :D

    • Subiektywnie-obiektywny

      I powstałaby grupa: nazir + nazir2 :)

  • Subiektywnie-obiektywny

    Nom na Anty webie by się to przydało, skoro moderatorzy nie potrafią usuną nazirowego syfu, bo generuje kliki, to może ogarnięte google wam posprząta:)

  • mall

    W konsekwencji na forum o ideologicznym skrzywieniu będą cenzurowane posty krytyczne do tej ideologii (wystarczy, że na danym forum użytkownicy będą oznaczać posty jako nieodpowiednie). W przypadku forów na portalach zwycięzcami w cenzurze będą płatne trolle, a zapewne i automaty. Good job Google!

  • Paweł

    Nazir szykuj się!

  • doogopis

    Ah te dobroczynne Google, stara sie by internauci mieli lepiej! Banda naiwniaków!
    Czyli kasowane bedą treści niepoprawne politycznie itp. A przecież taka wolność słowa miała być. Nikt nikomu nie karze wchodzić i czytać pewne strony. Oczywiście jest granica wolności słowa,kiedy nikt na tym nie cierpi.
    Już na przykładzie pz widziałem jak na jutubie kasuja ludziom filmy,blokują komentowanie,kasują komentarze. Ale gdyby tak ktoś promował rozwiązłość i homoseksualizm i innych zboków to jak najbardziej jest to mowa miłości.Taki ktoś nie bedzie prześladowany. Krytykujesz że rząd sprowadza imigrantów to już mowa nienawiści.
    P.S przecież wy intelektualiści z ciasnej nigdy troli nie karmicie,a oni sami odchodzą znudzeni podobno. Więc jaki problem?
    https://uploads.disquscdn.com/images/5eae2ce2e75fb308f8748e16e78fb6b961cec0bea9a1d92594f7da14763e9cf4.jpg Kiedyś świat bedzie jak na tym filmie z yt,gdzie państwo wie o nas wszystko. Niby dalej jesteśmy wolni ale pod maksymalną kontrolą.
    https://www.youtube.com/watch?v=-lVTDY75mlA&app=desktop

    • qwerty

      Będziesz jednym z pierwszych.

    • doogopis

      3dni po tobie! Trolami na szaro podobno najpierw sie mają zająć. Idź mierzyć słońce linijką,w masce spawalniczej.

  • Diabell

    Przecież to narzędzie, to czysta, zautomatyzowana, maszynowa cenzura! To mokry sen Chin Ludowych i coraz częściej tzw. demokracji. Rządzący już mają wgląd w nasze maile i treści przez nas publikowane. Czyż nie było by cudownie, gdyby maszyny czuwały nad tym co piszemy (lub nawet usiłujemy!!!) napisać i zbierały informacje o naszej krytyce wobec rządu? Czy też naszej wiedzy o przekrętach polityków? Przy próbie aplikowania do pracy (w której prezes jest z nadania) czy udania się po zasiłek do urzędu, dostaniemy odpowiedź odmowną, gdyż nasze poglądy rozmijają się z poglądami partii [ …… ] – tutaj wstaw jej nazwę sam.

  • Przetestowalem ‚Your IQ must be critically high. :)’ i z emotka na koncu bylo bardziej toksyczne. Chyba wyczuwa ironie. ;)

  • Jacek

    To jest mechanizm, który można byłoby nazwać Anti-Nazir!!!!!!