14

Rasistowskie treści odpowiedzialne są za zniknięcie w aplikacjach funkcji, którą pokochali użytkownicy

Instagram sukcesywnie serwuje użytkownikom nowości, które regularnie — mimo początkowych oporów — ostatecznie cieszą się wielką popularnością. Tak było chociażby z Relacjami, czyli po prostu podpatrzonymi u Snapchata Stories. Jednym z ostatnich hitów w programie okazała się integracja z Giphy. Opcja dodania krótkich animacji do tamtejszych Relacji była strzałem w dziesiątkę, użytkownicy byli zachwyceni... ale co z tego, skoro niektórzy postanowili posunąć się o krok za daleko. I trafiły tam obraźliwe, rasistowskie, animacje. Zarówno Instagram jak i Snapchat, który też niedawno doczekał się takich funkcji, zdecydowali się w tej sytuacji odpiąć integrację z Giphy.

Obraźliwe treści i znikające funkcje

Użytkownicy usług w których z dnia na dzień, bez jakiegokolwiek wcześniejszego ostrzeżenia,  zniknęła opcja dodawania krótkich animacji okazali się być nieco rozczarowani. Tym bardziej, że firma nie zostawiła w tej sprawie żadnych wyjaśnień w samym programie. Całą sprawę dokładnie prześledziła jednak ekipa serwisu Tech Crunch, w której znajdujemy odpowiedź na pytanie co tak właściwie się stało.

Okazuje się bowiem, że powodem odpięcia tych integracji była rasistowska zawartość, którą można było znaleźć w ogromnej bibliotece tamtejszych gifów. Wpisując słowo crime, wyszukiwarka serwowała mało przyzwoite treści, z których co najmniej kilka było ściśle związanych z obrażaniem czarnoskórych. Nie zabrakło wśród nich nawet jednego z najbardziej obraźliwych słów jakie w ich kierunku można użyć w języku angielskim. Sprawa niezwłocznie została zgłoszona do obsługi serwisu, a ten chwilę później zdecydował się usunąć funkcję w swojej aplikacji – a w ślady za nim poszedł też Snapchat. A co na to wszystko twórcy usługi, która odpowiedzialna jest za regularne dostarczanie świeżej dawki gifów?

#giphy

A post shared by the fact you dont know (@the_fact_you_dont_know) on

Giphy twierdzi, że natychmiast podjęło stosowne akcje i usunęło te animacje. Okazało się, że trafiły do ich bazy w ramach błędu w algorytmach moderacji, ale już wszystko wróciło do normy. Dokonują wszelkich starań aby nie tylko takie treści nie pojawiły się w przyszłości, ale też po zaaplikowaniu zmian w moderacji, dla pewności zeskanowali całą bazę w poszukiwaniu podobnych uchybień. Dodali też, że biorą całą odpowiedzialność za to co się stało i przepraszają wszystkich, którzy zostali w ten sposób obrażeni.

Ekspresowe działanie każdej z firm — jak widać, nawet przy takich projektach się da

Jednym z elementów tej historii który (bardzo pozytywnie) mnie zadziwia, jest tempo w jakim podjęte zostały działania w przypadku każdej z trzech, niezależnych od siebie, usług. Po odpięciu integracji, Giphy w mgnieniu oka zrobiło u siebie porządek, zastosowało potrzebne zmiany i jeszcze przeprosiło. Mam cichą nadzieję, że takie akcje nie pozostają chlubnymi wyjątkami, a standardem w branży.

Swoją drogą — doskonale rozumiem, że sprawa z filtrowaniem treści które może zamieścić każdy jest trudna. Ale może ludzie chcący zaprzestania prac nad komunikatorem Messenger Kids mają racje? Przecież w tym, jak słyszeliśmy wielokrotnie, przemyślanym i w 100% bezpiecznym narzędziu też czeka na nas integracja z Giphy. O ironio.

Co dalej z gifami w popularnych usługach? Na tę chwilę  — nie wiadomo. Żadna ze stron nie zabrała jeszcze oficjalnego stanowiska w tej sprawie.

Źródło