1

Materiały „deepfake” zbanowane przez Facebooka. Rychło w czas

Facebook dopiero teraz podejmuje zdecydowane (jego zdaniem) kroki ku zlikwidowaniu w jego platformie społecznościowej materiałów z kręgu "deepfake". Pod tę kategorię zostaną podpięte wszystkie treści wizualne (filmy i obrazy), które zostały zmanipulowane w taki sposób, aby udawać te prawdziwe. Słusznie, bo jestem pewien, że tego typu treści będą odgrywać główną rolę w technikach dezinformacji społeczeństw. A, przy okazji - w 2020 odbywają się wybory prezydenckie w USA.

Czytaj więcej: Przez TikToka czeka nas zalew deepfake’ów

Właśnie wybory prezydenckie w USA, które zbliżają się wielkimi krokami są doskonałą okazją ku temu, aby przyjrzeć się, jak wygląda „rynek dezinformacji” w internecie. Po fake newsach, które świetnie się rozprzestrzeniają przyszedł czas na materiały „deepfake”, które są niezwykle niebezpieczne m. in. dlatego, że materiały wizualne mocno oddziałują na konsumentów. Jak pokazały turbulencje związane z „fejkami”, konsumenci treści nie mają kompetencji ku temu, aby rozpoznawać fałszywe przekazy. Stąd też szczególna troska związana z „deepfake”. Facebook chce z nimi walczyć banując je całkowicie. Nie zlikwiduje to jednak problemu w całości.

Facebook, aby skonkretyzować o jakie treści mu chodzi zbudował kryteria, w którym umieszczono całkiem ciekawe definicje:

It has been edited or synthesized – beyond adjustments for clarity or quality – in ways that aren’t apparent to an average person and would likely mislead someone into thinking that a subject of the video said words that they did not actually say.

It is the product of artificial intelligence or machine learning that merges, replaces or superimposes content onto a video, making it appear to be authentic.

Facebook

Nie chodzi tu więc jedynie o „podmianę głowy”, ale również o wplatanie zdań lub słów, których konkretna osoba nie powiedziała. Warto tutaj odnieść się do takiego działania dezinformatora, które ma za zadanie jawnie wprowadzać konsumenta w błąd (making it appear to be authentic), w czym technologia „deepfake” świetnie się odnajduje. Facebook zapowiada, że wszelkie materiały, które będą spełniać te kryteria zostaną usunięte. Jednocześnie Facebook zaznacza, że owe zasady nie zostaną rozszerzone na materiały, które będą parodią albo satyrą. Nie trzeba się więc obawiać, że Facebook nagle zakaże memów, czy też filmów tworzonych przez „społeczności produkujące memy”.

Całego problemu deepfake to nie rozwiąże

Po pierwsze, Facebook będzie musiał odsiewać dziennie niesamowite ilości materiałów, co nie jest osiągalne nawet przy okazji istnienia jego „gwardii moderatorów”. No, po prostu nie da się. Po drugie, w niektórych miejscach Facebooka (na przykład zamknięte grupy) moderacja istnieje tylko w teorii – jedynie w momencie, gdy ktoś zdecyduje się zgłosić dany post. Po trzecie – poza Facebookiem jest mnóstwo innych miejsc. Wystarczy mieć medium, w którym będą pojawiać się deepfake’i i do nich linkować na Facebooku. Akurat na to, co znajduje się na niektórych stronach internetowych Facebook ma relatywnie niewielki wpływ. Decyzja giganta ma charakter umycia rąk od odpowiedzialności za treści, która mogłaby być podnoszona w przyszłości, gdy zdarzą się grube afery z udziałem materiałów „deepfake”.