Deepfake z każdym rokiem staje się coraz większym problemem. Przede wszystkim dlatego, że algorytmy odpowiedzialne za tworzenie materiałów, gdzie zmieniona jest twarz bohaterów, stają się coraz sprytniejsze. Wyglądają coraz lepiej lepiej i znacznie trudniej jest dostrzec jakieś uchybienia, które wśród standardowych użytkowników wzbudziłyby jakiekolwiek podejrzenia.
Nie jest żadną tajemnicą, że wielu nigdy nie próbuje weryfikować informacji które czytają w mediach społecznościowych, fake newsy rozprzestrzeniają się z prędkością światła i coraz mniej ludzi decyduje się na weryfikację tego, co czytają. Z wideo jest zresztą podobnie. O tym że materiały deepfake są ogromnym problemem współczesnego internetu — mówi się nie od dziś. Na początku roku Pornhub wypowiedział wojnę pornografii z twarzami celebrytek, obiecując, że takie materiały znikną z ich biblioteki. Chwilę później okazało się jednak, że... nie bardzo sobie z tym tematem radzi (zobacz: Mimo obietnic administracji, tych filmów na Pornhubie jest pod dostatkiem). Trudno było jednak walczyć bez odpowiednich narzędzi — a nad takimi pracują tęgie głowy z całego świata. I główną bronią w walce z deepfake ma być... sztuczna inteligencja! Problem polega na tym, że to nieustanna zabawa w kotka i myszkę.
Jako że problem staje się coraz poważniejszy, nadszedł najwyższy czas by skutecznie się z nim rozprawić. I nie chodzi tutaj wyłącznie o pornografię, ale także wszystkie inne manipulacje które stały się... no, niejako już standardem. Tematowi bliżej zaczęła przyglądać się będąca częścią Pentagonu Defense Advanced Research Projects Agency (DARPA). Poszukiwani są specjaliści do opracowania inteligentnego systemu, który pomoże rozpracować wszystkie fałszywe materiały — póki co znany jest jako "MediFor" (od media forensics). Agencja doskonale zdaje sobie sprawę że takie materiały to treści które służą nie tylko podszywaniu się pod celebrytów, ale stały się też narzędziem propagandowym i... politycznego szantażu.
Diabeł często tkwi w szczegółach — co dobitnie uświadamia Truepic, startup specjalizujący się w wykrywaniu tego typu manipulacji. Ich prezes, Jeffrey McGregor, opowiedział pokrótce o tym, na czym skupiają się jego inżynierowie przy weryfikacji materiałów. Opadanie włosów, ruch uszu, odbicie światła w oczach... a jeden z inżynierów opracował nawet test, który poszukuje pulsu na czole. Walka to jednak nie jest łatwa, bo w ostatnich deepfake'ach nie brakuje nawet naturalnych mrugnięć, które kiedyś pozwalały stosunkowo szybko wykryć takie materiały.
Problem jest duży — i z każdym rokiem przybiera na sile. Pojawiają się coraz lepsze narzędzia do wykrywania deepfake'ów, ale jednocześnie sama podmiana twarzy działa coraz lepiej. Do tej gonitwy dołączają kolejne firmy i każda chce zaskakiwać i przegonić konkurencję. Zabawa się skończyła — bo całość zaszła za daleko. Pytanie tylko gdzie leży granica...?
Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu
