16

To już koniec fake porno z twarzami celebrytek. Zabijają je…serwisy pornograficzne

Szczerze mówiąc, myślałem że tak zwane fake porno, czyli filmy z naniesionymi przez AI twarzami znanych osób będą hitem sieci. Tymczasem właśnie patrzymy jak całe przedsięwzięcie zabijane jest w zarodku. I ku mojemu zaskoczeniu katem są tu również serwisy serwujące treści pornograficzne.

Nie tolerujemy jakichkolwiek niezgodnych z prawdą treści na naszej stronie i usuwamy każdy tego typu materiał jak tylko go dostrzeżemy. Niezgodne z prawdą treści naruszają warunki użytkowania naszego serwisu – mowa między innymi porno typu deepfake oraz materiałach opublikowanych bez zgody osoby, której dotyczą.

– powiedział przedstawiciel PornHub, jednego z największych serwisów pornograficznych w Internecie.

Podobną politykę przyjął Twitter, który zawiesza wszystkie konta, na których zapostowano materiały związane z deepfake porno oraz konta, które dystrybuują taką zawartość. Bany posypały się również na platformie komunikacyjnej Discord i serwisie z GIFami – Gifycat. Podejrzewam, że skala zjawiska jest ogromna i nie wszystko da się wyłapać, natomiast o ile jeszcze jestem w stanie zrozumieć Twittera i Gifycata, PornHub trochę mnie zaskoczył. Wydawało mi się raczej, że tego typu materiały wygenerują na portalach pornograficznych ogromny ruch i strony będą stawać na głowie by jak najdłużej mydlić wszystkim oczy, faktycznie nic z tym nie robiąc. Najwyraźniej bardzo szybko pojawiły się sądowe groźby i perspektywa ogromnych kar finansowych, pewnie od przedstawicieli gwiazd, których twarze zostały przez AI dodane do filmów pornograficznych.

Co ciekawe z tematem nie walczy Reddit, na którym cała sprawa miała swój początek. Na chwilę obecną wątek r/deepfakes subskrybuje około 90 tysięcy osób. W myśl przyjętych tam zasad, nie wolno umieszczać na filmach jedynie twarzy osób nieletnich i osób, które nie są celebrytami. A jak możecie się domyślić, ludzie są dość kreatywni w tym temacie.

Postowanie pornografii typu deepfake z dziećmi jako modelami oznacza stałego bana bez ostrzeżenie, a twój post zostanie natychmiastowo przekazany do administracji serwisu.

– czytamy zaraz po wejściu na wątek Deepfake na Reddicie.

Czym jest deepfake porno

Nie jestem specjalistą od celebrytów, ale kilka razy czytałem o tym, że Kim Kardashian wybiła się w tak zwanej celebryckiej branży niedługo po tym jak nagrała amatorski film pornograficzny ze swoim ówczesnym chłopakiem. Podobno jej własna matka pomogła w jego rozpowszechnieniu by zwrócić uwagę na swoją córkę. W tej chwili cała rodzina opływa w luksusach, ma mnóstwo pieniędzy i ich codziennością żyje cały świat zainteresowany amerykańskimi celebrytami. Tam jednak działania były w pełni świadome, a filmu nikt nie mógł nazwać podróbką. W grudniu na serwisie Reddit pojawił się wątek deepfake porno, w którym użytkownicy pokazali porno z Gal Gadoth, piękną aktorką znaną z roli Wonder Woman. Sęk w tym, że izraelska gwiazda nigdy w tego typu filmie nie wystąpiła. Jej twarz została tam naniesiona przez algorytm AI. Materiał nie był technicznie idealny, co jakiś czas pojawiały się błędy, twarz się gdzieś rozjeżdżała. Wyglądało to jednak na tyle realistycznie, że zapewne część osób w tę wizualną manipulację uwierzyło.

Problem nie zniknie?

Trudno nie nazwać deepfake porno problemem – i to problemem, który będzie rósł. Jeżeli tak realistycznie wyglądające wideo jest w stanie zrobić amator, korzystając z udostępnionego w sieci programu, bazując na znalezionych w internecie filmach pornograficznych i zdjęciach twarzy celebryty – to wyobraźcie sobie jak dobrze technicznie mogłyby to zrobić osoby realizujące taki film od początku. AI dokleja twarz do już istniejącego filmu, a co jeśli materiał zostanie nakręcony tak, by nawet ten sam algorytm poradził sobie lepiej, dając lepszy efekt? Co jeśli program zostanie dopracowany i wszelkie glitche czy błędy zostaną ograniczone do minimum? Wtedy sieć zaleje masa filmów z celebrytami, aktorami, a może i Waszą sąsiadką jeśli ktoś tak zdecyduje. Nie widzę za bardzo możliwości zatrzymania tego zjawiska i deklaracje PornHuba traktowałbym raczej jako dbanie o własny PR i robienie wszystkiego by uniknąć ewentualnych pozwów od prawników reprezentujących gwiazdy. Ale może się mylę i takie zorganizowane działania opierające się na usuwaniu materiałów oraz banowaniu kont będą faktycznie początkiem śmierci tego młodego przecież porno-trendu.

grafika: focuspocusltd/Depositphotos

źródło