W takich sytuacjach zastanawiam się przede wszystkim nad tym, jak czuje się rodzina osoby, której dotyczy taka przeróbka. Wraz z wygenerowanym przez brutalnie dokładną sztuczną inteligencję obrazem, wracają przecież wspomnienia, pojawia się nieznośny niepokój. Konto @Histoire.sanglante wykorzystało technologię deepfake do "ożywienia" jednego ze znanych w przestrzeni wirtualnej zdjęć Iwony Wieczorek.
Media od 12 lat eksploatują temat zaginionej w Sopocie Iwony Wieczorek. Powiedziano w tej sprawie już mnóstwo i Antyweb - jak sądzę - nie jest miejscem, aby tworzyć skondensowane opisy czynności, rewelacji na temat jej zniknięcia oraz teorii. Istotne jest to, że teraz, gdy temat stał się raz jeszcze bardzo nośny medialnie (ze względu na prowadzone wcześniej poszukiwania oraz przesłuchania), znowu rozgorzała dyskusja na temat możliwych okoliczności zniknięcia kobiety.
Rodzina i znajomi muszą przeżywać raz jeszcze dramat, który na zawsze zmienił ich życia: jedna z najgłośniejszych zagadek kryminalnych wszechczasów to zdecydowanie coś, co przyciąga nie tylko detektywów amatorów, różnej maści "media" (mówię tutaj o osobach twierdzących, że mają zdolności parapsychiczne), ale i podcasterów zajmujących się sprawami kryminalnymi oraz... właściwie, to nie wiem sam kogo.
Nie wiem, ale znalazł sobie sposób na "zbudowanie" sobie konta na TikToku. Po francusku, nazwa kanału brzmi: "Krwawa historia" i dotyczy często zagadkowych opowieści kryminalnych. Na koncie nie ma zbyt wielu filmów: kilka z nich dotyczy Iwony Wieczorek. Widać, że od pewnego czasu @histoire.sanglante wrzuca materiały deepfake z ofiarami zbrodni, które "w pierwszej osobie" opowiadają o okolicznościach ich śmierci. Biorąc to, w jakim momencie rozwoju AI jesteśmy - materiały deepfake są opatrzone pewnymi cechami, które pozwalają stwierdzić, że mamy do czynienia z treścią wygenerowaną sztucznie. Ale i tak - wiedząc o tym, że Iwona Wieczorek zaginęła 12 lat temu, mając w pamięci jej zdjęcia - przecież pokazywane przez niemal wszystkie media w Polsce - człowiek czuje się po prostu nieswojo.
Na materiale od @histoire.sanglante (specjalnie nie umieszczamy go tutaj, aby nie nabijać wyświetleń twórcy) widzimy zdjęcie Iwony Wieczorek, które "przemawia" z pomocą syntezatora mowy (skądinąd, bardzo słabego). Ja sam, widząc ten materiał, czułem się naprawdę nieswojo. O sprawie rozpisały się duże polskie media i jestem pewien, że owe wideo widzieli też członkowie rodziny oraz znajomi Iwony Wieczorek... trudno mi wyobrazić sobie, co te osoby czuły w chwili oglądania tej treści. Ktoś postanowił zbudować sobie konto na deepfake'ach, ale nie pomyślał o tych osobach, które mogą je oglądać i w dalszym ciągu czuć bardzo mocne emocje.
Jak dla mnie więc - jest to bardzo słaba próba wybicia się na TikToku dzięki treściom, które nigdy w przestrzeni internetowej nie powinny się pojawiać. Brak refleksji nad tym, co potem stanie się z tymi materiałami, jak będą czuć się ich odbiorcy to dla mnie sygnały przemawiające za tym, aby tego twórcę skreślić - tak po prostu. A niestety - tego typu materiałów będzie tylko więcej: na Antywebie opisywaliśmy już sprawę scamu, który zakładał wykorzystanie próbki głosu nastolatki do upozorowania jej porwania dla okupu. Nie będę zdziwiony, jeżeli technologia deepfake zostanie użyta do stworzenia taśmy z żądaniem zapłacenia dużych pieniędzy za czyjeś życie.
Ci, którzy mówili wprost o tym, że deepfake'i będą ogromnym problemem w przestrzeni internetowej - mają rację i na to powstaje coraz więcej mocnych dowodów. Wraz z tym, jak generatywna AI będzie coraz doskonalsza, będą one jeszcze brutalniejsze i jeszcze poważniejsze. Przecież wiele osób nabrało się na obrazy z rzekomego aresztowania Trumpa. A najgorsze jest to, że nikt nie ma pomysłu na to, jak z tym walczyć...
Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu
