15

Myślicie, że fake newsy są niebezpieczne? To popatrzcie na „fake video”

Sztuczna inteligencja, machine learning to z pewnością świetne wynalazki ludzkości (choć niektórzy twierdzą, że dzięki nim kiedyś zakończymy trwanie naszej cywilizacji). Jedno jest pewne, te mechanizmy potrafią to, czego ludzie uczyliby się wiekami. To, co możliwe jest za ich pomocą w kontekście edycji wideo jest co najmniej przerażające. "Fałszywe wideo"? Tak, to już możliwe.

Nvidia opracowała sztuczną inteligencję, która m. in. jest w stanie tworzyć do złudzenia przypominające prawdziwe ludzkie twarze – tylko za pomocą wcześniej wprowadzonych danych wejściowych. Teraz, mechanizm jest w stanie zedytować filmy w taki sposób, że nawet nie zauważymy, że coś jest z nimi nie tak. Dajmy na to – chcemy, żeby zamiast światła dziennego na filmie zapanowała noc. Nic prostszego, sztuczna inteligencja Nvidii będzie w stanie to zrobić. Ale to nie wszystko – Wasz kot nie przypomina Wam w żadnym stopniu drapieżnika, leży całymi dniami na fotelu i jest właściwie potwarzą dla swojego gatunku? Możecie sobie zrobić z niego leoparda.

Ponownie pomogło wprowadzenie sporej ilości danych wejściowych. Na ich podstawie, sztuczna inteligencja Nvidii mogła rozpoznać, jakimi prawami rządzą się filmy / ujęcia zrobione w nocy, jak za pomocą kilku zmian z jednego obiektu stworzyć zupełnie inny. Mając taką bazę „wiedzy”, AI od Nvidii jest w stanie w prosty sposób zmienić okoliczności, w jakich odbywa się akcja przed obiektywem. Oczywiście, może to być niezwykle pomocne, na przykład w postprodukcji filmowej, gdzie chcemy osiągnąć określony efekt. Ja jednak obawiam się, że tego typu możliwości mogą zostać wykorzystywane w nieco mniej przyjemny dla nas sposób. Bo skoro mamy już fake newsy, nikt nie powiedział, że nie możemy mieć „fake video”, w których nieprawdziwe stany rzeczy są dziełem sztucznej inteligencji.

Możliwości sztucznej inteligencji zaczynają być coraz bardziej przerażające

Spójrzcie na powyższe przykłady. Czy jesteście w stanie stwierdzić na pierwszy rzut oka, że z tymi ujęciami jest coś nie tak? Sam szukałem jakichkolwiek przesłanek ku temu, by stwierdzić, grafiki po edycji są „fejkami” – nie udało mi się to. Wygląda na to, że prace Nvidii są już tak zaawansowane, że już niedługo będziemy mogli domniemywać, że oglądany przez nas materiał w internecie pierwotnie przedstawiał coś zupełnie innego. Nowy poziom manipulacji informacjami? Biorąc pod uwagę to, jak mocno rozwija się branża wideo w internecie, może być z tym ogromny problem.

Chociaż, tak jak wspomniałem, tego typy mechanizmy mogą ułatwić życie producentom filmowym, którzy będą w stanie niewielkim kosztem zmienić okoliczności tworzenia ujęć. Dzięki temu możliwe będzie konstruowanie jeszcze bardziej skomplikowanych filmów z do bólu prawdziwymi efektami specjalnymi.

  • Przybędzie przez to płaskoziemców :(

    • armv7taskforce

      No cóż… religie od wieków prały ludziom mózgi… nic w tej kwestii się nie zmienia…

    • Twice Nightly

      Śmieszny jesteś.

    • Szemot

      Takie ciekawe pytanie z gatunku psychologii. Zauważyłeś kiedyś kogokolwiek kto wyznawał jakieś konspiracyjne teorie dziejów, niezależnie czy chodzi o UFO, Smoleńsk, WTC, płaska ziemia itp żeby nie był prawicowcem ze społecznego (nie gospodarczego) punktu widzenia? ;-)

    • Jack Morgan

      Istotnie, ciekawe pytanie. Z tego co udalo mi sie napredce wyszukac wynika, ze umiejscowienie na politycznym spektrum faktycznie determinuje prawdopodobienstwo „kupienia” teorii spiskowej.
      Jednak nie do konca w sposob jaki to opisales – tj. ludzie po prawej stronie sa bardziej sklonni wyznawac teorie spiskowe.

      Okazuje sie, ze jest to bardziej powiazane ze stopniem zradykalizowania pogladow, niezaleznie od strony.

      Fragment wywiadu z Janem-Willemem van Prooijen, PhD wydzialu Psychologii Eksperymentalnej i Stosowanej na Uniwersytecie w Amsterdamie:

      – „What makes one person more susceptible to conspiracy theories than another?”
      – „There are a few factors that we have identified.
      One of them is education level. (…)
      There’s also effects of political ideology. In our research, we find the more radical a person’s politics [both left- and right-wing], the more likely they are to be conspiracy theorists.
      Another is collective narcissism (…)”

      Badanie, na podstawie ktorego wysnuto takie wnioski:
      http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.932.4588&rep=rep1&type=pdf

      A tu inne z podobnymi wnioskami:
      https://jspp.psychopen.eu/article/view/745/pdf

    • Szemot

      Tego akurat nie słyszałem. Chętnie poczytam w wolnej chwili wiec sobie to zapisałem. Ja generalnie retorycznie o to pytałem bo w sumie temat mi znajomy ;-) Od kilkudziesięciu lat testowane testem RWA przez Altemeyera.

  • Damian

    Trzeba być ślepym, żeby nie zauważyć manipulacji. Oczywiście, to może być ciekawy eksperyment, ale zachwalanie tego pod niebiosa to chyba lekka przesada. Niech zrobią jakiś film, nie poklatkowy, tylko 4k na którym w 60 fps pokażą, że to działa. Wtedy pogadamy.

    • Ciekawe czy kolega byłby taki „mędry” jakby obok nie dostał materiału do porównania a film emitowałoby BBC w prime time ;)

    • Damian

      Właśnie napisałem, że chciałbym zobaczyć i wtedy porównać. Na razie mam w podobnej rozdzielczości rendery które są w gazetkach reklamowych i w internecie dość popularne. Niestety w wielu przypadkach wciąż widać różnicę między renderem, a rzeczywistym obrazem. Z filmami jest podobnie. Oczywiście, technika się rozwija, ale sporo jej brakuje. Z resztą lata świetlne temu powstała wtyczka do Adobe AfterEffects która zamieniała dzień w noc i tak samo miała duże możliwości, ale dużo jej brakowało.

    • Łał jakiś ty bystry, wypatrzyłeś manipulację na materiale z początków jej technologii. Pogadamy za parę lat…

    • Damian

      Bardzo chętnie. Na razie widzę ewolucje renderów, które są wszędzie, od gazetek z lidla na katalogach z ikei skończywszy. Postęp widać, ale nie rewolucje. A robi się je już od lat. Tutaj może być podobnie i nie wiem, czy kilka lat wystarczy. Fajnie by było, wiem, ale życie pokazuje coś zupełnie innego.

  • ahhhhha

    Wystarcza mi fake video fapple o ich wysmienitych sprzetach

  • Matt

    Autorze czy serio obejrzeliśmy te same filmiki? Ten ze śniegiem to faktycznie mistrzostwo fake video, natomiast filmik nocny to przecież typowa inwersja kolorów i to bardzo źle zaadaptowana, trzeba nie mieć oczu, by stwierdzić, tak to jest nocne video…

  • Matt

    Aaa i gdzie te realistyczne twarze, bo ich w artykule nie widzę?

  • doogopis

    Ja to bym wam pokazał fake! Ale jeszcze bedzie czas! Hje hje hje!
    „Egyptian police arrest five people for using children to stage fake ‚Aleppo’ footage
    Amateurish photos and video taken at demolition site show little girl with red stains on a white dress and bandages being interviewed about life in the war-torn Syrian city
    Five people in Port Said allegedly making fake videos purporting to show the wreckage of air strikes in the Syrian city of Aleppo have been arrested, the Egyptian Interior Ministry has said.
    The videographer, his assistants and the parents of two children who appear in the footage were detained after police managed to trail the would-be camera crew to a building site awaiting demolition, a statement on Monday said.
    A camera and six mobile phones were seized at the scene. The photographer is still being held while authorities go through the material, officials said, but the other four suspects were released on bail. ”
    Potem se oglądacie gorące materiały w telewizorni! https://uploads.disquscdn.com/images/c891febbd8421aef7bb2b487c180da3a8381aa7c035b381ead8fdf8bf3528550.png