Spójrzcie na ten deepfake – niebawem ciężko będzie zaufać rodzinie

Sztuczna inteligencja przez ostatnie kilka miesięcy przeżywa prawdziwy rozkwit komercyjny, a głównym powodem emocji są generatory tekstu, które mimo krótkiej kariery zdążyły przejść drogę od objawienia do zagrożenia. Boją się artyści, boją nauczyciele i boją specjaliści od cyberbezpieczeństwa, bo przecież Chat GPT czy inny Bard mogą ułatwić sianie propagandy, czy generowanie phishingowych maili. Jednak skupiając całą uwagę na tekście zapominamy, że to obraz jest głównym narzędziem manipulacji tłumem. Zwłaszcza jeśli jest tak realistyczny jak technologia deepfake, która już na obecnym etapie może doprowadzić do tragedii.

Zmiana głosu na życzenie

Wystarczy godzina na Twitterze by zrozumieć, że choć dostęp do różnych źródeł informacji mamy powszechnych, to nie idzie to w parze z umiejętnością rozróżniania faktów od fejków. W zasadzie prawda jest taka, że internauci – zwłaszcza ci z syndromem oblężonej twierdzy – nawet się szczególnie nie starają, łykając wszystko, co trolle i fani teorii spiskowych im podrzucą.

I tak obserwując to wszystko z przerażeniem patrzysz w przyszłość, bo wiesz, że kreowanie opinii publicznej będzie niebawem prostsze niż zabranie dziecku lizaka. Bo skoro przeciętny użytkownik Internetu tak łatwo nabiera się na niskiej jakości przeróbki z Photoshopa, to widząc taki deepfake nawet przez sekundę nie pomyśli, że wszystko to, co widzi, jest doskonale spreparowanym kłamstwem.

Oto próbka możliwości technologii klonowania dźwięku od Eleven Labs. Na powyższym wideo widzimy wystąpienie Leonardo Di Caprio, przemawiającego głosem Billa Gates’a, Steve’a Jobsa, czy Kim Kardashian. Wszystko to przy idealnej synchronizacji ruchu warg i mimiki. Wyobraźcie sobie, że ktoś fabrykuje podobne wideo z Zełeńskim, Bidenem lub Tuskiem, wkładając dowolnej osobie w usta wybraną propagandę. Jasne, w zachodnich mediach zawsze znajdzie się ktoś, komu zaświeci się czerwona lampka, ale co z mieszkańcami Chin czy Rosji, zamkniętych za żelazną kurtyną informacji. Deepfake w takim wydaniu może doprowadzić do zaostrzania konfliktów na tle rasowym, narodowościowym czy religijnym i małymi kroczkami prowadzić do destabilizacji społeczeństwa. A czy społeczeństwo traktuje sprawę poważnie? Oczywiście, że nie! Brytyjczycy zrobili nawet z tego serial.

Czytaj dalej poniżej

Czy sztuczna inteligencja jest inteligentna? Co z etyką i empatią? Grzegorz Marczak

Nawet pracownicy nie wierzą w AI od Google. CEO w ogniu krytyki Patryk Koncewicz

Telewizja chce oswajać nas z deepfake?

Czy wyobrażacie sobie serial paradokumentalny z Gretą Thunberg, Rihanną i Tomem Hollandem? Nie, bo żadna z tych osób nie wzięłaby udziału w takim projekcie. Dlatego też scenarzyści „Deep Fake Neighbour Wars” musieli posiłkować się sztuczną inteligencją, tworząc produkcję, która wspięła się na wyżyny absurdu.

Brytyjska stacja ITVX stworzyła serial o celebrytach, choć ci ani na moment nie pojawili się na planie. Trzeba jednak przyznać, że na pierwszy rzut oka ciężko się zorientować bez znajomości kontekstu. Sztuczna inteligencja poradziła sobie bowiem całkiem nieźle z nakładaniem wizerunków gwiazd na twarze aktorów, a w połączeniu z odpowiednim montażem efekt jest jeszcze lepszy. Jasne, widać czasem pewne niedoskonałości w mimice, ale osoba, która nie zdaje sobie sprawy z istnienia technologii deepfake, kupi tę wersję bez zastanowienia.

Ktoś zapyta pewnie, dlaczego serial w ogóle ma prawo być na wizji, skoro właściciele wizerunków nie wyrazili na to zgody? Twórcy serialu uważają, że nie musieli, bo kwestia deepfake nie została jeszcze uregulowana prawnie. W produkcji pojawia się też informacja, że postacie nie są prawdziwe, czym scenarzyści chcą odciąć się od oskarżeń. Sęk w tym, że wyrwane z kontekstu i puszczone do sieci zacznie żyć własnym życiem, dając internautom wystarczająco dużo czasu, by dorobić sobie do wideo własną prawdę.

Jeśli więc miałbym wyznaczać dział AI, którego należy obecnie się obawiać, to nie byłyby to generatory tekstu, zabierające w najgorszym wypadku prace dziennikarzom, a właśnie technologia deepfake, bo obecnie zupełnie legalnym jest zabranie twojej twarzy i podstawienie pod niej dowolnego głosu. Wtedy zaś można już z łatwością zadeklarować twoimi ustami, że będziesz jadł mąkę z owadów i przerzucisz się na – o zgrozo – auto elektryczne.

Stock image from Depositphotos