Poprzedni rok zgodnie z przewidywaniami obserwatorów świata nowych technologii należał m. in. do "DeepFake'ów", czyli materiałów wideo, w których udało się w wiarygodny sposób wkleić twarz innej osoby. Tego typu materiały mogą służyć do robienia mniej lub bardziej śmiesznych żartów, a nawet do konstruowania pornografii, w której bierze udział dowolna osoba. Wystarczy mieć jedynie jej twarz - resztą zajmie się odpowiedni algorytm.
Stojąca za TikTokiem firma ByteDance mogła stworzyć funkcję, która jest w stanie konstruować deepfake'i - tak twierdzi serwis TechCrunch. Mechanizm Face Swap został dostrzeżony w kodzie TikToka oraz chińskiego Douyin. Ten prosi użytkownika o zeskanowanie swojej twarzy, a następnie przenosi ją do zdjęć oraz materiałów wideo - tak, jak w typowych deepfake'ach. O ile tego typu funkcja może być atrakcyjna dla użytkowników TikToka i ma szansę stać się hitem, tak obawiam się, że jej obecność może być problematyczna. Przekazujemy szerszemu gronu użytkowników możliwość szybkiego tworzenia deepfake'ów nie tylko ze swoim udziałem, ale i z udziałem innych użytkowników.
Czytaj więcej: Deepfake - czyli zabawa w kotka i myszkę
Jestem pewien, że dzieciaki korzystające z TikToka wreszcie wpadną na to, aby wykorzystać zdjęcie nielubianego znajomego do umieszczenia go w kompromitującym filmie. Jak pokazują przykłady również z Polski, internet stał się miejscem, w którym grupy rówieśnicze chętnie mieszają z błotem inne dzieci, czasami w bardzo brutalny sposób. Nierzadko w takich sytuacjach mówi się, że ofiara albo próbowała targnąć się na swoje życie, albo o tym myślała. Prawie zawsze natomiast potrzebna jest opieka psychologa, który długo pracuje nad tym, aby ofiara nękania nie odczuwała związanej z sytuacją traumy.
Takie technologie jak deepfake nie powinny być udostępniane szerzej - właśnie z uwagi na takie zagrożenia. TikTok, jako jedna z popularniejszych aplikacji wśród młodych ludzi i platforma społecznościowa powinien o tym wiedzieć i nawet nie myśleć o wprowadzeniu możliwości zamiany twarzy do swojego programu. Możliwe, że takiej intencji nie ma, jednak sam fakt znalezienia w kodzie funkcji Face Swap jest już zastanawiające.
Żeby móc wprowadzić taką funkcję do swojej aplikacji, trzeba dane przetworzyć. A dane biometryczne są niesamowicie ważne i newralgiczne. TikTok wielokrotnie był krytykowany za niejasną politykę dotyczącą przetwarzania danych, incydent z Face Swap najpewniej po raz kolejny podniesie podobne zarzuty. Można twierdzić, że przecież nic strasznego się nie stało, a TikTok ostatecznie nie wprowadził kontrowersyjnej funkcji. Jednak co by było, gdyby jednak do tego doszło? Obok niebezpieczeństw wykazanych powyżej, mielibyśmy do czynienia z kolejnym podmiotem, który zbiera dane biometryczne. Biorąc pod uwagę to, kto jest operatorem TikToka i jego właścicielem, wolałbym, aby taka funkcja nigdy się tam nie pojawiła.
Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu
