Ktoś wykorzystał sztuczną inteligencję do oszukiwania dzieci na platformie do wideo rozmów. Robili wszystko, co rozkazał fałszywy streamer.
Podszyli się pod streamera. Kazali widzom robić okropne rzeczy
Streamerzy z niewyróżniających się zajawkowiczków, grających na audycjach live w gierki, urośli w niektórych przypadkach do rangi bajecznie bogatych półbogów, którzy dla contentu są w stanie posuwać się do najbardziej absurdalnych czynów. Dla platform takich jak Kick liczą się wyświetlenia, bo to one generują przychód z reklam, a te zaś pozwalają streamerom osiągać niewyobrażalne zarobki – mowa o pieniądzach tak dużych, że twórcy mogą lekką ręką oddawać widzom dziesiątki tysięcy dolarów za wykonywanie różnych zadań.
W Polsce to zjawisko wciąż jeszcze raczkuje, choć zdarzają się głośne przypadki rozdawnictwa – tu za przykład niech posłuży Budda – ale za oceanem aktywne śledzenie wpływowych twórców to dobry biznes. Rozdają auta, elektronikę i góry pieniędzy – w świecie, w którym wszystko jest możliwe, nietrudno więc uwierzyć w fejki i manipulacje, mogące prowadzić do fatalnych konsekwencji.
Fałszywy Adin Ross namawia do niszczenia sprzętu
Jeśli nie żyjecie pod kamieniem, to zapewne kojarzycie Adina Rossa, a jeśli nie jego, to chociaż Andrew Tate’a, który odpowiada w pewnym stopniu za rozpoznawalność amerykańskiego streamera. Obaj panowie słyną z lekkiego podejścia do życia i zamiłowania do pieniędzy, co najwyraźniej imponuje ogromnej liczbie młodych osób – Rossa na Instagramie obserwuje prawie 7,5 miliona fanów.
Głośno o Adinie zrobiło się nie tylko przez jego kontrowersyjne poglądy i szalony sposób bycia, ale też przez loterie, w których rozdawał drogie samochody i pliki banknotów. Takie obrazki przyciągają młodych i naiwnych internautów, bezkrytycznie wpatrzonych w swojego idola. To właśnie tę naiwność postanowił wykorzystać TikToker ukrywający się pod nickiem JohnJam11703. Wykorzystał AI do spreparowania filmików z udziałem Adina Rossa, na których fałszywy streamer zachęcał widzów do niszczenia sprzętu w niebezpieczny sposób.
Rozwal konsolę, to dostaniesz nagrodę
Dużo mówi się o technologii deepfake i fotorealistycznych zdjęciach, generowanych przez sztuczną inteligencję, ale ten przypadek pokazuje, że materiał może zostać sfałszowany na kolanie, a i tak znajdzie się ktoś, kto w fejka uwierzy. JohnJam11703 użył archiwalnych nagrań ze streamów Adina Rossa i przy pomocy AI zmodyfikował je w taki sposób, by wideo pasowało do podstawionego głosu. Następnie połączył się z aplikacją do losowych rozmów wideo o nazwie Monkey i podszywał się po streamera.
Pomimo tego, że materiał został wykonany bardzo nieudolnie, i tak udało się znaleźć ofiary, które nie wykazały się choćby odrobiną zdrowego rozsądku. JohnJam11703 – wiedząc, że Ross rozdaje drogie fanty – namawiał (często nieletnich) użytkowników platformy do niszczenia znajdującej się w mieszkaniu elektroniki. Jednemu z chłopców kazał wyrzucić PS4 przez okno w zamian za PS5, a innego namówił do rozbicia telewizora za 500 dolarów. Niektórzy wplątywali w to nawet swoich rodziców, ale i im zabrakło umiejętności trzeźwego myślenia – fałszywy Aiden Ross zlecił dziecku wybicie dziury w ścianie, na co mama wyraziła zgodę. Kobieta uwierzyła, że za wykonanie zadania otrzymają… Dodge'a Challenger SRT Hellcat i 20 tys. dolarów.
Oczywiście żaden z oszukanych nagrody nigdy nie uświadczy, ale nie to jest w tym wszystkim najgorsze. Najbardziej dołuje mnie to, że mogłoby obyć się bez ingerencji sztucznej inteligencji, a i tak dzieciaki bez zastanowienia dopuściłby się najgorszych rzeczy, jeśli takie byłoby życzenie ulubionego twórcy. Platformy takie jak Kick czy Twitch wysuwają na piedestał szkodliwych twórców, a ogromne pieniądze, zarabiane na patologicznym contencie, tylko pogarszają sytuację, umacniając pozycję ludzi, którzy tak wysoko nigdy znaleźć się nie powinni.
Stock image from Depositphotos
Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu