Wyobraź sobie, że wyjeżdżasz sobie na wakacje marzeń. Internetu: brak. Kontaktu nie będzie. Spełniasz swoje odrobinę szalone marzenie. Jesteś w samym środku jakiejś głuszy, a w Twojej rodzinie rozgrywa się dramat. Dzwonią porywacze, twierdzą, że Cię mają, przedstawiają dowody (w postaci Twojego głosu). Rodzina zapłaciła okup, a Ty... wracasz z wakacji do domu.
Powiecie, że to nieprawdopodobne, tak? No, to patrzcie teraz. Sztuczna inteligencja to bardzo fajny wynalazek: tekst napisze, skomplikowane sprawy wyjaśni, wygeneruje działający kod, a nawet klucze do Windowsa, ha. Wiele mówiło się również o tym, że dzięki AI, przywrócimy do życia nieżyjących od lat aktorów (w formie wideo i audio). A co, jeżeli ktoś sklonuje Twój głos i użyje go do bardzo zręcznego scamu?
Polecamy na Geekweek: Robo-pies będzie walczył z przestępcami w Nowym Jorku
Tak stało się w przypadku Brie DeStefano z Arizony. Do matki 15-latki zadzwonili "porywacze", którzy od razu zaznaczyli, że stoją za uprowadzeniem dziewczyny i... przy okazji odtworzyli jej głos, który przemówił do matki:
Mamo, nabroiłam!
Po tym, matka Brie DeStefano usłyszała w słuchawce już tylko szloch. A co z dziewczyną? Ta akurat była na wycieczce narciarskiej. "Porywacze" zażądali 1 mln dolarów, a gdy usłyszeli, że rodzina DeStefano nie ma tylu pieniędzy - postanowili obniżyć cenę za "uwolnienie" dziewczyny do nieco zastanawiających 50 000 dolarów.
W tym czasie, ojciec dziewczyny skontaktował się ze służbami oraz z rodzicem innego uczestnika tej samej wycieczki: udało się w porę potwierdzić, że Brie jest bezpieczna i cóż... scam upadł. Rodzice wspólnie przyznają, że to, co usłyszeli w słuchawce nie tyle przypominało córkę, lecz... nią było. Nawet sposób płaczu, wypowiadanie konkretnych wyrazów - wszystko to pasowało. Stąd też ogromny popłoch w trakcie całego zdarzenia.
I okazuje się, że trzeba być naprawdę ostrożnym w kontekście tego, co się robi. W moim przypadku sklonowanie głosu jest baaaaardzo proste: nie dość, że udzielałem wywiadów głosowych, mam na koncie kilka "setek" w mediach, to w dodatku organizuję co jakiś czas pokoje głosowe na Twitterze, gdzie mojego głosu jest MNÓSTWO. Scammerzy mieliby ułatwione zadanie.
W przypadku Brie DeStefano było trochę inaczej: udzielała krótkich komentarzy dla mediów z powodu reprezentowania swojej szkoły w zawodach sportowych. Co bardziej przerażające: AI potrafiła odtworzyć sposób mówienia Brie - akcent, czy nawet specyficzne "zjadanie" niektórych końcówek.
Co mnie bardzo martwi: wszyscy w tej sytuacji zaczynają obwiniać sztuczną inteligencję o to, że to ona jest tutaj problemem. Nie, nie jest. Problemem są ludzie, którzy korzystają z niej w nieprawidłowy sposób. W ostatnim czasie sporo się zmieniło i AI stała się niesamowicie potężna - ale to też nie powód ku temu, aby za całe zło tego świat obwiniać właśnie maszynę. Choć trzeba przyznać, że znacząco ułatwiła wykonanie takiego scamu...
Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu
