Google wie jak niebezpieczne są deepfake. Pozbywa się technologii z Colaboratory

Deepfake to ten rodzaj technologii, która z początku wydawała się fantastycznym rozwiązaniem i próbką możliwości uczenia maszynowego. Z czasem jednak zaczęło się to wymykać spod kontroli. Polega na całkiem realistycznej podmianie twarzy w klipach wideo, a niewprawione oko może nawet nie zauważyć różnicy. Było śmiesznie gdy po sieci krążyły przerobione filmiki polityków śpiewających do popowych kawałków, ale gdy deepfake zaczął być wykorzystywany do manipulacji i siania dezinformujących treści, zrobiło się poważnie. Spreparowane materiały pojawiły się podczas kampanii politycznej w Indiach, nie zabrakło także licznych przeróbek z Donaldem Trumpem. W rękach nieodpowiednich osób takie materiały mogą doprowadzić do tragedii. Czy właśnie to stoi za cichą decyzją Google?

Deepfake zbanowane w Colab. Google przestrzega użytkowników

Google Colaboratory to usługa działająca w chmurze, która pozwala na pisanie i wykonywanie kodu w języku Python bezpośrednio w przeglądarce. Dzięki niej można bezpłatnie korzystać z zasobów obliczeniowych, w tym procesorów graficznych. Dzięki temu narzędzie jest często wykorzystywane do analizy danych i uczenia maszynowego. Jeszcze do niedawna szkolenie sztucznej inteligencji na podstawie deepfake było popularnym zjawiskiem w Colab. Okazuje się jednak, że Google po cichu usunęło tę technologię.

Według informacji pochodzących z archive.org wynika, z Google zablokowało możliwość uczenia maszynowego w oparciu o deepfake mniej więcej w połowie tego miesiąca bez podawania żadnych wyjaśnień. Zmieniono także warunki korzystania z usługi, dodając tworzenie deepfake’ów do listy czynności zabronionych.

Ostatnia wersja FAQ bez wzmianki o zakazie projektowania deepfake’ów pochodzi z 14 maja. Pierwsza zarchiwizowana wersja witryny, które wspomina o zmianach, pochodzi z 24 maja.

Programista popularnego oprogramowania DeepFaceLab – służącego do projektowania spreparowanych wizerunków – donosi o ostrzeżeniu, które pojawia się w Google Colab przy próbie trenowania deepfake’ów:

„Możesz wykonywać niedozwolony kod, co może ograniczyć Twoją możliwość korzystania z Colab w przyszłości. Zwróć uwagę na zabronione działania sprecyzowane w naszym FAQ.” – „chervonij”

Google Colab był narzędziem wykorzystywanym przez programistów do wstępnej pracy nad projektami deepfake dzięki prostej i intuicyjnej obsłudze. Dlaczego więc nagle tego zakazano? Może chodzić o nadużycia.

Narzędzie propagandy

Colab powstał z myślą o studentach i badaczach, którzy chcą rozwijać technologię, ale nie mają wystarczającej ilości środków na wydajny sprzęt. Z uwagi na to, dostęp do usługi jest darmowy. Pojawiają się jednak doniesienia, że cześć użytkowników postanowiła wykorzystać ją na większą skalę, do celów odbiegających od zwykłych badań naukowych.

Czytaj dalej poniżej

Nowe narzędzie Google stworzy taką grafikę taką, jaką mu opiszesz Kamil Świtalski

Google potrafi, Apple się nie przejmuje. Kalkulator na tablety może wyglądać dobrze Piotr Kurek

Google zapewne doskonale zdaje sobie sprawę z tego, że powszechne zastosowanie technologii deepfake mogłoby wywołać spore problemu o zasięgu międzynarodowym. Przykładów nie trzeba szukać daleko. W marcu do sieci trafiło wideo przedstawiające prezydenta Ukrainy, Wołodymyra Zełenskiego, nawołującego obrońców do złożenia broni. Oczywiście w dobie powszechnego dostępu do różnych źródeł informacji takie manipulacje można szybko zweryfikować, jednak wyobraźcie sobie taki scenariusz w odciętej od zachodu, propagandowej wersji rosyjskiego Internetu. Kłamstwo wielokrotnie powtarzane staje się prawdą. W momencie gdy kłamstwo można włożyć w usta dowolnej postaci ze światowej polityki, robi się naprawdę niepokojąco.

Stock image from Depositphotos