Wykrycie materiałów wygenerowanych przez zaawansowane algorytmy AI staje się coraz trudniejsze. Materiały stają się coraz doskonalsze, a metod do ich weryfikacji nie przybywa. Ale właśnie naukowcy pochwalili się nowym sposobem, który charakteryzuje duża skuteczność!
Żyjemy w dobie wszędobylskiej dezinformacji. Jej wprowadzanie do obiegu i podsycanie jeszcze nigdy nie było łatwiejsze. A gdy ktoś nie chce uwierzyć "na słowo", warto je poprzeć obrazem czy nawet materiałem wideo. Stety lub nie - ich wygenerowanie także nie zajmuje długo i jest dostępne na wyciągnięcie reki, dla każdego. Już nie potrzeba żadnej tajemnej wiedzy, wystarczą odpowiednie narzędzia. Jest to duży problem, wokół którego dyskusje nie ustają. Podbieranie wizerunku gwiazd do reklamowania usługi i produktów nad którymi nigdy by się nie pochyliły stało się standardem. Podobnie jak próby wprowadzania politycznego zamieszania.
Polecamy na Geekweek: Globalna awaria systemów zakończona. Co właściwie się stało?
Wraz z tym, jak takie materiały stają się coraz lepsze jakościowo — ich rozpoznanie stanowi ogromne wyzwanie. Naukowcy z amerykańskiego Uniwersytetu w Hull pochwalili się nową metodą rozpoznawania deepfake'ów. Co ważne: tym razem ma być ona naprawdę skuteczną.
O swoim odkryciu przedstawiciele uniwersytetu poinformowali na Narodowym Spotkaniu Astronomicznym Royal Astronomical Society w Hull. Wynika z nich, że wszystkie sztucznie wygenerowane obrazy generowane z pomocą sztucznej inteligencji obrazy można wykryć dzięki bliższemu przyjrzeniu się... ludzkim oczom. Co ciekawe, naukowcy zauważają, że to sposób analogiczny do tego, w jaki astronomowie studiują zdjęcia galaktyk. Kluczowym elementem na którym trzeba się w tym przypadku skupić są odbicia widoczne w oczach postaci, co do "prawdziwości" zdjęcia której mamy wątpliwości. Jeśli te mają sens — obraz prawdopodobnie przedstawia prawdziwą osobę. Jeśli nie, istnieje duże prawdopodobieństwo, że to deepfake.
Badania naukowców pokazały, że ta technika działa. Analizowali oni odbicia światła w oczach zarówno modeli na prawdziwych fotografiach, jak i grafikach wygenerowanych przez AI. Później zaś skorzystali z metod, które wykorzystuje się w astronomii. W ten sposób mogli oni określić odbicia ilościowo — a przy okazji też sprawdzić zgodność między lewym a prawym okiem. Fałszywe obrazy często wykazują brak jednolitości w tym temacie. Tymczasem na fotografiach zazwyczaj odbicia obu oczu pokazują to samo.
Aby zmierzyć kształty galaktyk, analizujemy, czy są one centralnie zwarte, czy są symetryczne i jak gładkie są. Analizujemy rozkład światła. Wykrywamy odbicia w sposób zautomatyzowany i sprawdzamy ich cechy morfologiczne za pomocą CAS [Concentration, Asymmetry, Smoothness: koncentracja, asymetria, gładkość] i indeksów Giniego, aby porównać podobieństwo między lewą i prawą gałką oczną. Wyniki pokazują, że deepfake'i mają pewne różnice między parą - powiedział Professor Pimbblet.
Prawdopodobnie opracowana przez naukowców metoda nie będzie jeszcze w 100% skuteczną. Niestety. Ale potrzebujemy jakichkolwiek narzędzi które pozwolą nam choć trochę nad tym zapanować — i choćby nie były idealne, to będą działać. Regularnie słyszymy o nowym oprogramowaniu które w coraz skuteczniejszy sposób oferuje nam możliwość tworzenia takich mediów. Niewiele jednak mówi się o drugiej stronie medalu, czyli narzędziach które pozwoliłyby je weryfikować. A w dobie w której stare pokolenie wciąż próbuje zrozumieć jak działa internet i jest bardzo podatne na takie manipulacje oraz (co przerażające) młode które nieustannie nabiera się na wszelkiej maści scamy powinny być one domyślnie instalowane na wszystkich urządzeniach. A wiodące platformy powinny mieć dla podejrzanych materiałów naklejki na wzór "made with AI", które ostatnio pojawiły się na Instagramie.
Hej, jesteśmy na Google News - Obserwuj to, co ważne w techu
