Jak nie dać się oszukać deepfake'om? Wystarczy spojrzeć w oczy
Żyjemy w czasach, w których coraz trudniej odróżnić fikcję od rzeczywistości. Być może nigdzie zjawisko to nie jest bardziej niepokojące niż w świecie deepfake’ów i komputerowo wygenerowanych twarzy ludzi, którzy w rzeczywistości nie istnieją, ale wyglądają niezwykle podobnie do prawdziwych osób.
Zalogowani mogą więcej
Możesz zapisać ten artykuł na później. Znajdziesz go potem na swoim koncie użytkownika
Naukowcy opracowali technikę, która może pomóc wykryć, czy twarze, na które patrzymy, to rzeczywiście prawdziwi ludzie, a nie fantazmaty wyczarowane przez sztuczną inteligencję. Ich eksperyment został opisany w przeddruku dostępnym w archiwum arXiv.
Według nowego badania, prowadzonego przez informatyka Hui Guo z Uniwersytetu Stanowego w Nowym Jorku, sekret tkwi w oczach, a konkretnie w kształtach źrenic. Robiąc zbliżenia na sztuczne oczy twarzy stworzonych przez system uczenia maszynowego zwany generatywną siecią przeciwstawną (GAN), badacze zauważyli coś dziwnego w źrenicach.
W przeciwieństwie do prawdziwych źrenic wiele podróbek nie było w rzeczywistości okrągłych. "Źrenice mają prawie okrągły kształt u zdrowych dorosłych" – wyjaśnia zespół badaczy. "Porównując je z prawdziwymi twarzami, zauważamy, że widoczne niespójności można zaobserwować w regionach oczu twarzy wygenerowanych przez GAN" – dodaje.
Zdaniem naukowców to dziwne zjawisko jest spowodowane tym, że modele GAN nie rozumieją anatomii ludzkiego oka, szczególnie w odniesieniu do geometrycznych kształtów regularnych źrenic. Aby zbadać, jak powszechne jest to charakterystyczne zjawisko, naukowcy opracowali narzędzie do wykrywania, które automatycznie wyodrębnia kontury źrenic z oczu na zdjęciach, a następnie ocenia je, aby sprawdzić, czy mają eliptyczny kształt.
W eksperymencie przeprowadzonym na bazie danych 2000 obrazów (1000 prawdziwych twarzy i 1000 fałszywych), system niezawodnie rozróżniał obie grupy. "Odkryliśmy, że w wysokiej jakości twarzach generowanych przez StyleGAN powszechnie występują nieregularne kształty źrenic, które różnią się od prawdziwych ludzkich źrenic" – wyjaśniają naukowcy.
"Proponujemy nową metodę opartą na fizjologii, która może wykorzystać nieregularne kształty źrenic jako wskazówkę do wykrywania twarzy generowanych przez GAN, która jest prosta, a jednocześnie skuteczna" – dodają badacze.
Według zespołu taka technologia może pewnego dnia pomóc w przeciwdziałaniu złośliwemu wykorzystaniu realistycznie wyglądających deepfake’ów używanych do oszukiwania ludzi między innymi na platformach mediów społecznościowych.
