Detektory DeepFake są do niczego. Właśnie zostały oszukane
Oprogramowanie które miało służyć do wykrywania DeepFake zostało oszukane. Badacze udowodnili swoją tezę podczas konferencji WACV 2021, która odbyła się online od 5 do 9 stycznia 2021 roku.
Badacze wykazali, że detektory można z łatwością pokonać. Wystarczy w każdej klatce fałszywego wideo wprowadzić zmanipulowane dane wyjściowe (adversarial examples). Powodują one że modele uczenia maszynowego popełniają błąd. Są jak złudzenia optyczne dla sztucznej inteligencji. Teraz tym bardziej deepfake staje się jednym z największych cyfrowych zagrożeń.
Niezauważalne gołym okiem dane wystarczyły, aby detektor DeepFake błędnie ocenił fałszywość nagrania. Zespół udowodnił, że ich "oszustwo" działa nawet po skompresowaniu filmu. "Nasze badania pokazują, że ataki na detektory DeepFake mogą być prawdziwym zagrożeniem" - powiedział Shehzeen Hussain, doktor inżynierii komputerowej na Uniwersytecie San Diego.
Deepfake detectors can be defeated, computer scientists show for the first time
DeepFake koncentrują się głównie na modyfikacji twarzy obiektu, aby stworzyć przekonującą wersję materiału filmowego, z wydarzeń, które nigdy się nie odbyły. Z tego względu detektory fałszywych nagrań skupiają się głównie na twarzach ich bohaterów. Najpierw muszą ją odnaleźć, a następnie śledzą i przesyłają dane do sieci neuronowej. Ta z kolei ma określić, czy wideo nie jest fałszywe. Zazwyczaj piętą Achillesową DeepFake jest mruganie oczami.
W większości przypadków da się to rozpoznać gołym okiem, a więc detektory DeepFake równie na nich się skupiają. Wykorzystują modele uczenia maszynowego, analizując fałszywe nagrania i na podstawie zebranych danych są w stanie je rozpoznać. Ale jak widać wszystko na marne, ponieważ prosta sztuczka pomogła człowiekowi oszukać sztuczną inteligencję.
DeepFake – zagrożenie XXI wieku
Chociaż wiele osób potrafi rozpoznać fałszywe nagrania, to dalsze rozwijanie DeepFake może doprowadzić do momentu, gdy nie będziemy w stanie rozpoznać, co jest prawdą, a co fałszem. Niedawno przypominała o tym brytyjska telewizja Channel 4. Widzom kanału ukazał się DeepFake z królową Elżbietą II w roli głównej. Na początku rzeczywiście można było pomyśleć, że to prawdziwe nagranie. Gdyby tylko nie to, co dzieje się później.
