Deepfake to plaga, ale można z tym walczyć. Powstaje specjalny program

Naukowcy z ośrodka badawczo-rozwojowego IDEAS NCBR stworzyli prototyp programu pozwalający rozpoznać deepfake. Umożliwia on weryfikację, czy osoba widoczna online jest prawdziwa.

Deepfake umożliwia stworzenie realistycznych materiałów multimedialnych, takich jak nagrania wideo czy audio. Wykorzystuje się go w sektorze rozrywkowym oraz edukacji, jednak deepfake z powodzeniem wykorzystywany jest przez oszustów. Jest to prawdziwa plaga, więc internauci muszą zachować czujność. Na szczęście istnieją wskazówki, jak rozpoznać deepfake. Kolejnym krokiem w walce z oszustwami jest stworzenie specjalnego programu.

"Deepfejki stają się coraz bardziej zaawansowane, a ich wykrycie coraz trudniejsze, co stawia przed nami nowe wyzwania w zakresie bezpieczeństwa cyfrowego" – uważają badacze z IDEAS NCBR, ośrodka badawczo-rozwojowego w obszarze sztucznej inteligencji.

Naukowcy z instytucji, Shahriar Ebrahimi i Parisa Hassanizadeh, pochodzący z Iranu, stworzyli eksperymentalny projekt o nazwie ProvenView. Pracują oni w grupie badawczej "Bezpieczeństwo systemów i prywatność danych", którą prowadzi prof. dr hab. Stefan Dziembowski. Projekt wykorzystuje technikę kryptograficzną zwaną Zero-Knowledge Proof (ZKP), która umożliwia potwierdzenie autentyczności informacji bez konieczności ujawniania jej szczegółów.

Dalsza część artykułu pod materiałem wideo

Twórcy ProvenView podkreślają, że narzędzie może znaleźć zastosowanie w interakcjach online oraz ochronie treści. Na przykład po zakończeniu spotkania online użytkownik będzie mógł sprawdzić, czy wideo jego rozmówcy rzeczywiście pochodziło z jego kamery internetowej.

"To rozwiązanie może się przydać zarówno użytkownikom indywidualnym, którzy mogliby go użyć do autoryzacji spotkań online, jak i twórcom treści, którzy dzięki temu mogliby wzmocnić ochronę swojego wizerunku opublikowanego w filmie na YouTube przed kradzieżą i wykorzystaniem np. w pornografii" – wyjaśnił zacytowany w dokumencie Shahriar Ebrahimi.

Naukowcy zilustrowali działanie ProvenView prostym przykładem. Na początku procesu, autor oryginalnego wideo tworzy cyfrowy dowód autentyczności, który potwierdza, że dany materiał multimedialny pochodzi od niego. Oprogramowanie, które umożliwia generowanie takiego dowodu, może być zintegrowane bezpośrednio z aplikacją do nagrywania wideo lub funkcjonować jako oddzielny program. Następnie, gdy ktoś chce zweryfikować autentyczność tego wideo, ma możliwość zapoznania się z tym cyfrowym dowodem

"I właśnie tu pomaga nam Zero-Knowledge Proofs: dzięki zaawansowanej matematyce dowód ten można sprawdzić bez potrzeby oglądania samego wideo. Każdy może generować takie dowody autentyczności na swoim własnym urządzeniu" – tłumaczył Shahriar Ebrahimi. Dodał, że w przyszłości to rozwiązanie mogłoby stać się dodatkiem do przeglądarki internetowej albo programu do edycji wideo.

ProvenView to program znajdujący się w fazie eksperymentalnej i nie jest jeszcze gotowe do wdrożenia na szeroką skalę.

Ebrahimi podkreślił, że w tej chwili dowody autentyczności można generować dopiero po zakończeniu tworzenia wideo, a uzyskać je – by sprawdzić pochodzenie materiału multimedialnego – dopiero ok. godziny po odbyciu rozmowy. Naukowcy z IDEAS NCBR mają nadzieję, że w przyszłości możliwe będzie udowadnianie autentyczności wideo w czasie rzeczywistym.