Jak rozpoznać deepfake? NASK Opublikował film

NASK apeluje o ostrożność podczas przeglądania sieci, gdzie coraz częściej - zwłaszcza w mediach społecznościowych - można trafić na materiały typu deepfake, czyli nagrania wideo zmanipulowane przez AI. Są wykorzystywane najczęściej przez oszustów do publikowania spreparowanych reklam fałszywych inwestycji, do czego wykorzystuje się wizerunek znanych osób, w tym polityków, aktorów czy piłkarzy.

NASK podał cztery zasady, które pozwalają zauważyć, że dany film może być fałszywy. Aby rozpoznać deepfake należy zwłaszcza:

1. Zwrócić uwagę na błędy generowania obrazu, co da się zauważyć najczęściej po niepoprawnej animacji ust nagranej postaci,
2. Wsłuchać się w sposób mówienia postaci - automatycznie wygenerowany głos często niepoprawnie intonuje wypowiedzi lub popełnia inne błędy,
3. Uważać na pułapki gramatyczne, czego dobrym przykładem jest odmiana liczebników, z czym obecnie automaty sobie nie radzą,
4. Zwracać uwagę na błędy logiczne i niespójności - czasem mowa ciała może nie zgadzać się z wypowiadanymi słowami, co powinno być sygnałem ostrzegawczym,
5. Dostrzegać potencjalne zabiegi maskujące, które polegają na celowym nakładaniu na obraz efektów oraz tekstur, co ma utrudnić zauważanie innych niedoskonałości materiały wymienionych wyżej.

W przypadku, gdy użytkownik nie zorientuje się, że ma do czynienia z deepfake'em, mogą go czekać przykre konsekwencje. Skoro uwierzy, że nagranie, które zobaczył jest autentyczne, może pokusić się na przykład o zainwestowanie swoich pieniędzy i podanie danych po zapewnieniu przez "znanego aktora", że dany produkt jest godny polecenia.

Dalsza część artykułu pod materiałem wideo

W rzeczywistości przekaże jedynie swoje dane na ręce atakujących. To otwarcie drogi do wyłudzenia pieniędzy z konta lub stracenia wszystkich oszczędności po nieświadomym udostępnieniu loginu i hasła do bankowości internetowej.