Nowe oszustwo telefoniczne. Porwanie z głosem dziecka w tle

Sztuczna inteligencja ma wiele zastosowań i niestety jest skuteczna także w rękach oszustów. Jak opisuje serwis WKYT, w Arizonie odnotowano przypadek sfałszowanej rozmowy telefonicznej, w której algorytmy generowania mowy zostały wykorzystane do podrobienia głosu nastolatki w danej chwili spędzającej czas poza domem. Oszust zadzwonił do jej matki deklarując, że dziewczynka została porwana. W tle było słychać głos nastolatki, która prosiła o pomoc - relacjonuje kobieta.

Chociaż w rozmowie początkowo zażądano miliona dolarów, "porywacz" ostatecznie zgodził się na dużo niższą kwotę 50 tys. Zanim doszło do transakcji, okazało się jednak, że dziewczynka jest bezpieczna, a cała sytuacja nie miała miejsca w rzeczywistości. Matka przekonuje i ostrzega, że głos dziecka brzmiał na tyle autentycznie, że nie miała wątpliwości, iż jest to jej córka. Dzisiaj SI na to pozwala, a wystarczy do tego zaledwie 3-sekundowa próbka głosu. Przykładem mogą być piosenki śpiewane przez komputer głosem artystów, którzy nigdy nie wykonywali danego utowru.

Można spekulować, że w opisywanym przypadku manipulacji wykorzystano jakieś nagranie, które nastolatka umieściła w sieci, na przykład w mediach społecznościowych. SI jest w stanie nauczyć się niuansów w kilka chwil i generować wypowiedzi tak, że rozmówca nie zorientuje się, że nie jest to "oryginał". Być może pewne różnice są możliwe do wychwycenia, ale w przypadku symulowanego porwania dziecka zakładamy, że matka była bardziej przejęta samą sprawą, niż analizą, czy głos jej córki w tle aby na pewno nie jest podrobiony (skoro na pierwszy "rzut oka" brzmiał autentycznie).

Dalsza część artykułu pod materiałem wideo

W obliczu tak wielu zastosowań dla SI, która - jak widać - może pomóc także naciągaczom, apelujemy o rozwagę i ostrożność podczas rozmów telefonicznych. Chociaż trudno mówić o zachowaniu spokoju w przypadku tak dobrze spreparowanej sytuacji, radzimy trzymać nerwy na wodzy i myśleć racjonalnie, analizując przy tym, czy ewentualne porwanie mogło w ogóle dojść do skutku (być może atakujący "dzwonią w ciemno", a nieobecność córki w domu była w tym przypadku zbiegiem okoliczności).

Chociaż w tym momencie mowa o przypadku z USA, bardzo możliwe, że ta metoda oszustów zacznie być wykorzystywana także w innych częściach świata, w tym w Polsce. Warto już teraz zadbać o bezpieczeństwo swoich pociech, próbując upewnić się, że w sieci nie da się znaleźć ich próbek głosu, o co może być oczywiście trudno w dobie powszechnego wykorzystania social mediów, gdzie nierzadko publikowane są filmy.