Pomyłka systemu rozpoznawania twarzy. Policja wiedziała, a i tak zaaresztowała
Doszło do niecodziennego zdarzenia i być może sytuacji, która nie miała wcześniej precedensu. Policja zaaresztowała niewłaściwego człowieka, po tym jak błędnie wytypował go jako podejrzanego algorytm do rozpoznawania twarzy.
26.06.2020 | aktual.: 26.06.2020 17:49
Całkiem możliwe, że takie błędy miały miejsce wcześniej, ale jest to pierwszy przypadek, gdy zostały pozwane władze. Działacze praw obywatelskich złożyli pozew przeciwko policji w Detroit, która ich zdaniem dyskryminowała czarnoskórego Roberta Williamsa, niesłusznie oskarżonego o kradzież pięciu zegarków ze sklepu Shinola.
Technologia rozpoznawania twarzy działa, ale tylko jeśli jesteś biały
W grudniu 2019 Narodowy Instytut Standaryzacji i Technologii opublikował wyniki badania, które dowiodło, że oprogramowanie do rozpoznawania twarzy jest najskuteczniejsze w przypadku osób rasy białej. Z kolei jeśli chodzi o twarze rasy azjatyckiej lub czarnej, potrafi być od 10 do 100 razy bardziej zawodna i wygenerować wynik fałszywie dodatni.
Tak właśnie stało się z Williamsem. Trafił on do więzienia po tym, jak użyto niewyraźnego materiału wideo, który potem trafił do systemu rozpoznawania twarzy i połączył go z niewinnym czarnoskórym mężczyzną.
Następnie policjanci z Detroit pokazali ochroniarzowi sklepu Shinola sześć fotografii podejrzanych. Ów ochroniarz nie widział nawet tego zdarzenia na własne oczy, a jedynie przejrzał materiał z monitoringu. Mimo wszystko wskazał on Williamsa.
Trafił on najpierw do aresztu, a następnego dnia na przesłuchanie. Szybko okazało się, że w ogóle nie był i nie mógł być w żaden sposób powiązany ze sprawą. – Komputer musiał się pomylić – miał odpowiedzieć Williamsowi wyraźnie skonfundowany policjant.
Organizacja American Civil Liberties Union oskarża wydział policji z Detroit o to, że nigdy nie powinna była aresztować Williamsa mając tak niekompletny materiał dowodowy i sugerując, że wręcz policjanci mogli wiedzieć, że prawdopodobnie od samego początku są w błędzie.
ACLU prowadzi śledztwo w sprawie zawodności systemów do rozpoznawania twarzy. Jeden z jej prawników w swoim raporcie napisał, że "[Williams] prawdopodobnie nie jest pierwszą osobą niesłusznie aresztowaną przy użyciu tej technologii – jest po prostu pierwszą osobą, dzięki której się o tym dowiedzieliśmy".