30 miliardów zdjęć z FB przekazanych policji przez AI

Clearview AI pozyskało 30 miliardów zdjęć z Facebooka i przekazało je policji: dzięki temu wszyscy znaleźli się w „wiecznej policyjnej kolejce”.

 

Kontrowersyjna baza danych rozpoznawania twarzy, używana przez departamenty policji w całym kraju, została zbudowana częściowo z 30 miliardów zdjęć, które firma wyskrobała z Facebooka i innych mediów społecznościowych bez zgody ich użytkowników, prezes firmy niedawno przyznał, tworząc to, co krytycy nazwali „wieczną policyjną kolejką “, nawet dla ludzi, którzy nie zrobili nic złego.

•    Dzięki scrapingowi Clearview AI uzyskało 30 miliardów zdjęć z Facebooka, aby zbudować swoją bazę danych do rozpoznawania twarzy.
•    Amerykańska policja korzystała z bazy danych prawie milion razy, powiedział BBC prezes firmy.
•    Jeden z obrońców praw cyfrowych powiedział Insiderowi, że firma jest „całkowitą obrazą praw człowieka”.

 

Pomoc czy łamanie prawa? 

Firma Clearview AI chwali się, że jej potencjał pozwala na identyfikację sprawców zamieszek podczas ataku na Kapitol z 6 stycznia, ratowanie maltretowanych lub wykorzystywanych dzieci oraz pomoc w uniewinnieniu osób niesłusznie oskarżonych o przestępstwa. Krytycy wskazują jednak na niesłuszne aresztowania napędzane przez błędne identyfikacje dokonywane przez rozpoznawanie twarzy, w tym przypadki w Detroit i Nowym Orleanie.

Firma Clearview zabrała zdjęcia bez wiedzy użytkowników, co przyznał jej dyrektor generalny Hoan Ton-That w wywiadzie udzielonym w zeszłym miesiącu BBC. Pozwoliło to na szybką ekspansję ogromnej bazy danych firmy, która na swojej stronie internetowej reklamuje się jako narzędzie “do oddawania sprawiedliwości ofiarom”.

Ton-That powiedział BBC, że baza danych rozpoznawania twarzy Clearview AI została udostępniona amerykańskiej policji prawie milion razy od czasu założenia firmy w 2017 roku, choć relacje między organami ścigania a Clearview AI pozostają szemrane i liczba ta nie mogła zostać potwierdzona.

 

Co się dzieje, gdy dochodzi do nieautoryzowanego pozyskania?

 

Technologia ta od dawna krytykowana jest za swoją inwazyjność zarówno ze strony obrońców prywatności, jak i platform cyfrowych, przy czym największe firmy z branży mediów społecznościowych, w tym Facebook, wysłały w 2020 roku do Clearview listy żądające zaprzestania działalności naruszającej prywatność użytkowników.

“Działania Clearview AI naruszają prywatność ludzi, dlatego zakazaliśmy ich założycielowi korzystania z naszych usług i wysłaliśmy im prawne żądanie zaprzestania dostępu do jakichkolwiek danych, zdjęć lub filmów z naszych usług” – powiedział rzecznik Meta w e-mailu do Insidera, odnosząc się do oświadczenia wydanego przez firmę w kwietniu 2020 roku po tym, jak po raz pierwszy ujawniono, że firma skrobała zdjęcia użytkowników i współpracowała z organami ścigania.

 

Od tego czasu rzecznik powiedział, że Meta “poczyniła znaczące inwestycje w technologię” i poświęca “znaczne zasoby zespołu na zwalczanie nieautoryzowanego scrapingu w produktach Facebooka.”

W przypadku wykrycia nieautoryzowanego pobierania danych, firma może podjąć działania “takie jak wysyłanie listów o zaprzestaniu działalności,wyłączenie kont, złożenie pozwów sądowych lub zwrócenie się o pomoc do dostawców hostingu”, aby chronić dane użytkowników, jak powiedział rzecznik.

Jednakże, nawet pomimo wewnętrznych zasad, gdy zdjęcie zostanie pozyskane przez Clearview AI, biometryczne odciski twarzy są wykonywane i porównywane w bazie danych, wiążąc osoby z ich profilami w mediach społecznościowych i innymi informacjami identyfikacyjnymi na zawsze – a osoby na zdjęciach mają niewielką możliwość odwołania się, aby spróbować się usunąć.

Mieszkańcy Illinois mogą zrezygnować z technologii (poprzez dostarczenie innego zdjęcia, które Clearview AI twierdzi, że będzie używane tylko do zidentyfikowania, które przechowywane zdjęcia należy usunąć) po tym, jak ACLU pozwała firmę na mocy ustawy o prywatności w stanie, i udało się zakazać sprzedaży technologii Clearview AI w całym kraju do prywatnych firm. Jednak mieszkańcy innych stanów nie mają tej samej opcji, a firma nadal może współpracować z organami ścigania.

 

 “Wieczna policyjna kolejka” 

 

“Clearview jest całkowitą obrazą praw człowieka, full stop, a policja nie powinna mieć możliwości korzystania z tego narzędzia” – powiedziała w mailu do Insidera Caitlin Seeley George, dyrektor kampanii i operacji dla Fight for the Future, grupy non-profit zajmującej się prawami cyfrowymi, dodając, że “bez przepisów je powstrzymujących, policja często korzysta z Clearview bez wiedzy lub zgody swojego wydziału, więc chwalenie się przez Clearview tym ile przeszukań wykonano, jest jedyną formą ‘przejrzystości’ jaką otrzymujemy, aby dowiedzieć się jak powszechne jest korzystanie z rozpoznawania twarzy”.

CNN donosiło, że Clearview AI w zeszłym roku twierdziło, że klienci firmy obejmują “ponad 3,100 amerykańskich agencji, w tym FBI i Departament Bezpieczeństwa Wewnętrznego.” BBC podało, że policja w Miami przyznała, że używa technologii do wszelkiego rodzaju przestępstw, od kradzieży w sklepie po morderstwa.

Ryzyko bycia włączonym do tego, co funkcjonuje jako “wieczna policyjna kolejka” dotyczy wszystkich, w tym ludzi którzy myślą, że nie mają nic do ukrycia, jak powiedział Matthew Guariglia – starszy analityk polityki dla międzynarodowej grupy non-profit zajmującej się prawami cyfrowymi, Electronic Frontier Fund.

“Nie wiesz, co masz do ukrycia” – powiedział Guariglia w rozmowie z Insiderem. “Rządy przychodzą i odchodzą, a rzeczy, które nie były nielegalne, stają się nielegalne. I nagle możesz skończyć jako ktoś, kto może być retroaktywnie aresztowany i ścigany za coś, co nie było nielegalne, gdy to robiłeś”.
“Myślę, że podstawowym przykładem, który widzimy teraz, jest aborcja”, kontynuował, “w tym sensie, że ludzie, którzy dokonali aborcji w stanie, w którym było to legalne w tym czasie, nagle muszą żyć w strachu przed jakimś retroaktywnym ściganiem – i nagle to, co nie sądziłeś, że musisz ukrywać, faktycznie musisz ukrywać”.

 

Zdjęcia mogą pochodzić z dowolnego miejsca w sieci

 

Nawet ludzie, którzy są zaniepokojeni ryzykiem dodania ich zdjęć do bazy danych, mogą zostać w niej zamieszczeni nie z własnej winy, jak powiedzieli zarówno Seeley George i Guariglia. To, że ludzie mogą skończyć w bazie danych Clearview, mimo polityki Facebook przeciwko skrobaniu lub ich własnym środkom bezpieczeństwa, jest wskaźnikiem, że prywatność “to sport zespołowy”, powiedział Guariglia.

“Myślę, że to jedna z podstępnych rzeczy w tym temacie” – powiedział Guariglia. “Ponieważ możesz być bardzo świadomy tego, co robi Clearview, zapobiegać wszelkim swoim profilom w mediach społecznościowych przed indeksowaniem przez Google, aby upewnić się, że zdjęcie, które zamieszczasz, nie jest publicznie dostępne w otwartej sieci, i myślisz ‘to może zapewnić mi bezpieczeństwo’. Ale rzecz w tym, że Clearview rozpoznaje zdjęcia z tobą w dowolnym miejscu w sieci.”

To oznacza, że jeśli jesteś w tle zdjęcia ślubnego, lub twój przyjaciel zamieszcza zdjęcie z liceum, gdy Clearview zrobi zdjęcie twojej twarzy, stworzy trwały biometryczny odcisk twojej twarzy, który zostanie włączony do bazy danych.

 

Clearview i egzekwowanie prawa

 

Przeszukiwanie bazy danych Clearview jest tylko jednym z wielu sposobów, w jaki organy ścigania mogą wykorzystywać treści zamieszczane na platformach mediów społecznościowych w celu pomocy w śledztwie, w tym kierować zapytania bezpośrednio do platformy o dane użytkowników. Jednak wykorzystanie Clearview AI lub innych technologii rozpoznawania twarzy przez organy ścigania nie jest monitorowane w większości stanów i nie podlega ogólnokrajowej regulacji – choć krytycy, tacy jak Seeley George i Guariglia, twierdzą, że powinno to być zakazane.

“Jest to część nieprzejrzystości zarówno departamentów policji, jak i Clearview. Nie mamy pojęcia, czy muszą wprowadzić nakaz w celu uruchomienia kwerendy, czego prawdopodobnie nie robią; nie mamy pojęcia, czy ich kwerendy są nadzorowane przez przełożonego” – powiedział Guariglia w rozmowie z Insiderem, dodając, że program jest często bezpośrednio wgrywany na telefony funkcjonariuszy, często bez wiedzy lub zgody ich departamentu.

Po pozwie złożonym przez ACLU w Illinois, Clearview powiedziało, że zakończy swoją praktykę oferowania darmowych kont próbnych poszczególnym policjantom.

Guariglia dodał: “Myślę, że naprawdę musimy zapytać: jak ściśle monitorowane są zapytania, które generują? Cały czas żyjesz w strachu, że policjant wyciągnie swój telefon na proteście, przeskanuje twarze tłumu, nagle zdobędzie ich profile w mediach społecznościowych, każde zdjęcie, na którym kiedykolwiek byli, ich tożsamość – i zagrożenie, jakie to stwarza dla wolności obywatelskich i podatność, jaką otwiera to przed ludźmi w zakresie odwetu lub represji.”

 

Potrzebujesz podpowiedzi, gdzie i co zabezpieczyć? Skonsultuj się z naszymi ekspertami. Specjaliści Cybergen podpowiedzą, jakie masz możliwości obrony przed scrapingiem.