Prawie rok temu Kashmir Hill reporterka New York Timsa opublikowała artykuł „Koniec prywatności jaką znamy” artykuł opisuje historie powstania aplikacji Clearview AI w kontekście ochrony prywatności. Obecnie temat wrócił wraz z postami stwierdzającymi, że wspomniana aplikacja pomaga organom ścigania wychwytywać uczestników tak zwanego szturmu na Kapitol. Dlaczego to taki kontrowersyjny temat? Bo dotyczy technologii rozpoznawania twarzy, jej wpływu na prywatność i o tym nie da się rozmawiać bez znajomości historii założenia Clearview.
Dokonania Hoan Ton-That obejmowały mało znaną grę na iPhone’a oraz aplikację, która pozwalała ludziom na umieszczanie charakterystycznej żółtej fryzury Donalda Trumpa na własnych zdjęciach. Następnie ten australijski technik, niegdyś model – zrobił coś doniosłego: wynalazł narzędzie, które może zakończyć zdolność do anonimowego chodzenia ulicą i dostarczył je setkom przedstawicieli organów ścigania, FBI oraz Departamentowi Bezpieczeństwa Wewnętrznego. Hoan Ton-That założył Clearview AI, która opracowała przełomową aplikację do rozpoznawania twarzy. Robisz zdjęcie osoby, przesyłasz je i widzisz publiczne zdjęcia tej osoby wraz z linkami do miejsc, w których te zdjęcia się pojawiły. System – którego kręgosłupem jest baza danych zawierająca ponad trzy miliardy zdjęć, które Clearview wydobyły z Facebooka, YouTube, Venmo i milionów innych stron internetowych.
Federalni i stanowi funkcjonariusze organów ścigania potwierdzili New York Timesowi, że chociaż mieli ograniczoną wiedzę o tym, jak działa Clearview i kto za tym stoi, używali aplikacji do rozwiązywania problemów z kradzieżami sklepowymi, kradzieżą tożsamości, oszustwami związanymi z kartami kredytowymi, morderstwami i wykorzystywaniem seksualnym dzieci.
Do tej pory technologia, która łatwo identyfikuje każdego na podstawie rysów twarzy, była tematem tabu ze względu na radykalną erozję prywatności. Firmy technologiczne zdolne do wypuszczenia takiego narzędzia powstrzymały się od tego. W 2011 r. ówczesny prezes Google powiedział, że jest to jedyna technologia, którą firma nie będzie rozwijała, ponieważ można ją wykorzystać „w bardzo zły sposób”. Niektóre duże miasta, w tym San Francisco, zabroniły policji używania wszystkich technologii rozpoznawania twarzy. Na Kapitanie Hacku w newsach kilkakrotnie pisaliśmy o tym jakie skutki miały zastosowania tej techniki w śledztwach policyjnych.
Jednak pokusa pójścia na skróty wśród stróżów prawa w Stanach jest dosyć silna i bez publicznej kontroli ponad 600 podmiotów zaczęło używać Clearview. Co ciekawe kod komputerowy, na którym opiera się aplikacja, przeanalizowany przez The New York Times, obejmuje język programowania umożliwiający połączenie jej z okularami rozszerzonej rzeczywistości; użytkownicy mogliby potencjalnie zidentyfikować każdą osobę, którą widzieli. Narzędzie mogło zidentyfikować aktywistów podczas protestu lub atrakcyjnego nieznajomego w metrze, ujawniając nie tylko ich nazwiska, ale także miejsce, w którym mieszkali, co robili i kogo znali.
Dziennikarskie śledztwo
Kashmir Hill zaczęła prowadzić dziennikarskie dochodzenie od listopada 2019 roku. Napotkała mur tajemnic. Clearview unikał debaty na temat swojej technologii. W tym czasie firmowa strona internetowa była pusta. Jako miejsce prowadzenia działalności wskazywano nieistniejący adres na Manhattanie. Jedynym pracownikiem firmy wymienionym na LinkedIn, kierownikiem sprzedaży o nazwisku „John Good”, okazał się założyciel Ton-That, posługujący się fałszywym nazwiskiem. Przez miesiąc osoby związane z firmą nie odpowiadały na e-maile ani telefony dziennikarki. Natomiast monitorowały co pani Hill robi. Kiedy na prośbę dziennikarki kilku policjantów przeglądało jej zdjęcia w aplikacji Clearview, wkrótce otrzymali telefony od przedstawicieli firmy z pytaniami, czy rozmawiają z mediami – znak, że Clearview ma zdolność monitorowania i wiedzę kogo poszukują organy ścigania.
W końcu firma zaczęła odpowiadać na pytania, mówiąc, że jej wcześniejsze milczenie było typowe dla wczesnego startu w trybie stealth. Pan Ton-That przyznał się do zaprojektowania prototypu do użytku z okularami rozszerzonej rzeczywistości, ale powiedział, że firma nie planuje go wypuścić. Powiedział też, że zdjęcie dziennikarki „zadzwoniło dzwonkiem alarmowym”, ponieważ aplikacja „sygnalizuje możliwe nietypowe zachowanie wyszukiwania”, aby uniemożliwić użytkownikom przeprowadzanie tego, co uważa za „nieodpowiednie wyszukiwania”. Czyli właściwie potwierdził największe obawy dotyczące technologii: że Clearview ma potencjał technologiczny do wyprodukowania narzędzia do śledzenia wszystkich i jednocześnie monitoruje wyszukiwania.
Kto jest kim w Clearview
Teraz trochę o personaliach. Oprócz pana Ton-That firma Clearview została założona przez Richarda Schwartza – który był doradcą Rudolpha W. Giulianiego, gdy był burmistrzem Nowego Jorku – i była wspierana finansowo przez Petera Thiela, inwestora venture capital stojącego za Facebookiem.
Innym wczesnym inwestorem jest mała firma o nazwie Kirenaga Partners. Jej założyciel, David Scalzo, odrzucił obawy dotyczące możliwości wyszukiwania w Internecie przez Clearview na podstawie twarzy, mówiąc, że jest to cenne narzędzie do rozwiązywania przestępstw.
„Doszedłem do wniosku, że ponieważ informacje stale się zwiększają, prywatność nigdy nie będzie” – powiedział pan Scalzo. „Prawo musi określać, co jest legalne, ale technologii nie można zakazać. Jasne, może to prowadzić do dystopijnej przyszłości lub czegoś w tym stylu, ale nie możesz tego zabronić”.
Kim jest Ton-That?
Ton-That ma 32 lat, dorastał w rodzinnej Australii. Wychował się na rodzinnych legendach o swoich królewskich przodkach w Wietnamie. W 2007 roku rzucił studia i przeniósł się do San Francisco. Właśnie pojawił się iPhone. Celem Ton Thata stał się rynek aplikacji społecznościowych.
W 2009 roku stworzył witrynę, która umożliwia ludziom udostępnianie linków do filmów wszystkim kontaktom w ich komunikatorach internetowych. Pan Ton-That zamknął go po tym, jak został oskarżony o „oszustwo phishingowe”. Aplikacja wykorzystywała kontakty do tworzenia list spamerskich. W 2015 roku założył Trumpa Hair, aplikacje która dodawał charakterystyczny, żółty czepek Trumpa ludziom na zdjęciu oraz program do udostępniania zdjęć. Oba przedsięwzięcia okazały się klapą.
Zniechęcony, pan Ton-That przeniósł się do Nowego Jorku w 2016 roku. Wysoki i szczupły, z długimi czarnymi włosami, powiedział, że rozważa karierę modela, ale po jednej sesji wrócił do próby wymyślenia kolejnej wielkiej rzeczy w technice. Zaczął czytać artykuły naukowe z zakresu sztucznej inteligencji, rozpoznawania obrazu i uczenia maszynowego.
Schwartz i Ton-That spotkali się w 2016 roku na konferencji poświęconej książkom w Manhattan Institute, konserwatywnym think tanku. Pan Schwartz, obecnie 62-letni, pracował dla Giulianiego w latach 90. Wkrótce zdecydowali się wspólnie zająć się techniką rozpoznawaniam twarzy: pan Ton-That zbuduje aplikację, a pan Schwartz wykorzysta swoje kontakty do wzbudzenia zainteresowania handlowego.
Wydziały policji mają dostęp do narzędzi do rozpoznawania twarzy od prawie 20 lat, ale w przeszłości ograniczały się do wyszukiwania obrazów dostarczonych przez rząd, takich jak np. zdjęcia z prawa jazdy. W ostatnich latach algorytmy rozpoznawania twarzy poprawiły się pod względem dokładności, a firmy takie jak Amazon oferują produkty, które mogą tworzyć programy rozpoznawania twarzy dla dowolnej bazy danych obrazów.
Pan Ton – to chciał osiągnąć więcej. Zaczął w 2016 roku od rekrutacji kilku inżynierów. Jeden z nich pomógł zaprojektować program, który może automatycznie zbierać obrazy twarzy ludzi z całego internetu, takich jak strony z ofertami pracy, serwisy informacyjne, witryny edukacyjne i sieci społecznościowe, w tym Facebook, YouTube, Twitter, Instagram, a nawet Venmo. Przedstawiciele tych firm powiedzieli, że ich polityka zabrania takiego pozyskiwania danych, a Twitter wyraźnie zakazał wykorzystywania tych danych do rozpoznawania twarzy. Nie zmieniło to modelu tworzenia aplikacji. Zatrudniono innego inżyniera do udoskonalenia algorytmu, który został opracowany na podstawie artykułów naukowych. Rezultat: system wykorzystujący to, co Ton-That opisał jako „najnowocześniejszą sieć neuronową”, aby przekształcić wszystkie obrazy we wzory matematyczne lub wektory oparte na geometrii twarzy. Clearview stworzył obszerny katalog, w którym wszystkie zdjęcia z podobnymi wektorami zostały pogrupowane w „okolice”. Gdy użytkownik przesyła zdjęcie twarzy do systemu Clearview, przekształca twarz w wektor, a następnie wyświetla wszystkie zaciągnięte zdjęcia przechowywane w sąsiedztwie tego wektora – wraz z linkami do witryn, z których pochodzą te obrazy.
Pod koniec 2017 roku firma dysponowała potężnym narzędziem do rozpoznawania twarzy, które nazywała Smartcheckr. Ale pan Schwartz i pan Ton – nie byli pewni, komu zamierzają go sprzedać.
Firma wkrótce zmieniła nazwę na Clearview AI i rozpoczęła marketing dla organów ścigania. Wtedy otrzymała pierwszą rundę finansowania od inwestorów zewnętrznych: pana Thiela i Kirenaga Partners. Pan Thiel zasłynął między innymi z potajemnego finansowania pozwu Hulka Hogana, który doprowadził do bankructwa popularnej strony internetowej Gawker. Zarówno pan Thiel, jak i pan Ton – byli tematem negatywnych artykułów Gawkera.
„W 2017 roku Peter przekazał utalentowanemu młodemu założycielowi 200 000 dolarów, które dwa lata później zamieniono na kapitał w Clearview AI” – powiedział Jeremiah Hall, rzecznik Thiela. „To był jedyny wkład Petera; nie jest zaangażowany w firmę”.
Według Pitchbook, strony internetowej, która śledzi inwestycje w start-upy, nawet po drugiej rundzie finansowania w 2019 roku Clearview pozostaje niewielki, pozyskując 7 milionów dolarów od inwestorów.
Jak wygląda model biznesowy?
W lutym policja stanu Indiana rozpoczęła eksperymenty z Clearview. Rozwiązali sprawę w ciągu 20 minut przy wykorzystaniu aplikacji. Dwóch mężczyzn wdało się w bójkę w parku i ta skończyła się, gdy jeden strzelił drugiemu w brzuch. Osoba postronna zarejestrowała przestępstwo przez telefon, więc policja miała zdjęcie twarzy strzelca, wykorzystała aplikację Clearview.
Natychmiast dostali dopasowanie: mężczyzna pojawił się w filmie, który ktoś opublikował w mediach społecznościowych, a jego imię zostało umieszczone w podpisie filmu. „Nie miał prawa jazdy i nie został aresztowany jako dorosły, więc nie było go w rządowych bazach danych” – powiedział Chuck Cohen, ówczesny kapitan policji stanowej Indiany.
Mężczyzna został aresztowany i oskarżony; Cohen powiedział, że prawdopodobnie nie zostałby zidentyfikowany bez możliwości wyszukiwania jego twarzy w mediach społecznościowych. Policja stanu Indiana została pierwszym płacącym klientem Clearview.
Tak narodził się model biznesowy. Clearview zatrudnił obecnych i byłych republikańskich urzędników, aby skontaktowali się z siłami policyjnymi, oferując bezpłatne testy i roczne licencje za jedyne 2000 USD. Schwartz wykorzystał swoje polityczne powiązania, aby pomóc urzędnikom państwowym w wykorzystaniu tego narzędzia.
Najskuteczniejszą techniką sprzedaży firmy było oferowanie 30-dniowych bezpłatnych testów funkcjonariuszom, którzy następnie zachęcali swoje działy zakupów do zarejestrowania się i chwalili narzędzie funkcjonariuszom z innych wydziałów policji na konferencjach i online.
Według prezentacji sprzedażowej Clearview przeanalizowanej przez The Times, aplikacja pomogła zidentyfikować szereg osób: osobę, która została oskarżona o molestowanie seksualne dziecka, którego twarz pojawiła się w lustrze na zdjęciu z siłowni innej osoby; osoba odpowiedzialna za serię kradzieży skrzynek pocztowych w Atlancie; John Doe (tak w Stanach określa się nieznane ofiary płci męskiej) znaleziony martwy na chodniku w Alabamie; i podejrzanych w wielu przypadkach kradzieży tożsamości w bankach.
Z aplikacji zaczęli korzystać specjaliści w Federalnych organach ścigania, w tym F.B.I. i Departament Bezpieczeństwa Wewnętrznego.
Pomimo rosnącej popularności Clearview uniknął publicznej debaty nad prywatnością do końca 2019 r. Wtedy to prokuratorzy z Florydy oskarżyli kobietę o kradzież dwóch grilli i odkurzaczu, ze sklepu Ace Hardware w Clermont. Została zidentyfikowana, gdy policja przesłała zdjęcie z nagrania z monitoringu przez Clearview, które doprowadziło ich do jej strony na Facebooku. Tatuaż widoczny na filmie z monitoringu i zdjęciach z Facebooka potwierdził jej tożsamość.
Czy Clearview jest nieomylne?
Nawet szef firmy przyznaje, że narzędzie nie zawsze działa. Większość zdjęć w bazie danych Clearview jest wykonywanych na wysokości oczu. Większość materiałów przesyłanych przez policję pochodzi z kamer monitorujących zamontowanych na sufitach lub wysoko na ścianach.
„Ustawili kamery monitorujące zbyt wysoko”, ubolewał właściciel firmy. „Kąt jest nieprawidłowy dla dobrego rozpoznawania twarzy”.
Mimo to, jak podała firma, jej narzędzie znajduje dopasowania nawet w 75 procentach przypadków. Nie jest jednak jasne, jak często narzędzie dostarcza fałszywe dopasowania, ponieważ nie zostało przetestowane przez niezależną jednostkę, taką jak National Institute of Standards and Technology, federalną agencję, która ocenia wydajność algorytmów rozpoznawania twarzy.
„Nie mamy danych, które sugerowałyby, że to narzędzie jest dokładne” – powiedziała NYT Clare Garvie, badaczka z Centrum Prywatności i Technologii Uniwersytetu Georgetown, która zbadała wykorzystanie przez rząd funkcji rozpoznawania twarzy. „Im większa baza danych, tym większe ryzyko błędnej identyfikacji z powodu efektu doppelgängera. A oni pracują na ogromnej bazie danych losowych osób, które znaleźli w internecie ”.
Jednym z powodów, dla których Clearview jest wyjątkowy, jest to, że jego usługa jest wyjątkowa. Dzieje się tak, ponieważ Facebook i inne serwisy społecznościowe zabraniają ludziom kopiowania zdjęć użytkowników – Clearview narusza warunki korzystania z tych witryn.
Jay Nancarrow, rzecznik Facebooka, powiedział, że firma analizuje sytuację z Clearview i „podejmie odpowiednie działania, jeśli uznamy, że naruszają nasze zasady”.
Przypomnijmy, że Pan Thiel, inwestor Clearview, zasiada w zarządzie Facebooka. Nancarrow odmówił komentarza w sprawie osobistych inwestycji Thiela.
Ponieważ policja przesyła zdjęcia osób, które próbują zidentyfikować, Clearview posiada rosnącą bazę danych osób, które zwróciły uwagę organów ścigania. Firma ma również możliwość manipulowania wynikami, które widzi policja.
Aplikacja Clearview niesie ze sobą dodatkowe ryzyko, ponieważ organy ścigania przesyłają poufne zdjęcia na serwery firmy, której zdolność do ochrony danych nie została przetestowana.
Mimo zapewnienia właścicieli firmy funkcjonariusze policji i inwestorzy Clearview przewidują, że aplikacja będzie w końcu dostępna publicznie.
Nawet jeśli Clearview nie udostępni swojej aplikacji publicznie, ktoś inny może skopiować i wykorzystać technologię. Wyszukiwanie kogoś po twarzy może stać się tak proste, jak wyszukanie nazwiska w Google. Na ulicy obcy ludzie mogliby podsłuchiwać wrażliwe rozmowy, robić zdjęcia uczestnikom i poznać osobiste sekrety. Ktoś siedzący w kawiarni byłby natychmiast rozpoznawalny – a jego adres domowy byłby oddalony o zaledwie kilka kliknięć. Oznaczałoby to koniec publicznej anonimowości.
„To, co robią, jest przerażające, ale takich firm będzie znacznie więcej. Nie ma monopolu na matematykę” – powiedział NYT Al Gidari, profesor zajmujący się prywatnością na Stanford Law School. „Bez bardzo silnego federalnego prawa dotyczącego prywatności, wszyscy mamy przerąbane”.