Europejskie grzechy inwigilacji. Koniec z bezprawną analizą twarzy?

Bezprawne zbieranie, analizowanie i wykorzystanie danych biometrycznych. Brak kontroli nad wykorzystywaną technologią. Masowy nadzór biometryczny w imię walki z przestępczością. Analiza twarzy bez wiedzy obywatela. W taki sposób można by opisać sporo innowacji wdrażanych od lat przez chińskie służby. Jednak nie tylko w Kraju Środka można spotkać się takimi praktykami. Dotyczą one też wielu unijnych państw, jednak na Starym Kontynencie poza praktyką jest jeszcze prawo.

W opisanego procederu są m.in. technologie wykorzystujące sztuczną inteligencję, co ewidentnie może zaszkodzić jej rozwojowi. Komisja Europejska już za kilka dni przekaże odpowiednie wytyczne regulacyjne dla twórców i użytkowników. Ma to ochronić obywateli przed nadmierną chęcią inwigilacji za pomocą technologii sztucznej inteligencji (AI).

Obrońcy praw obywatelskich mówią stop

Kilka dni temu pisaliśmy na temat technologii, które działają wbrew człowiekowi. To człowiek tworzy technologie oraz ramy ich funkcjonowania w sposób tak niejasny lub pozbawiony zasad, że trudno się w tym wszystkim odnaleźć. Na szczęście są organizacje, które w sposób stanowczy i bezpardonowy próbują alarmować o błędach legislacyjnych. Tym samym chcą ukrócić samowolkę instytucji służb w zakresie zarządzania naszymi danymi. Kilka dni temu organizacje z kilkunastu europejskich państw wystosowały list otwarty do unijnego komisarza ds. sprawiedliwości, Didiera Reyndersa. List ten ma na celu jeszcze większe wzmocnienie ochrony praw podstawowych w odniesieniu do nowych przepisów o etycznej AI.

Zobacz również:
Dlaczego technologie działają wbrew człowiekowi?
Budowa etycznej SI w świecie pozbawionym etyki. Czy to się uda?
Prywatność w sieci: jak ją chronić przed hakerami, szpiegami i… rządem?

Sygnatariusze listu reprezentują koalicję 56 organizacji zajmujących się prawami cyfrowymi, prawami człowieka i sprawiedliwością społeczną. Działają na rzecz praw podstawowych ludzi w całej Europie. Wśród nich jest m.in. polska Fundacja Panoptykon. W liście zaapelowano o wzmocnienie ochrony praw podstawowych w przyszłym prawie. Szczególnie tym dotyczącym sztucznej inteligencji, a szczególnie AI w narzędziach masowego nadzoru biometrycznego, czyli np: rozpoznawaniu twarzy.

Co dalej z systemami analizy twarzy w UE?

Komisja Europejska ma zamiar przedstawić w dniu 21 kwietnia 2021 roku wniosek regulacyjny dotyczący etycznej strony technologii sztucznej inteligencji. Celem tego wniosku będzie ochrona podstawowych wartości i praw UE oraz zwiększenie bezpieczeństwa użytkowników poprzez zobowiązanie twórców systemów AI do spełnienia obowiązkowych wymogów związanych z ich wiarygodnością. Dotyczy to m.in. zapewnienia nadzoru ludzkiego i jasnych informacji na temat możliwości i ograniczeń sztucznej inteligencji. Wniosek jest następstwem dogłębnej analizy i otwartych konsultacji publicznych w sprawie białej księgi dotyczącej AI.

Zdaniem ekspertów ds. ochrony praw cyfrowych, KE postawiła sobie ważne zadanie, jakim jest wytyczenie rozwoju państw UE dzięki sztucznej inteligencji. Oczywiście przy jednoczesnej ochronie praw podstawowych. Jednak aby osiągnąć ten cel, nadchodzący wniosek ustawodawczy w sprawie SI powinien zawierać zakaz zastosowania rozwiązań łamiących te prawa. W tym masowego nadzoru biometrycznego wykorzystującego rozwiązania SI.

Masowy nadzór, masowy problem

Można sobie zadać pytanie czy rzeczywiście problem jest powszechny? Czy łamanie lub naruszanie praw człowieka, czy obywatela za pomocą rozwiązań biometrycznych może mieć miejsce w cywilizowanych krajach Europy? Otóż oczywiście, że tak. Niestety to już się dzieje i to od kilku lat. Organizacje zrzeszone wokół ReclaimYourFace, czyli sygnatariusze listu, już dawno przedstawiły na stronie kampanii dowody dokumentujące szybkie rozprzestrzenianie się biometrycznego nadzoru masowego w krajach UE.

Okazuje się, że w ostatnich latach rządy i firmy prywatne z powodzeniem korzystają z technologii nadzoru, które gromadzą i przetwarzają unikalne dane osobowe dotyczące każdego naszych ciał i zachowań. Nazywa się to właśnie masowym nadzorem biometrycznym luk masową analizą twarzy. O ile już działające przepisy unijne powinny przeciwdziałać tego typu praktykom, to niestety luki w prawie są nadal.

Analiza twarzy i masowe protesty

Okazuje się, że w Niemczech policja eksperymentowała z biometrycznym nadzorem masowym osób podróżujących przez stację Sudkreuz w Berlinie, a następnie wykorzystywała te dane analizując grupy protestujących antyglobalistów podczas szczytu G20 w Hamburgu. Udowodniono też, że ClearviewAI, firma zajmująca się rozpoznawaniem twarzy ClearviewAI ​​nielegalnie gromadziła i wykorzystywała twarze ludzi mieszkających w Niemczech pozyskane z sieci. Podobne „romanse” z tym oprogramowanie ma za sobą m.in. Szwecja.

Z kolei w Austrii policja korzysta z oprogramowania do rozpoznawania twarzy już od grudnia 2019 r. Początkowo Ministerstwo Spraw Wewnętrznych stwierdziło, że dopasowywanie twarzy do ich bazy danych będzie wykorzystywane wyłącznie do analizy poważnych przestępstw, takich jak napady na banki czy morderstwa. Okazało się, ze prawda jest całkowicie inna. W wyniku śledztwa parlamentarzystów ujawniono, że 2020 r. system był wykorzystywany masowo. Co więcej, ujawniono, że austriacka policja używała tego systemu podczas demonstracji do identyfikacji demonstrantów.

Lotniska i strach przed imigrantami

Służby lubią też korzystanie z systemów analizy twarzy na lotniskach. W zasadzie byłoby w tym nic zdrożnego gdyby miało to zwiększyć bezpieczeństwo lotów i osób przebywających na terenie portów lotniczych. Przy oczywiście jednoczesnej informacji o stosowaniu takiego systemu. Niestety nie zawsze jest to oczywiste dla służb. Lotniska w Rzymie i Pradze stosowały tego typu systemy masowo, bez uwzględnienia jakiegokolwiek ryzyka. Dodatkowo czeska policja wykorzystywała system, który powiązywał dane biometryczne z informacjami finansowymi.

Jeżeli chodzi o państwa południowe takie jak Włochy czy Grecja, to rozwiązania analizy twarzy zostały dodatkowo włączone do systemu „ochrony przed imigrantami”. Włoskie służby przyznają, że korzystają z rozpoznawania twarzy na żywo, w celu wykrywania „włóczęgów” i „wtargnięć”. I zasadniczo działa to bez większych protestów obywateli.

Co więcej, zdaniem ekspertów włoska policja planuje rozszerzyć swój system analizy twarzy, aby monitorować przybycie migrantów i osób ubiegających się o azyl na włoskie wybrzeża, tak jak w przeszłości deklarowała, że ​​jest gotowa używać rozpoznawania twarzy do monitorowania protestujących. Podobne zarzuty padają pod adresem policji w Grecji, choć tu już nie tak otwarcie informowano o wykorzystywaniu podobnych rozwiązań.

Analiza twarzy na co dzień?

Co ciekawe masowy nadzór biometryczny działa w tak bardzo rozwiniętych pod względem ochrony obywateli i ich praw państwach jak Holandia.

W Niderlandach rozpoznawanie twarzy na żywo działa m.in. w obiektach sportowych i rozrywkowych, a także w sklepach czy transporcie publicznym. Jak można przeczytać na stronie kampanii „Odzyskaj Swoją Twarz”, firmy były tak agresywne we wprowadzaniu tych metod nadzoru, że holenderski organ ochrony danych musiał przypominać firmom, że ta praktyka jest nielegalna. Ponadto holenderska policja włączyła do swojego systemu rozpoznawania twarzy 1,3 miliona osób, z których wiele okazało się niewinnymi. Nigdy też nie postawiono im zarzutów o popełnienie przestępstwa.

W raporcie dostało się również Polsce, gdzie szkoła wykorzystywała biometryczne odciski palców do zarządzania szkolnymi obiadami. Takie przykłady można mnożyć. Nie lepiej było we Francji, Belgii, Danii i Słowenii. Należy sobie wyobrazić, jak wyglądałyby sytuacja w Europie, gdyby nie było żadnej legislacji w tym zakresie. Wydaje się, że sytuacja nie odbiegałaby zbytnio od tej w Chinach czy Rosji.

Luki w prawie? Dobrze, że w ogóle prawo jest

Przerażające jest jeszcze to, że tego typu masowe systemy analizy twarzy za pomocą biometrii działają w ramach obowiązującego prawa unijnego i państwowego. Lokalne jak i unijne instytucje regulacyjne tworzą tylko nowe wytyczne, natomiast luki w prawie pozostają. Czy nowe propozycje Komisje Europejskiej, które pojawią się już 21 kwietnia, zmienią tę sytuację? Być może powtórzone one sukces ogólnego rozporządzenia o ochronie danych. Popularne RODO, choć ma wielu zwolenników i tyle samo przeciwników zmusiło jednak państwa i podmioty w ich działające do większej uwagi w przestrzeganiu prawa i ochrony danych osobowych.

Wytyczne i ogólne regulacje niestety nie będą działały zawsze. Szczególnie jeśli technologie rozwija się w takim tempie. Powinno się dążyć do zakazu stosowania z natury niepotrzebnych i nieproporcjonalnych praktyk masowego nadzoru biometrycznego. Istniejące przepisy w ramach ochrony danych nie okazują się wystarczające. Furtka, jaką pozostawił sobie prawodawca, w postaci bezpieczeństwa to listek figowy. Doprowadziło to m.in. do szkodliwych zastosowań technologii biometrycznych do celów masowego nadzoru przez organy ścigania. Jeśli rządy czy służby przyzwyczają obywateli do masowego nadzoru biometrycznego, łamiąc tym samym wiele praw, powrót do czasów sprzed masowej inwigilacji będzie niemożliwy.

Analiza twarzy i AI do raportu

Kluczowym aspektem w ochronie praw obywateli jest wykorzystanie rozwiązań z obszaru sztucznej inteligencji do analizy twarzy. Obrońcy praw obywatelskich chcą, aby wniosek ustawodawczy dotyczący AI zawierał wyraźny zakaz masowego lub arbitralnie ukierunkowanego wykorzystywania danych biometrycznych w przestrzeniach publicznych. To może bowiem prowadzić do masowej inwigilacji ze względu na prawa podstawowe.

Podsumowaniem niech będą słowa przytoczone w liście do komisarza Reyndersa:

„Podczas gdy inne kraje mogą nie zwracać uwagi na ochronę praw podstawowych w dążeniu do innowacji za wszelką cenę, UE może i musi dawać przykład, zapewniając, że innowacyjna sztuczna inteligencja opracowana i wdrażana w jej granicach jest zawsze rozwijana i wdrażana zgodnie z prawami podstawowymi”.

„Masowy nadzór biometryczny ludności Ujgurów w Chinach i nieproporcjonalny nadzór policyjny w Stanów Zjednoczonych wobec czarnoskórej ludności z nieodłącznie dyskryminującym rozpoznawaniem twarzy nie są modelami, do których należy dążyć – a w rezultacie miasta USA coraz częściej podejmują kroki, aby zakazać takich praktyk. Oparcie przez UE swojego modelu regulacyjnego na konkurencji z tymi praktykami zagroziłoby samym zasadom i wartościom, na których zbudowana jest UE”.