Opiekuńcza sieć inwigilacji. Czy technologia sprawia, że jesteśmy jak dzieci we mgle?

To już pewne. Oddamy świat robotom, żeby za nas pracowały, uczyły siebie i nas zarazem, wspierały w młodości jak i na starość. Przestaniemy myśleć i działać, a na koniec oddamy im też odpowiedzialność za ewentualne konsekwencje takiego stanu rzeczy. To nie tylko katastroficzna wizja znana z filmów science fiction, ale rzeczywistość, jaką sami sobie kreujemy. Czy dążenie do cyfryzacji każdego aspektu życia i działania przyniesie nam oczekiwany spokój i bezpieczeństwo? Czy technologie opiekuńcze oplotą całe nasze życie?

Technologia w służbie ludzkości

„Daj, ać ja pobruszę, a ty poczywaj”. Ten fragment XIII-wiecznego manuskryptu z Księgi Henrykowskiej doskonale pasowałby do dzisiejszej wizji technologii, jaką tworzy człowiek. Zacznijmy jednak od początku. Idea wsparcia ludzkości przez technologie nie jest ani nowa, ani tym bardziej odkrywcza. Zarówno rozwiązania w starożytności, średniowieczu czy też w erze odkryć XIX wieku miały na celu poprawę życia człowieka. Stąd wynalazki, drobne lub większe usprawnienia czy też rewolucyjne idee społeczne.

Nie ma się co obrażać na systemy obliczeniowe, które wspierają naukowców. Ani tym bardziej na nowoczesne urządzenia w naszych domach czy zakładach pracy. Sam smartfon zrewolucjonizował życie człowieka do tego stopnia, że trudno byłoby bez tego urządzenia (i oczywiście całej infrastruktury wokół niego) dalej funkcjonować. Prawdopodobnie bez smartfona i dostępu do sieci ludzkość cofnęłaby się nie tylko do XX wieku, ale i może do mentalnego średniowiecza. Natomiast powoli boom na wsparcie technologiczne zaczyna coraz bardziej ingerować w życie zwykłego Kowalskiego czy Smitha. Chcemy widzieć wszystko i wszystkich, a następnie analizować to i wyciągać wnioski. Najgorsze jest to, że robimy to z pełną premedytacją. Wszędzie, w każdej dziedzinie życia. Bez refleksji. A jeśli jest jakaś sfera, która tej technologii opiekuńczej nie dotknęła, to zaraz znajdzie się firma, która właśnie w tym zakresie rozpocznie prace.

Smartfon sam sprawdzi kto gra w nocy

Jednym z najnowszych przykładów, który zaczyna dosyć mocno ingerować w przestrzeń do tej pory zastrzeżoną dla ludzi, jest moim zdaniem propozycja firmy Tencent. To potężny koncern technologiczny z Chin. Firma wprowadziła kilka dni temu na rynek technologię rozpoznawania twarzy, która ma zapobiegać uzależnianiu od gier. W szczególności dotyczy to osób młodych i dzieci. System będzie skanował twarze nieletnich graczy, którzy przekroczą tzw. godzinę policyjną.

Zobacz również:
Klikniesz, kotku? – wywiad z Piotrem Zielińskim o internetowych pracownicach seksualnych
Ekonomia pączka. Słodka wizja przyszłości czy naiwność?
Airbnb i Black Box. Wakacje z trupem w szafie

W tym momencie trzeba wyjaśnić, że Chiny wprowadziły w 2019 roku prawo zakazujące nieletnim zabawy w gry wideo w godzinach 22:00 a 8:00. Nie mogą one też przekraczać dziennego limitu czasu gry. Pomysł ma wiele warstw kontrowersji, a zatem po kolei. Po pierwsze samo prawo nie jest tak głupie jak się wydaje. Należy pamiętać, że bardzo silne uzależnienie od gier to nie tylko problemy wychowawcze czy edukacyjne. Chińczycy zapewne myślę też przyszłościowo, licząc na produktywnych, karnych, dobrze wykształconych pracowników, budujących chińską potęgę ludowego państwa. Przystosowanie do do czegoś w stylu korpo-godzin ma ten cel ułatwić.

Rozpoznawanie twarzy? Chińczycy „lubią to”

Oczywiście godzina policyjna nałożona na gry to coś bardzo wirtualnego. Wielu młodych Chińczyków śmiało mogło obchodzić wszelkiego rodzaju zakazy i ograniczenia. Stąd próba podjęcia bardziej radykalnych technologicznie pomysłów. A że Chińczykom do technologii inwigilacji dosyć blisko, o czym co i rusz donoszą zachodnie media, postawiono na rozpoznawanie twarzy. System działa od 5 lipca, na razie wyłącznie na gry mobilne. Rozpoznaje czy przed telefonem nie ukrywa się młodociany gracz, nawet jeśli ten pożyczy do gry telefon swoich rodziców.

Nie znamy na razie poziomu skuteczności rozwiązania. Mając jednak na uwadze wysoki poziom zaawansowania technologii face recognition wobec Ujgurów, można się spodziewać pozytywnych efektów. Całkowicie pomijana jest kwestia, co technologia Tencent robi z danymi na temat obrazu pozyskiwanego ze smartfona. Nie wiemy czy przy okazji nie inwigiluje dzieci, ale także rodzica. Ale w Chinach zapewne ten problem ma mniejszy wymiar niż w innych państwach.

Belgijski polityk pod specjalnym nadzorem

Drugi z przykładów, który ostatnio bardzo mocno by komentowany w mediach, to rozwiązanie oparte o sztuczną inteligencję pod nazwą Dries Depoorter. Wydaje się, że pomysł jest świetny, w końcu możemy patrzeć politykom na ręce. I to dosłownie, za pomocą zainstalowanych w belgijskim parlamencie kamer i wideo z obrad w serwisie YouTube. . System oparty a algorytmie SI skanuje streaming wideo. Następnie poddaje analizie i juz wie który z polityków podczas obrad, ważnych debat oraz kluczowych głosowań jest nico rozproszony przez technologię. Innymi słowy, czy bawi się telefonem jak małe dziecko w Chinach pomiędzy 22 a 8 rano.

Co ciekawe Belgowie poszli nawet dalej i publikują zdjęcia z „zapracowanymi” politykami w sieci. Wraz z ich oznaczeniem na kontach na Twitterze, Facebooku czy Instagramie. Wykorzystanie w tym procesie rozpoznawania twarzy i telefonów zapewne może pomóc w rozróżnieniu, czy polityk gra w popularne gry mobilne, korzysta z Facebooka, sprawdza rozkład lotów czy „matche” na Tinderze. Czy taka „inwigilacja” jest ok? Przecież to politycy, przejadają nasze pieniądze a do tego jeszcze bawią telefonem, zamiast ciężko pracować. Oczywiście ta optyka nieco się zmienia, jeśli spojrzymy na fakt, że jesteśmy w Europie, a nie w Azji. Dodatkowo czy chcielibyśmy, aby podczas naszej pracy szef sprawdzał, czy aby nie odebraliśmy zdjęcia od ukochanej? A może czy polajkowaliśmy słuszną społeczną ideę na Facebooku? Chyba nie.

Opieka Tesli nad kierowcą nie zdaje egzaminu

No dobrze, technologia opiekuńcza bawi dzieci, bawi dorosłych polityków, którzy zachowują się jak dzieci. Czasem też nas traktuje jak dzieci. Spójrzmy chociaż na funkcje autopilota w Tesli. Temat dosyć gorący, ponieważ będzie sprzedawać funkcję Full Self-Driving jako usługę w abonamencie. O ile wysupłanie nawet dodatkowych 10 tys. dolarów czasami było problemem dla kierowców, o tyle 200 dolarów miesięcznego abonamentu nie powinno być kłopotem. Niestety pomysł został szybko skrytykowany, ponieważ większość aut Tesli musi w celu działania usługi pobrać dodatkowe oprogramowanie. Dodajmy, że płatne. W zasadzie w każdej opcji klient musi zapłacić pokaźną sumę za korzystanie z autopilota.

A to właśnie ta technologi z wielu kierowców uczyniła bezbronne i bezwiednie korzystające z auta dziec. Jest też odpowiedzialna już za kilka zgonów, kilkadziesiąt wypadków i niezliczoną liczbę niebezpiecznych sytuacji, które nie zawsze wychodzą na jaw. System w Tesli pilnuje nas w samochodzie, czy aby nie spuszczamy oka z drogi, czy kierownicy, czy patrzy w lusterka, czy nie zasypiamy, czy nie bawimy się telefonem. W zasadzie do końca nie wiadomo na co samochód Tesli patrzy, bowiem nie wszystkie funkcje są oficjalnie podane. Dane są przesyłane bezpośredni do sytemu a ten przetwarza je i informuje auto, a nie kierowcę.

Dzieci we mgle. Czy technologia rozjaśni nam drogę?

Wydaje się niemal pewne, ze ludzie dzięki opiekuńczym technologiom ludzie zaczynają się zachowywać jak dzieci we mgle. Najgorsze jest to, że zaczynamy się też do tego przyzwyczajać. Czy będziemy umieć odpowiednio reagować kiedy zostaniemy pozbawieni technologii. Czy kiedy Wielki Cyfrowy Brat na chwilę spuści nas z oka wrócimy do złych nawyków i zaczniemy znów broić? Wydaje się, że technologie opiekuńcze jak „elektroniczna niania” mogą pomóc. Ale mogą też zabić nasz instynkt, coś, co do tej pory dla człowieka było oczywistym obszarem poznawczym, wkrótce może się skończyć. Czy wystarczy nam raport cyfrowego opiekuna, który potwierdzi, że wszystko jest dobrze?

Komentarz – prof. Stanisław Jędrzejewski z Katedry Nauk Społecznych Akademii Leona Koźmińskiego

Technologie opiekuńcze umożliwiają zdalną opiekę nad dziećmi, osobami starszymi, niepełnosprawnymi – ale też ludźmi wykonującymi zajęcia obarczone ryzykiem utraty zdrowia i życia. Z drugiej strony jednak, takie technologie wprowadzają mechanizmy kontroli. Wprowadzamy systemy opieki nad kierowcą, ale jednocześnie kontrolujemy jego wszystkie zachowania i decyzje.

Opaski monitorujące temperaturę skóry, mierzące prawidłowość pracy serca, automatycznie przesyłają informację o upadku i ewentualnej utracie przytomności człowieka starszego czy chorego do osoby opiekującej się, a dane zintegrowane z systemem dokumentacji w domach opieki społecznej umożliwiają ich lepszą analizę.
Monitoring swojego stanu zdrowia w ramach technologii Quantified Self dostarcza wiele potrzebnych informacji i poczucie władzy nad własnym ciałem, ale jednocześnie uzależnia nas od tych urządzeń.

Kredyt społeczny w Chinach postrzegany jest przez obywateli krajów demokratycznych jako narzędzie opresji władzy, ale dla wielu Chińczyków jest to forma opieki i troski państwa o dobrostan obywateli. W Europie system monitoringu Living Eearth Simulator miał w założeniu ostrzegać przed zagrożeniami naturalnymi, klęskami żywiołowymi, kryzysami klimatycznymi itd. – ale również gromadzić dane o ludziach. Należy tu zauważyć, że taki system łatwo wykorzystać do identyfikacji twarzy np. migrantów. W naszych czasach technologie pokazują Janusowe oblicze. Czynią dobro, ale i zło. Przyspieszają kryzysy, ale i je łagodzą. Rozprzestrzeniają fakenewsy, ale też umożliwiają szybką i skuteczną informację.