Hatalska: nie można kontrolować technologii

– Musimy zrozumieć jak technologia wpływa na nasz świat. Dlatego proponuję, żeby odejść od naszego dotychczasowego spojrzenia na technologię w kontekście problemów i rozwiązań i zacząć patrzeć na nią przez pryzmat wartości. W naszym zachodnim świecie mamy takie hurraoptymistyczne podejście do technologii, które zakłada, że technologia jest super, bo pomaga nam w takim a takim zadaniu. Nie myślimy w ogóle czy technologia zgodna jest z naszymi wartościami – wyjaśnia Natalia Hatalska, CEO i założycielka Foresight infuture. institute – instytutu badań nad przyszłością, autorka książki „Wiek paradoksów. Czy technologia nas ocali?”

Rafał Pikuła: To, co martwe, wydaje się żywe. Jesteśmy osamotnieni w świecie nieograniczonych kontaktów. Niedoinformowani w świecie nadmiaru informacji. Zagrożeni w bezpiecznych domach. Zdrowi, ale narażeni na wirusy. Ciekawie wygląda ten wiek paradoksów, wiek technologii.

Natalia Hatalska: Żyjemy w bardzo ciekawych czasach, ale też w najlepszym z możliwych światów. Patrząc, jak dziś żyjemy, w porównaniu z tym, jak było 100 czy 200 lat, to standard życia znacznie się poprawił. Mamy, przynajmniej w Europie, Polsce, dostęp do ciepłej wody, prądu, internet. Zmiana dotyczy też standardu życia w ujęciu społecznym. Mamy dostęp do edukacji, prawa wyborcze, ale przede wszystkim mamy możliwość zmieniania świata. Oczywiście nie jest tak, że zmierzamy w kierunku utopii albo też dystopii, jak to chciała popkultura. Mamy tendencję do polaryzacji, albo Wakanda i raj odzyskany, albo Mad Max i całkowite zniszczenie. Ja skłaniam się raczej do koncepcji protopii, o której mówił Kevin Kelly. Protopia zakłada ciągły rozwój, ale zmiana, która następuje jest powolna. W krótkiej perspektywie może nam się wydawać, że świat zmierza w złą stronę, bo problemów jest coraz więcej. Ale w dłuższej perspektywie jest lepiej. Zresztą, czy tak naprawdę chcielibyśmy żyć w utopii? Byłoby to strasznie nudne!

Dystopijne i utopijne narracje są jednak bardziej hot.

To, jak już mówiłam, wynika z tego, że takimi obrazkami karmi nas popkultura. My nie tylko nie rozumiemy technologii, co całego, szalenie skomplikowanego świata. Wciąż tkwimy w oświeceniowym, kartezjańskim myśleniu, które zakłada, że wiedza dzieli się na wiele części i wystarczy je poznać osobno – czyli np.: fizykę, biologię, matematykę – by po złożeniu w całość poznać świat. Jednak rzeczywistość jest dużo bardziej skomplikowana.

Także technologia już dawno przestała być prosta do zrozumienia.

W większości przypadków ludzie wciąż patrzą na technologię jak na narzędzie i uważają, że od naszego użycia technologii, zależy czy będzie ona dobra, czy zła. A przecież jest ona [technologia] coraz bardziej autonomiczna, samoreplikująca, niepoznawalna. Stoją za nią grupy interesów, rządy państw i korporacje, realizują one swoje cele, o których nie mamy pojęcia.

W swojej książce przytaczasz bajkę Momo albo osobliwa historia o złodziejach czasu i dziewczynce, która odzyskała skradziony dla ludzi czas. To opowieść o tworzeniu drugiego, lustrzanego świata. No i za pomocą technologii wizja z tej bajki się sprawdza! Mamy lustrzany świat.

Pewnie chodzi ci o internet. Dziś to faktycznie drugi świat, lustrzane odbicie tego realnego. Co prawda, wciąż jeszcze widzimy różnicę pomiędzy światem realnym a cyfrowym. Jest to, chociażby różnica pomiędzy spotkaniem na żywo a spotkaniem na Zoomie. Jednocześnie coraz więcej rzeczy robimy w sieci, coraz bardziej zanurzeni jesteśmy w cyfrowej rzeczywistości.

Póki co świat wirtualny jest płaski, odczuwany jedynie zmysłem wzroku i słuchu. Nasze ciało, którym doświadczamy świata, wciąż pozostaje poza internetem, ale to może się wkrótce zmienić. Dziś cyfryzujemy wszystko – pracę, relacje – tworzymy cyfrowe odbicia. Kolejnym etapem będzie cyfryzacja zmysłów. Tak, żebyśmy podczas spotkania na takim Zoomie mogli podać sobie dłoń, poczuć swój zapach.

Rozwój technologiczny eliminując poszczególne rzeczy, jednocześnie – paradoksalnie – sprawia, że nasza codzienność komplikuje się coraz bardziej. Lustrzany świat powoduje całą masę dodatkowych problemów, z którymi nie mieliśmy do czynienia wcześniej. Technologia działa dziwnie. Pomaga rozwiązać jeden problem, ale stwarza drugi. Do tego silnie nas uzależnia.

Coraz bardziej stajemy się niewolnikami technologii. Nie chodzi tylko o to, że bez technologii wiele rzeczy jest niemożliwych, ale o to, że one tak bardzo kreują nasze życie i kierują nim. Jeśli np. na Netfliksie wybieram film, to tak naprawdę nie jest to wolny wybór, bo w większości przypadków sugeruję się rekomendacjami algorytmu. Fakt, jest to wygodne, oszczędza czas, ale też sprawia, że zamykam się coraz bardziej w swojej bańce. Wolny wybór byłby wtedy, kiedy bym mogła zdecydować, czy chcę sugerować się rekomendacjami, czy nie.

Wybierasz komfort. Yuval Noah Harari, na którego powołujesz w swojej książce, pisał: „jeżeli naprawdę zależy ci na prawdzie, musisz się wyrwać z czarnej dziury władzy i pozwolić sobie na to, by stracić mnóstwo czasu na błąkanie się po peryferiach”. Czy to znaczy, że  musimy wciąż zbaczać z utartych szlaków komunikacji, by szukać prawdy?

Dziś możliwość gubienia się i błądzenia sprawia, że wciąż mamy wolność, niezależność. Ale co będzie, gdy jeszcze bardziej przeniesiemy się do świata technologii. Co będzie jeśli podłączymy nasze mózgi do sieci (np.: w systemie brain-computer interface), czy wtedy wciąż będziemy mieć wybór? Możliwe, że wówczas nawet nie zauważymy, że algorytm sam podjął decyzję.

Mam nadzieję, że takiej sytuacji nie będzie. Wydaje mi się, że coraz większa liczba osób zauważa, że zanurzenie się w świat technologii bywa szkodliwe.

Myślę, że pandemia pokazała wybitnie, że nie możemy i nie chcemy przenieść się całkowicie do świata cyfrowego. Wiemy, że spotkania na Zoomie nie zastąpią realnych spotkań. Tęsknimy i będziemy tęsknić za światem fizycznym. Inna rzecz, że coraz większy udział technologii w naszym życiu prowadzi do coraz większych problemów. Media społecznościowe, które miały ułatwić nam kontakt sprawiają, że czujemy się coraz bardziej samotni. W świecie online wiemy o sobie dużo więcej niż kiedykolwiek w dziejach, w świecie offline w ogóle się nie znamy. W świecie online narzędzia cyfrowe mają zwiększać naszą produktywność, w świecie offline mamy coraz mniej czasu, bo zabiera go nam świat cyfrowy.

Jednak od technologii nie uciekniemy. Jedyne co możemy zrobić to nauczyć się świadomie z nich korzystać. Musimy zrozumieć jak technologia wpływa na nasz świat. Dlatego proponuję, żeby odejść od naszego dotychczasowego spojrzenia na technologię w kontekście problemów i rozwiązań i zacząć patrzeć na nią przez pryzmat wartości. W naszym zachodnim świecie mamy takie hurraoptymistyczne podejście do technologii, które zakłada, że technologia jest super, bo pomaga nam w takim a takim zadaniu. Nie myślimy w ogóle czy technologia zgodna jest z naszymi wartościami. W książce dużo piszę o amiszach i ich podejściu do technologii. Wbrew pozorom nie jest tak, że oni żyją poza technologią. Oni korzystają z technologii, ale w bardzo świadomy sposób. Przed wprowadzeniem danego narzędzia oceniają, czy dana technologia będzie wspierać ich świat wartości. Jedną z ich kluczowych wartości jest rodzina, społeczność. Z tego powodu mają ustalone zasady dotyczące korzystania z telefonów – nie używają ich w domu, bo to mogłoby źle wpływać na bezpośrednie relacje z bliskimi, przerwać rozmowę, obiad czy jakąś inną czynność wykonywaną wspólnie. Ale używają za to telefonu w pracy.

Powinniśmy zatem korzystać z technologii jak amisze.

U nas nie ma debaty na temat wartości. Dopiero dziś, po 30 latach korzystania z internetu, próbujemy jakoś regulować sieć, rozmawiamy o tym, jak ona może wpływać na nasze życie. I często bywa tak, że jest już za późno, żeby niektóre zmiany odwrócić. Stanisław Lem pisał, że „za wyjście z opresji (…) zawsze trzeba płacić, przy czym rozmiary i terminy tej płatności, jak również sposoby jej egzekwowania z reguły są niespodzianką”. 

Początkom internetu towarzyszyła hiperoptymistyczna narracja, że oto powstało narzędzie, które uczyni nasz świat lepszym. Myśląc w kategoriach wartości zakładano, że wszelkie zło bierze się niewiedzy, więc jeśli da się ludziom użyteczne narzędzie do zdobywania wiedzy, to rozwiąże się problem rasizmu, homofobii i tak dalej. 

Jednak internet, zamiast otworzyć nam oczy na świat, zamknął nas w bańkach informacyjnych, w swoich plemionach. Nie wiem, czy można było to przewiedzieć. Internet trafił w ręce tych, którzy zrozumieli, że jeśli chce się zarabiać, to trzeba dzielić. Wzbudzanie emocji przekłada się na szybki zysk.

Parafrazując słowa Georgesa Clemenceau, premiera Francji z lat 20. XX wieku, można powiedzieć, że technologia jest zbyt ważna, by zostawić ją korporacjom. Co by było gdybyśmy nie oddali Internetu Big Tech-owi?

Nie jest też tak, że cała władza jest w rękach korporacji. W końcu z technologii korzystają ludzie i też mamy coś do powiedzenia. Powinniśmy więc wpływać na kształt technologii. Im więcej wyedukowanych, świadomych jednostek, tym łatwiej wywierać presję. W końcu taki Facebook nie poradzi sobie bez użytkowników.

Z drugiej strony wciąż nikt nas nie pyta, jaka ma być technologia, decyzje dotyczące technologii podejmowane są dosyć autorytarnie. W gabinetach prezesów lub polityków.

Jan Zygmuntowski popełnił w Gazecie Wyborczej ostatnio ciekawy tekst „A co, gdyby Zuckerberg z dnia na dzień udał się na bezterminowy cyfrowy detoks?”, trochę z gatunku Sci-Fi, w którym wykreował wizję, że to sami użytkownicy Facebooka są właścicielami platformy i decydują o jej kształcie. Czy taka społeczna kontrola Internetu nie byłaby dobrym rozwiązaniem?

Po pierwsze, obawiam się, że nie byłoby to możliwe. Po drugie, mogłoby działać wtedy – choć i tak nie do końca, gdyby całe społeczeństwo było świadome mechanizmów funkcjonowania technologii i mediów społecznościowych, wszystkich zależności. Musielibyśmy mieć też pewność, że decyzje podejmowane byłyby na podstawie realnej wiedzy, a nie dezinformacji. Sam wiesz, że dziś ludzie niszczą maszty 5G, bo uważają, że rozsiewają one koronawirusa albo wierzą, że szczepionka zawiera nanochipy do sterowania ludźmi. Nie wiem, czy dobrze by było, gdyby decyzje o kształcie sieci podejmowane były na podstawie takich informacji. Nawiązując do 5G, to zresztą znamienne, że trwa dyskusja o tym, czy maszty 5G rozsiewają wirusy, ale debata o tym, że technologia ta jest kontrolowana przez Chiny i że to jest realne zagrożenie, jest zdecydowanie mniej intensywna.

Mamy też generalnie problem z debatą publiczną. Nie potrafimy rozmawiać. W domach i w przestrzeni publicznej. Wygłaszamy monologi. Naprawa lustrzanego świata wymaga myślenia wspólnotowego ponad podziałami. Nie wiem, czy potrafimy tak działać, globalnie?

Ostatnio czytałam wspomnienia pewnego astronauty, który uczestniczył w międzynarodowej misji kosmicznej. Astronauci w miarę wznoszenia się w górę, pokazywali – o tam, jest mój kraj – albo – tam jest mój kontynent. Po chwili jednak widzieli już tylko jedną planetę. Glob, który dla nich jest wspólny.

Piękna anegdota, ale zazwyczaj mamy problem z zauważeniem globalnych problemów. Nie rozumiemy, że wycinka lasów w jednym miejscu powoduje huragany w drugim. Albo pustynnienie na południu masowe migracje na północ. Nie ma co liczyć, że połączymy kropki. Ktoś musi to zrobić za nas. Trzeba to zrobić jak z reklamówkami w marketach. Przez lata nie udawało się przekonać ludzi do rezygnacji z używania jednorazowych reklamówek. W końcu pojawiła się ustawa, która wprowadzała opłaty za nie. Była to niewielka opłata – kilkanaście, kilkadziesiąt groszy – ale sprawiła, że ludzie przestawili się na torby wielokrotnego użytku.

Tak też powinno być z technologią. Nam się wydaje, że możemy sami kontrolować technologię, ale to nie jest możliwe.  Potrzebne są regulacje. Potrzebna jest współpraca na linii korporacje technologiczne – rządy – liderzy opinii, tak aby razem wypracować właściwe rozwiązania. W środowisku etyków dyskutuje się o czymś takim jak przysięga technokratyczna. Każda osoba, która działa w technologii, składałaby taką przysięgę – coś na kształt przysięgi Hipokratesa – że nie będzie działać na szkodę ludzi.

W swojej książce przytaczasz historię Elizabeth Warren, byłej kandydatki na urząd Prezydenta USA, która postulowała podzielenie spółek określanych jako Big Tech, ze względu na pozycję rynkową i związany z tym kolosalny wpływ na prywatność ludzi, wolność, słowa i podejmowane przez nie decyzje. Ale to raczej nie jest możliwe? 

Gosia Fraser (dziennikarka technologiczna i analityczka prywatności – przyp. red) powiedziałaby ci, że to nic by nie pomogło, bo korporacje znalazłyby sposób, by taki podział nie groził ich interesom. Myślę, że właśnie kwestia regulacji prawnych jest możliwa. Na przykład jasne reguły dotyczące moderacji treści w internecie. Oddawanie decyzji o tym, jakie treści mogą być wyciszane lub blokowane, w ręce komercyjnych spółek stwarza wiele zagrożeń, w tym chociażby to, że konkretne osoby o konkretnych poglądach nastawione na zysk i własne interesy decydują o tym, jaką wizję świata mamy zobaczyć.

Internet, mamy jaki mamy – w mojej ocenie wciąż nie najgorszy i możliwy do naprawy. Tym, co budzi moje obawy, jest bałkanizacja Internetu. Dziś Internet jest ponadnarodowy, i pomimo wielu wad, pozwala na obcowanie z innymi kulturami, z innymi ludźmi, gdy Internet stanie się narodowy może to doprowadzić do niespotykanego w dziejach wzrostu nacjonalizmów, globalnej wojny, świata z Orwella, wobec którego dzisiejszy świat jest jedynie namiastką.

Wydaje mi się, że nie jest możliwa nacjonalizacja internetu na globalną skalę. Jest to po prostu nieopłacalne. Taka nacjonalizacja oznaczałaby duże straty ekonomiczne. Dużym problemem jest wyłączanie globalnego Internetu w poszczególnych krajach. Nie wiem czy wiesz, że liderem wyłączania sieci jest największa demokracja świata, czyli Indie.

Fotografia otwierająca:  Renata Dąbrowska