Kto nam ukradł i sprywatyzował przyszłość?

Technologiczni miliarderzy ubierają swoją fantazję o władzy nad światem w kostium science fiction – mówi mi Paris Marx, krytyk technologii i autor podcastu „Tech Won’t Save Us”.

W świecie krytyki technologii trudno nie znać Parisa Marxa – autora popularnego podcastu „Tech Won’t Save Us” i tekstów publikowanych na łamach „Jacobina” czy “New Statesmana” i „Disconnect”. Paris należy do grona ludzi, którzy najbardziej konsekwentnie obnaża Elona Muska i nie boi się zderzyć z opinią większości środowiska dziennikarzy technologicznych - krytykując AI, kryptowaluty czy wizje transportu autonomicznego (którym poświęcił książkę). Sam bardzo lubię jego program za zawsze aktualne tematy, wybiegające w przyszłość ujęcie problemów i obecny w odcinkach humor.

W rozmowie ze mną tłumaczy, że AI „nie zabierze ludziom pracy, tylko zostanie wykorzystane do pogorszenia sytuacji pracowników - jak to miało miejsce wielokrotnie w przeszłości”. Pokazuje, jak produkty i usługi sprzedawane jako „sztuczna inteligencja” są tak naprawdę wykonywane przez niskopłatnych pracowników przed komputerami w Indiach, Wenezueli i… obozach dla uchodźców. I co ma z tym wspólnego nowa Zimna Wojna.

To z całą pewnością jeden z najbardziej „gęstych” wywiadów w tym cyklu i taki, z którego kusi by podkreślić połowę wątków na czerwono i wielokrotnie do nich wracać. Przynajmniej ja tak mam. Mam nadzieję, że i Wam przypadnie do gustu.

Zapraszam do lektury kolejnej rozmowy o tym, jakie skutki i wyzwania niesie ze sobą wdrażanie algorytmów cyfrowych i „sztucznej inteligencji” do kolejnych sfer życia i instytucji państwa. Ten cykl realizuję wspólnie z Fundacją Panoptykon, a wszystkie wywiady ukazują się na bieżąco na stronie panoptykon.org.

---

Jakub Dymek: Co się stało z naszymi wizjami i marzeniami o przyszłości?

Paris Marx: Zostały zawłaszczone i sprywatyzowane.

Jak to? Przez kogo?

Nie ma jednej osoby, która za to odpowiada, choć najbardziej znane nazwiska możemy z łatwością wymienić: Musk, Zuckerberg, Altman… Chodzi o to, że im bardziej rządy krajów w świecie zachodnim wycofywały się z obietnicy dobrobytu, postępu i wielkich wizji społecznych jako takich, tym większa była luka w naszym myśleniu o przyszłości. I ona aż się prosiła, by ją zapełnić. Szukając genezy tego zjawiska, możemy cofnąć się aż do lat 70. XX wieku – ale najistotniejsze jest to, co wydarzyło się po kryzysie finansowym roku 2008. Wtedy władze na całym świecie oficjalnie zrezygnowały z rozwojowych ambicji i zmusiły ludzi do pogodzenia się z tym, że horyzontem ich marzeń powinien być wzrost gospodarczy większy o ułamek procenta lub drobna obniżka podatków. „Tyle maksymalnie możemy obiecać”. W tę lukę wchodzą przedstawiciele sektora cyfrowego, Doliny Krzemowej i technologiczni miliarderzy…

Chyba w korzystnym dla nich momencie? Skoro rządy nie mogły nic obiecać, oni postanowili obiecać wszystko.

Otóż to! Dzięki temu Dolina Krzemowa może przekonywać, że tylko postęp technologii nas uratuje. Zauważmy: nie programy społeczne, redystrybucja i opodatkowanie zamożnych. Nie wielkie publiczne projekty w dziedzinie zdrowia czy infrastruktury, które w przeszłości były konieczne, by korzyści z postępu technologicznego nie trafiały wyłącznie do garstki bogatych elit. Teraz mamy uwierzyć, że wielka zmiana (od sztucznej inteligencji, przez autonomiczne samochody, po kolonizację Marsa) jest tuż za rogiem, o ile tylko zaufamy Dolinie Krzemowej, a nie państwu. Nawet jeśli widzimy, że ta wielka zmiana wciąż nie może się zmaterializować!

Opowieść, która zaczęła dominować w minionej dekadzie, po kryzysie finansowym, służy więc dwóm celom. Po pierwsze: zapełnia próżnię po wizjach przyszłości. Po drugie: ugruntowuje wyjątkowy status Doliny Krzemowej i technologicznych miliarderów. Skoro tylko oni mogą nas uratować, to trzeba nie tylko pozwolić im działać tu i teraz, ale wręcz oddać prawo do decydowania, jak ta przyszłość ma wyglądać.

Jakie to wizje?

Niektóre z nich są czysto fantastyczne, jak chociażby kolonizacja Marsa obiecywana właśnie przez Elona Muska. W tym przypadku to science fiction opakowane w narrację o tym, że nasza planeta nie pozwoli nam na dalszą egzystencję, więc dla dobra ludzkości musimy skierować się ku gwiazdom. Jeśli chodzi o tzw. wielkie modele językowe, algorytmy używane w usługach typu chatGPT – im z kolei towarzyszy obietnica nauczenia komputerów mimikry, „robienia tego, co ludzie”. Aż (jak zdaje się wierzyć założyciel OpenAI, Sam Altman) połączymy ludzki mózg z komputerem i będziemy żyć wiecznie…

To wizje kierują naszą uwagę na pewne odległe, fantastyczne wręcz cele, na cyfrową przyszłość. W praktyce mają jednak uzasadniać status quo: olbrzymie zyski, brak opodatkowania i regulacji.

Jesteś sceptyczny co do potencjału tzw. sztucznej inteligencji? Czytałem twój tekst o próbach wprowadzania algorytmów do publicznej ochrony zdrowia. Piszesz, że technologia nie rozwiąże problemów wynikających z niedofinansowania i że lepiej nie robić sobie zbędnych nadziei.

Po pierwsze, zawsze przy takim zagadnieniu należy zapytać o to, co mamy na myśli, mówiąc „sztuczna inteligencja”. To pojęcie krąży od ponad półwiecza i przez ten czas oznaczało już bardzo różne, nierzadko abstrakcyjne rzeczy. Trudno być sceptycznym co do AI, jeśli AI może oznaczać tak wiele rzeczy.

Ok, to jasne. Ale za sceptycyzmem wobec „sztucznej inteligencji” stoi pewnie coś więcej, niż brak jasności, co do definicji.

Tak. Uważam, że możliwości zastosowania generatywnej sztucznej inteligencji są bardzo ograniczone i że powinniśmy być wobec nich ostrożni.

Chodzi mi choćby o to, w jakim politycznym otoczeniu te rozwiązania są wdrażane. To coś, co dobrze pokazał Dan McQuillan, badacz i autor książki Resisting AI. Jeśli główną motywacją administracji publicznej w sięganiu po rozwiązania tzw. sztucznej inteligencji są cięcia budżetowe i optymalizacja kosztów – to jakich innych rezultatów się mamy spodziewać? Z trudem przychodzi znaleźć przykłady, gdzie sięgnięcie po zaawansowane algorytmy czy narzędzia tzw. sztucznej inteligencji naprawdę służyło temu, by poprawić jakość usług publicznych. Albo dotrzeć z nimi szerzej, do kolejnych ludzi. Za to przykładów negatywnych skutków i wprost dyskryminacyjnego wpływu algorytmów na usługi publiczne nie brakuje.

Co masz na myśli?

W Australii wdrożono algorytmy służące ewaluacji skuteczności przyznawania pomocy społecznej – skończyło się tym, że ludzie musieli udowadniać systemowi komputerowemu, że nie są oszustami. Wiele niewinnych osób straciło zasiłki, borykało się z poważnymi problemami zdrowotnymi, miały miejsce przypadki najbardziej tragiczne: samobójstwa. Po kilku latach wyszło wprawdzie na jaw, że za niesprawiedliwe decyzje odpowiada wadliwy algorytm, ale po drodze skrzywdzono wiele osób. W Danii cyfryzacja systemu zasiłkowego doprowadziła do stworzenia masowego systemu nadzoru uboższych obywateli za pomocą algorytmów. Unia Europejska wdraża profilowanie podróżnych i migrantów, a kolejne kraje próbują oddelegować na algorytmy decyzje wizowe i analizę wniosków azylowych.

Problem nie dotyczy wyłącznie wadliwych technologii albo tego, że one nie są w stanie przysłużyć się lepszym celom. Bo tak długo, jak będziemy sięgać po algorytmy, kierując się logiką oszczędności i „optymalizacji”, będą one krzywdzić ludzi, którym w założeniu miały pomóc.

Ktoś powiedział mi ostatnio, że to, co nazywamy „wdrażaniem sztucznej inteligencji”, jest formą transferu pieniężnego z publicznej kasy do Doliny Krzemowej…

Zdecydowanie bym się z tym zgodził.

Ale czy ten transfer byłby możliwy, gdyby nie to, że algorytmy czy usługi bazujące rzekomo na tzw. sztucznej inteligencji są napędzane tanią pracą na całym świecie?

Trafne pytanie. Tak właśnie to wygląda w skali globalnej. Firmy projektujące usługi AI szukają taniej pracy na tzw. globalnym południu: od Kolumbii i Wenezueli, przez niektóre państwa Afryki, po Filipiny i Bangladesz. Często chodzi o to, by znaleźć ludzi tańszych niż komputer. Zawsze przychodzi mi na myśl ten przykład z pandemii, gdy Uber rzekomo używał narzędzi sztucznej inteligencji do sprawdzania tożsamości kierowców i tego, czy na pewno noszą maseczki. W rzeczywistości zdjęcia przeglądały osoby zatrudnione przez jedną z platform oferujących mikropłatności za wykonywane on-line zadania. Albo spójrzmy na funkcję „autopilota” w samochodach, która do poprawnego działania wymaga ręcznego opisywania danych przez pracujących za grosze Wenezuelczyków. Albo ChatGPT, który płacił Kenijczykom dwa dolary na godzinę za filtrowanie wulgarnych treści.

To bardziej niż innowacje przypomina opisany kiedyś przez Naomi Klein „kapitalizm katastrof” (disaster capitalism)?

I jest o tyle w gorzki sposób zabawne, że Dolina Krzemowa przez długi czas przekonywała nas, że stanowi ucieleśnienie dobrego kapitalizmu: wszystkie te slogany typu „Don’t be evil”, owocowe czwartki i luźne podejście do hierarchii w pracy. Gdy jednak spojrzeć na to, co robi naprawdę, staje się jasne, że chodzi o osłabienie pracowników, a nie o żaden lepszy kapitalizm.

Żeby to w pełni wyjaśnić, musimy się cofnąć do poprzedniej dekady.

OK. Dlaczego?

Oczywiście nowe technologie wielokrotnie w przeszłości były wykorzystywane do tego, aby osłabić siłę przetargową pracowników. Ale po roku 2010 byliśmy świadkami narracji nt. tego, że autonomiczne samochody mają pozbawić pracy taksówkarzy, dostawców, kierowców ciężarówek. Sporo mówiło się zatem, co należy zrobić, aby zapewnić tym ludziom byt. Może wprowadzić gwarantowany dochód podstawowy? A jednak zaobserwowaliśmy zupełnie inne zjawisko.

Miejsca pracy nie zniknęły?

Nie. Firmy użyły nowych technologii (algorytmów, modeli predykcyjnych, danych) nie do pozbawienia ludzi pracy, lecz do przekształcenia relacji pracownik–platforma i do zmiany układu sił na swoją korzyść. Dużo więcej miejsc pracy poddano tzw. uberyzacji: wyprowadzono je z sektorów dobrze płatnych i uzwiązkowionych do zautomatyzowanych centrów logistycznych, gdzie zatrudnia się ludzi przez agencje pracy tymczasowej i stosuje umowy czasowe. W handlu coraz więcej pracy dla wielkich cyfrowych gigantów zlecano podwykonawcom. Cybergiganci nie mogli zakazać działalności związkom zawodowym u swoich dostawców, ale mogli nie przedłużać kontraktów tym firmom, gdzie zawiązały się organizacje pracownicze – dzięki czemu osiągnęły podobny efekt. Oczywiście algorytmy zostały wprowadzone także do zarządzania i nadzoru pracowników w czasie rzeczywistym oraz do śrubowania i egzekwowania norm.

Czyli w tym całym haśle, że „AI zabierze ludziom pracę”, nie chodzi o to, że praca dosłownie zniknie – ale że cały technologiczny progres posłuży temu, aby pogorszyć sytuację pracownika, a algorytmy wykorzystać do dyscyplinowania i nadzoru?

Dokładnie. Nie chodzi jednak o technologię jako taką, lecz o sposób, w jaki używana jest ona przeciwko pracownikom. To jednak bardzo stare zjawisko. Nowe jest tylko to, że dziś mówimy o algorytmach czy sztucznej inteligencji. Technologie cyfrowe są jednak przedłużeniem czegoś, co znamy od bardzo dawna: obniżania siły przetargowej pracowników za pomocą groźby automatyzacji i likwidacji ich miejsca pracy. Gdy mówimy, że „AI zabierze ludziom pracę”, wydawać się może, że jakaś nieokreślona siła zrobi ludziom krzywdę. Jednak nie chodzi o to, co jakaś technologia zrobi sama z siebie. Miejsca pracy są zagrożone ze względu na decyzje, jakie podejmuje się na najwyższym piętrze w gabinetach prezesów. Widzimy, jak łatwo widmo technologii może zostać użyte jako narzędzie nacisku: „Musicie zaakceptować dzisiejsze warunki pracy, bo jutro i tak może was zastąpić technologia”. Opowiadanie, że ludzie stracą pracę w wyniku jej rozwoju, jest użytecznym sposobem na przekierowanie strachu (na jakieś roboty i sztuczną inteligencję) – tak by firmy mogły dalej robić to, co już robią.

Czy nie da się tego lepiej uregulować?

Po pierwsze to kwestia zanikających kompetencji. Nie wiem, czy o Europie można powiedzieć dziś to samo, ale w Ameryce Północnej przez ostatnie 20–30 lat byliśmy świadkami cięć i redukcji w instytucjach państwa odpowiedzialnych za technologię i naukę. Dodajmy wspomnianą już presję na ograniczanie wydatków i odchudzanie aparatu administracyjnego. To doprowadziło do tego, że instytucje publiczne i urzędy są upośledzone, jeśli chodzi o zdolność oceny i odpowiedniej reakcji na nowe zjawiska. A jeśli mówimy o sektorze cyfrowym, to konieczność bycia na bieżąco i uzupełniania kompetencji po stronie urzędników i regulatorów jest wielka.

A gdyby jednak zechcieli?

Nie możemy też zapominać o czynniku ekonomicznym. Wiele rządów boi się regulowania działalności technologicznych gigantów. Mówimy o naprawdę olbrzymich firmach, niezwykle zyskownych, dysponujących ogromnym kapitałem. Politycy mają poczucie, że warto żyć z nimi w zgodzie. Boją się utraconych wpływów z podatków, miejsc pracy albo tego, że wchodząc w konflikt, sami pozbawią się szansy na to, aby w ich regionie wyrósł jakiś jednorożec. Albo nie chcą wadzić się z jedną amerykańską korporacją, bo boją się, jak to wpłynie na inne inwestycje.

Sprytni prezesi wielkich korporacji też mają swoje sposoby, żeby tym zarządzać.

To znaczy?

Gdy zaczął się szum wokół generatywnej sztucznej inteligencji, prezes OpenAI Sam Altman zrobił swój słynny tour po Europie. Pozornie chodziło o to, by porozmawiać o zagrożeniach wynikających z AI. Faktycznie zaś o to, by przyszłe unijne regulacje były korzystniejsze dla jego firmy. To coraz popularniejsza zagrywka: firmy technologiczne same mówią, żeby je uregulować, ale w taki sposób, który nijak nie zaszkodzi ich modelowi biznesowemu. Elon Musk, ale także inni miliarderzy o podobnych mu poglądach, zacieśniają swoje więzy z prawicowymi rządami m.in. w Europie – także po to, aby uprzedzić ewentualne próby wprowadzenia niekorzystnego czy nielubianego przez nich prawa.

Na co zatem powinniśmy zwracać szczególną uwagę w przyszłości – nie tylko w zakresie postępowania samych firm, ale też globalnych konsekwencji wdrażania AI?

Warte szczególnej uwagi jest geopolityczne znaczenie, jakie zdobyła dziś branża cyfrowa. Przez wiele lat żyliśmy w przekonaniu, że Dolina Krzemowa jest z definicji wroga rządowi, bardzo wolnorynkowa, nieskora do współpracy z administracją. Nie chcą regulacji, nie chcą, aby mieszać się w ich interesy. Ale istnieje obszar, gdzie to się diametralnie zmieniło. Firmy z Doliny Krzemowej aktywnie starają się o kontrakty z Departamentem Obrony, Pentagonem, ośrodkami pracującymi dla sił zbrojnych. Chcą mieć w tym zakresie podobnie bliskie relacje także z rządami innych krajów – ponieważ prowadzą badania nad nowymi rodzajami AI i broni, która mogą im sprzedać.

„Nowa Zimna Wojna” im sprzyja?

Oczywiście, branża technologiczna widzi wielką szansę w rosnących napięciach między USA a Chinami. Presja na to, by wyeliminować Chiny z najbardziej wymagających i technologicznie zaawansowanych sektorów gospodarki daje przecież nadzieję na pozbawienie amerykańskich firm rosnącej konkurencji. Z jednej strony służą temu sankcje, a z drugiej – budowa systemu sojuszy na podstawie amerykańskiej technologii, który zmusza kolejne kraje na świecie do jednoznacznego wyboru kraju pochodzenia technologii (albo USA, albo Chiny).

W konsekwencji amerykański rząd będzie mniej skłonny do rozbijania monopoli czy wdrażania regulacji. Będzie traktował firmy technologiczne nie jak każdy inny biznes, ale jako zbrojne ramię w konflikcie o dominację z Chińską Republiką Ludową.

A ci sami miliarderzy, choć deklarują się jako przeciwnicy rządu, domagać się będą dla siebie gospodarczego protekcjonizmu?

Dokładnie tak, co zresztą już widzimy. Słynny i wpływowy inwestor z Doliny Krzemowej, Peter Thiel kiedyś próbował uciec spod władzy państwa i sponsorował ruch seasteading zmierzający do utworzenia autonomicznych pływających osad z dala od wpływów rządu. Dzisiaj wspiera polityków republikańskich, którzy bardzo mocno naciskają na zaostrzenie amerykańsko-chińskiej rywalizacji. To jest synergia interesów wielkich graczy z Doliny Krzemowej, którzy chcąc wykluczenia chińskiej konkurencji i ograniczenia znaczenia chińskiego sektora technologicznego, walczą o swobodę, brak regulacji i uzyskanie wpływów dla siebie.

Warto mieć to na uwadze. Sytuacja nie zakończy się na Chinach, zobaczymy ją także u nas: w Kanadzie, w Europie, w innych miejscach globu. Pojawi się presja, by – wraz z amerykańską obecnością w sferze bezpieczeństwa – to amerykańskie firmy technologiczne dominowały w technologiach i utrzymywały pierwszorzędną pozycję na lokalnych rynkach.

Tworzy nam to elegancką klamrę rozmowy. Zaczęliśmy od tego, jak ideologia i pewne wizje przyszłości służą Dolinie Krzemowej czysto instrumentalnie, i na tym też kończymy.

Paris Marx – pisarz, krytyk technologii, twórca podcastu „Tech Won’t Save Us”.