Gdy unijni biurokraci dyskutowali z lobbystami na temat opóźnienia oraz „złagodzenia” aktów wykonawczych rozporządzenia o sztucznej inteligencji, papież Leon XIV przygotował dokument, który na problemy z AI patrzy od strony człowieka. Gdy Unia Europejska wytrąca sobie z rąk narzędzia prawne, jedyne w zasadzie, którymi może się posługiwać, Watykan w pełni wykorzystuje swoje narzędzia do przedstawienia porządku etycznego dla świata psutego przez technofeudalizm.

Cyfrowi kapitaliści świetnie wykorzystali możliwości, jakie wynikły z rozwoju technologicznego i braku uregulowania obszarów nowych technologii i sztucznej inteligencji. W imię postępu, wygody i indywidualizacji konsumenckiej, pozwolono im zagarnąć dane użytkowników, owoce pracy, dobra kultury. Te dane zostały wykorzystane zanim pomyślano o dopasowaniu rozwiązań prawnych do nowych czasów. Regulacje wprowadzane są bardzo powoli i nie są w stanie odwrócić utracenia przez społeczeństwa tego, co już zostało zagarnięte i wykorzystane. Rozporządzenie o sztucznej inteligencji jest dobrym przykładem: to akt prawny, który miał uporządkować zastosowanie technologii, debatowano nad nim wiele miesięcy, opublikowano dwa lata temu, a teraz przesunięto wprowadzanie kluczowych przepisów. AI Act już teraz jest regulacją niewystarczająco odnoszącą się do bieżącej sytuacji, ponieważ postęp technologiczny w obszarze, którego dotyczy, jest gwałtowny. Na gruncie prawnym wygranymi są ci, którzy byli pierwsi, są coraz potężniejsi ekonomicznie i mają najlepszych lobbystów i prawników.

Technokratyczny chaos regulacyjny

AI Act zgodnie z założeniami miał obowiązywać w największym zakresie od 2 sierpnia 2026 roku, gwarantując przejrzystość, informacje dla użytkowników i ograniczenie ryzyka w stosowaniu systemów opartych na sztucznej inteligencji. W maju europejscy biurokraci po kilku miesiącach negocjacji postanowili jednak przesunąć wejście w życie tych przepisów, m.in. w odniesieniu do zastosowania AI w pracy do rekrutacji, oceny, premiowania czy zwalniania pracowników. Unia Europejska chce w ten sposób uniknąć „chaosu regulacyjnego” – jednocześnie ten chaos kreując, na trzy miesiące przed zaplanowanym dwa lata temu wejściem przepisów. Opóźnienie ma pomóc biznesowi i jest też określane jako uproszczenie i złagodzenie przepisów. Te przepisy w odniesieniu do świata pracy mogłyby stać się punktem wyjścia do dialogu i wdrażania sensownej automatyzacji. Nawet jeśli porządne wdrożenie przepisów w grudniu 2027 wymaga rozpoczęcia działań już teraz, to unijna logika prawna nie wskazuje na interes obywateli jako nadrzędny.

Podejście unijne jest technokratyczne oraz minimalistyczne w odniesieniu do dbałości o pracę. Fundament etyczny dla rozwoju jest wątły, Unia Europejska nie chciałaby po prostu wypaść z globalnego wyścigu technologicznego. Okazuje się jednak, że owego fundamentu etycznego można szukać w Europie, ale nie w instytucjach UE, lecz w Watykanie.

Przesunięcie pola walki

Encyklika „Magnifica humanitas”, odnoszącą się do sztucznej inteligencji, idzie tam, gdzie unijni biurokraci raczej nigdy nie dojdą.

W dokumencie, całościowo ujmującym problemy z rozwojem sztucznej inteligencji, Leon XIV omawia wyzwania współczesnego świata w wielu odniesieniach. Rozdział IV podejmuje tematy dotyczące negatywnego wpływu AI na pracę, które wybrzmiewają od kilku lat u progresywnych analityków: „obecne podejścia do AI mogą paradoksalnie prowadzić do obniżenia kwalifikacji pracowników, poddawania ich automatycznemu nadzorowi oraz sprowadzania ich roli do sztywnych i powtarzalnych czynności. Konieczność nadążania za tempem technologii może osłabiać poczucie sprawczości pracowników i tłumić ich zdolność do innowacyjnego myślenia, której oczekuje się od nich w miejscu pracy. Właśnie po to, aby uniknąć takiego wynaturzenia, należy projektować systemy skoncentrowane na osobie, a nie jedynie na wydajności.”

Odniesienie do zwiększania się nierówności oraz zyskowności jako najważniejszego celu cyfrowych kapitalistów wskazują, że jest to dokument z zupełnie innego świata, niż wizje rozwoju z Doliny Krzemowej, gdzie bogactwo i wygoda są ważniejsze od współistniejących kosztów bezrobocia technologicznego. „Z pewnością pożądane jest, aby technologia uwalniała człowieka od prac szczególnie uciążliwych, powtarzalnych lub niebezpiecznych oraz oferowała inteligentne wsparcie dla działalności człowieka, jednak zasadą ogólną musi pozostać ochrona miejsc pracy oraz niezastąpionej roli osoby. Cel osiągania większych zysków nie może usprawiedliwiać decyzji, które systematycznie poświęcają zatrudnienie, ponieważ osoba ludzka jest celem, a nie środkiem, a porządek gospodarczy musi pozostawać podporządkowany jej godności i dobru wspólnemu”.

W pewien sposób etyczne odniesienie encykliki i unijne regulacje mogłyby się uzupełniać. To nie jest duchowość kontra racjonalizm. Unia Europejska próbuje kształtować swój świat poprzez stanowione prawa, nie dbając zbytnio o komunikowanie etycznego wymiaru rozporządzeń. Obywatele raczej widzą ścieranie się państw niż wspólny fundament cywilizacyjny, na którym poprzez prawa budowana jest wspólnota europejska. Duch wspólnoty jest natomiast w encyklice. Nie trzeba być częścią Kościoła Katolickiego, żeby zgadzać się z głoszonymi w „Magnifica humanitas” tezami o konieczności ochrony godności pracy, rozwoju technologii, która nie tworzy masowego bezrobocia. Albo ze spojrzeniem na rozwój gospodarczy jako coś, co tworzy wspólnotowy dobrobyt, zmniejsza nierówności i chroni środowisko naturalne. Być może to właśnie jest właściwe pole walki z logiką systemu, który budują nam cyfrowi kapitaliści.

Fundamentalne różnice

A jest to system, który powstawał oczywiście na zupełnie innych fundamentach, niż te omawiane w papieskim dokumencie. Mechaniczny behawioryzm, jako główna zasada organizująca big data, został przeniesiony do wszelkich aspektów zastosowania danych zbieranych cyfrowo. Nie jest istotne, co myślą użytkownik, pracownik, konsument. Ważne jest, które bodźce wywołują jakie zachowania, a co za tym idzie: jakimi bodźcami wywołać zachowania, które przynoszą największe zyski. Można pominąć pytania, dlaczego tak się dzieje i jakie to ma konsekwencje. Konsument żyje w poczuciu pseudodostępności wszystkiego i hiperindywidualizacji, która jest w rzeczywistości przewidywaniem pragnień na podstawie danych i uzależnianiem poprzez dopaminowe cyfrowe strzały.

Firmy mamione są marketingowymi mitami o potędze AI, straszone wypadnięciem z rynku, jeśli nie kupią odpowiedniej technologii, zachęcane hasłami o tym, że AI zastąpi im pracowników. Działa też zasada dilerów: po uzależnieniu systemów od technologii dostępnej cenowo, stawki rosną, być może do poziomu refleksji, że jednak ludzie byliby tańsi. Do tego działa złudzenie technologicznej totalnej kontroli, nadal trwa moda na coraz dalej idący monitoring pracowników. Efekty tego wszystkiego są coraz bardziej widoczne: wzrost nierówności płacowych, zagrożenie bezrobociem technologicznym, dehumanizacja środowiska pracy. Można też odnieść wrażenie, że tech-bros przeczytali esej Davida Graebera „Fenomen gówno wartych prac”, ale zrozumieli z niego tylko tyle, że kapitalizm wytworzył stanowiska, które były bezproduktywne – i robią wszystko, żeby te stanowiska wyciąć. Te prace może wykonywać przecież AI.

Politycy z jednej strony już pokazują objawy uzależnienia od dostawców z firm technologicznych, ale z drugiej strony chętnie zrzuciliby część odpowiedzialności za nieciekawe działania wobec społeczeństwa na AI. Technologia umożliwia coraz więcej, jeśli chodzi o monitoring obywateli, rozwiązania są, potrzebna jest tylko gotowość polityków i nagięte prawo lub jego brak. W sferze militarnej Palantir oficjalnie ogłosił niedawno przejście w wyścigu zbrojeń z atomu na AI. Nawet jeśli wiele z tego to marketingowe mity, a decydenci nie mają za bardzo pojęcia o technologii, to boją się wyjść na idiotów i kupują to, co oferują im wielkie i dobrze zsieciowane politycznie firmy.

Na najwyższym poziomie mamy ideologiczne manifesty, jak ten Palantira, gdzie do twardej neoliberalnej bazy dodana jest nadbudowa w stylu nieco netflixowego faszyzmu lub w rozbudowanej wersji ciemnego oświecenia. Być może samo wyznawanie behawioryzmu nie wystarcza w Krzemowej Dolinie i potrzeba odpowiedzi na pytanie „Dlaczego?”, natomiast wychodzi na to, że jaka baza, taka i nadbudowa. AI ma zagarniać coraz to nowe obszary, uzależniać użytkowników i umożliwiać wystawianie rachunku, jak w wypowiedzi Sama Altmana: „Widzimy przyszłość, w której sztuczna inteligencja jest taką samą usługą, jak prąd czy woda, a ludzie kupują ją od nas według licznika”.

Próba przywrócenia porządku

W tym kontekście Leon XIV jawi się jako przywódca, który nie uległ marketingowym bzdurom opowiadanym w takich miejscach, jak Davos czy w zaciszach gabinetów, gdzie prezentowane są konkretne rozwiązania, które trzeba mieć, żeby nie wypaść z aktualnego wyścigu. Encyklika wygląda jak próba przywrócenia porządku w dyskusji o rozwoju technologicznym. Jeśli ten rozwój sprawia, że coraz więcej ludzi ma coraz gorzej tylko po to, aby coraz węższa grupa zarabiała coraz więcej, to rozmowa musi odbywać się inaczej niż tylko w języku rozporządzeń i dyrektyw.

Sprawiedliwy podział korzyści, człowiek jako odniesienie, ochrona wspólnoty – to są fundamenty, na których powinno być rozwijane prawo. Nieprzypadkowo papież w encyklice odnosi się do wspólnego działania w różnych kierunkach i na różnych obszarach: „Potrzebny jest nowy wspólny wysiłek odpowiedzialnych za politykę, organizacji zrzeszających pracowników, środowiska przedsiębiorców i wspólnoty naukowej, aby w krótkim czasie wypracować odpowiednie i uzgodnione normy oraz zabezpieczenia, również na poziomie międzynarodowym. Organizacje związkowe, które Kościół zawsze wspierał, są wezwane do otwarcia się na nowe formy pracy i na nowych pracowników, by ich reprezentować i bronić w sytuacji, w której – bez odważnych decyzji – rysuje się perspektywa większego ubóstwa i większych nierówności, z rzeszą wykluczonych otoczonych przez maszyny i systemy zautomatyzowane, które zajęły ich miejsce”.

Ogólne wezwanie do działania jest idealistyczne, ale zwrócenie uwagi organizacjom reprezentującym pracowników na konieczność działania w tym obszarze może być pomocne w mobilizacji do działań. Na zmiany odgórne, na poziomie państwowym czy ponadpaństwowym, trudno liczyć, jak widzimy na przykładzie unijnym. Choć są tam również prowadzone dyskusje nad rozporządzeniem dotyczącym stosowania zarządzania algorytmicznego, cyfryzacji i AI w środowisku pracy, ale to pewnie jeszcze kilka lat przepychanek pomiędzy regulatorami i lobbystami. Paradoksalnie, być może łatwiej będzie próbować powalczyć o dobrą automatyzację na poziomie firm. Zajmując się konkretnymi rozwiązaniami w konkretnej organizacji, łatwiej o zaprojektowanie zmian technologicznych w taki sposób, żeby pozwalały na rozwój razem z ludźmi, a nie zamiast ludzi.

Wymaga to na pewno zmiany perspektywy w patrzeniu na technologie oparte na AI i na samą sztuczną inteligencję. Trzeba zerwać z mitem AI jako czegoś potężnego, niewiadomego, niekontrolowalnego, niemal człowieczej natury. Być może ta perspektywa powoli się zmienia.

Sztuczna inteligencja jako zombie

Filozofia umysłu zajmuje się definiowaniem, na jakich zasadach odbywają się procesy myślowe człowieka. Z tego obszaru pochodzi metafora świata zombie – istot, u których pewne impulsy fizykochemiczne wywołują określone zachowania wyglądające tak jak ludzkie, ale niezwiązane z ludzkimi stanami mentalnymi. Stany mentalne to nic innego, jak upraszczając, emocje, odczucia, motywacje, czyli to wszystko, co u człowieka jest w dużym stopniu odpowiedzialne za zachowania. Czyli człowiek, podobnie jak zombie, jest poruszany dzięki impulsom elektrycznym z układu nerwowego, reakcjom fizykochemicznym układu mięśniowego, ale równolegle z tym wszystkim występują określone stany mentalne, których już w kategoriach fizykochemicznych opisywać się nie da.

Spójrzmy przy użyciu tej metafory na sztuczną inteligencję. Działa w oparciu o określone impulsy elektryczne. To obserwowalne dla człowieka działanie często ma symulować ludzki sposób myślenia. Szczególnie widać to w przypadku zaawansowanych systemów typu duże modele językowe, gdzie ich wykorzystanie odbywa się w formie dialogu. Użytkownik może obserwować w tym dialogu zachowania komunikacyjne typowe dla człowieka, ale jest to symulacja pozbawiona owych stanów mentalnych – emocji, odczuć, motywacji, idei. Może dawać człowiekowi-odbiorcy komunikatów poczucie, że rozmawia jak z człowiekiem, ale to rozmowa z owym zombie pozbawionym ludzkich odczuć, który akurat zachowuje się podobnie jak człowiek. Jest to rozmowa z zombie-symulacją człowieka.

Przez lata starano się przedstawić AI jako potężną moc, która przeskoczywszy inteligencję człowieka, może stanowić zbawienie lub zagrożenie dla ludzkości. W rzeczywistości jest to kapitalistyczny wyścig o jak największe zyski. Może czas dostrzec, że ten wyścig jest napędzany przez cyfrowe zombie. Nawet jeśli akurat o zombie nie ma nic w encyklice papieskiej.

Roman Rostek

Grafika w nagłówku tekstu: moritz320 from Pixabay.