Dlaczego stare słowa nie wystarczają
Każda epoka próbuje najpierw opisać nowe zjawisko starymi słowami. To naturalne. Umysł nie tworzy od razu nowego języka dla każdej zmiany, którą napotyka. Najpierw sięga po to, co już zna: automatyzację, cyfryzację, technokrację, algorytmy, regulację, zarządzanie, innowację, bezpieczeństwo, efektywność. W przypadku sztucznej inteligencji dzieje się dokładnie to samo. Gdy AI pojawia się w urzędzie, mówimy o cyfryzacji administracji. Gdy wspiera firmę, mówimy o automatyzacji procesów. Gdy pomaga ekspertom, mówimy o narzędziach decyzyjnych. Gdy wchodzi do państwa, mówimy o państwie algorytmicznym. Gdy pojawiają się ryzyka, mówimy o AI governance. Gdy ktoś wyobraża sobie skrajną przyszłość, mówi o AI-tocracy, czyli rządach sztucznej inteligencji. Każde z tych słów coś pokazuje. Żadne nie pokazuje całości.
Automatyzacja jest najprostszym z tych pojęć. Oznacza przekazanie maszynie czynności, którą wcześniej wykonywał człowiek albo grupa ludzi. Automat może sortować dokumenty, wypełniać formularze, wysyłać przypomnienia, naliczać opłaty, generować raporty, odpowiadać na typowe pytania, obsługiwać magazyn, analizować faktury, wykrywać powtarzalne błędy. W tym sensie automatyzacja jest stara. Przemysł zna ją od dawna. Biurokracja zna ją od dawna. Informatyka zna ją od dawna. Gdy mówimy tylko o automatyzacji, widzimy AI jako narzędzie wykonujące proces szybciej, taniej albo bardziej konsekwentnie. To ważne, ale za mało. Syntokracja nie zaczyna się tam, gdzie maszyna coś wykonuje. Zaczyna się tam, gdzie maszyna wpływa na to, co zostanie uznane za warte wykonania, komu zostanie pokazane, w jakiej kolejności, pod jaką etykietą ryzyka i z jakim domyślnym kierunkiem dalszego działania.
Cyfryzacja również nie wystarcza. Cyfryzacja przenosi procedury, dane, komunikację i usługi do formy cyfrowej. Papierowy formularz staje się formularzem online. Wizyta w urzędzie staje się profilem użytkownika. Archiwum staje się bazą danych. Kolejka w okienku staje się elektronicznym systemem zgłoszeń. To może być ogromna zmiana organizacyjna, ale sama cyfryzacja nie musi jeszcze oznaczać syntokracji. Cyfrowy system może nadal działać według prostych reguł, które człowiek rozumie i może prześledzić. Problem zaczyna się wtedy, gdy cyfrowa infrastruktura zostaje połączona z modelami predykcyjnymi, rankingami, klasyfikacją ryzyka, automatycznym profilowaniem, systemami rekomendacji i agentami, które zaczynają nie tylko przechowywać dane, ale aktywnie układać pole decyzji. Cyfryzacja tworzy powierzchnię. Syntokracja pojawia się wtedy, gdy ta powierzchnia zaczyna decydować, co staje się widzialne, pilne, podejrzane, opłacalne albo dopuszczalne.
Technokracja jest bliżej problemu, ale także nie obejmuje go w pełni. Technokracja oznacza porządek, w którym szczególne znaczenie otrzymują eksperci, specjaliści, analitycy i instytucje wiedzy. W takim porządku decyzje polityczne i administracyjne są silnie uzależnione od danych, modeli, raportów, prognoz, symulacji i wiedzy fachowej. Technokracja odpowiada na słabość czystej polityki: skoro świat jest złożony, nie można rządzić samą wolą większości ani samą retoryką. Potrzebna jest kompetencja. Jednak technokracja nadal zakłada, że za wiedzą stoi człowiek albo instytucja ludzka. Ekspert może być przesłuchany, skrytykowany, zastąpiony, zakwestionowany, zaproszony do debaty. Nawet jeśli jego język jest trudny, pozostaje uczestnikiem ludzkiego porządku odpowiedzialności. Syntokracja przesuwa środek ciężkości gdzie indziej: z eksperta jako osoby na system jako warstwę operacyjną. Ekspert może nadal istnieć, ale coraz częściej sam pracuje już na danych, podsumowaniach, modelach i rekomendacjach wygenerowanych przez system, którego pełnego działania nie widzi.
Państwo algorytmiczne to kolejne potrzebne, ale niewystarczające pojęcie. Opisuje sytuację, w której administracja publiczna, służby, sądy, systemy pomocy społecznej, podatki, ochrona zdrowia albo bezpieczeństwo zaczynają korzystać z algorytmów do klasyfikacji, oceny i zarządzania obywatelami. To pojęcie pozwala zobaczyć ważną część syntokracji: obywatel zostaje przetworzony jako dane, profil, ryzyko, kategoria, prawdopodobieństwo, przypadek. Jednak syntokracja nie ogranicza się do państwa. Może działać równie silnie w firmach, bankach, platformach, aplikacjach, marketplace’ach, systemach reklamowych, ubezpieczeniach, rekrutacji, edukacji prywatnej, systemach płatności i mediach społecznościowych. W wielu miejscach prywatna infrastruktura ma dziś większy wpływ na codzienne życie niż formalna decyzja administracyjna. Dlatego samo pojęcie państwa algorytmicznego zawęża obraz. Syntokracja obejmuje szersze pole: państwo, rynek, platformy, organizacje i interfejsy życia codziennego.
AI governance pyta z kolei, jak zarządzać sztuczną inteligencją. Jakie powinny istnieć regulacje, standardy, audyty, testy bezpieczeństwa, zasady przejrzystości, procedury odpowiedzialności, ograniczenia wdrożeń, wymogi dokumentacji i mechanizmy kontroli? To pytania konieczne. Bez nich rozwój AI może stać się chaotyczny, niebezpieczny i nieodpowiedzialny. Ale AI governance często zaczyna od założenia, że AI jest obiektem regulacji: czymś, co trzeba ocenić, ograniczyć, dopuścić, certyfikować albo kontrolować. Syntokracja zadaje pytanie wcześniejsze i bardziej niewygodne: co dzieje się z samą władzą, gdy AI przestaje być tylko przedmiotem regulacji, a staje się częścią procesu, przez który regulacja, administracja, rynek i decyzje społeczne są wykonywane? Innymi słowy: AI governance pyta, jak człowiek ma kontrolować AI. Syntokracja pyta, co zostaje z ludzkiej kontroli, gdy AI współorganizuje środowisko, w którym kontrola ma się dokonać.
AI-tocracy, czyli wyobrażenie rządów sztucznej inteligencji, także nie jest tym samym co syntokracja. AI-tocracy sugeruje bardziej radykalny, często dystopijny obraz: maszyna jako władca, system jako suweren, algorytm jako rząd, człowiek jako poddany automatycznego porządku. Ten obraz jest silny, ale zbyt teatralny. Może być użyteczny jako ostrzeżenie przed skrajnym scenariuszem, lecz zaciemnia proces, który dzieje się znacznie wcześniej. Syntokracja nie wymaga, aby AI formalnie przejęła władzę. Nie wymaga jednego centralnego systemu ani deklaracji końca demokracji. Może rozwijać się w świecie, w którym konstytucje nadal obowiązują, wybory nadal się odbywają, ministrowie nadal występują publicznie, sędziowie nadal uzasadniają wyroki, firmy nadal mówią o odpowiedzialności, a obywatele nadal klikają „zgadzam się”. Jej siła polega właśnie na tym, że może działać pod powierzchnią zachowanych form.
Stare słowa zawodzą, ponieważ opisują albo wykonanie, albo infrastrukturę, albo ekspertów, albo regulację, albo skrajny scenariusz przejęcia władzy. Syntokracja opisuje coś pomiędzy i głębiej zarazem: zmianę warunków decyzyjności. Nie chodzi tylko o to, że decyzje są szybsze. Nie chodzi tylko o to, że dane są cyfrowe. Nie chodzi tylko o to, że eksperci korzystają z modeli. Nie chodzi tylko o to, że państwo stosuje algorytmy. Nie chodzi tylko o to, że trzeba regulować AI. I nie chodzi tylko o to, że kiedyś maszyna mogłaby rządzić bez człowieka. Chodzi o to, że AI coraz częściej znajduje się wewnątrz drogi prowadzącej do decyzji: przed decyzją, pod decyzją, obok decyzji i w tle decyzji. Organizuje percepcję decydenta, ustawia kolejność spraw, filtruje rzeczywistość, ocenia prawdopodobieństwa, przygotowuje uzasadnienia, podpowiada kierunki i zmniejsza widoczność alternatyw.
To dlatego potrzebujemy osobnego pojęcia. Bez niego będziemy stale mylić poziomy. Będziemy mówić o automatyzacji wtedy, gdy problemem jest przesunięcie władzy. Będziemy mówić o cyfryzacji wtedy, gdy problemem jest niewidzialna klasyfikacja. Będziemy mówić o technokracji wtedy, gdy ekspert sam staje się operatorem systemu, którego nie potrafi w pełni odczytać. Będziemy mówić o AI governance wtedy, gdy AI już współorganizuje proces governance. Będziemy straszyć AI-tocracy, podczas gdy realna syntokracja będzie rosła spokojnie w dashboardach, scoringach, workflowach, aplikacjach, modelach ryzyka, rekomendacjach i domyślnych ustawieniach. Największe zmiany władzy nie zawsze przychodzą jako nowe ustroje. Często przychodzą jako nowe procedury.
Syntokracja pyta więc o władzę w miejscu, w którym stare słowniki zwykle przestają patrzeć. Pyta nie tylko, kto podjął decyzję, ale kto przygotował jej warunki. Nie tylko, czy człowiek zatwierdził wynik, ale czy miał realny dostęp do alternatyw. Nie tylko, czy system działał zgodnie z procedurą, ale kto zaprojektował procedurę i jakie założenia zostały w niej zaszyte. Nie tylko, czy AI była narzędziem, ale czy narzędzie nie stało się środowiskiem. Nie tylko, czy mamy kontrolę nad AI, ale czy kontrola nie odbywa się już wewnątrz pola przygotowanego przez AI.
Stare słowa nie są bezużyteczne. Będziemy ich nadal potrzebować. Automatyzacja, cyfryzacja, technokracja, państwo algorytmiczne, AI governance i AI-tocracy opisują ważne fragmenty rzeczywistości. Problem polega na tym, że fragmenty zaczynają układać się w całość, której nie można nazwać żadnym z nich osobno. Syntokracja jest nazwą tej całości. Jest pojęciem dla epoki, w której sztuczna inteligencja nie musi jeszcze rządzić, aby zmieniać rządzenie; nie musi wydawać rozkazów, aby kształtować decyzje; nie musi zastępować człowieka, aby przesunąć człowieka na późniejszy etap procesu; nie musi mieć twarzy, aby stać się warstwą władzy.
