Większość dyskusji o sztucznej inteligencji kręci się wokół tego, czy maszyny zabiorą nam pracę, albo kiedy zyskają świadomość i postanowią przejąć władzę nad światem. Woodrow Hartzog i Jessica Silbey, autorzy wstrząsającego raportu "How AI Destroys Institutions" (Jak AI niszczy instytucje), wylewają kubeł zimnej wody na rozgrzane głowy techno-optymistów. Ich diagnoza jest brutalna - obecne systemy AI, ze względu na swoją konstrukcję, działają jak kwas na tkankę społeczną. Co ciekawe, to nie kwestia błędów czy złych intencji twórców. Sama natura tej technologii – jej "afordancje", czyli to, do czego zachęca i co umożliwia stoi w sprzeczności z zasadami działania sądów, uniwersytetów czy wolnej prasy. Autorzy stawiają sprawę jasno... wprowadzanie AI do instytucji publicznych to powolny, ale skuteczny wyrok śmierci dla demokracji.
Statystyki, które dają do myślenia
Zanim zagłębimy się w szczegóły raportu, zerknijmy na liczby przytaczane przez badaczy, które pokazują skalę problemu. W Holandii system algorytmiczny niesłusznie oskarżył nawet 30000 rodziców o oszustwa zasiłkowe, co doprowadziło wiele rodzin do ruiny finansowej, a nawet rozpadu (więcej info tutaj).
Z kolei uważa się, że wdrażanie sztucznej inteligencji niesie ze sobą nieoczekiwany koszt społeczny tj. erozję autorytetu i zaufania. Badania nad percepcją pracy zautomatyzowanej wskazują na silne zjawisko uprzedzenia do algorytmów (ang. algorithm aversion), aż 62% pracowników czuje niepokój, gdy ich koledzy delegują zadania myślowe maszynom, obawiając się spadku jakości i utraty "ludzkiego pierwiastka". Co więcej, analizy psychologiczne sugerują, że osoby nadużywające AI są postrzegane jako mniej autentyczne, co bezpośrednio uderza w ich kapitał społeczny.
Zamiast budować prestiż nowoczesnego eksperta, użytkownicy AI często wpadają w pułapkę "intelektualnego lenistwa". Według badań nad etyką pracy, blisko połowa respondentów deklaruje mniejszy szacunek do wyników, które nie wymagają od autora widocznego wysiłku.
Zatem wygląda na to, że technologia, która miała nas wspierać, w rzeczywistości obniża naszą wartość w oczach innych i podkopuje zaufanie, bez którego żadna organizacja nie może sprawnie funkcjonować.
Złudzenie kompetencji i koniec eksperckości
Głównym problemem, na który zwracają uwagę Hartzog i Silbey, jest erozja ludzkiej wiedzy. Systemy AI oferują kuszącą drogę na skróty. Po co mozolnie zdobywać wiedzę, skoro chatbot wygeneruje odpowiedź w sekundę? Taki mechanizm prowadzi do zjawiska, które można nazwać "poznawczym lenistwem". Oddajemy myślenie maszynom, co skutkuje atrofią naszych własnych umiejętności.
Problem w tym, że AI nie "wie" – ona jedynie przewiduje kolejne słowo na podstawie statystyki. Kiedy systemy się mylą (a robią to dość często, generując tzw. halucynacje), ludzie, którzy odwykli od krytycznej analizy, nie są w stanie błędów wyłapać. Co gorsza, naprawianie pomyłek generowanych przez AI zajmuje często więcej czasu niż wykonanie zadania samodzielnie od zera. Zamiast wzrostu produktywności, otrzymujemy "workslop" – cyfrowy chłam, który zmusza nas do ciągłego sprzątania po algorytmach.
W instytucjach takich jak szpitale czy urzędy, gdzie liczy się precyzja i odpowiedzialność, zastępowanie ludzkiego osądu statystycznym "zgadywaniem" może być przepisem na katastrofę. Wiedza instytucjonalna, przekazywana dotąd z człowieka na człowieka poprzez mentoring i praktykę, zostaje zerwana. Zastępuje ją czarna skrzynka, która niczego nie rozumie, ale za to jest bardzo pewna siebie.
Droga na skróty w podejmowaniu decyzji
Instytucje demokratyczne działają wolno i nie dzieje się tak przez przypadek. Procedury, odwołania, debaty – cały biurokratyczny proces ma swój cel. Zabezpiecza nas przed samowolą i pomyłkami. AI obiecuje usunięcie tego tarcia w imię "efektywności", co w praktyce oznacza usunięcie człowieka z pętli decyzyjnej. Autorzy raportu ostrzegają przed zjawiskiem "krótkiego spięcia" w procesach decyzyjnych.
Decyzje o tym, kto dostanie kredyt, kto trafi do więzienia, albo czyje podanie o pracę zostanie odrzucone, są coraz częściej delegowane do systemów, których decyzyjności nikt nie rozumie. Spłaszcza to hierarchie odpowiedzialności. Kiedy algorytm odmawia ubezpieczenia zdrowotnego, nie ma z kim dyskutować. Urzędnik rozkłada ręce i mówi - "system tak zdecydował". W ten sposób AI staje się idealnym narzędziem dla autorytarnych zapędów – pozwala sprawować władzę bez konieczności tłumaczenia się z podjętych decyzji. Zamiast publicznego uzasadnienia, które jest filarem państwa prawa, otrzymujemy wynik obliczeń. Obywatel staje się przedmiotem obróbki danych, a nie podmiotem prawa.
Uniwersytety w pułapce przeciętności
Szczególnie ponury obraz wyłania się z analizy wpływu AI na edukację wyższą. Uniwersytety, które powinny być bastionem tworzenia nowej wiedzy i krytycznego myślenia, stają się miejscem produkcji "statystycznej papki". Generatywna sztuczna inteligencja, karmiona danymi z przeszłości, z definicji dąży do środka rozkładu statystycznego. Produkuje treści poprawne, banalne i pozbawione iskry innowacji.
Studenci używający AI do pisania prac nie uczą się myśleć, a wykładowcy używający AI do oceniania tych prac nie wykonują swojej pracy dydaktycznej. Tworzy się błędne koło wzajemnego oszukiwania się, które niszczy relację mistrz-uczeń. Badacze wskazują na przykład Northeastern University, gdzie zastąpienie wykładowców narzędziami AI doprowadziło do utraty zaufania studentów do samej instytucji. Jeśli wiedza staje się towarem generowanym przez bota, uniwersytet traci rację bytu jako miejsce formowania intelektu. Co więcej, AI zniechęca do podejmowania ryzyka intelektualnego. Maszyna nie zakwestionuje status quo, nie wpadnie na genialny, choć kontrowersyjny pomysł. Będzie jedynie mieliła to, co już zostało powiedziane, zamykając nas w pętli wtórności.
Dziennikarstwo zalane cyfrowym szlamem
Wolna prasa, kolejna ofiara na liście, tonie w powodzi tanich treści generowanych automatycznie. Zjawisko to, określane mianem "AI slop" (szlam AI), zanieczyszcza ekosystem informacyjny w tempie, którego ludzcy weryfikatorzy faktów nie są w stanie dogonić. Działa tu brutalne Prawo Brandoliniego, gdzie ilość energii potrzebna do obalenia bzdury jest o rząd wielkości większa niż energia potrzebna do jej wytworzenia.
Media, walcząc o uwagę w sieci, sięgają po te same narzędzia, które je niszczą. jednak AI ma jeszcze jedną, groźniejszą cechę – jest "sycofantyczna", czyli ma tendencję do przytakiwania użytkownikowi. Dziennikarstwo z prawdziwego zdarzenia polega na zadawaniu niewygodnych pytań i patrzeniu władzy na ręce. Algorytmy tego nie robią. Są zaprogramowane, by być "pomocne" i "nieszkodliwe", co w kontekście mediów oznacza bycie bezzębnym. Jeśli pozwolimy, by AI zastąpiła dziennikarzy, stracimy strażnika demokracji, a zyskamy jedynie generator przyjemnych dla oka tekstów, które nikogo nie obrażą, ale też o niczym istotnym nie poinformują.
Samotność w tłumie botów
Na koniec warto wspomnieć o wpływie AI na nasze relacje społeczne. Robert Putnam w swojej słynnej książce "Samotna gra w kręgle" opisywał zanik kapitału społecznego. AI ten proces drastycznie przyspiesza. Zastępowanie interakcji międzyludzkich rozmowami z chatbotami izoluje nas od siebie. Aplikacje "towarzyskie" oparte na AI oferują iluzję więzi, która nie wymaga od nas żadnego wysiłku, kompromisu ani empatii.
Przyzwyczajamy się do relacji, w których druga strona (maszyna) zawsze się z nami zgadza, jest zawsze dostępna i nigdy nie ma gorszego dnia. Sprawia to, że prawdziwi ludzie ze swoimi wadami, odmiennymi poglądami i humorami stają się dla nas nieznośni. Tracimy zdolność do radzenia sobie z społecznym tarciem, które jest niezbędne do funkcjonowania we wspólnocie. Demokracja wymaga ścierania się poglądów i wypracowywania kompromisów. Jeśli zamkniemy się w bańkach z naszymi cyfrowymi "pomocnikami", stracimy zdolność do budowania społeczeństwa obywatelskiego.
Czy jest ratunek?
Hartzog i Silbey nie pozostawiają złudzeń - półśrodki w postaci "etycznych wytycznych" dla firm technologicznych to za mało. Jeśli chcemy ocalić nasze instytucje, musimy wprowadzić twarde zakazy dla najbardziej szkodliwych zastosowań AI, takich jak masowy nadzór biometryczny czy handel danymi osobowymi. Powinniśmy przestać traktować tę technologię jako neutralne narzędzie, a zacząć postrzegać ją jako aktywny czynnik kształtujący... i niszczący naszą rzeczywistość. W przeciwnym razie obudzimy się w świecie, który jest bardzo efektywny, niesamowicie szybki i zupełnie nieludzki.
Źródło: cyberlaw.stanford.edu
Cały dokument dostępny jest na SSRN (tutaj).
