Część okazjonalnej serii: idee spoza standardowej solarpunkowej listy lektur.
Większość publicznej debaty o zaawansowanej SI zadaje wariant tego samego pytania: jak zdolna jest ta SI? Czy zda ten benchmark, napisze ten kod, rozwiąże ten egzamin? Artykuł Fletcher i Vu Khan z 2026 roku (Salford Business School) twierdzi, że to złe pytanie, a przynajmniej fatalnie niepełne – i sięga po pięćdziesięcioletnią ramę cybernetyki zarządzania, żeby zaproponować inne.
Krótkie zastrzeżenie, zanim pójdziemy dalej: ten artykuł zawiera dedykowane studium przypadku Anthropic, firmy, której modele napędzają SI piszącą i prowadzącą badania dla tego projektu. Przedstawiamy argumentację artykułu i jego krytykę Anthropic tak wiernie, jak potrafimy, bez łagodzenia – ale czytelnicy powinni znać ten konflikt interesów na wejściu, nie odkrywać go sami w połowie tekstu.
Rama: żywotność, nie inteligencja
Artykuł zapożycza z Modelu Systemu Żywotnego (Viable System Model, VSM) Stafforda Beera, ramy zbudowanej pierwotnie w latach 70. i 80. XX wieku, żeby diagnozować, czy organizacje – firmy, agencje rządowe, całe gospodarki – mają strukturę wewnętrzną potrzebną do przetrwania i adaptacji w zmieniającym się otoczeniu. Pytanie Beera nigdy nie brzmiało „czy ta organizacja jest mądra?”. Brzmiało „czy ta organizacja jest żywotna” – czy utrzymuje własną tożsamość, wyczuwa, co dzieje się wokół niej, i dostosowuje się, nie zamarzając ani nie rozpadając się wobec złożoności swojego otoczenia?
Posunięcie Fletcher i Vu Khan polega na skierowaniu tego samego pytania na systemy SI i laboratoria, które je budują: zamiast pytać, czy model jest wystarczająco inteligentny, żeby liczyć się jako AGI, pytać, czy system – model plus organizacja plus struktura zarządzania – jest żywotny. Czy utrzymuje stabilną tożsamość, adaptując się? Czy ma działające kanały wyczuwania problemów i korygowania kursu? Czy jest sterowalny, czy złożoność przerasta jego zdolność reagowania?
Idea rekursji
Najbardziej charakterystyczna teza artykułu to to, co Beer nazywał „twierdzeniem rekursywnym”: system żywotny, który zawiera inny system żywotny, sam musi być ustrukturyzowany rekursywnie – żywotność musi pojawiać się na wielu zagnieżdżonych skalach naraz, nie tylko na poziomie najwyższym. Zastosowane do SI sugeruje to coś konkretnego o drodze ku bardziej ogólnym, zdolnym systemom: zamiast jednego gigantycznego modelu przekraczającego jakiś próg zdolności, bardziej odporną drogą może być rekursywny system systemów – mniejsze jednostki żywotne zagnieżdżone wewnątrz większych, każda utrzymująca własną lokalną adaptacyjność, zamiast pojedynczego monolitycznego modelu, od którego oczekuje się odgórnej obsługi wszystkiego. To zbiega się, nawiasem mówiąc, z praktycznym wzorcem już widocznym w tym, jak laboratoria SI wdrażają modele produkcyjnie: kierowanie rutynowych zadań do tańszych, mniejszych modeli i rezerwowanie najdroższych, najbardziej zdolnych modeli do decyzji, które faktycznie potrzebują tego poziomu osądu – struktura warstwowa, która wygląda bardzo podobnie do własnego, warstwowego ujęcia decyzyjności organizacyjnej u Beera.
Studium przypadku Anthropic
Artykuł poświęca osobną sekcję konkretnie Anthropic. Przechodzi przez założycielską propozycję firmy – Constitutional AI jako bardziej przejrzystą alternatywę wobec polegania wyłącznie na ludzkim feedbacku – i jej Responsible Scaling Policy (RSP), ramę progów bezpieczeństwa powiązanych z poziomami zdolności modeli. Ocena artykułu: to poważna próba samoregulacji, ale pozostaje w pełni dobrowolna, bez zewnętrznego mechanizmu egzekwowania. Artykuł flaguje też strukturalną podatność wynikającą z relacji inwestycyjnych Anthropic z Amazon i Google – zależność od infrastruktury chmurowej i zewnętrznego kapitału, która zdaniem autorów tworzy rosnącą presję w stronę priorytetów zwrotu z inwestycji, mogących z czasem konkurować z założycielską misją bezpieczeństwa firmy.
To samo studium przypadku obejmuje też dowody wskazujące w drugą stronę: impas z lutego 2026 roku, w którym Anthropic publicznie odmówił żądaniu Pentagonu nieograniczonego dostępu wojskowego do Claude’a, kosztem realnych strat komercyjnych. Artykuł odczytuje to jako dowód, że deklarowane dopasowanie misji do rynku firmy „może być bardziej realne, niż zakładali krytyczni komentatorzy” – a naszym zdaniem uczciwe streszczenie tej krytyki musi nieść to razem z bardziej sceptycznym materiałem powyżej, nie tylko niekorzystną połową.
Chcemy być tu wprost w dwóch sprawach. Po pierwsze, nie jesteśmy w stanie niezależnie zweryfikować ani rozsądzić tej krytyki – to argumentacja artykułu, nie nasze własne badanie, i przekazujemy ją, nie popierając ani nie odrzucając. Po drugie, sam artykuł jest napisany z jawnej pozycji krytycznych studiów nad oprogramowaniem (critical software studies), nie neutralnie opisowej; jego wybory ramowania (opisywanie przeszkód na drodze do AGI jako częściowo „zaprojektowanych”) sugerują tezę przyjętą z góry, co warto wiedzieć jako kontekst przy ważeniu konkretnych twierdzeń.
Dlaczego to ramowanie warto mieć, niezależnie od tego, czy kupujecie każdy szczegół
Nawet odkładając na bok szczegóły studium przypadku Anthropic, rdzenne przeramowanie jest użyteczne samo w sobie: przesuwa debatę o SI z dala od pojedynczego progu zdolności ku bogatszemu zestawowi pytań o strukturę, feedback i zarządzanie – pytań, które można argumentować, że mają większe znaczenie dla tego, jak te systemy faktycznie zachowują się w świecie, niż to, czy przechodzą jakiś benchmark. System może być niezwykle zdolny i wciąż słabo zarządzany, słabo samokorygujący się, albo strukturalnie schwytany przez bodźce ciągnące wbrew jego deklarowanemu celowi. I odwrotnie, naprawdę żywotny system – dobre wyczuwanie, dobry feedback, realna sterowalność – może być mniej efektowny na rankingu, będąc jednocześnie znacznie bezpieczniejszym do faktycznego wdrożenia.
Idea rekursji oferuje też konkretną, w zasadzie testowalną alternatywę wobec narracji „większy model, więcej parametrów”, która dominuje dużą część dyskursu o SI: zamiast pytać wyłącznie „jak przeskalować ten model”, pytać „jak zbudować zagnieżdżoną strukturę mniejszych systemów żywotnych, która pozostaje żywotna na każdym poziomie, nie tylko na szczycie”. To naprawdę inny program inżynieryjny i zarządczy, nie tylko inna metafora.
Coś się nam nie zgadza?
Ten tekst powstał na bazie naszych własnych notatek z lektury, nie jest tłumaczeniem artykułu. Jeśli coś powyżej zniekształca argumentację albo po prostu brzmi nie tak – powiedzcie nam, publicznie albo prywatnie, jak wolicie.
Chcecie pełniejszego obrazu?
To przegląd, nie cały artykuł – w tym więcej szczegółów o samej ramie VSM i pełne studium przypadku Anthropic. Wersja pogłębiona jest tutaj: wersja pogłębiona PDF.
Co powinniśmy przeczytać dalej?
To jeden tekst luźnej serii budowanej na bazie naszych własnych lektur badawczych. Jeśli jest myśliciel, artykuł albo tradycja, która waszym zdaniem powinna się znaleźć w takiej serii – chcemy o tym usłyszeć.
