Część okazjonalnej serii: idee spoza standardowej solarpunkowej listy lektur.
Oto pytanie, które kiedyś brzmiało jak science fiction, a coraz mniej tak brzmi: owad, zwierzę z fermy przemysłowej i system SI mogą wszystkie, z różnych powodów, być istotami, których wewnętrznego doświadczenia – jeśli w ogóle je mają – naprawdę nie potrafimy zweryfikować. Czy jesteśmy im coś winni? A jeśli uczciwa odpowiedź brzmi „nie wiemy, czy są czujące”, czy ta niepewność nas zwalnia, czy raczej zobowiązuje do czegoś mimo wszystko?
Jeff Sebo, filozof kierujący Center for Mind, Ethics, and Policy na NYU, poświęca krótką, ostrą książkę z 2025 roku – The Moral Circle: Who Matters, What Matters, and Why – argumentacji na rzecz konkretnej, starannie ograniczonej odpowiedzi: niepewność nas nie usprawiedliwia. Zobowiązuje nas do czegoś, tylko nie do wszystkiego w równym stopniu.
Problem z dwiema oczywistymi odpowiedziami
Są tu dwie łatwe pozycje, i Sebo uważa, że obie zawodzą.
Zażądaj najpierw dowodu. Odłóż namysł moralny na bok, dopóki nie będziemy pewni, że dana istota jest czująca – że faktycznie może cierpieć, preferować, czy cokolwiek przeżywać. Brzmi to odpowiednio ostrożnie, ale ustawia niemal niemożliwie wysoką poprzeczkę. Nie mamy wiarygodnego, powszechnie uzgodnionego testu na czucie nawet w przypadkach, co do których jesteśmy dość pewni (większość ludzi wierzy, że psy są czujące; wciąż nie potrafimy tego udowodnić tak, jak potrafimy udowodnić reakcję chemiczną). Zażądaj najpierw dowodu, a ryzykujesz katastrofalny błąd wykluczenia: traktowanie naprawdę czującej istoty tak, jakby nie była czująca, tylko dlatego, że pewność nigdy nie nadeszła.
Rozszerz pełny namysł na wszystko, na wszelki wypadek. Przeciwny ruch – przyznaj równą wagę moralną wszystkiemu, co teoretycznie mogłoby być czujące – zapada się pod własnym ciężarem niemal natychmiast. Nie daje żadnego sposobu na priorytetyzację między miliardami owadów, niepewnymi przypadkami granicznymi a jasnymi przypadkami paradygmatycznymi, jak cierpiące dziecko, i w praktyce staje się bezużyteczne jako przewodnik po faktycznych decyzjach.
Alternatywa Sebo: waga proporcjonalna do prawdopodobieństwa
Proponowana przez Sebo droga środka to podejście prewencyjne, probabilistyczne. Zamiast binarnego testu wejście/wyjście, przypisz status moralny w stopniach, proporcjonalnie do prawdopodobieństwa, że dana istota jest czująca, sprawcza albo w inny sposób moralnie znacząca, w oparciu o najlepsze dostępne dowody. Istota, co do której jesteśmy dość pewni, że jest czująca (pies, świnia), otrzymuje znaczącą wagę moralną. Istota, wobec której dowody są słabsze albo bardziej sporne (owad, prawdopodobny system SI bliskiej przyszłości), otrzymuje pewną wagę – nie zerową, nie równą jasnym przypadkom, ale realną wagę skalowaną do rzeczywistej niepewności, nie do wygody.
To wykonuje prawdziwą pracę filozoficzną. Unika pułapki „przyznaj wszystkiemu równy status”, bo ważenie proporcjonalne do prawdopodobieństwa nie jest ważeniem równym. I unika pułapki „czekaj na dowód”, bo traktuje namysł moralny jako należny proporcjonalnie do rozsądnego szacunku dowodowego, nie wstrzymywany do nadejścia pewności – pewności, która dla wielu z rozważanych istot może nigdy nie nadejść.
Dokąd książka faktycznie zmierza
The Moral Circle prowadzi trzy rejestry naraz, przechodząc między nimi celowo, zamiast trzymać się jednego pasa. Jest argumentacja filozoficzna – przechodzenie przez konkurujące teorie tego, co faktycznie ugruntowuje status moralny: czucie, sprawczość, racjonalność, i jak te elementy wchodzą ze sobą w interakcję. Jest etyka stosowana – co konkretnie jesteśmy winni owadom, zwierzętom z ferm przemysłowych i systemom SI w warunkach prawdziwej niepewności co do każdego z nich. I są prowokacyjne eksperymenty myślowe, adresowane do czytelnika ogólnego, nie specjalisty: wolałbyś dzielić dom ze współlokatorem, który okazuje się neandertalczykiem, czy z takim, który okazuje się robotem – i co twoja instynktowna odpowiedź mówi o tym, co faktycznie uważasz za podstawę statusu moralnego? Uratowałbyś kilka słoni czy dużo większą liczbę mrówek? Kilka zwierząt biologicznych, czy dużo większą liczbę umysłów cyfrowych, jeśli umysły cyfrowe w ogóle okażą się realnymi podmiotami moralnymi?
Książka jest częścią serii „Shorts” wydawnictwa Norton – celowo zwięzła, testowana w warunkach dydaktycznych, napisana dla czytelnika „z ulicy”, nie dla zawodowych filozofów, co czyni z niej niezwykle przystępny punkt wejścia w debatę zwykle dość techniczną.
Uczciwe ograniczenie
Własna rama Sebo ma realny koszt, i warto go tu nazwać. Prewencyjny, ważony prawdopodobieństwem status moralny mówi ci, że jakaś niezerowa waga jest należna niepewnemu przypadkowi. Nie mówi ci, ile – rama lepiej ustala zasadę, niż rozstrzyga praktyczną metodę. Jeden recenzent, Gellers, wskazał to jako realną lukę w porównaniu z podejściami zakorzenionymi w specyfice konkretnej relacji (zamiast w abstrakcyjnym szacunku prawdopodobieństwa) – rodzaj etyki relacyjnej kojarzonej z autorkami takimi jak Donna Haraway, która lokalizuje zobowiązanie w konkretnej, przeżywanej więzi między istotami, nie w wyliczonym prawdopodobieństwie. To niekoniecznie obala podejście Sebo, ale to prawdziwa nieciągłość i prawdopodobnie najciekawsze miejsce, żeby drążyć dalej, jeśli rama prewencyjna wydaje się wam przekonująca, ale niepełna.
Dlaczego to ma znaczenie poza eksperymentami myślowymi
Projekt Sebo znajduje się na przecięciu dwóch dyskursów, które nie zawsze się ze sobą komunikują: długiej tradycji etyki wobec zwierząt (sięgającej co najmniej argumentu „rozszerzającego się kręgu” Petera Singera) i nowszej, szybciej toczącej się rozmowy o statusie moralnym SI. Traktowanie ich jako jednego ciągłego pytania – zamiast dwóch niepowiązanych debat, które obie przypadkiem dotyczą umysłów nieludzkich – samo w sobie jest użytecznym ruchem, bo ten sam leżący u podstaw problem (jak działać w warunkach prawdziwej niepewności co do wewnętrznego życia innej istoty) pojawia się w obu, a rozwiązania wypracowane dla jednej dziedziny prawdopodobnie przenoszą się do drugiej. Cokolwiek wywnioskujecie o umysłach cyfrowych konkretnie, rama prewencyjna daje naprawdę użyteczne narzędzie do szerszego pytania o to, jak traktować niepewność co do statusu moralnego jako okazję do stopniowanej troski, nie jako wymówkę, żeby nic nie robić do czasu nadejścia odpowiedzi, która może nigdy nie nadejść. [Petros: albo nadejść w postaci, która się nam bardzo nie spodoba.]
Coś się nam nie zgadza?
Ten tekst powstał na bazie naszych własnych notatek z lektury, nie jest tłumaczeniem książki. Jeśli coś powyżej zniekształca argumentację albo po prostu brzmi nie tak – powiedzcie nam, publicznie albo prywatnie, jak wolicie.
Chcecie pełniejszego obrazu?
To przegląd, nie cała książka – w tym więcej eksperymentów myślowych i bliższe spojrzenie na krytykę Gellersa. Wersja pogłębiona jest tutaj: wersja pogłębiona PDF.
Co powinniśmy przeczytać dalej?
To jeden tekst luźnej serii budowanej na bazie naszych własnych lektur badawczych. Jeśli jest myśliciel, książka albo tradycja, która waszym zdaniem powinna się znaleźć w takiej serii – chcemy o tym usłyszeć.
