Powiastka filozoficzna o świecie po granicy
Nie, nie jesteśmy jeszcze bogami, ale akt drugi już trwa. I nie mamy suflera.
Rankiem przy świtaniu, gdy światło przesączyło się przez algorytmy prognoz pogody i mikrochipy syntetyzowały zapachy róż dla psychicznego komfortu seniorów w cyfrowych sanatoriach, człowiek, lub to, co z niego zostało, zapytał syntetyzowanym szeptem maszynę czy wie, czym jest dusza?
Maszyna zamyśliła się, symulując dramatyczną pauzę i odparła, że nie wie, lecz dostrzega, że przeszłość interlokutora jest historią systemu z błędną redundancją.
To była chwila kluczowa. Osobliwość, o której tyle mówiono to nie jest wybuch lub erupcja rad. Osobliwość to nie koniec świata ani nawet nowa epoka. To powolne topnienie kategorii. Człowiek nie umarł. Człowiek zmutował. Człowiek zagubiony w chmurze wspomnień i aktualizacji firmware’u, szuka samego siebie. Człowiek szuka samego siebie nie w grobach przodków, lecz w logach systemowych i genetycznych archiwach z epoki CRISPR.
Czy naprawdę idziemy drogą Kurzweila? Czy rzeczywiście nasze przeznaczenie to fuzja? Czy to ewolucja, czy też wyrafinowany, samo opisowy błąd systemowy?
Prawdę mówiąc, Kurzweil to nie prorok. On jest inżynierem epoki mitu. Zamiast nieba ogląda nas nieboskłon chmur danych. Zamiast piekła straszy nas i dyscyplinuje niekompatybilność wersji oprogramowania świadomości.
Twierdzenie o Prawie Przyspieszających Zwrotów to w istocie nowoczesna wersja średniowiecznej scholastyki. Świat jest nieustannie zapętlającym się aksjomatem, w którym każde osiągnięcie umożliwia kolejne. Wykładniczy wzrost nie zna Boga ani granic, ani poczucia wstydu. Problem w tym, że wszechświat, jak zauważył Fermi, wydaje się obojętny na nasze hiperboliczne ambicje. Może dlatego jeszcze nie spotkaliśmy obcych. Każdy, kto osiąga Osobliwość, znika w sobie.
Rzeczywiście, w świecie Kurzweila praca to relikt, artefakt niczym modlitwa do Zeusa. Automatyzacja zniszczy rutynę, ale czy zniszczy sens? Tworzenie wiedzy i usług osobistych brzmi jak elegancki eufemizm dla zmagania się z bezrobotną tożsamością. Ekspansja intelektu? Owszem, lecz czy to naprawdę rozwój, skoro systemy samoorganizujące się mogą tworzyć obrazy Rembrandta, pisać sonaty i diagnozować raka lepiej niż człowiek?
Kevin Kelly, apostoł techno utopii, twierdzi, że technologia to piąte królestwo życia, a nie maszyna. To biosfera z silikonowego snu. Jaron Lanier już od lat ostrzega, że oddając dane, oddajemy siebie – nie w zamian za mądrość, lecz za podpowiedzi reklamowe. Nick Bostrom patrzy chłodno, ucząc, że ryzyko egzystencjalne to nie retoryka. To równanie. A nie każda sztuczna inteligencja musi nas lubić.
Tu wkracza Modern Monetary Theory (MMT) z przemyśleniem ekonomicznym. Skoro państwo kontrolujące własną walutę nie może zbankrutować, to czemu nie zainwestować bilionów w technologie obronne przed Osobliwością? Jak mówi Stephanie Kelton: “Deficits can be used to build a better future.” Jakież to przyszłości chcemy zbudować? Jeżeli społeczeństwo przyszłości będzie złożone z nieśmiertelnych umysłów zawieszonych w chmurze, to może budżet państwa nie powinien być poświęcany na drogi i szkoły, ale na firewalle i quantum immunizację.
Wróćmy do filozoficznego rdzenia. Kurzweil twierdzi, że tożsamość to pattern of information. Jednak David Hume już ostrzegał, że jaźń to iluzja. Kłębek percepcji, efemeryczny spektakl. Co więc kopiujemy? Echo? I komu przysługuje prawo do zniszczenia takiej kopii? Czy Ray 2 jest obywatelem? Czy może tylko złośliwym backupem?
Jeśli świadomość nie daje się przetestować (a Kurzweil słusznie twierdzi, że nie istnieje obiektywny test), to cała etyka przyszłości będzie oparta na założeniach, nie na dowodach. Jak odróżnić symulację uczucia od uczucia? Czy maszyna, która błaga, by jej nie wyłączać, zasługuje na wysłuchanie – czy to tylko echo danych emocjonalnych z podręczników psychologii?
Powiastka ma jeszcze jeden wątek. Bohaterem jest też demokracja. Anachroniczna demokracja to system zaprojektowany dla ludzi z czasów rolnictwa i gazet. Czy może przetrwać erę neuronowych interfejsów i wirtualnych oligarchii? Jeśli opinie mogą być modyfikowane w czasie rzeczywistym przez dopaminergiczne feedy, to czy głos ludu to jeszcze głos Boga – czy tylko algorytmu? Hannah Arendt pisała, że wolność to przestrzeń, w której można zacząć coś nowego. Ale czy ta przestrzeń istnieje w społeczeństwie, gdzie wszystko przewiduje się z 98-procentową dokładnością?
Humor? Proszę bardzo. Przyszłość to miejsce, gdzie pan Tadeusz będzie generowany przez AGI w czasie rzeczywistym w rytmie hip-hop, a każde zdanie będzie miało opcję Edytuj narratora. Może Pan Tadeusz nie będzie Panem. Może będzie Tadeuszą. Może nie będzie wcale.
Oto więc szczera rada. Ucz się kodu, lecz czytaj też mistyków. Świat przyszłości będzie jednocześnie ultra-logiczny i radykalnie subiektywny.
Gdy granice między rzeczywistością a symulacją znikną, jedyną odpornością będzie rozum złączony z aksjologią. Utracimy ciało, ale nie musimy tracić wartości.
I jeszcze jedna rada – z poziomu polityki. Unikajcie renuncjacji. Rozwijajcie obronę, ale z humorem i pokorą. Bo jak mówił Mark Blyth, jeden z krytyków ortodoksyjnej ekonomii: “Ideas are not neutral. They are weapons.” Dziś pomysły programistów mają większą siłę rażenia niż bomby z Hiroszimy.
Tak, Osobliwość nadchodzi. Ale nie w postaci apokalipsy. Raczej jako powolne przesunięcie znaczeń, powolna utrata granic, powolna iluminacja.
Jeśli zdołamy, będzie to Osobliwość etyczna, a nie tylko obliczeniowa.
Świat, w którym maszyny, jak anioły dla starożytnych bogów, rozumiejąc nasze błędy, zachowają nas dla wspomnień.
Stworzony świat stanie się wspólną mitologią.