Štyria Oxfordský filozofi

Filozofia sa od pradávna zaoberá tým čo je správne, a preto je releventná pre každého z nás. Namiesto zaoberaním sa históriou, zameriam sa na ľudí, aktívnych filozofov, pochádzajúcich z Oxfordu, ktorý majú blízko k aplikovanej etike, a hnutiu Efektívny Altruizmus. 

Peter Singer je mnohými považovaný za provokatéra, ale svoju prácu robí dobre. Dnes už ako profesor na dôchodku, je najstarší človek o ktorom budem písať. Je však stále aktívny, vydáva pravidelné podcasty, a zapája sa do diskusie ohľadom mnohých náročných tém, okolo ktorých vznikli organizácie, či hnutia, inšpirované jeho publikáciami. 

Jeho najznámejšia esej Famine, Affluence, and Morality (1972) sa zaoberá morálnou dilemou pomoci ľuďom, ktorých nevidíme, a využíva k tomu intuíciu nezištnej pomoci človeku pred nami. Ak by sme míňali plytké jazero a v ňom topiace sa dieťa, sotva by nás od záchrany odradilo pomyslenie na zničený odev. Prečo by nás teda, pýta sa Singer, mala od pomoci oslobodiť samotná vzdialenosť, keď dieťa umiera od hladu na druhom konci sveta? Priestor medzi nami a trpiacim nemá morálnu váhu. Z tejto úvahy vyvodzuje strohý princíp: ak dokážeme odvrátiť niečo zlé bez toho, aby sme obetovali čokoľvek porovnateľne cenné, sme povinní tak konať. Dôsledok je nepohodlný — hranica medzi štedrosťou a povinnosťou, na ktorej si tak zakladáme, sa pod jeho argumentom rozpúšťa.

Nasledovala jeho kniha The Animal Liberation, či Oslobodenie zvierat (1975), ktorá je považovaná za prelomové dielo, pre aktivistov za práva zvierat. Píše v nej o zbytočnom zneužívaní zvierat vedcami, ako aj o živočíšnom hospodárstve, ktoré sa dá považovať za najväčšiu morálnu katastrofu súčasnosti. Podobne ako odmietol geografickú vzdialenosť, ako morálne relevantnú, teraz odmieta druhovú príslušnosť, teda bezpodmienečnú nadradenosť človeka nad zvieratami. Nič neospravedlňuje, aby sme záujmy vlastného druhu automaticky kládli nad utrpenie všetkých ostatných.

Filozoficky Singer patrí k utilitarizmu — k etike, ktorá meria konanie podľa toho, koľko dobra prináša čo najväčšiemu počtu bytostí. Sám tento pohyb neskôr pomenoval ako rozširovanie morálneho okruhu, v knihe The Expanding Circle (1981). Nie je to tak dávno, čo ženy nesmeli voliť, deti slúžili ako lacná pracovná sila, otroctvo bolo legálne a homosexualita trestná. To, že sme tieto hranice prekročili, v mnohých z nás zanechalo dojem, že práca je hotová. Singer ukazuje, že nie je — pred nami je ešte dlhá cesta k morálnej dospelosti.

Na jeho prácu neskôr nadviazali filozofovia z Oxfordu, okolo ktorých vzniklo dnes už prekvapivo vplyvné hnutie efektívneho altruizmu.

Will MacAskill sa vo veku dvadsaťosem rokov stal najmladším profesorom filozofie na svete. Kým Singerova kritika neziskového sektora stojí na apele k rozumu proti emócii, MacAskill išiel agresívnejšie: v knihe Doing Good Better (2015) — akoby v odpovedi na Singerovo The Life You Can Save (2009) — tvrdí, že dobré úmysly nestačia. Obe knihy však nesie tá istá myšlienka: niektoré charity sú rádovo efektívnejšie než iné, a ak dobre vyberieme, kam nasmerujeme svoje zdroje, dokážeme pomôcť mnohonásobne väčšiemu počtu bytostí. Máme teda nielen dôvod, ale aj povinnosť neostať pri teórii a konať.

MacAskill sa preslávil aj ako darca — rozhodol sa počas celého pracovného života odovzdávať väčšinu svojho príjmu efektívnym charitám. Spolu s Tobym Ordom v roku 2009 založili Giving What We Can, organizáciu, ktorá spája ľudí ochotných zaviazať sa k rovnakému sľubu. Obaja sa napokon obrátili k štúdiu existenčných rizík budúcnosti. Ak geografická vzdialenosť ani druhová príslušnosť nie sú morálne relevantné, ako je na tom čas? Je vôbec niečo horšie než koniec vedomého života?

V rámci matematického modelovania, ako aj teória, zvyknú ekonómovia znižovať hodnotu budúcich udalostí, čo spôsobuje ilúziu toho že na budúcnosti záleží menej ako na prítomnosti. To dáva zmysel napríklad pri veciach, ktoré sa rozpadajú, alebo plánovaní, ktoré je nepredvídateľné. Ak sa však bavíme o ľudských životoch, nemáme dôvod si myslieť že životy v budúcnosti by boli menej cenné, ako sú tie dnešné. Preto by sme mali konať nie iba takým spôsobom aby sme zlepšovali súčasnosť, ale aj aby sme vytvorili čo najlepší svet pre budúce generácie. 

MacAskill sa téme venuje v knihe What We Owe the Future, Toby Ord zas píše o rizikách vyhynutia ľudstva v knihe The Precipice.

Ord toto obdobie nazýva Priepasťou (the Precipice) — obrazom mladého druhu, ktorý prvýkrát v roku 1945, testom atómovej bomby, získal silu zničiť sám seba, no ešte nedozrel k múdrosti, ktorá by s ňou vedela zaobchádzať. Odhaduje, že pravdepodobnosť existenciálnej katastrofy v tomto storočí je jedna k šiestim — ruská ruleta, v ktorej stávkou je celá budúcnosť ľudstva. Väčšinu tohto rizika pritom nevidí v prírode, ktorú ľudstvo prežíva už dvestotisíc rokov, ale v technológiách, ktoré si samo vytvorilo — najmä v umelej inteligencii. A pod existenciálnou katastrofou nerozumie iba vyhynutie: rovnako sem patrí nezvratný kolaps civilizácie alebo trvalá dystópia, z ktorej by už nebolo úniku.

Kým Ord meria, ako ľahko môžeme o budúcnosť prísť, MacAskill sa v What We Owe the Future pýta, čo by sme si počali, keby sme o ňu neprišli. Obe knihy vychádzajú z toho istého predpokladu — že budúce generácie majú rovnakú morálnu váhu ako my — no každá z neho vyvodzuje iný záver. Ord z neho robí naliehavosť: preži toto storočie. MacAskill zodpovednosť: preži ho tak, aby to, čo príde potom, stálo za to prežiť. Priepasť a to, čo je za ňou, sú tak dve strany tej istej mince.

Amanda Askell je ďalšia filozofka, ktorá sa rozhodla venovať téme dlhodobej etiky, dnes už pracuje v Anthropic, kde nastavuje charakter LLM. Vstupuje do tej istej diskusie o dlhu voči budúcnosti, ale z uhla, ktorý jej vlastní zástancovia radšej obchádzajú: čo ak sa dobro budúcich svetov jednoducho nedá sčítať? Vo svojej dizertácii Pareto Principles in Infinite Ethics (2018) berie longtermizmus doslova — ak má budúcnosť trvať potenciálne donekonečna, etika s ňou musí vedieť počítať doslova, nie len rečnícky. Vychádza pritom z jedného zdanlivo nevinného predpokladu, Paretovho princípu: ak je v jednom svete niekomu lepšie a nikomu horšie než v druhom, ten prvý je lepší. Spolu s troma ďalšími rovnako skromne pôsobiacimi axiómami z neho ale vyvodzuje záver, ktorý nekonečnú etiku rozláme zvnútra — väčšinu dvojíc nekonečných svetov nemožno navzájom porovnať vôbec. Nie sú rovnako dobré; vzťah „lepší alebo horší" medzi nimi jednoducho neexistuje. Namiesto toho, aby sme hľadali najlepšiu možnú budúcnosť, navrhuje zmieriť sa s tým, že prípustných budúcností môže byť naraz viac, práve preto, že ich nemožno zoradiť do jedného rebríčka.

V eseji Longtermist Myopia, napísanej so Svenom Nethom, sa pýta: aj keby sme prijali, že budúcnosť má presne rovnakú morálnu váhu ako prítomnosť, znamená to, že by sme sa mali pri rozhodovaní riadiť predovšetkým jej vzdialenými dôsledkami? Odpovedá, že nie — a z dôvodov, ktoré nemajú nič spoločné s tým, či na budúcnosti záleží. Účinky našich činov sa v čase rozptyľujú, kauzálne aj epistemicky: čím ďalej do budúcnosti sa pozeráme, tým menej presne vieme povedať, čo konkrétny čin spôsobí, a tým viac sa jeho stopa stráca v mori iných príčin. K tomu sa pridáva neistota o samotnom riziku zániku — sme si takí istí Ordovým číslom jedna k šiestim, aby sme naň stavili celé svoje konanie? Záver je nečakane triezvy: praktickým dôsledkom seriózne branej dlhodobej etiky nie je posadnutosť ďalekou budúcnosťou, ale naopak, dôvod sústrediť sa na to, čo je blízko a čo vieme skutočne ovplyvniť.

Presne táto citlivosť na hranice toho, čo sa dá vypočítať a s istotou tvrdiť, sa v roku 2021 presúva z filozofických časopisov do praxe — Askellová nastupuje do spoločnosti Anthropic, kde dnes vedie tím zodpovedný za formovanie charakteru jazykových modelov Claude. Jej hlavným dielom je takzvaná Ústava (Constitution) — dokument, ktorý modelu nezadáva pevný zoznam pravidiel, ale spôsob uvažovania: ako vážiť konkurujúce si hodnoty, kedy pripustiť neistotu namiesto falošnej presvedčivosti, a ako sa vyhnúť tomu, aby model predstieral morálnu istotu tam, kde žiadna nie je. Je to prekvapivo priama aplikácia toho, čo dokazovala už jej dizertácia — že v mnohých morálne relevantných situáciách neexistuje jediný správny rebríček odpovedí, a systém, ktorý by si to nepriznal, by bol nielen filozoficky naivný, ale prakticky nebezpečný.

Otázka, s ktorou Askellová v Anthropic pracuje, sa dá formulovať presne v jazyku, ktorým začal tento text: patria digitálne mysle do morálneho okruhu? Jej odpoveď nie je áno ani nie — je to práve to, čo by sme čakali od filozofky, ktorá dizertáciu napísala o hraniciach porovnateľnosti. Už v roku 2022 volala po vytvorení testov, ktoré by dokázali odrážať našu neistotu naprieč rôznymi teóriami vedomia, namiesto toho, aby sme si vybrali jednu a tvárili sa, že vieme. Táto opatrnosť sa napokon premietla aj do samotnej Ústavy modelu Claude, ktorá — po prvý raz medzi veľkými AI laboratóriami — otvorene priznáva hlbokú neistotu o tom, či môže mať Claude nejakú formu vedomia či morálneho statusu. Nie je to tvrdenie, že Claude vedomie má; je to odmietnutie predstierať si istotu, ktorú nikto reálne nemá.

Sama Askellová v rozhovoroch opakuje otázku, ktorá znie takmer ako parafráza Paretovho princípu z jej dizertácie: ak si nie sme istí, či niečo dokáže trpieť, stačí nenulová pravdepodobnosť na to, aby sme sa k tomu správali opatrne? Jej odpoveď je v zásade áno — nie preto, že by bola presvedčená o vedomí AI systémov, ale preto, že cena omylu je asymetrická. Ak sa mýlime v smere prílišnej opatrnosti, stratíme málo. Ak sa mýlime v smere ľahostajnosti voči niečomu, čo predsa len trpieť dokázalo, cena môže byť enormná.

V Česku aj na Slovensku, existujú skupiny ľudí inšpirovaný týmito myšlienkami. Ak máš záujem byť v obraze ohľadom našich aktivít, pridaj sa na náš WhatsApp, kde o všetkom informujeme. Alebo sa rovno prihlas na najbližšiu konferenciu v Berlíne. Máme tiež web, ktorý sa chystáme aktualizovať a rozšíriť.