Utilisme ‘on steroids’: effectief altruïsme, longtermism en uitlevering aan big tech

Filosoof Marijn Sax legt haarfijn uit wat er mis is met William MacAskills ‘What We Owe the Future’, waarin ‘longtermism’, het idee dat het positief beïnvloeden van de verre toekomst een belangrijke morele prioriteit van onze tijd is, centraal staat.

Longtermism is een filosofische stroming die gaat over de rol die de toekomst moet spelen in ons hedendaagse handelen. William MacAskills boek What We Owe the Future (WWOtF) wordt gepresenteerd als de filosofische onderbouwing van longtermism, een beweging die niet heeft te klagen over media-aandacht. Publicaties als The New York Times, The Guardian, The New Yorker en The Atlantic besteedden met ronkende profielen en recensies onlangs ruim aandacht aan MacAskill en zijn boek. De auteur was zelfs te gast bij The Daily Show van comedian Trevor Noah om zijn boek te promoten – ook Rutger Bregman heeft onlangs enthousiast over MacAskill en zijn filosofie geschreven.

Dat longtermisten zulke goede toegang hebben tot toonaangevende media is niet verrassend. Naast Bregman wordt de beweging ook gesteund door miljardairs als Elon Musk en de inmiddels als fraudeur ontmaskerde Sam Bankman-Fried, de oprichter van FTX (een crypto-exchange) en Alameda Research (een crypto-hedgefund) – de oorlogskas van het campagneteam van de longtermisten is dan ook goed gevuld. Omdat longtermisten openlijk filosoferen over het vergaren van zo veel mogelijk invloed om hun agenda ten uitvoer te brengen, is een kritische lezing van hun nieuwe filosofische manifest geen overbodige luxe.

Helaas stelt WWOtF danig teleur. MacAskills schrijfstijl met een overdaad aan krukkige metaforen (‘The future is like Atlantis. It, too, is a vast, undiscovered country’; ‘The galaxy is like an archipelago, vast expanses of emptiness dotted with tiny pinpricks of warmth’) wil ik hem best vergeven, evenals zijn soms oppervlakkige en warrige filosofische beschouwingen. Maar wat echt een doodzonde is in de filosofie is je publiek bewust misleiden – en dat is precies wat MacAskill doet in dit boek. De gehele traditie in de moraalfilosofie waar longtermism op gebouwd is – het utilisme – wordt volledig genegeerd door MacAskill. Sterker nog, wat in essentie een morele theorie is, wordt überhaupt niet als zodanig neergezet en besproken. In plaats daarvan wordt de lezer tien hoofdstukken lang getrakteerd op filosofische schijndiscussies en een eindeloze reeks aan precies uitgeplozen anekdotes die filosofische leegte moeten verhullen.

Om goed uit te kunnen leggen wat er allemaal misgaat in dit boek, moet ik eerst MacAskills werk voor hem doen en een – in het boek afwezige – korte introductie tot longtermism als morele theorie uiteenzetten. Pas dan wordt duidelijk wat er allemaal ontbreekt.

Longtermism: wat is dat eigenlijk?

WWOtF is dus een filosofische verdediging van longtermism, maar wat houdt die term precies in? Om die vraag te beantwoorden moeten we eerst vaststellen dat MacAskill een effective altruist is die de vraag hoe we het meeste goed kunnen doen heeft verheven tot een bijna exacte wetenschap. Neem bijvoorbeeld zijn stichting 80.000 Hours die gericht carrièreadvies geeft aan mensen die alle werkuren in hun leven optimaal willen inzetten om goed te doen voor de wereld. In de praktijk betekent dat vaak: zo veel mogelijk geld verdienen zodat je zo veel mogelijk geld aan goede doelen kunt schenken. Als effectief altruïsme de basis is, is longtermism een verdere specificering daarvan, door toekomstige generaties bij het effectief-altruïsme-vraagstuk te betrekken. De (te) simpele versie van longtermism die MacAskill graag presenteert in interviews is dat het draait om het idee dat we niet alleen goed moeten doen voor de huidige generatie mensen, maar dat we ook goed moeten doen voor toekomstige generaties. Deze simpele versie van longtermism klinkt alleszins sympathiek in de oren, maar is daarmee ook misleidend. Longtermism gaat immers voorbij het triviale inzicht dat de toekomst ertoe doet. De longtermism-filosofie maakt een veel specifiekere claim en daar is MacAskill gelukkig ook duidelijk over in de introductie van het boek. Waar MacAskill echter niet duidelijk over is, zijn de morele vragen die zijn filosofie oproept. En daarin schuilt precies het grote probleem, want longtermism roept veel van dat soort vragen op.

Longtermism gaat niet zomaar over het denken aan toekomstige generaties; longtermism gaat over goeddoen vanuit het perspectief van alle mensen die ooit zouden kunnen bestaan. MacAskill rekent ons voor dat er na ons nog zeker tachtig biljoen (80.000.000.000.000) mensen kunnen bestaan in de verre, verre toekomst. Deze blik vanuit de oneindigheid van de geschiedenis van de gehele mensheid verandert de zaak nogal. Het maakt ‘ons’ – de huidige generatie mensen – slechts een klein en insignificant deel van de geschiedenis. En wellicht nog belangrijker: het laat onze belangen in het niet vallen bij de belangen van de toekomst van de gehele mensheid: ‘It’s common sense that future people count. So, too, is the idea that, morally, the numbers matter.’ Wij zijn maar met acht miljard, zij met tachtig biljoen.

Filosoferen over de toekomst met longtermism

De logische vervolgvraag is natuurlijk hoe en waarom de cijfers ertoe doen. Hoe moet dit longtermismperspectief ons denken en handelen beïnvloeden? Om die vraag te beantwoorden is het essentieel om te begrijpen dat longtermism in de kern een morele theorie is. Dat is niet verwonderlijk, want uit de korte beschrijving van longtermism bleek al dat het gaat om zo veel mogelijk goeddoen (vanuit het perspectief van de gehele nog voor ons liggende geschiedenis van de mensheid). We moeten dan dus wel weten wat het precies betekent om goed te doen en welke plichten daaruit volgen.

Bij de oplettende lezer zal nu wellicht al voorzichtig een lichtje beginnen te branden. ‘Effectief altruïsme, theorie van het goede waar een theorie van het juiste uit volgt, dat klinkt verdomd veel als huis-tuin-en-keuken-utilisme!’ Deze oplettende lezer gaat door voor de wasmachine. Want inderdaad, longtermism is eigenlijk weinig meer dan de morele theorie genaamd ‘utilisme’, maar dan helemaal uitgerekt tot zijn eigen logische conclusies.

Het utilisme gaat terug op het denken van bekende moraalfilosofen als Jeremy Bentham en John Stuart Mill. De stroming komt in elk introductievak tot de moraalfilosofie aan bod en is dan ook zeer simpel samen te vatten: het enige dat van intrinsieke waarde is, is (de ervaring van) geluk. Onze morele plicht die hieruit volgt is om geluk te maximaliseren op een onpartijdige wijze; ieders geluk telt evenveel mee. Vanwege de maximaliseringsclausule wordt utilisme ook vaak geassocieerd met calculerend, voorspellend nadenken over de causale gevolgen van acties; zie ook de eerdergenoemde 80.000 Hours-stichting waarbij een werkend mensenleven verwordt tot een morele rekensom. De onpartijdigheidsclausule is aantrekkelijk omdat niemands geluk belangrijker is dan het geluk van een ander. Maar aan die onpartijdigheid zit ook een schaduwkant. Als we onder de streep geluk maximaliseren, is iedereen inwisselbaar en kan niemand aanspraak maken op speciale behandeling. Of, platter gezegd, als we jou moeten opofferen om uiteindelijk meer geluk te creëren, dan is het onze plicht dat te doen. Jammer maar helaas voor jou.

Meer dan academische spielerei

Al deze morele vragen zijn niet alleen academische spielerei. We moeten deze vragen stellen omdat longtermism utilisme on steroids is. Wanneer het geluk van alle mogelijke mensen die ooit zouden kunnen bestaan – tachtig biljoen stuks – in de utilistische waagschaal ligt, staat er heel wat op het spel. De aanbevelingen van longtermism kunnen dan ook nogal extreem zijn. 

Een rode lijn binnen longtermism is dat we er alles aan moeten doen om zo veel mogelijk mensenlevens voort te brengen, want dan zijn er meer mensen die geluk kunnen ervaren en kan de totale som geluk in het universum dus ook toenemen. Zo maximaliseren we de hoeveelheid geluk die ooit in de wereldgeschiedenis zal bestaan en vervullen we onze morele plicht. Dit verklaart ook de obsessie van longtermisten voor vraagstukken van ‘extinction risks’, technologische stagnatie en methoden om onze huidige invloed op de zeer verre toekomst te modelleren.

Filosoof Émile P. Torres heeft veel van de meer controversiële overwegingen van MacAskill en zijn mede-longtermists in kaart gebracht. Om wat voorbeelden te noemen. Voor technologische vooruitgang zijn slimme(re) mensen nodig, dus waarom niet al onze embryo’s selecteren op hun voorspelde IQ? Bovendien is het misschien beter om onze effectief-altruïstische euro’s niet uit te geven aan armoedebestrijding, maar aan het aanzwengelen van technologische innovatie in het rijke Westen. En als kunstmatige intelligentie (een soort van) bewustzijn ontwikkelt, dan kan het wellicht ook geluk ervaren. De utilistische longtermism-calculus schrijft dan voor dat we zo veel mogelijk serverkracht moeten genereren om zo veel mogelijk gelukservarende simulaties van bewustzijn voort te brengen. U en ik – nutteloze vleeszakken – zijn dan niet meer nodig, want de kunstmatige-intelligentie-zwerm zal met veel meer zijn. ‘Morally, the numbers matter.’

Hoe extreem de uitwassen van het longtermism-denken ook mogen zijn, extreme conclusies zijn op zichzelf niet per se een diskwalificatie van het onderliggende gedachtegoed. Het is dan echter wel belangrijk om de argumenten die leiden tot die extreme conclusies eerlijk en transparant aan de lezer voor te leggen. Dat gebeurt niet in WWOtF.

Misleiding van de lezer

In de eerste zeven hoofdstukken rept MacAskill met geen woord over de morele theorie die achter longtermism schuilgaat. Sterker nog, morele theorie wordt überhaupt niet als perspectief of thema gepresenteerd. MacAskill framet longtermism als bovenal een filosofie die over kennisvragen gaat: hoe kunnen we over de onzekere toekomst nadenken en welke risico’s kan de mensheid op haar pad vinden? Daarom wordt een Nieuw en Slim Klinkend Framework uitgebreid besproken, namelijk het ‘Significance, Persistence, Contingency Framework’. In de praktijk blijkt dat een nogal triviale combinatie van scenariodenken en kansrekenen te zijn waarvan de nieuwigheid onduidelijk is. Ook heeft MacAskill veel woorden over voor nogal warrige beschouwingen op ‘Artificial (General) Intelligence’ en, over drie hoofdstukken verspreid, de eerdergenoemde mogelijke extinctie, ineenstorting of stagnatie van de mensheid.

Al deze beschouwingen missen richting, want de onderliggende morele vragen worden überhaupt niet benoemd, laat staan uitgewerkt. Tijdens al die langdradige beschouwingen komt de lezer er nooit achter wat dan als ‘een betere toekomst’ geldt en hoe uit die conceptie van het goede op systematische wijze plichten volgen. Er is geen serieuze aandacht voor hoe we het enige wat van intrinsieke waarde is binnen MacAskills bouwwerk – geluk of welzijn (om over het onderscheid tussen die twee nog maar te zwijgen) – precies moeten begrijpen. Laat staan dat MacAskill bespreekt waarom – en hoe dan precies – simulaties van bewustzijn geluk of welzijn kunnen ervaren en hoe simulaties van bewustzijn zich verhouden tot mensen. MacAskill doet er ook alles aan om zijn vingers niet te branden aan de vraag hoe respect voor (mensen)rechten te verenigen is met zijn utilistische bouwwerk dat, strikt genomen, enorme offers kan eisen en geen ruimte kan maken voor individuele (mensen)rechten. Tegen het einde van het boek voegt MacAskill desalniettemin af en toe een zinnetje toe dat het respecteren van rechten belangrijk is en dat je niet zomaar slechte dingen mag doen omdat daarmee (elders) goede dingen gerealiseerd kunnen worden. Hoe dat past binnen zijn utilistische bouwwerk blijft geheel onduidelijk en onbesproken. Het is alsof je een econoom zonder verdere uitleg hoort zeggen dat iedereen gratis geld kan krijgen terwijl alle belastingen worden afgeschaft. Het is bijna indrukwekkend hoe MacAskill elke daadwerkelijk belangrijke filosofische discussie uit de weg gaat in dit boek. De lezer wordt hiermee ook de kans ontnomen om al die beschouwingen over het uitsterven van de mensheid, technologische vooruitgang en het creëren van zo veel mogelijk mensen (of kunstmatig bewustzijn) te lezen binnen de context van de morele vragen en uitdagingen die longtermism-denken oplevert. Op die manier wordt de lezer ook de kans ontnomen om de meer extreme interpretaties van longtermism te zien en overdenken.

Pas tegen het einde van het boek komt de moraalfilosofie expliciet aan bod. Helaas maakt MacAskill zich er zelfs in deze ‘filosofische’ hoofdstukken met een jantje-van-leiden van af. Aan het begin van hoofdstuk acht kondigt hij doodleuk aan dat de materie ‘is recognised as one of the most complex areas of moral philosophy’ en dat hij daarom niet zo veel kan vertellen aan de lezer, want dat zou te ingewikkeld zijn. Door dit soort opmerkingen, en door hun plaats helemaal achter in het boek, krijgen de filosofiehoofdstukken het karakter van geinige filosofische curiositeiten. Leuk voor erbij.

Als klap op de vuurpijl benoemt MacAskill pas in hoofdstuk negen (!), op zeer omfloerste wijze, dat zijn gehele bouwwerk een utilistisch bouwwerk is: ‘You might think that wellbeing is all that matters, morally. This is the view that, after philosophical reflection, I find most plausible: other things can be valuable or disvaluable instrumentally, but only insofar as they ultimately impact the wellbeing of sentient creatures.’ Zelfs nu neemt MacAskill niet de moeite de filosofische traditie waar zijn boek op voortbouwt – namelijk het utilisme – te benoemen. De misleiding van de lezer is hier compleet. Essentiële informatie om longtermism te begrijpen niet als zodanig aangemerkt en gedegradeerd tot een bijzin in het een-na-laatste hoofdstuk van het boek.

Technocracy by techbros

Misleidende filosofie is meestal geen acuut maatschappelijk probleem. In dit geval is er echter wel reden tot zorg. Longtermism brengt, zoals eerder al beschreven, zeer extreme denkbeelden voort en wordt gretig omarmd door – vooral – miljardairs die in de technologiesector hun fortuin hebben vergaard. Dat is niet verwonderlijk. Longtermists zien immers een grote rol voor technologie bij het veiligstellen van de toekomst van de mensheid en is volledig stil over vragen van machtsverdeling en -uitoefening. Wel heeft de beweging veel aandacht voor het rekruteren van zogenaamd unieke talenten met unieke capaciteiten. Deze unieke talenten moeten zo veel mogelijk ruimte en geld krijgen om op basis van hun unieke inzichten longtermistische keuzes te maken en projecten op te zetten. Miljardair Sam Bankman-Fried, die na omvangrijke fraude miljarden dollars van zijn klanten verloor, was zo’n longtermism-recruit. Mede met behulp van MacAskill werd Bankman-Fried via een enorme mediacampagne neergezet als een moderne messias. Via FTX en Alameda Research moest hij vanaf de Bahama’s – ver weg van belastingdruk of regelgeving – via de ponzischema-achtige crypto-economie miljarden vergaren. Die miljarden kon de effectief-altruïsme-beweging dan gebruiken voor projecten om goed te doen op basis van de principes van longtermism. En ook hier weer is het idee dat een paar mensen – vaak jonge, witte mannen – met unieke talenten het allerbeste in staat zijn om te bepalen hoe al die miljarden besteed moeten worden. Een mooi voorbeeld hiervan was MacAskills poging om via privéberichtjes Sam Bankman-Fried aan Elon Musk te koppelen zodat beide longtermisten samen Twitter konden kopen voor 44 miljard dollar ‘to make it better for the world’. Waarom 44 miljard dollar besteden om Twitter van eigenaar te doen wisselen de meest effectief-altruïstische besteding van die enorme hoeveelheid geld is, is onduidelijk. MacAskill heeft ook niet gereageerd op deze onthulling. Over zijn rol in het promoten van Sam Bankman-Fried en zijn eigen betrokkenheid bij FTX wil MacAskill ook geen vragen beantwoorden.

Het illustreert perfect hoe democratische principes als checks-and-balances, belastingen om publieke goederen te financieren, politieke representatie en het afleggen van verantwoording onbelangrijk zijn voor longtermisten als MacAskill. Longtermism is technocracy by techbros. Dat de longtermism-agenda maar al te graag wordt ondersteund door ultrarijke technologiebazen die regelgeving en democratische principes als onhandige sta-in-de-weg ervaren mag ons dus niet verbazen. De intellectuele fundering van longtermism-filosofie die deze machtige figuren aanhangen verdient daarom een kritische blik, wat het des te kwalijker maakt dat MacAskill zijn lezer zand in de ogen strooit.